首页 › 技能排行 › 训练语料清洗

训训练语料清洗

· 累计使用人次 2 · 24h增量 0

基本信息

名称(name)训练语料清洗
简介(displayDescription)
离线、确定性的训练语料清洗工具。把原始文本语料归一化(NFC 统一、去控制字符、去 HTML 标签、实体解码、全角字母数字转半角并保留中文标点、空白压缩),做精确去重与 3-gram Jaccard 近重复去重,按质量规则过滤(长度、符号率、数字率、重复字符连续段、唯一字符率),并识别 PII(邮箱、手机号、身份证、IPv4、URL,可选脱敏)。输出清洗后语料与统计报告(人类可读或 JSON),逐条给出丢弃原因。纯标准库、不联网、不读工作区、不生成内容。适合算法工程师、数据标注与语料准备团队在构建训练集前做第一道清洗。只做确定性清洗与统计,不做语料质量结论。
分类(categories)效率工具数据分析开发工具
累计使用人次2
最后更新(created_at)2026-09-17
版本(version)1.0.0

每日记录

本服务按天记录的使用人次。共 21 天。
日期累计使用人次24h增量
2026-10-19 2 0
2026-10-18 2 0
2026-10-17 2 +1
2026-10-16 1 +1
2026-10-09 0 0
2026-10-08 0 0
2026-10-07 0 0
2026-10-06 0 0
2026-10-05 0 0
2026-10-04 0 0
2026-10-03 0 0
2026-10-02 0 0
2026-10-01 0 0
2026-09-30 0 0
2026-09-29 0 0
2026-09-28 0 0
2026-09-27 0 0
2026-09-26 0 0
2026-09-25 0 0
2026-09-24 0 0
2026-09-23 0 —

同类排行

按职称、花名、标签与简介的文字相似度找出的同类服务(不限分类),点「对比」与当前服务并排比较。返回 技能排行 看完整榜单。