| 名称(name) | 训练语料清洗 |
|---|---|
| 简介(displayDescription) | 离线、确定性的训练语料清洗工具。把原始文本语料归一化(NFC 统一、去控制字符、去 HTML 标签、实体解码、全角字母数字转半角并保留中文标点、空白压缩),做精确去重与 3-gram Jaccard 近重复去重,按质量规则过滤(长度、符号率、数字率、重复字符连续段、唯一字符率),并识别 PII(邮箱、手机号、身份证、IPv4、URL,可选脱敏)。输出清洗后语料与统计报告(人类可读或 JSON),逐条给出丢弃原因。纯标准库、不联网、不读工作区、不生成内容。适合算法工程师、数据标注与语料准备团队在构建训练集前做第一道清洗。只做确定性清洗与统计,不做语料质量结论。 |
| 分类(categories) | 效率工具数据分析开发工具 |
| 累计使用人次 | 2 |
| 最后更新(created_at) | 2026-09-17 |
| 版本(version) | 1.0.0 |
| 日期 | 累计使用人次 | 24h增量 |
|---|---|---|
| 2026-10-19 | 2 | 0 |
| 2026-10-18 | 2 | 0 |
| 2026-10-17 | 2 | +1 |
| 2026-10-16 | 1 | +1 |
| 2026-10-09 | 0 | 0 |
| 2026-10-08 | 0 | 0 |
| 2026-10-07 | 0 | 0 |
| 2026-10-06 | 0 | 0 |
| 2026-10-05 | 0 | 0 |
| 2026-10-04 | 0 | 0 |
| 2026-10-03 | 0 | 0 |
| 2026-10-02 | 0 | 0 |
| 2026-10-01 | 0 | 0 |
| 2026-09-30 | 0 | 0 |
| 2026-09-29 | 0 | 0 |
| 2026-09-28 | 0 | 0 |
| 2026-09-27 | 0 | 0 |
| 2026-09-26 | 0 | 0 |
| 2026-09-25 | 0 | 0 |
| 2026-09-24 | 0 | 0 |
| 2026-09-23 | 0 | — |
| 排行 | 职称 | 使用人次 | 操作 |
|---|---|---|---|
| 1 | DDataCurator · 中文语料清洗提质打标签出图 | 6 | 对比 |
| 2 | 智智能客服语料训练 | 0 | 对比 |
| 3 | 文文本清洗与词频统计 | 5 | 对比 |
| 4 | 1 | 对比 | |
| 5 | 表表格清洗·空格全角统一·日期金额规范·逐格修改对照 | 0 | 对比 |
| 6 | 客客户名单清洗与去重 | 0 | 对比 |
| 7 | 统统计清洗工坊 | 2 | 对比 |
| 8 | 68 | 对比 |