跳转到内容
原创教程公开来源整理

CSV 数据清洗:分类前检查空值、重复和列错位

得到保留稳定行 ID 的预检报告,并把输入错误与模型问题分开。

适用场景客服 CSV 进入判断前先检查空值、重复和列错位

来源 · JevLog 原创Beginner7 分钟

先在本地检查 CSV 的列名、行数、空值和重复,再按需写入新副本;保留原文件,结构异常先修,不把坏行送去分类。

来源 · JevLog 原创 · 本站原创

2026-09-21 · 编辑整理,未调用真实模型

分类前先确认 CSV 读到正确列,避免空值、重复导出或行宽错位影响结果。脚本仅本地预检,不联网、不补猜缺失内容,也不静默删行。

  • Python 3.10+;使用 UTF-8 的 CSV、TSV 或分号分隔文件。
  • 知道待判断文本列的名字。

分类前先查 CSV 列名、空值、重复与行宽。AI 概念插画。

分类前先查 CSV 列名、空值、重复与行宽。AI 概念插画。

1. 从源系统导出一个小范围副本

Section titled “1. 从源系统导出一个小范围副本”

导出含稳定 ID 和文本列的小样本,保留原件并核对表头;Excel 先选定要导出的工作表。

先运行预检,只报告行数、列名、空白和重复,不生成新 CSV;路径列名错先修正。

Terminal window
python scripts/prepare_csv.py examples/customer_feedback.csv --text-column feedback

修复缺列、重复列或行宽错误后重跑;让 CSV 解析器处理带引号的逗号和换行。

按 ID 查看重复文本;不同客户记录不删,缓存也只用于请求和上下文一致的情况。

另存到不存在的新文件,再核对行数、ID 和原文;用表格打开前检查公式风险。

Terminal window
python scripts/prepare_csv.py examples/customer_feedback.csv --text-column feedback --output clean_feedback.csv

练习可用样本:下载 customer_feedback.csv(CSV Studio / 本地练习;非本站实测结果)。

你能生成本地预检报告,并按需另存副本,用 ID 确认原始行未丢失;预检不代表分类正确。

  • 你能说明输入来自哪里、哪些字段会参与处理。
  • 你保留了原始记录及不确定、失败和人工修改的结果。
  • 你能区分本地练习、作者演示与自己真实调用后的测试。

这个原型接受 CSV/TSV。请从原应用导出 UTF-8 文本表格,不要只把扩展名改成 .csv。