在使用Pandas处理制表符分隔文件时,如果文件内容中存在嵌入的双引号,很容易出现读写后数据不一致的问题,导致原始内容无法被正确还原。这类问题通常出现在字段内容包含双引号、同时字段之间用制表符分隔的场景中,错误的参数配置会让双引号被误判为字段边界,或者让双引号被额外转义,最终破坏原始数据结构。

制表符分隔文件的结构特点
制表符分隔文件(TSV)的字段之间使用制表符t分隔,默认情况下不会像CSV文件那样用双引号包裹字段。但如果某个字段的内容本身包含制表符或者双引号,就需要在字段两端添加双引号来标识字段边界,此时双引号就成为了嵌入在字段内容中的特殊字符,需要特殊处理。
例如一个包含嵌入双引号的TSV文件内容可能如下:
name description 张三 "喜欢"编程" 李四 "测试"数据"
这里的字段内容中的双引号是内容的一部分,不是用来包裹字段的,读取时需要正确识别这种结构。
常见读写错误示例
如果使用默认的Pandas读取参数处理上述文件,很容易出现错误。比如直接用read_csv读取,不指定引号字符和分隔符,就会出现字段拆分错误:
import pandas as pd
# 错误读取示例
df = pd.read_csv("test.tsv", sep="t")
print(df)
上述代码会把内容中的双引号误判为字段边界,导致字段被错误拆分,读取后的数据结构和原始内容不一致。同样,写入时如果参数配置错误,也会让原本的嵌入双引号被额外转义,比如变成",导致再次读取时内容错误。
精确往返读写的实现方法
读取带嵌入双引号的TSV文件
读取时需要明确指定分隔符为制表符,同时设置quotechar参数为None,避免Pandas把双引号当作字段包裹符,还要设置quoting参数为3(对应csv.QUOTE_NONE),表示不引用任何字段:
import pandas as pd
import csv
# 正确读取示例
df = pd.read_csv(
"test.tsv",
sep="t",
quotechar=None,
quoting=csv.QUOTE_NONE,
encoding="utf-8"
)
print("读取后的数据:")
print(df)
print("第一个字段的内容:", df.loc[0, "description"])
上述代码会正确识别字段内容中的嵌入双引号,不会将其作为字段边界,读取后的内容和原始文件完全一致。
写入带嵌入双引号的TSV文件
写入时同样需要指定分隔符为制表符,设置quotechar为None,quoting为csv.QUOTE_NONE,同时关闭双引号的转义,避免写入时额外添加转义符:
import pandas as pd
import csv
# 构造测试数据
data = {
"name": ["张三", "李四"],
"description": ['"喜欢"编程"', '"测试"数据"']
}
df = pd.DataFrame(data)
# 正确写入示例
df.to_csv(
"output.tsv",
sep="t",
quotechar=None,
quoting=csv.QUOTE_NONE,
escapechar=None,
index=False,
encoding="utf-8"
)
写入后的文件内容和原始读取的内容完全一致,再次用同样的读取参数读取该文件,可以得到和原始数据完全相同的结果,实现精确往返读写。
验证往返读写的一致性
可以通过读取写入后的文件,对比原始数据和读取后的数据是否一致,验证往返读写的精确性:
import pandas as pd
import csv
# 读取原始文件
df_original = pd.read_csv(
"test.tsv",
sep="t",
quotechar=None,
quoting=csv.QUOTE_NONE,
encoding="utf-8"
)
# 读取写入后的文件
df_output = pd.read_csv(
"output.tsv",
sep="t",
quotechar=None,
quoting=csv.QUOTE_NONE,
encoding="utf-8"
)
# 对比数据是否一致
print("原始数据和写入后读取的数据是否一致:", df_original.equals(df_output))
print("原始数据description列:", df_original["description"].tolist())
print("写入后读取的description列:", df_output["description"].tolist())
运行上述代码会输出True,说明两次读取的内容完全一致,实现了带嵌入双引号的制表符分隔文件的精确往返读写。
注意事项
- 如果文件内容的嵌入双引号是作为字段包裹符存在的,需要调整
quotechar和quoting参数,根据实际文件结构调整配置。 - 写入时要确保
escapechar参数设置为None,避免Pandas自动给双引号添加转义符。 - 编码格式需要保持读取和写入一致,避免出现乱码问题。