跳到正文
原文
Hugging Face·· 2025-07-25AI 评分57

Hugging Face 结合 PyArrow 推出 Parquet 内容定义分块功能

Parquet Content-Defined Chunking

AI 导读

PyArrow 与 Pandas 正式支持 Parquet 内容定义分块(CDC)功能,配合 Hugging Face 的 Xet 存储层可大幅降低数据集上传与下载时间。

来源:Hugging Face · huggingface.co