Hugging Face·· 2021-09-14精选AI 评分64
Hugging Face 推出开源优化工具库 Optimum
Introducing Optimum: The Optimization Toolkit for Transformers at Scale
AI 导读
Hugging Face 宣布推出开源工具库 Optimum,旨在为 Transformer 模型在大规模生产部署中提供针对特定硬件的性能优化工具。该库联合硬件厂商封装了底层算子兼容、量化与稀疏化等复杂流程,首期结合 Intel Neural Compressor 简化了针对 Intel Xeon CPU 的模型量化操作。
推荐理由
Hugging Face 联合硬件厂商推出模型性能优化工具包,旨在降低 Transformer 架构在特定硬件上的量化与部署门槛。
来源:Hugging Face · huggingface.co