Hugging Face 推出 Amazon SageMaker 推理方案,支持快速部署 Transformer 模型
Hugging Face 联合亚马逊推出基于 Amazon SageMaker 的全新推理解决方案,上线了专用的 Hugging Face 推理深度学习容器(DLC)与推理工具套件。
推荐理由:原文给出了基于 DLC 容器在 SageMaker 部署 Transformer 模型的完整代码与参数范式,适合工程团队评估模型云端托管流程。
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
Hugging Face 联合亚马逊推出基于 Amazon SageMaker 的全新推理解决方案,上线了专用的 Hugging Face 推理深度学习容器(DLC)与推理工具套件。
推荐理由:原文给出了基于 DLC 容器在 SageMaker 部署 Transformer 模型的完整代码与参数范式,适合工程团队评估模型云端托管流程。
Hugging Face Hub 宣布正式集成句子与段落嵌入框架 Sentence Transformers,上线超过 90 个覆盖 100 多种语言的预训练模型。平台同步推出了特征提取和句子相似度计算的交互式微件,并提供托管 Inference API 供开发者进行程序化调用。用户还可通过简单的代码直接将模型上传至 Hub,自动生成模型卡片以便在开源社区中分享。
推荐理由:该文梳理了嵌入模型在 Hub 上的托管、在线体验与 API 调用方式,为开发者分享和验证语义检索模型提供了清晰流程。
Gradio 2.0 正式支持仅用一行代码为 Hugging Face Model Hub 上的模型构建 Web GUI 交互界面。该功能默认调用 Hugging Face 托管的 Inference API,也支持本地安装 transformers 运行。此外,新版本支持将多个模型并行对比或串联构建工作流,便于快速搭建多模型复合应用。
推荐理由:读者可以通过该方案掌握仅用单行代码为开源模型构建交互界面,并将多个模型进行串联或并联组合的轻量演示方法。
Hugging Face 正式推出开源训练库 Accelerate,让开发者仅需在原生 PyTorch 训练脚本中增加数行代码,即可在 CPU、多 GPU、TPU 以及混合精度等不同硬件配置下无缝运行。该库通过统一的 API 自动接管设备放置、模型包装与 DataLoader 分发,同时提供简化的 CLI 工具以统一各环境的启动流程。
推荐理由:原文展示了仅需改动数行代码即可适配多卡与混合精度的方案,读者可参考其封装方式降低原生训练循环的跨硬件维护成本。
OpenAI 正式发布 OpenAI API,为开发者提供访问其最新研发的 AI 模型的接口。
OpenAI 宣布推出强化学习开发与对比工具包 OpenAI Gym 的公开测试版。该工具包包含从模拟机器人到 Atari 游戏等不断扩充的环境套件,并配备用于对比和复现算法结果的网站。
推荐理由:原文明确了环境套件覆盖范围与结果对比机制,读者可据此评估其作为标准化强化学习评测基准的作用。