最新精选
第 161–180 条 · 共 234 条Hugging Face 在 Hub 数据集页面推出 SQL 控制台(SQL Console),支持用户直接在浏览器中对数据集执行 SQL 查询。该功能基于 DuckDB WASM 构建,无需后端服务器即可在浏览器本地运行,支持完整的 DuckDB 语法、结果导出为 Parquet 文件及链接分享。
推荐理由:原文给出了在浏览器内使用 DuckDB WASM 交互式查询 Hugging Face 数据集的完整机制与内存限制,读者可以借此简化微调前的数据筛选流程。
Hugging Face 在 HuggingChat 中上线 Community Tools 功能,允许用户将平台上的任意公开 Space 转化为大语言模型可直接调用的外部工具。
推荐理由:原文展示了如何将公开 Space 转化为模型可调用的外部工具,为在对话界面中低成本集成多模态生成与私有知识检索提供了具体路径。
OpenAI 宣布正式开放 GPT-4o 的模型微调支持。
OpenAI 宣布在 API 中引入结构化输出(Structured Outputs)功能。该功能可确保模型输出能够可靠遵循开发者提供的 JSON Schema。
推荐理由:该功能让模型输出严格匹配开发者定义的架构,方便下游系统稳定解析与工程集成。
Hugging Face 的 Text Generation Inference(TGI)正式支持 Multi-LoRA serving,允许用户在单次部署基础模型的前提下动态路由并调用多个任务专用 LoRA 适配器。
推荐理由:文章展示了通过单个基础模型动态挂载多个 LoRA 适配器的方法,帮助团队在多任务场景下显著降低硬件与显存开销。
Hugging Face 宣布在其 Inference Endpoints 和 Spaces 中正式上线 Google Cloud TPU v5e 算力支持。服务提供 1 核 16 GB(每小时 $1.375)、4 核 64 GB(每小时 $5.50)以及 8 核 128 GB(每小时 $11.00)三种配置。
推荐理由:该支持降低了在托管环境调用 TPU 的操作门槛,为需要平衡延迟与成本的开源模型部署提供了具体的硬件配置参考。
Hugging Face 宣布为其 Dataset Hub 推出四项全新搜索过滤功能,以提升平台上超过 18 万个公开数据集的检索效率。新功能支持按数据模态(文本、图像、音频、3D、视频等)、数据规模(指定行数区间)、文件格式(如 Parquet、WebDataset)以及兼容代码库(如 Pandas、Dask、🤗 Datasets 并提供加载代码片段)进行筛选。
推荐理由:原文详细介绍了按模态、数据规模、存储格式和兼容库四类新增过滤维度,方便开发者精准检索和筛选训练数据。
Hugging Face 宣布 Diffusers 正式集成 Stability AI 的 Stable Diffusion 3 Medium(2B 参数)模型,并上线 Hugging Face Hub。
推荐理由:原文提供了显存卸载、8-bit 量化以及编译加速方案,读者可以据此在不同显存规格的硬件上部署和微调 SD3。
OpenAI 宣布升级 ChatGPT 的数据分析功能,支持用户直接与生成的表格和图表进行交互。此外,用户现在可以直接从 Google Drive 和 Microsoft OneDrive 添加文件进行分析。
推荐理由:原文给出了表格交互与网盘直连能力,读者可以据此评估个人与团队数据分析流程的简化程度。
Hugging Face 正式发布 Transformers Agents 2.0,引入支持基于观察结果持续迭代的 ReactCodeAgent 和 ReactJsonAgent,并在 v4.41.0 版本中上线。
推荐理由:框架通过模块化解耦底层模型与工具调用逻辑,读者可以借鉴其代码智能体设计在开源模型上构建多模态工作流。
Hugging Face 引入了 Artificial Analysis 的大语言模型性能排行榜,全面评估超过 100 个无服务器 LLM API 端点的价格、推理速度与质量指标。
推荐理由:提供了覆盖主流模型与端点的质量、延迟与成本指标,便于开发者在应用选型时权衡吞吐量与预算。
OpenAI 宣布 GPT-4 API 正式全面可用,GPT-3.5 Turbo、DALL·E 与 Whisper API 也已全面开放。同时,官方公布了针对 Completions API 中旧模型的弃用计划,相关旧模型将于 2024 年初正式退役。
推荐理由:给出接口全面可用范围与旧版停用时间,方便开发者评估迁移节奏。
Hugging Face 宣布在 Hub 上推出 Deploy on Cloudflare Workers AI 集成,让开发者能以无服务器 API 形式调用部署在 Cloudflare 边缘数据中心 GPU 上的开源模型。
推荐理由:该功能将边缘无服务器 GPU 与开源模型库结合并按调用量计费,为开发者降低了运行开源大模型的运维门槛与闲置成本。
Hugging Face 宣布推出 TTS Arena,通过社区盲测与类 Elo 评分机制对文本转语音模型进行对比排行。用户输入文本后盲测试听两款模型的生成效果并投票,系统在提交后揭示模型名称并更新榜单。首批入选模型包括商业模型 ElevenLabs 以及 MetaVoice、OpenVoice、Pheme、WhisperSpeech 和 XTTS 等开源方案。
推荐理由:平台借鉴盲测竞技场机制解决语音合成主观评估难的问题,为开发者比较开源与闭源语音模型提供了统一参考。
Hugging Face 宣布在 PEFT 库中支持多种针对 LoRA 适配器的融合新方法,允许开发者在运行时动态合并来自同一基模的多个微调权重。新方法涵盖矩阵拼接(cat)、线性加权(linear)、SVD 分解、TIES、DARE 以及幅度剪枝等机制,可通过 add_weighted_adapter() 直接调用。
推荐理由:文章梳理了六种 LoRA 适配器融合机制与参数调优实践,为多任务微调权重的低成本组合提供了标准参考。
OpenAI 宣布正在测试 ChatGPT 的记忆功能,使其能够记住用户在对话中讨论的内容,以提升后续对话的实用性。用户可以完全掌控 ChatGPT 的记忆内容及相关设置。
Hugging Face 在 Text Generation Inference(TGI 1.4.0 起)及 Inference Endpoints 中推出 Messages API,实现对 OpenAI Chat Completion API 的兼容。
推荐理由:原文展示了如何通过兼容协议将代码平滑切至开源模型,为工程团队降低了模型迁移与自建部署的适配成本。
OpenAI 宣布推出 GPT Store。当前材料仅包含标题信息,具体功能与发布细节可参见原文链接。
OpenAI 宣布面向各种规模的团队推出全新 ChatGPT Team 订阅方案。该方案为团队提供安全且支持协作的工作空间,帮助用户在工作场景中更充分地使用 ChatGPT。
Hugging Face 介绍了轻量级微调库 Unsloth 及其与 TRL 工具集的无缝集成,在保证精度零损失的前提下可将大语言模型微调提速最高 2.7 倍并减少最多 74% 显存占用。
推荐理由:文中展示了通过重写反向传播与 Triton 内核加速微调的具体实现,为在有限显存下微调开源模型提供了现成的集成方案。