最新精选 第 141–156 条 · 共 156 条 08:00 Hugging Face 推出开源库 Agents.js,允许开发者在浏览器或 Node.js 环境中通过 JavaScript 为大语言模型接入工具。该库开箱即用支持多种多模态工具,允许自由扩展自定义工具和模型,并通过 npm 包 `@huggingface/agents` 分发。官方同时提醒,因运行依赖动态执行模型生成的代码,在不可信环境中建议先通过代码生成接口审查内容后再行评估。
推荐理由:该库为前端和 Node.js 开发者在 JavaScript 环境中调度多模态工具与大语言模型提供了轻量且可扩展的实现方案。
08:00 Hugging Face Hub 宣布集成 DuckDB,支持用户直接使用 SQL 查询 Hub 上存储的超过 5 万个公开数据集。Dataset Viewer 会自动将公开数据集转换为 Parquet 格式并切分为 500MB 分片,开发者通过 /parquet 接口获取文件 URL 后,利用 DuckDB 的 httpfs 扩展即可直接对远程文件执行复杂分析查询。
推荐理由:HF Hub 将公开数据集自动转为 Parquet 分片,开发者可直接借助 DuckDB 远程运行 SQL 分析而无需完整下载数据。
08:00 Hugging Face 推出面向 Amazon SageMaker 的大语言模型推理容器(LLM DLC),基于 Text Generation Inference(TGI)构建,支持在托管环境中高效部署开源模型。
推荐理由:文章介绍了基于 TGI 的 SageMaker 专用推理容器,提供了从环境配置到多卡部署开源大模型的完整调用范式。
08:00 Hugging Face 联合 EleutherAI 与 Stability AI 宣布,模型权重存储库 safetensors 已通过 Trail of Bits 的外部安全审计,未发现导致任意代码执行的严重漏洞。
推荐理由:safetensors 通过外部安全审计消除了 pickle 带来的代码执行隐患,为开源模型生态推进安全且高效的权重分发标准奠定了基础。
08:00 Hugging Face 在 Transformers 库中引入 Assisted Generation 解码方法,利用轻量辅助模型生成候选 token 并由主模型单次前向传播并行确认,以此缓解内存带宽瓶颈并降低生成延迟。
推荐理由:读者可以了解利用小模型生成候选与大模型并行验证的机制,在消费级硬件及显存卸载场景下显著降低推理延迟。
15:00 OpenAI 宣布在 ChatGPT 中初步支持插件功能。插件是专为大语言模型设计且以安全为核心原则的工具,可帮助 ChatGPT 访问最新信息、执行计算以及调用第三方服务。
推荐理由:OpenAI 推出插件机制让大模型接入外部工具,扩展了获取最新信息、执行计算与调用第三方服务的能力。
08:00 Hugging Face 正式发布 TRL 与 PEFT 库的集成,支持在单张 24GB 消费级 GPU(如 RTX 4090)上对 20B 参数大语言模型运行基于人类反馈的强化学习(RLHF)微调。
推荐理由:通过 8-bit 量化与适配器动态切换避免双模型副本占用,为显存受限环境下跑通 RLHF 提供了具体工程参考。
08:00 Hugging Face 在 Diffusers 库中集成 ControlNet 并推出 StableDiffusionControlNetPipeline,原生支持基于空间条件的高精度图像生成。
推荐理由:原文梳理了多条件控制的调用接口与显存优化方案,开发者可据此在工程中快速落地可控生图。
08:00 Hugging Face 正式推出 PEFT 库,通过冻结预训练模型主体、仅微调少量额外参数来降低计算与存储开销。该库无缝集成 Transformers 与 Accelerate,支持 LoRA、Prefix Tuning、Prompt Tuning 和 P-Tuning 等主流微调方法。
推荐理由:原文展示了如何在消费级显卡上仅训练微小增量权重来微调大模型,为低算力开发者提供了低成本落地方案。
16:00 OpenAI 推出了一款经过专门训练的分类器,用于区分 AI 生成的文本与人类撰写的文本。
08:00 Hugging Face 宣布在 Diffusers 库中正式支持 LoRA 训练与推理,可用于 Stable Diffusion 的全微调与 Dreambooth。
推荐理由:Diffusers 官方支持 LoRA 微调与推理,读者可借此将权重文件压缩至约 3MB 并在消费级显卡上完成训练。
08:00 Hugging Face 宣布与 arXiv 达成合作,通过 arXivLabs 在 arXiv 论文页面新增 Demo 标签页。用户无需在本地配置环境或运行代码,即可直接在浏览器中试用社区或作者基于 Gradio、Streamlit 构建的开源交互式应用。这一功能提升了学术论文的可复现性与传播度,便于更广泛的人群探索和验证模型效果。
推荐理由:arXiv 论文页面直接集成 Hugging Face Spaces 演示,方便研究者和开发者无需配置环境即可在线验证模型效果。
15:00 OpenAI 为 DALL·E 推出 Outpainting 外绘功能。用户可以通过扩展画面生成任意尺寸的图像,在原有画幅之外延展视觉内容。
08:00 Hugging Face 推出基于 AutoTrain 的评测工具 Evaluation on the Hub,支持用户无需编写代码即可在 Hub 上的任意数据集上评测任意模型。该工具通过 Spaces 界面提供配置与排行榜展示,评测任务完成后会自动向对应模型的 Model Card 提交 Pull Request,将验证后的指标直接写入模型元数据中。
推荐理由:该功能将评测流水线与模型卡片元数据打通,读者可以借此实现免代码的一致性复现和榜单对比。
16:00 OpenAI 宣布其 API 即日起取消候补名单限制,向所有开发者直接开放。官方表示,安全研究方面的进展让更大范围的开放成为可能。
08:00 Hugging Face 正式推出开源训练库 Accelerate,让开发者仅需在原生 PyTorch 训练脚本中增加数行代码,即可在 CPU、多 GPU、TPU 以及混合精度等不同硬件配置下无缝运行。该库通过统一的 API 自动接管设备放置、模型包装与 DataLoader 分发,同时提供简化的 CLI 工具以统一各环境的启动流程。
推荐理由:原文展示了仅需改动数行代码即可适配多卡与混合精度的方案,读者可参考其封装方式降低原生训练循环的跨硬件维护成本。
上一页 1 … 6 7 8