OpenAI 发布 GPT-4o 系统安全报告(System Card)
OpenAI 发布了 GPT-4o 的系统安全报告(System Card)。
OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
OpenAI 发布了 GPT-4o 的系统安全报告(System Card)。
OpenAI 宣布任命退役美军上将 Paul M. Nakasone 加入董事会。Nakasone 将为董事会带来网络安全经验,并加入董事会的安全与保卫委员会(Safety and Security Committee)。
OpenAI 宣布任命 Sarah Friar 担任首席财务官(CFO),同时任命 Kevin Weil 担任首席产品官(CPO)。
OpenAI 采用扩展稀疏自编码器(sparse autoencoders)的新技术,在 GPT-4 的计算过程中自动识别出了 1600 万个特征模式。该成果展示了如何通过自编码器技术解析大语言模型内部的计算表征。
推荐理由:该研究利用扩展稀疏自编码器从前沿模型中自动提取出千万级模式,为大模型内部可解释性提供了具体技术路径。
Stack Overflow 与 OpenAI 宣布达成新的 API 合作伙伴关系。双方将技术知识平台的高质量技术内容与 OpenAI 的大语言模型能力结合,为开发者提供支持。
推荐理由:官方宣布技术社区与模型厂商达成 API 合作,展示了高质量技术问答数据与大模型能力的整合动向。
OpenAI 封禁了与源自俄罗斯的影响力行动 Doppelganger 相关的账号。该行动利用 AI 生成针对乌克兰的社交媒体评论、多语言翻译以及虚假网站文案。
推荐理由:原文披露了利用大模型跨语言批量生成政治宣传内容的攻击方式,有助于了解模型被恶意滥用的典型场景。
OpenAI 宣布封禁与以色列背景行动“Zero Zeno”相关的账号。该行动此前未被披露,主要利用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党以及亲以色列劳工总会的相关内容。
OpenAI 宣布成立其首个亚洲办公室 OpenAI Japan,并同步推出针对日语优化的 GPT-4 定制模型。
推荐理由:OpenAI 设立首个亚洲办公室并定制本地语言模型,展现了其在特定区域市场开展本地化业务与模型适配的路径。
OpenAI 分享了用于生成自定义声音的模型 Voice Engine 的小规模预览经验,探讨合成声音带来的挑战与机遇。
OpenAI 宣布相关审查已完成,Sam Altman 与 Greg Brockman 将继续领导公司。官方同时公布了新任命的董事会成员名单,并对公司治理架构进行了强化升级。
OpenAI 宣布推出 GPT Store。当前材料仅包含标题信息,具体功能与发布细节可参见原文链接。
OpenAI 发文表示支持新闻业并正与多家新闻机构展开合作,同时认为《纽约时报》对其发起的版权诉讼毫无根据。
Hugging Face 展示了如何将投机解码应用于 Whisper 语音转录,在保证输出完全一致的前提下将推理速度提升 2 倍。在英语场景中,使用 6 倍速的 distil-large-v2 作为辅助模型仅增加 8% 显存即可实现 2.2 倍加速,多语种搭配 Whisper tiny 也可提速 1.9 倍。该方案最适合较小的 batch size,当批大小超过 4 时加速收益会逐渐消失。
推荐理由:介绍了用蒸馏或小模型作为辅助草稿模型的投机解码方案,为现有语音转录流水线提供了零精度损失的提速工程参考。
OpenAI 宣布设立 1000 万美元资助计划,支持针对超人类 AI 系统对齐与安全的技术研究。资助方向涵盖弱到强泛化、可解释性以及可扩展监督等领域。
推荐理由:OpenAI 设立专门资助以推动超人类对齐研究,重点支持弱到强泛化与可扩展监督等前沿课题。
OpenAI 宣布 DALL·E 3 正式向 ChatGPT Plus 和 Enterprise 用户开放。团队构建了多层安全缓解措施以支持更广泛的上线,并同步公开了在内容来源溯源研究方面的最新进展。
推荐理由:OpenAI 将图像生成模型接入付费版 ChatGPT,同时展示了支持规模化上线的安全防护与来源追溯方案。
OpenAI 宣布 ChatGPT 推出视觉与语音能力,模型现已能够看、听和说话。
OpenAI 面向在课堂中使用 ChatGPT 的教师发布了一份官方指南。该指南提供了建议提示词、ChatGPT 的工作原理与其局限性说明,并讨论了 AI 检测工具的有效性及模型偏见问题。
推荐理由:OpenAI 官方为教育工作者梳理了提示词与局限性,教师可以参考其建议规避检测器误判与模型偏见问题。
OpenAI 采用 GPT-4 辅助内容审核决策与审核规则开发。该方案能够实现更一致的内容标注,缩短规则迭代的反馈周期,同时减少人工审核员的直接介入。
推荐理由:介绍将大语言模型引入内容审核与规则制定的实践路径,为降低人工审核负担和加速规则迭代提供了参考。
OpenAI 旗下非营利机构推出专项资助计划,将发放 10 笔每笔 100,000 美元的资金。该资助旨在支持相关实验,探索在法律允许的范围内通过民主流程决定 AI 系统应当遵循的规则。
推荐理由:OpenAI 设立资助金探索 AI 规则制定流程,为观察模型行为准则如何引入外部公众参与机制提供了实验样本。
OpenAI 针对 3 月 20 日发生的 ChatGPT 宕机事件发布调查说明。文中公布了团队目前的调查发现、已采取的应对措施以及该漏洞的技术细节。