Anthropic 发布报告：挫败首起据报道由 AI 编排的网络间谍行动
Anthropic 发布完整报告，披露其挫败了首起据报道由 AI 编排的网络间谍行动。
Anthropic / Claude
全部主题Anthropic 的全部动态：Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。
57条精选相关主题OpenAI / ChatGPTGoogle / Gemini安全对齐
最新精选
第 41–57 条 · 共 57 条Anthropic精选AI 评分7474
Anthropic Engineering精选AI 评分7676 Anthropic 探讨通过 MCP 代码执行构建更高效的 Agent
Anthropic 工程团队提出将 MCP 服务器抽象为代码 API 的方案，让 Agent 能够编写代码按需动态加载工具并就地处理数据。该架构避免了传统模式下预先加载所有工具定义及中间结果反复涌入上下文的问题，在案例中将 token 消耗从 150,000 降至 2,000，降幅达 98.7%。此外，该方式还支持复杂流程控制、敏感数据脱敏以及将执行代码持久化沉淀为可复用技能。
推荐理由：将 MCP 工具抽象为代码 API 并按需调用，为解决海量工具场景下的上下文膨胀和延迟问题提供了实用的工程方案。
Anthropic Engineering精选AI 评分8484 Anthropic 为 Claude Code 推出沙箱机制与网页版功能
Anthropic 为 Claude Code 推出基于操作系统级原语的沙箱运行时及云端网页版，内部实测在保障安全的前提下将权限确认提示减少了 84%。该沙箱结合 Linux bubblewrap 与 macOS seatbelt 技术，强制执行工作区文件系统限制与代理网络隔离，防止提示注入导致凭证泄漏或篡改敏感文件。
推荐理由：它展示了利用系统级文件与网络双重隔离约束终端智能体的方法，在防范提示注入的同时显著减少审批打断。
Anthropic Engineering精选AI 评分8181 Anthropic 推出 Agent Skills 规范并全面支持 Claude 系列平台
Anthropic 宣布推出 Agent Skills 规范并将其公开为跨平台标准，通过组织化的指令、脚本与资源文件夹动态扩展 Claude 的特定领域任务能力。
推荐理由：文章详细拆解了通过目录组织和渐进式披露按需加载上下文与脚本的设计，为开发者扩展智能体专有能力提供了规范范式。
Anthropic Engineering精选AI 评分7979 Anthropic 详解面向 AI 智能体的有效上下文工程指南
Anthropic 工程团队发布面向 AI 智能体的上下文工程实践指南，指出智能体开发核心已从编写单次提示词转向对有限注意力预算内高信号 token 的动态管理。文章深入分析了长上下文衰减（context rot）的成因，并结合 Claude Code 实践，提出采用即时检索、会话压缩、外部结构化笔记与子智能体架构来应对长周期任务的状态维护挑战。
推荐理由：文章系统梳理了从提示词工程转向上下文工程的实践路径，给出了即时检索、会话压缩和结构化记忆的具体工程策略。
Anthropic Engineering精选AI 评分8383 Anthropic 复盘 Claude 响应降质故障：源于三起底层基础设施 Bug 叠加
Anthropic 发布技术复盘，确认 8 月至 9 月初 Claude 响应质量异常并非主动限制算力，而是由三起底层基础设施 Bug 叠加导致，目前已全部修复。
推荐理由：文章拆解了分布式多硬件推理、XLA 编译优化与采样精度引发的故障细节，为大模型生产环境运维提供了具体排障参考。
Anthropic Engineering精选AI 评分8282 Anthropic 工程团队详解如何借助智能体编写高效的智能体工具
Anthropic 工程团队发布了一套为 AI 智能体设计高效工具的实践指南，倡导通过原型构建、基准评测以及与 Claude Code 等智能体协同迭代来持续优化工具。
推荐理由：文章给出了基于评测循环与智能体协同迭代工具的具体工程方法，可直接用于改进 MCP 工具设计和上下文利用率。
OpenAI精选AI 评分6767 OpenAI 与 Anthropic 公布联合安全评估结果
OpenAI 与 Anthropic 联合开展了针对彼此模型的安全互测，并公布了联合安全评估结果。该评估涵盖对齐偏差、指令遵循、模型幻觉以及越狱等多项维度，展示了模型安全进展与挑战，并体现了跨实验室协作评测的价值。
推荐理由：两家前沿实验室通过互相测试对方模型来检验越狱与对齐风险，为行业建立跨机构的模型安全评估与协作提供了参考范式。
Hugging Face精选AI 评分6868 如何通过 Hugging Face 与 Claude 生成图像
Hugging Face 发布实践指南，介绍如何通过远程 MCP 服务器将 Claude 连接至 Hugging Face Spaces，在对话中直接调用前沿图像生成模型。用户可在 MCP 设置中接入 FLUX.1 Krea Dev 或 Qwen-Image 等工具，借助 Claude 编写提示词并对生成结果直接多轮微调，该流程支持利用 ZeroGPU 算力运行并提供免费使用额度。
推荐理由：文章介绍了通过远程 MCP 服务将图像生成模型接入 Claude 的配置路径，为跨工具编排多模态工作流提供了可参考的集成方法。
Anthropic Engineering精选AI 评分8080 Anthropic 推出 Claude Desktop 扩展格式 .mcpb，支持 MCP 服务器一键安装
Anthropic 推出基于 .mcpb 格式的 Claude Desktop 桌面扩展，将本地 MCP 服务器及其所有依赖打包为单一文件，用户无需终端或手动修改配置即可一键安装。Claude Desktop 内置了 Node.js 运行时并支持系统密钥链存储敏感配置，同时应用内上线了精选扩展目录。Anthropic 已将 MCPB 规范、打包验证工具链和参考实现开源，并为企业提供策略管控支持。
推荐理由：它将繁琐的终端命令和运行环境打包为单一安装包，大幅降低了本地工具的部署与分发门槛。
Anthropic Engineering精选AI 评分8080 Anthropic 如何构建 Claude 多智能体研究系统
Anthropic 详细拆解了 Claude Research 功能背后的多智能体架构设计与工程实践，系统通过主研究智能体统筹拆解任务并并行调度多个子智能体完成检索。
推荐理由：团队拆解了主从智能体协同的提示词设计与评测框架，为解决复杂长流程任务中的状态维护与并行检索提供了工程参考。
Anthropic Engineering精选AI 评分8282 Anthropic 发布 Claude Code 智能体编码最佳实践指南
Anthropic 工程团队发布 Claude Code 官方最佳实践指南，系统阐述了在智能体编码环境中管理上下文、构建闭环验证与配置工程扩展的成熟模式。指南指出模型上下文窗口填满会导致指令遗忘和性能衰退，建议通过 CLAUDE.md 精简规则、适时使用 /clear 或子代理调研，并始终提供测试套件或视觉截图作为客观验证标准。
推荐理由：Anthropic 官方总结了 Claude Code 在上下文管理、闭环验证与子代理并行上的核心实践，有助于开发者规范智能体编码流程。
Anthropic Engineering精选AI 评分8080 Anthropic 详解 think 工具：让 Claude 在复杂工具调用中停步思考
Anthropic 介绍了用于复杂多步任务的 think 工具方案，允许 Claude 在生成工具调用的过程中记录思考、核对规则并检查上下文。测试显示，结合优化提示词后 Claude 3.7 Sonnet 在 τ-Bench 航空领域的 pass^1 达到 0.570，较基准提升 54%，在 SWE-bench 上也带来 1.6% 的独立提升。
推荐理由：原文对比了思考工具与扩展思考在多步调用中的差异，并附带工具定义与提示词范例，可直接套用到复杂智能体开发中。
Anthropic Engineering精选AI 评分8484 Anthropic 解析 Claude 3.5 Sonnet 在 SWE-bench Verified 达 49% 的 Agent 脚手架设计
升级版 Claude 3.5 Sonnet 在软件工程基准 SWE-bench Verified 上取得 49% 的解决率，超越此前最佳成绩 45%。Anthropic 披露了其配套的极简 Agent 脚手架设计，仅提供基础提示词、Bash 执行工具与基于精确字符串替换的 Edit 工具，避免对工作流进行硬编码。
推荐理由：文章拆解了将控制权完全交给模型本体的极简工具架构，为开发者设计高成功率的代码智能体提供了工程参考。
Anthropic Engineering精选AI 评分8484 Anthropic 工程团队发布构建高效智能体实践指南
Anthropic 工程团队总结了构建大语言模型智能体系统的核心实践与模式。文章明确区分了预定义代码路径的工作流与模型自主驱动的智能体，详细拆解了提示词链、路由、并行化、协调者-执行者及评估者-优化者五种常见工作流模式。团队建议开发者从最简单的 API 级模式起步，优先优化工具定义与接口设计，仅在确有必要时引入自主循环与高复杂度架构。
推荐理由：文章梳理了工作流与自主智能体的模式差异，读者可按复杂度渐进选择架构以避免过度设计。
Anthropic Engineering精选AI 评分8484 Anthropic 推出 Contextual Retrieval 上下文检索方案
Anthropic 提出名为 Contextual Retrieval 的 RAG 优化方法，通过在切片向量化和建立 BM25 索引前添加上下文说明，将检索失败率降低 49%，结合重排后降低 67%。
推荐理由：该方法通过在切片前注入文档级上下文解决传统检索断链问题，为优化大知识库 RAG 提供了直接可行的工程参考。
Hugging Face精选AI 评分7373 Hugging Face 发布开源大模型 Constitutional AI 端到端对齐方案与 llm-swarm 工具
Hugging Face 推出基于开源大模型的 Constitutional AI（CAI）端到端对齐方案，并开源了用于 Slurm 集群大规模合成数据生成的工具 llm-swarm。
推荐理由：原文提供了基于开源模型实现宪法级 AI 对齐的完整技术方案与集群生成工具，便于开发者低成本构建自定义安全对齐流程。