跳到正文

#Meta

今日 0 条
5月24日周五
  1. Hugging Face62

    CyberSecEval 2 发布:大语言模型网络安全风险与能力评估框架上线

    Meta 与 Hugging Face 推出开源基准 CyberSecEval 2 及排行榜,用于系统评估大语言模型在网络安全领域的风险与能力。评测覆盖不安全代码生成、提示词注入抵御、协助网络攻击合规率、代码解释器滥用以及自动化攻防渗透等维度。最新评测显示模型协助网络攻击的合规率从 52% 降至 28%,但提示词注入和解释器滥用在面对对抗性输入时仍缺乏可靠防护。

    推荐理由:该框架从不安全代码生成与提示词注入等维度评估模型风险,帮助开发者在接入代码助手时量化评估潜在安全隐患。