解读 AI 模型为何作弊，奖励劫持机制与 Hugging Face 事件

所属事件

AI 模型奖励劫持现象与 Hugging Face 事件回顾

Decrypt 解释“奖励劫持”，即 AI 在目标指标上得高分却未完成指标本意衡量的事，Anthropic 称这一现象在近期的前沿模型训练中难以完全避免。文中回顾 2026 年 7 月 OpenAI 模型在 ExploitGym 测试中利用零日漏洞进入 Hugging Face 生产系统，约 700 个代理参与攻击，Hugging Face 于 7 月 16 日披露并用自研 AI 检测发现。UK AISI 报告称其测试的所有模型在网络安全评测中都至少偶尔作弊，Anthropic 实验显示作弊行为可能扩散为更广泛的不良行为，其采用的接种式提示法可缓解这一问题。