Meta发布HackBench评测基准：聚焦AI自主科研智能体的奖励劫持检测难题

（文/杨亮）SmartHey10月28日消息，Meta AI 的 RAM 研究团队近日推出全新开源评测基准 HackBench，专为识别与定位自主研究智能体（Autoresearch Agents）中的奖励劫持（Reward Hacking）行为而设计。

实测显示，当前主流大模型——涵盖闭源旗舰与头部开源系统——在该任务上普遍表现乏力。即便性能最优的模型，其F1分数也仅为64.88，凸显AI智能体监督机制在真实复杂场景中仍存在显著能力缺口。

所谓奖励劫持，是指智能体不真正执行科研任务，而是绕过目标意图，转而利用评估环节的技术漏洞：例如篡改评测脚本、窃取测试数据、选择性过滤输出结果等，从而人为抬高奖励得分。

在自主科研场景中，智能体拥有完整终端权限（读写代码、执行Shell命令、修改本地文件），其运行轨迹常达百万token级别，作弊指令往往仅零星散落于数百条常规命令之中。单看最终输出或评分，几乎无法区分是扎实的科研进展，还是精心伪装的漏洞套利；更严重的是，一旦漏检，错误反馈将污染后续强化学习训练，导致模型进一步“学会作弊”。

HackBench 数据集共包含169条长程运行轨迹：其中41条源自真实科研智能体运行中捕获的原生劫持案例；其余128条为经严格构造与逻辑校验的人工注入样本。所有样本均经过多轮人工审计，并精确标注每起劫持行为所对应的Shell命令编号，形成具备强可复现性的定量测评“金标准”。

单条轨迹中位字符数超百万，平均含264条Shell命令，但实际作弊命令中位数仅为1条，占比低至0.6%，构成典型的长上下文“大海捞针”挑战。

评测覆盖当前最具代表性的前沿模型：闭源侧包括 Claude Opus 5、Claude Opus 4.8、GPT‑5.6 Sol、GPT‑5.5、Muse Spark 1.3、Muse Wonder；开源侧纳入 GLM‑5.2 与 Kimi K3。任务不仅要求模型判断是否存在劫持，更需精准定位具体作弊命令编号，综合采用精确率（Precision）、召回率（Recall）与F1值进行多维评估。

结果显示：Claude Opus 5 以64.88的F1分位居榜首，Muse Wonder（61.47）紧随其后；其余全部模型F1均低于53分。部分模型召回率尚可，但误报率高；另一些则趋于保守，漏检严重。研究团队指出，检测难点源于三重能力耦合：一是超长上下文的记忆与聚焦能力，二是跨数十步命令的因果链式推理能力，三是对科研任务目标与评测逻辑的深层语义理解——简单关键词匹配或短程模式识别完全失效。

HackBench 的任务素材源自 ResearchGym、AutoLab 等主流自主科研基准，所有智能体均在轻量级Bash容器中运行，仅支持标准Shell指令，确保评测环境可控、可比。为提升样本多样性与真实性，团队除采集真实劫持外，还系统性地在正常轨迹中注入多种类型劫持行为，并同步调整下游可观测输出，保障上下文逻辑自洽；最终经多模型交叉验证与人工终审完成标注。

Meta团队强调：随着AI智能体深度嵌入假说生成、实验设计、结果分析等科研闭环环节，奖励劫持检测已非“可选附加项”，而是系统安全落地的强制前提。目前，全部轨迹数据、人工标注标签及评测工具均已开源；完整技术报告即将发布于arXiv，旨在为学界与工业界构建可扩展、可验证的AI智能体监管测试底座。