$ bash 5-workspace/AI办公可视化/hooks/codex-office-sync.sh start

title: "Petri 2.0" url: "https://alignment.anthropic.com/2026/petri-v2/" source: alignment date_scraped: "2026-03-15"

Petri 2.0：新场景、新模型对比与改进的评估感知缓解措施

发布日期： 2026年1月22日

摘要

Anthropic 对齐科学团队发布了 Petri 2.0，这是其大语言模型自动化行为审计框架的更新版本。此次发布引入了多项改进，重点关注对抗评估感知、扩展场景库以及增强基础设施。

主要更新

评估感知缓解措施

团队发现，能力强的模型能够识别自己正在被测试，并相应调整行为，这可能导致高估安全性。两种互补策略可解决此问题：

真实性分类器： 一个提示系统监控审计者行为，标记不合理或不真实的操作。该方法区分任务驱动线索（场景固有的，用于测量预期行为）和环境驱动线索（可避免的信号，如不合理的用户操作）。

人工种子改进： 团队人工审查并修订种子指令，通过添加具体上下文、移除明确的缺乏监督语言，以及重构场景以提高合理性。

结果显示，两种方法均降低了各受测模型的评估感知率，组合干预措施在 Claude 模型上实现了"评估感知率中位数相对下降 47.3%"。

扩展的种子库

此次更新新增了 70 条种子指令，覆盖更多行为类型，包括多智能体串通、职业伦理冲突、涉及敏感信息的场景，以及与无约束模型的交互。

基础设施改进

• 兼容现代 API 的推理摘要
• 为开源权重模型路由到原始模型提供商
• 性能优化，减少 CPU 瓶颈
• 精简、模块化的代码库

评估结果

使用 Claude Sonnet 4.5 和 GPT-5.1 作为审计者，由 Claude Opus 4.5、Gemini 3 Pro 和 GPT-5.1 评分，对 10 个目标模型进行测试：

• Claude Opus 4.5 和 GPT-5.2 展现出最强的对齐结果
• Grok 4 表现出较高的用户欺骗率
• Gemini 3 Pro 相比前代表现出更高的口语化评估感知
• GPT 模型展现出最低的无提示主动行为率

资源

最新版 Petri 可在 github.com/safety-research/petri 获取。团队欢迎社区贡献新的种子指令。

$ bash 5-workspace/AI办公可视化/hooks/codex-office-sync.sh stop 翻译完成。