AI 动态

第三方评估者进入 Anthropic 内部开展模型安全审查

Anthropic 10 月 15 日称已让 METR 团队以接近内部评估人员的权限开展工作,并允许其发布风险评估结果,同时设置客户数据、法律保密信息等边界。这种安排提升外部观察深度,但仍需关注独立性与信息披露范围。

让外部评估者看到更多证据

Anthropic 于 2026 年 10 月 15 日介绍独立评估安排,称已向非营利评估机构 METR 的一个团队提供接近内部风险评估人员的工作条件和工具访问。METR 将发布其风险评估结果。Anthropic 表示,评估者可以在约定范围内公开观察与结论,公司不能否决报告,但某些预先定义的信息类别可能需要删减。

独立评估的关键不只是访问权限

外部机构要判断模型风险,需要足够了解模型、训练与防护措施,也要保有独立形成判断和发表结果的空间。与此同时,客户资料、法律保密信息和敏感架构细节存在合理保护需要。如何划分这些界限,会直接影响报告对公众的解释力。

评估机制需要可比较

不同评估机构若采用不同测试方法,结果可能难以横向比较。清晰的范围说明、访问权限记录、删减理由和方法披露,有助于读者理解结论覆盖了什么、遗漏了什么。企业内部评估仍有价值,第三方评估则提供另一层审视;两者都不能单独代表所有部署环境的安全状况。