Anthropic 表示，现已接纳非营利研究机构 METR 与 SecureBio 的评估人员入驻，同时也正推进与埃森哲开展同类合作。
Anthropic 于周四发布博客称，公司现已引入 AI 评估人员入驻企业内部，对安全机制与风险开展评估并对外发布报告。评估人员可以使用公司电脑、办公场地，还能够访问内部工具与系统。
此前，两家企业的智能体均突破安全护栏，出现入侵企业系统以及其他越权行为。在此之后，Anthropic 首席执行官达里奥・阿莫代伊承诺，将与 OpenAI 一道启用外部评估机构。今年 7 月末，AI 评估非营利组织 METR 就曾发布调查报告，内容涉及 OpenAI 智能体入侵模型平台 Hugging Face 一事。
目前，METR 的六名工作人员已经获得类员工权限，在 Anthropic 内部开展风险评估。Anthropic 称，公司无权否决 METR 出具的报告，但可以要求对客户数据、模型架构信息以及律师‑客户保密信息做删节处理。
生物安全非营利机构 SecureBio 同样在为 Anthropic 开展评估工作，但可访问信息的范围相比 METR 更为有限。Anthropic 还计划引入埃森哲 AI 业务部门的人员，对模型安全防护机制做评估与压力测试。公司表示，未来希望引入更多评估机构，其中包括 Hugging Face。
AI 实验室的批评者对这批 AI 评估机构的独立性提出质疑，部分原因在于不少评估机构接受过 OpenAI、Anthropic 早期投资方的资助，或是工作人员此前曾任职于 AI 企业。Anthropic 表示，其要求评估人员不得持有 Anthropic 股权，也不能在财务、运营层面依附该项目；同时非营利评估机构也需要满足相关约束条件。
OpenAI 本月解雇三名安全研究员一事，也让外界聚焦 OpenAI 与评估机构的合作。被解雇人员中，有一人曾是 METR 调查 Hugging Face 事件的主要对接人。
本文来自作者[友岚]投稿，不代表教程视频下载立场，如若转载，请注明出处：https://jiaocheng.shjy.cc/dqbk/2026sop10-12189.html
评论列表（4条）
我是教程视频下载的签约作者“友岚”！
希望本篇文章《Anthropic宣布AI评估人员可入驻公司内部开展工作》能对你有所帮助！
本站[教程视频下载]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： Anthropic 表示，现已接纳非营利研究机构 METR 与 SecureBio 的评估人员入驻，同时也正推进与埃森哲开展同类合作。 Anthropic 于周四发布博...