OpenAI 与 Anthropic 据悉曾讨论互测大模型

据媒体援引知情人士报道，Anthropic 和 OpenAI 曾考虑签署一份具有法律约束力的协议，以相互对对方的大模型进行压力测试。今年早些时候，两家公司及其律师团队曾就此计划展开讨论，竞争对手可对彼此最新可用模型进行深度测试，以寻找潜在风险或安全漏洞。此类测试仅适用于已商业化的模型，且双方约定不得留存对方的数据。该报道并未明确双方最终是否达成此类协议。近来，在顶尖 AI 实验室之间推行某种形式的同行评审的想法受到关注。SpaceX 首席执行官埃隆·马斯克上周建议，美国领先的几家大模型公司以及部分中国 AI 公司应当允许竞争对手进行交叉测试。马斯克表示：所有 AI 公司都有一套测试工具，让每家公司都用别家的测试工具跑一遍，可能是确保自身安全所能做的最好的事。本月早些时候，Anthropic 研究员 Jacob Coxon 宣布辞职并警告领先人工智能公司在没有适当防护措施的情况下加速开发。随后 Anthropic CEO 达里奥·阿莫代伊发文呼吁行业放缓 AI 开发步伐并引入第三方评估机制。Anthropic 上周五宣布与埃森哲建立合作，由埃森哲担任第三方评估机构，对其前沿 AI 模型进行安全合规性评估。