Anthropic 和 OpenAI 在 AI 竞赛加速的同时收紧安全用语

简要概述

• 《时代》报道，Anthropic已放弃停止训练且未保证安全措施的承诺。
• OpenAI在重组为营利实体后，也删除了其使命中的“安全”一词。
• 专家表示，这一转变反映了政治、经济和知识领域的变化。

据《时代》报道，Anthropic已从其责任扩展政策中删除了核心的安全承诺。这一变化放宽了曾经禁止Claude AI开发者在没有确保安全措施的情况下训练先进AI系统的承诺。 此举重新塑造了公司在与OpenAI、谷歌和xAI等竞争对手的AI竞赛中的定位。Anthropic长期以来一直将自己定位为行业中最注重安全的实验室之一，但在修订后的政策下，Anthropic不再承诺在风险缓解措施未完全到位时停止训练。 “我们觉得停止训练AI模型实际上对任何人都没有帮助，”Anthropic的首席科学官Jared Kaplan告诉《时代》。“随着AI的快速发展，我们并不认为单方面做出承诺是合理的……如果竞争对手在快速领先。” 

此次变化发生之际，Anthropic正陷入与美国国防部长Pete Hegseth的公开争执，因其拒绝向五角大楼提供Claude的全部访问权限，使其成为谷歌、xAI、Meta和OpenAI中唯一持此立场的主要AI实验室。 兰德公司高级政策研究员Edward Geist表示，早期的“AI安全”框架源自一个特定的知识社区，该社区早于当今的大型语言模型（LLMs）。 “几年前，AI安全这个领域就已经存在了，”Geist告诉《Decrypt》。“AI安全与一群关心强大AI的人的观点有关，这些观点在我们拥有这些LLMs之前就已经形成。” Geist表示，早期的AI安全倡导者对先进人工智能的愿景与现在大不相同。

“他们最终以一种在某些方面与当前这些LLMs本质上不同的方式来构想这个问题，无论是好是坏，”Geist说。 Geist还表示，语言的变化也向投资者和政策制定者发出了信号。 “部分原因是向不同的利益相关者传达，许多这些公司希望给人一种印象，即它们在经济竞争中没有因为‘AI安全’的担忧而有所保留，”他说，并补充说，术语本身也在随着时代变化。 Anthropic在修订安全用语方面并不孤单。 什么是AI安全？ 非营利新闻机构《对话》最近的一份报告指出，OpenAI在其2024年IRS申报文件中也改变了其使命声明，删除了“安全”一词。 该公司早期的声明承诺开发一种“安全地造福人类、无需追求财务回报”的通用人工智能。更新后的版本则表示其目标是“确保人工通用智能惠及全人类”。 “AI安全这个词的问题在于，没有人真正知道它到底意味着什么，”Geist说。“再者，AI安全这个术语也曾存在争议。” Anthropic的新政策强调透明度措施，例如发布“前沿安全路线图”和定期“风险报告”，并表示如果认为存在重大灾难风险，将推迟开发。 Anthropic和OpenAI的政策转变，正值这些公司试图增强其商业地位之际。 本月早些时候，Anthropic宣布筹集了300亿美元，估值约为3800亿美元。同时，OpenAI正完成由亚马逊、微软和英伟达支持的融资轮，金额可能达到1000亿美元。 Anthropic和OpenAI，以及谷歌和xAI，已获得美国国防部的丰厚政府合同。然而，对于Anthropic来说，这份合同似乎存在疑问，因为五角大楼正在考虑是否因访问问题而切断与该AI公司的联系。 随着资金涌入该行业，地缘政治竞争加剧，未来生命研究所的AI与国家安全负责人Chaudhry表示，这一政策变化反映的是政治动态的转变，而非争夺五角大楼的业务。 “如果真是这样，他们早就会放弃一周前五角大楼的要求了，”Chaudhry告诉《Decrypt》。“Dario [Amodei]也不会出席会面。” 他还表示，这次改写反映了在政治压力和竞争压力不断上升的背景下，AI公司谈论风险的方式发生了转变。 “Anthropic现在在说，‘看，我们不能一直强调安全，也不能无条件暂停，我们将推动更轻松的监管措施’，”他说。