OpenAI 将定制版 ChatGPT 添加到五角大楼平台，专家警告存在风险

简要介绍

• OpenAI 表示将部署定制版的 ChatGPT 在五角大楼的 GenAI.mil 上。
• 该系统已获批准用于非机密的国防部工作，数据与 OpenAI 的公共模型保持分离。
• 批评者警告，人工错误和对 AI 系统的过度信任风险依然存在。

OpenAI 周一表示，将在由美国国防部开发的 AI 平台 GenAI.mil 上部署定制版的 ChatGPT。这一举措扩大了军方对强大生成式 AI 模型的访问权限，尽管批评者警告用户错误仍是关键的安全风险。ChatGPT 加入了一份不断增长的 AI 模型名单，这些模型已向美国军方开放，包括谷歌的 Gemini 和由 xAI 开发的 Grok，该系统本月早些时候被纳入 SpaceX。

“我们相信，负责国家防御的人们应该能够使用最好的工具，理解在适当的保障措施下，AI 如何帮助保护人民、威慑对手、预防未来冲突，这对美国和其他民主国家都至关重要，”OpenAI 在一份声明中表示。OpenAI 表示，GenAI.mil 版本的 ChatGPT 已获批准用于非机密的国防部用途，并将在授权的政府云基础设施内运行。据 OpenAI 介绍，该系统包含旨在保护敏感数据的安全措施。然而，公共公民组织的科技责任倡导者 J.B. Branch 警告称，用户对 AI 的过度依赖可能会削弱这些保护措施。

“研究显示，当人们使用这些大型语言模型时，他们倾向于给予它们信任，”Branch 对 Decrypt 说。“因此，在像军事这样高影响力的场景中，确保它们的正确性变得更加重要。”此次部署正值五角大楼加快在军事网络中采用商业 AI，以及 AI 开发者寻求盈利之际。今年一月，国防部长 Pete Hegseth 表示，国防部计划在非机密和机密的军事网络中部署领先的 AI 模型。虽然 OpenAI 表示定制版的 ChatGPT 仅用于非机密数据，Branch 警告称，将任何敏感信息输入 AI 系统都可能使其暴露于对手之下，并补充说，用户常常误以为此类工具是安全的保险箱。“机密信息本应只由特定人员查看，”他说。“即使你有一个只在军方内部允许的隔离系统，也不能改变机密数据只应限于少数人的事实。”OpenAI 尚未立即回应 Decrypt 的置评请求。