Sam Altman annonce que le modèle d'IA d'OpenAI sera déployé sur le réseau classifié américain, suscitant des préoccupations concernant la sécurité de l'IA et l'éthique militaire

Le 28 février, Sam Altman a annoncé aujourd’hui sur la plateforme X qu’OpenAI avait conclu un accord avec le département américain de la Guerre pour déployer ses modèles d’intelligence artificielle dans des réseaux américains classifiés. Altman a déclaré que dans toutes les interactions, le département de la Guerre a mis un fort accent sur la sécurité de l’IA et espérait obtenir les meilleurs résultats d’application grâce à la coopération.

Altman a souligné que la sécurité et l’inclusivité de l’intelligence artificielle sont la mission centrale d’OpenAI. Deux principes clés de sécurité avancés par l’entreprise – interdire la surveillance de masse à l’intérieur du pays et garantir la responsabilité humaine pour l’usage de la force – ont été approuvés par le département de la Guerre et intégrés dans les lois et politiques. Ces principes sont également intégrés dans les accords formels entre les parties.

Pour garantir que le modèle fonctionne en toute sécurité, OpenAI déploiera un dispositif fonctionnel augmenté (FDE) et fonctionnera uniquement sur des réseaux cloud. De plus, les deux parties prévoient de mettre en place des mesures de protection techniques pour prévenir les abus de modèles ou les comportements anormaux. Altman a également appelé le département américain de la Guerre à fournir les mêmes conditions de coopération à toutes les entreprises d’IA, soulignant l’importance d’une concurrence loyale et d’une responsabilité partagée.

Pris dans leur ensemble, cet accord marque non seulement l’application formelle par le gouvernement américain de technologies d’intelligence artificielle de pointe dans les réseaux sensibles, mais met aussi en avant la mise en pratique de la sécurité et de la responsabilité éthique de l’IA dans les scénarios militaires. Altman a déclaré qu’OpenAI continuera à œuvrer pour que l’intelligence artificielle profite à toute l’humanité tout en promouvant une technologie responsable dans un environnement réel complexe, chaotique et même dangereux.

Cette collaboration a attiré une large attention dans le secteur et est considérée comme ayant ouvert de nouvelles voies pour l’application de l’IA dans la défense et les infrastructures critiques, tout en suscitant des discussions sur la sécurité des systèmes d’armes autonomes et la responsabilité de la prise de décision humaine.