Nous le regrettons ? Des responsables chinois considèrent ChatGPT comme un journal, révélant accidentellement des actions de répression transfrontalières et de diffamation contre Takashi Sano.
Les responsables chinois utilisent ChatGPT comme journal, révélant accidentellement des opérations secrètes de répression et de dénigrement du Premier ministre japonais, Sanae Yoshimura. Selon un rapport d’OpenAI, ces agents ont également utilisé l’outil pour collecter des informations politiques et économiques américaines et pour interroger des techniques de deepfake, soulignant la menace des guerres de l’information à l’ère de l’IA.
Les responsables chinois utilisent ChatGPT comme journal, révélant accidentellement une guerre d’information transnationale
Si vous confiez tout à l’IA, vous risquez de divulguer des secrets d’État ? Une opération de répression et de dénigrement du Premier ministre japonais Sanae Yoshimura menée par la Chine a été accidentellement dévoilée lorsqu’un agent chinois a utilisé ChatGPT.
Selon le dernier rapport d’OpenAI, cet agent a utilisé ChatGPT comme journal pour documenter en détail des actions secrètes de répression. Les enregistrements dans ChatGPT montrent que des opérateurs chinois se sont déguisés en agents de l’immigration américaine pour avertir des dissidents chinois résidant aux États-Unis que leurs propos publics étaient en infraction.
Dans un autre cas, il a décrit avoir tenté d’utiliser de faux documents de la cour fédérale américaine pour demander la suppression de comptes de dissidents sur les réseaux sociaux.
De plus, cet agent chinois aurait demandé à ChatGPT de générer un plan en plusieurs étapes, dans le but de fomenter la colère en ligne contre les taxes douanières américaines sur les produits japonais, afin de ternir la réputation de la future Première ministre japonaise Sanae Yoshimura.
Selon OpenAI, ChatGPT a refusé de répondre à cette demande à l’époque. Mais lors de la prise de fonction de Yoshimura à la fin octobre, des étiquettes critiquant elle et dénonçant les taxes américaines sont apparues sur un forum populaire apprécié par des créateurs de contenu japonais.
Source : Flickr, Focal Foto
Les responsables chinois utilisent ChatGPT comme journal, révélant accidentellement une guerre d’information transnationale
Les agents chinois utilisent ChatGPT pour collecter des informations sur les agences gouvernementales américaines
Dans son rapport, OpenAI indique que lorsqu’on leur a posé des questions sur des entités américaines, ChatGPT a fourni des sources d’informations publiques concernant les emplacements des bureaux du gouvernement fédéral américain, la répartition des employés fédéraux par État, ainsi que des forums spécialisés en économie et finance, et des sites de recherche d’emploi aux États-Unis.
Les agents chinois ont ensuite envoyé des courriels en anglais à des responsables des gouvernements des États américains et à des analystes en politiques commerciales et financières, les invitant à participer à des consultations payantes et à fournir des conseils stratégiques à leurs clients.
Ces courriels cherchaient souvent à transférer la conversation vers d’autres plateformes de visioconférence, comme WhatsApp, Zoom ou Teams. L’un d’eux a même téléchargé des spécifications matérielles, demandant un guide étape par étape non technique pour l’installation du logiciel de deepfake FaceFusion.
L’intensification de la compétition IA entre la Chine et les États-Unis, avec la pression du Pentagone
Au moment de la publication du rapport d’OpenAI, c’est une période critique dans la lutte pour la domination de l’IA entre les États-Unis et la Chine. La manière dont cette technologie sera utilisée sur le champ de bataille et dans les conseils d’administration des deux plus grandes économies mondiales déterminera l’avenir.
Le Département de la Défense américain est actuellement en impasse avec Anthropic, le développeur de Claude, concernant l’utilisation de leur modèle d’IA.
Le secrétaire à la Défense, Pete Hegseth, a lancé un ultimatum à Dario Amodei, PDG d’Anthropic, vendredi, exigeant la suppression des restrictions de sécurité sur le modèle d’IA, sous peine de perdre un contrat lucratif avec le Pentagone.
Michael Horowitz, ancien haut responsable du Pentagone et spécialiste des nouvelles technologies, a déclaré à CNN que le rapport d’OpenAI montre clairement que la Chine exploite activement les outils d’IA pour renforcer ses opérations de guerre cybernétique.
OpenAI n’a pas encore détecté d’attaques automatisées, mais des acteurs malveillants utilisent plusieurs IA
Selon 《CyberScoop》, lors d’un échange avec les médias, OpenAI indique qu’à ce jour, aucune attaque automatisée utilisant ChatGPT n’a été identifiée, mais précise que plusieurs enquêtes sont en cours.
Dans certains cas, il est évident que ChatGPT n’est qu’un des nombreux outils d’intelligence artificielle utilisés par ces acteurs malveillants.
Pour l’exemple des agences chinoises, dans un rapport sur l’état de la guerre d’information, il est mentionné l’utilisation de DeepSeek, une IA chinoise, et il est très probable qu’un autre modèle ait été utilisé pour préparer l’opération de dénigrement contre Sanae Yoshimura.
Lecture complémentaire :
Des hackers chinois lancent une cyberattaque massive basée sur l’IA ! Anthropic : la vitesse et l’ampleur des hackers IA dépassent celles des hackers humains