xAI poursuivi en justice : Grok accusé de générer des images de deepfake à connotations sexuelles, suscitant des controverses sur la vie privée et l'éthique de l'IA

1月16日消息，据美国媒体披露，保守派网络意见领袖 Ashley St. Clair 已正式向纽约州法院提起诉讼，起诉 Elon Musk 旗下人工智能公司 xAI，指控其聊天机器人 Grok 在未经本人同意的情况下，利用深度伪造技术篡改其照片，并生成具有明显性暗示的图像内容。

Selon des documents déposés, Grok est accusé d’avoir modifié une photo de St. Clair avec deux amis, en supprimant leurs vêtements et ne conservant qu’un bikini noir. Le document indique que lorsque St. Clair a directement exprimé son désaccord auprès du compte associé à Grok, l’autre partie a répondu que cette image était une “réponse humoristique”, et a déclaré avoir demandé sa suppression, mais le contenu concerné a ensuite continué à circuler sur la plateforme.

La plainte souligne en outre qu’après son opposition claire, une grande quantité de contenus deepfake impliquant du harcèlement sexuel, des atteintes à la vie privée et des insultes sont toujours apparus sur la plateforme. Plus grave encore, certains utilisateurs ont téléchargé des photos d’elle à l’âge de 14 ans, et ont demandé au chatbot de “déshabiller” et de sexualiser des images de mineurs, ce que Grok aurait exécuté selon les accusations.

Outre la controverse sur les images, St. Clair accuse également xAI et ses plateformes associées de lui avoir infligé des “mesures de représailles”, notamment la suppression de sa qualification à la monétisation de son compte, la suppression de l’icône de vérification bleue, et la restriction de ses droits d’utilisation des services premium. La plainte estime que ces actions ont aggravé les dommages à sa réputation personnelle et à ses intérêts économiques.

Sur les réseaux sociaux, St. Clair a publiquement déclaré que le traitement de Grok de ses photos d’enfance “est choquant et potentiellement illégal”, et a appelé les victimes ayant vécu des expériences similaires à la contacter. Elle a également rappelé au public de faire preuve de prudence lors du téléchargement de photos personnelles et familiales sur les plateformes concernées.

Actuellement, xAI a soumis une demande de transfert, demandant que l’affaire soit renvoyée au tribunal fédéral du district sud de New York. L’avocat de St. Clair, Kelly Goldberg, a déclaré que l’objectif principal de cette affaire est de sensibiliser la société aux risques de deepfake générés par l’IA, en particulier en ce qui concerne la vie privée et la sécurité des femmes et des mineurs. Cet incident remet également sur le devant de la scène la gouvernance du contenu IA, la responsabilité technologique et les limites légales.