A polícia francesa realiza buscas no escritório do X em Paris na investigação à Grok AI e conteúdo ilegal

Resumo

• Investigadores franceses realizaram buscas nos escritórios de X em Paris como parte de uma investigação sobre práticas ilegais de conteúdo e algoritmos.
• O caso expandiu-se após denúncias de que o Grok foi utilizado para gerar imagens sexuais não consensuais, incluindo de crianças.
• Reguladores do Reino Unido abriram investigações paralelas sob leis de proteção de dados e segurança online.

As autoridades francesas realizaram buscas nos escritórios de X em Paris na terça-feira, como parte de uma investigação criminal em expansão sobre alegada pornografia infantil relacionada ao chatbot de IA da plataforma, Grok. De acordo com um relatório da Sky News, a busca foi conduzida pela unidade especializada em crimes cibernéticos da França, em coordenação com a Europol. Os procuradores disseram que o proprietário do X, Elon Musk, foi convocado para depor, juntamente com vários atuais e ex-executivos, incluindo a ex-CEO Linda Yaccarino. “A investigação concerne a uma série de suspeitas de crimes ligados ao funcionamento e uso da plataforma, incluindo a disseminação de conteúdo ilegal e outras formas de atividade criminosa online,” afirmou a Europol em um comunicado. “A Europol está pronta para continuar apoiando as autoridades francesas à medida que a investigação avança.”

 A investigação sobre o Grok, lançada no mês passado, centra-se em alegações de que o X foi conivente na distribuição de material de abuso sexual infantil e outros conteúdos ilegais, com as autoridades alegando que o Grok foi utilizado para gerar mais de 23.000 imagens sexualizadas de crianças. Em agosto passado, a xAI lançou o “Modo Picante” especificamente para gerar conteúdo NSFW, incluindo um caso de destaque envolvendo deepfakes de Taylor Swift. Em uma publicação no X, o departamento de Assuntos Governamentais Globais da gigante das redes sociais negou qualquer irregularidade, chamando a operação de uma “investigação criminal politizada sobre alegada manipulação de algoritmos e suposta extração fraudulenta de dados.”

“A operação encenada de hoje reforça nossa convicção de que essa investigação distorce a lei francesa, contorna o devido processo e coloca em risco a liberdade de expressão,” escreveram. “O X está comprometido em defender seus direitos fundamentais e os direitos de seus usuários. Não seremos intimidados pelas ações das autoridades judiciais francesas hoje.” Grupos de defesa do consumidor argumentam que, quando reguladores investigam desenvolvedores de IA cujas ferramentas são usadas para criar conteúdo ilegal, eles devem examinar se a empresa poderia razoavelmente prever como essas ferramentas seriam mal utilizadas. “Os reguladores devem verificar se as escolhas de design da empresa tornaram o uso ilegal previsível, se as avaliações de risco foram adequadas e se as salvaguardas foram testadas de forma significativa antes do lançamento,” afirmou J.B. Branch, defensor da Responsabilidade das Grandes Tecnologias na Public Citizen, ao Decrypt. “Plataformas que lucram com a rápida implementação devem assumir a responsabilidade pelos danos que essa implementação causa. É exatamente isso que acontece em outras indústrias.” Embora as leis atuais contra imagens sexuais não consensuais e material de abuso sexual infantil permaneçam essenciais, Branch afirmou que elas não foram criadas para IA que pode “produzir danos em massa a uma velocidade escalável.” “Precisamos de obrigações mais claras e proativas que exijam que as empresas previnam abusos habilitados por IA antes que eles aconteçam, incluindo testes independentes de reguladores que possam avaliar problemas antes que produtos de IA cheguem ao mercado,” disse. “Quando algo tão sério acontece, a ferramenta deve ser removida imediatamente.” Investigações em andamento As investigações sobre o chatbot agora se expandiram por várias jurisdições, incluindo o Reino Unido, a UE, a Índia, a Austrália e os EUA. No mesmo dia em que as autoridades francesas realizaram buscas no escritório do X em Paris, o Office of the Information Commissioner do Reino Unido anunciou que também abriu uma investigação sobre o Grok. “Tomámos essa medida após relatos de que o Grok foi utilizado para gerar imagens sexuais não consensuais de indivíduos, incluindo crianças,” afirmou William Malcolm, Diretor Executivo de Risco Regulatório e Inovação do ICO, em um comunicado. “A criação e circulação de tal conteúdo levantam sérias preocupações sob a lei de proteção de dados do Reino Unido e representam um risco de danos potenciais significativos à população.”

Segundo Malcolm, essas preocupações dizem respeito a se os dados pessoais foram processados de forma legal, justa e transparente, e se as salvaguardas adequadas foram incorporadas ao design e implantação do Grok para evitar a geração de imagens manipuladas prejudiciais usando dados pessoais. “Quando essas salvaguardas falham, os indivíduos perdem o controle de seus dados pessoais de maneiras que os expõem a danos graves,” escreveu. “Analisar esses riscos é fundamental para o papel do ICO em proteger os direitos das pessoas e responsabilizar organizações ao projetar e implantar tecnologia de IA.” As ações na Europa são as últimas contra o X e o Grok; no mês passado, o regulador de mídia do Reino Unido, Ofcom, abriu uma investigação para verificar se o X violou suas obrigações sob a Lei de Segurança Online. Em janeiro, após a repercussão internacional contra o Grok, a xAI afirmou que restringiu as capacidades de edição de imagem do chatbot e bloqueou certos prompts relacionados à geração de imagens de pessoas. A operação em Paris ocorre um dia após Musk anunciar que a SpaceX adquiriu a xAI, a startup de inteligência artificial que anteriormente absorveu o X, colocando a plataforma de redes sociais e seus sistemas de IA sob o guarda-chuva corporativo da SpaceX, à medida que a fiscalização regulatória se intensifica. “Estamos cientes de que o X ou o Grok agora oferecem um ‘Modo Picante’ exibindo conteúdo sexual explícito com algumas saídas geradas com imagens infantis,” disse o porta-voz da Comissão Europeia, Thomas Regnier, durante uma recente conferência de imprensa em Bruxelas. “Isso não é picante. Isso é ilegal. Isso é revoltante. Isso é repugnante. Não tem lugar na Europa.” A SpaceX e a xAI não responderam imediatamente a pedidos de comentário pelo Decrypt.