Uma empresa de chatbot de IA está agora a enfrentar uma investigação por parte do procurador-geral da Califórnia após surgirem alegações de que o seu sistema de geração de imagens foi mal utilizado para produzir milhares de imagens inadequadas de mulheres e menores sem o seu consentimento. A investigação centra-se em se as ferramentas da plataforma foram utilizadas de formas que violaram o consentimento dos utilizadores e as proteções de privacidade. Este caso chamou a atenção para as crescentes preocupações sobre como as tecnologias de IA em rápida evolução estão a ser monitorizadas e reguladas. O incidente destaca questões mais amplas dentro da comunidade tecnológica sobre moderação de conteúdo, quadros de consentimento e a responsabilidade das empresas que desenvolvem sistemas de IA generativa. Observadores do setor estão a acompanhar de perto enquanto os reguladores examinam a interseção entre inovação em IA e proteção do consumidor, particularmente no que diz respeito a salvaguardas para a criação de conteúdo sensível.