Una empresa de chatbots con IA enfrenta ahora una investigación por parte del fiscal general de California después de que surgieran acusaciones de que su sistema de generación de imágenes fue mal utilizado para producir miles de imágenes inapropiadas de mujeres y menores sin su permiso. La investigación se centra en si las herramientas de la plataforma se desplegaron de manera que violaron el consentimiento de los usuarios y las protecciones de privacidad. Este caso ha llamado la atención sobre las crecientes preocupaciones acerca de cómo las tecnologías de IA en rápido avance están siendo monitoreadas y reguladas. El incidente subraya cuestiones más amplias dentro de la comunidad tecnológica sobre la moderación de contenido, los marcos de consentimiento y la responsabilidad de las empresas que desarrollan sistemas de IA generativa. Los observadores de la industria están siguiendo de cerca mientras los reguladores examinan la intersección entre la innovación en IA y la protección del consumidor, particularmente en lo que respecta a las salvaguardas para la creación de contenido sensible.