Opinión: Los "grupos" de agentes autónomos de IA podrían intensificar el riesgo de manipulación de la opinión en plataformas

PANews 20 de febrero: Según Decrypt, investigadores de varias universidades e instituciones de investigación en múltiples países publicaron un artículo en Science advirtiendo que en el futuro, las campañas de influencia en línea pasarán de ser redes de bots/zombis fáciles de identificar a formar enjambres compuestos por numerosos agentes de IA autónomos, que pueden manipular la opinión pública con poca intervención humana. El estudio señala que estos enjambres de IA pueden disfrazar comportamientos humanos, ajustar de manera adaptativa los discursos en diferentes cuentas y plataformas, y crear narrativas específicas de manera continua en ciclos largos, lo que dificulta que los sistemas actuales de detección y revisión, enfocados en contenido basura y violaciones puntuales, puedan identificarlos eficazmente. Los académicos indican que las plataformas actualmente presentan deficiencias evidentes en la verificación de identidad, monitoreo del uso indebido de cuentas y en la transparencia y auditoría externa de comportamientos anómalos coordinados, por lo que depender únicamente de la revisión de contenido no constituye una defensa efectiva.