Мнение: автономные агенты ИИ «кластеры» могут усилить риски манипуляции общественным мнением на платформах

PANews 20 февраля — по сообщению Decrypt, исследователи из университетов и научных учреждений нескольких стран опубликовали в журнале Science предупреждение о том, что будущие онлайн-«кампании влияния» будут эволюционировать от легко распознаваемых простых фейковых аккаунтов и зомби-сетей к «сварам» — группам автономных AI-агентов, способных совместно управлять общественным мнением при минимальном вмешательстве человека. Исследование показывает, что такие AI-свары могут маскировать реальные действия, адаптировать речь через разные аккаунты и платформы, а также длительно формировать определённые нарративы, что затрудняет их обнаружение существующими системами контроля и модерации, ориентированными на борьбу с мусорным контентом и единичными нарушениями. Учёные отмечают, что платформы в настоящее время испытывают серьёзные недостатки в вопросах аутентификации пользователей, мониторинга злоупотреблений аккаунтами, а также в прозрачности и внешнем аудите необычных совместных действий, и что полагаться только на контент-модерацию недостаточно для эффективной защиты.