Meinung: KI-autonome Agenturen „Cluster“ könnten das Risiko der Plattform-Meinungsmanipulation verschärfen

PANews vom 20. Februar: Laut einem Bericht von Decrypt haben Forscher an Hochschulen und Forschungsinstituten in mehreren Ländern in einer Studie in „Science“ gewarnt, dass zukünftige Online-„Beeinflussungsaktionen“ sich von leicht erkennbaren einfachen Wasser- oder Zombie-Netzwerken zu „Swarms“ (Schwärmen) aus vielen autonomen KI-Agenten entwickeln werden, die mit geringem menschlichem Eingreifen die öffentliche Meinung manipulieren können. Die Studie besagt, dass solche KI-Schwärme menschliches Verhalten imitieren, plattform- und kontenübergreifend ihre Sprachmuster anpassen und über längere Zeiträume hinweg bestimmte Narrative aufrechterhalten können, wodurch bestehende Sicherheits- und Prüfmechanismen, die hauptsächlich gegen Spam und einzelne Verstöße gerichtet sind, schwer zu erkennen sind. Wissenschaftler weisen darauf hin, dass Plattformen derzeit bei der Identitätsüberprüfung, der Überwachung von Konto-Missbrauch sowie bei der Transparenz und externen Prüfung ungewöhnlicher koordinierter Aktivitäten deutliche Schwächen aufweisen, und dass eine reine Inhaltsprüfung keine wirksame Verteidigung darstellt.