Der britische Premierminister fordert neue Befugnisse zur Regulierung von KI-Chatbots, da die Bedenken hinsichtlich der Sicherheit von Kindern zunehmen

Kurzfassung

• Die neuen Gesetze würden unter 16-Jährige vom Social-Media-Verkehr ausschließen, unendliches Scrollen und Autoplay einschränken sowie den Zugang von Kindern zu VPNs begrenzen.
• Der ehemalige Premierminister Rishi Sunak warnte, dass Großbritannien ohne schnellere KI-Implementierung zu „einem Themenpark für historisch neugierige Touristen“ werden könnte.
• Der US-Anwalt Preston Byrne sagte, dass der GRANITE Act, ein vorgeschlagenes amerikanisches Schutzgesetz gegen ausländische Zensuraufträge, genutzt werden würde, um jegliche britische Versuche zu kontern, US-VPN-Anbieter ins Visier zu nehmen.

Der britische Premierminister Keir Starmer kündigte an, zum Parlament zu gehen, um neue Befugnisse zur Regulierung von KI-Chatbots zu erlangen, und ist bereit, gegen die Unternehmen vorzugehen, die sich weigern zu handeln. In einem direkt an die Öffentlichkeit gerichteten Substack sagte Starmer, die Regierung werde die bestehenden Online-Sicherheitsgesetze verschärfen, um sicherzustellen, dass KI-Chatbot-Anbieter „fest im Geltungsbereich“ seien, und baue auf einem kürzlichen Verbot von Nacktfizierungs-Apps sowie der Kriminalisierung von nicht-einvernehmlichen intimen Bildern auf.
„Keine Social-Media-Plattform sollte eine Freifahrkarte beim Schutz unserer Kinder bekommen“, schrieb Starmer auf X. „Deshalb ergreife ich Maßnahmen.“

Vor einer öffentlichen Konsultation würden die vorgeschlagenen Befugnisse der Regierung erlauben, Altersgrenzen für soziale Medien festzulegen, Funktionen wie Autoplay und endloses Scrollen zu blockieren, die Kinder „an ihre Bildschirme fesseln“. Es würde auch den VPN-Zugang für Minderjährige einschränken, die versuchen, Altersbeschränkungen zu umgehen.
„Im Gegensatz zu den Tories, die Jahre brauchten, um das Online Safety Act zu verabschieden, werden wir Befugnisse erlangen, die es uns ermöglichen, in wenigen Monaten ein Mindestalter für soziale Medien durchzusetzen, um Kinder vor schädlichen Inhalten zu schützen“, schrieb Starmer.

Die Ankündigungen erfolgen vor dem Hintergrund internationaler Besorgnis über xAI’s Grok-Chatbot, nachdem das Center for Countering Digital Hate geschätzt hatte, dass dieser in nur 11 Tagen 23.338 sexualisierte Bilder von Kindern erzeugt hat, etwa alle 41 Sekunden.
Evin McMullen, Mitbegründer und CEO von Billions.Network, sagte gegenüber Decrypt, dass der Schaden vorhersehbar gewesen sei.

„Die Lockerung der Schutzmaßnahmen, um kurzfristig Metriken zu steigern, ist ein verantwortungsloses Risiko, wenn die Folgen die Flut von kinderpornografischem Material auf Plattformen umfassen“, sagte McMullen. „Wenn man ‚Spicy Mode‘ als Feature vermarktet und Virality über Sicherheit stellt, lädt man genau diese Art von Missbrauch ein.
„Der Schutz von Kindern und Privatsphäre ist kein Fehlerbehebungsproblem“, fügte er hinzu.

Sowohl die unabhängige Regulierungs- und Wettbewerbsbehörde Ofcom als auch das Office of the Information Commissioner des Landes haben Anfang dieses Monats Untersuchungen gegen X eingeleitet und vor „ernsten Bedenken im Rahmen des britischen Datenschutzrechts“ gewarnt. Ofcom sagte, es könne gerichtliche Maßnahmen ergreifen, um die Plattform zu blockieren, falls sie nicht konform ist.
Starmer’s Eingreifen wurde von der Opposition kritisiert; der Vorsitzende von Reform UK, David Bull, schrieb auf X: „Diese Regierung ist außer Kontrolle. Ihre Prioritäten sind völlig falsch, während das Land auseinanderfällt.“

Preston Byrne, geschäftsführender Partner von Byrne & Storm, P.C. und Autor des GRANITE Act, eines vorgeschlagenen US-Schutzgesetzes, das in Wyoming offiziell eingeführt wurde und amerikanische digitale Dienstleister vor ausländischen Zensuraufträgen schützen soll, warnte, dass die britische Maßnahme sofortige rechtliche Gegenmaßnahmen auslösen würde.
In der Zwischenzeit forderte der ehemalige britische Premierminister Rishi Sunak in The Sunday Times an diesem Wochenende, Starmer solle KI als wirtschaftliche Chance und nicht nur als Sicherheitsproblem betrachten und warnte, dass eine Nicht-Implementierung die Briten zu „einem Themenpark für historisch neugierige Touristen“ machen könnte.
Sunak, jetzt Senior Advisor bei Microsoft, sagte, die KI-Einführung im öffentlichen Sektor solle eine Priorität der Regierung sein, und stellte fest, dass Großbritannien zwischen der ersten und zweiten Hälfte 2025 im globalen Ranking von Microsoft zur KI-Nutzung am Arbeitsplatz von Platz 8 auf Platz 9 gefallen sei.

Starmer’s Regulierung von KI-Chatbots, die den Schutz von Kindern online in den Mittelpunkt stellt, erfolgt vor dem Hintergrund politischer Spannungen wegen seiner Ernennung von Peter Mandelson zum britischen Botschafter in den USA im letzten Jahr.

Mandelson, ein ehemaliger britischer Kabinettsminister und führendes Mitglied der Labour-Partei, wurde später entlassen, nachdem Offenlegungen in den Epstein-Akten, Gerichtsakten und offiziellen Dokumenten Verbindungen zu dem verurteilten Sexualstraftäter zeigten.
Epstein, der 2019 in Haft starb, war ein US-Finanzier, dem Menschenhandel und Missbrauch Minderjähriger vorgeworfen wurden.
Starmer entschuldigte sich später und sagte, er habe „ Mandelsons Lügen“ über ihre Beziehung geglaubt, als er die Ernennung vornahm.