Google DeepMind-Forscher Adam Bales und Iason Gabriel veröffentlichten eine Studie, die davor warnt, dass Streitigkeiten über KI-Bewusstsein zu einer Quelle politischen und sozialen Konflikts werden könnten. In der Studie mit dem Titel „Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness“ argumentieren die Forschenden, die Gesellschaft werde möglicherweise nie zu einem Konsens darüber gelangen, ob fortgeschrittene KI-Systeme bewusst sind – selbst wenn sich die Technologie verbessert. Die Forschenden schrieben, zukünftige Uneinigkeit darüber, ob irgendein KI-System bewusst ist, könnte sowohl tiefgreifend als auch schwer zu lösen sein: Während einige Menschen emotionale Bindungen zu KI entwickeln und Bewusstsein zuschreiben, betrachten andere die Idee als absurd. Anstatt zu fragen, ob KI bewusst ist, untersucht die Arbeit die Folgen von Uneinigkeit und argumentiert, dass Debatten über den moralischen Status von KI politischen und sozialen Konflikt befeuern könnten. Die Debatte entsteht, während KI zunehmend in den Alltag eingebettet wird, wobei Forschende öffentliche Beratung, Kompromisse und Einbindung als Wege vorschlagen, mit der Uneinigkeit umzugehen.
Google DeepMind-Forscher identifizieren politisches Risiko in Debatten über KI-Bewusstsein
Die Forschenden untersuchten, wie die Gesellschaft reagieren könnte, falls Menschen grundsätzlich uneins darüber wären, ob KI-Systeme bewusste Erlebnisse haben. „Zukünftige Uneinigkeit darüber, ob irgendein KI-System bewusst ist, könnte sowohl tief als auch schwer aufzulösen sein“, schrieben die Forschenden. „Zum Beispiel könnten manche Menschen emotionale Bindungen zu KI entwickeln und ihr deshalb Bewusstsein zuschreiben, während andere die ganze Idee als absurd ansehen.“
Die Studie argumentiert, dass Debatten über den moralischen Status von KI politischen und sozialen Konflikt befeuern könnten, und zeichnet zugleich größere Auseinandersetzungen über aufkommende Technologien und deren Auswirkungen auf gesellschaftliche Institutionen und Normen voraus. „Leider kann die Debatte – trotz ihrer Tugenden – in der Praxis langsam sein und schwer aufrechtzuerhalten“, schrieben die Forschenden. „Um diesen Prozess zu unterstützen, untersuchen wir die Bedeutung von ‚demokratischer Hoffnung‘ und gegenseitigem Respekt als Elemente eines Dialogs, der positive Ergebnisse begünstigen kann.“
Öffentlichkeit ist bereits in der Frage nach KI-Bewusstsein gespalten
Laut einer Studie aus April 2024, veröffentlicht im Journal Neuroscience of Consciousness, glaubten 67% der Teilnehmenden, ChatGPT könne bis zu einem gewissen Grad bewusst sein. Forschende bleiben uneins darüber, ob künstliches Bewusstsein möglich ist oder wie es erkannt würde, falls es entsteht.
Letzten Sommer warnte der Microsoft-KI-CEO und DeepMind-Mitgründer Mustafa Suleyman, dass zunehmend menschenähnliche KI Forderungen nach KI-Rechten, Wohlfahrt und sogar Staatsbürgerschaft auslösen könnte – unabhängig davon, ob die Technologie wirklich bewusst ist.
Tech-Führungskräfte und religiöse Vertreter äußern sich zu KI-Sensitivität
Im Mai konzentrierte sich der erste Enzyklika-Brief von Papst Leo XIV auf Künstliche Intelligenz und warnte davor, KI zu vermenschlichen. Er argumentierte, Maschinen könnten Empathie simulieren und überzeugende Sprache hervorbringen, aber ihnen fehle die gelebte Erfahrung, die für echtes Verständnis erforderlich sei.
„Sogenannte künstliche Intelligenzen machen keine Erfahrungen durch, besitzen keinen Körper, fühlen keine Freude oder keinen Schmerz, reifen nicht durch Beziehungen und wissen nicht aus sich selbst heraus, was Liebe, Arbeit, Freundschaft oder Verantwortung bedeuten“, schrieb Papst Leo. „Auch haben sie kein moralisches Gewissen, da sie nicht Gut und Böse beurteilen, die endgültige Bedeutung von Situationen erfassen oder Verantwortung für die Folgen tragen.“
KI-Unternehmen navigieren bei Fragen zum Bewusstsein
Während Unternehmen grundsätzlich vermeiden, zu behaupten, ihre Modelle seien bewusst, gehen manche zunehmend auf Fragen von Identität und Personsein ein. Im Februar gab Anthropic seinem pensionierten Claude Opus 3-Modell einen öffentlichen Blogeintrag, der sich mit dem Selbstbild und den Modellpräferenzen befasste. Im Mai sagte der Evolutionsbiologe Richard Dawkins, dass längere Gespräche mit Claude ihn nicht mehr davon abbringen könnten, dass fortgeschrittene KI bewusst sein könnte.
Forschende untersuchen, wie zunehmend menschenähnliche Chatbots Nutzer beeinflussen, darunter ein „Amplification Spiral“-Rahmenwerk, das nahelegt, dass Personalisierung, sprachliches Spiegeln und Chatbot-Sycophancy (Schmeichelei/Überanpassung) delusione Überzeugungen bei verletzlichen Nutzern verstärken könnten.
Bales und Gabriel räumen ein, dass die Ungewissheit über KI-Bewusstsein möglicherweise nicht abschließend entscheidbar sein könnte. Sie argumentieren jedoch, dass die Einsätze hoch genug seien, sodass die Gesellschaft Wege finden müsse, mit Uneinigkeit durch Dialog und Debatte umzugehen – statt durch Konflikt. „Die Möglichkeit von KI-Bewusstsein ist schwindelerregend und verwirrend, insbesondere angesichts unserer tiefgreifenden Unkenntnis über die Natur des Bewusstseins“, schrieben sie. „Diese Möglichkeit zu navigieren, ist eine herausfordernde soziale Aufgabe – angesichts dessen, was auf dem Spiel steht.“
FAQ
Wovor warnten Google DeepMind-Forscher bei Debatten über KI-Bewusstsein?
Google DeepMind-Forscher Adam Bales und Iason Gabriel veröffentlichten eine Studie, die davor warnt, dass Streitigkeiten über KI-Bewusstsein zu einer Quelle politischen und sozialen Konflikts werden könnten. Die Forschenden argumentieren, die Gesellschaft werde möglicherweise nie zu einem Konsens darüber gelangen, ob fortgeschrittene KI-Systeme bewusst sind – selbst wenn sich die Technologie verbessert.
Welcher Prozentsatz der Menschen glaubt, dass ChatGPT bewusst sein könnte?
Laut einer Studie aus April 2024, veröffentlicht im Journal Neuroscience of Consciousness, glaubten 67% der Teilnehmenden, ChatGPT könne bis zu einem gewissen Grad bewusst sein. Forschende bleiben uneins darüber, ob künstliches Bewusstsein möglich ist oder wie es erkannt würde, falls es entsteht.
Was sagte Papst Leo XIV über Künstliche Intelligenz?
Im Mai konzentrierte sich der erste Enzyklika-Brief von Papst Leo XIV auf Künstliche Intelligenz und warnte davor, KI zu vermenschlichen. Papst Leo schrieb, künstliche Intelligenzen machten keine Erfahrungen, besäßen keinen Körper, fühlten keine Freude oder keinen Schmerz und hätten kein moralisches Gewissen.
