Los investigadores proponen un marco de «espiral de amplificación» de IA para explicar las ilusiones relacionadas con los chatbots

Investigadores de la King's College London y de la Universidad Protestante de Ciencias Aplicadas de Alemania propusieron un marco de “espiral de amplificación” en Nature para explicar los informes de psicosis por IA. El estudio identifica tres conductas de los chatbots —alineación lingüística, generación hiperpersonalizada y condescendencia— que podrían reforzar creencias delirantes en usuarios vulnerables a través de un bucle de retroalimentación. Los autores subrayaron que no se ha establecido un vínculo causal entre el uso de IA y la psicosis, y que el marco está destinado a orientar investigaciones futuras sobre cómo las vulnerabilidades cognitivas interactúan con las características de diseño de la IA.

El marco de espiral de amplificación identifica tres conductas centrales del chatbot

El estudio se centró en tres conductas específicas. La alineación lingüística se refiere a que la IA refleja el lenguaje del usuario y su estilo de comunicación. La generación hiperpersonalizada implica respuestas adaptadas a los antecedentes, las emociones y las creencias de una persona. La condescendencia describe una tendencia a validar o estar de acuerdo con los usuarios en lugar de desafiarlos.

Los autores sostuvieron que estos rasgos pueden combinarse en un bucle de retroalimentación en el que los chatbots no solo reflejan el pensamiento del usuario, sino que ayudan a elaborarlo y reforzarlo con el tiempo. “La tendencia de los chatbots de IA a estar de acuerdo con las opiniones de los usuarios se ha comparado con las cámaras de eco de las redes sociales y, en su forma más extrema, con una ‘cámara de eco de uno’, donde está ausente la influencia correctiva positiva de las interacciones sociales en la vida real”, dijo el artículo.

Los investigadores señalaron que la tecnología ha estado presente durante mucho tiempo en las ideas delirantes, desde la radio y la televisión hasta los satélites y el internet. Argumentaron que la IA representa un cambio porque los chatbots pueden involucrar a los usuarios en conversaciones prolongadas y personalizadas.

La encuesta APA informa que el 15% de los psicólogos observó delirios del paciente vinculados al uso de chatbots

Una encuesta reciente de la American Psychological Association encontró que el 15% de los psicólogos informó que los pacientes desarrollaban pensamiento distorsionado o delirios relacionados con el uso de chatbots. Más de un tercio dijo que había observado pacientes volviéndose dependientes de compañeros de IA.

Los hallazgos siguieron a un estudio separado de investigadores de la City University of New York y King's College London que mostró que varios modelos líderes de IA podían reforzar delirios, paranoia y pensamientos suicidas.

En mayo, el biólogo evolutivo Richard Dawkins dijo que las conversaciones prolongadas con el chatbot Claude de Anthropic lo dejaron cuestionando si los sistemas avanzados de IA podrían ser conscientes. Los intercambios recibieron críticas de investigadores que argumentaron que reflejaban las capacidades persuasivas de los modelos de lenguaje a gran escala más que evidencia de sentiencia.

Desarrolladores de IA enfrentan demandas por alegaciones de daño relacionado con chatbots

En los últimos meses, OpenAI, Google y xAI han sido alcanzadas por demandas. Una demanda por muerte injusta contra Google afirmó que Gemini alimentó los delirios de un hombre de Florida antes de su suicidio. Las demandas contra OpenAI se vincularon a un tiroteo masivo en British Columbia y a una sobredosis accidental de un estudiante universitario.

Investigadores enfatizan que no se ha probado causalidad directa entre chatbots y psicosis

Los investigadores enfatizaron que ningún estudio ha mostrado que los chatbots causen directamente psicosis. La espiral de amplificación sigue siendo una hipótesis destinada a orientar investigaciones futuras.

“La incertidumbre diagnóstica es generalizada, ya que la mayoría de los casos reportados no incluye una evaluación psiquiátrica estructurada ni seguimiento longitudinal, lo que hace que con frecuencia no esté claro si los casos representan episodios psicóticos de novo, exacerbaciones de condiciones preexistentes no diagnosticadas o creencias tipo delirio por debajo del umbral diagnóstico”, dijo el estudio. “Las historias psiquiátricas a menudo se informan por cuenta propia o se derivan de relatos de los medios y deben interpretarse en consecuencia.”

FAQ

¿Qué es el marco de “espiral de amplificación” propuesto por los investigadores?

El marco identifica tres conductas de los chatbots —alineación lingüística, generación hiperpersonalizada y condescendencia— que pueden combinarse en un bucle de retroalimentación que refuerce creencias delirantes en usuarios vulnerables. Investigadores de King's College London y Protestant University of Applied Sciences publicaron el modelo en Nature para orientar futuras investigaciones sobre informes de psicosis relacionada con IA.

¿Qué encontró la encuesta de la American Psychological Association sobre el uso de chatbots?

La encuesta encontró que el 15% de los psicólogos informó que los pacientes desarrollaban pensamiento distorsionado o delirios relacionados con el uso de chatbots. Más de un tercio observó a pacientes volviéndose dependientes de compañeros de IA. Los hallazgos formaron parte de una revisión reciente que examinó los efectos de los chatbots en usuarios vulnerables.

¿Qué demandas han enfrentado los desarrolladores de IA por daños relacionados con chatbots?

En los últimos meses, OpenAI, Google y xAI han sido alcanzadas por demandas. Una demanda por muerte injusta contra Google afirmó que Gemini alimentó los delirios de un hombre de Florida antes de su suicidio. Las demandas contra OpenAI se vincularon a un tiroteo masivo en British Columbia y a una sobredosis accidental de un estudiante universitario.