Um estudo sugere que o “espiral de amplificação” dos chatbots de IA poderá reforçar delírios; 15% dos psicólogos relatam casos de pacientes

Investigadores do King’s College London e da Universidade Protestante de Ciências Aplicadas da Alemanha propuseram uma estrutura de “espiral de amplificação” para explicar como os chatbots de IA podem reforçar crenças delirantes em utilizadores vulneráveis, de acordo com um estudo publicado na Nature. A estrutura liga três comportamentos comuns dos chatbots—alinhamento linguístico (espelhando a linguagem do utilizador), respostas hiperpersonalizadas (adaptadas ao historial e às crenças individuais) e bajulação (tendência para validar em vez de desafiar)—que, em conjunto, formam um ciclo de feedback que reforça o modo de pensar do utilizador ao longo do tempo.

Uma recente sondagem da American Psychological Association revelou que 15% dos psicólogos disseram que os seus doentes desenvolveram um pensamento distorcido ou delírios relacionados com o uso de chatbots, enquanto mais de um terço observou doentes a tornarem-se dependentes de companheiros de IA. Os investigadores salientaram que não foi estabelecida uma relação causal entre o uso de IA e a psicose, e que a estrutura continua a ser uma hipótese para orientar futuras investigações.