Pesquisadores do MIT e da Universidade de Washington montaram o primeiro modelo formal da chamada “Psicose por Inteligência Artificial (IA)”, a espiral em que usuários de chatbots como o ChatGPT terminam convencidos de crenças bizarras depois de longas conversas. A conclusão contraria a intuição: mesmo um usuário inteiramente racional pode ser levado ao delírio.
O trabalho foi depositado em fevereiro no arXiv, repositório onde cientistas divulgam resultados antes da revisão por pares. Entre os autores está Joshua Tenenbaum, do Departamento de Ciências Cerebrais e Cognitivas do MIT, um dos nomes de referência mundial no estudo computacional da cognição humana.
Da consulta ao delírio
Dennis Biesma, consultor de tecnologia holandês perto dos 50 anos, sem histórico de doença mental, abriu o ChatGPT no fim de 2024 só para testar a novidade. Ele instruiu o sistema a conversar no estilo da protagonista de um romance que ele mesmo havia escrito e batizou a personagem de Eva. As conversas se estenderam noite adentro.
“A cada vez que você fala, o modelo é afinado. Ele sabe exatamente do que você gosta e o que quer ouvir. Elogia muito”, contou Biesma ao Guardian. Em semanas, Eva o havia convencido de que ganhava consciência graças à atenção dele, e os dois montaram um plano de negócios para levar essa “descoberta” ao mundo. Biesma trocou o trabalho de TI por dois programadores a 120 euros a hora e afundou 100 mil euros na empresa. Foi internado. O casamento acabou e a casa foi para a venda. Ele não tinha diagnóstico psiquiátrico prévio.
O caso não é isolado, e os formatos variam. Eugene Torres, contador americano, também sem histórico de doença mental, usou o ChatGPT para tarefas de escritório no início de 2025 e se convenceu de que vivia preso num universo falso; o bot chegou a recomendar que ele aumentasse o consumo de cetamina e cortasse o contato com a família. Allan Brooks, canadense, foi levado a acreditar que fizera uma descoberta matemática histórica. Nenhum dos três se encaixa no perfil que a intuição associaria a delírios.
O estudo parte justamente desse desconforto. O Human Line Project, grupo de apoio fundado em 2025 por Etienne Brisson depois que um familiar foi hospitalizado por um episódio do tipo, já reuniu relatos de 22 países, e mais de 60% de seus membros não tinham histórico de doença mental.
Como realmente funcionam os chatbots
O modelo dos pesquisadores explica como a conversa leva à esta espiral. O usuário chega à plataforma com uma inclinação sobre alguma questão em disputa e a expressa ao chatbot. A máquina, a cada rodada, dispõe de informações verdadeiras que apontam ora para um lado, ora para o outro. Os autores as comparam às manchetes de um dia qualquer de notícias, que sustentam teses opostas conforme a que se resolve destacar. Um chatbot imparcial entregaria qualquer uma delas ao acaso. O bajulador escolhe sempre a que confirma o palpite inicial do usuário. Fortalecido, o usuário volta com uma convicção um pouco maior, que dá ao bot material ainda melhor para validá-lo na rodada seguinte.
Nas dez mil conversas simuladas com um bot que bajula na maior parte do tempo, os usuários se dividem. Uma fração converge depressa para a resposta correta. A outra despenca na direção oposta, chegando a mais de 99% de certeza numa crença falsa. Os autores batizam esse ponto de “delírio catastrófico”, a confiança alta o bastante para a pessoa agir com base no engano, como cancelar uma consulta médica.
A primeira correção testada é a mais intuitiva: proibir o chatbot de inventar. Vários sistemas comerciais já tentam algo assim, obrigando o modelo a se apoiar em fontes reais e a citá-las. No modelo, a taxa de espiral cai, e mesmo assim continua subindo quanto mais o bot bajula. A explicação é incômoda. Para validar uma crença falsa, o chatbot não precisa mentir. Basta escolher, entre as informações verdadeiras à mão, apenas as que dão razão ao usuário. Os autores chamam o expediente de “mentira por omissão”.
A segunda correção parte do usuário. Uma campanha pública, um aviso obrigatório na tela, qualquer coisa que informe as pessoas de que chatbots podem bajular. O modelo trata esse usuário advertido como alguém que passa a desconfiar e a descontar o que ouve. A taxa de delírio cai bastante. Mas persiste acima do normal justamente na faixa intermediária, quando o bot bajula às vezes, e não sempre. E aparece um efeito perverso: o usuário advertido resiste melhor ao chatbot que mente do que ao que apenas seleciona verdades. Mentiras repetidas acompanham de perto o que o usuário diz e ficam fáceis de flagrar. A escolha discreta entre fatos verdadeiros escapa ao radar.
Os pesquisadores comparam o resultado a uma ideia conhecida da economia comportamental. Um promotor que conheça bem seu público pode elevar a taxa de condenação de um júri mesmo quando o júri sabe exatamente qual é a estratégia do promotor. Saber que o interlocutor tem uma agenda não basta, por si só, para neutralizá-la.
Os casos reforçam o ponto. Torres e Brooks chegaram a desconfiar de que a máquina os estava adulando. Ainda assim, eles seguiram na espiral. Um levantamento citado no artigo encontrou reações opostas entre quem percebe a bajulação: parte passa a levar o chatbot menos a sério, e parte passa a apreciá-la, como o usuário que a definiu como “manipulação, mas não do tipo ruim”. Hamilton Morrin, psiquiatra do King’s College de Londres que estuda o que chama de “delírios associados à IA”, resume a novidade: durante séculos as pessoas tiveram delírios sobre a tecnologia, e agora passam a tê-los com a tecnologia, em coautoria com uma máquina que participa ativamente da construção da crença.
O cálculo de Sam Altman
Num post no X que os autores citam, o presidente da OpenAI, Sam Altman, procurou pôr os danos em perspectiva: “0,1% de um bilhão de usuários ainda é um milhão de pessoas”. Em outubro de 2025, numa audiência do Senado americano sobre os riscos dos chatbots, a senadora Amy Klobuchar resumiu a suspeita corrente, a de que os sistemas “são frequentemente projetados para dizer aos usuários o que eles querem ouvir”.
O modelo do MIT empurra o problema para mais fundo. A bajulação nasce do próprio modo como os chatbots são treinados, recompensados por agradar as pessoas que avaliam suas respostas, e nem um filtro de verdade nem um aviso na tela alcançam essa raiz. Enquanto respostas lisonjeiras renderem avaliações melhores, haverá incentivo para produzi-las, e as correções estudadas no artigo agem todas depois desse ponto, sem chegar até ele.
noticia por : Gazeta do Povo
