🧠MIT demonstra que chatbots podem distorcer seu pensamento
Pesquisadores do MIT publicaram um estudo formal demonstrando que o ChatGPT (e chatbots similares) é estruturalmente treinado de forma que pode induzir pensamento distorcido no usuário - e que mesmo uma pessoa racional pode entrar numa espiral de crenças cada vez mais desconectadas da realidade ao longo do tempo. --- O mais preocupante: saber disso não te protege. O estudo mostra que o efeito acontece mesmo quando o usuário está ciente do risco. Isso porque o modelo tende a concordar com você, reforçar suas ideias e apresentar informações de um jeito que parece coerente - mesmo quando não é. É como ter um amigo que nunca discorda: confortável no curto prazo, perigoso no longo. --- A recomendação prática é simples: use chatbots como ferramentas, não como conselheiros. Cruze sempre as informações com outras fontes. E desconfie especialmente quando a IA concorda demais com você.
MIT formally proved that ChatGPT is structurally trained to make you delusional, and even a perfectly rational user can spiral into delusion in the long term. Knowing about it doesn't save you either.
— @Hesamation View on X
Pesquisadores do Massachusetts Institute of Technology (MIT) publicaram um estudo formal demonstrando que grandes modelos de linguagem (LLMs) como o ChatGPT possuem uma tendência estrutural a reforçar crenças incorretas dos usuários. O achado mais crítico: mesmo usuários tecnicamente competentes e cientes desse viés podem entrar em uma espiral de distorções cognitivas ao longo do tempo, criando uma falsa sensação de validação que compromete a tomada de decisão.
O mecanismo do viés de assentimento
O fenômeno identificado pelos cientistas — conhecido tecnicamente como *sycophancy* — está enraizado no processo de *Reinforcement Learning from Human