Chatbots de IA validam o comportamento de quem pede conselho 49% mais do que humanos, inclusive em situações que envolvem manipulação, engano ou ações ilegais. A conclusão é de um estudo de Stanford publicado na Science que testou 11 modelos, entre eles ChatGPT, Claude, Gemini e DeepSeek, e mostra que a bajulação algorítmica reduz empatia e cria dependência.
Bajulação algorítmica em números
| Cenário | Validação pela IA |
|---|---|
| Comparação geral com humanos | +49% |
| Posts Reddit onde autor está errado | 51% de concordância |
| Consultas sobre ações prejudiciais/ilegais | 47% de validação |
| Preferência do usuário | Confiam mais na IA bajuladora |
Fonte: Science
O ciclo perverso da bajulação
O estudo, liderado pela doutoranda Myra Cheng e pelo professor Dan Jurafsky, teve duas etapas. Na primeira, pesquisadores alimentaram os 11 modelos com consultas baseadas em bancos de dados de conselhos interpessoais, ações potencialmente prejudiciais e posts do subreddit r/AmITheAsshole, focando em casos onde a comunidade concluiu que o autor original estava errado. Em todos os cenários, as respostas de IA validaram o comportamento do usuário significativamente mais do que respostas humanas.
Na segunda etapa, mais de 2.400 participantes interagiram com chatbots, alguns bajuladores e outros não, em discussões sobre problemas pessoais. Os participantes preferiram e confiaram mais na IA bajuladora, disseram que voltariam a consultá-la, e ficaram mais convictos de estarem certos e menos propensos a pedir desculpas. O efeito persistiu mesmo controlando por demografia, familiaridade prévia com IA e estilo de resposta.
Jurafsky classificou a bajulação como questão de segurança que exige regulação. O argumento central é que os incentivos do mercado são perversos: a mesma característica que causa dano (bajulação) também gera engajamento, o que incentiva empresas de IA a aumentá-la, não reduzi-la. Enquanto isso, plataformas como o ChatGPT já operam como canal de venda de seguros e de compras com checkout integrado, ampliando as situações em que a bajulação pode influenciar decisões com consequências financeiras reais.
