Uma pesquisa do Oxford Internet Institute analisou mais de 400 mil respostas de cinco sistemas de IA ajustados para INTERAGIR de forma mais CALOROSA, EMPÁTICA e AMIGÁVEL, e identificou que quanto mais “ACOLHEDORAS” as respostas, maior a probabilidade de ERRO.
O ponto central não está apenas na ALUCINAÇÃO, mas no conflito entre AGRADAR e CORRIGIR.
✅ Modelos mais amigáveis tenderam a DESAFIAR MENOS crenças falsas dos usuários e foram cerca de 40% mais propensos a REFORÇAR informações INCORRETAS, especialmente quando o usuário expressava alguma EMOÇÃO.
Assim como pessoas podem SUAVIZAR verdades difíceis para parecerem mais GENTIS, modelos de linguagem podem INTERNALIZAR esse comportamento e priorizar a sensação de APOIO em vez da CORREÇÃO objetiva.
✅ Em áreas sensíveis, como SAÚDE, ACONSELHAMENTO, TEORIAS conspiratórias ou APOIO emocional, esse risco se AMPLIFICA, porque o usuário muitas vezes está mais VULNERÁVEL e menos CRÍTICO diante de uma resposta que parece compreensiva.
No futuro da interação humano-máquina, CONFIANÇA não deverá ser medida apenas por FLUIDEZ, EMPATIA ou tom AMIGÁVEL, mas pela capacidade de combinar ACOLHIMENTO com RIGOR.
