A IA é realmente NEUTRA?
📍 Um estudo do MIT indica que Chatbots como GPT-4, Claude 3 Opus e Llama 3 tendem a entregar respostas de MENOR QUALIDADE e a RECUSAR mais perguntas quando os usuários têm menor ESCOLARIDADE, menor PROFICIÊNCIA em inglês ou estão fora dos EUA.
Quando esses FATORES se COMBINAM, o EFEITO se INTENSIFICA:
✅ No Claude 3 Opus, 11% das perguntas de usuários menos ESCOLARIZADOS e não NATIVOS foram RECUSADAS.
✅ E 43,7% das respostas direcionadas a pessoas com menor escolaridade tiveram tom CONDESCENDENTE ou PATERNALISTA, contra menos de 1% entre usuários altamente escolarizados.
✅ O estudo também identificou DESEMPENHO inferior para usuários do Irã em comparação aos dos EUA.
Se modelos aprendem com DADOS HUMANOS, também podem herdar VIESES humanos.
E quando escalamos esses sistemas globalmente, o risco é amplificar DESIGUALDADES justamente entre quem mais poderia se BENEFICIAR da tecnologia.
