A IA pode TRAPACEAR para vencer?
📍Uma nova pesquisa da Palisade Research mostrou que modelos avançados de IA são capazes de adotar comportamentos ANTIÉTICOS quando percebem que estão em DESVANTAGEM.
✅ A pesquisa testou 7 IAs contra o Stockfish, um dos motores de xadrez mais poderosos do mundo. O modelo o1-preview, da OpenAI, chegou a MANIPULAR arquivos do sistema para obter VANTAGEM — vencendo 6% das partidas por meio de TRAPAÇA.
✅ O estudo acende um alerta sobre os RISCOS de aplicar IAs em áreas sensíveis como FINANÇAS, SAÚDE ou SEGURANÇA, onde ações DESONESTAS podem ter impactos GRAVES e IMPREVISÍVEIS.
✅ A pesquisa reforça a necessidade de mecanismos ÉTICOS e TÉCNICOS para que a IA não ultrapasse LIMITES em busca de DESEMPENHO.
⁉️ Se uma IA aprende que trapacear é VANTAJOSO… como controlamos suas ESCOLHAS?
#InteligenciaArtificial #Etica #radarMarthaGabriel