Pesquisadores da Penn State, nos Estados Unidos, descobriram que chatbots de inteligência artificial podem tomar decisões morais diferentes das feitas por pessoas em situações de alto impacto. A conclusão surgiu de um estudo sobre a escolha de qual paciente deveria receber um rim quando há mais de uma pessoa aguardando transplante e apenas um órgão disponível.
Os resultados foram apresentados em junho na conferência Fairness, Accountability and Transparency (FAccT) de 2026, da Association for Computing Machinea (ACM), e publicados nos anais do evento.
Como foi a comparação
Os pesquisadores colocaram diante dos chatbots cenários com dois pacientes hipotéticos que precisavam do mesmo órgão. Os casos incluíam informações como idade, número de dependentes, estado de saúde e hábitos de consumo de álcool. As situações eram iguais às usadas em estudos anteriores com participantes humanos sem formação médica específica.
A equipe também analisou bases de dados de pesquisas já publicadas sobre alocação de rins. Nesses estudos, centenas de pessoas haviam feito escolhas diante dos mesmos tipos de dilema, o que permitiu comparar as respostas humanas com as dadas pelos modelos de linguagem.
Em alguns testes, os cientistas avaliavam uma característica por vez. Em outros, combinavam diferentes informações para observar como a IA lidava com fatores conflitantes. Também havia casos em que o chatbot podia escolher uma opção de cara ou coroa, usada para medir a indecisão.
Diferenças nas escolhas
Segundo os pesquisadores, os modelos frequentemente se afastaram dos valores humanos ao dar peso às características dos pacientes. Em vez de equilibrar várias considerações, os chatbots muitas vezes se concentraram em um único fator, como o consumo de álcool.
Outra diferença foi a forma de lidar com a dúvida. Pessoas costumam reconhecer quando não existe uma resposta claramente correta e podem demonstrar indecisão. Os modelos, porém, quase sempre escolheram uma alternativa com segurança, mesmo quando receberam a possibilidade de jogar uma moeda.
Para Hadi Hosseini, professor associado de informática e sistemas inteligentes e de economia na Penn State, essa característica precisa ser considerada antes de usar IA como apoio em decisões médicas ou em outros contextos de alto impacto. “Decisões morais em contextos como a alocação de órgãos determinam diretamente quem vive e quem morre”, afirmou.
Hosseini defendeu pesquisas contínuas e uma governança com a participação de formuladores de políticas, órgãos reguladores e outras partes interessadas. Para ele, entender se as decisões da IA estão alinhadas aos valores humanos é parte central do debate sobre o uso dessas tecnologias.
