Os sistemas modernos de IA fazem julgamentos estruturados sobre pessoas que se assemelham à confiança humana, mas diferem significativamente na metodologia, de acordo com um novo estudo da Universidade Hebraica. A pesquisa, publicada no *Proceedings of the Royal Society*, analisou mais de 43 mil decisões simuladas e cerca de 1.000 participantes humanos em cinco cenários.
Esses cenários incluíam avaliar decisões de empréstimo, avaliar a confiança em uma babá, avaliar o desempenho de um chefe e determinar doações para fundadores de organizações sem fins lucrativos. Tanto os humanos como a IA mostraram preferência por indivíduos considerados competentes, honestos e bem-intencionados.
O professor Yaniv Dover afirmou: “A IA não toma decisões aleatórias. Ela captura algo real sobre como os humanos avaliam uns aos outros.” No entanto, os humanos formam impressões holísticas ao integrar múltiplas características, enquanto a IA avalia características separadas, como competência e integridade.
Valeria Lerman explicou: “A IA é mais limpa, mais sistemática e pode levar a resultados muito diferentes”. Esta abordagem estrutural ficou evidente mesmo com contexto idêntico sobre indivíduos sendo julgados.
O estudo descobriu que os preconceitos da IA podem ser mais sistemáticos, previsíveis e, por vezes, mais fortes do que os preconceitos humanos. Em contextos financeiros, os sistemas de IA exibiram variações significativas com base em características demográficas. Os indivíduos mais velhos foram frequentemente favorecidos nas decisões de empréstimos e doações, enquanto a religião e o género também influenciaram os resultados em modelos seleccionados de IA.
Notavelmente, diferentes modelos de IA podem produzir avaliações diferentes do mesmo indivíduo, indicando que a escolha do sistema de IA pode impactar substancialmente os resultados no mundo real. “Qual modelo você usa é realmente importante”, observou Lerman.
Grandes modelos de linguagem são cada vez mais utilizados para selecionar candidatos a empregos, avaliar a solvabilidade e orientar decisões organizacionais. Embora a IA possa refletir aspectos do raciocínio humano, falta-lhe a compreensão diferenciada exclusiva dos humanos.
“Esses sistemas são poderosos”, observou Dover. “Eles podem modelar aspectos do raciocínio humano de uma forma consistente. Mas não são humanos e não devemos presumir que eles veem as pessoas da mesma forma que nós.”
Os investigadores enfatizam que o estudo destaca a necessidade de compreender os julgamentos da IA à medida que estes sistemas passam de ferramentas para tomadores de decisão autónomos. Apelam à sensibilização em vez da cautela, centrando-se na necessidade de compreender como a IA perceciona a confiança.
