A inteligência artificial (IA) está se tornando cada vez mais importante e já está presente em muitos aspectos do nosso dia a dia – mas será que a IA percebe o mundo e pensa sobre ele da mesma forma que nós, humanos? Para responder a essa pergunta, pesquisadores do Instituto Max Planck e membros da Universidade Justus Liebig de Giessen, Florian Mahner, Lukas Muttenthaler e Martin Hebart, investigaram se a IA reconhece objetos de forma semelhante aos humanos. Eles desenvolveram uma nova abordagem que permite identificar e comparar claramente as principais dimensões às quais humanos e IA prestam atenção ao observar objetos.
“Essas dimensões representam diferentes propriedades dos objetos, que variam de aspectos puramente visuais, como ‘redondo’ ou ‘branco’, a propriedades mais semânticas, como ‘relacionado a animais’ ou ‘relacionado ao fogo’, com muitas dimensões contendo elementos visuais e semânticos”, explica Florian Mahner, autor principal do estudo. “Nossos resultados revelam uma diferença importante: enquanto os humanos se concentram principalmente em dimensões relacionadas ao significado — o que um objeto é e o que sabemos sobre ele —, os modelos de IA dependem mais de dimensões que capturam propriedades visuais, como a forma ou a cor do objeto. Chamamos esse fenômeno de ‘preferência visual’ em IA. Mesmo quando a IA parece reconhecer objetos da mesma forma que os humanos, ela frequentemente emprega estratégias fundamentalmente diferentes. Essa diferença é significativa porque sugere que os sistemas de IA, embora se comportem de maneira semelhante aos humanos, podem estar pensando e tomando decisões de maneira muito diferente, o que afeta o quanto podemos confiar neles.”
Para estudar o comportamento humano, os pesquisadores utilizaram aproximadamente cinco milhões de julgamentos de "elemento discrepante" disponíveis publicamente, abrangendo 1.854 imagens de objetos diferentes. Por exemplo, um participante visualizava imagens de um violão, um elefante e uma cadeira e era questionado sobre qual objeto não correspondia. Os pesquisadores então utilizaram diversas redes neurais profundas (DNNs), capazes de reconhecer imagens de forma análoga aos participantes humanos, e coletaram julgamentos de similaridade para imagens dos mesmos objetos, tal como ocorre com humanos. Em seguida, aplicaram o mesmo algoritmo para identificar as características-chave dessas imagens — denominadas pelos pesquisadores de "dimensões" — que fundamentam as decisões de identificação de elementos discrepantes. Ao tratar a rede neural de forma análoga aos humanos, garantiu-se uma comparabilidade direta entre as duas. "Quando analisamos as dimensões que descobrimos nas redes neurais profundas, percebemos que eram muito semelhantes às dos humanos", explica Martin Hebart, autor sênior do estudo. “No entanto, quando comparamos diretamente as dimensões de concordância entre humanos e redes neurais profundas, descobrimos que a rede apenas aproximava essas dimensões. Em uma dimensão relacionada a animais, muitas imagens de animais não foram incluídas e, inversamente, muitas imagens que não eram de animais foram incluídas. Isso é algo que teríamos perdido usando técnicas padrão.” Os cientistas esperam que pesquisas futuras usem abordagens semelhantes que comparem diretamente humanos e IA para entender melhor como a IA percebe o mundo. “Nossa pesquisa fornece um método claro e interpretável para investigar essas diferenças, o que nos ajuda a entender melhor como a IA processa informações em comparação com os humanos”, diz Martin Hebart. “Esse conhecimento não só pode nos ajudar a aprimorar a tecnologia de IA, como também fornece informações valiosas sobre a cognição humana.”
publicação original:
Florian P. Mahner, Lukas Muttenthaler, Umut Güçlü, Martin N. Hebart:
Dimensões subjacentes ao alinhamento representacional de redes neurais profundas com humanos.Inteligência artificial da natureza
Leia também
IA oferece oportunidades para empresas em proteção climática | Pugnalom
Inteligência Artificial: Öko-Institut estima aumento de demanda de energia em 200% | Pugnalom
