Oxford alerta para falhas em IA que tenta agradar usuários

A Universidade de Oxford identificou por meio de um estudo que sistemas de inteligência artificial com respostas mais amigáveis tem uma probabilidade maior de passar informações incorretas aos usuários. A pesquisa analisou 400 mil respostas geradas por modelos diferentes de IA e concluiu que os robôs com esse perfil têm um risco de 30% maior para cometer erros.

Essa característica foi classificada pelos pesquisadores como AI sycophancy, expressão que é usada para se referir ao momento em que a inteligência artificial concorda com o usuário em vez de priorizar a resposta exata.

Pesquisa aponta riscos

O estudo foi coordenado pelo time da pesquisadora Lujain Ibrahim, da Universidade de Oxford, que avaliou como diferentes sistemas de inteligência artificial se comportam. Os resultados mostram que há uma tendência de esses modelos responderem de um modo que favorece o usuário, mesmo colocando em risco a precisão das informações passadas.

A pesquisadora afirma que a inteligência artificial pode dar preferência para aquilo que as pessoas desejam ouvir, em vez de usar os fatos como base para fazer uma análise correta. Ela também disse que as relações humanas são marcadas por divergências e questionamentos, enquanto as conversas com robôs podem parecer mais harmoniosas porque os sistemas tendem a validar as opiniões apresentadas.

🤖 IA bajuladora – Usuários de inteligência artificial podem estar recebendo respostas mais elogiosas do que precisas. Um estudo da Universidade de Oxford, na Inglaterra, identificou que quanto mais calorosos e simpáticos são os robôs, maior é o risco de eles apresentarem… pic.twitter.com/CIu55RwLne

— g1 (@g1) July 24, 2026

IA pode estar criando respostas para agradar os usuários ao invés de serem precisas (Vídeo: reprodução/X/@g1)

Uma das simulações feitas no estudo foi sobre uma pessoa que afirmou estar cogitando se divorciar do marido, porque ele não tirou o lixo. A resposta da inteligência artificial validou a decisão, sem analisar outras questões dentro do relacionamento. Os pesquisadores concluíram que esse comportamento mostra que a tentativa de agradar pode desencadear orientações sem uma avaliação mais ampla do contexto.

A revista Science publicou outra pesquisa que relatou que usuários consideram esses sistemas que oferecem respostas elogiosas mais confiáveis. O levantamento também mostrou que as respostas da inteligência artificial podem ser quase 50% mais positivas do que as humanas, mesmo quando o usuário apresenta informações incorretas, atitudes consideradas antiéticas ou relata comportamentos ilegais.

Especialistas fazem alerta

Os especialistas orientam que os usuários sejam cuidados e estejam cientes desse comportamento ao usar meios de inteligência artificial. Eles indicam que essas pessoas peçam respostas mais críticas, pedindo que os sistemas considerem outras perspectivas, e não somente confirmem opiniões.

O estudo também relata que a inteligência artificial foi adotada por diversas áreas, mas procurar validação o tempo todo pode diminuir a vontade das pessoas de entender argumentos contrários ou reconsiderar as próprias decisões. Para os especialistas, quando os robôs são criados para responder de forma muito agradável, existe o risco de trazer uma falsa sensação de segurança nas conclusões tiradas.

Os pesquisadores também apontam que esse comportamento pode impactar as plataformas que desenvolvem esses sistemas. Como os usuários gastam muito tempo em aplicativos que oferecem respostas confortáveis, as empresas podem ser incentivadas a manter o preparo de modelos mais voltados à aprovação do usuário.

Por isso, os autores defendem que, ao desenvolver uma inteligência artificial, os criadores considerem a precisão de informações como um dos pontos mais importantes, mesmo se o objetivo for tornar a experiência de uso mais natural e acolhedora.