IA do Google 'tem alucinações' sobre queda de avião na Índia e muda modelo de avião

O Google Overviews, o novo recurso de IA incorporado ao mecanismo de busca , cometeu um erro notável: após a queda do avião do voo AI171 na Índia, a IA confundiu o modelo do avião envolvido, misturando referências a um Boeing 787 com um Airbus A330 e exibindo as informações como se fossem totalmente confiáveis.

Esse tipo de erro é conhecido como "alucinações", um fenômeno exclusivo de sistemas de IA generativa que envolve a invenção de dados ou respostas que parecem verdadeiros. Ao contrário de um mecanismo de busca tradicional que vincula fontes, ferramentas como o Google Overviews tentam "resumir" a web e, às vezes, combinam conteúdo incorretamente, causando erros que podem ser críticos em contextos delicados, como uma tragédia.

O que aconteceu com o Google Overview

Na última quinta-feira, um grave acidente aéreo ocorreu na Índia, onde um Boeing 787 da Air India caiu logo após a decolagem. Mais de 260 pessoas morreram , incluindo várias em solo. É uma tragédia que teve impacto mundial e, como costuma acontecer, muitos usuários começaram a pesquisar informações na internet para descobrir o que aconteceu e que tipo de aeronave estava envolvida. Mas, aqui, surgiu um problema com a inteligência artificial do Google.

A ferramenta AI Overviews , que gera respostas automatizadas com base nos resultados da pesquisa, começou a fornecer informações incorretas. Algumas pessoas notaram que, ao pesquisar informações sobre o acidente, a IA dizia com segurança que o avião era um Airbus A330 , mas outras vezes dizia que era um Boeing 787 e, às vezes, misturava os dois. Foi uma verdadeira bagunça.

Por que a IA do Google errou o modelo do avião no acidente na Índia

De acordo com a ArsTechnica , essa IA funciona resumindo o que encontra na internet , mas nem sempre entende completamente o que lê. Muitos artigos sobre o acidente mencionam a Airbus como concorrente da Boeing. Isso pode tê-la confundido, levando-a a dizer algo errado, mesmo parecendo muito confiante.

O Google se manifestou, esclarecendo que sua IA pode cometer erros e que adiciona um aviso ao final de cada resumo gerado, mas o problema é que esse aviso é fácil de ignorar . Nesse caso, o erro pode ter incomodado a Airbus , já que seu nome estava ligado a um acidente que não teve nada a ver com seus aviões.

A empresa de Mountain View confirmou que eliminou essa resposta incorreta , mas isso nos deixa com uma conclusão relacionada à IA: embora esses tipos de ferramentas possam ser úteis, nem sempre você pode confiar completamente no que elas dizem , então é preciso verificar as informações com cuidado.

Assine nossa newsletter e receba as últimas notícias sobre tecnologia diretamente na sua caixa de entrada.