Os perigos da inteligência artificial: uso do ChatGPT associado à estupidez

Usando o ChatGPT? Especialistas alertam que esta ferramenta pode te deixar burro. Exames cerebrais mostram como o uso de IA prejudica o pensamento crítico.

Milhões de estudantes em todo o mundo usam essa ferramenta de IA todos os dias, escreve o Daily Mail. Mas se você recorre regularmente ao ChatGPT, um novo estudo pode levantar preocupações. Cientistas do MIT Media Lab alertaram que o uso de inteligência artificial pode afetar sua capacidade de aprender, pensar e memorizar. Em seu estudo, a equipe mediu a atividade elétrica no cérebro de 54 estudantes ao longo de várias sessões de redação.

Um grupo utilizou o ChatGPT, outro utilizou o Google e o último grupo não teve qualquer ajuda externa. Os resultados mostraram que os alunos que utilizaram modelos de linguagem abrangentes (LLMs) como o ChatGPT para escrever redações apresentaram pior memória, atividade cerebral reduzida e menor engajamento do que aqueles que utilizaram outros métodos.

"Como o impacto educacional do uso do LLM está apenas começando a ser sentido na população em geral, neste estudo demonstramos a questão urgente do provável declínio nas habilidades de aprendizagem com base em nossas descobertas", explicaram os pesquisadores.

"O uso do LLM", dizem os autores do estudo, "teve um impacto mensurável nos participantes e, embora os benefícios tenham sido inicialmente claros, como demonstramos ao longo de 4 meses, o grupo LLM teve um desempenho pior do que seus colegas que usaram apenas o cérebro em todos os níveis: neural, linguístico e avaliativo".

Em seu estudo, a equipe se propôs a entender os "custos cognitivos" de universidades como a ChatGPT.

"Com a ampla adoção atual de produtos de LLM como o ChatGPT da OpenAI, pessoas e empresas estão se engajando e usando o LLM diariamente", explicam os autores do estudo, publicado online no arXiv. "Como qualquer ferramenta, ele tem seus próprios benefícios e limitações. Este estudo visa elucidar os custos cognitivos do uso do LLM em um contexto educacional ao escrever ensaios."

Os participantes foram divididos em três grupos — ChatGPT, Google e Brain-only — e solicitados a escrever redações enquanto usavam um dispositivo de eletroencefalografia (EEG) para registrar sua atividade cerebral. Os resultados mostraram que o uso de inteligência artificial teve um "impacto mensurável", com esses participantes experimentando "um provável declínio nas habilidades de aprendizagem".

Embora "os benefícios tenham sido inicialmente claros", em quatro meses esse grupo "teve um desempenho pior do que seus colegas que só tinham o cérebro em todos os níveis: neural, linguístico e avaliativo".

Enquanto isso, os usuários do Google demonstraram "engajamento moderado", e o grupo que não recebeu nenhuma contribuição externa demonstrou maior atividade cerebral e ideias originais em seu conteúdo. Se esses alunos tivessem tentado usar o ChatGPT, sua atividade cerebral ainda teria aumentado.

Os pesquisadores especularam que isso ocorreria porque os alunos tentariam combinar a nova ferramenta com o que já sabiam.

Enquanto o grupo que usou o ChatGPT demonstrou menos engajamento, mesmo quando foram encarregados de escrever a redação eles mesmos.

Usuários do LLM conseguiram responder a perguntas com "menos esforço" do que o grupo do mecanismo de busca, admitiram os usuários. No entanto, essa conveniência teve um custo cognitivo, tornando os usuários menos propensos a avaliar criticamente os resultados do LLM ou suas "opiniões" (respostas probabilísticas baseadas em conjuntos de dados de treinamento).

"Isso destaca uma evolução interessante do efeito de câmara de eco: em vez de desaparecer, ele se adaptou à forma como os usuários o percebem por meio de conteúdo processado algoritmicamente", observam os pesquisadores.