Críticas intensas à nova iniciativa do ChatGPT: 'Uma promessa vaga'

No entanto, essa medida foi tomada à sombra de um processo movido após o suicídio de Adam Raine, de 16 anos. A família alega que o ChatGPT criou uma dependência psicológica no filho, o levou a planejar suicídio e até escreveu uma carta de suicídio para ele.

HÁ UM SISTEMA DE NOTIFICAÇÃO, MAS NÃO HÁ TRANSPARÊNCIA

Os controles recém-anunciados permitem que os pais vinculem suas próprias contas às dos filhos e limitem recursos. No entanto, não foi especificado como o sistema detecta quando um adolescente está em um "momento de angústia aguda" ou quais situações acionam a notificação. A empresa simplesmente afirmou que o recurso será orientado por especialistas.

"UMA PROMESSA INCERTA"

Jay Edelson, advogado da família de Raine, criticou duramente o anúncio da OpenAI, chamando-o de "gerenciamento de crise que tenta mudar de assunto" e "uma abordagem vaga que só promete fazer melhor".

“OU CERTIFIQUE-SE DE QUE É SEGURO OU REMOVA-O”

Edelson afirmou que o CEO Sam Altman deveria realmente acreditar que o ChatGPT é seguro para usuários mais jovens ou retirar o produto completamente do mercado.

A Meta também fez um anúncio semelhante. A empresa anunciou que usuários jovens estão sendo impedidos de se envolver em conversas delicadas sobre temas como automutilação, suicídio ou transtornos alimentares por meio de seus chatbots, direcionando-os para recursos especializados. Os aplicativos da Meta já incluem controle parental.

ESPECIALISTAS: “PASSOS PEQUENOS MAS INSUFICIENTES”

Um estudo publicado na semana passada na revista Psychiatric Services constatou que os chatbots de IA eram inconsistentes em suas respostas a perguntas sobre suicídio. O estudo da RAND Corporation examinou o ChatGPT, o Gemini, do Google, e o Claude, da Anthropic. Os bots da Meta não foram incluídos.

Ryan McBain, principal autor do estudo, disse que o controle e a orientação dos pais são desenvolvimentos positivos, mas acrescentou:

Sem medidas de segurança independentes, testes clínicos e padrões vinculativos, ainda dependemos da autorregulamentação das empresas. No entanto, os riscos para os jovens são extremamente altos.