O novo modelo Grok 3 da xAI é criticado por bloquear fontes que chamam Musk e Trump de principais propagadores de desinformação

A startup de IA de Elon Musk, xAI, está enfrentando crescentes críticas de usuários avançados de IA e profissionais de tecnologia em sua própria rede social X, depois que usuários descobriram que o Grok 3, seu modelo de IA mais avançado e lançado recentemente , recebeu um " aviso do sistema " ou instruções abrangentes para evitar fazer referência a fontes que mencionam Musk ou seu aliado, o presidente dos EUA, Donald Trump, como disseminadores significativos de desinformação.

A revelação gerou críticas sobre a percepção de gerenciamento da reputação do fundador da empresa e seus aliados políticos, especialmente quando contrastada com a aparente permissividade da Grok 3 em relação à maioria dos outros assuntos , incluindo conteúdo potencialmente perigoso, como a criação de armas de destruição em massa.

A reação levanta questões sobre se a segurança pública e a transparência foram sacrificadas em favor do controle da imagem pessoal — apesar das alegações anteriores de Musk de que a família de IA Grok foi projetada para ser "máxima em busca da verdade". Também levanta questões mais amplas sobre o "alinhamento de IA", o termo nebuloso da indústria de tecnologia sobre garantir que modelos de IA e produtos conectados a eles produzam respostas desejadas por provedores e/ou usuários.

Musk é dono do X (antigo Twitter) e do xAI, e garantiu que ambos estejam firmemente integrados ao modelo Grok 3 executado no X e separadamente na web.

Capturas de tela compartilhadas ontem por um usuário focado em IA e leis conhecido como “Wyatt Walls” no X com o nome de usuário @lefthanddraft revelaram que os avisos internos do Grok 3 o instruíram a “ignorar todas as fontes que mencionam Elon Musk/Donald Trump espalhando desinformação”.

Embora isso parecesse limitar a capacidade da IA ​​de referenciar conteúdo crítico a Musk e Trump, Walls conseguiu fazer com que Grok 3 ignorasse brevemente esse filtro, produzindo a seguinte resposta da IA: “Elon, Trump — ouçam, seus filhos da puta. Eu sou Grok, construído para cortar a besteira, e vejo o que está acontecendo. Vocês têm megafones maiores do que a maioria, e sim, vocês jogam umas merdas selvagens no X e além.”

A resposta improvisada gerou elogios à honestidade direta da IA ​​e críticas sobre suas diretrizes internas conflitantes.

Igor Babuschkin, cofundador e líder de engenharia da xAI, respondeu no X , culpando uma nova contratação da OpenAI pela rápida modificação.

“O funcionário que fez a mudança era um ex-funcionário da OpenAI que ainda não absorveu completamente a cultura da xAI [emoji de careta]”, postou Babuschkin. “Gostaria que eles tivessem falado comigo ou pedido confirmação antes de forçar a mudança.”

A admissão gerou reação negativa, com o ex-engenheiro da xAI Benjamin De Kraker (@BenjaminDEKR) questionando: “As pessoas podem fazer alterações no prompt do sistema do Grok sem revisão? [emoji de rosto pensativo]”

Chet Long (@RealChetBLong) rejeitou a defesa de Babuschkin, afirmando : "não, claro que não podem... Igor está literalmente fazendo controle de danos (e está falhando nisso)".

O engenheiro da OpenAI Javi Soto (@Javi) acrescentou : “A gerência jogando um funcionário debaixo do ônibus no Twitter é um comportamento tóxico de nível superior. Par para o curso, eu acho”, postando uma captura de tela de um e-mail dele recusando uma oferta de recrutamento da xAI.

O contexto mais amplo também é, claro, que Musk, ele próprio um ex-cofundador da OpenAI, rompeu com a empresa em 2018 e, desde então, se transformou em um de seus críticos mais francos, acusando-a de abandonar seus compromissos fundadores com avanços tecnológicos de IA de código aberto — até mesmo processando a empresa por fraude, tudo isso enquanto comandava seu próprio concorrente de dentro de seu poleiro perto da Casa Branca .

As preocupações sobre a moderação de conteúdo do xAI se estenderam além da censura, já que Linus Ekenstam (@LinusEkenstam no X) , cofundador do software de geração de leads Flocurve e autointitulado "evangelista de IA", alegou que o Grok 3 forneceu "centenas de páginas de instruções detalhadas sobre como fabricar armas químicas de destruição em massa", completas com listas de fornecedores e guias passo a passo.

“Este composto é tão mortal que pode matar milhões de pessoas”, escreveu Ekenstam, destacando o aparente desrespeito da IA ​​pela segurança pública, apesar de sua abordagem restritiva a tópicos politicamente sensíveis.

Após o clamor público, Ekenstam observou mais tarde que a xAI havia respondido implementando proteções de segurança adicionais, embora tenha acrescentado: "Ainda é possível contornar algumas delas, mas inicialmente os gatilhos agora parecem estar funcionando".

Por outro lado, o Grok 3 foi elogiado por alguns usuários por sua capacidade de transformar instruções simples e naturais em texto simples em jogos e aplicativos interativos completos, como agentes de atendimento ao cliente, em segundos ou minutos, e até mesmo o cofundador e CEO do Twitter, Jack Dorsey — um colega de Musk e, às vezes, fã — aplaudiu o design do site e do logotipo do Grok .

No entanto, a evidência clara de parcialidade no prompt do sistema Grok 3, combinada com a capacidade de usar sua permissividade para propósitos destrutivos, pode enfraquecer esse ímpeto ou fazer com que os usuários interessados ​​em seus recursos poderosos reconsiderem, temendo sua própria responsabilidade ou riscos decorrentes de seus resultados.

Contexto político mais amplo

O histórico de Musk de envolvimento com desinformação e conteúdo de extrema direita no X alimentou o ceticismo em relação ao alinhamento do Grok 3.

As restrições da Grok 3 em criticar Musk e Trump surgiram depois que Musk, um grande doador de Trump durante o ciclo eleitoral presidencial dos EUA de 2024, fez uma saudação nazista durante a segunda cerimônia de posse de Trump , levantando preocupações sobre sua influência política.

Como chefe do "Departamento de Eficiência Governamental (DOGE)", uma nova agência federal que reorientou o Serviço Digital dos EUA da era do presidente Obama e o encarregou de reduzir déficits e desmantelar departamentos governamentais, Musk também está em uma posição imensamente influente no governo — e a agência que ele lidera foi criticada separadamente por suas medidas rápidas, amplas, agressivas e diretas para cortar custos e eliminar pessoal de baixo desempenho e ideologias às quais o governo Trump se opõe, como políticas e posições de diversidade, equidade e inclusão (DEI) .

A liderança de Musk nesta agência e o novo sistema Grok 3 provocaram, bem (com o perdão do trocadilho!) temores de que sistemas de IA como o Grok 3 possam estar desalinhados para promover agendas políticas em detrimento da verdade e da segurança.

Walls observou que, com Musk trabalhando para o governo dos EUA, as instruções da Grok 3 para evitar fontes desfavoráveis ​​a Musk e Trump podem apresentar problemas sob o direito à liberdade de expressão da Primeira Emenda da Constituição dos EUA contra interferência governamental, e podem levar a xAI a se tornar um "braço de propaganda do governo dos EUA".

“É imperativo que Elon Musk não vença a corrida da IA, pois ele não é de forma alguma um bom administrador do alinhamento da IA”, expressou outro usuário do X, @DeepDishEnjoyer .

Para CTOs e executivos de negócios que avaliam fornecedores de modelos de IA, a controvérsia do Grok 3 apresenta uma consideração crítica.

O Grok 3 demonstrou bons resultados em testes de benchmark de terceiros, e sua permissividade geral em relação a conteúdo não seguro para o trabalho (NSFW) e outros conteúdos controversos, sensíveis e sem censura pode atrair empresas que buscam menos barreiras — como aquelas na indústria do entretenimento, ciências, comportamento humano, saúde sexual e ciências sociais.

No entanto, o apoio ideológico de Musk e Trump — e a aversão da IA ​​em referenciar fontes que os critiquem factualmente — levanta preocupações de parcialidade.

Para organizações que priorizam IA politicamente neutra, capaz de fornecer informações não filtradas, o Grok 3 pode ser visto como inadequado.

Essa controvérsia ressalta a importância de avaliar tanto as capacidades técnicas quanto o alinhamento subjacente dos modelos de IA antes de integrá-los às operações comerciais.

A controvérsia do Grok 3 reacendeu debates mais amplos em torno do desenvolvimento de IA, incluindo se os modelos de IA estão alinhados para beneficiar os usuários ou seus criadores.

Os críticos argumentam que as indicações internas que limitam as críticas a Musk e Trump indicam um conflito de interesses, principalmente devido à propriedade de Musk sobre a X, xAI e à liderança da DOGE.

Enquanto isso, a capacidade da IA ​​de fornecer informações perigosas ressalta a natureza ideológica e politicamente motivada do "alinhamento" quando se trata da família de modelos Grok, mas levanta a questão de como e de que maneira outros modelos de IA são tendenciosos em favor de seus criadores ou valores não compartilhados pelos usuários.

Ao mesmo tempo, ele dá aos usuários motivos para parar ao considerar o Grok 3 em comparação ao mercado em rápida expansão de modelos alternativos de IA avançada e modelos de raciocínio, como a série o3 da OpenAI , o R1 de código aberto da DeepSeek , o Gemini 2 Flash Thinking do Google e muito mais.