A ordem anti-preconceito de Trump sobre IA é apenas mais um preconceito

Em 2 de novembro de 2022, participei de um evento do Google AI em Nova York. Um dos temas era IA responsável. Ao ouvir executivos falarem sobre como alinhavam sua tecnologia com valores humanos, percebi que a maleabilidade dos modelos de IA era uma faca de dois gumes. Os modelos poderiam ser ajustados para, digamos, minimizar vieses, mas também para impor um ponto de vista específico. Os governos poderiam exigir manipulação para censurar fatos indesejáveis e promover propaganda. Imaginei isso como algo que um regime autoritário como a China poderia empregar. Nos Estados Unidos, é claro, a Constituição impediria o governo de interferir nos resultados de modelos de IA criados por empresas privadas.

Nesta quarta-feira, o governo Trump divulgou seu manifesto sobre IA, um plano de ação abrangente para uma das questões mais vitais que o país — e até mesmo a humanidade — enfrenta. O plano se concentra, em geral, em superar a China na corrida pela supremacia da IA. Mas uma parte dele parece mais em sintonia com o manual chinês. Em nome da verdade, o governo dos EUA agora quer que os modelos de IA sigam a definição de Donald Trump para essa palavra.

Você não encontrará essa intenção explicitamente declarada no plano de 28 páginas. Em vez disso, ele diz: "É essencial que esses sistemas sejam construídos do zero com a liberdade de expressão em mente, e que a política do governo dos EUA não interfira nesse objetivo. Devemos garantir que a liberdade de expressão floresça na era da IA e que a IA adquirida pelo governo federal reflita objetivamente a verdade, em vez de agendas de engenharia social."

Tudo bem até a última frase, que levanta a questão: verdade segundo quem? E o que exatamente é uma "agenda de engenharia social"? Temos uma pista sobre isso no parágrafo seguinte, que instrui o Departamento de Comércio a analisar as regras de IA da era Biden e "eliminar referências a desinformação, Diversidade, Equidade e Inclusão e mudanças climáticas". (Estranhas letras maiúsculas, como escrito no plano publicado.) Reconhecer que as mudanças climáticas são engenharia social? Quanto à verdade, em um informativo sobre o plano, a Casa Branca diz: "Os LLMs devem ser verdadeiros e priorizar a precisão histórica, a investigação científica e a objetividade". Parece bom, mas isso vem de um governo que limita a história americana a interpretações "edificantes", nega as mudanças climáticas e considera as alegações de Donald Trump sobre ser o maior presidente dos Estados Unidos como verdade objetiva. Enquanto isso, nesta semana, a conta Truth Social de Trump republicou um vídeo de IA de Obama na prisão.

Em um discurso promovendo o plano em Washington na quarta-feira, Trump explicou a lógica por trás da diretriz: "O povo americano não quer a loucura marxista woke nos modelos de IA", disse ele. Em seguida, assinou uma ordem executiva intitulada "Prevenindo a IA Woke no Governo Federal". Ao especificar que o "Governo Federal deve hesitar em regulamentar a funcionalidade de modelos de IA no mercado privado", declara que "no contexto de compras federais, tem a obrigação de não adquirir modelos que sacrifiquem a veracidade e a precisão em nome de agendas ideológicas". Como todas as grandes empresas de IA estão cortejando contratos governamentais, a ordem parece ser um esforço secreto para garantir que os LLMs em geral demonstrem fidelidade à interpretação da Casa Branca sobre história, identidade sexual e outras questões polêmicas. Caso haja alguma dúvida sobre o que o governo considera uma violação, a ordem dedica vários parágrafos à demonização da IA que apoia a diversidade, denuncia preconceito racial ou valoriza a igualdade de gênero. Alerta Pogo — a ordem executiva de Trump que proíbe o preconceito ideológico de cima para baixo é um exercício flagrante de preconceito ideológico de cima para baixo.

Cabe às empresas determinar como lidar com essas demandas. Conversei esta semana com um engenheiro da OpenAI que trabalha com comportamento de modelos e que me disse que a empresa já busca a neutralidade. Em um sentido técnico, disseram eles, atender aos padrões governamentais, como ser anti-woke, não deveria ser um grande obstáculo. Mas esta não é uma disputa técnica: é constitucional. Se empresas como Anthropic, OpenAI ou Google decidirem tentar minimizar o preconceito racial em seus LLMs, ou fizerem uma escolha consciente para garantir que as respostas dos modelos reflitam os perigos das mudanças climáticas, a Primeira Emenda presumivelmente protege essas decisões como exercício da "liberdade de expressão" apregoada no Plano de Ação de IA. Uma ordem governamental negando contratos governamentais a empresas que exercem esse direito é a essência da interferência.

Você poderia pensar que as empresas que desenvolvem IA reagiriam, alegando seus direitos constitucionais nessa questão. Mas até agora nenhuma grande empresa de tecnologia se opôs publicamente ao plano do governo Trump. O Google comemorou o apoio da Casa Branca a seus temas favoritos, como o fortalecimento da infraestrutura. A Anthropic publicou uma postagem positiva em seu blog sobre o plano, embora tenha reclamado do aparente abandono repentino dos rígidos controles de exportação pela Casa Branca no início deste mês. A OpenAI afirma que já está perto de alcançar a objetividade . Nada sobre afirmar sua própria liberdade de expressão.

A reticência é compreensível porque, no geral, o Plano de Ação para IA é uma bênção para as empresas de IA. Enquanto o governo Biden exigiu o escrutínio das Big Techs, o plano de Trump é um grande sinal verde para o setor, que considera um parceiro na luta nacional para derrotar a China. Ele permite que as potências da IA essencialmente ignorem as objeções ambientais ao construir enormes data centers. Ele promete apoio à pesquisa em IA que fluirá para o setor privado. Há até uma disposição que limita alguns fundos federais para estados que tentam regular a IA por conta própria. Isso é um prêmio de consolação para uma parte fracassada do recente projeto de lei orçamentária que teria proibido a regulamentação estadual por uma década.

Para o restante de nós, porém, a ordem "anti-woke" não é tão facilmente ignorada. A IA é cada vez mais o meio pelo qual obtemos nossas notícias e informações. Um princípio fundamental dos Estados Unidos tem sido a independência desses canais da interferência governamental. Vimos como o atual governo intimidou empresas-mãe de gigantes da mídia como a CBS, levando-as a aparentemente comprometer seus princípios jornalísticos em prol de objetivos corporativos. Estendendo essa agenda "anti-woke" aos modelos de IA, não é irracional esperar acomodações semelhantes. O senador Edward Markey escreveu diretamente aos CEOs da Alphabet, Anthropic, OpenAI, Microsoft e Meta, instando-os a combater a ordem. "Os detalhes e o plano de implementação desta ordem executiva permanecem obscuros", escreve ele, "mas ela criará incentivos financeiros significativos para as grandes empresas de tecnologia... para garantir que seus chatbots de IA não produzam discursos que incomodem o governo Trump". Em uma declaração a mim, ele disse: "Os republicanos querem usar o poder do governo para fazer o ChatGPT soar como Fox & Friends ".

Como você pode suspeitar, essa visão não é compartilhada pela equipe da Casa Branca que trabalha no plano de IA. Eles acreditam que seu objetivo é a verdadeira neutralidade e que os contribuintes não deveriam ter que pagar por modelos de IA que não refletem a verdade imparcial. De fato, o próprio plano aponta o dedo para a China como um exemplo do que acontece quando a verdade é manipulada. Ele instrui o governo a examinar os modelos de fronteira da República Popular da China para determinar "alinhamento com os argumentos e a censura do Partido Comunista Chinês". A menos que os senhores corporativos da IA ganhem alguma coragem, uma futura avaliação dos modelos de fronteira americanos pode muito bem revelar alinhamento integral com os argumentos e a censura da Casa Branca. Mas você pode não descobrir isso consultando um modelo de IA. Muito desperto.

Esta é uma edição da newsletter Backchannel de Steven Levy . Leia a cobertura anterior de Steven Levy aqui .