O penhasco de escalada oculto que está prestes a quebrar suas implementações de agentes

As empresas que desejam criar e escalar agentes também precisam aceitar outra realidade: os agentes não são criados como outros softwares.

De acordo com May Habib, CEO e cofundadora da Writer , os agentes são "categoricamente diferentes" em como são construídos, como operam e como são aprimorados. Isso significa abandonar o ciclo de vida tradicional de desenvolvimento de software ao lidar com sistemas adaptativos.

“Os agentes não seguem regras de forma confiável”, disse Habib na quarta-feira, no palco do VB Transform . “Eles são orientados por resultados. Eles interpretam. Eles se adaptam. E esse comportamento só surge em ambientes do mundo real.”

Saber o que funciona — e o que não funciona — vem da experiência de Habib ajudando centenas de clientes corporativos a criar e escalar agentes de nível empresarial. Segundo Habib, mais de 350 empresas da Fortune 1000 são clientes do Writer, e mais da metade das empresas da Fortune 500 escalarão agentes com o Writer até o final de 2025.

Usar tecnologia não determinística para produzir resultados poderosos pode até ser "um verdadeiro pesadelo", disse Habib — especialmente ao tentar escalar agentes sistemicamente. Mesmo que equipes corporativas consigam criar agentes sem gerentes de produto e designers, Habib acredita que uma "mentalidade de gerente de projetos" ainda é necessária para colaborar, construir, iterar e manter agentes.

“Infelizmente ou felizmente, dependendo da sua perspectiva, a TI vai ficar na mão se não liderar seus colegas de negócios para essa nova maneira de construir.”

>> Veja toda a nossa cobertura do Transform 2025 aqui <<

Uma das mudanças de pensamento inclui a compreensão da natureza dos agentes voltada para resultados. Por exemplo, ela disse que muitos clientes solicitam agentes para auxiliar suas equipes jurídicas na revisão ou revisão de contratos. Mas isso é muito indefinido. Em vez disso, uma abordagem orientada a objetivos significa projetar um agente para reduzir o tempo gasto na revisão e revisão de contratos.

“No ciclo de vida tradicional de desenvolvimento de software, você projeta para um conjunto determinístico de etapas muito previsíveis”, disse Habib. “É entrada e saída de uma forma mais determinística. Mas com agentes, você busca moldar o comportamento do agente. Portanto, você busca menos um fluxo controlado e muito mais fornecer contexto e orientar a tomada de decisões pelo agente.”

Outra diferença é a construção de um modelo para os agentes que os instrua com lógica de negócios, em vez de fornecer fluxos de trabalho a serem seguidos. Isso inclui a criação de ciclos de raciocínio e a colaboração com especialistas no assunto para mapear processos que promovam os comportamentos desejados.

Embora se fale muito sobre escalonamento de agentes, o Writer ainda ajuda a maioria dos clientes a criá-los um de cada vez. Isso porque é importante primeiro responder a perguntas sobre quem é o proprietário e quem audita o agente, quem garante que ele permaneça relevante e ainda verifica se ele continua produzindo os resultados desejados.

“Há um precipício de escala que as pessoas atingem muito, muito rapidamente sem uma nova abordagem para construir e escalar agentes”, disse Habib. “Há um precipício que as pessoas atingirão quando a capacidade de suas organizações de gerenciar agentes de forma responsável realmente ultrapassar o ritmo de desenvolvimento que acontece departamento por departamento.”

A garantia de qualidade também é diferente para os agentes. Em vez de uma lista de verificação objetiva, a avaliação agêntica inclui a consideração de comportamentos não binários e a avaliação de como os agentes agem em situações do mundo real. Isso porque a falha nem sempre é óbvia — e não é tão simples quanto verificar se algo quebrou. Em vez disso, Habib disse que é melhor verificar se um agente se comportou bem, perguntando se as medidas de segurança funcionaram, avaliando os resultados e a intenção: "O objetivo aqui não é a perfeição. É a confiança comportamental, porque há muita subjetividade nisso."

Empresas que não entendem a importância da iteração acabam jogando "um jogo de tênis constante que desgasta cada lado até que não queiram mais jogar", disse Habib. Também é importante que as equipes aceitem a ideia de agentes imperfeitos e se preocupem mais em "lançá-los com segurança, rapidez e iteração indefinidamente".

Apesar dos desafios, há exemplos de agentes de IA que já ajudam a gerar novas receitas para empresas. Por exemplo, Habib mencionou um grande banco que colaborou com a Writer para desenvolver um sistema baseado em agentes, resultando em um novo pipeline de upsell no valor de US$ 600 milhões, integrando novos clientes a diversas linhas de produtos.

A manutenção agêntica também é diferente. A manutenção tradicional de software envolve a verificação do código quando algo quebra, mas Habib disse que os agentes de IA exigem um novo tipo de controle de versão para tudo o que pode moldar o comportamento. Também requer governança adequada e a garantia de que os agentes permaneçam úteis ao longo do tempo, em vez de incorrer em custos desnecessários.

Como os modelos não são mapeados de forma clara para agentes de IA, Habib disse que a manutenção inclui a verificação de prompts, configurações de modelo, esquemas de ferramentas e configuração de memória. Também significa rastrear completamente as execuções em entradas, saídas, etapas de raciocínio, chamadas de ferramentas e interações humanas.

“Você pode atualizar um prompt do LLM [modelo de linguagem grande] e observar o agente se comportar de forma completamente diferente, mesmo que nada tenha mudado no histórico do git”, disse Habib. “Os links do modelo mudam, os índices de recuperação são atualizados, as APIs das ferramentas evoluem e, de repente, o mesmo prompt não se comporta como esperado... Pode parecer que estamos depurando fantasmas.”