TLDR; o mercado está obcecado em melhorar os LLMs: quantidade de parâmetros, tamanho de contexto, ou até alcançar a AGI. Só que nenhum desses avanços vai definir o nosso futuro. A transformação de verdade vem do software em volta dos LLMs. É esse software que controla, orquestra e aplica as regras de negócio certas. É isso que muda de fato como a gente trabalha. Mesmo que a gente chegue na AGI de verdade, o impacto dela provavelmente vai ser bem menos disruptivo do que o mercado espera.
Quero olhar para onde isso está indo, e como o software tira trabalho real dessas novas ferramentas que a gente chama de LLM.
LLM por baixo do capô
Os grandes nomes da área de IA começaram a falar de AGI e até a prever quando ela chega. Só que a gente nem tem uma definição clara do que é AGI. Como perseguir uma meta que não está bem definida?
Seja lá o que for a AGI, estou convencido de que LLMs nunca vão criar como humanos usando a arquitetura transformer atual. Está claro que a IA não pensa de verdade, mas ela imita escrita, desenho e até música. É só imitação, só que em um nível magistral.
Esses sistemas têm um superpoder matemático, algo que a humanidade nunca imaginou ser possível. É fascinante ver criatividade e estilo pessoal traduzidos em fórmulas matemáticas complexas. Essas fórmulas ficaram tão intrincadas que a gente tem dificuldade de voltar atrás e entender por que uma saída específica aconteceu. Mas dificuldade não é feitiçaria, o processo continua determinístico, preciso e limitado aos dados de treino e ao contexto.
IA generativa é uma imitadora sofisticada, e tudo bem
Claro que começou imitando o estilo de um escritor, composições musicais e piadas. Tudo isso parecia inofensivo, mas eram só as primeiras versões. Rapidamente as pessoas passaram a usar IA para imitar treinos de academia, planos nutricionais e roteiros de viagem, coisas que afetam a vida real de gente de verdade. A imitação não parou por aí, nem dá sinal de desacelerar.
Para mim, o marco importante vai ser quando os LLMs começarem a imitar procedimentos e protocolos: documentos de onboarding, pitch de vendas, ticket de suporte e protocolo de incidente.
Muitas empresas têm um monte de documento, interno e externo, para onboarding, comunicação com cliente, execução de tarefa e procedimento de reclamação. É exatamente aí que a IA brilha, imitando processos em escala.
Não me entenda mal; eu continuo achando que a IA vai substituir muitos empregos. A gente tende a superestimar a complexidade do próprio trabalho, mas a verdade é que muita gente só executa processo e segue protocolo. A gente precisa aprender a criar, medir, adaptar e migrar entre protocolos, essas são as habilidades que deixam a gente à frente da IA.
Nosso papel vai ser construir protocolos e dar a direção, enquanto a IA executa, observa e reporta. Vamos conectar conhecimento, abrir negócios e testar ideias novas. Os resultados ficam maiores e precisamos de menos gente para chegar lá. E isso é cumulativo: cada rodada elimina uma dependência e deixa a próxima mais barata, o que empurra a produtividade ainda mais para cima.
Toda essa produtividade não vem da AGI, não existe feitiçaria na imitação feita por LLM. É só mais uma ferramenta, igual à prensa de Gutenberg, que escalou drasticamente a escrita. E como LLMs são ferramentas digitais, a melhor forma de usar e escalar isso é através de software.
Por que a AGI não é o futuro que a gente imagina
Existem limites para o que um LLM consegue fazer, mesmo com AGI. Para ter impacto no mundo real e ser mais efetivo, o LLM precisa operar dentro de um modelo de negócio. Sozinho, o LLM é só um preditor de números que transforma esses números em texto, imagem ou áudio. Ele não consegue se conectar direto a bancos, calendários ou outros serviços por conta própria.
O modelo não é só o arquivo .bin ou .h5 baixado do Hugging Face. Ele faz parte de uma plataforma maior, com moderação, guardrails, function calls, structured output e reasoning. Essas capacidades dependem do software construído em volta do modelo.
Mesmo que os LLMs consigam fazer algumas requisições externas, não dá para confiar só neles. Function calls até sugerem as ações certas, mas mesmo funcionando perfeitamente elas não dão conta de todos os edge cases, falhas, filas, rate limits, protocolos diferentes ou padrões esquisitos. E esses são só alguns dos problemas ligados a requisição externa.
Do ponto de vista de arquitetura, LLMs não interagem direto com banco de dados, não gerenciam fila de eventos, não manipulam arquivo e não abrem conexão. Eles não sabem de nada além de si mesmos. Passar desses limites exige infraestrutura e software construídos em volta do modelo. É isso que torna soluções de verdade possíveis.
Eu poderia continuar por muito tempo, mas você já entendeu a ideia. Um LLM sozinho está limitado aos dados de treino e aos prompts. Com engenharia em volta, ele chega em coisas que antes eram impossíveis ou caras demais.
imagem 1 - Os Meeseeks: criaturas humanoides azuis que existem só para cumprir uma tarefa e depois deixam de existir. São absurdamente eficazes, mas costumam surtar de um jeito hilário quando recebem tarefas complexas demais ou existencialmente difíceis.
O melhor uso da IA é imitar processos e comportamento humano, enquanto o melhor uso do software é estruturar e criar casos de uso determinísticos. Um não substitui o outro. Coloque os dois juntos e você resolve problemas que nenhum dos dois resolve sozinho.
O papel do software em escalar IA
A gente está só começando a explorar o potencial da dupla IA+Engenheiro. Hoje, quase toda solução está muito colada nos foundation models. Um monte de empresa está trabalhando em soluções de segundo nível, incluindo as donas dos foundation models, mas ainda não apareceu nenhum vencedor claro.
Conforme a gente se aprofunda em aplicações de IA, a necessidade de funcionalidades, consistência, integrações e regras de negócio fica mais evidente. Esses são problemas que só o software resolve por completo hoje.
Imagem 2: Iceberg dos campos possíveis de IA, começando por 1. foundation models, 2. wrappers de prompt, 3. software inteligente e 4. software autônomo.