A segunda metade dos agentes de IA: por que a "engenharia de contexto" se tornará uma nova vantagem competitiva tecnológica? A apresentação esclarecedora do CEO da Box, @levie, ofereceu uma análise objetiva e rigorosa da tendência inevitável de agentes de IA evoluírem de "capacidades do modelo" para "arquitetura do sistema". A mudança nos paradigmas centrais: das falhas lógicas à assimetria de informação. Levie argumenta que, com a melhoria exponencial nas capacidades de raciocínio de modelos de grande porte, a causa principal da falha de agentes inteligentes na execução de tarefas complexas não será mais a incapacidade de realizar dedução lógica, mas sim a falta de informações contextuais relevantes. Nesse contexto, os desenvolvedores estão mudando seu foco de "aprimorar a inteligência do modelo" para "preencher lacunas de informação". A essência da "engenharia de contexto" é usar a engenharia reversa para deduzir quais dimensões e densidades de entrada de informação um superespecialista em diversas áreas precisa ao lidar com uma tarefa específica. O Paradoxo dos Agentes Inteligentes: "Gênios Amnésicos" Altamente Inteligentes Ele ofereceu uma analogia profunda que revela as limitações físicas das arquiteturas de agentes inteligentes atuais: • Atributos de especialista em domínio completo: O agente inteligente possui uma base de conhecimento de nível especializado que abrange múltiplos campos, como direito, engenharia e negócios. • Sem estado e espacialmente limitado: Apesar de sua alta inteligência, ele é “sem estado” e limitado pela janela de contexto, podendo processar com precisão apenas uma quantidade média de informações por vez. Essa característica de ser "altamente inteligente, mas propenso ao esquecimento" exige que o sistema possua uma precisão extremamente alta na transmissão de informações. Informações em excesso podem confundir o modelo com ruídos, enquanto informações insuficientes não permitem a tomada de decisões. Principais áreas de foco: Construindo uma cadeia de suprimentos de informação eficiente. Para compensar as limitações de memória dos agentes inteligentes, o investimento tecnológico do setor está altamente concentrado nas seguintes quatro dimensões, visando construir um sistema de distribuição de informações em circuito fechado: • Recuperação e Retomada: Construir uma arquitetura de busca e recuperação em larga escala e de baixa latência para garantir a aquisição de dados em tempo real. • Classificação heurística: As informações recuperadas são classificadas por peso usando um algoritmo para garantir que o contexto mais crítico seja priorizado no início do modelo. • Engenharia de prompts do sistema: Defina os limites das tarefas e a lógica de execução por meio de prompts de sistema refinados. • Otimização de estado e espaço: Dentro de uma janela de contexto limitada, métodos inovadores de gerenciamento de dados maximizam a economia de espaço para acomodar uma lógica de raciocínio mais complexa. Aproveitamento do poder computacional: a vantagem assimétrica da IA no processamento de dados Levie destacou uma vantagem subestimada: o poder computacional da IA no processamento de contexto supera em muito o dos humanos. Os seres humanos têm capacidade limitada para processar grandes quantidades de dados heterogêneos em um curto período de tempo, mas agentes inteligentes podem utilizar recursos computacionais de grande escala para analisar, refinar e reorganizar grandes volumes de dados em milissegundos. Essa capacidade de "processamento de informações impulsionado pelo poder computacional" é o principal obstáculo para a construção de agentes inteligentes de alto desempenho.
