La segunda mitad de los agentes de IA: ¿Por qué la «ingeniería de contexto» se convertirá en un nuevo foso tecnológico? La reveladora presentación del CEO de Box, @levie, ofreció un análisis objetivo y riguroso de la inevitable tendencia de los agentes de IA a evolucionar desde las "capacidades del modelo" a la "arquitectura del sistema". El cambio de paradigmas centrales: de los fallos lógicos a la asimetría de la información Levie sostiene que, con la mejora significativa en las capacidades de razonamiento de los modelos grandes, la causa fundamental del fracaso de los agentes inteligentes a la hora de realizar tareas complejas ya no será la incapacidad de realizar una deducción lógica, sino más bien la falta de información de fondo relevante. En este contexto, los desarrolladores están cambiando su enfoque de "mejorar la inteligencia del modelo" a "reducir las brechas de información". La esencia de la "ingeniería de contexto" consiste en utilizar la ingeniería inversa para deducir las dimensiones y densidades de información que necesita un experto multidisciplinario para gestionar una tarea específica. La paradoja de los agentes inteligentes: «genios amnésicos» altamente inteligentes Ofreció una analogía profunda que revela las limitaciones físicas de las arquitecturas de agentes inteligentes actuales: • Atributos de experto de dominio completo: el agente inteligente posee una base de conocimiento de nivel experto que abarca múltiples campos, como derecho, ingeniería y negocios. • Sin estado y limitado espacialmente: a pesar de su alta inteligencia, no tiene estado y está limitado por la ventana de contexto, y solo puede procesar una cantidad media de información con precisión a la vez. Esta característica de ser "altamente inteligente pero propenso al olvido" exige que el sistema posea una precisión de entrega de información extremadamente alta. Un exceso de información puede causar que el modelo se confunda con el ruido, mientras que una cantidad insuficiente de información no facilita la toma de decisiones. Áreas de enfoque clave: Desarrollo de una cadena de suministro de información eficiente. Para compensar las limitaciones de memoria de los agentes inteligentes, la inversión tecnológica de la industria se concentra principalmente en las siguientes cuatro dimensiones, con el objetivo de construir un sistema de distribución de información de circuito cerrado: • Recuperación y recuperación: construya una arquitectura de búsqueda y recuperación de baja latencia y a gran escala para garantizar la adquisición de datos en tiempo real. • Clasificación heurística: la información recuperada se clasifica por peso utilizando un algoritmo para garantizar que el contexto más crítico se envíe primero al frente del modelo. • Ingeniería de indicaciones del sistema: defina los límites de las tareas y la lógica de ejecución a través de indicaciones del sistema refinadas. • Optimización del estado y del espacio: dentro de una ventana de contexto limitada, los métodos innovadores de gestión de datos maximizan el ahorro de espacio para dar cabida a una lógica de razonamiento más compleja. Aprovechamiento del poder computacional: la ventaja asimétrica de la IA en el procesamiento de datos Levie destacó una ventaja subestimada: el poder computacional de la IA en el manejo del contexto supera ampliamente al de los humanos. Los humanos tienen una capacidad limitada para procesar cantidades masivas de datos heterogéneos en poco tiempo, pero los agentes inteligentes pueden utilizar recursos informáticos a gran escala para escanear, refinar y reorganizar cantidades masivas de datos en cuestión de milisegundos. Esta capacidad de procesamiento de información basada en la potencia de cálculo es la principal barrera para la creación de agentes inteligentes de alto rendimiento.
