Infelizmente, a maneira mais eficiente e escalável de lidar com o contexto limitado de um agente de busca é simplesmente descartar todas as chamadas de ferramentas. O recurso de sumarização tem um desempenho muito ruim. Acredito que seja uma alteração de trajetória de contexto mais "traumática" do que a detecção de lacunas, e precisa ser treinada especificamente para isso.
Chega de preâmbulos. A parte mais importante de cada artigo da série Whale, como já disse tantas vezes ao longo destes anos, é a seção “Conclusão, Limitações e Trabalhos Futuros”. Dizem que a Frontier não tem vantagem em conhecimento. O poder computacional é o único diferencial relevante que resta. É hora de investir em mais GPUs.
