Isso está incorreto. Os LLMs podem usar ferramentas para obter informações e alterações sobre o mundo exterior, incluindo a visualização de vídeos, a movimentação de braços robóticos, etc. A imagem abaixo mostra um exemplo mínimo de falsificação. O valor desse número ao quadrado é uma informação nova — nunca foi documentado antes.
Acho que muitas pessoas exageram na capacidade dos mestres em Direito de realizar coisas novas e interessantes. Mas dizer que eles "não conseguem gerar conhecimento" é simplesmente errado. Assim como os humanos, eles podem interagir com o mundo e gerar conhecimento nesse processo.