C'est inexact. Les LLM peuvent utiliser des outils pour obtenir des informations et interagir avec le monde extérieur, notamment en visionnant des vidéos, en actionnant des bras robotisés, etc. L'image ci-dessous illustre un exemple minimal de falsification. La valeur de ce nombre au carré constitue une information inédite ; elle n'a jamais été documentée auparavant.
Je pense que beaucoup surestiment le potentiel des titulaires d'un LLM. Mais affirmer qu'ils « ne peuvent pas produire de connaissances » est tout simplement faux. Comme les humains, ils peuvent interagir avec le monde et, ce faisant, générer des connaissances.