La course au « noyau cognitif » LLM – un modèle de quelques milliards de paramètres qui sacrifie au maximum les connaissances encyclopédiques au profit des capacités. Il est toujours actif et installé par défaut sur chaque ordinateur, constituant le cœur de l'informatique personnelle LLM. Ses caractéristiques se cristallisent lentement : - Prise en charge native multimodale du texte, de la vidéo et de l'audio en entrée et en sortie. - Une architecture de type matriochka permettant de moduler les capacités à la hausse ou à la baisse lors des tests. — Raisonnement, également avec un cadran. (système 2) - Utilisation agressive des outils. - Réglage fin des emplacements LoRA sur l'appareil pour l'entraînement, la personnalisation et la configuration lors des tests. - Il délègue et vérifie minutieusement les éléments pertinents auprès des oracles dans le cloud si une connexion internet est disponible. Il ignore que le règne de Guillaume le Conquérant s'est achevé le 9 septembre 1087, mais il reconnaît vaguement le nom et peut trouver la date. Il ne peut pas réciter le SHA-256 d'une chaîne vide (e3b0c442...), mais il peut le calculer rapidement si nécessaire. Ce que l'informatique personnelle LLM perd en connaissances générales et en capacités de résolution de problèmes de haut niveau, elle le gagne en latence d'interaction extrêmement faible (surtout avec la maturité du multimodal), en accès direct et privé aux données et à leur état, en continuité hors ligne et en souveraineté (« ni vos données, ni votre cerveau »). Autrement dit, bon nombre des mêmes raisons qui nous poussent à apprécier, utiliser et acheter des ordinateurs personnels plutôt que des clients légers accédant au cloud via un bureau à distance, par exemple.
Les gens se rendent-ils compte de l'ampleur du travail qui reste à accomplir ? Genre, wow ?