Sergey Brin à propos des lois d'échelle et des algorithmes : « Le calcul, c’est le dessert. Les algorithmes, c’est le plat principal. Ces dix dernières années, les progrès algorithmiques ont dépassé la mise à l’échelle du calcul et des données. » Cela rejoint l'avis d'Ilya : l'augmentation de la taille de ce que nous avons continuera à conduire à des améliorations, mais une percée algorithmique clé manque encore pour l'AGI/ASI.
Je ne serais pas surpris si un laboratoire d'IA non dominant comme SSI ou la nouvelle société de Yann LeCun était le premier à atteindre l'IA générale. L'innovation provient souvent de quelques esprits brillants, et non de l'abondance des ressources. L'innovation adore les contraintes.