J'ai assisté à la présentation de Jason Wei (auteur de l'article sur CoT) au Stanford AI Club la semaine dernière. Je commence enfin à comprendre pourquoi l'esthétique est devenue si importante à l'ère de l'IA. Le sens esthétique est une forme de vérification intuitive, difficile à quantifier en une fonction de récompense pour l'IA. La capacité de l'IA à s'implanter dans un domaine donné ne dépend pas du degré de spécialisation de ce domaine. Selon le domaine, cela dépend de la possibilité de vérifier rapidement les résultats. Quelle est la signification ? En mathématiques, savoir en une seconde si la réponse est juste ou fausse. L'IA a donc appris les mathématiques de haut niveau en seulement deux ans. On peut savoir en une seconde si le code peut s'exécuter ou non. Par conséquent, l'IA est déjà très performante en matière d'écriture de code. Dans certains domaines, l'IA peine à distinguer le bien du mal et à concevoir de bons systèmes de récompense. Elle ne peut s'appuyer que sur l'expérience humaine et le sens esthétique. Une fois que les industries auront mis au point des systèmes de récompense intelligents et efficaces, elles pourraient être rapidement envahies par l'IA. La vidéo originale se trouve dans les commentaires.
@_jasonwei a partagé beaucoup de contenu, pendant envyoutube.com/watch?v=b6Doq2… Le principe de vérifiabilité qui y est mentionné m'a beaucoup inspiré. https://t.co/0CFFJv8Z8B