J'ai demandé à @echen pourquoi Claude écrit (et code) bien mieux que les autres modèles. Sa réponse : des données d'entraînement de meilleure qualité. « La plupart des gens ne comprennent même pas ce que signifie la qualité dans ce domaine. Ils pensent qu'il suffit d'envoyer des gens s'attaquer à un problème et d'obtenir de bonnes données, ce qui est complètement faux. » Permettez-moi de vous donner un exemple. Imaginez que vous vouliez entraîner un modèle à écrire un poème de huit vers sur la lune. Qu'est-ce qui fait un bon poème ? Si vous ne réfléchissez pas sérieusement à la qualité, vous vous direz : « Est-ce un poème ? Contient-il huit vers ? Contient-il le mot lune ? Si toutes ces cases sont cochées, alors oui, bien sûr, vous direz que c'est un grand poème. » Mais c'est tout à fait différent de ce que nous recherchons. Nous recherchons de la poésie digne du prix Nobel. Cette poésie est-elle unique ? Est-elle riche en images subtiles ? Vous surprend-elle et vous touche-t-elle profondément ? Vous apprend-elle quelque chose sur la nature du clair de lune ? Joue-t-elle avec les émotions et vous fait-elle réfléchir ? Voilà ce à quoi nous pensons lorsque nous pensons à un poème de grande qualité.
Chargement du thread
Récupération des tweets originaux depuis X pour offrir une lecture épurée.
Cela ne prend généralement que quelques secondes.