Si vous traversez une période difficile et que vous avez l'impression que tous vos efforts sont vains, l'histoire de Soumith Chintala pourra peut-être vous redonner du courage. L'homme qui a ensuite créé PyTorch et est devenu vice-président de Meta n'a pas eu des débuts fastueux. Soumith est originaire de l'école publique d'Hyderabad, en Inde. Ses résultats scolaires ne sont pas mauvais, mais ses difficultés en mathématiques ont toujours été un point faible pour lui. Lorsqu'il a passé l'examen d'entrée à l'université, il n'a pas été admis dans une université de premier plan, mais dans ce que les Indiens considèrent comme une « université de second rang » — le VIT (Vellore Institute of Technology). Après avoir obtenu son diplôme universitaire, il a reçu un score de 1420 au GRE (sur 1600 dans l'ancienne version), ce qui était un bon résultat. Cependant, lorsqu'il a postulé à douze programmes de master aux États-Unis, il a été refusé par tous. Toutes les écoles, sans exception, l'ont refusé. Il réfléchit un instant et ne put décrire son état d'esprit qu'en un seul mot : « fuckit.jpg » Alors, il a serré les dents et a demandé un visa de visiteur d'échange J-1, s'envolant directement pour l'université Carnegie Mellon (CMU) aux États-Unis sans aucun plan, pensant simplement : « J'irai d'abord et je verrai ce qui se passe. » Une fois arrivé aux États-Unis, il a postulé à 15 autres programmes de maîtrise. Cette fois, le résultat a été meilleur : Seule l'USC l'a accepté, et NYU (Université de New York) lui a offert une admission supplémentaire en 2010. Après son arrivée à l'université de New York, il a rencontré une personne qui a changé sa vie : Yann LeCun – à cette époque, il n’avait pas encore remporté le prix Turing, ni n’était devenu une superstar de l’IA. À l'université de New York, il a également rencontré un autre mentor important, Pierre Sermanet, que Soumith a décrit comme « l'une des personnes les plus gentilles que j'aie jamais rencontrées ». C’est là qu’il a commencé à explorer et à tomber amoureux des logiciels libres. Après l'obtention de son diplôme, la quasi-totalité de ses CV ont disparu sans laisser de trace. Toutes les entreprises, y compris DeepMind, l'ont rejeté. La seule opportunité qui lui fut offerte fut un poste d'ingénieur de test chez Amazon – ni un poste de chercheur, ni le rôle en IA dont il rêvait. Durant cette période difficile, son mentor l'a aidé en le présentant à une petite start-up appelée MuseAmi. Mais cela n'a pas immédiatement changé sa vie. Il a ensuite été rejeté deux fois de plus par DeepMind, ce qui porte le total à trois rejets. En raison de l'exigence de résidence de deux ans dans le pays d'origine du visa J-1, il n'a pas pu obtenir initialement un visa de travail H-1B. Il a passé plusieurs mois à communiquer entre l'USCIS et le département d'État américain avant d'obtenir finalement une dérogation lui permettant de rester dans le pays. Durant cette période, sa confiance en lui a chuté brutalement. Entre 2011 et 2012, il a obtenu un résultat remarquable pour l'époque : Elle se targue de posséder l'un des moteurs d'inférence IA les plus rapides au monde fonctionnant sur appareils mobiles. Pourtant, malgré cela, il a continué d'être rejeté par DeepMind. Finalement, ce qui a véritablement changé son destin, c'est le projet open-source Torch7 sur lequel il a continué à travailler. Il prit son courage à deux mains et envoya un autre courriel à Yann LeCun. C’est cet e-mail qui l’a amené à rejoindre FAIR Labs de Facebook. Lorsqu'il a rejoint l'entreprise, il a failli « échouer » au camp de formation car il est resté bloqué longtemps sur une tâche HBase. Mais bientôt, il saisit une opportunité cruciale : Alors que les ingénieurs L8/L9 seniors peinaient avec l'entraînement ImageNet, lui, en tant qu'ingénieur L4, a résolu un bug critique dans les paramètres numériques/hyperparamètres. C'était sa première « grande victoire ». Chez Fair, il a dirigé une petite équipe de seulement trois personnes, qui ont ensuite créé ensemble PyTorch. Mais l'histoire ne s'est pas déroulée sans accroc. Pour des raisons politiques internes, la direction a un temps envisagé d'arrêter le projet PyTorch. Soumith était tellement en colère qu'il s'est assis dans un bar et a pleuré (ses mots originaux étaient : cries-at-bar.jpg). Heureusement, certaines personnes ont continué à soutenir le projet. PyTorch a été officiellement lancé en 2017 et est devenu par la suite l'un des frameworks d'apprentissage profond les plus populaires au monde. À peu près à la même époque, il a également obtenu une carte verte EB-1 pour personnes aux capacités extraordinaires. Ce qui s'est passé ensuite est devenu l'histoire que nous connaissons aujourd'hui. De 2005 à 2017, il a vécu : Il était mauvais en maths, a postulé deux fois à une université de second rang pour un master, a été refusé par toutes les entreprises, trois fois par DeepMind, et également par Google. Ses problèmes de visa ont failli entraîner l'annulation de son projet, et il a frôlé la mort aux débuts de Facebook. Pendant près de douze ans, ce fut une série d'échecs. Mais il n'a pas abandonné. Finalement, il est devenu le père de PyTorch, vice-président de Meta et l'une des personnes les plus influentes dans le domaine mondial de l'IA. Soumith a ensuite répondu au tweet, en ajoutant un message séparé : « Tout cela est vrai. Mais je dois encore remercier beaucoup de gens. » Son conseiller à l'université de New York était Pierre Sermanet, qui était alors doctorant. Soumith a déclaré qu'il était l'une des personnes les plus gentilles qu'il ait jamais rencontrées. Yann LeCun lui a donné deux occasions de s'en sortir alors qu'il « ne voyait guère d'issue pour l'IA ». Une fois, c'était à NYU, et l'autre fois, c'était à Fair. C’est Praveen Garimella qui l’a persuadé d’aller à l’IIIT pour sa dernière année d’études de premier cycle. Après avoir échoué à tous ses examens de maîtrise, on l'a encouragé à « aller d'abord à CMU et à ne pas abandonner ». Et ses parents : Vithal Chintala et Rajani Chintala. Il a décrit son enfance comme celle d'une famille de la classe moyenne lourdement endettée. Mes parents n'ont accédé à l'indépendance financière que progressivement après 2010. Mais avant cela, ils avaient déjà serré les dents et soutenu leur fils dans la poursuite d'un rêve « précaire », même si cela dépassait leurs moyens. Au lieu de lui offrir un emploi stable. Soumith a déclaré que c'était une excellente façon d'élever des enfants. Il a également remercié tout particulièrement l'auteur du tweet initial, Deedy. C’est l’autre personne qui a pris le temps de rassembler ces « détails » éparpillés tout au long de sa vie. Les fragments ont été mis au jour et assemblés pour former une histoire complète. Soumith a conclu par une déclaration très calme : Je crois que tous ceux qui sont actuellement « assis sur le trône du succès » De nombreuses luttes se déroulent en coulisses. La vie n'est jamais facile.
Chargement du thread
Récupération des tweets originaux depuis X pour offrir une lecture épurée.
Cela ne prend généralement que quelques secondes.
