Fil de 向阳乔木 (@vista8)

L'intervieweur m'a demandé : Pouvez-vous expliquer Word2Vec en une phrase ? À ce moment-là, je ne pouvais penser qu'à « Skip-gram », « CBOW » et « échantillonnage négatif »... Mais je sais qu'une fois ces mots prononcés, l'entretien est terminé. Plus tard, j'ai compris. Word2Vec est utilisé pour localiser les mots. C'est comme définir l'emplacement d'une ville. Pékin et Shanghai sont toutes deux de grandes villes, elles sont donc très similaires en termes de « taille de ville ». Pékin et Tianjin sont géographiquement proches, elles sont donc très similaires en termes de « situation géographique ». Word2Vec fait la même chose. Il attribue une position à chaque mot. Les mots ayant des significations similaires sont placés plus près les uns des autres. Comment trouver cet endroit ? Regardez autour de vous, qui est là. Le mot « pomme » est souvent entouré de mots comme « fruit », « banane » et « frais ». L'espace autour d'un « téléphone portable » est souvent occupé par un « ordinateur », un « écran » et un « dispositif de chargement ». La machine sait donc que « pomme » doit être proche de « banane » et loin de « téléphone portable ». Ceci est Word2Vec. Il ne s'agit pas d'apprendre un dictionnaire à une machine ; il s'agit de laisser la machine lire de grandes quantités de texte et apprendre par elle-même où chaque mot doit se trouver. Une fois votre apprentissage terminé, vous serez capable de calculer le degré de similarité entre deux mots quelconques. Il peut même effectuer des additions et des soustractions : Roi - Homme + Femme = Reine Car la dimension du « genre » peut être séparée dans cet espace. Il s'agissait d'une avancée majeure en 2013. Ce n'est qu'après cela que les machines ont véritablement « compris » la sémantique. Toute la PNL moderne repose sur ce fondement. L'intervieweur a écouté et a hoché la tête. J'ai réussi. --- Généré par l'IA, ce document explique les concepts fondamentaux des articles universitaires word2vec.