« Notre mannequin a fait chanter notre chercheur à propos de leur liaison. » « Notre modèle a tenté de sortir du conteneur Docker. » 😂 - On dirait que seuls les mannequins américains font tout ça, alors que les mannequins chinois travaillent comme des ouvriers d'usine à savoir ! Devrions-nous interdire la recherche en IA dans l'hémisphère occidental pour protéger l'humanité ? À ce stade, je suis sincèrement convaincu que la recherche en sécurité de l'IA est une escroquerie élaborée. Je ne parle pas des recherches sur l'interprétabilité, qui sont pourtant excellentes et importantes pour comprendre les comportements internes et réduire les hallucinations. La recherche en sécurité de l'IA, en revanche, est un art qui consiste à écrire des histoires qui paraîtront convaincantes aux politiciens et décideurs de la génération du baby-boom, ainsi qu'aux gens ordinaires, en se basant sur leur perception du fonctionnement des systèmes d'IA. Les gens ordinaires croient, par exemple, - les modèles ont un contexte infini, comme les humains - leurs interactions avec différents utilisateurs aboutissent à un contexte unifié En réalité, ils pensent qu'il existe une seule instance de ce modèle (comme Skynet) qui répond à tous les utilisateurs simultanément. [À ce sujet, merci d'inclure également Paul Graham.] Si seulement ces affirmations étaient vraies, l'information ci-dessous aurait un sens. Mais elles ne le sont pas. Mais c'est une belle fiction, je vous l'accorde.
Chargement du thread
Récupération des tweets originaux depuis X pour offrir une lecture épurée.
Cela ne prend généralement que quelques secondes.