Pourquoi sécuriser l'IA est plus difficile que prévu et la crise de sécurité de l'IA qui se profile avec @SanderSchulhoff Sander est un chercheur de premier plan dans le domaine de la robustesse adverse, qui est l'art et la science d'amener les systèmes d'IA à faire des choses qu'ils ne devraient pas faire, par le biais du jailbreak et de l'injection prompte. Ce que Sander explique dans cette conversation, c'est essentiellement que tous les systèmes d'IA que nous utilisons au quotidien sont susceptibles d'être trompés et de faire des choses qu'ils ne devraient pas, qu'il n'existe pas vraiment de solution à ce problème et que les entreprises qui tentent de vendre des solutions à ce problème racontent pour la plupart n'importe quoi. Cette conversation n'a rien à voir avec l'IA générale ; il s'agit d'un problème actuel. Si nous n'avons pas encore constaté de piratages massifs ni de dommages importants causés par les outils d'IA, c'est uniquement parce qu'ils ne sont pas encore suffisamment puissants et qu'ils ne sont pas encore largement répandus. Mais avec l'essor des agents (capables d'agir en votre nom), des robots et même des navigateurs dotés d'IA, le risque va croître très rapidement. C'est un sujet vraiment important qui m'a ouvert l'esprit et m'a fait peur, et c'est quelque chose que nous devons tous comprendre de base à mesure que l'IA prend une place de plus en plus importante dans nos vies. À l'intérieur: 🔸 Introduction au jailbreak et aux attaques par injection rapide 🔸 Pourquoi les garde-fous de l'IA ne fonctionnent pas 🔸 Pourquoi nous n'avons pas encore constaté d'incidents majeurs de sécurité liés à l'IA (mais cela ne saurait tarder) 🔸 Pourquoi les agents de navigateur IA sont extrêmement vulnérables 🔸 Les mesures pratiques que les organisations devraient prendre au lieu d'acheter des outils de sécurité inefficaces 🔸 Pourquoi la résolution de ce problème nécessite la fusion de l'expertise classique en cybersécurité et des connaissances en IA Écoutez maintenant 👇 • YouTube : https://t.co/YkIpYg5BX6 • Spotify : https://t.co/BrtMzNQCE4 • Apple : https://t.co/Tsb9idYbpA Merci à nos merveilleux sponsors pour leur soutien au podcast : 🏆 @datadoghq — Désormais hébergé par Eppo, la plateforme leader d'expérimentation et de gestion des fonctionnalités : https://t.co/BsR16CMiyt 🏆 @getmetronome — Infrastructure de monétisation pour les entreprises de logiciels modernes : https://t.co/63xKc647Dh 🏆 @gofundme Collecte de fonds — Simplifiez vos dons de fin d'année :
Chargement du thread
Récupération des tweets originaux depuis X pour offrir une lecture épurée.
Cela ne prend généralement que quelques secondes.