AIのセキュリティ確保が予想以上に難しい理由と、迫りくるAIセキュリティ危機について@SanderSchulhoffと語ります サンダー氏は、ジェイルブレイクやプロンプトインジェクションを通じて AI システムに実行すべきでないことを実行させる芸術と科学である敵対的堅牢性の分野における第一人者の研究者です。 サンダー氏がこの会話で共有しているのは、基本的に、私たちが日常的に使用するすべての AI システムは、実行すべきでないことをするように騙される可能性があること、この問題に対する解決策は実際には存在しないこと、そして、この解決策を販売しようとする企業はほとんどがナンセンスであるということです。 この話はAGIとは全く関係ありません。これは今日の問題です。AIツールによる大規模なハッキングや深刻な被害がこれまで発生していないのは、AIツールにまだそれほど大きな権限が与えられておらず、広く普及していないためです。しかし、エージェント（ユーザーに代わって行動を起こす人）やロボット、さらにはAI搭載ブラウザの台頭により、リスクは急速に増大するでしょう。 これは本当に重要なテーマであり、私の視野を広げ、また恐怖も与えてくれました。AIが私たちの生活に浸透するにつれて、私たち全員が基本的な理解を持つ必要があるものです。 内部： 🔸 ジェイルブレイクとプロンプトインジェクション攻撃の入門 🔸 AIガードレールが機能しない理由 🔸 なぜまだ大規模な AI セキュリティ インシデントが発生していないのか (しかし、すぐに発生するだろう) 🔸 AIブラウザエージェントが非常に脆弱な理由 🔸 効果のないセキュリティツールを購入する代わりに組織が取るべき実践的なステップ 🔸 これを解決するには、従来のサイバーセキュリティの専門知識とAIの知識を融合する必要がある理由 今すぐ聴く👇 • YouTube: https://t.co/YkIpYg5BX6 • Spotify: https://t.co/BrtMzNQCE4 • アップル: https://t.co/Tsb9idYbpA ポッドキャストをサポートしていただいた素晴らしいスポンサーの皆様に感謝申し上げます。 🏆 @datadoghq — 最先端の実験および機能フラグ付けプラットフォームである Eppo の本拠地になりました: https://t.co/BsR16CMiyt 🏆 @getmetronome — 現代のソフトウェア企業のための収益化インフラストラクチャ: https://t.co/63xKc647Dh 🏆 @gofundme 寄付金 — 年末の寄付を簡単に:
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。