Por que proteger a IA é mais difícil do que qualquer um imaginava e a iminente crise de segurança da IA com @SanderSchulhoff Sander é um dos principais pesquisadores na área de robustez adversária, que é a arte e a ciência de fazer com que sistemas de IA façam coisas que não deveriam fazer, por meio de técnicas de "jailbreak" e injeção imediata de código. O que Sander compartilha nessa conversa é essencialmente que todos os sistemas de IA que usamos no dia a dia estão sujeitos a serem enganados para fazer coisas que não deveriam, que não existe realmente uma solução para esse problema e que as empresas que tentam vender soluções para isso estão, em sua maioria, enganando as pessoas. Esta conversa não tem nada a ver com Inteligência Artificial Geral (IAG), este é um problema atual. E a única razão pela qual ainda não vimos ataques cibernéticos massivos e danos graves causados por ferramentas de IA é porque elas ainda não receberam tanto poder e não foram amplamente adotadas. Mas com o surgimento de agentes (que podem tomar ações em seu nome), robôs e até mesmo navegadores com IA, o risco aumentará muito rapidamente. Este é um tema realmente importante que me abriu os olhos e me assustou, e é algo que todos precisamos entender, mesmo que minimamente, à medida que a IA se torna mais presente em nossas vidas. Dentro: 🔸 Um guia básico sobre jailbreak e ataques de injeção rápida 🔸 Por que as proteções de IA não funcionam 🔸 Por que ainda não vimos grandes incidentes de segurança envolvendo IA (mas veremos em breve) 🔸 Por que os agentes de navegador com IA são extremamente vulneráveis 🔸 Medidas práticas que as organizações devem adotar em vez de comprar ferramentas de segurança ineficazes 🔸 Por que resolver isso exige a combinação da experiência clássica em cibersegurança com o conhecimento em IA Ouça agora 👇 • YouTube: https://t.co/YkIpYg5BX6 • Spotify: https://t.co/BrtMzNQCE4 • Apple: https://t.co/Tsb9idYbpA Agradecemos aos nossos maravilhosos patrocinadores pelo apoio ao podcast: 🏆 @datadoghq — Agora lar do Eppo, a principal plataforma de experimentação e sinalização de recursos: https://t.co/BsR16CMiyt 🏆 @getmetronome — Infraestrutura de monetização para empresas de software modernas: https://t.co/63xKc647Dh 🏆 @gofundme Doações de fim de ano — Facilite suas doações:
Carregando detalhes do thread
Buscando os tweets originais no X para montar uma leitura limpa.
Isso normalmente leva apenas alguns segundos.