Por qué proteger la IA es más difícil de lo esperado y la inminente crisis de seguridad de la IA con @SanderSchulhoff Sander es un investigador líder en el campo de la robustez adversarial, que es el arte y la ciencia de lograr que los sistemas de IA hagan cosas que no deberían hacer, mediante el jailbreak y la inyección rápida. Lo que Sander comparte en esta conversación es esencialmente que todos los sistemas de IA que usamos día a día están expuestos a ser engañados para hacer cosas que no deberían, que en realidad no hay una solución para este problema y que las empresas que intentan vender soluciones para esto son en su mayoría basura. Esta conversación no tiene nada que ver con la IA general; es un problema actual. Y la única razón por la que no hemos visto ataques masivos ni daños graves causados por herramientas de IA es que, hasta ahora, no se les ha otorgado tanto poder ni se han adoptado de forma generalizada. Pero con el auge de los agentes (que pueden actuar en tu nombre), los robots e incluso los navegadores con IA, el riesgo aumentará muy rápidamente. Este es un tema muy importante que me abrió la mente y me asustó, y es algo que todos debemos tener una comprensión básica a medida que la IA se vuelve más frecuente en nuestras vidas. Adentro: 🔸 Una introducción al jailbreaking y a los ataques de inyección rápida 🔸 Por qué las barreras de seguridad de la IA no funcionan 🔸 Por qué aún no hemos visto incidentes importantes de seguridad de IA (pero pronto los habrá) 🔸 Por qué los agentes de navegador con IA son extremadamente vulnerables 🔸 Los pasos prácticos que las organizaciones deberían tomar en lugar de comprar herramientas de seguridad ineficaces 🔸 Por qué resolver esto requiere fusionar la experiencia clásica en ciberseguridad con el conocimiento de IA Escucha ahora 👇 • YouTube: https://t.co/YkIpYg5BX6 • Spotify: https://t.co/BrtMzNQCE4 • Manzana: https://t.co/Tsb9idYbpA Gracias a nuestros maravillosos patrocinadores por apoyar el podcast: 🏆 @datadoghq — Ahora es el hogar de Eppo, la plataforma líder en experimentación y señalización de funciones: https://t.co/BsR16CMiyt 🏆 @getmetronome — Infraestructura de monetización para empresas de software modernas: https://t.co/63xKc647Dh @gofundme Donaciones de fondos: facilita las donaciones de fin de año:
Cargando el detalle del hilo
Obteniendo los tweets originales de X para ofrecer una lectura limpia.
Esto suele tardar solo unos segundos.