Hilo de 宝玉 (@dotey)

Vitalik Buterin (V God) criticó bastante bien a la comunidad de la IA. Los entusiastas de la IA de Silicon Valley dicen: "Esto iba a suceder tarde o temprano, así que no solo no debemos detenerlo, ¡sino que debemos acelerarlo!" "La automatización total de la economía es 'inevitable', y el trabajo humano está destinado a desaparecer gradualmente. Por lo tanto, debemos acelerar este proceso lo más rápido posible." ¿No tiene mucho sentido? La historia sigue su curso. Pero, ¿quién dijo eso? Fueron esas empresas que están totalmente comprometidas con el desarrollo de la IA y con obtener beneficios de ella. Este es un típico argumento de "índice de defensa bajo". Sustituye sutilmente una previsión a largo plazo potencialmente razonable de que "eventualmente se automatizará" por "así que deberíamos acelerarlo ahora". 1. Te hace abandonar la resistencia, implica que tu resistencia es inútil. Por el contrario, cuando todo el mundo dice: "Ríndete, es inevitable", es entonces cuando tu resistencia resulta más valiosa. 2. Oscurece las demás opciones. La realidad es que hay más de dos opciones: "ir a por todas" o "cerrar". Podríamos habernos centrado en desarrollar IA que ayude a los humanos, en lugar de reemplazarlos, lo que nos habría dado más tiempo para una transición segura. 3. Sirve a intereses privados. La "teoría de la inevitabilidad" no es más que una fachada elegante utilizada para disfrazar sus verdaderos motivos de "búsqueda de beneficios y poder".