Hilo de 宝玉 (@dotey)

La interpretación que el propio Sam Altam hizo de la transmisión en vivo de ayer: Ayer hicimos una transmisión en vivo. Para quienes se la perdieron, aquí tienen un resumen: Nos hemos fijado una serie de objetivos internos: para septiembre de 2026, queremos crear un "becario de investigación en IA" que pueda funcionar en cientos de miles de GPU; para marzo de 2028, queremos crear un verdadero "investigador de IA automatizado". Quizás no logremos este objetivo, pero aun así debemos alzar la voz. ¿Por qué? Porque el impacto de este asunto (si tiene éxito) es enorme, y sentimos que, por responsabilidad hacia el público, debemos mantener la transparencia. Para garantizar que la IA no se "desvíe", diseñamos una "red de protección de cinco capas": 1. Alineación de valores (garantizar que el sentido del bien y del mal de la IA coincida con el de los humanos) 2. Alineación de objetivos (garantizar que lo que la IA quiere hacer es lo que nosotros queremos que haga) 3. Fiabilidad (Garantizar que la IA funcione de forma estable en diversas condiciones) 4. Robustez ante ataques adversarios (garantizar que la IA no pueda ser "envenenada" o engañada maliciosamente) 5. Seguridad del sistema (Garantizar que todo el sistema de IA sea seguro y no pueda ser explotado por hackers) Nos entusiasma especialmente una herramienta llamada «Fidelidad a la cadena de pensamiento» (que garantiza que la IA no solo dé la respuesta correcta, sino que también explique con honestidad cómo llegó a esa conclusión). Sin embargo, aún es algo frágil (propensa a fallar) y requiere límites y abstracciones claramente definidos. En cuanto al producto, nos esforzamos por transformarnos en una verdadera plataforma. Prevemos que, en el futuro, la mayor parte del valor lo crearán las personas y empresas que desarrollen nuestras tecnologías (como nuestras API o aplicaciones dentro de ChatGPT). Nuestro objetivo final es proporcionar una nube de IA que pueda impulsar a grandes empresas. Actualmente, tenemos comprometida una capacidad de cómputo de aproximadamente 30 gigavatios (GW) (1 GW equivale aproximadamente a la potencia de una gran central nuclear). El costo total de propiedad (CTP) en los próximos años alcanzará aproximadamente los 1,4 billones de dólares. ¿Tenemos confianza en invertir tanto dinero? Sí. Porque vemos perspectivas prometedoras en cuanto a las capacidades de los modelos y el crecimiento de los ingresos. Incluso queremos ir más allá: queremos construir una «fábrica de IA» que pueda generar 1 gigavatio de nueva potencia informática por semana a un coste mucho menor que el actual. Sin embargo, para lograr este gran avance, necesitamos aún mayor confianza en los modelos futuros, los ingresos y la innovación tecnológica y financiera. Nuestra nueva estructura (refiriéndonos a la estructura de la empresa) es mucho más sencilla que la anterior. Ahora se compone de lo siguiente: Contamos con una organización sin ánimo de lucro llamada Fundación OpenAI, que gestiona una Sociedad de Beneficio Público (SBP) denominada Grupo OpenAI. Inicialmente, la Fundación posee el 26 % del Grupo, pero si este (la SBP) obtiene resultados excepcionalmente buenos, la Fundación puede aumentar su participación mediante warrants. El objetivo de esta Sociedad de Beneficio Público (SBP) es atraer (mediante financiación, por ejemplo) los recursos necesarios para cumplir su misión, al igual que una empresa convencional. Ya sea una fundación sin ánimo de lucro o esta corporación de interés público, nuestra misión sigue siendo la misma: garantizar que la Inteligencia Artificial General (IAG) beneficie a toda la humanidad. Esta fundación sin ánimo de lucro (en referencia a la Fundación OpenAI) prometió 25.000 millones de dólares en sus primeras etapas, centrándose en dos áreas principales: la salud y la lucha contra las enfermedades, y la "resiliencia de la IA" (un término relativamente nuevo que se refiere a todo aquello que puede ayudar a la sociedad a transitar sin problemas hacia la "era post-IAG", incluyendo no solo la seguridad tecnológica, sino también la investigación sobre el impacto económico, la ciberseguridad, etc.). Además, a diferencia de antes, esta fundación sin ánimo de lucro ahora puede realmente "distribuir dinero" (es decir, desplegar fondos) muy rápidamente. Prevemos que para 2026 nuestro sistema de IA podrá realizar algunos descubrimientos nuevos "pequeños"; y para 2028, podremos presenciar descubrimientos "grandes". Esto no es un asunto menor. Porque creemos firmemente que la ciencia, y los mecanismos que pueden difundir ampliamente los hallazgos científicos (para que todos puedan beneficiarse), son la clave fundamental para mejorar continuamente la calidad de vida humana.