Último vídeo de entrevista de Ilya, versión completamente bilingüe (chino e inglés). Ilya: La era del escalamiento ha terminado. Próxima fase: Cómo lograr que los modelos aprendan como los humanos. Esta es la primera exposición sistemática de Ilya de sus pensamientos integrales sobre el desarrollo actual de la IA, la inteligencia futura, la alineación de seguridad y la evolución de la sociedad humana desde que dejó OpenAI para fundar SSI. El tema principal de toda la conversación giró en torno a tres cosas: ¿Por qué los resultados actuales de las pruebas de IA son altos, pero su desempeño en el mundo real está lejos de ser ideal? ¿Cómo puede la “función de generalización y valor” de la inteligencia humana inspirar futuros métodos de entrenamiento de IA? ¿Qué tipo de “Superinteligencia Segura” quiere construir SSI? 1. El problema fundamental del estado actual de la IA: puede obtener puntuaciones altas, pero no puede realizar trabajo práctico. Los modelos actuales (como la serie GPT) funcionan excepcionalmente bien en tareas de prueba (evaluaciones), pero su impacto económico real es limitado. El modelo puede encontrar un "error cíclico" en tareas complejas: corregir un error solo introduce otro. Ilya señala que esto se debe a que estamos demasiado centrados en "recompensar a los humanos" durante la fase de aprendizaje de refuerzo, descuidando la capacidad de generalización en el mundo real. 2. Preentrenamiento vs. aprendizaje de refuerzo: ¿Dónde se encuentra la verdadera inteligencia? Preentrenamiento: utilizando “todos los datos” sin selección humana, el modelo aprende una proyección amplia del mundo humano. Aprendizaje por refuerzo (RL): requiere un entorno diseñado manualmente y el objetivo a menudo se establece como "hacer que el modelo se vea mejor en las evaluaciones". Ilya sostiene que esto hace que el modelo se parezca a un "estudiante que sólo sabe tomar exámenes", carente de una visión genuina y de transferibilidad. 3. La clave de la inteligencia humana: Función Valor y Emoción Lya propuso que la razón por la que los humanos podemos aprender y generalizar en un mundo complejo es porque poseemos un "sistema de valores intrínsecos". Este sistema es emoción: Felicidad → Comentarios positivos; Ansiedad → Recordarle los riesgos potenciales; Vergüenza → Ajustar estrategias sociales; Curiosidad → Inspira la exploración. En el aprendizaje de refuerzo, esto es como una función de valor implícita. Permite a las personas saber de antemano que "la dirección es incorrecta", en lugar de esperar una señal de castigo. Por lo tanto, él cree: "La verdadera inteligencia no es sólo la capacidad de predecir, sino un sistema de valores constantemente actualizado". Si la IA del futuro puede aprender a "autoevaluar si la tarea va en la dirección correcta", poseerá una "capacidad de aprendizaje basada en el significado" como los humanos. 4. "La era del escalamiento ha terminado y ha llegado la era de la investigación" Ilya criticó duramente el estado actual de la industria de la IA. Afirmó que la última década de avances en IA se puede dividir en dos eras: 2012–2020: La era de la investigación → La innovación proviene de arquitecturas innovadoras (AlexNet, Transformer). 2020–2025: La era de la escalabilidad → Todos los esfuerzos se centran en "acumular datos, potencia de cálculo y parámetros del modelo". Él cree que esta tendencia ha llegado a su punto máximo: “La escalabilidad ha agotado el potencial de la innovación”. Actualmente: el poder de cómputo sigue siendo alto, pero los beneficios de una mayor acumulación de recursos están disminuyendo. El próximo avance debe volver a la cuestión de cómo hacer que el modelo aprenda como un humano, en lugar de requerir más potencia informática. En otras palabras, el enfoque se ha desplazado de la expansión cuantitativa a la innovación estructural. La clave de la competencia futura no será la potencia informática, sino quién pueda proponer nuevos principios de aprendizaje. 5. Hoja de ruta para los próximos diez años La predicción de Ilya: En los próximos 5 a 20 años, la IA aprenderá a aprender de forma similar a la humana; Puede: Explorar activamente el mundo; Comprender las leyes de la física y la sociedad; Autorreflexión; También permite el razonamiento intermodal (integración multisensorial). Una vez que este sistema madure, producirá: Explosión de la productividad económica; Los modelos de educación e investigación han sido completamente remodelados; La relación entre humanos y máquinas ha entrado en la era de la “cointeligencia”. Sin embargo, Ilya enfatizó que estos sistemas deberían implementarse de manera gradual y transparente para permitir que el público y el gobierno comprendan sus capacidades y riesgos. Destacó que el SSI procederá de manera progresiva, segura y transparente: las capacidades, riesgos y estrategias de control en cada etapa estarán sujetas a revisión externa. (Como se trata de una traducción de IA, puede haber errores menores. Tenga en cuenta la posibilidad de error).
Transcxiaohu.ai/c/ai/ilya-scal…://t.coyoutu.be/aR20FWCCjAsginal: https://t.co/cd3sNhZ9Jz