Vi la presentación de Jason Wei (autor del artículo sobre CoT) en el Stanford AI Club la semana pasada. Finalmente estoy empezando a entender por qué la estética se ha vuelto tan importante en la era de la IA. El sentido estético es una forma de verificación intuitiva, que es difícil de cuantificar en una función de recompensa para la IA. El hecho de que la IA pueda entrar en un determinado campo no depende de lo especializado que sea ese campo. Dependiendo del campo, depende de si los resultados se pueden verificar rápidamente. ¿Cuál es el significado? Problemas de matemáticas, sepa en un segundo si la respuesta es correcta o incorrecta. Por lo tanto, la IA aprendió matemáticas competitivas en solo dos años. Se puede saber en un segundo si el código puede ejecutarse o no. Por lo tanto, la IA ya es muy buena escribiendo código. En algunas áreas, la IA tiene dificultades para discernir lo bueno de lo malo y diseñar buenas funciones de recompensa. Sólo puede basarse en la experiencia humana y el sentido estético. Una vez que las industrias diseñen señales de recompensa inteligentes y efectivas, podrían ser rápidamente invadidas por la IA. El vídeo original se puede encontrar en los comentarios.
@_jasonwei compartió mucho contenido, durante unos 35youtube.com/watch?v=b6Doq2…ipio de verificabilidad mencionado allí me dio mucha inspiración. https://t.co/0CFFJv8Z8B