En los últimos dos años, la demanda de empleos relacionados con modelos de lenguaje de gran tamaño se ha disparado, y cada vez más desarrolladores quieren aprender a desarrollar modelos de gran tamaño, pero la mayoría de los tutoriales en línea solo cubren conceptos teóricos. Este curso, perteneciente al programa CS336 de la Universidad de Stanford (primavera de 2025), ahora es totalmente abierto y gratuito, y nos guía en la construcción de un modelo de lenguaje grande y completo desde cero. Cubre todos los aspectos clave del desarrollo de LLM, incluyendo la segmentación de palabras, la arquitectura del modelo, la optimización de GPU, el entrenamiento paralelo, el procesamiento de datos y la alineación del modelo. GitHub: https://t.co/R4SCZsarfk Enlace de aprendizaje: https://t.co/rjvjvk5S4p También incluye 5 ejercicios de programación de alta calidad, y el código de ejemplo para los ejercicios se ha publicado como código abierto en GitHub, que puedes descargar y ejecutar directamente. También incluye videotutoriales que se pueden ver en YouTube. Para realizar este curso se requiere cierto nivel de conocimientos de Python y aprendizaje profundo. Los estudiantes interesados pueden consultar más información.
