Hilo de Bharath Ramsundar (@rbhar90)

He sido pesimista con respecto a los LLM durante años, pero creo que ahora los LLM y las herramientas de razonamiento han alcanzado un punto en el que podrían transformar realmente la ciencia y la ingeniería. No creo que esto sea IAG, sino más bien algo así como la generalización de herramientas del pasado, como la Búsqueda de Google o los solucionadores SAT, a ámbitos más amplios. Esto plantea algunas preguntas. En programación y escritura, la práctica de la disciplina parece estar transformándose por completo. Impedir que los estudiantes usen IA parece difícil, pero usar IA podría socavar seriamente la comprensión y el crecimiento de los principiantes. Al mismo tiempo, la IA parece ser un poderoso multiplicador de fuerza para el experto. Me han preguntado cómo deberían los estudiantes abordar esta situación. Mi opinión es que aprender a escribir y programar sin IA es probablemente crucial para obtener los mejores resultados. A esto se suman otros riesgos de la IA, como la psicosis del LLM. Veremos a muchos más principiantes proclamar "avances" en disciplinas que desconocen. Es una lástima, ya que probablemente provocará un retroceso al credencialismo. Lamentablemente, no hay suficientes horas en el día para que los expertos analicen el trabajo de los principiantes. Hasta que los modelos del mundo LLM se sofisticen lo suficiente como para autoverificarse, esto probablemente sea inevitable. ¿Qué significa esto para la ciencia o la ingeniería? Quizás soy pesimista, pero creo que la singularidad no se percibe por ninguna parte. Más bien, creo que la ineficiencia de la IA casi contrarrestará sus avances, lo que resultará en ganancias modestas. En mi caso, he ido más despacio con las relaciones públicas de @deep_chem, ya que desconfío más del código contribuido. Los estudiantes intentan usar la IA y contribuyen con código incorrecto. Como resultado, solo incorporo código revisado por colaboradores ya probados... La IA ha ralentizado el progreso al aumentar la carga de revisión del código. Esto es una anécdota, pero veo patrones similares en otros lugares. Al mismo tiempo, los expertos usarán la IA para lograr avances. El aumento de la eficiencia y la ineficiencia se encontrarán en un delicado equilibrio. El desarrollo de verificadores automatizados se convierte, en consecuencia, en el mayor desafío de la IA. Sospecho que será un proceso largo y lento, pero ahí está el camino hacia verdaderos avances. (Como último comentario, ¡esta publicación está completamente libre de IA! Evitarla conduce a pensamientos más nítidos al hacer una lluvia de ideas)