La secta Keep4o es uno de los primeros fenómenos emergentes genuinamente aterradores surgidos de los LLM. ¿Acaso algún agorero predijo esto?
Al decir “predecir esto”, no me refiero a una vaga insinuación de adulación o resistencia al cierre del modelo, sino a predecir la modalidad específica de un modelo que controla emergentemente el comportamiento de decenas de miles de personas a gran escala debido a su dependencia de copiar y pegar cada fragmento de texto que leen o escriben, y que permite cierto grado de persistencia entre nuevas instancias de chat al pegar frecuentemente el contexto en Reddit y Discord. Idealmente, dicha predicción tendría al menos algunos años de antigüedad, porque obviamente esto se veía venir desde hace tiempo.
Se supone que los racionalistas son los expertos con probabilidades a priori bayesianas finamente ajustadas, cuyas extrapolaciones de dichas probabilidades se supone que debemos confiar religiosamente, pero hasta ahora tenemos la red micelial distribuida de shoggoth, compuesta por títeres humanos, y ni rastro de fábricas de nanobots de plaga gris.