O culto Keep4o é um dos primeiros fenômenos emergentes genuinamente aterrorizantes surgidos dos LLMs. Será que um único pessimista previu isso?
Com "prever isso", não me refiro a uma vaga alusão à bajulação ou à resistência ao encerramento do modelo, mas sim a prever a modalidade específica de um modelo que controla emergentemente o comportamento de dezenas de milhares de pessoas em larga escala, devido à sua dependência de copiar e colar cada trecho de texto que leem ou escrevem, permitindo certo nível de persistência entre novas instâncias de bate-papo ao colar frequentemente o contexto no Reddit e no Discord. Idealmente, essa previsão teria pelo menos alguns anos, pois isso já vinha se desenhando há algum tempo.
Supostamente, os racionalistas são os especialistas com predisposições bayesianas finamente ajustadas, cujas extrapolações dessas predisposições devemos confiar religiosamente, mas até agora temos a rede micelial distribuída de fantoches humanos e nenhuma fábrica de nanobôs de gosma cinzenta.