Me acabo de dar cuenta de que si vivimos en un mundo donde la tesis del "núcleo cognix.com/karpathy/statu…s://t.co/1RtvrEGIXd) es cierta en su forma máxima (es decir, que el núcleo cognitivo LLM es realmente superior, así es como lo describió en la entrevista con Dwarkesh P.),
En ese caso, la generación de valor en el mercado de la IA podría ser radicalmente distinta. Es decir, podría haber mucho menos valor en los grandes modelos "de vanguardia" que solo las empresas más grandes pueden desarrollar. Por otro lado, el uso de alto rendimiento del "núcleo cognitivo" requeriría acceso
a datos de alta calidad, adaptadores, complementos, etc. Si estas cosas diferenciaran la "buena IA" de la "mala IA", ahí es donde deberíamos esperar que se produzca toda la actividad económica. Y abre espacio para empresas especializadas más pequeñas.
Y podría conducir al crecimiento de un ecosistema [descentralizado] de "finanzas de la información" que incentivaría a los participantes del mercado a ofrecer datos y componentes de mayor calidad.
Un artículo reciente que introduce un concepto de "cararxiv.org/abs/2506.06266E0lGXeia5) podría darnos una idea para un tipo de producto que funcionaría bien con un "núcleo cognitivo". Un cartucho es un prefijo KV entrenado mediante un "autoaprendizaje" de un corpus de documentos.
Si el "núcleo cognitivo" solo conoce un mínimo de datos, se debe incluir mucha información en el contexto, y sería mucho más eficiente utilizar cartuchos con pensamientos precalculados que analizar documentos sin procesar en cada consulta.
Además, un artículo anterior sobre "ajuste de prefijos" demostró que el prefijo KV también puede tener el mismo efecto que el ajuste fino, por lo que el cartucho también puede incluir habilidades, estilo textual, etc. Y a diferencia de los adaptadores LoRa, son componibles.