Hilo de Damian Tran (@damianvtran)

Opinión: gran parte de la circularidad en el gráfico de Nvidia/Coreweave/OpenAI se puede explicar por la falta de viabilidad financiera de los centros de datos de IA. Para entender por qué, podemos analizar el modelo de negocio de la minería de criptomonedas: a medida que aumentaba la dificultad, muchas empresas mineras dejaron de ser rentables debido a los elevados costes de depreciación, que prácticamente anulaban sus beneficios cada pocos años al tener que reemplazar los equipos. Los centros de datos de IA son prácticamente una repetición de esto desde la perspectiva de los proveedores, ya que solo obtienen ingresos por el tiempo de GPU y no por los resultados de la IA, por lo que el contenido real del cálculo es irrelevante para su modelo de negocio. Nvidia, Google y OpenAI están externalizando total o parcialmente la gestión de sus centros de datos, ya que los costes de depreciación resultan muy perjudiciales para cualquier balance. Es más sencillo que las neoclouds asuman ese coste y se beneficien de todo el ciclo de vida del hardware sin tener que asumir la depreciación. Cuando Nvidia vende GPU a CW y arrienda horas de GPU a DGX Cloud, lo que realmente hace es ganar dinero con la venta de la GPU y el margen de beneficio del arrendamiento, y hacer que CW asuma la depreciación. Las empresas de nueva generación de software buscan inflar el precio de sus acciones y obtener un crecimiento de la noche a la mañana. Esto funcionará durante un tiempo, hasta que ya no puedan obtener financiación mediante deuda. En ese momento, será necesario recalibrar muchos indicadores financieros si los grandes inversores quieren asumir la depreciación por completo. Por motivos de la cadena de suministro y los recursos, el coste de los chips GPU no disminuirá con el tiempo por unidad, ya que prevemos que las nuevas generaciones de GPU con mayor capacidad seguirán reemplazando al hardware antiguo a precios iguales o superiores, y las cargas útiles de computación LLM seguirán aumentando en tamaño y complejidad. Por lo tanto, no hay forma de revertir este modelo para que sea rentable; es una bomba de relojería que estallará ante cambios en las tarifas o problemas de liquidez (o ambos). La única forma de que las cosas funcionen es mejorar la eficiencia en el paradigma de la IA que nos permita obtener la misma economía de centro de datos que la nube convencional: poder impulsar la computación a través de hardware más económico donde la depreciación no sea tan extrema. En un futuro próximo, esto podría traducirse en un hardware más rentable, con menor concentración en la cadena de suministro, para una arquitectura de IA fundamentalmente diferente, donde obtendríamos el mismo o mejor rendimiento de inferencia en un hardware de fabricación más sencilla y generalizada. Si/cuando la burbuja explote, probablemente será lo mejor para la industria de la IA a largo plazo, ya que comenzará a redistribuir los fondos hacia mejores enfoques que "simplemente hacerla más grande, gastar más dinero y ver qué pasa".