4 Mac Studios conectados a través de Exo usando la nueva tecnología RDMA. Hardware de consumo (aunque todavía caro), LLM de tamaño considerable, 1,5 TB de VRAM. Más de 30 tok/s en DeepSeek 3.1 (el modelo 671B). Es un poco caro codificar vibraciones, pyoutube.com/watch?v=x4_RsU…ivado, permanente y personalizable. https://t.co/aF7zJnuBuA
Este es el tipo de cosas que se puede esperar que las empresas ya estén experimentando en sus laboratorios de ingeniería de software, tratando de encontrar una manera de alejarse de las plataformas de IA alojadas y controladas por otros, particularmente en industrias donde la regulación impide el uso de la mayoría del software en la nube. Este es el tipo de trabajo que facilitará la adopción de herramientas de IA en estas empresas, y resulta fundamental que las empresas de software consideren que no solo tienen que realizar la implementación local de su pila de software, sino que también tienen que poder integrarse en las implementaciones locales de sus clústeres de IA.