4 Mac Studios conectados via Exo usando o novo recurso RDMA. Hardware para o consumidor (embora ainda caro), LLMs consideráveis, 1,5 TB de VRAM. Mais de 30 tok/s no DeepSeek 3.1 (modelo 671B). O VibeCode é um pouco caro, mas é completamente privado, pyoutube.com/watch?v=x4_RsU…vel. https://t.co/aF7zJnuBuA
Este é o tipo de coisa que se pode esperar que as grandes empresas já estejam a experimentar nos seus laboratórios de engenharia de software, tentando encontrar uma forma de escapar às plataformas de IA alojadas e controladas por terceiros, especialmente em setores onde a regulamentação impede a utilização da maioria dos softwares na nuvem. Este é o tipo de trabalho que facilitará a adoção de ferramentas de IA nessas empresas, e torna-se crucial para as empresas de software considerarem que não apenas precisam implantar seu conjunto de software localmente, mas também precisam ser capazes de integrar seus clusters de IA às implantações locais.