Para comparação com minha postagem anterior sobre o MacBook Pro M5 rodando Gemma 3 QAT 12B com MLX, aqui está o desempenho do M1. O M1 está rodando a aproximadamente 6 tk/s contra aproximadamente 16 tk/s do M5.
Carregando detalhes do thread
Buscando os tweets originais no X para montar uma leitura limpa.
Isso normalmente leva apenas alguns segundos.