A modo de comparación con mi publicación anterior sobre la MacBook Pro M5 con Gemma 3 QAT 12B con MLX, aquí está el rendimiento del M1. El M1 funciona a unos 6 tk/s frente a los 16 tk/s del M5.
Cargando el detalle del hilo
Obteniendo los tweets originales de X para ofrecer una lectura limpia.
Esto suele tardar solo unos segundos.