He estado usando la nueva MacBook Pro M5 desde su lanzamiento y es una bestia, ¡especialmente comparada con mi antigua M1! Es bueno para ejecutar modelos de IA más pequeños localmente, pero también todo lo que haces es muy rápido. Aquí está Gemma 3 QAT 12B funcionando con MLX:
Cargando el detalle del hilo
Obteniendo los tweets originales de X para ofrecer una lectura limpia.
Esto suele tardar solo unos segundos.