Mac Studio M5 Ultra: LLMs frontier corriendo en tu escritorio
Apple lanzó el M5 Ultra: cuatro dies, GPU de 80 núcleos, 1.2 TB/s y hasta 512 GB de memoria unificada. Por qué cambia la conversación sobre IA local.
$ grep -l "#ia-local" posts/
Apple lanzó el M5 Ultra: cuatro dies, GPU de 80 núcleos, 1.2 TB/s y hasta 512 GB de memoria unificada. Por qué cambia la conversación sobre IA local.
Modular liberó Mojo 1.0 bajo Apache 2.0 tras la compra de Qualcomm. Qué cambia, qué abre para correr LLMs en hardware no NVIDIA y por qué el momento importa.
Qwen publicó Qwen3.8-2.4T-A95B: 2.4 billones de parámetros, 95B activos por MoE y ~5 TB en BF16. Qué significa, qué se puede correr en casa y por qué importa.
Cua liberó una capa que expone los fast paths de Metal dentro de VMs de macOS y multiplica 11-16x la inferencia con llama.cpp. El truco y por qué importa.
Meta liberó Muse Glimmer: 30B con pesos abiertos y 4-bit, pensado para agentes locales always-on en hardware de consumo. Qué cambia y cómo probarlo.
Swiftlet es un runtime en Swift y Metal que corre un Qwen de 80B con 4.3 GB de RAM y un 35B en un iPhone. El truco MoE que lo hace posible y cómo probarlo.
Instala Ollama, descarga modelos abiertos como Qwen 3, Gemma 3 o Llama y córrelos en tu máquina: privacidad, cero costos de API y control total de tus datos.