Usa tu Mac para agentes de IA: Gemma 4 12 B auto-alojada con Pulumi y Tailscale

Los modelos de peso abierto funcionan ahora bien en hardware de consumo, permitiendo que los datos permanezcan locales y la inferencia funcione sin conexión. El modelo Gemma 4 12 B puede ejecutarse en un Mac moderno, proporcionando capacidades de procesamiento de lenguaje de alta calidad. Esta configuración utiliza llama.cpp para inferencia nativa de host, k3d para un clúster local de Kubernetes, Pulumi para infraestructura como código y Tailscale para acceso seguro.