Használd a Mac-edet AI ügynökökhöz: Saját gazdája Gemma 4 12 B-t Pulumival és Tailscale-lel

Az openweight-modellek most már jól működnek fogyasztói hardveren, lehetővé téve az adatok helyiségét és az inference offline működését. A Gemma 4 12 B modell modern Mac-en futtatható, így magas színvonalú nyelvfeldolgozási képességeket biztosít. Ez a beállítás llama.cpp-t használ a host-native következtetéshez, k3d-t a helyi Kubernetes klaszterhez, Pulumi-t az infrastruktúra kódhoz, és Tailscale-t a biztonságos hozzáféréshez.