Gemma
I modelli aperti di Google, dai piccoli e rapidi a un 12B che legge sia il testo sia le immagini.
Ogni domanda che mandi a un’IA nel cloud è un altro pezzo della tua attività sui server di qualcun altro, e un’altra voce in fattura. Attiva i modelli locali in Geyser Host e i tuoi Agents ragionano con modelli aperti sul tuo Mac, PC Windows o computer Linux. Quello che gli mandi non arriva mai a un’azienda di IA esterna, e nessuno ti fa pagare a domanda.
“Scrivo codice con un modello sulla scheda grafica del computer di build. Per le mie domande nessuno ti manda il conto.”
Apri Geyser Host sul computer con la scheda grafica migliore o con più memoria, e attiva “Esegui qui i modelli locali”.
Scegli un modello aperto dall’elenco, o lascia che Geyser scelga quello giusto. Prima misura la memoria del computer, e non scarica un modello che lì non può girare.
Scegli quali Agents usano il modello. Da lì in poi ragionano con quello, e il lavoro non aspetta mai i server di un’azienda di IA.
Teniamo una breve lista di modelli aperti che funzionano bene con gli Agents, e ognuno ha una licenza che ti permette di usarlo per lavoro. Quando esce una versione migliore, entra nella lista.
I modelli aperti di Google, dai piccoli e rapidi a un 12B che legge sia il testo sia le immagini.
I modelli a pesi aperti di OpenAI: 20B per la maggior parte dei computer, 120B per quelli più potenti.
Modelli solidi per ogni uso, più Qwen3 Coder per scrivere e revisionare codice.
Modelli veloci di Z.ai e NVIDIA per il lavoro di tutti i giorni e i compiti lunghi.
Vuoi altro? Porta un modello aperto da Hugging Face, o collega un server che gestisci già e che parla l’API di OpenAI.
Geyser Host sceglie il motore giusto per ogni computer, quindi non c’è niente da compilare o configurare. Schede grafiche più potenti e più memoria vogliono dire modelli più grandi e più veloci.
I Mac fanno girare i modelli con MLX e Metal, e la memoria unificata permette a un Mac Studio di caricare modelli che la maggior parte dei PC non regge.
I PC Windows e Linux usano CUDA, così il PC da gaming sotto la scrivania diventa un server IA coi fiocchi.
Le schede AMD e Intel su Windows e Linux fanno girare i modelli con Vulkan.
I modelli piccoli girano anche sul processore. Più lenti, ma niente esce dal computer.
Attiva i Controlli sulle informazioni sensibili e Geyser cerca i dati privati prima che un messaggio, una memoria o un file arrivi a un fornitore di IA pubblica. Poi fa quello che hai scelto: prende nota e invia, toglie i dettagli, passa l’intera richiesta al tuo modello o si rifiuta del tutto di inviarla.
Così il file del cliente va al modello sul tuo Mac, e l’articolo settimanale del blog può comunque andare al miglior modello cloud che paghi.
Come funziona la privacy in GeyserOgni Agent può ragionare con un’IA diversa. Dai a quello che legge i file dei clienti un modello sul tuo hardware, e lascia che quello che scrive codice usi Codex con il piano ChatGPT che già paghi. Cambiali quando esce qualcosa di meglio: l’Agent conserva il suo nome e tutto quello che sa.
Scegli “Insegna un nuovo modello” in Geyser, descrivi un compito circoscritto e dagli esempi che hai controllato. Si addestra sul tuo computer, viene messo alla prova contro il modello di partenza e, quando lo accetti, gira sul tuo hardware.
Condividilo con un’altra azienda tramite un link mentre continua a girare sul tuo computer, o richiamalo dalla tua app con l’SDK di OpenAI o di Anthropic, senza aprire una porta sulla tua rete.
Crea app su un modello che hai addestratoimport os
from openai import OpenAI
# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
model="private/pmd_…",
messages=[{"role": "user", "content": "Summarize this ticket"}],
)Installa Geyser Host, attiva i modelli locali e mettici al lavoro il tuo primo Agent. È gratis.