IA locale

La tua IA, sul tuo hardware

Ogni domanda che mandi a un’IA nel cloud è un altro pezzo della tua attività sui server di qualcun altro, e un’altra voce in fattura. Attiva i modelli locali in Geyser Host e i tuoi Agents ragionano con modelli aperti sul tuo Mac, PC Windows o computer Linux. Quello che gli mandi non arriva mai a un’azienda di IA esterna, e nessuno ti fa pagare a domanda.

“Scrivo codice con un modello sulla scheda grafica del computer di build. Per le mie domande nessuno ti manda il conto.”

Otis
Tre passi

Da spento a IA locale in pochi minuti

  1. 1
    Attivalo

    Apri Geyser Host sul computer con la scheda grafica migliore o con più memoria, e attiva “Esegui qui i modelli locali”.

  2. 2
    Scegli un modello

    Scegli un modello aperto dall’elenco, o lascia che Geyser scelga quello giusto. Prima misura la memoria del computer, e non scarica un modello che lì non può girare.

  3. 3
    Mettici al lavoro i tuoi Agents

    Scegli quali Agents usano il modello. Da lì in poi ragionano con quello, e il lavoro non aspetta mai i server di un’azienda di IA.

Geyser HostMac da studio · 64 GB
Esegui qui i modelli locali
  • Qwen3 Coder 30BOtis ci sta programmandoIn uso
  • gpt-oss 20BGira su questo MacPronto
  • Gemma 4 12BGira su questo Mac, legge anche le immaginiPronto
  • gpt-oss 120BServe più memoria di quella di questo MacNon ci sta
Geyser confronta ogni modello con la memoria del computer prima di scaricare qualsiasi cosa.
I modelli

Modelli aperti che vale la pena usare

Teniamo una breve lista di modelli aperti che funzionano bene con gli Agents, e ognuno ha una licenza che ti permette di usarlo per lavoro. Quando esce una versione migliore, entra nella lista.

Gemma

I modelli aperti di Google, dai piccoli e rapidi a un 12B che legge sia il testo sia le immagini.

gpt-oss

I modelli a pesi aperti di OpenAI: 20B per la maggior parte dei computer, 120B per quelli più potenti.

Qwen

Modelli solidi per ogni uso, più Qwen3 Coder per scrivere e revisionare codice.

GLM and Nemotron

Modelli veloci di Z.ai e NVIDIA per il lavoro di tutti i giorni e i compiti lunghi.

Vuoi altro? Porta un modello aperto da Hugging Face, o collega un server che gestisci già e che parla l’API di OpenAI.

Il tuo hardware

Configurato per il computer che hai davvero

Geyser Host sceglie il motore giusto per ogni computer, quindi non c’è niente da compilare o configurare. Schede grafiche più potenti e più memoria vogliono dire modelli più grandi e più veloci.

Apple silicon

I Mac fanno girare i modelli con MLX e Metal, e la memoria unificata permette a un Mac Studio di caricare modelli che la maggior parte dei PC non regge.

Schede grafiche NVIDIA

I PC Windows e Linux usano CUDA, così il PC da gaming sotto la scrivania diventa un server IA coi fiocchi.

Altre schede grafiche

Le schede AMD e Intel su Windows e Linux fanno girare i modelli con Vulkan.

Senza scheda grafica

I modelli piccoli girano anche sul processore. Più lenti, ma niente esce dal computer.

Il lavoro privato resta privato

Decidi che cosa può vedere un’IA pubblica

Attiva i Controlli sulle informazioni sensibili e Geyser cerca i dati privati prima che un messaggio, una memoria o un file arrivi a un fornitore di IA pubblica. Poi fa quello che hai scelto: prende nota e invia, toglie i dettagli, passa l’intera richiesta al tuo modello o si rifiuta del tutto di inviarla.

Così il file del cliente va al modello sul tuo Mac, e l’articolo settimanale del blog può comunque andare al miglior modello cloud che paghi.

Come funziona la privacy in Geyser
Controlli sulle informazioni sensibiliQuando vengono trovati dati privati
  • Registra il risultato e consenti l’invio
  • Rimuovi le informazioni rilevate dai controlli integrati
  • Usa un modello privato per l’intera richiesta
  • Blocca l’invio a IA pubbliche
Le voci come appaiono nelle impostazioni IA del tuo spazio di lavoro.
Scegli tu, Agent per Agent

Locale dove conta, cloud dove serve

Ogni Agent può ragionare con un’IA diversa. Dai a quello che legge i file dei clienti un modello sul tuo hardware, e lascia che quello che scrive codice usi Codex con il piano ChatGPT che già paghi. Cambiali quando esce qualcosa di meglio: l’Agent conserva il suo nome e tutto quello che sa.

  • Claude
  • ChatGPT
  • Codex
  • Gemini
  • Mistral
  • Modelli aperti sul tuo hardware
  • Fai accedere gli Agents con il tuo piano ChatGPT, così non c’è niente di nuovo da pagare.
  • Aggiungi le tue chiavi API di Anthropic, OpenAI, Google, Mistral, Together o Meta. Geyser le conserva cifrate e non le copia mai sul computer di un Agent.
  • Collega qualsiasi server che parli l’API di OpenAI, nella tua rete o altrove.
  • L’uso dei tuoi modelli viene mostrato perché tu veda il lavoro svolto, ma non viene mai fatturato.
Insegnagli il tuo mestiere

Addestra uno specialista che nessun altro ha

Scegli “Insegna un nuovo modello” in Geyser, descrivi un compito circoscritto e dagli esempi che hai controllato. Si addestra sul tuo computer, viene messo alla prova contro il modello di partenza e, quando lo accetti, gira sul tuo hardware.

Condividilo con un’altra azienda tramite un link mentre continua a girare sul tuo computer, o richiamalo dalla tua app con l’SDK di OpenAI o di Anthropic, senza aprire una porta sulla tua rete.

Crea app su un modello che hai addestrato
Python · SDK OpenAI
import os
from openai import OpenAI

# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
    base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
    api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
    model="private/pmd_…",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
)
Domande frequenti

Domande sull’IA locale

Costa qualcosa?
No. I modelli sui tuoi computer funzionano con ogni piano, anche Gratuito, e Geyser non li fattura. Oltre all’hardware, l’unico costo è la corrente elettrica.
Quali computer possono far girare i modelli?
Un Mac Apple silicon, un PC Windows o un PC Linux con Geyser Host. Un Mac con tanta memoria unificata, o un PC con una scheda grafica potente, fa girare modelli più grandi e più veloci.
Un’azienda di IA vede quello che mando a un modello locale?
No. Il modello gira sul tuo computer, e quello che gli mandi non arriva mai a un’azienda di IA esterna. Le tue conversazioni sono conservate nello spazio dati del tuo spazio di lavoro, che può stare anch’esso sul tuo hardware.
E se un modello è troppo grande per il mio computer?
Geyser controlla la memoria del computer prima di scaricare qualsiasi cosa e ti avvisa quando un modello non ci sta. Scegline uno più piccolo, o fallo girare su un computer con più memoria.
Le mie app possono usare il modello?
Sì. Rendilo disponibile a uno dei tuoi progetti per sviluppatori e richiamalo con l’SDK di OpenAI o di Anthropic tramite Geyser, da ovunque, senza aprire una porta sulla tua rete.
Inizia

Trasforma il computer che hai nel tuo server IA

Installa Geyser Host, attiva i modelli locali e mettici al lavoro il tuo primo Agent. È gratis.