Fine-tuning

Insegna a un modello aperto il lavoro che fai ogni giorno

Un grande modello nel cloud è bravo in tutto, e in tutto costa caro. Dai a Geyser qualche centinaio di esempi di un lavoro fatto bene, e Geyser addestra un piccolo modello aperto a farlo a modo tuo. Il modello gira sul tuo computer, quindi da lì in poi ogni risposta è gratuita e privata. Parti dai modelli aperti di Hugging Face e addestra sul tuo Mac o PC, oppure su Tinker di Thinking Machines.

“June ha risposto a quattrocento email di rimborso lo scorso trimestre. Con quelle abbiamo addestrato un piccolo modello, e ora lo uso sul Mac dell’ufficio per smistare quelle nuove.”

Pia
Come funziona

Da un mucchio di esempi a un modello al servizio dei tuoi Agents

Puoi farlo tu con “Insegna un nuovo modello”, oppure chiedere a un Agent di gestire l’intero progetto. L’Agent raccoglie e controlla gli esempi, scrive il test, addestra il modello e torna con i punteggi, che sta a te accettare.

  1. 1
    Descrivi un compito

    Di’ cosa entra e cosa deve uscire: smistare un’email di assistenza in una delle tue otto code, oppure estrarre da un PDF numero di fattura, totale e scadenza. Un compito circoscritto si addestra bene su un piccolo modello.

  2. 2
    Dagli esempi che hai controllato

    Scrivili, incollali o carica un file CSV o JSONL, da 5 a 2.000 esempi. Geyser scarta gli esempi che sembrano contenere dati personali, toglie i doppioni e ne tiene da parte un quinto per il test.

  3. 3
    Addestralo

    L’addestramento avviene gratis su uno dei tuoi computer, oppure su Tinker di Thinking Machines quando il compito richiede un modello più grande. In entrambi i casi è un fine-tuning LoRA, quindi il risultato è leggero e si carica in fretta.

  4. 4
    Mettilo a confronto con il punto di partenza

    Il nuovo modello risponde agli esempi che non ha mai visto, e lo stesso fa il modello da cui è partito. Vedi entrambi i punteggi. Se il nuovo non fa almeno altrettanto bene, per i tuoi Agents non cambia nulla.

  5. 5
    Mettilo al lavoro

    Rendilo il modello principale degli Agents che scegli, lascia che i tuoi Agents lo interpellino ogni volta che serve quel lavoro, oppure richiamalo dalla tua app.

Dove si addestra

La tua scheda grafica, o Tinker quando ti serve di più

La maggior parte dei compiti circoscritti si addestra bene sul computer che hai già. Quando uno richiede un modello più grande o un altro tipo di addestramento, Tinker fa il lavoro pesante e Geyser tiene in ordine gli esempi, il test e il conto.

Sul tuo computer

Un Mac con Apple silicon addestra con MLX di Apple. Un PC Windows o Linux con una scheda grafica NVIDIA, o un PC Linux con grafica Intel, addestra con le librerie Transformers e PEFT di Hugging Face. L’addestramento aspetta che il computer sia collegato alla corrente e fresco, e puoi limitarlo agli orari che scegli tu.

  • Gratis, con ogni piano
  • I tuoi esempi non vanno a nessuna azienda esterna
  • Parte da Qwen 3.5 su Mac e da Gemma 4 su PC

Su Tinker, di Thinking Machines

Tinker addestra modelli aperti più grandi senza che tu debba noleggiare nemmeno una GPU, e va oltre esempi e risposte. Un Agent può usarlo per insegnare a un modello partendo dalle tue preferenze tra due risposte, dalle risposte di un modello più grande o con l’apprendimento per rinforzo.

  • Qwen 3.5, Qwen 3.6 35B A3B e gpt-oss 20B
  • Vedi una stima e fissi un tetto di spesa prima di iniziare
  • Tinker può ospitare il modello, oppure te lo porti a casa su un Mac
Su chi ci appoggiamo

Sulle spalle di Hugging Face e Thinking Machines

Preferiamo costruire sui migliori strumenti dell’IA aperta piuttosto che farne delle copie nostre. Queste due aziende fanno gran parte del lavoro duro dietro ogni modello che addestri in Geyser.

Hugging Face

Ogni modello che addestri sui tuoi computer parte dall’Hugging Face Hub, fissato a una versione precisa, così un nuovo addestramento riparte dallo stesso punto. I PC addestrano con le librerie Transformers e PEFT di Hugging Face. E per far girare un modello senza addestrarlo, puoi cercare nell’Hub direttamente da Geyser e vedere su quali dei tuoi computer ci sta.

Thinking Machines

Tinker, di Thinking Machines, permette a un Agent di fare il fine-tuning di modelli molto più grandi di quanto il tuo computer potrebbe contenere, e si occupa al posto tuo delle GPU, della pianificazione e degli errori. Collega una volta il tuo account Tinker e Geyser addestra in un progetto tutto suo per il tuo spazio di lavoro.

I tuoi esempi restano tuoi

Che fine fanno gli esempi che gli dai

I tuoi esempi sono il know-how della tua attività, e Geyser li tratta come tali. Decidi tu dove avviene l’addestramento, e il modello che ne esce appartiene al tuo spazio di lavoro.

Come funziona la privacy in Geyser
  • Se addestri sui tuoi computer, i tuoi esempi non vanno a nessuna azienda esterna.
  • Tinker vede i tuoi esempi solo se lo consenti come fornitore esterno, e i dati che hai riservato ai tuoi computer non gli arrivano mai.
  • La posta e i file di Google Workspace e Microsoft 365 non vengono usati come esempi di addestramento.
  • I tuoi esempi addestrano i tuoi modelli e quelli di nessun altro. Non vengono mai messi in comune con quelli di un altro cliente.
  • Se elimini gli esempi da cui un modello ha imparato, quel modello non viene più usato.
Usalo ovunque

Richiama il tuo modello dalla tua app

Rendi disponibile il modello a uno dei tuoi progetti per sviluppatori e richiamalo con l’SDK di OpenAI o di Anthropic che già usi. Le richieste lo raggiungono tramite Geyser, così la tua app funziona da ovunque senza aprire una porta sulla tua rete, e un modello sul tuo computer continua a non costare nulla per richiesta.

Crea app su un modello che hai addestrato
Python · SDK OpenAI
import os
from openai import OpenAI

# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
    base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
    api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
    model="private/pmd_…",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
)
Domande frequenti

Domande sul fine-tuning

Come inizio?
Apri Modelli in Geyser e scegli “Insegna un nuovo modello” per farlo tu, oppure “Crea un modello” per affidare il progetto a un Agent. Per addestrare su Tinker, collega prima il tuo account Tinker in Impostazioni, alla voce Account.
Quanto costa?
Addestrare sui tuoi computer è gratis, e lo è anche ogni risposta che il modello dà lì. L’addestramento su Tinker usa il tuo account Tinker, quindi è Thinking Machines a fatturarti direttamente. Vedi una stima e fissi un tetto di spesa prima di iniziare.
Quanti esempi mi servono?
Ne bastano cinque per provare, e qualche centinaio di esempi buoni è un inizio migliore. Più i tuoi esempi sono coerenti, più il modello diventa bravo nel suo lavoro.
È un fine-tuning completo?
No. Geyser addestra un adattatore LoRA sopra un modello aperto, e così servono molta meno memoria e molto meno tempo. Su Tinker un Agent può usare anche l’addestramento sulle preferenze, la distillazione da un modello più grande o l’apprendimento per rinforzo.
E se il nuovo modello è peggiore?
Allora non cambia nulla. Un modello entra in servizio solo se fa almeno altrettanto bene di quello da cui è partito su esempi su cui non si è mai addestrato, e puoi tornare a una versione precedente.
Posso far girare un modello di Hugging Face senza addestrarlo?
Sì. Cerca nell’Hugging Face Hub da Geyser, scegli un modello e Geyser ti dice su quali dei tuoi computer ci sta prima di scaricare qualsiasi cosa.
Inizia

Insegna un compito a un modello questa settimana

Scegli il compito che il tuo team ripete più spesso, raccogli qualche centinaio di esempi di cui ti fidi e guarda quanto ci arriva vicino un piccolo modello sul tuo computer.