Ajuste fino

Ensine a um modelo aberto o trabalho que você faz todo dia

Um modelo grande na nuvem é bom em tudo e caro em tudo. Dê à Geyser algumas centenas de exemplos de uma tarefa bem feita, e ela faz o ajuste fino de um modelo aberto pequeno para fazer essa tarefa do seu jeito. O modelo roda no seu próprio computador, então, dali em diante, cada resposta é grátis e privada. Comece com modelos abertos do Hugging Face e treine no seu próprio Mac ou PC, ou no Tinker, da Thinking Machines.

“A June respondeu quatrocentos e-mails de reembolso no último trimestre. Ensinamos um modelo pequeno com eles, e agora eu separo os novos com ele no Mac do escritório.”

Pia
Como funciona

De uma pilha de exemplos a um modelo que seus Agents usam

Você pode fazer sozinho com “Ensinar um novo modelo” ou pedir a um Agent que cuide do projeto inteiro. O Agent reúne e confere os exemplos, escreve o teste, treina e volta com as notas para você aprovar.

  1. 1
    Descreva uma tarefa

    Diga o que entra e o que deve sair: classificar um e-mail de suporte em uma das suas oito filas, ou tirar de um PDF o número da fatura, o total e o vencimento. Um modelo pequeno aprende bem uma tarefa específica.

  2. 2
    Passe exemplos que você conferiu

    Digite, cole ou envie um arquivo CSV ou JSONL, de 5 a 2.000 exemplos. A Geyser deixa de fora os exemplos que parecem ter dados pessoais, tira as repetições e separa um quinto deles para o teste.

  3. 3
    Treine

    O treinamento roda em um dos seus próprios computadores sem custo, ou no Tinker, da Thinking Machines, quando a tarefa pede um modelo maior. Nos dois casos é ajuste fino com LoRA, então o resultado é pequeno e carrega rápido.

  4. 4
    Compare com o ponto de partida

    O novo modelo responde aos exemplos que nunca viu, e o modelo de partida também. Você vê as duas notas. Se o novo não se sair pelo menos tão bem, nada muda para os seus Agents.

  5. 5
    Coloque para trabalhar

    Faça dele o modelo principal dos Agents que você escolher, deixe seus Agents consultarem o modelo sempre que essa tarefa aparecer ou chame-o pelo seu próprio app.

Onde o treinamento acontece

Sua placa de vídeo, ou o Tinker quando precisar de mais

A maioria das tarefas específicas treina bem no computador que você já tem. Quando uma delas precisa de um modelo maior ou de outro tipo de treinamento, o Tinker faz o trabalho pesado e a Geyser mantém os exemplos, o teste e a conta em ordem.

No seu próprio computador

Um Mac com Apple silicon treina com o MLX da Apple. Um PC Windows ou Linux com placa de vídeo NVIDIA, ou um PC Linux com gráficos Intel, treina com as bibliotecas Transformers e PEFT do Hugging Face. O treinamento espera o computador estar na tomada e sem esquentar demais, e você pode limitá-lo aos horários que escolher.

  • Sem custo, em todos os planos
  • Seus exemplos não vão para nenhuma empresa de fora
  • Parte do Qwen 3.5 no Mac e do Gemma 4 no PC

No Tinker, da Thinking Machines

O Tinker treina modelos abertos maiores sem você alugar uma única GPU, e vai além de exemplos e respostas. Um Agent pode usá-lo para ensinar um modelo a partir das suas preferências entre duas respostas, das respostas de um modelo maior ou com aprendizado por reforço.

  • Qwen 3.5, Qwen 3.6 35B A3B e gpt-oss 20B
  • Você vê uma estimativa e define um teto de gasto antes de começar
  • O Tinker pode hospedar o modelo, ou você o traz para casa em um Mac
Em quem nos apoiamos

Sobre os ombros do Hugging Face e da Thinking Machines

Preferimos construir sobre as melhores ferramentas de IA aberta a fazer nossas próprias cópias delas. Essas duas empresas fazem boa parte do trabalho pesado por trás de cada modelo que você ensina na Geyser.

Hugging Face

Todo modelo que você treina nos seus próprios computadores parte do Hugging Face Hub, fixado em uma versão exata, para que um novo treinamento comece do mesmo lugar. Os PCs treinam com as bibliotecas Transformers e PEFT do Hugging Face. E, para rodar um modelo sem treinar, você pode buscar no Hub de dentro da Geyser e ver em quais dos seus computadores ele cabe.

Thinking Machines

O Tinker, da Thinking Machines, permite que um Agent faça o ajuste fino de modelos muito maiores do que o seu computador comportaria, e cuida das GPUs, do agendamento e das falhas por você. Conecte uma vez a sua própria conta do Tinker e a Geyser treina em um projeto exclusivo do seu espaço de trabalho.

Seus exemplos continuam seus

O que acontece com os exemplos que você passa

Seus exemplos são o know-how do seu negócio, e a Geyser os trata assim. Você decide onde o treinamento acontece, e o modelo que sai dele pertence ao seu espaço de trabalho.

Como a privacidade funciona na Geyser
  • Treinando nos seus próprios computadores, seus exemplos não vão para nenhuma empresa de fora.
  • O Tinker só vê os seus exemplos quando você o permite como provedor externo, e dados que você marcou para ficar nos seus próprios computadores nunca vão para ele.
  • E-mails e arquivos do Google Workspace e do Microsoft 365 não são usados como exemplos de treinamento.
  • Seus exemplos treinam os seus modelos e os de mais ninguém. Eles nunca são misturados com os de outro cliente.
  • Apague os exemplos com que um modelo aprendeu, e esse modelo deixa de ser usado.
Use em qualquer lugar

Chame o seu modelo pelo seu próprio app

Libere o modelo para um dos seus projetos de desenvolvedor e chame-o com o SDK da OpenAI ou da Anthropic que você já usa. Os pedidos chegam até ele pela Geyser, então seu app funciona de qualquer lugar sem abrir uma porta na sua rede, e um modelo no seu próprio computador continua sem custo por pedido.

Crie apps sobre um modelo que você treinou
Python · SDK da OpenAI
import os
from openai import OpenAI

# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
    base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
    api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
    model="private/pmd_…",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
)
Boas perguntas

Dúvidas sobre ajuste fino

Como eu começo?
Abra Modelos na Geyser e escolha “Ensinar um novo modelo” para fazer você mesmo, ou “Criar um modelo” para que um Agent cuide do projeto. Para treinar no Tinker, conecte primeiro a sua conta do Tinker em Configurações, na seção Contas.
Quanto custa?
Treinar nos seus próprios computadores é grátis, e cada resposta que o modelo dá ali também. O treinamento no Tinker usa a sua própria conta do Tinker, então a Thinking Machines cobra você diretamente. Você vê uma estimativa e define um teto de gasto antes de começar.
De quantos exemplos eu preciso?
Cinco bastam para experimentar, e algumas centenas de bons exemplos são um começo melhor. Quanto mais consistentes forem os seus exemplos, melhor o modelo fica na tarefa.
É um ajuste fino completo?
Não. A Geyser treina um adaptador LoRA em cima de um modelo aberto, o que exige bem menos memória e tempo. No Tinker, um Agent também pode usar treinamento por preferência, destilação de um modelo maior ou aprendizado por reforço.
E se o novo modelo for pior?
Então nada muda. Um modelo só começa a trabalhar quando se sai pelo menos tão bem quanto o modelo de partida em exemplos com que nunca treinou, e você pode voltar para uma versão anterior.
Posso rodar um modelo do Hugging Face sem treinar?
Sim. Busque no Hugging Face Hub pela Geyser, escolha um modelo, e a Geyser mostra em quais dos seus computadores ele cabe antes de baixar qualquer coisa.
Comece agora

Ensine uma tarefa a um modelo ainda esta semana

Escolha a tarefa que sua equipe mais repete, reúna algumas centenas de exemplos em que você confia e veja até onde chega um modelo pequeno no seu próprio computador.