Gemma
Os modelos abertos do Google, dos pequenos e ágeis a um de 12B que lê imagens além de texto.
Cada pergunta que você manda para uma IA na nuvem é um pouco mais do seu negócio no servidor dos outros, e mais uma linha na fatura. Ative os modelos locais no Geyser Host e seus Agents pensam com modelos abertos no seu próprio Mac, PC Windows ou máquina Linux. O que você manda para eles nunca vai para uma empresa de IA externa, e ninguém cobra por pergunta.
“Escrevo código com um modelo na placa de vídeo da máquina de build. Ninguém cobra você pelas minhas perguntas.”
Abra o Geyser Host no computador com a melhor placa de vídeo ou com mais memória e ative “Executar modelos locais aqui”.
Escolha um modelo aberto da lista ou deixe a Geyser escolher o que cabe. Ela mede a memória do computador antes e não baixa um modelo que não consiga rodar ali.
Escolha quais Agents usam o modelo. A partir daí, eles pensam com ele, e o trabalho nunca fica esperando os servidores de uma empresa de IA.
Mantemos uma lista curta de modelos abertos que funcionam bem com Agents, e todos têm uma licença que permite o uso no trabalho. Quando sai uma versão melhor, ela entra na lista.
Os modelos abertos do Google, dos pequenos e ágeis a um de 12B que lê imagens além de texto.
Os modelos de pesos abertos da OpenAI: 20B para a maioria dos computadores, 120B para os grandes.
Modelos fortes para tudo, mais o Qwen3 Coder para escrever e revisar código.
Modelos rápidos da Z.ai e da NVIDIA para o dia a dia e para tarefas longas.
Quer outra coisa? Traga um modelo aberto do Hugging Face ou conecte um servidor que você já roda e que fale a API da OpenAI.
O Geyser Host escolhe o motor certo para cada computador, então não há nada para compilar nem configurar. Placas de vídeo maiores e mais memória significam modelos maiores e mais rápidos.
Os Macs rodam modelos com MLX e Metal, e a memória unificada deixa um Mac Studio carregar modelos que a maioria dos PCs não aguenta.
PCs Windows e Linux usam CUDA, então o PC gamer debaixo da sua mesa vira um servidor de IA de respeito.
Placas AMD e Intel no Windows e no Linux rodam modelos via Vulkan.
Modelos pequenos ainda rodam no processador. Mais devagar, mas nada sai do computador.
Ative as Verificações de informações sensíveis, e a Geyser procura dados privados antes que uma mensagem, uma memória ou um arquivo vá para um provedor público de IA. Depois, faz o que você escolheu: registra e envia, retira os dados, passa o pedido inteiro para o seu próprio modelo ou se recusa a enviar.
Assim, o arquivo do cliente vai para o modelo no seu Mac, e o post semanal do blog ainda pode ir para o melhor modelo na nuvem que você paga.
Como a privacidade funciona na GeyserCada Agent pode pensar com uma IA diferente. Dê ao que lê arquivos de clientes um modelo no seu próprio hardware e deixe o que escreve código usar o Codex com o plano do ChatGPT que você já paga. Troque qualquer um deles quando sair algo melhor, e o Agent mantém o nome e tudo o que sabe.
Escolha “Ensinar um novo modelo” na Geyser, descreva um trabalho bem específico e dê exemplos que você já conferiu. Ele treina no seu próprio computador, é testado contra o modelo de partida e, depois que você o aceita, roda no seu próprio hardware.
Compartilhe com outra empresa por um link enquanto ele continua rodando no seu computador, ou chame-o do seu próprio app com o SDK da OpenAI ou da Anthropic, sem abrir uma porta na sua rede.
Crie apps sobre um modelo que você treinouimport os
from openai import OpenAI
# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
model="private/pmd_…",
messages=[{"role": "user", "content": "Summarize this ticket"}],
)Instale o Geyser Host, ative os modelos locais e coloque seu primeiro Agent para usá-los. É grátis.