Gemma
Les modèles ouverts de Google, des petits modèles rapides jusqu’à un 12B qui lit les images aussi bien que le texte.
Chaque question envoyée à une IA dans le cloud, c’est un peu plus de vos affaires sur les serveurs de quelqu’un d’autre, et une ligne de plus sur la facture. Activez les modèles locaux dans Geyser Host et vos Agents réfléchissent avec des modèles ouverts sur votre propre Mac, PC Windows ou machine Linux. Ce que vous leur envoyez ne part jamais chez une entreprise d’IA extérieure, et personne ne vous facture à la question.
« J’écris du code avec un modèle qui tourne sur la carte graphique de la machine de build. Personne ne vous envoie de facture pour mes questions. »
Ouvrez Geyser Host sur l’ordinateur qui a la meilleure carte graphique ou le plus de mémoire, et activez « Faire tourner des modèles locaux ici ».
Choisissez un modèle ouvert dans la liste, ou laissez Geyser prendre celui qui convient. Il mesure d’abord la mémoire de l’ordinateur et ne télécharge jamais un modèle qui ne pourrait pas y tourner.
Choisissez les Agents qui utilisent le modèle. Dès lors, ils réfléchissent avec lui, et le travail n’attend jamais les serveurs d’une entreprise d’IA.
Nous tenons une courte liste de modèles ouverts qui fonctionnent bien avec les Agents, et chacun a une licence qui vous permet de l’utiliser pour le travail. Quand une meilleure version sort, elle rejoint la liste.
Les modèles ouverts de Google, des petits modèles rapides jusqu’à un 12B qui lit les images aussi bien que le texte.
Les modèles à poids ouverts d’OpenAI : 20B pour la plupart des ordinateurs, 120B pour les plus costauds.
Des modèles polyvalents et solides, plus Qwen3 Coder pour écrire et relire du code.
Des modèles rapides de Z.ai et NVIDIA pour le travail de tous les jours et les tâches longues.
Envie d’autre chose ? Apportez un modèle ouvert de Hugging Face, ou connectez un serveur que vous faites déjà tourner et qui est compatible avec l’API OpenAI.
Geyser Host choisit le bon moteur pour chaque ordinateur : rien à compiler, rien à configurer. Plus la carte graphique est puissante et la mémoire importante, plus les modèles peuvent être gros et rapides.
Les Mac font tourner les modèles avec MLX et Metal, et la mémoire unifiée permet à un Mac Studio d’accueillir des modèles hors de portée de la plupart des PC.
Les PC Windows et Linux utilisent CUDA : le PC de jeu sous votre bureau devient un vrai serveur d’IA.
Sous Windows et Linux, les cartes AMD et Intel font tourner les modèles avec Vulkan.
Les petits modèles tournent quand même sur le processeur. Plus lentement, mais rien ne quitte l’ordinateur.
Activez les Vérifications des informations sensibles et Geyser repère les détails privés avant qu’un message, un élément de mémoire ou un fichier ne parte chez un fournisseur d’IA publique. Il fait ensuite ce que vous avez choisi : le noter et envoyer, retirer les détails, confier toute la requête à votre propre modèle, ou refuser purement et simplement l’envoi.
Le dossier client va au modèle de votre Mac, et l’article de blog de la semaine peut toujours partir vers le meilleur modèle cloud que vous payez.
Comment fonctionne la confidentialité dans GeyserChaque Agent peut réfléchir avec une IA différente. Donnez à celui qui lit les dossiers clients un modèle sur votre propre matériel, et laissez celui qui écrit du code utiliser Codex avec l’abonnement ChatGPT que vous payez déjà. Changez-en dès que mieux sort : l’Agent garde son nom et tout ce qu’il sait.
Choisissez « Entraîner un nouveau modèle » dans Geyser, décrivez une tâche précise et donnez-lui des exemples que vous avez vérifiés. Il s’entraîne sur votre propre ordinateur, se mesure au modèle de départ, puis tourne sur votre propre matériel une fois que vous l’avez accepté.
Partagez-le avec une autre entreprise par un simple lien pendant qu’il continue de tourner sur votre ordinateur, ou appelez-le depuis votre propre application avec le SDK OpenAI ou Anthropic, sans ouvrir de port sur votre réseau.
Créez des applications sur un modèle que vous avez entraînéimport os
from openai import OpenAI
# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
model="private/pmd_…",
messages=[{"role": "user", "content": "Summarize this ticket"}],
)Installez Geyser Host, activez les modèles locaux et branchez-y votre premier Agent. C’est gratuit.