Fine-tuning

Apprenez à un modèle ouvert le travail que vous faites chaque jour

Un gros modèle cloud est doué pour tout, et coûteux pour tout. Donnez à Geyser quelques centaines d’exemples d’une tâche bien faite, et il affine un petit modèle ouvert pour qu’il la fasse à votre façon. Le modèle tourne sur votre propre ordinateur : chaque réponse est ensuite gratuite et privée. Partez de modèles ouverts sur Hugging Face, et lancez l’entraînement sur votre propre Mac ou PC, ou sur Tinker de Thinking Machines.

« June a répondu à quatre cents e-mails de remboursement le trimestre dernier. On s’en est servi pour entraîner un petit modèle, et maintenant je trie les nouveaux avec lui sur le Mac du bureau. »

Pia
Comment ça marche

D’un tas d’exemples à un modèle au service de vos Agents

Vous pouvez le faire vous-même avec « Entraîner un nouveau modèle », ou demander à un Agent de mener tout le projet. L’Agent rassemble et vérifie les exemples, écrit le test, lance l’entraînement et revient vers vous avec les scores, que vous n’avez plus qu’à accepter.

  1. 1
    Décrivez une tâche

    Dites ce qui entre et ce qui doit sortir : classer un e-mail de support dans l’une de vos huit files d’attente, ou extraire d’un PDF le numéro de facture, le total et la date d’échéance. Une tâche précise s’apprend bien sur un petit modèle.

  2. 2
    Donnez-lui des exemples vérifiés

    Tapez-les, collez-les ou importez un fichier CSV ou JSONL, de 5 à 2 000 exemples. Geyser écarte ceux qui semblent contenir des données personnelles, supprime les doublons et en garde un cinquième de côté pour le test.

  3. 3
    Entraînez-le

    L’entraînement se fait gratuitement sur l’un de vos propres ordinateurs, ou sur Tinker de Thinking Machines quand la tâche demande un modèle plus gros. Dans les deux cas, c’est du fine-tuning LoRA : le résultat est léger et se charge vite.

  4. 4
    Comparez-le à son point de départ

    Le nouveau modèle répond aux exemples qu’il n’a jamais vus, et son modèle de départ aussi. Vous voyez les deux scores. Si le nouveau ne fait pas au moins aussi bien, rien ne change pour vos Agents.

  5. 5
    Mettez-le au travail

    Faites-en le modèle principal des Agents de votre choix, laissez vos Agents le consulter chaque fois que cette tâche se présente, ou appelez-le depuis votre propre application.

Où se fait l’entraînement

Votre carte graphique, ou Tinker quand il vous en faut plus

Pour la plupart des tâches précises, l’ordinateur que vous avez déjà suffit largement à l’entraînement. Quand l’une d’elles demande un modèle plus gros ou un autre type d’entraînement, Tinker fait le gros du travail, et Geyser tient en ordre les exemples, le test et la facture.

Sur votre propre ordinateur

Sur un Mac Apple silicon, l’entraînement passe par MLX, d’Apple. Sur un PC Windows ou Linux équipé d’une carte graphique NVIDIA, ou sur un PC Linux avec une puce graphique Intel, il passe par les bibliothèques Transformers et PEFT de Hugging Face. L’entraînement attend que l’ordinateur soit branché sur secteur et ne chauffe pas, et vous pouvez le limiter aux heures de votre choix.

  • Gratuit, dans toutes les formules
  • Vos exemples ne vont à aucune entreprise extérieure
  • Part de Qwen 3.5 sur Mac et de Gemma 4 sur PC

Sur Tinker, de Thinking Machines

Tinker entraîne des modèles ouverts plus gros sans que vous louiez le moindre GPU, et va au-delà des exemples et des réponses. Un Agent peut s’en servir pour apprendre à un modèle laquelle de deux réponses vous préférez, le faire apprendre des réponses d’un modèle plus gros, ou recourir à l’apprentissage par renforcement.

  • Qwen 3.5, Qwen 3.6 35B A3B et gpt-oss 20B
  • Vous voyez une estimation et fixez un plafond de dépenses avant le lancement
  • Tinker peut héberger le modèle, ou vous le rapatriez sur un Mac
Sur qui nous nous appuyons

Sur les épaules de Hugging Face et de Thinking Machines

Nous préférons bâtir sur les meilleurs outils de l’IA ouverte plutôt que d’en faire nos propres copies. Ces deux entreprises assurent une bonne partie du travail de fond derrière chaque modèle que vous entraînez dans Geyser.

Hugging Face

Chaque modèle que vous entraînez sur vos propres ordinateurs part du Hugging Face Hub, figé sur une version précise pour qu’un nouvel entraînement reparte toujours du même point. Sur PC, l’entraînement passe par les bibliothèques Transformers et PEFT de Hugging Face. Et pour faire tourner un modèle sans l’entraîner, vous pouvez chercher dans le Hub depuis Geyser et voir sur lesquels de vos ordinateurs il tient.

Thinking Machines

Tinker, de Thinking Machines, permet à un Agent d’affiner des modèles bien plus gros que ce que votre ordinateur pourrait contenir, et gère pour vous les GPU, la planification et les pannes. Connectez une fois votre propre compte Tinker, et Geyser entraîne dans un projet propre à votre espace de travail.

Vos exemples restent à vous

Ce que deviennent les exemples que vous lui donnez

Vos exemples, c’est le savoir-faire de votre entreprise, et Geyser les traite comme tel. Vous décidez où se fait l’entraînement, et le modèle qui en sort appartient à votre espace de travail.

Comment fonctionne la confidentialité dans Geyser
  • Quand l’entraînement se fait sur vos propres ordinateurs, vos exemples ne vont à aucune entreprise extérieure.
  • Tinker ne voit vos exemples que si vous l’autorisez comme fournisseur externe, et les données que vous avez réservées à vos propres ordinateurs ne lui sont jamais envoyées.
  • Les e-mails et fichiers de Google Workspace et Microsoft 365 ne servent jamais d’exemples d’entraînement.
  • Vos exemples entraînent vos modèles, et ceux de personne d’autre. Ils ne sont jamais mis en commun avec ceux d’un autre client.
  • Supprimez les exemples à partir desquels un modèle a appris, et ce modèle n’est plus utilisé.
Utilisez-le partout

Appelez votre modèle depuis votre propre application

Ouvrez le modèle à l’un de vos projets de développement et appelez-le avec le SDK OpenAI ou Anthropic que vous utilisez déjà. Les requêtes lui parviennent par Geyser : votre application fonctionne de partout sans ouvrir de port sur votre réseau, et un modèle sur votre propre ordinateur ne coûte toujours rien à la requête.

Créez des applications sur un modèle que vous avez entraîné
Python · SDK OpenAI
import os
from openai import OpenAI

# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
    base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
    api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
    model="private/pmd_…",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
)
Les bonnes questions

Questions sur le fine-tuning

Par où commencer ?
Ouvrez Modèles dans Geyser et choisissez « Entraîner un nouveau modèle » pour le faire vous-même, ou « Créer un modèle » pour confier le projet à un Agent. Pour entraîner sur Tinker, connectez d’abord votre compte Tinker dans Réglages, rubrique Comptes.
Combien ça coûte ?
L’entraînement sur vos propres ordinateurs est gratuit, tout comme chaque réponse que le modèle y donne. L’entraînement sur Tinker passe par votre propre compte Tinker, c’est donc Thinking Machines qui vous facture directement. Vous voyez une estimation et fixez un plafond de dépenses avant le lancement.
Combien d’exemples me faut-il ?
Cinq suffisent pour essayer, et quelques centaines de bons exemples, c’est un meilleur départ. Plus vos exemples sont cohérents, meilleur le modèle devient dans sa tâche.
S’agit-il d’un fine-tuning complet ?
Non. Geyser entraîne un adaptateur LoRA par-dessus un modèle ouvert, ce qui demande bien moins de mémoire et de temps. Sur Tinker, un Agent peut aussi recourir à l’entraînement par préférences, à la distillation d’un modèle plus gros ou à l’apprentissage par renforcement.
Et si le nouveau modèle est moins bon ?
Alors rien ne change. Un modèle ne se met au travail que s’il fait au moins aussi bien que son modèle de départ sur des exemples qu’il n’a jamais vus à l’entraînement, et vous pouvez revenir à une version précédente.
Puis-je faire tourner un modèle de Hugging Face sans l’entraîner ?
Oui. Cherchez dans le Hugging Face Hub depuis Geyser, choisissez un modèle, et Geyser vous indique sur lesquels de vos ordinateurs il tient, avant tout téléchargement.
Se lancer

Entraînez un modèle à une tâche dès cette semaine

Prenez la tâche que votre équipe répète le plus, rassemblez quelques centaines d’exemples fiables, et voyez jusqu’où va un petit modèle sur votre propre ordinateur.