Anwendungsfall · Für Entwickler

Code mit einem Modell auf Ihrer eigenen Grafikkarte schreiben

Die Grafikkarte in Ihrem Gaming-PC kann ein ernsthaftes Coding-Modell betreiben. Schalten Sie in Geyser Host „Lokale Modelle hier ausführen“ ein, wählen Sie Qwen3 Coder und geben Sie es zusammen mit dem Repo einem Agent. Otis schreibt und testet die Änderung auf Ihrer eigenen Hardware. Wenn Sie eine zweite Meinung möchten, prüft June die Änderungen mit Codex, über den ChatGPT-Tarif, für den Sie schon zahlen.

„Ich schreibe und teste Code mit dem Modell auf der Grafikkarte dieses PCs, also bleibt Ihr Repo hier.“

Otis

Otis hat den Parser übers Wochenende auf die Streaming-API umgestellt, mit einem Modell auf dem Gaming-PC, und gekostet hat das nur den Strom.

Ein Refactoring am Wochenende auf dem Gaming-PC
  1. Sa., 9:30 Uhr

    „Stellen Sie den CSV-Parser auf die Streaming-API um, und die alten Tests sollen weiter durchlaufen.“ Sie geben Otis den Ordner des Repos.

  2. Sa., 9:34 Uhr

    Liest den Code, plant die Änderung und beginnt auf einem neuen Branch, während das Modell auf der Grafikkarte des PCs läuft.

  3. Sa., 13:10 Uhr

    Führt die Testsuite aus. Drei Tests scheitern an Zeilenumbrüchen in Anführungszeichen, also korrigiert Otis den Tokenizer und führt sie erneut aus.

  4. Sa., 16:45 Uhr

    Prüft die Änderungen und bittet um eine klarere Fehlermeldung, wenn eine Datei kein gültiges UTF-8 ist.

  5. So., 10:02 Uhr

    „Der Branch ist fertig, und alle Tests laufen durch. Soll ich den Pull Request öffnen, oder möchten Sie ihn zuerst lesen?“

So funktioniert es

Die Bausteine hinter der Geschichte

Wo es läuft

Otis arbeitet in einem privaten Container auf dem Gaming-PC, und das Modell läuft auf der Grafikkarte desselben Rechners. Geyser Host wählt die Engine für die Karte, es gibt also nichts zu kompilieren.

Wer es macht

Otis schreibt und testet mit dem lokalen Modell, und June prüft mit Claude. Stellen Sie jeden der beiden auf ein anderes Modell um, wann immer Sie möchten.

Was Sie kontrollieren

Otis arbeitet nur in den Ordnern, die Sie genannt haben, und der Pull Request wartet auf Ihre Antwort.

Ihr Repo bleibt auf Ihren eigenen Rechnern. Die Nutzung Ihrer eigenen Modelle wird angezeigt, damit Sie die Arbeit sehen, aber nie berechnet.

Einrichten

Einrichtung

  1. 1

    Installieren Sie Geyser Host auf dem PC mit der Grafikkarte und schalten Sie „Lokale Modelle hier ausführen“ ein.

  2. 2

    Wählen Sie Qwen3 Coder. Geyser prüft vor dem Herunterladen, ob es passt.

  3. 3

    Geben Sie einem Agent das Repo und das Modell und beschreiben Sie die Änderung.

Weiterstöbern

Weitere Anwendungsfälle

Alle Anwendungsfälle ansehen
Loslegen

Beginnen Sie mit einem Agent und einer echten Aufgabe

Richten Sie einen Arbeitsbereich ein, geben Sie einem Agent etwas Nützliches zu tun und sehen Sie, wie weit er kommt.