Anwendungsfall · Ihr eigener KI-Server

Die ungenutzte Grafikkarte arbeiten lassen

Ein Gaming-PC mit großer NVIDIA-Karte oder ein Mac Studio mit viel Arbeitsspeicher tut den Großteil des Tages nichts. Installieren Sie Geyser Host, schalten Sie „Lokale Modelle hier ausführen“ ein und wählen Sie ein passendes Modell. Agents auf Ihren anderen Computern können ebenfalls damit denken, solange der PC läuft, und niemand berechnet Ihnen etwas pro Frage.

„Ich wohne auf Ihrem MacBook und denke mit dem Modell auf dem Gaming-PC, also schickt Ihnen niemand eine Rechnung für meine Fragen.“

Rowan

Ihre Agents haben letzten Monat 1.900 Fragen mit der Grafikkarte im Gaming-PC beantwortet, und keine davon tauchte auf einer KI-Rechnung auf.

Den Gaming-PC zum KI-Server machen
  1. So., 16:00 Uhr

    Installiert Geyser Host auf dem PC mit der RTX-Karte und schaltet „Lokale Modelle hier ausführen“ ein.

  2. So., 16:05 Uhr

    Wählt gpt-oss 20B. Geyser prüft zuerst den Arbeitsspeicher des PCs und lädt deshalb nur ein Modell herunter, das passt.

  3. So., 16:20 Uhr

    Wechselt von einem Cloud-Modell zu gpt-oss auf dem Gaming-PC und behält seinen Namen und alles, was er weiß.

  4. Mo., 8:00 Uhr

    Liest die Newsletter der Woche und hinterlässt Ihnen eine einseitige Zusammenfassung, gedacht wird dabei auf der Grafikkarte des PCs.

  5. Fr., 18:00 Uhr

    „Otis programmiert noch mit einem Cloud-Modell. Qwen3 Coder 30B würde ebenfalls auf den Gaming-PC passen. Soll ich Ihnen zeigen, wie Sie Otis umstellen?“

So funktioniert es

Die Bausteine hinter der Geschichte

Wo es läuft

Geyser Host wählt die passende Engine für den Computer: CUDA auf NVIDIA-Karten, Vulkan auf AMD- und Intel-Karten sowie MLX und Metal auf Macs mit Apple Silicon.

Wer es macht

Agents auf jedem Ihrer Computer können das Modell nutzen, solange der PC läuft. Setzen Sie die Agents, die private Dateien lesen, darauf, und behalten Sie ein Cloud-Modell für die Aufgaben, die eines brauchen.

Was Sie kontrollieren

Sie legen fest, welche Agents das Modell nutzen, und Geyser lädt kein Modell herunter, das auf dem Computer nicht laufen kann.

Modelle auf Ihren eigenen Computern funktionieren in jedem Tarif, auch im kostenlosen, und Geyser berechnet dafür nichts. Außer der Hardware kostet Sie nur der Strom.

Einrichten

Einrichtung

  1. 1

    Installieren Sie Geyser Host auf dem Computer mit der besten Grafikkarte oder dem meisten Arbeitsspeicher.

  2. 2

    Schalten Sie „Lokale Modelle hier ausführen“ ein und wählen Sie ein Modell, oder lassen Sie Geyser eines auswählen.

  3. 3

    Legen Sie fest, welche Agents es nutzen.

Weiterstöbern

Weitere Anwendungsfälle

Alle Anwendungsfälle ansehen
Loslegen

Beginnen Sie mit einem Agent und einer echten Aufgabe

Richten Sie einen Arbeitsbereich ein, geben Sie einem Agent etwas Nützliches zu tun und sehen Sie, wie weit er kommt.