Lokale KI

Ihre eigene KI auf Ihrer eigenen Hardware

Jede Frage an eine Cloud-KI legt ein Stück mehr von Ihrem Geschäft auf fremde Server und bringt eine weitere Zeile auf die Rechnung. Schalten Sie in Geyser Host lokale Modelle ein, und Ihre Agents denken mit offenen Modellen auf Ihrem eigenen Mac, Windows-PC oder Linux-Rechner. Was Sie ihnen schicken, geht nie an ein externes KI-Unternehmen, und niemand berechnet Ihnen etwas pro Frage.

Geyser Host holen Zugang anfragen

„Ich programmiere mit einem Modell auf der Grafikkarte des Build-Rechners. Für meine Fragen schickt Ihnen niemand eine Rechnung.“

Otis

Drei Schritte

In wenigen Minuten von null auf lokale KI

1
Einschalten
Öffnen Sie Geyser Host auf dem Computer mit der besten Grafikkarte oder dem meisten Arbeitsspeicher, und schalten Sie „Lokale Modelle hier ausführen“ ein.
2
Modell wählen
Wählen Sie ein offenes Modell aus der Liste, oder lassen Sie Geyser das passende aussuchen. Geyser misst zuerst den Arbeitsspeicher des Computers und lädt kein Modell herunter, das dort nicht laufen kann.
3
Agents darauf ansetzen
Wählen Sie, welche Agents das Modell nutzen. Ab dann denken sie damit, und die Arbeit wartet nie auf die Server eines KI-Unternehmens.

Geyser HostStudio-Mac · 64 GB

Lokale Modelle hier ausführen

Qwen3 Coder 30BOtis programmiert damitIm Einsatz
gpt-oss 20BPasst auf diesen MacBereit
Gemma 4 12BPasst auf diesen Mac, liest auch BilderBereit
gpt-oss 120BBraucht mehr Arbeitsspeicher, als dieser Mac hatPasst nicht

Geyser gleicht jedes Modell mit dem Arbeitsspeicher des Computers ab, bevor irgendetwas heruntergeladen wird.

Die Modelle

Offene Modelle, die sich lohnen

Wir führen eine kurze Liste offener Modelle, die gut mit Agents funktionieren, und jedes davon hat eine Lizenz, die die berufliche Nutzung erlaubt. Wenn eine bessere Version erscheint, kommt sie auf die Liste.

Gemma

Die offenen Modelle von Google, von klein und flink bis zu einem 12B, das neben Text auch Bilder liest.

gpt-oss

Die Open-Weight-Modelle von OpenAI: 20B für die meisten Computer, 120B für die großen.

Qwen

Starke Allrounder, dazu Qwen3 Coder zum Schreiben und Prüfen von Code.

GLM and Nemotron

Schnelle Modelle von Z.ai und NVIDIA für die tägliche Arbeit und lange Aufgaben.

Sie möchten etwas anderes? Bringen Sie ein offenes Modell von Hugging Face mit, oder verbinden Sie einen Server, den Sie schon betreiben und der die OpenAI-API spricht.

Ihre Hardware

Eingerichtet für den Computer, den Sie wirklich haben

Geyser Host wählt für jeden Computer die passende Engine, Sie müssen also nichts kompilieren oder konfigurieren. Größere Grafikkarten und mehr Arbeitsspeicher bedeuten größere, schnellere Modelle.

Apple silicon

Macs betreiben Modelle mit MLX und Metal, und dank gemeinsamem Arbeitsspeicher fasst ein Mac Studio Modelle, an denen die meisten PCs scheitern.

NVIDIA-Grafikkarten

Windows- und Linux-PCs nutzen CUDA, so wird der Gaming-PC unter Ihrem Schreibtisch zu einem ernsthaften KI-Server.

Andere Grafikkarten

AMD- und Intel-Karten unter Windows und Linux betreiben Modelle über Vulkan.

Ohne Grafikkarte

Kleine Modelle laufen auch auf dem Prozessor. Langsamer, aber nichts verlässt den Computer.

Private Arbeit bleibt privat

Bestimmen Sie, was eine öffentliche KI sehen darf

Schalten Sie die Prüfungen auf sensible Informationen ein, und Geyser sucht nach privaten Details, bevor eine Nachricht, ein Gedächtniseintrag oder eine Datei an einen öffentlichen KI-Anbieter geht. Dann tut Geyser, was Sie gewählt haben: festhalten und senden, die Details entfernen, die ganze Anfrage an Ihr eigenes Modell geben oder gar nicht erst senden.

So geht die Kundenakte an das Modell auf Ihrem Mac, und der wöchentliche Blogbeitrag kann trotzdem an das beste Cloud-Modell gehen, für das Sie zahlen.

So funktioniert Datenschutz in Geyser

Prüfungen auf sensible InformationenWenn private Details gefunden werden

Befund festhalten und Senden erlauben
Von den integrierten Prüfungen erkannte Informationen entfernen
Ein privates Modell für die ganze Anfrage verwenden
Senden an öffentliche KI blockieren

Die Bezeichnungen, wie sie in den KI-Einstellungen Ihres Arbeitsbereichs erscheinen.

Ihre Wahl, Agent für Agent

Lokal, wo es zählt, Cloud, wo es hilft

Jeder Agent kann mit einer anderen KI denken. Geben Sie dem, der Kundendateien liest, ein Modell auf Ihrer eigenen Hardware, und lassen Sie den, der Code schreibt, Codex mit dem ChatGPT-Tarif nutzen, für den Sie schon zahlen. Wechseln Sie jeden davon, wenn etwas Besseres herauskommt, und der Agent behält seinen Namen und alles, was er weiß.

Claude
ChatGPT
Codex
Gemini
Mistral
Offene Modelle auf Ihrer eigenen Hardware

Melden Sie Agents mit Ihrem ChatGPT-Tarif an, dann zahlen Sie für nichts Neues.
Fügen Sie Ihre eigenen API-Schlüssel für Anthropic, OpenAI, Google, Mistral, Together oder Meta hinzu. Geyser speichert sie verschlüsselt und kopiert sie nie auf den Computer eines Agents.
Verbinden Sie jeden Server, der die OpenAI-API spricht, in Ihrem Netzwerk oder sonst wo.
Die Nutzung Ihrer eigenen Modelle wird angezeigt, damit Sie die Arbeit sehen, aber nie berechnet.

Bringen Sie ihm Ihre Arbeit bei

Trainieren Sie einen Spezialisten, den sonst niemand hat

Wählen Sie in Geyser „Neues Modell anlernen“, beschreiben Sie eine klar umrissene Aufgabe und geben Sie ihm Beispiele, die Sie geprüft haben. Es trainiert auf Ihrem eigenen Computer, wird gegen das Ausgangsmodell getestet und läuft auf Ihrer eigenen Hardware, sobald Sie es annehmen.

Teilen Sie es per Link mit einem anderen Unternehmen, während es weiter auf Ihrem Computer läuft, oder rufen Sie es aus Ihrer eigenen App mit dem OpenAI- oder Anthropic-SDK auf, ohne einen Port in Ihrem Netzwerk zu öffnen.

Apps auf einem Modell bauen, das Sie trainiert haben

Python · OpenAI SDK

import os
from openai import OpenAI

# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
    base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
    api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
    model="private/pmd_…",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
)

Gute Fragen

Fragen zur lokalen KI

Kostet das etwas?

Nein. Modelle auf Ihren eigenen Computern funktionieren in jedem Tarif, auch im kostenlosen, und Geyser berechnet dafür nichts. Außer der Hardware kostet Sie nur der Strom.

Auf welchen Computern laufen Modelle?

Ein Apple-Silicon-Mac, ein Windows-PC oder ein Linux-PC mit Geyser Host. Ein Mac mit viel gemeinsamem Arbeitsspeicher oder ein PC mit einer großen Grafikkarte betreibt größere und schnellere Modelle.

Sieht ein KI-Unternehmen, was ich an ein lokales Modell schicke?

Nein. Das Modell läuft auf Ihrem Computer, und was Sie ihm schicken, geht nie an ein externes KI-Unternehmen. Ihre Gespräche liegen im Datenbereich Ihres Arbeitsbereichs, und der kann ebenfalls auf Ihrer eigenen Hardware sein.

Was, wenn ein Modell zu groß für meinen Computer ist?

Geyser prüft den Arbeitsspeicher des Computers, bevor etwas heruntergeladen wird, und sagt Ihnen, wenn ein Modell nicht passt. Wählen Sie ein kleineres, oder betreiben Sie es auf einem Computer mit mehr Arbeitsspeicher.

Können meine eigenen Apps das Modell nutzen?

Ja. Geben Sie es für eines Ihrer Entwicklerprojekte frei und rufen Sie es über Geyser mit dem OpenAI- oder Anthropic-SDK auf, von überall und ohne einen Port in Ihrem Netzwerk zu öffnen.

Loslegen

Machen Sie Ihren Computer zum KI-Server

Installieren Sie Geyser Host, schalten Sie lokale Modelle ein und setzen Sie Ihren ersten Agent darauf an. Das ist kostenlos.

Geyser Host holen Zugang anfragen