התחברותבקשת גישה
AI מקומי

להריץ AI משלך על החומרה שלך

כל שאלה ששולחים ל-⁠AI בענן היא עוד חתיכה מהעסק שלך על שרתים של מישהו אחר, ועוד שורה בחשבון. מפעילים מודלים מקומיים ב-⁠Geyser Host, וה-⁠Agents שלך חושבים עם מודלים פתוחים על ה-⁠Mac, מחשב ה-⁠Windows או מחשב ה-⁠Linux שלך. מה ששולחים להם לא מגיע לאף חברת AI חיצונית, ואף אחד לא גובה ממך לפי שאלה.

להוריד את Geyser Hostבקשת גישה

"אני כותב קוד עם מודל על כרטיס המסך של מכונת ה-⁠build. אף אחד לא שולח לך חשבון על השאלות שלי."

Otis
שלושה צעדים

מכבוי ל-⁠AI מקומי שעובד, תוך כמה דקות

  1. 1
    להפעיל

    פותחים את Geyser Host על המחשב עם כרטיס המסך הכי טוב או הכי הרבה זיכרון, ומפעילים את "להריץ כאן מודלים מקומיים".

  2. 2
    לבחור מודל

    בוחרים מודל פתוח מהרשימה, או נותנים ל-⁠Geyser לבחור את המתאים. הוא בודק קודם את הזיכרון של המחשב, ולא יוריד מודל שלא יכול לרוץ עליו.

  3. 3
    להעביר אליו את ה-⁠Agents

    בוחרים אילו Agents משתמשים במודל. מאותו רגע הם חושבים איתו, והעבודה אף פעם לא מחכה לשרתים של חברת AI.

Geyser HostStudio Mac · 64 GB
להריץ כאן מודלים מקומיים
  • Qwen3 Coder 30BOtis כותב איתו קודבשימוש
  • gpt-oss 20Bמתאים ל-⁠Mac הזהמוכן
  • Gemma 4 12Bמתאים ל-⁠Mac הזה, קורא גם תמונותמוכן
  • gpt-oss 120Bצריך יותר זיכרון ממה שיש ל-⁠Mac הזהלא ייכנס
Geyser בודק כל מודל מול הזיכרון של המחשב לפני שהוא מוריד משהו.
המודלים

מודלים פתוחים ששווה להריץ

אנחנו מחזיקים רשימה קצרה של מודלים פתוחים שעובדים טוב עם Agents, ולכל אחד מהם רישיון שמתיר שימוש לעבודה. כשיוצאת גרסה טובה יותר, היא נכנסת לרשימה.

Gemma

המודלים הפתוחים של Google, מקטנים ומהירים ועד 12B שקורא גם תמונות, לא רק טקסט.

gpt-oss

המודלים עם המשקלים הפתוחים של OpenAI: 20B לרוב המחשבים, 120B לגדולים.

Qwen

מודלים חזקים לכל מטרה, ועוד Qwen3 Coder לכתיבת קוד ולבדיקתו.

GLM and Nemotron

מודלים מהירים של Z.ai ו-⁠NVIDIA לעבודה יומיומית ולמשימות ארוכות.

רוצים משהו אחר? אפשר להביא מודל פתוח מ-⁠Hugging Face, או לחבר שרת שכבר רץ אצלך ומדבר ב-⁠OpenAI API.

החומרה שלך

מותאם למחשב שבאמת יש לך

Geyser Host בוחר את המנוע הנכון לכל מחשב, כך שאין מה לקמפל או להגדיר. כרטיס מסך גדול יותר ויותר זיכרון אומרים מודלים גדולים ומהירים יותר.

Apple silicon

מחשבי Mac מריצים מודלים עם MLX ו-⁠Metal, והזיכרון המאוחד מאפשר ל-⁠Mac Studio להחזיק מודלים שרוב מחשבי ה-⁠PC לא יכולים.

כרטיסי מסך של NVIDIA

מחשבי Windows ו-⁠Linux משתמשים ב-⁠CUDA, כך שמחשב הגיימינג שמתחת לשולחן הופך לשרת AI רציני.

כרטיסי מסך אחרים

כרטיסים של AMD ו-⁠Intel ב-⁠Windows וב-⁠Linux מריצים מודלים דרך Vulkan.

בלי כרטיס מסך

מודלים קטנים רצים גם על המעבד. לאט יותר, אבל שום דבר לא יוצא מהמחשב.

מה שפרטי נשאר פרטי

להחליט מה מותר ל-⁠AI ציבורי לראות

מפעילים את בדיקות מידע רגיש, ו-⁠Geyser מחפש פרטים אישיים לפני שהודעה, זיכרון או קובץ יוצאים לספק AI ציבורי. ואז הוא עושה מה שבחרת: מתעד ושולח, מוחק את הפרטים, מעביר את כל הבקשה למודל שלך, או מסרב לשלוח בכלל.

כך שתיק הלקוח הולך למודל על ה-⁠Mac שלך, והפוסט השבועי לבלוג עדיין יכול ללכת למודל הענן הכי טוב שמשלמים עליו.

איך עובדת הפרטיות ב-⁠Geyser
בדיקות מידע רגישכשנמצאים פרטים אישיים
  • תיעוד הממצא ואישור השליחה
  • הסרת מידע שזוהה בבדיקות המובנות
  • שימוש במודל פרטי לכל הבקשה
  • חסימת שליחה ל-⁠AI ציבורי
התוויות כפי שהן מופיעות בהגדרות ה-⁠AI של סביבת העבודה שלך.
הבחירה שלך, Agent אחרי Agent

מקומי איפה שזה חשוב, ענן איפה שזה עוזר

כל Agent יכול לחשוב עם AI אחר. ה-⁠Agent שקורא קבצי לקוחות מקבל מודל על החומרה שלך, וה-⁠Agent שכותב קוד עובד עם Codex במינוי ה-⁠ChatGPT שכבר משלמים עליו. כשיוצא משהו טוב יותר מחליפים, וה-⁠Agent שומר על השם שלו ועל כל מה שהוא יודע.

  • Claude
  • ChatGPT
  • Codex
  • Gemini
  • Mistral
  • מודלים פתוחים על החומרה שלך
  • מחברים Agents עם מינוי ה-⁠ChatGPT שלך, כך שאין שום תשלום חדש.
  • אפשר להוסיף מפתחות API משלך של Anthropic, OpenAI, Google, Mistral, Together או Meta. Geyser שומר אותם מוצפנים ולעולם לא מעתיק אותם למחשב של Agent.
  • אפשר לחבר כל שרת שמדבר ב-⁠OpenAI API, ברשת שלך או בכל מקום אחר.
  • השימוש במודלים שלך מוצג כדי שאפשר יהיה לראות את העבודה, ואף פעם לא מחויב.
ללמד אותו את העבודה שלך

לאמן מומחה שאין לאף אחד אחר

בוחרים "לימוד מודל חדש" ב-⁠Geyser, מתארים משימה ממוקדת ונותנים לו דוגמאות שבדקת. הוא מתאמן על המחשב שלך, נבחן מול המודל שממנו התחלת, ורץ על החומרה שלך ברגע שמאשרים אותו.

אפשר לשתף אותו עם חברה אחרת בקישור, בזמן שהוא ממשיך לרוץ על המחשב שלך, או לקרוא לו מהאפליקציה שלך עם ה-⁠OpenAI SDK או ה-⁠Anthropic SDK, בלי לפתוח פורט ברשת שלך.

לבנות אפליקציות על מודל שלימדת
Python · OpenAI SDK
import os
from openai import OpenAI

# GEYSER_API_URL is the API URL shown when you create the key.
client = OpenAI(
    base_url=os.environ["GEYSER_API_URL"] + "/api/v1/openai",
    api_key=os.environ["GEYSER_API_KEY"],
)
reply = client.chat.completions.create(
    model="private/pmd_…",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
)
שאלות טובות

שאלות על AI מקומי

זה עולה משהו?
לא. מודלים על המחשבים שלך עובדים בכל מינוי, גם בחינמי, ו-⁠Geyser לא מחייב עליהם. מעבר לחומרה, העלות היחידה היא חשמל.
אילו מחשבים יכולים להריץ מודלים?
Mac עם Apple silicon, מחשב Windows או מחשב Linux עם Geyser Host. Mac עם הרבה זיכרון מאוחד, או PC עם כרטיס מסך חזק, מריץ מודלים גדולים ומהירים יותר.
חברת AI רואה מה שנשלח למודל מקומי?
לא. המודל רץ על המחשב שלך, ומה ששולחים אליו לא מגיע לאף חברת AI חיצונית. השיחות שלך נשמרות בבית הנתונים של סביבת העבודה, שיכול להיות גם הוא על החומרה שלך.
ומה אם מודל גדול מדי למחשב שלי?
Geyser בודק את הזיכרון של המחשב לפני שהוא מוריד משהו, ואומר לך כשמודל לא ייכנס. אפשר לבחור מודל קטן יותר, או להריץ אותו על מחשב עם יותר זיכרון.
האפליקציות שלי יכולות להשתמש במודל?
כן. פותחים אותו לאחד מפרויקטי הפיתוח שלך וקוראים לו עם ה-⁠OpenAI SDK או ה-⁠Anthropic SDK דרך Geyser, מכל מקום, בלי לפתוח פורט ברשת שלך.
לעשות התחלה

להפוך את המחשב שכבר יש לך לשרת ה-⁠AI שלך

מתקינים את Geyser Host, מפעילים מודלים מקומיים ומעבירים אליהם את ה-⁠Agent הראשון. זה בחינם.

להוריד את Geyser Hostבקשת גישה