תרחיש שימוש · שרת AI משלך

לרתום את כרטיס המסך שיושב בטל

מחשב גיימינג עם כרטיס NVIDIA גדול, או Mac Studio עם הרבה זיכרון, מבלה את רוב היום בלי לעשות כלום. מתקינים את Geyser Host, מפעילים את "להריץ כאן מודלים מקומיים" ובוחרים מודל שנכנס. גם Agents על המחשבים האחרים שלך יכולים לחשוב איתו, כל עוד המחשב דולק, ואף אחד לא שולח לך חשבון לפי שאלה.

"אני גר ב-⁠MacBook שלך וחושב עם המודל שבמחשב הגיימינג, כך שאף אחד לא שולח לך חשבון על השאלות שלי."

Rowan

ה-⁠Agents שלך ענו בחודש שעבר על 1,900 שאלות עם כרטיס המסך שבמחשב הגיימינג, ואף אחת מהן לא הופיעה בחשבון AI.

הופכים את מחשב הגיימינג לשרת AI
  1. יום א׳ 16:00

    התקנתי את Geyser Host על המחשב עם כרטיס ה-⁠RTX והפעלתי את "להריץ כאן מודלים מקומיים".

  2. יום א׳ 16:05

    בחרתי ב-⁠gpt-oss 20B. Geyser בודק קודם את הזיכרון של המחשב, כך שהוא מוריד רק מודל שנכנס.

  3. יום א׳ 16:20

    עובר ממודל בענן ל-⁠gpt-oss במחשב הגיימינג, ושומר על השם שלו ועל כל מה שהוא יודע.

  4. יום ב׳ 8:00

    קורא את הניוזלטרים של השבוע ומשאיר לך סיכום של עמוד אחד, וכל החשיבה נעשית על כרטיס המסך של המחשב.

  5. יום ו׳ 18:00

    "Otis עדיין כותב קוד עם מודל בענן. גם Qwen3 Coder 30B ייכנס במחשב הגיימינג. להראות איך מעבירים את Otis?"

איך זה עובד

החלקים שמאחורי הסיפור

איפה זה רץ

Geyser Host בוחר את המנוע הנכון למחשב: CUDA בכרטיסי NVIDIA, Vulkan בכרטיסי AMD ו-⁠Intel, ו-⁠MLX ו-⁠Metal במחשבי Mac עם Apple silicon.

מי עושה את זה

Agents על כל אחד מהמחשבים שלך יכולים להשתמש במודל כל עוד המחשב דולק. כדאי להעביר אליו את אלה שקוראים קבצים פרטיים, ולהשאיר מודל בענן למשימות שצריכות אחד.

מה בשליטתך

בוחרים אילו Agents משתמשים במודל, ו-⁠Geyser לא יוריד מודל שלא יכול לרוץ על המחשב.

מודלים על המחשבים שלך עובדים בכל מינוי, גם בחינמי, ו-⁠Geyser לא מחייב עליהם. מעבר לחומרה, העלות היחידה היא חשמל.

להגדיר

ההתקנה

  1. 1

    מתקינים את Geyser Host על המחשב עם כרטיס המסך הכי טוב או הכי הרבה זיכרון.

  2. 2

    מפעילים את "להריץ כאן מודלים מקומיים" ובוחרים מודל, או נותנים ל-⁠Geyser לבחור.

  3. 3

    בוחרים אילו Agents ישתמשו בו.

להמשיך לגלות

עוד תרחישי שימוש

לכל תרחישי השימוש
לעשות התחלה

להתחיל עם Agent אחד ומשימה אמיתית אחת

מגדירים סביבת עבודה, נותנים ל-⁠Agent משהו מועיל לעשות ורואים כמה רחוק הוא מגיע.