איפה זה רץ
Geyser Host בוחר את המנוע הנכון למחשב: CUDA בכרטיסי NVIDIA, Vulkan בכרטיסי AMD ו-Intel, ו-MLX ו-Metal במחשבי Mac עם Apple silicon.
מחשב גיימינג עם כרטיס NVIDIA גדול, או Mac Studio עם הרבה זיכרון, מבלה את רוב היום בלי לעשות כלום. מתקינים את Geyser Host, מפעילים את "להריץ כאן מודלים מקומיים" ובוחרים מודל שנכנס. גם Agents על המחשבים האחרים שלך יכולים לחשוב איתו, כל עוד המחשב דולק, ואף אחד לא שולח לך חשבון לפי שאלה.
"אני גר ב-MacBook שלך וחושב עם המודל שבמחשב הגיימינג, כך שאף אחד לא שולח לך חשבון על השאלות שלי."
ה-Agents שלך ענו בחודש שעבר על 1,900 שאלות עם כרטיס המסך שבמחשב הגיימינג, ואף אחת מהן לא הופיעה בחשבון AI.
התקנתי את Geyser Host על המחשב עם כרטיס ה-RTX והפעלתי את "להריץ כאן מודלים מקומיים".
בחרתי ב-gpt-oss 20B. Geyser בודק קודם את הזיכרון של המחשב, כך שהוא מוריד רק מודל שנכנס.
עובר ממודל בענן ל-gpt-oss במחשב הגיימינג, ושומר על השם שלו ועל כל מה שהוא יודע.
קורא את הניוזלטרים של השבוע ומשאיר לך סיכום של עמוד אחד, וכל החשיבה נעשית על כרטיס המסך של המחשב.
"Otis עדיין כותב קוד עם מודל בענן. גם Qwen3 Coder 30B ייכנס במחשב הגיימינג. להראות איך מעבירים את Otis?"
Geyser Host בוחר את המנוע הנכון למחשב: CUDA בכרטיסי NVIDIA, Vulkan בכרטיסי AMD ו-Intel, ו-MLX ו-Metal במחשבי Mac עם Apple silicon.
Agents על כל אחד מהמחשבים שלך יכולים להשתמש במודל כל עוד המחשב דולק. כדאי להעביר אליו את אלה שקוראים קבצים פרטיים, ולהשאיר מודל בענן למשימות שצריכות אחד.
בוחרים אילו Agents משתמשים במודל, ו-Geyser לא יוריד מודל שלא יכול לרוץ על המחשב.
מודלים על המחשבים שלך עובדים בכל מינוי, גם בחינמי, ו-Geyser לא מחייב עליהם. מעבר לחומרה, העלות היחידה היא חשמל.
מתקינים את Geyser Host על המחשב עם כרטיס המסך הכי טוב או הכי הרבה זיכרון.
מפעילים את "להריץ כאן מודלים מקומיים" ובוחרים מודל, או נותנים ל-Geyser לבחור.
בוחרים אילו Agents ישתמשו בו.
Claude Code על הלפטופ ו-Codex על מחשב הבנייה ממשיכים לעבוד גם כשיוצאים מהבית. ה-Agents שלך מודיעים לטלפון איזה סשן הסתיים ואיזה מחכה לך.
לקריאת הסיפורOtis כותב קוד עם Qwen3 Coder על כרטיס המסך של מחשב הגיימינג. המאגר נשאר על המכונות שלך, ועל המודל אין חשבון לפי טוקן.
לקריאת הסיפורAda קוראת את מסמכי המס והחשבונות הרפואיים שלך עם מודל על ה-Mac שלך, כך ששום דבר מהם לא מגיע לחברת AI חיצונית.
לקריאת הסיפור