מודל הוא מנוע ההסקה שמאחורי הרצה. Okou מטפלת בכלים, בהקשר ובתהליך; המודל מבצע את החשיבה. איזה מודל נבחר משפיע על האיכות, המהירות וכמות הקרדיטים שההרצה צורכת.
המודל נשמר בשרשור הצ'אט
בורר המודל נמצא ליד עורך הצ'אט ושולט במודל עבור הצ'אט הזה. הבחירה נשמרת בשרשור, לא בסוכן ולא בתהליך העבודה.
- צ'אט חדש מתחיל מהברירת מחדל של החבר, ואז מברירת המחדל של סביבת העבודה אם לא הגדרת אחת. ברירת המחדל של המערכת היא Auto.
- שינוי המודל במהלך הצ'אט יחול על ההרצה הבאה בשרשור; הרצה שכבר מתבצעת תסתיים עם המודל שבו התחילה.
- צ'אט אוטומציה בוחר את המודל שלו כאשר הוא נוצר לראשונה, והרצות חוזרות משתמשות בו שוב.
- ב-Slack, הפקודה /okou model קובעת את המודל עבור השרשור הבא שתפתח — ראה Slack.
לסוכנים ולתהליכי עבודה אין בכוונה הגדרת מודל משלהם. השרשור הוא המקום היחיד לבדוק בו.
מה זמין
הקטלוג הנוכחי, עם החוזקות והעלות היחסית של כל מודל, נמצא בדף מודלים. הוא כולל מודלים להסקה ולתמונות, ומשתנה כאשר מודלים ונתיבי ספק מתעדכנים.
הזמינות תלויה בקטלוג הנוכחי, בתוכנית שלך, במדיניות סביבת העבודה ובנתיב הספק:
- Free יכולים להשתמש במודלים המובנים המותרים ל-Free בקטלוג הנוכחי.
- תוכניות בתשלום יכולות לגשת למודלים נוספים, בכפוף לקטלוג, למדיניות סביבת העבודה ולחיבורי ספק זמינים.
מנהלי סביבת העבודה בוחרים אילו מהמודלים זמינים לבחירה עבור החברים, ואיזה מהם הוא ברירת המחדל של סביבת העבודה, תחת הגדרות → מודלים.
היכן מתבצעת ההסקה
ניתן לנתב מודל ביותר מדרך אחת, והנתיב נקבע לפי מדיניות סביבת העבודה ולא לפי הבורר:
- מובנה — Okou מריצה את המודל והחיוב מתבצע על קרדיטים של סביבת העבודה. אין צורך בחיבור נוסף.
- מנוי אישי — כל חבר מחבר את חשבון Claude או Codex שלו, וההרצות עוברות דרכו.
- מפתח ספק משותף או שער — מנהל מספק את האישורים פעם אחת עבור סביבת העבודה.
מנוי Claude או Codex אישי, מחובר וזכאי, ניתן לשימוש גם ב-Free וגם בתוכניות בתשלום. מפתחות API ארגוניים משותפים ושערים מותאמים דורשים תוכנית בתשלום. הרצה דרך מנוי משתמשת במנוי זה ואינה נופלת חזרה לקרדיטים המובנים. קריאות לכלים, יצירה ואחסון עדיין צורכות קרדיטים של Okou.
הבורר בוחר מודל. הוא אינו עוקף את מדיניות הנתיב שהוקצתה למודל הזה.
איך לבחור
- התאם את המודל למשימה, לא למחירון. מודל זול בהרצה סוכנית ארוכה עלול לעלות יותר ממודל יקר, כי הוא דורש יותר שלבים.
- השתמש במודל זול לנפח גדול. מיון, סיווג וסינון ראשוני בכמויות גדולות לרוב לא דורשים מודל מתקדם.
- השתמש במודל מתקדם לשיפוט. משימות מורכבות, קוד, וכל דבר שבו טעות יקרה.
- הגדר ברירת מחדל לחבר עבור המודל שתרצה שרוב הצ'אטים יתחילו בו, במקום לשנות את הבורר בכל פעם.
פתרון תקלות
| מה רואים | מה לעשות |
|---|---|
| המודל שנבחר אינו זמין | המודל של השרשור אינו זמין לפי מדיניות סביבת העבודה או חיבור הספק הנוכחי. בחר מודל אחר בעורך, או חבר מחדש את הספק תחת הגדרות → מודלים. |
| מודל שציפית לו חסר | בדוק את הקטלוג הנוכחי, את התוכנית שלך, את מדיניות סביבת העבודה ואת נתיב הספק תחת הגדרות → מודלים. |
| קרדיטים נגמרים מהר מהצפוי | בדוק על איזה מודל השרשור פועל. התעריפים משתנים משמעותית בין הרמות. |
מה הלאה
- ראה קרדיטים וחיוב כדי להבין כיצד בחירת מודל משפיעה על החשבון.
- ראה צ'אט עבור השרשור אליו משויך המודל.
