En modell är resonemangsmotorn bakom en körning. Okou hanterar verktygen, kontexten och proceduren; modellen står för tänkandet. Vilken modell som används påverkar kvalitet, hastighet och hur många krediter en körning förbrukar.
Modellen hör till chattråden
Modellväljaren finns bredvid chattkompositören och styr modellen för just den chatten. Valet sparas på tråden, inte på agenten och inte på arbetsflödet.
- En ny chatt startar från din medlemsstandard, annars arbetsytans standard om du inte har satt någon. Systemets standard är Auto.
- Att byta modell mitt i en chatt gäller för nästa körning i tråden; en körning som redan pågår slutförs på den modell den startade med.
- En automation-chatt väljer sin modell när den först skapas, och senare körningar återanvänder den.
- I Slack binder kommandot /okou model modellen för nästa tråd du startar — se Slack.
Varken agenter eller arbetsflöden har medvetet någon egen modellinställning. Tråden är det enda stället att titta på.
Vad som finns tillgängligt
Den aktuella katalogen, med varje modells styrkor och relativa kostnad, finns på sidan Modeller. Den täcker resonemangs- och bildmodeller och uppdateras när modeller och leverantörsrutter blir tillgängliga.
Tillgängligheten beror på den aktuella katalogen, din plan, arbetsytans policy och leverantörsrutt:
- Free kan använda de inbyggda modeller som är aktiverade för Free i den aktuella katalogen.
- Betalplaner kan få tillgång till fler modeller, beroende på katalogen, arbetsytans policy och tillgängliga leverantörsanslutningar.
Arbetsyteadministratörer väljer vilka av dessa modeller medlemmar faktiskt kan välja, samt vilken som är arbetsytans standard, under Inställningar → Modeller.
Var inferensen körs
En modell kan routas på flera sätt, och rutten bestäms av arbetsytans policy, inte av väljaren:
- Inbyggd — Okou kör modellen och debiterar mot arbetsytans krediter. Ingen anslutning behövs.
- Eget personligt abonnemang — varje medlem kopplar sitt eget Claude- eller Codex-konto och deras körningar går via det.
- Delad leverantörsnyckel eller gateway — en administratör anger uppgifterna en gång för arbetsytan.
Ett berättigat, anslutet personligt Claude- eller Codex-abonnemang kan användas på Free- och betalplaner. Delade organisations-API-nycklar och anpassade gateways kräver en betalplan. En abonnemangskörning använder det abonnemanget och faller inte tillbaka på inbyggda krediter. Verktygsanrop, generering och lagring förbrukar fortfarande Okou-krediter.
Väljaren väljer en modell. Den åsidosätter inte den rutt som policyn har tilldelat modellen.
Att välja modell
- Matcha modellen till uppgiften, inte till prislistan. En billig modell på en lång agentkörning kan bli dyrare än en dyr, eftersom den kräver fler steg.
- Använd en billig modell för volym. Triage, klassificering och massförhandsgranskning kräver sällan en toppmodell.
- Använd en toppmodell för bedömning. Långsiktigt arbete, kod och allt där ett felaktigt svar är kostsamt.
- Ställ in en medlemsstandard för den modell du vill att de flesta chattsessioner ska starta med, istället för att byta varje gång.
Felsökning
| Vad du ser | Vad du kan göra |
|---|---|
| Vald modell är inte tillgänglig | Trådens modell är inte användbar enligt nuvarande arbetsytapolicy eller leverantörsanslutning. Välj en annan modell i kompositören, eller återanslut leverantören under Inställningar → Modeller. |
| En modell du förväntar dig saknas | Kontrollera aktuella katalogen, din plan, arbetsytans policy och tillgänglig leverantörsrutt under Inställningar → Modeller. |
| Krediter förbrukas snabbare än väntat | Kontrollera vilken modell tråden använder. Priserna skiljer sig avsevärt mellan nivåerna. |
Vad händer härnäst
- Se Krediter & fakturering för hur modellvalet syns på fakturan.
- Se Chatt för tråden som modellen är kopplad till.
