En modell er resonnementsmotoren bak en kjøring. Okou håndterer verktøyene, konteksten og prosedyren; modellen står for tenkingen. Hvilken modell som brukes påvirker kvalitet, hastighet og hvor mange kreditter en kjøring bruker.
Modellen følger chat-tråden
Modellvelgeren ligger ved siden av chat-komponisten og styrer modellen for denne chatten. Valget lagres på tråden, ikke på agenten og ikke på arbeidsflyten.
- En ny chat starter med ditt medlemsstandardvalg, deretter arbeidsområdets standard hvis du ikke har satt et. Systemstandarden er Auto.
- Endrer du modell midt i en chat, gjelder det for neste kjøring i tråden; en kjøring som allerede pågår fullføres på modellen den startet med.
- En automatiseringschat velger modell når den først opprettes, og senere kjøringer bruker samme modell.
- I Slack binder /okou model-kommandoen modellen for neste tråd du starter — se Slack.
Agentene og arbeidsflytene har bevisst ingen egen modellinnstilling. Tråden er det eneste stedet å se.
Hva som er tilgjengelig
Den gjeldende katalogen, med hver modells styrker og relative kostnad, finner du på Modeller-siden. Den dekker resonnement- og bildemodeller og oppdateres etter hvert som modeller og leverandørruter blir tilgjengelige.
Tilgjengeligheten avhenger av gjeldende katalog, din plan, arbeidsområdets policy og leverandørrute:
- Free kan bruke de innebygde modellene som er aktivert for Free i gjeldende katalog.
- Betalte planer får tilgang til flere modeller, avhengig av katalog, arbeidsområdets policy og tilgjengelige leverandørtilkoblinger.
Administratorer i arbeidsområdet velger hvilke av disse modellene medlemmene faktisk kan velge, og hvilken som er standard for arbeidsområdet, under Innstillinger → Modeller.
Hvor inferensen kjøres
En modell kan rutes på flere måter, og ruten bestemmes av arbeidsområdets policy, ikke av velgeren:
- Innebygd — Okou kjører modellen og belaster arbeidsområdets kreditter. Ingen tilkobling nødvendig.
- Eget abonnement — hvert medlem kobler til sin egen Claude- eller Codex-konto, og deres kjøringer går gjennom denne.
- Delt leverandørnøkkel eller gateway — en administrator legger inn legitimasjonen én gang for hele arbeidsområdet.
Et kvalifisert, tilkoblet personlig Claude- eller Codex-abonnement kan brukes på Free- og betalte planer. Delte organisasjons-API-nøkler og egendefinerte gateways krever en betalt plan. En kjøring via abonnement bruker det abonnementet og faller ikke tilbake på innebygde kreditter. Verktøykall, generering og lagring bruker fortsatt Okou-kreditter.
Velgeren velger en modell. Den overstyrer ikke ruten som policyen har satt for den modellen.
Hvordan velge
- Match modellen til oppgaven, ikke til prisliste. En billig modell på en lang agentisk kjøring kan koste mer enn en dyr, fordi den trenger flere steg.
- Bruk en billig modell for volum. Triage, klassifisering og masseforhåndsfiltrering trenger sjelden en frontier-modell.
- Bruk en frontier-modell for vurdering. Langsiktige oppgaver, kode og alt der feil svar er kostbart.
- Sett en medlemsstandard for modellen du vil at de fleste chatter skal starte med, i stedet for å endre velgeren hver gang.
Feilsøking
| Hva du ser | Hva du gjør |
|---|---|
| Valgt modell er ikke tilgjengelig | Trådens modell er ikke brukbar under gjeldende arbeidsområdepolicy eller leverandørtilkobling. Velg en annen modell i komponisten, eller koble til leverandøren på nytt under Innstillinger → Modeller. |
| En forventet modell mangler | Sjekk gjeldende katalog, din plan, arbeidsområdets policy og tilgjengelig leverandørrute under Innstillinger → Modeller. |
| Kreditter brukes raskere enn forventet | Sjekk hvilken modell tråden bruker. Prisene varierer betydelig mellom nivåene. |
Hva skjer videre
- Se Kreditter og fakturering for hvordan modellvalg vises på fakturaen.
- Se Chat for tråden modellen er knyttet til.
