En model er ræsonneringsmotoren bag en kørsel. Okou håndterer værktøjer, kontekst og procedure; modellen står for tænkningen. Hvilken model der bruges, påvirker kvalitet, hastighed og hvor mange credits en kørsel bruger.
Modellen lever på chat-tråden
Modelvælgeren sidder ved siden af chat-komponisten og styrer modellen for denne chat. Valget gemmes på tråden, ikke på agenten og ikke på workflowet.
- En ny chat starter fra dit medlemsstandard, derefter arbejdsområdets standard, hvis du ikke har sat en. Systemstandarden er Auto.
- Ændring af modellen midt i en chat gælder for næste kørsel i tråden; en kørsel, der allerede er i gang, afsluttes på den model, den startede med.
- En automation-chat vælger sin model, når den først oprettes, og senere afviklinger af automationsgenbruget den.
- I Slack binder kommandoen /okou model modellen for næste tråd, du starter — se Slack.
Agents og workflows har bevidst ingen egen modelindstilling. Tråden er det eneste sted at kigge.
Hvad der er tilgængeligt
Den aktuelle katalog med hver models styrker og relative omkostninger findes på siden Modeller. Den dækker ræsonnerings- og billedmodeller og ændres, efterhånden som modeller og udbyderruter bliver tilgængelige.
Tilgængelighed afhænger af det aktuelle katalog, din plan, arbejdsområdets politik og udbyderrute:
- Free kan bruge de indbyggede modeller, der er aktiveret for Free i det aktuelle katalog.
- Betalte planer kan få adgang til yderligere modeller, afhængigt af kataloget, arbejdsområdets politik og tilgængelige udbyderforbindelser.
Arbejdsområdeadministratorer vælger, hvilke af disse modeller medlemmer faktisk kan vælge, og hvilken der er arbejdsområdets standard, under Indstillinger → Modeller.
Hvor inferensen kører
En model kan routes på flere måder, og ruten fastsættes af arbejdsområdets politik, ikke af vælgeren:
- Indbygget — Okou kører modellen, og det trækkes fra arbejdsområdets credits. Intet skal tilsluttes.
- Eget abonnement — hvert medlem forbinder deres egen Claude- eller Codex-konto, og deres kørsel går igennem den.
- En delt udbydernøgle eller gateway — en administrator tilføjer legitimationsoplysninger én gang for arbejdsområdet.
Et kvalificeret, tilsluttet personligt Claude- eller Codex-abonnement kan bruges på Free og betalte planer. Delte organisations-API-nøgler og brugerdefinerede gateways kræver en betalt plan. En abonnementsbaseret kørsel bruger det abonnement og falder ikke tilbage på indbyggede credits. Værktøjskald, generering og lagring bruger stadig Okou credits.
Vælgeren vælger en model. Den tilsidesætter ikke den rute, som politikken har tildelt modellen.
At vælge en
- Match modellen til opgaven, ikke til prisliste. En billig model på en lang agentisk kørsel kan koste mere end en dyr, fordi den kræver flere trin.
- Brug en billig model til volumen. Triage, klassificering og masseforfiltrering kræver sjældent en frontier-model.
- Brug en frontier-model til vurdering. Langsigtet arbejde, kode og alt, hvor et forkert svar er dyrt.
- Sæt et medlemsstandard for den model, du ønsker, at de fleste chats skal starte med, i stedet for at ændre vælgeren hver gang.
Fejlfinding
| Hvad du ser | Hvad du gør |
|---|---|
| Valgt model er ikke tilgængelig | Trådens model kan ikke bruges under den nuværende arbejdsområdets politik eller udbyderforbindelse. Vælg en anden model i komponisten, eller genopret forbindelsen til udbyderen under Indstillinger → Modeller. |
| En model, du forventer, mangler | Tjek det aktuelle katalog, din plan, arbejdsområdets politik og den tilgængelige udbyderrute under Indstillinger → Modeller. |
| Credits forsvinder hurtigere end forventet | Tjek hvilken model tråden bruger. Priserne varierer betydeligt mellem niveauerne. |
Hvad nu
- Se Credits & fakturering for hvordan modelvalg vises på regningen.
- Se Chat for den tråd, modellen er knyttet til.
