Model je engine pro uvažování za úlohou. Okou se stará o nástroje, kontext a postup; model provádí samotné myšlení. Výběr modelu ovlivňuje kvalitu, rychlost a počet kreditů spotřebovaných během úlohy.
Model je uložen na chatu ve vlákně
Výběr modelu je vedle editoru zpráv a určuje model pro daný chat. Výběr se ukládá na vlákno, nikoli na agenta nebo workflow.
- Nový chat začíná z vašeho výchozího nastavení člena, případně z výchozího nastavení workspace, pokud jste si žádné nenastavili. Systémové výchozí nastavení je Auto.
- Změna modelu během chatu se projeví až při další úloze ve vlákně; již probíhající úloha doběhne na modelu, se kterým začala.
- Automatizace chat převezme model při svém vytvoření a pozdější spuštění jej znovu použijí.
- Ve Slacku příkaz /okou model nastaví model pro další vlákno, které založíte — viz Slack.
Agenti ani workflow záměrně nemají vlastní nastavení modelu. Vlákno je jediné místo, kde hledat.
Co je k dispozici
Aktuální katalog se silnými stránkami a relativní cenou každého modelu najdete na stránce Modely. Obsahuje modely pro uvažování i obrázky a mění se podle dostupnosti modelů a tras poskytovatelů.
Dostupnost závisí na aktuálním katalogu, vašem plánu, politice workspace a trase poskytovatele:
- Free může používat vestavěné modely povolené pro Free v aktuálním katalogu.
- Placené plány mají přístup k dalším modelům dle katalogu, politiky workspace a dostupných připojení poskytovatelů.
Správci workspace určují, které modely mohou členové skutečně vybírat a který je výchozí pro workspace v Nastavení → Modely.
Kde probíhá inference
Model může být směrován více způsoby a trasu určuje politika workspace, nikoli výběr modelu:
- Vestavěné — Okou spouští model a účtuje kredity workspace. Není třeba nic připojovat.
- Vlastní předplatné — každý člen si připojí svůj účet Claude nebo Codex a jeho úlohy jdou přes něj.
- Sdílený klíč poskytovatele nebo brána — správce zadá přihlašovací údaje jednou pro celý workspace.
Oprávněné, připojené osobní předplatné Claude nebo Codex lze použít na Free i placených plánech. Sdílené API klíče organizace a vlastní brány vyžadují placený plán. Úloha na předplatném využívá toto předplatné a nespotřebovává vestavěné kredity. Volání nástrojů, generování a úložiště stále spotřebovávají kredity Okou.
Výběr určuje model. Nepřepisuje trasu, kterou politika přiřadila tomuto modelu.
Jak vybírat
- Přizpůsobte model úloze, ne ceníku. Levný model může při dlouhé agentní úloze stát více než drahý, protože potřebuje více kroků.
- Používejte levný model pro objem. Třídění, klasifikace a hromadné předfiltrování obvykle nepotřebují špičkový model.
- Používejte špičkový model pro rozhodování. Dlouhodobé úkoly, kód a vše, kde je špatná odpověď drahá.
- Nastavte si výchozí model člena pro většinu chatů, místo abyste pokaždé měnili výběr.
Řešení problémů
| Co vidíte | Co dělat |
|---|---|
| Vybraný model není dostupný | Model vlákna není použitelný podle aktuální politiky workspace nebo připojení poskytovatele. Vyberte jiný model v editoru, nebo znovu připojte poskytovatele v Nastavení → Modely. |
| Chybí očekávaný model | Zkontrolujte aktuální katalog, svůj plán, politiku workspace a dostupnou trasu poskytovatele v Nastavení → Modely. |
| Kredity ubývají rychleji než čekáte | Zkontrolujte, na kterém modelu je vlákno. Sazby se mezi úrovněmi výrazně liší. |
Co dál
- Viz Kredity a fakturace pro informace, jak se výběr modelu promítá do faktury.
- Viz Chat pro informace o vláknu, ke kterému je model přiřazen.
