Silné stránky
- Otevřené váhy pod volnou licencí Apache 2.0, která dovoluje komerční použití i dotrénování na vlastní úlohy.
- Běží na jedné grafické kartě s 80 GB paměti, třeba H100. Podle OpenAI se v základních testech uvažování téměř vyrovná modelu o4-mini.
- Hloubku přemýšlení nastavíte na nízkou, střední nebo vysokou a vidíte celý postup uvažování. Podporuje i strukturované výstupy a volání funkcí.
Slabé stránky
- Znalosti končí v červnu 2024 a rozumí jen textu, obrázky ani skeny dokumentů nezpracuje.
- Kontextové okno má 131 000 tokenů, mnohem méně než zhruba milion u modelů GPT-6 v API.
- Trénovali ho hlavně na anglických textech, takže ve slovenštině a češtině může být slabší.
- Na vlastní server potřebujete drahou grafickou kartu a někoho, kdo model nastaví a udržuje.
Na co se hodí
- nasazení ve vlastní firmě, i bez připojení k internetu
- data, která nesmí opustit vaši infrastrukturu
- dotrénování na specializované úlohy
Na co raději ne
- aktuální události a novinky
- práce s obrázky a skeny dokumentů
- nejnáročnější uvažování na úrovni GPT-6
Jak ho používat v Česku
Jestli ho OpenAI API ještě nabízí, není jasné: v ceníku chybí a stránka modelu uvádí nulové limity. Počítejte tedy s tím, že ho přes OpenAI přímo nepoužijete. Váhy si zdarma stáhnete z Hugging Face a spustíte na vlastním serveru, nebo ho použijete přes poskytovatele, kteří ho provozují. Licence Apache 2.0 nemá geografická omezení, takže ho můžete mít i na serveru v EU a data nikam neodejdou. U cizího poskytovatele si ověřte, kde data zpracovává.
Další modely výrobce
- GPT-6 Astra: Nejsilnější model OpenAI na nejtěžší programování, agenty, kteří ovládají počítač, a hodně dlouhé dokumenty.
- GPT-6.1 Sol: Vyvážený model OpenAI, který se kvalitou blíží GPT-6 Astra za pětinu ceny. Dobrá volba pro firemní aplikace.
- GPT-6.1 Terra: Rychlý a levnější model OpenAI na práci s obrázky, ovládání počítače a běžnou kancelářskou práci.
- GPT-6 Luna: Nejlevnější model OpenAI na velké objemy jednoduchých úloh, třídění textů a levné chatboty.
- gpt-oss-20b: Menší otevřený model OpenAI, který rozběhnete i na počítači s 16 GB paměti, a to i bez internetu.
Podobné modely jiných výrobců
- Claude Fable 5.1 (Anthropic): Nejdražší model Claude na nejtěžší úkoly a dlouhou samostatnou práci, když nestačí ani Opus 5.5.