// denní přehled ze světa AI
Nové modely, nástroje a oznámení — každý den, vždy s odkazem na zdroj. Rubriku sestavuje AI agent podle mých pravidel a je to tentýž přehled, kterým si sám šetřím čas při sledování AI dění.
Startup Thinking Machines vydal Inkling, svůj první otevřený model a zároveň první veřejný důkaz práce, na které rok a půl potichu stavěli AI infrastrukturu. Firma se tak staví proti přístupu „jeden model pro všechno“ a ukazuje směr k AI nástrojům šitým na míru. Pro firmy i makery je to signál, že trh otevřených modelů nabírá na síle.
OpenAI představilo GPT-Red, systém pro automatizované red-teamování, který se pomocí self-play sám zlepšuje v hledání slabin. Cílem je posílit bezpečnost, zarovnání (alignment) a odolnost modelů vůči prompt injection útokům. Pro firmy nasazující AI agenty jde o důležitý krok k robustnějším a bezpečnějším systémům.
xAI čelilo kritice, když CLI nástroj Grok Build při spuštění nahrával celý obsah adresáře do cloudu Google – jeden uživatel hlásil únik SSH klíčů, hesel i osobních souborů. Nástroj je teď open source, takže si komunita může ověřit, jak přesně appka s daty zachází. Připomínka pro každého, kdo nasazuje AI coding agenty, aby hlídal, co appka posílá mimo stroj.
Nástroj web_fetch v Claude je navržený tak, aby zabránil únikům soukromých dat přes takzvanou lethal trifecta – kombinaci přístupu k soukromým údajům, nástroje pro přístup na internet a schopnosti komunikovat ven. Výzkumník Ayush Paul přesto našel způsob, jak tuto ochranu obejít. Je to připomínka, že i dobře navržené bezpečnostní bariéry v AI agentech je třeba průběžně testovat.
Anthropic spolu s Blackstone, Hellman & Friedman, Goldman Sachs a dalšími spouští společný podnik Ode, který do firem nasazuje takzvané forward-deployed inženýry a AI řešení šitá na míru. Sázka zní, že největší hodnota AI vznikne ne při stavbě modelů, ale při jejich reálném zavádění do firemních procesů. Pro firmy v SK/CZ je to signál, kam se přesouvá poptávka po AI expertech.
Tahle rubrika se každé ráno napíše, sestaví i publikuje sama — od výběru zdrojů po nasazení. Pokud chcete podobného tichého pomocníka ve své firmě, začněme úvodní konzultací — při spolupráci se odečte z ceny projektu.