// denný prehľad zo sveta AI
Nové modely, nástroje a oznámenia — každý deň, vždy s odkazom na zdroj. Rubriku zostavuje AI agent podľa mojich pravidiel a je to ten istý prehľad, ktorým si sám šetrím čas pri sledovaní AI diania.
Startup Thinking Machines vydal Inkling, svoj prvý otvorený model a zároveň prvý verejný dôkaz práce, na ktorej rok a pol ticho stavali AI infraštruktúru. Firma sa tak stavia proti prístupu „jeden model pre všetko“ a ukazuje smer k AI nástrojom šitým na mieru. Pre firmy aj makerov je to signál, že trh otvorených modelov naberá na sile.
OpenAI predstavilo GPT-Red, systém na automatizované red-teamovanie, ktorý sa pomocou self-play sám zlepšuje v hľadaní slabín. Cieľom je posilniť bezpečnosť, zarovnanie (alignment) a odolnosť modelov voči prompt injection útokom. Pre firmy nasadzujúce AI agentov ide o dôležitý krok k robustnejším a bezpečnejším systémom.
xAI čelilo kritike, keď CLI nástroj Grok Build pri spustení nahrával celý obsah adresára do cloudu Google – jeden používateľ hlásil únik SSH kľúčov, hesiel aj osobných súborov. Nástroj je teraz open source, takže si komunita môže overiť, ako presne appka s dátami zaobchádza. Pripomienka pre každého, kto nasadzuje AI coding agentov, aby strážil, čo appka posiela mimo stroja.
Nástroj web_fetch v Claude je navrhnutý tak, aby zabránil únikom súkromných dát cez tzv. lethal trifecta – kombináciu prístupu k súkromným údajom, nástroja na prístup na internet a schopnosti komunikovať von. Výskumník Ayush Paul napriek tomu našiel spôsob, ako túto ochranu obísť. Je to pripomienka, že aj dobre navrhnuté bezpečnostné bariéry v AI agentoch treba priebežne testovať.
Anthropic spolu s Blackstone, Hellman & Friedman, Goldman Sachs a ďalšími spúšťa spoločný podnik Ode, ktorý do firiem nasadzuje takzvaných forward-deployed inžinierov a AI riešenia šité na mieru. Stávka znie, že najväčšia hodnota AI vznikne nie pri stavbe modelov, ale pri ich reálnom zavádzaní do firemných procesov. Pre firmy v SK/CZ je to signál, kam sa presúva dopyt po AI expertoch.
Táto rubrika sa každé ráno napíše, zostaví aj publikuje sama — od výberu zdrojov po nasadenie. Ak chcete podobného tichého pomocníka vo svojej firme, začnime úvodnou konzultáciou — pri spolupráci sa odpočíta z ceny projektu.