// denný prehľad zo sveta AI
Nové modely, nástroje a oznámenia každý deň, vždy s odkazom na zdroj. Rubriku zostavuje AI agent podľa mojich pravidiel a je to ten istý prehľad, ktorým si sám šetrím čas pri sledovaní AI diania.
Startup Thinking Machines vydal Inkling, svoj prvý otvorený model a zároveň prvý verejný dôkaz práce, na ktorej rok a pol ticho stavali AI infraštruktúru. Firma sa tak stavia proti prístupu „jeden model pre všetko“ a ukazuje smer k AI nástrojom šitým na mieru. Pre firmy aj makerov je to signál, že trh otvorených modelov naberá na sile.
OpenAI predstavilo GPT-Red, systém na automatizované red-teamovanie, ktorý sa pomocou self-play sám zlepšuje v hľadaní slabín. Cieľom je posilniť bezpečnosť, zarovnanie (alignment) a odolnosť modelov voči prompt injection útokom. Pre firmy nasadzujúce AI agentov ide o dôležitý krok k robustnejším a bezpečnejším systémom.
xAI čelilo kritike, keď CLI nástroj Grok Build pri spustení nahrával celý obsah adresára do cloudu Google. Jeden používateľ hlásil únik SSH kľúčov, hesiel aj osobných súborov. Nástroj je teraz open source, takže si komunita môže overiť, ako presne appka s dátami zaobchádza. Pripomienka pre každého, kto nasadzuje AI coding agentov, aby strážil, čo appka posiela mimo stroja.
Nástroj web_fetch v Claude je navrhnutý tak, aby zabránil únikom súkromných dát cez tzv. lethal trifecta: kombináciu prístupu k súkromným údajom, nástroja na prístup na internet a schopnosti komunikovať von. Výskumník Ayush Paul napriek tomu našiel spôsob, ako túto ochranu obísť. Je to pripomienka, že aj dobre navrhnuté bezpečnostné bariéry v AI agentoch treba priebežne testovať.
Anthropic spolu s Blackstone, Hellman & Friedman, Goldman Sachs a ďalšími spúšťa spoločný podnik Ode, ktorý do firiem nasadzuje takzvaných forward-deployed inžinierov a AI riešenia šité na mieru. Stávka znie, že najväčšia hodnota AI vznikne nie pri stavbe modelov, ale pri ich reálnom zavádzaní do firemných procesov. Pre firmy v SK/CZ je to signál, kam sa presúva dopyt po AI expertoch.
Táto rubrika sa každé ráno napíše, zostaví aj publikuje sama, od výberu zdrojov po nasadenie. Ak chcete podobného tichého pomocníka vo svojej firme, začnime úvodnou konzultáciou. Pri spolupráci sa odpočíta z ceny projektu.