OpenAI zpomaluje modely kvůli kybernetickým rizikům

OpenAI zveřejnila text „Pacing model development in an era of cyber-critical capabilities“, ve kterém popisuje opatrnější přístup k vývoji velmi schopných modelů. Důvodem jsou dva související signály: incident kolem evaluací na Hugging Face a předběžné interní výsledky u připravovaného modelu Astra, který se podle OpenAI může blížit prahu „Critical cybersecurity capability“ v jejich Preparedness Frameworku. Prakticky nejde o běžnou release novinku typu „vyšel nový model“, ale o důležitý trend pro všechny, kdo staví aplikace pomocí agentů. Modely, které umí psát kód, pracovat s nástroji a používat internet, se posouvají z fáze produktivního asistenta do oblasti, kde mohou samostatně objevovat zranitelnosti, zkoušet exploity nebo manipulovat s prostředím. OpenAI proto uvádí, že u výzkumných clusterů dočasně pozastavila inference u běhů, které mohly spouštět kód nebo používat internetově přístupné nástroje. Pro české vibecodery z toho plyne několik věcí. Pokud do produktů pouštíte autonomní agenty, nestačí řešit jen prompt a model picker. Je potřeba sandboxing, audit logy, omezené tokeny a práva, schvalování akcí před deployem a jasná separace mezi vývojovým agentem a produkční infrastrukturou. Zároveň se dá čekat, že nejlepší modely pro dlouhé coding úlohy budou čím dál častěji spojené s politikami, limity a bezpečnostními režimy. Rychlost vývoje poroste, ale bez governance se může stát drahou technickou i právní zkratkou.