Bezpečnostní analýza Zscaleru popisuje rychlé selhávání AI systémů při simulovaných útocích a zároveň prudký růst počtu AI transakcí, který zvyšuje tlak na dohled, pravidla a průběžné testování.
Křehké AI systémy padají během desítek minut, evropské firmy musí sladit inovace s řízením rizik
Bezpečnostní firma Zscaler v reportu popisuje problém, který se v praxi objevuje častěji než na prezentacích o produktivitě: AI systémy v podnikových prostředích nezvládají cílené testování odolnosti. Při prověřování v 25 firemních prostředích vyšla mediánová doba do prvního vážného selhání na 16 minut a do 90 minut selhalo 90% systémů, v extrémním případě stačila 1 sekunda.
Selhání se podle analýzy objevovala v několika kategoriích, mimo jiné šlo o odpovědi mimo téma, chybné ověření odkazů a porušení soukromí. Testování navíc často odhalilo kritickou zranitelnost hned při prvním pokusu, podíl prostředí s kritickou chybou při prvním testu dosáhl 72%. Riziko tedy vzniká od začátku nasazení, včetně firem se zralejším bezpečnostním programem.
Hlavní motor problému tvoří objem dat, které do AI proudí. Zscaler analyzoval 989,3 miliardy AI a strojově učících transakcí za rok 2025, což představuje růst o 91% oproti roku 2024, aktivita zahrnovala více než 3 400 různých AI nástrojů. Větší provoz znamená více míst, kde se mohou objevit chyby v přístupu k datům, slabá autentizace nebo nechtěné sdílení citlivých informací mezi nástroji a týmy
Obrázek: Midjourney
Zdroj: ciodive.com
