Společnost Gartner vydala varování pro všechny manažery, kteří bezhlavě naskakují na vlnu umělé inteligence. Cesta k úspěchu není dlážděna jen rychlým nasazením modelů, ale především zvládnutím dlouhodobých rizik.
Pasti, které nejsou na první pohled vidět
Technologický svět se mění bezprecedentním tempem a humbuk kolem GenAI často zastírá reálná rizika. Arun Chandrasekaran ze společnosti Gartner na sympoziu v indickém Kóči upozornil, že firmy se příliš soustředí na okamžitý byznysový přínos a bezpečnost dat, ale unikají jim sekundární dopady.
Skryté hrozby, jako je eroze dovedností nebo závislost na jednom dodavateli, fungují jako časované bomby. Organizace, které tyto podvodní proudy ignorují, mohou brzy narazit na tvrdou realitu.
Zásadním problémem současnosti je exploze neschváleného softwaru, známá jako Shadow AI. Průzkum mezi lídry v oblasti kyberbezpečnosti odhalil alarmující skutečnost. Celých 69 % organizací má podezření nebo důkazy o tom, že jejich zaměstnanci používají zakázané veřejné AI nástroje.
Lidé si chtějí ulehčit práci, ale neuvědomují si, že tím vystavují firmu riziku úniku duševního vlastnictví. Gartner předpovídá, že do roku 2030 bude více než 40 % podniků čelit bezpečnostním incidentům právě kvůli těmto neschváleným aplikacím.
Dalším strašákem je nenápadně rostoucí tzv. AI Technical Debt. Rychlost, s jakou generativní modely chrlí kód a obsah, je sice fascinující, ale má svou cenu. Údržba, opravy a případné nahrazení těchto artefaktů generovaných strojem mohou být v budoucnu extrémně nákladné.
Polovina podniků bude podle analytiků do konce dekády čelit zpožděním při aktualizacích a rostoucím nákladům na údržbu, protože nezvládnou management tohoto dluhu.
Obrázek: Midjourney
Zdroj: gartner.com
