Algoritmy na úřadech děsí lidi. Stát musí vysvětlit, jak rozhoduje, jinak digitální služby neuspějí

Občané volají po kontrole nad svými údaji. Průzkum z letošního podzimu potvrzuje, že lidé chtějí vědět, co o nich stát ví a jak tyto informace využívá. Transparentnost se stává novou měnou, bez které digitální služby nemohou fungovat. Většina lidí se cítí komfortněji, když vidí do karet úředníkům i strojům.

Konec černé skříňky

Koncept datové suverenity se přesouvá z akademických debat do praxe. Občané už nechtějí být pasivními subjekty v databázích, ale chtějí mít nad svými informacemi kontrolu. Gartner doporučuje úřadům zavést mechanismy, které lidem umožní nahlédnout do záznamů a ovlivnit jejich sdílení.

Zveřejňování dat o využití a auditů je cestou, jak splnit sliby o transparentnosti. Téměř polovina respondentů (44 %) označila pochopení toho, jak vláda data využívá, za extrémně důležité.

Rychlé nasazování nástrojů typu GenAI přináší nové výzvy. Úředníci jsou nadšeni z efektivity, ale občané se bojí, že o jejich osudu bude rozhodovat neprůhledný kód. Pokud algoritmus zamítne žádost o dávku nebo vyhodnotí daňové přiznání, občan musí dostat vysvětlení v „lidské řeči“, nikoliv chybovou hlášku. Důraz na tzv. vysvětlitelnost je nutnou podmínkou pro akceptaci pokročilých technologií ve veřejném sektoru.

Budování důvěry vyžaduje více než jen technická opatření. Pravidelné externí i interní audity, jejichž výsledky jsou veřejně dostupné, by měly být standardem. Lidé potřebují vidět, že systém má kontrolní mechanismy a že s jejich daty není nakládáno svévolně. Důvěra v kybernetickou bezpečnost je křehká a každý nejasný krok ji může narušit.

Obrázek: Midjourney

Zdroj: gartner.com

 

Napsat komentář