Naše zdraví v rukou umělé inteligence: Jak AI regulovat a na co si dát pozor

Nástroje umělé inteligence dnes používají již dvě třetiny českých nemocnic, nejčastěji při diagnostice a vyhodnocování zobrazovacích vyšetření. Význam AI v posledních letech prudce roste, což není překvapivé: přenesení rutinních úkolů na počítače šetří lékařům čas, urychluje péči a může i zpřesnit jejich rozhodování. Zároveň ale přináší rizika, na která nyní upozorňují evropské instituce EASAC a FEAM a předkládají politikům důležitá doporučení.

Umělá inteligence se vyvíjí rychleji než pravidla, která ji mají usměrňovat. Ve zdravotnictví, tedy v mimořádně citlivé oblasti, je tento nepoměr obzvlášť patrný. Systémy AI se zde už používají a mohou přinášet výrazné přínosy, zejména v klinické péči a ve veřejném zdraví. Bez jasně stanovených pravidel však hrozí úniky dat, algoritmická předpojatost i ztráta lidské kontroly.

Expertní rada evropských akademií (EASAC) a Federace evropských lékařských akademií (FEAM) proto vydaly zprávu, jejímž cílem je zajistit odpovědné využívání umělé inteligence v evropském zdravotnictví. Požadují, aby se k AI přistupovalo stejně jako k jakémukoli jinému zdravotnickému nástroji: její přínosy je třeba prokázat, rizikům je nutné rozumět a její fungování je potřeba průběžně kontrolovat.

„Pokud chceme svěřit své zdraví umělé inteligenci, musíme jednat právě teď,“ zdůrazňuje André Knottnerus, spolupředseda pracovní skupiny EASAC. Zpráva, na níž se podílelo 22 vědců z celé Evropy, obsahuje deset základních doporučení určených především zákonodárcům. „Je na tvůrcích politik, aby zajistili regulační podmínky pro využívání umělé inteligence, které bude orientované na pacienta, účinné, bezpečné, spravedlivé a transparentní,“ dodává André Knottnerus.

Především transparentně

Akademii věd ČR v pracovní skupině zastupovala Eva Fialová z Ústavu státu a práva, která odpovídala za kapitolu o legislativním rámci (ve zprávě jde o kapitolu 8). Za velmi důležité považuje také promyšlené financování vývoje AI a podpůrných systémů. „Vždy budou diagnózy, pro které se trhu nevyplatí vyvíjet AI diagnostické prostředky, byť by měly velký význam. Takový vývoj by měl být podpořen z jiných zdrojů,“ říká.

Stejně podstatné je podle ní zajistit pro trénování AI reprezentativní data, aby žádná skupina pacientů nezůstala opomenuta. Výstižné přirovnání nabízejí autonomní vozy: pokud by se AI řidič učil jen na situacích, kdy po silnici chodí bílí muži, mohl by v reálném provozu srazit afroamerickou ženu. „Vztaženo ke zdravotnictví je to velmi nebezpečné i proto, že uživatelé mají tendenci umělé inteligenci důvěřovat, a můžou tedy zdravotní stav určité skupiny osob zanedbat,“ upozorňuje Eva Fialová.

Podle ní není nutné řešit AI ve zdravotnictví jedním komplexním předpisem, protože na ni lze uplatnit řadu právních institutů, které už dnes existují. Zpráva EASAC a FEAM chce přispět k provádění nařízení EU o umělé inteligenci a nařízení o evropském prostoru pro zdravotní data (EHDS), k přípravě souvisejících předpisů i k chystané iniciativě EU v oblasti umělé inteligence ve zdravotnictví. Součástí zprávy je také soubor deseti doporučení pro tvůrce národních politik.

Zdroj: press.news

Zdroj: eGOVERNMENT.NEWS  

​ 

Napsat komentář