Excelentní a důvěryhodná umělá inteligence

Přínosy umělé inteligence

Evropská unie disponuje potenciálem stát se světovým lídrem v oblasti bezpečné umělé inteligence. Vytvořením silného regulačního rámce založeného na lidských právech a základních hodnotách může EU vytvořit systém UI, který bude přínosný pro občany, podniky i vlády.

Umělá inteligence v EU

• Akt o umělé inteligenci, který v dubnu 2021 navrhla Evropská komise a v prosinci 2023 jej schválily Evropský parlament a Rada, se zabývá potenciálními riziky pro zdraví, bezpečnost a základní práva občanů a zároveň podporuje vývoj inovativní a odpovědné umělé inteligence v EU. 
• Akt o UI a aktualizace Koordinovaného plánu v oblasti umělé inteligence zaručují bezpečnost a základní práva občanů i podniků a zároveň ve všech zemích EU umožňují posílit investice a inovace.
• Evropská komise také představila balíček inovací UI, který má podpořit evropské začínající podniky i malé a střední podniky při vývoji důvěryhodné umělé inteligence, která respektuje hodnoty a předpisy EU. 

Akt EU o umělé inteligenci je světově prvním komplexním právním rámcem, který tuto technologii upravuje. Měl by zaručit, že systémy UI používané v EU budou bezpečné, transparentní, etické, nestranné a pod lidskou kontrolou. Proto jsou kategorizovány podle rizika: 

Nepřijatelné riziko

Vše, co je považováno za jasnou hrozbu pro občany EU, bude zakázáno: od sociálního hodnocení (social scoring) ze strany státu až po hračky využívající hlasovou nápovědu, která by mohla vést děti k nebezpečnému chování.

Vysoké riziko

• kritická infrastruktura (např. doprava), kde by mohl být ohrožen život či zdraví občanů
• prvky vzdělávání nebo odborné přípravy, které mohou předurčovat přístup ke vzdělání či další kariérní dráhu jednotlivců (např. bodování zkoušek)
• bezpečnostní komponenty produktů (např. aplikace v roboticky asistované chirurgii)
• zaměstnanost, řízení pracovníků a přístup k samostatné výdělečné činnosti (např. software pro třídění životopisů pro potřeby náborových řízení)
• základní soukromé a veřejné služby (např. úvěrové bodování, které by občanům zabránilo v získání půjčky)
• vymáhání práva, které by mohlo zasahovat do základních práv lidí (např. hodnocení spolehlivosti důkazů)
• migrace, azyl a správa hraničních kontrol (např. automatizované posuzování žádostí o víza)
• výkon spravedlnosti a demokratických procesů (např. využití umělé inteligence pro vyhledávání soudních rozhodnutí)

Vysoce rizikové systémy UI budou pečlivě posouzeny před uvedením na trh a po celou dobu jejich životního cyklu.

Omezené riziko

Na systémy UI, jako jsou chatboty, se vztahují minimální povinnosti týkající se transparentnosti, a informované rozhodnutí se tak ponechává na těch, kdo s nimi přicházejí do styku. Uživatel se pak může rozhodnout, zda chce v používání aplikace pokračovat nebo ne.

Minimální riziko

Bezplatné používání aplikací, jako jsou videohry s prvky umělé inteligence nebo filtry proti spamu. Převážná většina systémů UI, které se v současné době v EU používají, spadá do této kategorie, na kterou se nová pravidla nevztahují, neboť tyto systémy představují pro práva nebo bezpečnost občanů pouze minimální či žádné riziko.

Pravidla pro poskytovatele vysoce rizikových systémů UI

Pokud dojde v životním cyklu systému umělé inteligence k podstatným změnám, vrátí se ke kroku 2.

Jakmile je systém UI na trh uveden, jsou aktivní orgány odpovědné za dozor nad trhem, provozovatelé zajišťují lidský dohled a monitorování a poskytovatelé mají zaveden systém monitorování po uvedení na trh. Poskytovatelé i provozovatelé musí rovněž hlásit závažné incidenty a chybné fungování.

V roce 2018 učinila Evropská komise a členské státy EU první krok tím, že spojily síly v rámci Koordinovaného plánu v oblasti UI, který pomohl položit základy pro vnitrostátní strategie a další vývoj politiky.

Aktualizace Koordinovaného plánu v oblasti UI z roku 2021 přenesla tyto strategie do praxe. Uvádí je též v soulad s neoddělitelnými prioritami Evropské komise – digitální a zelenou transformací, jakož i s reakcí Evropy na koronavirovou pandemii. 

Koordinovaný plán podporuje excelenci umělé inteligence od laboratoře až po uvedení trh a obsahuje vizi, jak urychlit investice do umělé inteligence, jak jednat v souladu s příslušnými strategiemi, aby mohly být včas provedeny, a jak sladit politiku týkající se umělé inteligence v celé EU.

V rámci tohoto úsilí hodlá Evropská komise vytvořit:

• partnerství veřejného a soukromého sektoru v oblasti umělé inteligence, dat a robotiky – cílem je definovat společnou strategickou agendu pro výzkum, inovace a zavádění jejich výsledků, provádět ji a investovat do ní.
• další sítě středisek excelence pro umělou inteligenci na podporu výměny odborných i jiných poznatků, k rozvoji spolupráce s průmyslem a na podporu rozmanitosti a začleňování
• testovací a experimentální zařízení, která umožní testovat nejmodernější technologie v reálném prostředí
• centra pro digitální inovace, jednotná kontaktní místa, která umožní přístup k technickým poznatkům a testovacím prostředkům, aby společnosti mohly technologie otestovat ještě předtím, než budou investovat
• platformu umělé inteligence na vyžádání jakožto centrální evropský soubor nástrojů pro rozvoj UI (obnášející např. odborné poznatky, algoritmy, softwarové rámce či vývojářské nástroje) potřebné k využití technologií v průmyslu a ve veřejném sektoru

Evropská unie již financovala řadu projektů UI, které přinášejí řešení v nejrůznějších oblastech, od zemědělství po zdravotní péči, výrobu nebo dopravu.

Třemi příklady oblastí, kde je využívání technologií umělé inteligence obzvláště prospěšné, může být zdravotnictví, životní prostředí a boj proti dezinformacím.

Umělá inteligence v EU v číslech