Excelentnosť a dôvera v umelú inteligenciu

Prínosy umelej inteligencie

EÚ má potenciál stať sa svetovým lídrom v bezpečnej umelej inteligencii. Vývojom silného regulačného rámca založeného na ľudských právach a základných hodnotách môže EÚ vytvoriť systém AI, ktorý bude prínosom pre ľudí, podniky a vlády.

EÚ a umelá inteligencia

• Akt o umelej inteligencii, ktorý Komisia navrhla v apríli 2021 a ktorý Európsky parlament a Rada schválili v decembri 2023, bude riešiť potenciálne riziká pre zdravie, bezpečnosť a základné práva občanov a zároveň podporí rozvoj inovatívnej a zodpovednej umelej inteligencie v EÚ. 
• Popri akte o umelej inteligencii sa bezpečnosť a základné práva ľudí a podnikov zaručia aj aktualizáciou koordinovaného plánu v oblasti umelej inteligencie. Zároveň sa posilnia aj investície a inovácie vo všetkých krajinách EÚ.
• Komisia zároveň spustila balík inovačných opatrení v oblasti AI na podporu európskych startupov a MSP pri vývoji dôveryhodnej umelej inteligencie, ktorá rešpektuje hodnoty a pravidlá EÚ. 

Budovanie dôvery prostredníctvom vôbec prvého právneho rámca v oblasti umelej inteligencie

Akt EÚ o umelej inteligencii je vôbec prvým komplexným právnym rámcom pre umelú inteligenciu na celom svete. Jeho cieľom bude zaistiť, aby systémy umelej inteligencie používané v EÚ boli bezpečné, transparentné, etické, nezaujaté a pod ľudskou kontrolou. Preto sa kategorizujú podľa rizika: 

Neprijateľné riziko

Zakáže sa všetko, čo sa bude považovať za jednoznačnú hrozbu pre občanov EÚ: od sociálneho hodnotenia vo verejnej správe až po hračky vybavené hlasovou asistenciou, ktorá nabáda k nebezpečnému správaniu detí.

Vysoké riziko

• Kritické infraštruktúry (napr. doprava), ktoré by mohli ohroziť život a zdravie občanov
• Vzdelávanie alebo odborná príprava, ktoré by mohli rozhodnúť o prístupe k vzdelávaniu a profesijnej dráhe v niekoho živote (napr. bodovaním skúšok)
• Bezpečnostné prvky výrobkov (napr. aplikácia AI v roboticky asistovanej chirurgii)
• Zamestnanosť, riadenie zamestnancov a prístup k samostatnej zárobkovej činnosti (napr. softvér na triedenie životopisov v rámci náborových postupov)
• Dôležité súkromné a verejné služby (napr. úverové bodovanie, ktoré by občanom zabránilo získať úver)
• Presadzovanie práva, ktoré by mohlo zasiahnuť do základných ľudských práv (napr. hodnotenie spoľahlivosti dôkazov)
• Migrácia, azyl a kontrola hraníc (napr. automatizované posudzovanie žiadostí o víza)
• Výkon spravodlivosti a demokratické procesy (napr. využívanie umelej inteligencie na vyhľadávanie súdnych rozhodnutí)

Vysokorizikové systémy umelej inteligencie sa pred uvedením na trh a počas celého životného cyklu dôkladne posúdia.

Obmedzené riziko

Na systémy umelej inteligencie, ako sú konverzačné roboty (tzv. chatboty), sa vzťahujú minimálne povinnosti týkajúce sa transparentnosti, ktorých cieľom je umožniť osobám komunikujúcim s obsahom prijímať informované rozhodnutia. Používateľ sa potom môže rozhodnúť pokračovať v používaní aplikácie alebo ju prestať používať.

Minimálne riziko

Bezplatné používanie aplikácií, ako sú videohry podporované umelou inteligenciou alebo spamové filtre. Prevažná väčšina systémov AI, ktoré sa v súčasnosti používajú v EÚ, spadá do tejto kategórie. Nové pravidlá sa teda nevzťahujú na tieto systémy, ktoré predstavujú len minimálne alebo žiadne riziko pre práva alebo bezpečnosť občanov.

Pravidlá pre poskytovateľov vysokorizikových systémov AI

Ak dôjde k podstatným zmenám v životnom cykle systému umelej inteligencie, prejdite späť na krok 2.

Keď sa systém AI uvedie na trh, orgány sú zodpovedné za dohľad nad trhom, nasadzujúce subjekty zaisťujú ľudský dohľad a monitorovanie a poskytovatelia uplatňujú zavedený systém monitorovania po uvedení na trh. Poskytovatelia a nasadzujúce subjekty budú takisto hlásiť závažné incidenty a nesprávne fungovanie.

Podpora excelentnosti v oblasti AI

V roku 2018 Komisia a členské štáty EÚ urobili prvý krok tým, že spojili svoje sily prostredníctvom koordinovaného plánu v oblasti umelej inteligencie, ktorý pomohol položiť základy pre národné stratégie a politický vývoj.

Aktualizácia koordinovaného plánu v oblasti umelej inteligencie z roku 2021 prináša stratégiu do praxe a je v súlade s úzko súvisiacimi prioritami Komisie v oblasti digitálnych technológií a ekológie, ako aj s reakciou Európy na pandémiu koronavírusu. 

Koordinovaný plán podporuje excelentnosť v oblasti AI od laboratória až po trh a predstavuje víziu o tom, ako urýchliť investície do umelej inteligencie, konať na základe stratégií v oblasti AI v záujme ich včasného vykonávania a zosúladiť politiky týkajúce sa AI v celej EÚ.

V rámci tohto úsilia Komisia plánuje vytvoriť:

• verejno-súkromné partnerstvo v oblasti umelej inteligencie, údajov a robotiky s cieľom definovať spoločný strategický program v oblasti výskumu, inovácií a zavádzania pre Európu, vykonávať ho investovať do neho,
• ďalšie siete centier excelentnosti v oblasti AI na podporu výmeny poznatkov a odborných znalostí, rozvoj spolupráce s odvetvím a podporu rozmanitosti a začlenenia,
• testovacie a experimentálne zariadenia na skúšanie a testovanie pokročilých technológií v reálnom prostredí,
• centrá digitálnych inovácií, jednotné kontaktné miesta na poskytovanie prístupu k technickým odborným znalostiam a experimentovaniu, aby spoločnosti mohli „testovať pred investovaním“,
• platformu umelej inteligencie na požiadanie ako centrálny európsky súbor nástrojov pre umelú inteligenciu (napr. odborné znalosti, algoritmy, softvérové rámce, vývojové nástroje) potrebnú na použitie v priemysle a verejnom sektore.

Projekty v oblasti AI s finančnou podporou EÚ

EÚ už financuje celú škálu projektov v oblasti AI, ktoré ponúkajú riešenia vo všetkých oblastiach spoločnosti, od poľnohospodárstva až po zdravotnú starostlivosť, výrobu alebo dopravu.

Tri príklady oblastí, v ktorých je využívanie technológie umelej inteligencie osobitne prínosné, sú zdravie, životné prostredie a boj proti dezinformáciám.

AI a EÚ v číslach