Odličnost in zaupanje v umetno inteligenco

Koristi umetne inteligence

EU ima potencial, da na področju varne umetne inteligence postane vodilna v svetu. Z vzpostavitvijo trdnega regulativnega okvira na podlagi človekovih pravic in temeljnih vrednot lahko razvije sistem umetne inteligence, ki bo koristil državljanom, podjetjem in vladam.

EU in umetna inteligenca

• Akt o umetni inteligenci, ki ga je Komisija predlagala aprila 2021 in o katerem sta se decembra 2023 dogovorila Evropski parlament in Svet, obravnava morebitna tveganja za zdravje, varnost in temeljne pravice državljanov, hkrati pa podpira razvoj inovativne in odgovorne umetne inteligence v EU. 
• Akt o umetni inteligenci in posodobitev usklajenega načrta za umetno inteligenco bosta zagotovila varnost in temeljne pravice ljudi in podjetij, obenem pa okrepila naložbe in inovacije v državah EU.
• Poleg tega je Komisija je predstavila sveženj o inovacijah na področju umetne inteligence v podporo evropskim zagonskim podjetjem ter malim in srednjim podjetjem pri razvoju zaupanja vredne umetne inteligence, ki je skladna z vrednotami in pravili EU. 

Krepitev zaupanja s prvim pravnim okvirom o umetni inteligenci

Akt EU o umetni inteligenci je prvi celovit pravni okvir za umetno inteligenco na svetu. Zagotovil bo, da bodo sistemi umetne inteligence, ki se uporabljajo v EU, varni, pregledni, etični, nepristranski in pod človekovim nadzorom. Zato jih razvršča glede na tveganje: 

Nesprejemljivo tveganje

Vse, kar se šteje za očitno grožnjo za državljane EU, bo prepovedano: od točkovanja državljanov do igrač z glasovnim upravljanjem, ki otroke spodbujajo k nevarnemu ravnanju.

Visoko tveganje

• Kritična infrastruktura (npr. promet), ki bi lahko ogrozila življenje in zdravje državljanov
• Izobraževanje ali poklicno usposabljanje, kjer bi lahko umetna inteligenca odločala o dostopu do posameznikovega izobraževanja ali življenjske poklicne poti (npr. ocenjevanje izpitov)
• Varnostne komponente proizvodov (npr. uporaba umetne inteligence v robotsko podprti kirurgiji)
• Zaposlovanje, upravljanje delavcev in dostop do samozaposlitve (npr. programska oprema za razvrščanje življenjepisov v postopkih zaposlovanja)
• Bistvene zasebne in javne storitve (npr. kreditno točkovanje, ki državljanom onemogoča pridobitev posojila)
• Preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, kjer bi umetna inteligenca lahko posegala v temeljne človekove pravice (npr. ocenjevanje zanesljivosti dokazov)
• Upravljanje migracij, azila in nadzora meje (npr. avtomatizirana obravnava vlog za izdajo vizuma)
• Pravosodje in demokratični procesi (npr. rešitve umetne inteligence za iskanje sodnih odločb)

Sistemi umetne inteligence z visokim tveganjem bodo pred dajanjem na trg in med celotnim življenjskim ciklom pozorno ocenjevani.

Omejeno tveganje

Za sisteme umetne inteligence, kot so klepetalni boti, veljajo zelo majhne obveznosti preglednosti, ki naj bi omogočile, da se lahko osebe, ki so v stiku z vsebino, informirano odločajo. Uporabnik se lahko nato odloči, ali bo aplikacijo še naprej uporabljal ali ne.

Zelo majhno tveganje

Neomejena uporaba aplikacij, kot so videoigre, ki temeljijo na umetne inteligenci, ali filtri za neželeno e-pošto. V to kategorijo spada velika večina sistemov umetne inteligence, ki se trenutno uporabljajo v EU. Vanje nova pravila ne posegajo, saj je pri teh sistemih tveganje za pravice ali varnost državljanov zelo majhno ali ga sploh ni.

Pravila za ponudnike sistemov umetne inteligence z visokim tveganjem

Če v življenjskem ciklu sistema umetne inteligence pride do bistvenih sprememb, je treba ponoviti postopek od 2. koraka naprej.

Ko je sistem umetne inteligence na trgu, so organi odgovorni za tržni nadzor, uporabniki zagotavljajo človeški nadzor in spremljanje, ponudniki pa po dajanju na trg vzpostavijo sistem spremljanja. Ponudniki in uporabniki bodo poročali tudi o resnih zapletih in nepravilnem delovanju.

Spodbujanje odličnosti na področju umetne inteligence

Komisija in države članice EU so leta 2018 naredile prvi korak in združile moči v usklajenem načrtu za umetno inteligenco, ki je pomagal postaviti temelje za nacionalne strategije in razvoj politik.

S posodobitvijo usklajenega načrta za umetno inteligenco leta 2021 se je strategija začela izvajati. Hkrati je bila usklajena z digitalnimi in zelenimi prednostnimi nalogami Komisije ter odzivom Evrope na pandemijo koronavirusa. 

Usklajeni načrt s spodbujanjem odličnosti umetne inteligence od laboratorija do trga predstavlja vizijo za pospešitev naložb v umetno inteligenco, spodbujanje pravočasnega izvajanja strategij za umetno inteligenco ter uskladitev politik o umetni inteligenci na ravni EU.

Komisija namerava v sklopu teh prizadevanj vzpostaviti:

• javno-zasebno partnerstvo za umetno inteligenco, podatke in robotiko za opredelitev in izvajanje skupnega strateškega programa za raziskave, inovacije in uvajanje za Evropo ter naložbe v program
• dodatne mreže centrov odličnosti za umetno inteligenco za spodbujanje izmenjave znanja in strokovnih izkušenj, krepitev sodelovanja z industrijo ter spodbujanje raznolikosti in vključenosti
• centre za testiranje in eksperimentiranje za preskušanje najsodobnejše tehnologije v realnih okoljih
• vozlišča za digitalne inovacije – enotne vstopne točke za zagotavljanje dostopa do tehničnega strokovnega znanja in možnosti za eksperimentiranje, da lahko podjetja izvedejo testiranje, preden se odločijo za naložbe
• platformo za umetno inteligenco na zahtevo kot osrednji evropski nabor virov na področju umetne inteligence (npr. strokovnega znanja, algoritmov, programskih ogrodij in razvojnih orodij) za uporabo v industriji in javnem sektorju

Projekti na področju umetne inteligence, ki jih financira EU

EU že financira različne projekte umetne inteligence, ki ponujajo rešitve na vseh področjih družbe, od kmetijstva do zdravstvenega varstva, proizvodnje ali prometa.

Uporaba tehnologije umetne inteligence je še posebej koristna na treh področjih: zdravje, okolje in boj proti dezinformacijam.

Umetna inteligenca in EU – podatki