Novi plan EU-a za suzbijanje rizika i iskorištavanje mogućnosti napredne umjetne inteligencije u području kibernetičke sigurnosti

Europska komisija predstavila je plan za suzbijanje rizika i iskorištavanje mogućnosti napredne umjetne inteligencije (UI) u području kibernetičke sigurnosti.

Umjetna inteligencija može pridonijeti većoj sigurnosti, ali može se i zloupotrijebiti za otkrivanje ranjivosti, automatizaciju napada i znatno povećanje razmjera i brzine kibernetičkih incidenata. Novi plan okupit će države članice, industriju i organizacije iz Unije radi bolje zaštite našeg digitalnog okruženja od ranjivosti koje donosi napredna umjetna inteligencija. 

Najvažnije mjere

• Evaluacija UI modela: Aktom o umjetnoj inteligenciji (UI akt) zahtijeva se evaluacija naprednih UI modela i procjena njihovih rizika prije stavljanja na tržište EU-a. Komisija će pomoći u uspostavi evaluacijskog kapaciteta EU-a kako bi se ojačala neovisna procjena sposobnosti i rizika umjetne inteligencije na globalnoj razini i poduprla regulatorna funkcija Ureda za umjetnu inteligenciju.
• Pristup naprednim UI modelima: Europi su potrebni jasni i transparentni uvjeti za pristup najnaprednijim UI sustavima. Komisija će u suradnji s Agencijom EU-a za kibernetičku sigurnost izraditi europski plan za strukturirani pristup naprednim UI sposobnostima za kibernetičku sigurnost kako bi javnim i privatnim organizacijama olakšala pristup naprednim UI modelima.
• Testiranje umjetne inteligencije za kibernetičku sigurnost: Agencija EU-a za kibernetičku sigurnost i Zajednički istraživački centar Komisije uspostavit će sigurnu platformu za testiranje umjetne inteligencije za kibernetičku sigurnost, među ostalim u simuliranim okruženjima. Tako će operatori u ključnim sektorima steći znanje i iskustvo u sigurnoj primjeni umjetne inteligencije.
• Jačanje kibernetičke sigurnosti EU-a i uklanjanje ranjivosti: EU mora zaštititi svoju kritičnu infrastrukturu. Prema pravilima EU-a o kibernetičkoj sigurnosti organizacije bi trebale intenzivnije provoditi kibernetičku higijenu, mjere upravljanja rizikom i načela integrirane sigurnosti. Osim toga, trebale bi početi koristiti dostupne UI kapacitete za brže uklanjanje ranjivosti te za sprečavanje i suzbijanje kibernetičkih napada. Agencija EU-a za kibernetičku sigurnost pomoći će im u toj tranziciji, među ostalim pružanjem smjernica, preporuka i primjera dobre prakse, kao i pokretanjem kampanje za zaštitu ključnog softvera otvorenog koda.
• Povećanje europskih UI sposobnosti za kibernetičku sigurnost: EU mora nastaviti ulagati u svoje napredne UI kapacitete. U tu svrhu dostupni su infrastruktura UI tvornica i budućih gigatvornica i europski kapacitet za vlasnička ulaganja u tehnologiju najavljeni u paketu za tehnološku suverenost. Komisija će pokrenuti i „Veliki izazov EU-a” u području umjetne inteligencije za kibernetičku sigurnost, koji će povezati poduzeća, istraživače i organizacije radi razvoja UI rješenja za kibernetičku sigurnost i poticanja rasta tržišta EU-a.

Novi plan, čiji je cilj ojačati okvir EU-a za kibernetičku sigurnost, temelji se na postojećim pravilima EU-a, uključujući UI akt, Akt o kibernetičkoj otpornosti, Direktivu o mrežnim i informacijskim sustavima i Akt o kibernetičkoj solidarnosti.

Više informacija

Priopćenje za medije

Informativni članak

Akcijski plan za kibernetičku sigurnost i umjetnu inteligenciju

Umjetna inteligencija