Ny EU-plan for håndtering af de risici og muligheder, der er forbundet med avanceret kunstig intelligens med henblik på cybersikkerhed

Europa-Kommissionen har fremlagt en plan for at imødegå risiciene og udnytte mulighederne ved avancerede modeller inden for kunstig intelligens (AI) med henblik på cybersikkerhed.

Selv om AI kan forbedre sikkerheden, kan den også misbruges til at identificere sårbarheder, automatisere angreb og øge omfanget og hastigheden af cyberhændelser betydeligt. Den nye plan vil samle EU-landene, industrien og organisationer på EU-plan for at styrke cybersikkerheden i vores digitale landskab mod de sårbarheder, som avanceret AI udgør. 

De vigtigste tiltag

• Evaluering af AI-modeller: I henhold til forordningen om kunstig intelligens skal avancerede AI-modeller evalueres, og deres risici skal vurderes, inden de bringes i omsætning på EU-markedet. Kommissionen vil bidrage til at etablere en EU-evalueringskapacitet for at styrke tredjeparters vurdering af AI-kapaciteter og -risici globalt og støtte AI-kontorets tilsynsfunktion.
• Adgang til avancerede AI-modeller: Europa har brug for klare og gennemsigtige vilkår for adgang til de mest avancerede AI-systemer. Kommissionen vil samarbejde med EU's Agentur for Cybersikkerhed om at fastlægge en europæisk plan for struktureret adgang til avancerede AI-kapaciteter med henblik på cybersikkerhed, som skal hjælpe offentlige og private organisation med at tilgå avancerede AI-modeller.
• Afprøvning af AI med henblik på cybersikkerhed EU's Agentur for Cybersikkerhed og Kommissionens Fælles Forskningscenter vil oprette en sikker platform til afprøvning af AI med henblik på cybersikkerhed, herunder ved hjælp af simulerede miljøer. Dette skal bibringe operatører i kritiske sektorer viden om sikker anvendelse af kunstig intelligens.
• Styrkelse af EU's cybersikkerhed og afhjælpning af sårbarheder: EU skal beskytte sin kritiske infrastruktur. I tråd med EU's cybersikkerhedsregler bør organisationer intensivere deres cyberhygiejnepraksis, risikostyringsforanstaltninger og anvendelse af principperne om indbygget sikkerhed. De bør også begynde at anvende de tilgængelige AI-kapaciteter til at afhjælpe sårbarheder hurtigere samt forebygge og reagere på cyberangreb. EU's Agentur for Cybersikkerhed vil bistå dem i denne overgangsfase gennem bl.a. vejledning, anbefalinger og bedste praksis samt en kampagne for at sikre kritisk open source-software.
• Opskalering af den europæiske AI-kapacitet på cyberområdet: EU skal fortsat investere i sine egne avancerede AI-kapaciteter. Med henblik herpå stilles AI-fabrikkerne og de kommende gigafabrikker samt egenkapitalkapaciteten for europæisk teknologi, der blev bebudet i pakken om teknologisk suverænitet, til rådighed. Kommissionen vil også lancere EU's storstilede udfordring om AI med henblik på cybersikkerhed, der vil samle virksomheder, forskere og organisationer med det formål at udvikle AI-løsninger med henblik på cybersikkerhed og fremme væksten på EU-markedet.

Den nye plan har til formål at styrke EU's ramme for cybersikkerhed. Den bygger på eksisterende EU-regler, herunder forordningen om kunstig intelligens, forordningen om cyberrobusthed, direktivet om net- og informationssystemer og forordningen om cybersolidaritet.

Yderligere oplysninger

Pressemeddelelse

Faktablad

Handlingsplan for cybersikkerhed og kunstig intelligens

Kunstig intelligens