Ekspertise i og tillid til kunstig intelligens

Fordele ved kunstig intelligens

EU har potentiale til at blive førende på verdensplan inden for sikker kunstig intelligens. Ved at udvikle et stærkt regelsæt baseret på menneskerettigheder og grundlæggende værdier kan EU udvikle et system med kunstig intelligens, der gavner mennesker, virksomheder og det offentlige.

EU og kunstig intelligens

• Forordningen om kunstig intelligens, som blev foreslået af Kommissionen i april 2021 og vedtaget af Europa-Parlamentet og Rådet i december 2023, skal imødegå potentielle risici for borgernes sundhed, sikkerhed og grundlæggende rettigheder og samtidig støtte udviklingen af innovativ og ansvarlig kunstig intelligens i EU. 
• Sammen med forordningen om kunstig intelligens skal den opdaterede koordinerede plan for kunstig intelligens dels garantere borgernes og virksomhedernes sikkerhed og grundlæggende rettigheder, dels øge investeringerne og innovationen i hele EU.
• Kommissionen har desuden indført en AI-innovationspakke til støtte for europæiske nystartede virksomheder og SMV'er, der udvikler pålidelig kunstig intelligens, som overholder EU's værdier og regler. 

Vi skal opbygge tillid med den første juridiske ramme for kunstig intelligens

EU's forordning om kunstig intelligens er verdens første omfattende regler for AI. De skal garantere, at systemerne for kunstig intelligens i EU er sikre, gennemskuelige, etisk korrekte og upartiske og forbliver under menneskelig kontrol. De kategoriseres derfor efter risiko: 

Uacceptabel risiko

Alt, hvad der betragtes som en klar trussel mod EU-borgerne, vil blive forbudt: fra systemer, der gør det muligt for regeringer at indføre sociale pointsystemer ("social scoring"), til legetøj med indbygget taleassistent, der tilskynder børn til farlig adfærd.

Høj risiko

• Kritisk infrastruktur (f.eks. transport), der kan bringe borgernes liv og helbred i fare
• Uddannelse, der kan være afgørende for menneskers adgang til uddannelse og karrieremuligheder (f.eks. bedømmelse af eksamener)
• Produktsikkerhedskomponenter (f.eks. anvendelse af kunstig intelligens i robotassisteret kirurgi)
• Beskæftigelse, forvaltning af arbejdskraft og adgang til selvstændig erhvervsvirksomhed (f.eks. software til sortering af CV'er ved ansættelsesprocedurer)
• Vigtige private og offentlige tjenester (f.eks. kreditvurderinger, der kan forhindre borgere i at foretage visse investeringer)
• Retshåndhævelse, der kan gribe ind i folks grundlæggende rettigheder (f.eks. kontrol af bevismateriales ægthed)
• Forvaltning af migration, asyl og grænsekontrol (f.eks. automatisk behandling af visumansøgninger)
• Retspleje og demokratiske processer (f.eks. AI-løsninger til at søge efter domstolsafgørelser)

Højrisiko-AI-systemer vil blive vurderet nøje forud for markedsføringen og gennem hele deres livscyklus.

Begrænset risiko

Systemer med kunstig intelligens som f.eks. chatbots er underlagt minimale gennemsigtighedsforpligtelser, der skal gøre det muligt for personer, der interagerer med indholdet, at træffe informerede beslutninger. Brugeren kan på dette grundlag beslutte at anvende systemet eller lade være.

Minimal risiko

Fri anvendelse af applikationer som f.eks. videospil eller spamfiltre med kunstig intelligens. Langt størstedelen af de systemer med kunstig intelligens, der i øjeblikket anvendes i EU, falder ind under denne kategori, hvor de udgør en minimal eller ingen risiko for borgernes rettigheder eller sikkerhed og derfor ikke er underlagt de nye regler.

Nye regler for udbydere af højrisiko-AI-systemer

Gå tilbage til trin 2, hvis der sker væsentlige ændringer i systemets livscyklus

Når først et AI-system er markedsført, er myndighederne ansvarlige for markedsovervågning, mens idriftsætterne sikrer den menneskelige kontrol og overvågning, og udbyderne indfører et system til overvågning efter markedsføringen. Udbyderne og brugerne skal også indberette alvorlige hændelser og funktionsfejl.

Sådan styrker vi ekspertisen inden for kunstig intelligens

I 2018 tog Kommissionen og EU-medlemslandene det første skridt ved at gå sammen om en koordineret plan for kunstig intelligens, som lagde grunden til nationale strategier og politiske tiltag.

Opdateringen i 2021 af den koordinerede plan for kunstig intelligens har omsat strategien til handling og er nøje afstemt med Kommissionens digitale og grønne prioriteter samt EU's indsats over for coronaviruspandemien. 

For at fremme ekspertisen inden for kunstig intelligens fra laboratoriet til markedet indeholder den koordinerede plan en vision for at fremskynde investeringer i kunstig intelligens, sørge for rettidig gennemførelse af strategier for kunstig intelligens og afstemme politikkerne i EU.

Som led i disse bestræbelser planlægger Kommissionen at etablere:

• et offentlig-privat partnerskab om kunstig intelligens, data og robotteknologi med henblik på at definere, gennemføre og investere i en fælles strategisk forsknings-, innovations- og udbredelsesdagsorden for Europa
• yderligere netværk af ekspertisecentre for kunstig intelligens med henblik på at fremme udveksling af viden og ekspertise, udvikle samarbejde med industrien og fremme mangfoldighed og inklusion
• test- og forsøgsfaciliteter, som kan eksperimentere og teste den nyeste teknologi i den virkelige verden
• digitale innovationsknudepunkter, der kan fungere som kvikskranker, som giver adgang til teknisk ekspertise og afprøvning, så virksomheder kan foretage "test før investering"
• en on-demand-platform for kunstig intelligens, der kan udgøre en central europæisk værktøjskasse af ressourcer (f.eks. ekspertise, algoritmer, softwarerammer og udviklingsværktøjer) til brug for industrien og den offentlige sektor.

EU-finansierede projekter inden for kunstig intelligens

EU har allerede finansieret en række projekter inden for kunstig intelligens, som anviser løsninger inden for alle områder af samfundet, fra landbrug og sundhedspleje til fremstillingsvirksomhed og transport.

Sundhed, miljø og bekæmpelse af bevidst misinformation er tre eksempler på områder, hvor brugen af teknologi med kunstig intelligens har været særlig gavnlig.

AI og EU i tal