Artificiell intelligens – tillit och spetskompetens

Fördelar med AI

EU har potential att bli världsledande inom säker artificiell intelligens. Genom att ta fram ett starkt regelverk som utgår från mänskliga rättigheter och grundläggande värden kan EU utveckla ett AI-system som gynnar människor, företag och länder.

EU och AI

• AI-akten, som föreslogs av kommissionen i april 2021 och godkändes av Europaparlamentet och rådet i december 2023, ska minska riskerna för människors hälsa, säkerhet och grundläggande rättigheter och samtidigt stödja utvecklingen av innovativ och ansvarsfull AI i EU. 
• Den uppdaterade samordnade AI-planen ska tillsammans med AI-akten trygga människors och företags säkerhet och grundläggande rättigheter, och samtidigt uppmuntra till investeringar och innovation i EU-länderna.
• Kommissionen har också lagt fram ett AI-innovationspaket för att hjälpa europeiska uppstartsföretag och små och medelstora företag att utveckla tillförlitlig AI som respekterar EU:s värden och regler. 

EU:s AI-akt är världens första regelverk om AI och ska se till att AI-systemen i EU är säkra, transparenta, etiska och opartiska och kontrolleras av människor. De kategoriseras därför efter risk: 

Oacceptabel risk

Allt som anses utgöra ett tydligt hot mot EU-invånarna kommer att förbjudas: från social poängsättning från statligt håll till röststyrda leksaker som uppmuntrar barn till farliga beteenden.

Hög risk

• Kritisk infrastruktur (t.ex. transport) – tillämpningar som kan äventyra människors liv och hälsa
• Utbildning – tillämpningar som kan påverka någons utbildnings- och karriärmöjligheter, t.ex. rättning av prov
• Produktsäkerhet – t.ex. användning av AI inom robotassisterad kirurgi
• Anställning, personalförvaltning och möjlighet till egenföretagande – t.ex. program som rangordnar cv:n vid rekrytering
• Väsentliga privata och offentliga tjänster – t.ex. kreditvärdering som begränsar utsikterna att beviljas lån
• Brottsbekämpning – tillämpningar som kan inkräkta på enskildas grundläggande rättigheter, t.ex. utvärdering av om bevis är tillförlitliga
• Migration, asyl och gränsförvaltning – t.ex. automatisk prövning av visumansökningar
• Förvaltning av rättsliga och demokratiska processer – t.ex. AI-lösningar för att söka efter domstolsbeslut

Alla AI-system med hög risk kommer att bedömas noggrant innan de släpps ut på marknaden och så länge de är i bruk.

Begränsad risk

Det ställs bara minimala transparenskrav på AI-system som chattbottar, som är till för att personer som interagerar med dem ska kunna fatta välgrundade beslut. Användaren kan sedan besluta att fortsätta eller sluta använda tillämpningen.

Minimal risk

Tillämpningar som AI-baserade videospel och skräppostfilter kan användas fritt. De allra flesta AI-system som används i EU hör till den här kategorin och påverkas inte av de nya reglerna, eftersom systemen innebär en minimal risk eller ingen risk alls för människors rättigheter eller säkerhet.

Regler för leverantörer av AI-system med hög risk

Om AI-systemet ändras på ett väsentligt sätt går man tillbaka till steg 2.

När ett AI-system väl har släppts ut på marknaden står myndigheterna för marknadsövervakningen och användarna för den mänskliga tillsynen, medan leverantörerna ska ha uppföljningssystem. Leverantörer och användare rapporterar också allvarliga incidenter och funktionsfel.

År 2018 tog kommissionen och EU-länderna ett första steg genom en samordnad AI-plan som sedan legat till grund för nationella strategier och politisk utveckling.

Genom 2021 års uppdatering av den samordnade AI-planen har visionen omsatts i handling på ett sätt som tar hänsyn till kommissionens digitala och gröna prioriteringar och EU:s insatser mot coronapandemin. 

Den samordnade planen främjar AI-spetskompetens från laboratoriet till marknaden och beskriver en vision för att påskynda investeringar i AI, förverkliga AI-strategier inom utsatt tid och se till att EU-ländernas AI-policyer är samstämmiga.

Som ett led i det här arbetet planerar kommissionen att inrätta

• ett offentlig-privat partnerskap om artificiell intelligens, data och robotteknik för att fastställa, genomföra och investera i en gemensam strategisk agenda för forskning, innovation och användning i Europa
• ytterligare nätverk av AI-kompetenscentrum för att främja utbyte av kunskap och expertis, utveckla samarbete med näringslivet och främja mångfald och inkludering
• test- och experimentanläggningar där den senaste tekniken kan testas i verkliga miljöer
• digitala innovationsknutpunkter med teknisk expertis och experiment, så att företagen kan testa tillämpningarna innan de investerar
• en plattform för efterfrågestyrd AI som en central europeisk verktygslåda för AI-resurser (t.ex. sakkunskap, algoritmer, programvara och utvecklingsverktyg) som behövs för användning inom industrin och den offentliga sektorn.

EU har redan finansierat flera olika AI-projekt som erbjuder lösningar inom alla sektorer i samhället, bland annat jordbruk, hälso- och sjukvård, tillverkning och transporter.

Tre exempel på områden där AI-tekniken har varit till särskilt stor hjälp är hälsa, miljö och kampen mot desinformation.

AI och EU i siffror