Excellentie en vertrouwen in artificiële intelligentie

Voordelen van AI

De EU kan een wereldleider worden op het gebied van veilige AI. Met goede regulering op basis van mensenrechten en fundamentele waarden kan de EU een AI-systeem ontwikkelen dat mensen, bedrijven en overheden veel voordelen oplevert.

De EU en AI

• De AI-verordening is in april 2021 door de Commissie voorgesteld en in december 2023 door het Europees Parlement en de Raad goedgekeurd. Met de verordening worden potentiële risico’s voor de gezondheid, de veiligheid en de grondrechten van de burgers aangepakt en wordt ook de ontwikkeling van innovatieve en verantwoorde AI in de EU ondersteund. 
• De AI-verordening en de actualisering van het gecoördineerd plan inzake AI waarborgen samen de veiligheid en de grondrechten van mensen en bedrijven, en stimuleren tegelijk ook investeringen en innovatie in de hele EU.
• De Commissie heeft ook een AI-innovatiepakket samengesteld om Europese start-ups en kleine en middelgrote ondernemingen te ondersteunen bij de ontwikkeling van betrouwbare AI volgens de regels van de EU. 

Vertrouwen op basis van het allereerste rechtskader voor AI

De AI-verordening van de EU is het eerste uitgebreide rechtskader voor AI ter wereld. Deze verordening zal ervoor zorgen dat in de EU gebruikte AI-systemen veilig, transparant, ethisch verantwoord en onbevooroordeeld zijn, en door mensen gecontroleerd worden. Daarom worden die systemen ingedeeld naar risico: 

Onaanvaardbaar risico

Alles wat als een duidelijke bedreiging voor EU-burgers wordt beschouwd, wordt verboden: van sociale scoring door de overheid tot spraakgestuurd speelgoed dat risicogedrag van kinderen aanmoedigt.

Hoog risico

• Kritieke infrastructuur (bijv. vervoer) die het leven en de gezondheid van burgers in gevaar kan brengen
• Onderwijs of beroepsopleidingen: indien de toegang tot onderwijs of een beroepsopleiding ervan afhangt (bijv. examenresultaten)
• Veiligheidscomponenten van producten (bijv. AI-toepassingen voor chirurgie met robotondersteuning)
• Werkgelegenheid, personeelsbeleid en toegang tot zelfstandige beroepen (bijv. cv-selectiesoftware bij sollicitatieprocedures)
• Essentiële particuliere en publieke diensten (bijv. kredietbeoordeling bij het aanvragen van leningen)
• Rechtshandhaving: indien de grondrechten in het geding zijn (bijv. beoordeling van de betrouwbaarheid van bewijzen)
• Migratie-, asiel- en grenscontrolebeheer (bijv. geautomatiseerde behandeling van visumaanvragen)
• Beheer van gerechtelijke en democratische processen (bijv. AI-oplossingen om rechterlijke uitspraken op te zoeken)

AI-systemen met een hoog risico moeten zorgvuldig worden beoordeeld, niet alleen vóór ze op de markt worden gebracht, maar ook tijdens de rest van hun levenscyclus.

Beperkt risico

Voor AI-systemen zoals chatbots gelden minimale transparantieverplichtingen. Zo kunnen de contentgebruikers van die systemen zelf met kennis van zaken beslissen of ze de applicatie al dan niet gaan of blijven gebruiken.

Minimaal risico

Gratis applicaties, zoals op AI gebaseerde videogames of spamfilters. De overgrote meerderheid van in de EU gebruikte AI-systemen valt in deze categorie. De nieuwe regels hebben er geen gevolgen voor, omdat ze (vrijwel) geen risico voor de rechten of de veiligheid van de burger vormen.

Regels voor leveranciers van AI-systemen met een hoog risico

Bij aanzienlijke veranderingen tijdens de levenscyclus van het AI-systeem, moet de procedure vanaf stap 2 worden herhaald.

Ook wanneer het AI-systeem eenmaal op de markt is, wordt er nog toezicht op gehouden, zowel door de autoriteiten belast met het markttoezicht als door de exploitanten en de leveranciers zelf. Leveranciers en exploitanten zijn verplicht ernstige incidenten en storingen te melden.

Excellentie bevorderen

In 2018 hebben de Commissie en de EU-lidstaten met het gecoördineerd plan inzake AI de eerste stap gezet om hun krachten te bundelen. Dat plan vormde de basis voor nationale strategieën en beleidsontwikkelingen.

Met de actualisering van dit plan in 2021 is de strategie vertaald naar concrete acties, maar tegelijk ook afgestemd op de prioriteiten ten aanzien van de digitale en de groene transitie van de Commissie en op de respons op de coronapandemie. 

Het plan moet de excellentie van AI van lab tot markt bevorderen. Zo moet het helpen om sneller in AI te investeren, de AI-strategieën tijdig uit te rollen en het AI-beleid in de hele EU op elkaar af te stemmen.

Daarom heeft de Commissie in het kader van het plan bepaald dat de volgende entiteiten worden opgericht:

• een publiek-privaat partnerschap voor AI, data en robotica om voor Europa een gemeenschappelijke strategische agenda voor onderzoek, innovatie en implementatie vast te stellen, uit te voeren en te financieren
• aanvullende netwerken van AI-kenniscentra om de uitwisseling van kennis en ervaring, de samenwerking met de industrie, en de diversiteit en inclusie te bevorderen
• test- en experimenteerfaciliteiten om geavanceerde technologie in de praktijk te testen
• digitale-innovatiehubs en one-stop-shops voor toegang tot technische expertise en experimenten, zodat bedrijven kunnen testen voor ze besluiten om te investeren
• een on-demandplatform voor AI dat als centrale toolbox fungeert voor AI-hulpmiddelen (expertise, algoritmen, software frameworks, ontwikkelingstools enz.) die de industrie en de overheid nodig hebben

AI-projecten met financiële steun van de EU

De EU heeft al diverse AI-projecten gefinancierd die oplossingen bieden voor de hele samenleving, van landbouw tot gezondheidszorg, de maakindustrie en vervoer.

Drie voorbeelden van gebieden waarop AI-technologie uitzonderlijk nuttig is gebleken, zijn gezondheid, milieu en de strijd tegen desinformatie.

AI en de EU in cijfers