Künstliche Intelligenz – Exzellenz und Vertrauen

Vorteile von KI

Die EU hat das Potenzial, im Bereich der sicheren KI eine weltweite Führungsrolle zu übernehmen. Durch die Entwicklung eines starken Regelungsrahmens, der auf Menschenrechten und Grundwerten basiert, kann die EU künstliche Intelligenz so ausrichten, dass sie Menschen, Unternehmen und Regierungen Vorteile bringt.

Die EU und KI

• Das von der Kommission im April 2021 vorgeschlagene und im Dezember 2023 vom Europäischen Parlament und vom Rat verabschiedete KI-Gesetz zielt darauf ab, potenzielle Risiken von KI für die Gesundheit, die Sicherheit und die Grundrechte der Bürgerinnen und Bürger zu mindern. Gleichzeitig soll es die Entwicklung von innovativer und verantwortungsvoller KI in der EU vorantreiben. 
• Das KI-Gesetz und die Aktualisierung des Koordinierten Plans für KI werden die Sicherheit und die Grundrechte von Menschen und Unternehmen gewährleisten und gleichzeitig Investitionen und Innovation in allen EU-Ländern fördern.
• Darüber hinaus hat die Kommission ein KI-Innovationspaket auf den Weg gebracht, um europäische Start-ups und KMU bei der Entwicklung vertrauenswürdiger KI, die den Werten und Vorschriften der EU entspricht, zu unterstützen. 

Das KI-Gesetz der EU ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Es wird dafür sorgen, dass die in der EU verwendeten KI-Systeme sicher, transparent, ethisch vertretbar, unvoreingenommen und unter menschlicher Kontrolle sind. Sie werden daher nach Risiko eingeteilt: 

Unzulässiges Risiko

Alles, was als eindeutige Bedrohung für die Bürgerinnen und Bürger angesehen wird, wird verboten: von der behördlichen Bewertung des sozialen Verhaltens (Social Scoring) bis hin zu Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet.

Hohes Risiko

• Kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürgerinnen und Bürger gefährdet werden könnten
• Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen)
• Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie)
• Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren)
• Zentrale private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgerinnen und Bürgern Darlehen verwehrt werden)
• Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Überprüfung der Echtheit von Beweismitteln)
• Migration, Asyl und Grenzkontrolle (z. B. automatisierte Prüfung von Visumanträgen)
• Rechtspflege und demokratische Prozesse (z. B. KI-Lösungen zur Suche nach Gerichtsurteilen)

KI-Systeme mit hohem Risiko werden sorgfältig geprüft, bevor sie in Verkehr gebracht werden – und auch während ihres gesamten Lebenszyklus.

Begrenztes Risiko

Für KI-Systeme wie „Chatbots“ gelten minimale Transparenzverpflichtungen, die es den mit ihnen interagierenden Nutzerinnen und Nutzern ermöglichen sollen, fundierte Entscheidungen zu treffen. Die Nutzerinnen und Nutzer können dann entscheiden, ob sie die Anwendung weiter nutzen oder nicht.

Minimales Risiko

Kostenlose Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern. Unter diese Kategorie, in der die neuen Vorschriften nicht greifen, fällt die große Mehrzahl der derzeit in der EU verwendeten KI-Systeme, weil diese Systeme nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit darstellen.

Vorschriften für Anbieter von KI-Systemen mit hohem Risiko

Bei wesentlichen Änderungen im Lebenszyklus des KI-Systems greift Schritt 2.

Sobald ein KI-System auf dem Markt ist, überwachen die Behörden den Markt, sorgen die Anwender für die Aufsicht durch einen Menschen sowie für Kontrolle. Die Anbieter richten ein System zur Überwachung nach dem Inverkehrbringen ein. Anbieter und Anwender sind gehalten, schwere Vorfälle und Fehlfunktionen zu melden.

2018 taten die Kommission und die EU-Mitgliedstaaten den ersten Schritt und bündelten ihre Kräfte in Form eines Koordinierten Plans für KI, der half, den Weg für nationale Strategien und politische Entwicklungen zu ebnen.

Mit der 2021 erfolgten Aktualisierung des Koordinierten Plans für KI wird die Strategie umgesetzt. Sie spiegelt die digitale und die grüne Priorität der Kommission ebenso wider wie Europas Corona-Krisenreaktion. 

Der Koordinierte Plan fördert KI-Exzellenz vom Labor bis hin zum Markt. Er zeigt auf, wie Investitionen in KI beschleunigt, KI-Strategien zwecks rechtzeitiger Umsetzung angegangen und KI-Strategien EU-weit aufeinander abgestimmt werden sollten.

Im Rahmen dieser Ziele plant die Kommission folgende Maßnahmen:

• Eine öffentlich-private Partnerschaft für künstliche Intelligenz, Daten und Robotik zur Festlegung, Umsetzung und Förderung einer gemeinsamen strategischen Forschungs-, Innovations- und Einführungsagenda für Europa
• Zusätzliche Netze von KI-Exzellenzzentren für einen breiteren Austausch von Wissen und Know-how, zur Zusammenarbeit mit der Industrie sowie für mehr Vielfalt und Inklusion
• Test- und Versuchseinrichtungen zur Erprobung modernster Technologien unter realen Bedingungen
• Digitale Innovationszentren, zentrale Anlaufstellen für den Zugang zu technischem Fachwissen und Experimenten, damit Unternehmen „vor der Investition testen“ können
• Eine KI-Plattform auf Abruf als zentrales europäisches Instrumentarium für KI-Ressourcen (z. B. Fachwissen, Algorithmen, Softwarerahmen, Entwicklungstools), die von der Industrie und vom öffentlichen Sektor genutzt werden können

Die EU hat bereits eine Vielzahl von KI-Projekten gefördert, die Lösungen in allen gesellschaftlichen Bereichen anbieten – von der Landwirtschaft über Gesundheitsversorgung und Fertigung bis hin zum Verkehr.

Drei Beispiele für Bereiche, in denen sich der Einsatz von KI-Technologie besonders bewährt hat, sind Gesundheit, Umwelt und die Bekämpfung von Desinformation.

Die EU und KI – Fakten und Zahlen