Vertrauenswürdige künstliche Intelligenz (KI) kann viele Vorteile mit sich bringen, etwa eine bessere Gesundheitsversorgung, sicherere und umweltfreundlichere Verkehrsmittel, eine effizientere Fertigung und kostengünstigere und nachhaltigere Energie. Das Konzept der EU wird den Bürgerinnen und Bürgern das nötige Vertrauen geben, diese Technologie zu nutzen, und Unternehmen dazu anspornen, sie zu entwickeln.
Künstliche Intelligenz (KI) kann zur Lösung vieler gesellschaftlicher Probleme beitragen. Das gelingt allerdings nur bei qualitativ hochwertiger Technologie, die so entwickelt und genutzt wird, dass die Menschen Vertrauen zu ihr haben. Um dieses Vertrauen zu stärken, stützt sich die EU-Strategie auf die Werte der EU und erhöht damit nicht nur die Akzeptanz KI-basierter Lösungen bei den Bürgerinnen und Bürgern, sondern spornt auch Unternehmen zu deren Entwicklung und Verbreitung an.
Deshalb hat die EU-Kommission Maßnahmen zur Förderung der Exzellenz im Bereich KI und Regeln vorgeschlagen, die eine vertrauenswürdige Technologie gewährleisten.
Die Verordnung über ein europäisches Konzept für künstliche Intelligenz und die Aktualisierung des Koordinierten Plans für KI werden die Sicherheit und die Grundrechte von Menschen und Unternehmen gewährleisten und gleichzeitig Investitionen und Innovation in allen EU-Ländern fördern.
Vertrauensbildung durch ersten KI-Rechtsrahmen überhaupt
Die Kommission schlägt neue Vorschriften vor, um sicherzustellen, dass KI-Systeme, die in der EU verwendet werden, sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sind. Sie werden daher nach Risiko eingeteilt:
Alles, was als eindeutige Bedrohung für EU-Bürger angesehen wird, wird verboten: von der behördlichen Bewertung des sozialen Verhaltens (Social Scoring) bis hin zu Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet.
- Kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten
- Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen)
- Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie)
- Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren)
- Zentrale private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern Darlehen verwehrt werden)
- Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Überprüfung der Echtheit von Beweismitteln)
- Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten)
- Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte)
Alle Systeme werden sorgfältig geprüft, bevor sie in Verkehr gebracht werden — und auch während ihres gesamten Lebenszyklus.
Für KI-Systeme wie „Chatbots“ gelten minimale Transparenzverpflichtungen, die es den mit ihnen interagierenden Nutzern ermöglichen sollen, fundierte Entscheidungen zu treffen, Die Nutzer können dann entscheiden, ob sie die Anwendung weiter nutzen oder nicht.
Kostenlose Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern. Unter diese Kategorie, in der die neuen Vorschriften nicht greifen, fällt die große Mehrzahl der KI-Systeme, weil diese Systeme nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit darstellen.
Neue Vorschriften für Anbieter von KI-Systemen mit hohem Risiko
Ein KI-System mit hohem Risiko wird entwickelt.
Es muss der Konformitätsbewertung unterzogen werden und den KI-Anforderungen genügen. Bei einigen Systemen wird eine notifizierte Stelle einbezogen.
Registrierung eigenständiger KI-Systeme in einer EU-Datenbank
Eine Konformitätserklärung ist notwendig. Das KI-System muss die CE-Kennzeichnung tragen. Das System kann in Verkehr gebracht werden.
Bei wesentlichen Änderungen im Lebenszyklus des KI-Systems greift Schritt 2.
Sobald das KI-System auf dem Markt ist, überwachen die Behörden den Markt, sorgen die Nutzer für die Aufsicht durch einen Menschen sowie für Kontrolle. Die Anbieter richten ein System zur Überwachung nach dem Inverkehrbringen ein. Anbieter und Nutzer sind gehalten, schwere Vorfälle und Fehlfunktionen zu melden.
Für mehr Exzellenz im Bereich KI
2018 taten die Kommission und die EU-Mitgliedstaaten den ersten Schritt und bündelten ihre Kräfte in Form eines Koordinierten Plans für KI, der half, den Weg für nationale Strategien und politische Entwicklungen zu ebnen.
Mit der 2021 erfolgten Aktualisierung des Koordinierten Plans für KI wird die Strategie umgesetzt. Sie spiegelt die digitale und die grüne Priorität der Kommission ebenso wider wie Europas Corona-Krisenreaktion.
Der Koordinierte Plan fördert KI-Exzellenz vom Labor bis hin zum Markt. Er zeigt auf, wie Investitionen in KI beschleunigt, KI-Strategien zwecks rechtzeitiger Umsetzung angegangen und KI-Strategien EU-weit aufeinander abgestimmt werden sollten.
Im Rahmen dieser Ziele plant die Kommission folgende Maßnahmen:
- Eine öffentlich-private Partnerschaft für künstliche Intelligenz, Daten und Robotik zur Festlegung, Umsetzung und Förderung einer gemeinsamen strategischen Forschungs-, Innovations- und Einführungsagenda für Europa
- Zusätzliche Netze von KI-Exzellenzzentren für einen breiteren Austausch von Wissen und Know-how, zur Zusammenarbeit mit der Industrie sowie für mehr Vielfalt und Inklusion
- Test- und Versuchseinrichtungen zur Erprobung modernster Technologien unter realen Bedingungen
- Digitale Innovationszentren, zentrale Anlaufstellen für den Zugang zu technischem Fachwissen und Experimenten, damit Unternehmen „vor der Investition testen“ können
- Eine KI-Plattform auf Abruf als zentrales europäisches Instrumentarium für KI-Ressourcen (z. B. Fachwissen, Algorithmen, Softwarerahmen, Entwicklungstools), die von der Industrie und vom öffentlichen Sektor genutzt werden können
EU-geförderte KI-Projekte
Die EU hat bereits eine Vielzahl von KI-Projekten gefördert, die Lösungen in allen gesellschaftlichen Bereichen anbieten — von der Landwirtschaft über Gesundheitsversorgung und Fertigung bis hin zum Verkehr.
Drei Beispiele für Bereiche, in denen sich der Einsatz von KI-Technologie besonders bewährt hat, sind Gesundheit, Umwelt und die Bekämpfung von Desinformation.
Das CDAC-Projekt half bei der Entwicklung und klinischen Validierung innovativer Technologien, die zur Behandlung von über 3 000 Schlaganfallpatienten bereits EU-weit eingesetzt wurden.
Weitere EU-geförderte Projekte im Gesundheitsbereich
Intelligente Sensoren zur Ernährung der wachsenden Weltbevölkerung Das Projekt ANTARES entwickelt intelligente Sensor- und Big-Data-Technologien, die Landwirten helfen könnten, ohne Nachteile für Gesellschaft, landwirtschaftliche Betriebe oder Umwelt mehr Lebensmittel zu produzieren.
Weitere EU-geförderte Projekte in diesem Bereich
WeVerify bietet Prüfsysteme wie Plug-ins, die Faktenprüfern, Journalisten, Menschenrechtsaktivisten und Bürgern helfen, Videos und Bilder im Internet zu prüfen und zu widerlegen.
Weitere EU-geförderte Projekte zur Bekämpfung von Desinformation
Nutzen der künstlichen Intelligenz
Die EU hat das Potenzial, im Bereich der sicheren künstlichen Intelligenz eine weltweite Führungsrolle zu übernehmen. Durch die Entwicklung eines starken Regelungsrahmens, der auf Menschenrechten und Grundwerten basiert, kann die EU künstliche Intelligenz so ausrichten, dass sie Menschen, Unternehmen und Regierungen Vorteile bringt.
Bessere Gesundheitsfürsorge, sicherer und sauberer Verkehr und bessere öffentliche Dienste
Innovative Produkte und Dienstleistungen, z. B. im Energie- und Sicherheitssektor und im Gesundheitswesen; höhere Produktivität und effizientere Fertigung
Kostengünstigere und nachhaltigere Dienste wie Verkehr, Energie und Abfallentsorgung
Die Kommission will jährlich 1 Mrd. EUR aus ihren Programmen „Digitales Europa“ und „Horizont Europa“ in KI investieren.
Ziel ist es, noch in diesem Jahrzehnt KI-Investitionen von mehr als 20 Mrd. EUR pro Jahr in der EU zu mobilisieren. Die Aufbau- und Resilienzfazilität wird dabei helfen, Investitionen zu beschleunigen und über dieses Ziel hinauszugehen.
aller Industrie- und Haushaltsroboter werden in Europa produziert.
Dokumente
- Herunterladenбългарски
- Herunterladenespañol
- Herunterladenčeština
- Herunterladendansk
- Herunterladeneesti
- Herunterladenελληνικά
- HerunterladenEnglish
- Herunterladenfrançais
- Herunterladenhrvatski
- Herunterladenitaliano
- Herunterladenlatviešu
- Herunterladenlietuvių
- Herunterladenmagyar
- HerunterladenMalti
- HerunterladenNederlands
- Herunterladenpolski
- Herunterladenportuguês
- Herunterladenromână
- Herunterladenslovenčina
- Herunterladenslovenščina
- Herunterladensuomi
- Herunterladensvenska
- Herunterladenбългарски
- Herunterladenespañol
- Herunterladenčeština
- Herunterladendansk
- Herunterladeneesti
- Herunterladenελληνικά
- HerunterladenEnglish
- Herunterladenfrançais
- Herunterladenhrvatski
- Herunterladenitaliano
- Herunterladenlatviešu
- Herunterladenlietuvių
- Herunterladenmagyar
- HerunterladenMalti
- HerunterladenNederlands
- Herunterladenpolski
- Herunterladenportuguês
- Herunterladenromână
- Herunterladenslovenčina
- Herunterladenslovenščina
- Herunterladensuomi
- Herunterladensvenska