KI-Verordnung tritt in Kraft

Am 1. August 2024 ist die europäische Verordnung über künstliche Intelligenz (KI-Verordnung) in Kraft getreten. Sie zielt darauf ab, die verantwortungsvolle Entwicklung und Verwendung künstlicher Intelligenz in der EU zu fördern.

Die Verordnung wurde im April 2021 von der Kommission vorgeschlagen und im Dezember 2023 vom Europäischen Parlament und vom Rat verabschiedet. Sie ist insbesondere auf die potenziellen Risiken von KI für die Gesundheit, die Sicherheit und die Grundrechte der Bürgerinnen und Bürger ausgerichtet. Die Verordnung legt klare Anforderungen fest, die KI-Entwickler und -Betreiber je nach der spezifischen Verwendung der KI zu erfüllen haben, und verringert gleichzeitig den administrativen und den finanziellen Aufwand für Unternehmen.

Mit der KI-Verordnung wird ein einheitlicher Rahmen für alle EU-Länder eingeführt, der auf einer zukunftsgewandten Begriffsbestimmung für KI und einem risikobasierten Ansatz beruht:

• Minimales Risiko: Die meisten KI-Systeme, z. B. Spamfilter und KI-gestützte Videospiele, unterliegen keinen besonderen Verpflichtungen, doch Unternehmen können freiwillig zusätzliche Verhaltenskodizes aufstellen.
• Besondere Transparenzverpflichtungen: Systeme wie Chatbots müssen ihre Nutzer*innen deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben, und bestimmte durch KI erzeugte Inhalte müssen als solche gekennzeichnet werden.
• Hohes Risiko: Für KI-Systeme, die als hochriskant eingestuft werden (z. B. KI-basierte medizinische Software oder KI-Systeme für die Personaleinstellung), gelten strenge Anforderungen, z. B. im Hinblick auf Risikominderungssysteme, hochwertige Datensätze, klare Informationen für die Nutzer*innen, menschliche Aufsicht usw.
• Unannehmbares Risiko: KI-Systeme, von denen eine klare Bedrohung für die Grundrechte der Menschen ausgeht, sind verboten. Dies gilt z. B. für Systeme, die Behörden oder Unternehmen eine Bewertung des sozialen Verhaltens ermöglichen (Social Scoring).

Die EU will im Bereich der sicheren KI eine weltweite Führungsrolle übernehmen. Durch die Entwicklung eines starken Regelungsrahmens, der auf Menschenrechten und Grundwerten basiert, kann die EU ein KI-Ökosystem aufbauen, das allen Beteiligten Vorteile bringt. Es ermöglicht eine bessere Gesundheitsversorgung, sicherere und sauberere Verkehrssysteme und effizientere öffentliche Dienste für die Bürgerinnen und Bürger. Innerhalb des KI-Ökosystems können innovative Produkte und Dienstleistungen entwickelt werden, insbesondere im Energie-, Sicherheits- und Gesundheitssektor, und die Unternehmen können von einer höheren Produktivität und effizienteren Fertigungsverfahren profitieren, während staatliche Stellen ihre Dienste, beispielsweise in den Bereichen Verkehr, Energie und Abfallentsorgung, kostengünstiger und nachhaltiger erbringen können.

Die Kommission hat kürzlich eine Konsultation zu einem Verhaltenskodex für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) eingeleitet. Dieser in der KI-Verordnung vorgesehene Kodex wird kritische Bereiche wie Transparenz, Urheberrecht und Risikomanagement abdecken. Im Rahmen der Konsultation sind in der EU tätige GPAI-Anbieter, Unternehmen, Vertreter*innen der Zivilgesellschaft, Rechteinhaber und wissenschaftliche Sachverständige aufgerufen, ihre Ansichten und Erkenntnisse einzubringen, die die Kommission dann in ihrem Entwurf für den Verhaltenskodex für GPAI-Modelle berücksichtigen wird.

Die Anwendung der Bestimmungen für GPAI-Modelle beginnt in 12 Monaten. Die Kommission geht davon aus, dass der Verhaltenskodex im April 2025 vorliegen wird. Die im Rahmen der Konsultation eingegangenen Beiträge werden darüber hinaus in die Arbeit des Büros für Künstliche Intelligenz einfließen, das die Durchführung und Durchsetzung der Bestimmungen der KI-Verordnung zu GPAI überwachen wird. 

Mehr dazu

Europäische Verordnung über künstliche Intelligenz tritt in Kraft – Pressemitteilung

Künstliche Intelligenz – Fragen und Antworten

Mehr zur europäischen KI-Verordnung

Künstliche Intelligenz – Exzellenz und Vertrauen

KI-Gesetz: Öffentliche Konsultation zu vertrauenswürdigen KI-Modellen mit allgemeinem Verwendungszweck

Europäisches Büro für Künstliche Intelligenz