Am 2. August 2026 treten neue Vorschriften über die Transparenz von KI-Systemen in Kraft.
Die KI entwickelt sich rasant weiter, wodurch es immer schwieriger wird, KI-generierte und manipulierte Inhalte von authentischen, von Menschen erstellten Inhalten zu unterscheiden. Dies birgt neue Risiken in Form von Falschinformationen und Manipulation in großem Umfang, Betrug, Identitätsbetrug und Verbrauchertäuschung.
Die neuen Transparenzpflichten helfen den Menschen dabei, zu erkennen, wann sie mit KI interagieren oder KI-generierten Inhalten begegnen, damit sie fundierte Entscheidungen treffen und sich besser vor Falschinformationen oder Täuschung schützen können.
Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme
- Markierung und Kennzeichnung von KI-generierten Inhalten: Bestimmte KI-generierte oder manipulierte Inhalte müssen eindeutig und sichtbar sowie maschinenlesbar gekennzeichnet sein. Die EU hat eine Reihe von Symbolen geschaffen, die zu diesem Zweck verwendet werden können. Dies gilt für
- Bilder, Audio- und Videoinhalte, die realen Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln (Deepfakes);
- Instrumente zur Emotionserkennung und biometrischen Kategorisierung;
- Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ohne dass eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat.
- Transparenz bei der Interaktion mit einem KI-System: Nutzerinnen und Nutzer müssen eindeutig davon in Kenntnis gesetzt werden, wenn sie nicht mit einer realen Person, sondern mit einem KI-System interagieren, z. B. einem Chatbot, einem KI-Agenten oder einem Avatar.
Die Kommission hat Leitlinien veröffentlicht, um Anbieter und Betreiber von KI-Systemen bei der Einhaltung dieser Transparenzpflichten zu unterstützen. In den Leitlinien wird erläutert, wie die Einhaltung der Vorschriften nachgewiesen werden kann, unter anderem durch die Befolgung eines Praxisleitfadens.
Durchsetzung der Vorschriften und Sanktionen
Die nationalen Marktüberwachungsbehörden, das Europäische Büro für künstliche Intelligenz (für unter seiner Beaufsichtigung stehende Systeme) und der Europäische Datenschutzbeauftragte (wenn EU-Institutionen Anbieter oder Betreiber sind) sind für die Durchsetzung der Transparenzvorschriften verantwortlich und können Geldbußen verhängen.
- bis zu 15 Mio. EUR bzw. 3 % des globalen Jahresumsatzes für Unternehmen
- bis zu 750 000 EUR für EU-Organe, -Einrichtungen und -Agenturen
- unter Berücksichtigung der Verhältnismäßigkeit für kleine und mittlere Unternehmen (KMU) und kleine Midcap-Unternehmen
Die KI-Verordnung trat am 1. August 2024 in Kraft. Die Bestimmungen werden schrittweise wirksam, wobei die verschiedenen Verpflichtungen zu unterschiedlichen Zeitpunkten in Kraft treten. Die Verordnung schafft einen Binnenmarkt und harmonisierte Vorschriften für vertrauenswürdige KI in der EU und fördert Innovation und die Einführung von KI. Sie befasst sich auch mit potenziellen Risiken für die Gesundheit, die Sicherheit und die Grundrechte der Menschen und wahrt gleichzeitig die Demokratie und die Rechtsstaatlichkeit. Die Gewährleistung der wirksamen Durchführung der Verordnung ist nun eine der wichtigsten Prioritäten der Kommission.
Pressemitteilung: Kommission beginnt mit Durchsetzung der Vorschriften der KI-Verordnung
Pressemitteilung: Leitlinien zu Transparenzpflichten
Häufig gestellte Fragen: Transparenzpflichten
Fakten – kurz zusammengefasst: Transparenzvorschriften für KI-Systeme
- Datum der Veröffentlichung
- 2. August 2026
- Autor
- Generaldirektion Kommunikation