Zum Hauptinhalt
Logo der Europäischen Kommission
de
Europäische Kommission

Bestehen Einschränkungen für die Nutzung der automatisierten Entscheidungsfindung?

Antwort

Ja, Personen dürfen nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung (wie Algorithmen) unterworfen werden, die rechtsverbindlich ist oder sie erheblich beeinträchtigt.

Eine Entscheidung kann als rechtliche Wirkung entfaltend gelten, wenn die gesetzlichen Ansprüche oder der rechtliche Status der Person (zum Beispiel das Wahlrecht) beeinträchtigt werden. Die Verarbeitung kann eine Person zudem erheblich beeinträchtigen, wenn sie die Umstände, das Verhalten oder die Entscheidungen der Person beeinflusst (eine automatisierte Verarbeitung kann zum Beispiel zur Ablehnung eines Online-Kreditantrags führen).

Die Nutzung der automatisierten Verarbeitung zur Entscheidungsfindung ist nur in folgenden Fällen erlaubt:

  • Die auf einem Algorithmus beruhende Entscheidung ist für den Abschluss oder die Erfüllung eines Vertrags (das heißt, es darf keine andere Möglichkeit geben, dasselbe Ziel zu erreichen) mit der Person erforderlich, deren Daten Ihr Unternehmen/Ihre Organisation per Algorithmus verarbeitet hat (zum Beispiel ein Online-Darlehensantrag).
  • Aufgrund von (EU- oder nationalen) Rechtsvorschriften ist die Nutzung von Algorithmen zulässig und diese Rechtsvorschriften enthalten angemessene Maßnahmen zur Wahrung der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person (zum Beispiel Vorschriften gegen Steuerhinterziehung).
  • Die betroffene Person hat ihre ausdrückliche Einwilligung zu einer auf einem Algorithmus beruhenden Entscheidung gegeben.

Die getroffene Entscheidung muss jedoch mit angemessenen Garantien verbunden sein, um die Rechte, Freiheiten und berechtigten Interessen der betroffenen Person schützen. Beruht eine solche Entscheidungsfindung nicht auf einer Rechtsvorschrift, muss die betroffene Person in den anderen beiden Fällen zumindest über (i) die im Entscheidungsprozess involvierte Logik, (ii) ihren Anspruch auf Eingreifen einer Person, (iii) die möglichen Folgen einer solchen Verarbeitung sowie (iv) ihr Recht auf Anfechtung der Entscheidung unterrichtet werden. Ihr Unternehmen/Ihre Organisationmuss daher die erforderlichen verfahrenstechnischen Vorkehrungen treffen, um Personen zu ermöglichen, ihren Standpunkt darzulegen und die Entscheidung anzufechten.

Besondere Vorsicht sollten Sie walten lassen, wenn Ihr Algorithmus besondere Kategorien personenbezogener Daten verwendet: Die automatisierte Entscheidungsfindung ist nur unter den folgenden Voraussetzungen zulässig:

  • die betroffene Person hat ihre ausdrückliche Einwilligung gegeben; oder
  • die Verarbeitung ist nach EU- oder nationalem Recht aus Gründen eines erheblichen öffentlichen Interesses erforderlich.

Wenn die Person ein Kind ist, ist grundsätzlich zu vermeiden, ausschließlich auf einer automatisierten Verarbeitung beruhende Entscheidungen zu treffen, die rechtliche Wirkung entfalten oder deren Wirkungen das Kind in ähnlich erheblicher Weise beeinträchtigen, da Kinder eine besonders schutzbedürftige Gruppe der Gesellschaft darstellen.

Beispiel

Ihr Unternehmen/Ihre Organisation ist eine Online-Bank, die Darlehen anbietet. Kunden geben ihre Daten ein und Ihr Algorithmus ermittelt Antworten auf die Frage, ob dem Kunden ein Darlehen angeboten werden sollte oder nicht, und zeigt den empfohlenen Zinssatz. Ihr Unternehmen/Ihre Organisation muss die genannte Entscheidung vor der Kontaktaufnahme mit dem potenziellen Kunden überprüfen und diesen darüber unterrichten, dass er seinen Standpunkt darlegen kann und die Entscheidung unter Berücksichtigung seines Anspruchs, nicht einer auf Algorithmen beruhenden Entscheidung zu unterliegen, anfechten kann.

Referenzen

Example

Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.