Respuesta
Sí, las personas no deberán ser objeto de una decisión basada únicamente en el tratamiento automatizado (como algoritmos) y que sea jurídicamente vinculante o que les afecte significativamente.
Se considerará que una decisión produce efectos jurídicos cuando se vean afectados los derechos jurídicos o el estatuto jurídico de la persona (como su derecho de voto). Además, el tratamiento puede afectar significativamente a una persona si influye en las circunstancias de la persona, su comportamiento o sus decisiones (por ejemplo, un tratamiento automatizado puede dar lugar a la denegación de una solicitud de crédito por internet).
El uso del tratamiento automatizado para la toma de decisiones solamente está permitido en los casos siguientes:
- la decisión basada en el algoritmo es necesaria (es decir, no puede existir otra forma de alcanzar el mismo objetivo) para celebrar o ejecutar un contrato con la persona cuyos datos haya tratado a través del algoritmo (por ejemplo, una solicitud de préstamo por internet),
- una ley concreta (europea o nacional) permite el uso de algoritmos y ofrece garantías adecuadas para salvaguardar los derechos, las libertades y los intereses legítimos de la persona (por ejemplo, la legislación contra la evasión de impuestos),
- la persona ha consentido explícitamente una decisión basada en el algoritmo.
En estos casos, usted puede utilizar un algoritmo para tomar una decisión. Sin embargo, la decisión tomada debe salvaguardar los derechos, las libertades y los intereses legítimos de la persona aplicando las garantías adecuadas. Salvo cuando este tipo de toma de decisiones se base en una ley, en los otros dos casos deberá informar a la persona, como mínimo, de lo siguiente: i) la lógica aplicada en el proceso de toma de decisiones, ii) su derecho a obtener intervención humana, iii) las posibles consecuencias del tratamiento, y iv) su derecho a impugnar la decisión. Por tanto, deberá establecer los requisitos de procedimiento obligatorios para que la persona pueda expresar su punto de vista e impugnar la decisión.
Finalmente, deberá prestar especial atención si el algoritmo utiliza categorías especiales de datos personales; las decisiones automatizadas solo están permitidas en determinadas condiciones, tales como si la persona ha dado su consentimiento explícito o si el tratamiento es necesario por razones de un interés público esencial sobre la base del Derecho europeo o nacional. Además, si la persona es un menor, deberá, por lo general, evitar las decisiones exclusivamente automatizadas que produzcan efectos jurídicos o que le afecten de forma similar, porque los menores representan un grupo vulnerable de la sociedad.
Ejemplo
Usted es un banco en línea que ofrece préstamos. Los clientes introducen sus datos y los resultados de su algoritmo le indican si debería ofrecer a ese cliente un préstamo o no y propone un tipo de interés. Debería revisar dicha decisión antes de comunicarla al posible cliente e informarle de que puede expresar su opinión y, finalmente, impugnar su decisión, teniendo en cuenta que la persona tiene derecho a no ser objeto de una decisión basada en algoritmos.
Referencias
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.