Skip to main content

Existem restrições à utilização de decisões automatizadas?

Resposta

Sim. As pessoas não devem ser sujeitas a uma decisão baseada exclusivamente em tratamento automatizado (como algoritmos) que seja juridicamente vinculativa ou que as afete significativamente.

Pode considerar-se que uma decisão produz efeitos jurídicos quando os direitos legais ou o estatuto jurídico da pessoa são afetados (como, por exemplo, o seu direito de voto). Além disso, o tratamento pode afetar significativamente uma pessoa se influenciar as circunstâncias pessoais em que esta se encontra, o seu comportamento ou as suas escolhas (por exemplo, um tratamento automatizado pode levar à rejeição de um pedido de crédito em linha).

A utilização do tratamento automatizado para decisões só é autorizada nos casos seguintes:

  • a decisão baseada no algoritmo é necessária (ou seja, não deve existir outra forma de alcançar o mesmo objetivo) para celebrar ou executar um contrato com a pessoa cujos dados foram tratados pela sua empresa/organização através do algoritmo (por exemplo, um pedido de empréstimo em linha);
  • uma determinada lei da UE ou uma lei nacional permitem a utilização de algoritmos e preveem garantias adequadas para salvaguardar os direitos, as liberdades e os interesses legítimos da pessoa (por exemplo, regulamentação anti evasão fiscal);
  • a pessoa consentiu expressamente numa decisão baseada no algoritmo.

No entanto, a decisão tomada tem de salvaguardar os direitos, as liberdades e o interesse legítimo da pessoa através da aplicação de garantias adequadas. Salvo se a decisão for tomada com base numa lei, nos outros dois casos a sua organização deve, pelo menos, informar a pessoa (i) da lógica envolvida no processo de decisão, (ii) do seu direito a obter intervenção humana, (iii) das possíveis consequências do tratamento e (iv) do seu direito a opor-se à decisão. Deve, pois, tomar as medidas processuais necessárias para permitir que a pessoa manifeste o seu ponto de vista e conteste a decisão.

Por último, deve dar-se especial atenção se o algoritmo utilizar categorias especiais de dados pessoais: a decisão automatizada só é permitida nas seguintes condições:

  • se a pessoa tiver dado o seu consentimento explícito; ou
  • o tratamento for necessário por motivos de interesse público relevante com base no direito da UE ou no direito nacional.

Além disso, se a pessoa for menor de idade, deve evitar-se tomar decisões exclusivamente automatizadas que produzam efeitos jurídicos ou igualmente significativos sobre o menor, uma vez que os menores constituem um grupo mais vulnerável da sociedade.

Exemplo

Um banco em linha oferece empréstimos. Os clientes inserem os seus dados e o algoritmo do banco produz resultados sobre se o banco deve ou não deve conceder um empréstimo ao cliente, sugerindo também a taxa de juro. O banco tem de analisar a referida decisão antes de a comunicar ao possível cliente e tem de o informar de que pode manifestar o seu ponto de vista e, se for caso disso, contestar a decisão, tendo em mente que a pessoa tem o direito a não ser sujeita a uma decisão baseada em algoritmos.

Referências

Example

Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.