Siirry pääsisältöön
Euroopan komission logo
fi
Euroopan komissio

Onko automaattisen päätöksenteon käyttöä rajoitettu?

Vastaus

Kyllä, yksilöiden ei pitäisi joutua sellaisen päätöksen kohteeksi, joka perustuu pelkästään automaattiseen käsittelyyn (kuten algoritmit) ja joka on oikeudellisesti sitova tai vaikuttaa heihin haitallisesti.

Päätöksellä voidaan katsoa olevan oikeusvaikutuksia, jos se vaikuttaa yksilön lakisääteisiin oikeuksiin tai oikeudelliseen asemaan (esim. äänioikeuteen). Käsittely voi vaikuttaa merkittävästi yksilöön esimerkiksi silloin, jos se vaikuttaa henkilön olosuhteisiin, hänen käyttäytymiseensä tai valintoihinsa (automaattinen käsittely voi esimerkiksi johtaa verkossa tehdyn luottohakemuksen hylkäämiseen).

Automaattisen päätöksenteon käyttö on sallittua vain seuraavissa tapauksissa:

  • algoritmiin perustuva päätös on välttämätön (toisin sanoen samaan tavoitteeseen ei päästä muilla keinoilla), jotta voidaan tehdä sopimus yksilön kanssa, jonka tietoja yrityksesi/organisaatiosi käsitteli algoritmilla (esimerkiksi verkossa tehty lainahakemus)
  • EU:n lainsäädäntö tai kansallinen laki sallii algoritmien käytön ja takaa riittävät suojatoimet yksilön oikeuksien, vapauksien ja oikeutettujen etujen suojaamiseksi (esimerkiksi veronkiertosääntely)
  • yksilö on antanut nimenomaisen suostumuksensa algoritmeihin perustuvan päätöksen tekemiseen.

Tehdyn päätöksen on kuitenkin taattava yksilön oikeudet, vapaudet ja oikeutettu etu asianmukaisilla suojatoimilla. Lukuun ottamatta tapausta, jossa automaattinen päätöksenteko perustuu lainsäädäntöön, yksilölle on annettava vähintään tiedot (i) päätöksentekoprosessiin liittyvästä logiikasta, (ii) hänen oikeudestaan vaatia ihmisen osallistumista, (iii) käsittelyn mahdollisista seurauksista ja (iv) hänen oikeudestaan riitauttaa päätös. Yrityksesi/organisaatiosi on siten ryhdyttävä vaadittaviin järjestelyihin, jotta yksilö voi ilmaista mielipiteensä ja riitauttaa päätöksen.

Erityistä huomiota on kiinnitettävä silloin, jos algoritmit käsittelevät tiettyjä henkilötietoryhmiä. Tällöin automaattinen päätöksenteko on sallittu ainoastaan tietyin ehdoin:

  • yksilö on antanut nimenomaisen suostumuksensa tai
  • käsittely on välttämätöntä tärkeää yleistä etua koskevasta syystä EU:n oikeuden tai kansallisen lainsäädännön nojalla.

Lisäksi, jos yksilö on lapsi, olisi vältettävä pelkästään automaattiseen käsittelyyn perustuvaa päätöksentekoa, josta on seurauksena oikeusvaikutuksia tai muita vastaavia merkittäviä vaikutuksia, koska lapset ovat yhteiskunnassa muita heikommassa asemassa.

Esimerkki

Yrityksesi/organisaatiosi on verkkopankki, joka myöntää lainoja. Asiakkaat syöttävät tietonsa, ja algoritmi tekee päätöksen siitä, kannattaako kyseiselle asiakkaalle myöntää laina vai ei, ja mikä on suositeltava korkotaso. Yrityksesi/organisaatiosi on tarkistettava päätös, ennen kuin se ilmoittaa siitä mahdolliselle asiakkaalle, ja sen on ilmoitettava hänelle oikeudesta esittää mielipiteensä ja mahdollisesti riitauttaa päätös. On muistettava, että yksilöllä on oikeus olla joutumatta algoritmiin perustuvan päätöksen kohteeksi.

Viitteet

Example

Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.