Tweġiba
Iva, l-individwi m'għandhomx ikunu soġġetti għal deċiżjoni li tkun ibbażata biss fuq l-ipproċessar awtomatizzat (bħal algoritmi) u li tkun torbot legalment jew tkun taffettwahom b'mod sinifikanti.
Id-deċiżjoni tista' titqies li tipproduċi effetti legali meta jkun hemm impatt fuq id-drittijiet legali jew l-istatus legali tal-individwu (bħad-dritt tagħhom li jivvutaw pereżempju). Barra minn hekk, l-ipproċessar jista' jaffettwa b'mod sinifikanti lill-individwu jekk jinfluwenza ċ-ċirkostanzi personali tiegħu, l-imġiba tiegħu jew l-għażliet tiegħu (pereżempju l-ipproċessar awtomatiku jista' jwassal għar-rifjut ta' applikazzjoni għall-kreditu onlajn).
L-użu tal-ipproċessar awtomatizzat għat-teħid ta' deċiżjonijiet huwa awtorizzat biss f'dawn il-każijiet li ġejjin:
- id-deċiżjoni bbażata fuq l-algoritmu hija meħtieġa (jiġifieri ma jkunx hemm mod ieħor biex jinkiseb l-istess għan) biex tidħol f'kuntratt jew biex twettaq kuntratt mal-individwu li tkun ipproċessajt id-data tiegħu permezz tal-algoritmu (pereżempju applikazzjoni għal self onlajn);
- l-użu ta' algoritmi huwa permess minn liġi partikolari tal-UE jew nazzjonali li tipprovdi għal salvagwardji xierqa biex jitħarsu d-drittijiet, il-libertajiet u l-interessi leġittimi tal-individwu (pereżempju r-regolamenti kontra l-evażjoni tat-taxxa);
- l-individwu jkun ta l-kunsens b'mod espliċitu għal deċiżjoni bbażata fuq l-algoritmu.
Madankollu, id-deċiżjoni li tittieħed jeħtieġ li tħares id-drittijiet, il-libertajiet u l-interess leġittimu tal-individwu, billi timplimenta salvagwardji xierqa. Ħlief fejn dak it-teħid ta' deċiżjonijiet huwa bbażat fuq xi liġi, fiż-żewġ każijiet l-oħra l-individwu għandu jiġi infurmat dwar (i) il-loġika involuta fil-proċess tat-teħid ta' deċiżjonijiet, (ii) id-dritt li jikseb intervent uman, (iii) il-konsegwenzi potenzjali tal-ipproċessar u (iv) id-dritt li jikkontesta d-deċiżjoni. Inti għalhekk għandek tagħmel l-arranġamenti proċedurali meħtieġa biex tippermetti lill-individwu jesprimi l-fehma tiegħu u jikkontesta d-deċiżjoni.
Finalment, għandha tingħata attenzjoni partikolari jekk l-algoritmu juża kategoriji speċjali ta' data personali: it-teħid awtomatizzat ta' deċiżjonijiet huwa permess biss fiċ-ċirkostanzi li ġejjin:
- l-individwu jkun ta l-kunsens espliċitu tiegħu; u/jew
- l-ipproċessar huwa meħtieġ għal raġunijiet ta' interess pubbliku sostanzjali fuq il-bażi tal-liġi tal-UE jew nazzjonali.
Barra minn hekk, jekk l-individwu huwa tifel jew tifla, deċiżjonijiet imsejsa biss fuq ipproċessar awtomatizzat li jipproduċu effetti legali jew effetti simili sinifikanti fuq it-tfal għandhom jiġu evitati, għaliex it-tfal jirrappreżentaw grupp aktar vulnerabbli tas-soċjetà.
Eżempju
Il-kumpanija/organizzazzjoni tiegħek hija bank onlajn li toffri s-self. Il-klijenti jdaħħlu d-data tagħhom u algoritmu jipproduċi r-riżultati dwar jekk għandhomx jingħataw self jew le u r-rata tal-imgħax issuġġerita. Il-kumpanija/organizzazzjoni tiegħek għandha tirrevedi dik id-deċiżjoni qabel tikkomunika mal-klijent prospettiv u tinformah li jista' jesprimi l-opinjoni tiegħu u eventwalment jikkontesta d-deċiżjoni, billi jitqies li l-individwu għandu d-dritt li ma jkunx soġġett għal deċiżjoni bbażata fuq l-algoritmi.
Referenzi
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.