Отговор
Да, физическите лица не трябва да са обект на решение, което е основано единствено на автоматизирано обработване (като например алгоритми) и което е правно обвързващо или ги засяга значително.
Може да се счита, че дадено решение има правни последици, когато се засягат законните права или правният статус на лицето (например правото на глас). Освен това обработването може значително да засегне дадено лице, ако влияе върху обстоятелствата, в които се намира лицето, неговото поведение или неговия избор (например автоматизираното обработване може да доведе до отказ на онлайн заявление за кредит).
Използването на автоматизирано обработване за вземане на решение се разрешава само в следните случаи:
- решението, основаващо се на алгоритъм, е необходимо (т.е. не трябва да има друг начин за постигане на същата цел) за сключването или за изпълнението на договор с физическото лице, чиито данни сте обработвали чрез алгоритъма (напр. заявление за онлайн заем);
- конкретна част от законодателството на ЕС или национален закон позволява използването на алгоритми и предвижда подходящи гаранции за защита на правата, свободите и законните интереси на физическите лица (например регламенти за избягване на данъчно облагане);
- физическото лице изрично е дало съгласието си за решение въз основа на алгоритъма.
Взетото решение обаче трябва да защитава правата, свободите и законния интерес на физическите лица чрез прилагане на подходящи предпазни мерки. Освен в случаите, когато вземането на такива решения се основава на закон, физическото лице трябва да бъде информирано най-малкото за i) логиката на процеса на вземане на решение; ii) правото му да получи човешка намеса; iii) потенциалните последици от обработката; и iv) правото му да оспори решението. Следователно Вашето дружество/организация трябва да предприеме необходимите процедурни мерки, за да позволи на лицето да изрази своята гледна точка и да оспори решението.
И накрая, трябва да обърнете специално внимание, ако вашият алгоритъм използва специални категории лични данни: автоматизираното вземане на решения е разрешено само при определени условия:
- ако физическото лице е дало изричното си съгласие и/или
- ако обработването е необходимо поради значими обществени интереси в съответствие със законодателството на ЕС или националното законодателство.
Освен това, ако лицето е дете, по принцип трябва да избягвате вземането на решения изцяло въз основа на автоматизирано обработване, което поражда правни последици или последици, които имат подобни съществено значение за децата, тъй като те представляват по-уязвима група от обществото.
Пример
Вашето дружество/организация е онлайн банка, която предлага заеми. Клиентите въвеждат данните си и алгоритъмът извежда резултати за това дали трябва да предложите на клиента заем или не, както и предложения лихвен процент. Вашето дружество/организация трябва да прегледа това решение, преди да го съобщи на бъдещия клиент, и трябва да го информира, че той може да изрази своето мнение и евентуално да оспори вашето решение, като се има предвид, че лицето има право да не бъде обект на решение, базирано на алгоритми.
Позовавания
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.