Απάντηση
Ναι, τα φυσικά πρόσωπα δεν θα πρέπει να υπόκεινται σε απόφαση που βασίζεται μόνο σε αυτοματοποιημένη επεξεργασία (όπως οι αλγόριθμοι) και η οποία να είναι νομικά δεσμευτική ή να τους επηρεάζει σε σημαντικό βαθμό.
Μια απόφαση μπορεί να θεωρείται ότι παράγει έννομα αποτελέσματα όταν επηρεάζονται τα νομικά δικαιώματα ή το νομικό καθεστώς του φυσικού προσώπου (π.χ. το δικαίωμα ψήφου του). Επιπλέον, η επεξεργασία μπορεί να επηρεάσει σε σημαντικό βαθμό ένα άτομο εάν επηρεάζει την προσωπική του κατάσταση, τη συμπεριφορά του ή τις επιλογές του (για παράδειγμα, αυτόματη επεξεργασία μπορεί να οδηγήσει στην απόρριψη ηλεκτρονικής αίτησης πίστωσης).
Η χρήση αυτοματοποιημένης επεξεργασίας για τη λήψη απόφασης επιτρέπεται μόνο στις εξής περιπτώσεις:
- είναι απαραίτητη η απόφαση με βάση τον αλγόριθμο (δηλ. δεν θα πρέπει να υπάρχει κανένας άλλος τρόπος να επιτευχθεί ο ίδιος στόχος) για τη σύναψη ή την εκτέλεση σύμβασης με το άτομο το οποίου τα δεδομένα υποβάλλονται σε επεξεργασία μέσω του αλγόριθμου (π.χ. ηλεκτρονική αίτηση δανείου)·
- συγκεκριμένος νόμος (της ΕΕ ή εθνικός) επιτρέπει τη χρήση αλγορίθμων και παρέχει κατάλληλες εγγυήσεις για την προστασία των δικαιωμάτων, των ελευθεριών και των έννομων συμφερόντων του ατόμου (π.χ. κανονισμοί κατά της φοροδιαφυγής)·
- το άτομο έχει δώσει ρητή συγκατάθεση σε απόφαση που βασίζεται στον αλγόριθμο.
Ωστόσο, η απόφαση που λαμβάνεται πρέπει να προστατεύει τα δικαιώματα, τις ελευθερίες και τα έννομα συμφέροντα του ατόμου, θέτοντας σε εφαρμογή κατάλληλες εγγυήσεις. Με εξαίρεση τις περιπτώσεις όπου μια τέτοια λήψη απόφασης βασίζεται σε νόμο, το άτομο πρέπει να ενημερωθεί οπωσδήποτε σχετικά με τα εξής: i) τη λογική της διαδικασίας λήψης αποφάσεων, ii) το δικαίωμά του να αξιώσει ανθρώπινη παρέμβαση, iii) τις ενδεχόμενες συνέπειες της επεξεργασίας, και iv) το δικαίωμά του να προσβάλει την απόφαση. Επομένως, η εταιρεία ή ο οργανισμός σας πρέπει να προβεί στις απαραίτητες διαδικαστικές ρυθμίσεις έτσι ώστε να επιτρέψει στο άτομο να εκφράσει την άποψή του και να προσβάλει την απόφαση.
Τέλος, θα πρέπει να επιδεικνύεται ιδιαίτερη προσοχή εάν ο αλγόριθμος χρησιμοποιεί ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα. Η αυτοματοποιημένη λήψη αποφάσεων επιτρέπεται μόνο στις ακόλουθες περιπτώσεις:
- το άτομο έχει δώσει ρητή συγκατάθεσή·
- η επεξεργασία είναι απαραίτητη για λόγους ουσιαστικού δημόσιου συμφέροντος με βάση τη νομοθεσία της ΕΕ ή εθνική νομοθεσία.
Επιπλέον, εάν το άτομο είναι παιδί, θα πρέπει να αποφεύγεται η λήψη αποφάσεων οι οποίες είναι αποκλειστικά αυτοματοποιημένες και οι οποίες παράγουν έννομα ή άλλα εξίσου σημαντικά αποτελέσματα για το παιδί, καθώς τα παιδιά συνιστούν μια πιο ευπαθή ομάδα της κοινωνίας.
Παράδειγμα
Η εταιρεία ή ο οργανισμός σας είναι ηλεκτρονική τράπεζα που προσφέρει δάνεια. Οι πελάτες εισάγουν τα δεδομένα τους και ένας αλγόριθμός παράγει αποτελέσματα σχετικά με το αν θα πρέπει ή όχι να προσφερθεί στον πελάτη δάνειο και το προτεινόμενο επιτόκιο. Η εταιρεία ή ο οργανισμός σας θα πρέπει να ελέγξει την εν λόγω απόφαση πριν την ανακοινώσει στον υποψήφιο πελάτη και να τον ενημερώσει ότι μπορεί να εκφράσει τη γνώμη του και ενδεχομένως να προσβάλει την απόφαση, λαμβάνοντας υπόψη ότι το άτομο έχει το δικαίωμα να μην υπόκειται σε απόφαση στηριζόμενη σε αλγόριθμους.
Παραπομπές
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.