Αριστεία και εμπιστοσύνη στην τεχνητή νοημοσύνη

Οφέλη της ΤΝ

Η ΕΕ έχει τη δυνατότητα να καταστεί παγκόσμια ηγέτιδα δύναμη στην ασφαλή ΤΝ. Με την ανάπτυξη ενός ισχυρού κανονιστικού πλαισίου που θα βασίζεται στα ανθρώπινα δικαιώματα και τις θεμελιώδεις αξίες, η ΕΕ μπορεί να αναπτύξει ένα σύστημα ΤΝ επωφελές για τους πολίτες, τις επιχειρήσεις και τις κυβερνήσεις.

Η ΕΕ και η ΤΝ

• Η πράξη για την ΤΝ, που προτάθηκε από την Επιτροπή τον Απρίλιο του 2021 και συμφωνήθηκε από το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο τον Δεκέμβριο του 2023, θα αντιμετωπίσει δυνητικούς κινδύνους για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών, στηρίζοντας παράλληλα την ανάπτυξη καινοτόμου και υπεύθυνης ΤΝ στην ΕΕ. 
• Από κοινού με την πράξη για την ΤΝ, η επικαιροποίηση του συντονισμένου σχεδίου για την ΤΝ εγγυάται την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων, και παράλληλα ενισχύει τις επενδύσεις και την καινοτομία σε όλες τις χώρες της ΕΕ.
• Η Επιτροπή δρομολόγησε επίσης δέσμη μέτρων για την καινοτομία στην ΤΝ με σκοπό τη στήριξη των ευρωπαϊκών νεοφυών επιχειρήσεων και ΜΜΕ κατά την ανάπτυξη αξιόπιστης ΤΝ που σέβεται τις αξίες και τους κανόνες της ΕΕ. 

Η πράξη της ΕΕ για την ΤΝ είναι το πρώτο ολοκληρωμένο νομικό πλαίσιο για την τεχνητή νοημοσύνη παγκοσμίως. Θα διασφαλίσει ότι τα συστήματα ΤΝ που χρησιμοποιούνται στην ΕΕ είναι ασφαλή, διαφανή, δεοντολογικά, αμερόληπτα και υπό ανθρώπινο έλεγχο. Ως εκ τούτου, κατηγοριοποιούνται ανάλογα με τον κίνδυνο: 

Μη αποδεκτού κινδύνου

Όλα τα συστήματα που θεωρείται ότι συνιστούν σαφή απειλή για τους πολίτες της ΕΕ θα απαγορεύονται: από την κοινωνική βαθμολόγηση εκ μέρους κυβερνήσεων έως τα παιχνίδια με φωνητικό βοηθό που παροτρύνουν παιδιά σε επικίνδυνη συμπεριφορά.

Υψηλού κινδύνου

• συστήματα για χρήση σε υποδομές ζωτικής σημασίας (π.χ. μεταφορές), που θα μπορούσαν να θέσουν σε κίνδυνο τη ζωή και την υγεία των πολιτών
• στην εκπαίδευση και την επαγγελματική κατάρτιση, που θα μπορούσαν να προκαθορίζουν την πρόσβαση στην εκπαίδευση και την επαγγελματική εξέλιξη ατόμων (π.χ. βαθμολογία εξετάσεων)
• σε στοιχεία ασφάλειας των προϊόντων (π.χ. χρήση ΤΝ σε υποβοηθούμενες από ρομπότ χειρουργικές επεμβάσεις)
• στην απασχόληση, τη διοίκηση εργαζομένων και την πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών σε διαδικασίες πρόσληψης)
• σε βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. αξιολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα πρόσβασης σε δανεισμό)
• στην επιβολή του νόμου, όπου τα συστήματα θα μπορούσαν να παρεμβαίνουν στα θεμελιώδη δικαιώματα των ατόμων (π.χ. αξιολόγηση της αξιοπιστίας αποδεικτικών στοιχείων)
• στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. αυτοματοποιημένη εξέταση των αιτήσεων θεώρησης)
• στην απονομή δικαιοσύνης και τις δημοκρατικές διαδικασίες (π.χ. λύσεις ΤΝ για την αναζήτηση δικαστικών αποφάσεων)

Τα υψηλού κινδύνου συστήματα ΤΝ θα υπόκεινται σε αυστηρή αξιολόγηση πριν από τη διάθεσή τους στην αγορά και καθ’ όλη τη διάρκεια του κύκλου ζωής τους.

Περιορισμένου κινδύνου

Συστήματα ΤΝ, όπως τα διαλογικά ρομπότ, υπόκεινται σε ελάχιστες υποχρεώσεις διαφάνειας, ώστε όσοι αλληλεπιδρούν με το περιεχόμενο να είναι σε θέση να λαμβάνουν τεκμηριωμένες αποφάσεις. Στη συνέχεια, ο χρήστης θα μπορεί να αποφασίσει να συνεχίσει ή να διακόψει τη χρήση της εφαρμογής.

Ελάχιστου κινδύνου

Ελεύθερη χρήση εφαρμογών όπως τα βιντεοπαιχνίδια που βασίζονται στην ΤΝ ή τα φίλτρα ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ που χρησιμοποιούνται επί του παρόντος στην ΕΕ εμπίπτει σ’ αυτήν την κατηγορία, την οποία δεν αφορούν οι νέοι κανόνες, δεδομένου ότι τα συγκεκριμένα συστήματα ενέχουν ελάχιστο ή μηδενικό κίνδυνο για τα δικαιώματα ή την ασφάλεια των πολιτών.

Κανόνες για παρόχους συστημάτων ΤΝ υψηλού κινδύνου

Εάν επέλθουν ουσιαστικές αλλαγές στον κύκλο ζωής του συστήματος ΤΝ, γίνεται επιστροφή στο στάδιο 2

Μόλις ένα σύστημα ΤΝ κυκλοφορήσει στην αγορά, οι αρχές θα είναι αρμόδιες για την εποπτεία της αγοράς, οι φορείς εφαρμογής θα διασφαλίζουν την ανθρώπινη εποπτεία και παρακολούθηση, ενώ οι πάροχοι θα θέτουν σε λειτουργία ένα σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι και οι φορείς εφαρμογής θα αναφέρουν επίσης σοβαρά περιστατικά και δυσλειτουργίες.

Το 2018 η Επιτροπή και τα κράτη μέλη της ΕΕ έκαναν το πρώτο βήμα ενώνοντας τις δυνάμεις τους μέσω ενός συντονισμένου σχεδίου για την ΤΝ, το οποίο έθεσε τα θεμέλια για εθνικές στρατηγικές και εξελίξεις πολιτικής.

Η επικαιροποίηση του 2021 του συντονισμένου σχεδίου για την τεχνητή νοημοσύνη έχει θέσει στο προσκήνιο τη στρατηγική και ευθυγραμμίζεται με τις ψηφιακές και τις πράσινες προτεραιότητες της Επιτροπής, καθώς και με την αντίδραση της Ευρώπης στην πανδημία του κορονοϊού. 

Με την προώθηση της αριστείας στον τομέα της ΤΝ, από το εργαστήριο έως την αγορά, το συντονισμένο σχέδιο προτείνει ένα όραμα που αφορά την επιτάχυνση των επενδύσεων στην ΤΝ, την ανάληψη δράσης για την έγκαιρη υλοποίηση των στρατηγικών ΤΝ και την ευθυγράμμιση των πολιτικών για την ΤΝ σε ολόκληρη την ΕΕ.

Στο πλαίσιο αυτών των προσπαθειών, η Επιτροπή σχεδιάζει να δημιουργήσει:

• μια σύμπραξη δημόσιου-ιδιωτικού τομέα για την τεχνητή νοημοσύνη, τα δεδομένα και τη ρομποτική, με σκοπό τον καθορισμό, την υλοποίηση και την επένδυση σε ένα κοινό στρατηγικό θεματολόγιο έρευνας, καινοτομίας και διάδοσης για την Ευρώπη
• πρόσθετα δίκτυα κέντρων αριστείας στον τομέα της ΤΝ, με σκοπό την προώθηση της ανταλλαγής γνώσεων και εμπειρογνωμοσύνης, την ανάπτυξη συνεργασίας με τη βιομηχανία και την ενίσχυση της πολυμορφίας και της ένταξης
• εγκαταστάσεις δοκιμών και πειραματισμού, με σκοπό τη διεξαγωγή πειραμάτων και δοκιμών προηγμένης τεχνολογίας σε πραγματικά περιβάλλοντα
• κόμβους ψηφιακής καινοτομίας, υπηρεσίες μίας στάσης για την πρόσβαση σε τεχνική εμπειρογνωμοσύνη και πειραματισμό, ώστε οι επιχειρήσεις να μπορούν να πραγματοποιούν δοκιμές πριν προβούν σε επενδύσεις
• μια πλατφόρμα ΤΝ κατά παραγγελία ως μια κεντρική ευρωπαϊκή εργαλειοθήκη πόρων ΤΝ (π.χ. εμπειρογνωσία, αλγόριθμοι, πλαίσια λογισμικού, εργαλεία ανάπτυξης) που θα μπορούσαν να χρησιμοποιηθούν από τη βιομηχανία και τον δημόσιο τομέα

Η ΕΕ έχει ήδη χρηματοδοτήσει διάφορα έργα ΤΝ τα οποία προσφέρουν λύσεις σε όλους τους τομείς της κοινωνίας, από τη γεωργία έως την υγειονομική περίθαλψη, τη μεταποίηση ή τις μεταφορές.

Για παράδειγμα, τρεις τομείς στους οποίους η χρήση της τεχνολογίας ΤΝ υπήρξε ιδιαίτερα επωφελής είναι οι τομείς της υγείας, του περιβάλλοντος και της καταπολέμησης της παραπληροφόρησης.

Η ΤΝ και η ΕΕ σε αριθμούς