Νόμος για την τεχνητή νοημοσύνη: ένα βήμα πιο κοντά στους πρώτους κανόνες για την τεχνητή νοημοσύνη

-Μόλις εγκριθούν, θα αποτελέσουν τους πρώτους κανόνες στον κόσμο για την Τεχνητή Νοημοσύνη.
-Οι ευρωβουλευτές περιλαμβάνουν απαγορεύσεις στη βιομετρική επιτήρηση, την αναγνώριση συναισθημάτων, τα συστήματα τεχνητής νοημοσύνης για την πρόβλεψη της αστυνόμευσης
-Προσαρμοσμένα καθεστώτα για ΤΝ γενικού σκοπού και ιδρυτικά μοντέλα όπως το GPT
-Δικαίωμα υποβολής καταγγελιών για τα συστήματα τεχνητής νοημοσύνης

Για να διασφαλιστεί μια ανθρωποκεντρική και ηθική ανάπτυξη της Τεχνητής Νοημοσύνης (ΤΝ) στην Ευρώπη, οι ευρωβουλευτές ενέκριναν νέους κανόνες διαφάνειας και διαχείρισης κινδύνων για τα συστήματα ΤΝ.

Την Πέμπτη, η Επιτροπή Εσωτερικής Αγοράς και η Επιτροπή Πολιτικών Ελευθεριών ενέκριναν σχέδιο διαπραγματευτικής εντολής για τους πρώτους κανόνες για την Τεχνητή Νοημοσύνη με 84 ψήφους υπέρ, 7 κατά και 12 αποχές. Στις τροπολογίες τους στην πρόταση της Επιτροπής, οι ευρωβουλευτές στοχεύουν να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης εποπτεύονται από ανθρώπους, είναι ασφαλή, διαφανή, ανιχνεύσιμα, χωρίς διακρίσεις και φιλικά προς το περιβάλλον. Θέλουν επίσης να υπάρξει ένας ενιαίος ορισμός για την τεχνητή νοημοσύνη, σχεδιασμένος να είναι τεχνολογικά ουδέτερος, ώστε να μπορεί να εφαρμοστεί στα συστήματα τεχνητής νοημοσύνης του σήμερα και του αύριο.

Προσέγγιση της Τεχνητής Νοημοσύνης με βάση τον κίνδυνο – Απαγορευμένες πρακτικές Τεχνητής Νοημοσύνης

Οι κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο και θεσπίζουν υποχρεώσεις για τους παρόχους και τους χρήστες ανάλογα με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η ΤΝ. Τα συστήματα ΤΝ με απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων θα απαγορεύονται αυστηρά, συμπεριλαμβανομένων των συστημάτων που χρησιμοποιούν υποσυνείδητες ή σκόπιμα χειριστικές τεχνικές, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για κοινωνική βαθμολόγηση (ταξινόμηση των ανθρώπων με βάση την κοινωνική τους συμπεριφορά, την κοινωνικοοικονομική τους κατάσταση, τα προσωπικά τους χαρακτηριστικά).

Οι ευρωβουλευτές τροποποίησαν ουσιαστικά τον κατάλογο για να συμπεριλάβουν απαγορεύσεις για παρεμβατικές και διακριτικές χρήσεις των συστημάτων τεχνητής νοημοσύνης, όπως:

-Συστήματα απομακρυσμένης βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε χώρους προσβάσιμους από το κοινό,
-Συστήματα βιομετρικής ταυτοποίησης από απόσταση «post», με μόνη εξαίρεση την επιβολή του νόμου για τη δίωξη σοβαρών εγκλημάτων και μόνο μετά από δικαστική άδεια,
-Συστήματα βιομετρικής κατηγοριοποίησης με χρήση ευαίσθητων χαρακτηριστικών (π.χ. φύλο, φυλή, εθνικότητα, ιδιότητα του πολίτη, θρησκεία, πολιτικός προσανατολισμός),
-Συστήματα προληπτικής αστυνόμευσης (με βάση τη δημιουργία προφίλ, την τοποθεσία ή την προηγούμενη εγκληματική συμπεριφορά),
-Συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, το χώρο εργασίας και τα εκπαιδευτικά ιδρύματα- και
-Αδιάκριτη απόσπαση βιομετρικών δεδομένων από μέσα κοινωνικής δικτύωσης ή βίντεο από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου (παραβιάζοντας τα ανθρώπινα δικαιώματα και το δικαίωμα στην ιδιωτική ζωή).

Τεχνητή νοημοσύνη υψηλού κινδύνου

Οι ευρωβουλευτές διεύρυναν την ταξινόμηση των τομέων υψηλού κινδύνου ώστε να συμπεριλάβουν βλάβες στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα ή το περιβάλλον των ανθρώπων. Πρόσθεσαν επίσης στον κατάλογο υψηλού κινδύνου τα συστήματα τεχνητής νοημοσύνης για τον επηρεασμό των ψηφοφόρων σε πολιτικές εκστρατείες και σε συστήματα συστάσεων που χρησιμοποιούνται από πλατφόρμες κοινωνικής δικτύωσης (με περισσότερους από 45 εκατομμύρια χρήστες βάσει του νόμου για τις ψηφιακές υπηρεσίες).

Τεχνητή νοημοσύνη γενικού σκοπού – μέτρα διαφάνειας

Οι ευρωβουλευτές συμπεριέλαβαν υποχρεώσεις για τους παρόχους ιδρυματικών μοντέλων – μια νέα και ταχέως εξελισσόμενη εξέλιξη στον τομέα της τεχνητής νοημοσύνης – οι οποίοι θα πρέπει να εγγυώνται ισχυρή προστασία των θεμελιωδών δικαιωμάτων, της υγείας και της ασφάλειας και του περιβάλλοντος, της δημοκρατίας και του κράτους δικαίου. Θα πρέπει να αξιολογούν και να μετριάζουν τους κινδύνους, να συμμορφώνονται με τις απαιτήσεις σχεδιασμού, πληροφόρησης και περιβάλλοντος και να εγγράφονται στη βάση δεδομένων της ΕΕ.

Τα μοντέλα δημιουργικής θεμελίωσης, όπως το GPT, θα πρέπει να συμμορφώνονται με πρόσθετες απαιτήσεις διαφάνειας, όπως η γνωστοποίηση ότι το περιεχόμενο δημιουργήθηκε από τεχνητή νοημοσύνη, ο σχεδιασμός του μοντέλου ώστε να αποτρέπεται η δημιουργία παράνομου περιεχομένου και η δημοσίευση περιλήψεων των δεδομένων πνευματικής ιδιοκτησίας που χρησιμοποιήθηκαν για την εκπαίδευση.

Υποστήριξη της καινοτομίας και προστασία των δικαιωμάτων των πολιτών

Για να ενισχύσουν την καινοτομία της Τεχνητής Νοημοσύνης, οι ευρωβουλευτές πρόσθεσαν εξαιρέσεις στους κανόνες αυτούς για τις ερευνητικές δραστηριότητες και τα στοιχεία Τεχνητής Νοημοσύνης που παρέχονται με άδειες ανοικτού κώδικα. Ο νέος νόμος προωθεί ρυθμιστικά sandboxes, ή ελεγχόμενα περιβάλλοντα, που δημιουργούνται από τις δημόσιες αρχές για τη δοκιμή της Τεχνητής Νοημοσύνης πριν από την ανάπτυξή της.

Οι ευρωβουλευτές θέλουν να ενισχύσουν το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες για συστήματα τεχνητής νοημοσύνης και να λαμβάνουν εξηγήσεις για αποφάσεις που βασίζονται σε συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και επηρεάζουν σημαντικά τα δικαιώματά τους. Οι ευρωβουλευτές αναμόρφωσαν επίσης τον ρόλο του Γραφείου Τεχνητής Νοημοσύνης της ΕΕ, το οποίο θα είναι επιφορτισμένο με την παρακολούθηση του τρόπου εφαρμογής του εγχειριδίου κανόνων για την Τεχνητή Νοημοσύνη.

Αποσπάσματα

Μετά την ψηφοφορία, ο συνεισηγητής Brando Benifei (S&D, Ιταλία) δήλωσε: «Βρισκόμαστε στα πρόθυρα της θέσπισης μιας νομοθεσίας-ορόσημο που πρέπει να αντισταθεί στην πρόκληση του χρόνου. Είναι ζωτικής σημασίας να οικοδομήσουμε την εμπιστοσύνη των πολιτών στην ανάπτυξη της Τεχνητής Νοημοσύνης, να καθορίσουμε τον ευρωπαϊκό τρόπο αντιμετώπισης των εξαιρετικών αλλαγών που ήδη συμβαίνουν, καθώς και να κατευθύνουμε την πολιτική συζήτηση για την Τεχνητή Νοημοσύνη σε παγκόσμιο επίπεδο. Είμαστε βέβαιοι ότι το κείμενό μας εξισορροπεί την προστασία των θεμελιωδών δικαιωμάτων με την ανάγκη παροχής ασφάλειας δικαίου στις επιχειρήσεις και τόνωσης της καινοτομίας στην Ευρώπη».

Ο συνεισηγητής Dragos Tudorache (Renew, Ρουμανία) δήλωσε: «Δεδομένου του βαθύτατου μετασχηματιστικού αντίκτυπου που θα έχει η Τεχνητή Νοημοσύνη στις κοινωνίες και τις οικονομίες μας, ο νόμος για την Τεχνητή Νοημοσύνη είναι πιθανότατα το πιο σημαντικό νομοθέτημα αυτής της θητείας. Πρόκειται για την πρώτη νομοθεσία αυτού του είδους παγκοσμίως, γεγονός που σημαίνει ότι η ΕΕ μπορεί να πρωτοστατήσει στο να καταστεί η τεχνητή νοημοσύνη ανθρωποκεντρική, αξιόπιστη και ασφαλής. Εργαστήκαμε για να στηρίξουμε την καινοτομία της Τεχνητής Νοημοσύνης στην Ευρώπη και να δώσουμε χώρο στις νεοφυείς επιχειρήσεις, τις ΜΜΕ και τη βιομηχανία να αναπτυχθούν και να καινοτομήσουν, προστατεύοντας παράλληλα τα θεμελιώδη δικαιώματα, ενισχύοντας τη δημοκρατική εποπτεία και εξασφαλίζοντας ένα ώριμο σύστημα διακυβέρνησης και επιβολής της Τεχνητής Νοημοσύνης.»

Επόμενα βήματα

Πριν αρχίσουν οι διαπραγματεύσεις με το Συμβούλιο για την τελική μορφή του νόμου, το παρόν σχέδιο διαπραγματευτικής εντολής πρέπει να εγκριθεί από το σύνολο του Κοινοβουλίου, με την ψηφοφορία να αναμένεται κατά τη σύνοδο 12-15 Ιουνίου.

Πηγή: europarl.europa.eu

Εικόνα: Michael Dziedzic on Unsplash