Την Πέμπτη, η Επιτροπή Εσωτερικής Αγοράς και η Επιτροπή Πολιτικών Ελευθεριών ενέκριναν σχέδιο διαπραγματευτικής εντολής σχετικά με τους πρώτους κανόνες για την Τεχνητή Νοημοσύνη με 84 ψήφους υπέρ, 7 κατά και 12 αποχές. Με τις τροπολογίες τους στην πρόταση της Επιτροπής, οι ευρωβουλευτές στοχεύουν να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης εποπτεύονται από ανθρώπους, είναι ασφαλή, διαφανή, ανιχνεύσιμα, χωρίς διακρίσεις και φιλικά προς το περιβάλλον. Θέλουν επίσης να υπάρξει ένας ενιαίος ορισμός για την τεχνητή νοημοσύνη, σχεδιασμένος να είναι τεχνολογικά ουδέτερος, ώστε να μπορεί να εφαρμοστεί στα συστήματα τεχνητής νοημοσύνης του σήμερα και του αύριο.

Προσέγγιση της ΤΝ με βάση τον κίνδυνο - Απαγορευμένες πρακτικές ΤΝ

Οι κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο και θεσπίζουν υποχρεώσεις για τους παρόχους και τους χρήστες ανάλογα με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η ΤΝ. Τα συστήματα ΤΝ με απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων θα απαγορεύονται αυστηρά, συμπεριλαμβανομένων των συστημάτων που χρησιμοποιούν υποσυνείδητες ή σκόπιμα χειριστικές τεχνικές, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για κοινωνική βαθμολόγηση (ταξινόμηση των ανθρώπων με βάση την κοινωνική τους συμπεριφορά, την κοινωνικοοικονομική τους κατάσταση, τα προσωπικά τους χαρακτηριστικά).

Οι ευρωβουλευτές τροποποίησαν ουσιαστικά τον κατάλογο για να συμπεριλάβουν απαγορεύσεις για παρεμβατικές χρήσεις των συστημάτων τεχνητής νοημοσύνης, όπως:

• "Σε πραγματικό χρόνο" συστήματα  βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους,
• "Μεταγενέστερα" συστήματα  βιομετρικής ταυτοποίησης, με μόνη εξαίρεση την επιβολή του νόμου για τη δίωξη σοβαρών εγκλημάτων και μόνο μετά από δικαστική άδεια,
• Συστήματα βιομετρικής κατηγοριοποίησης με χρήση ευαίσθητων χαρακτηριστικών (π.χ. φύλο, φυλή, εθνικότητα, ιδιότητα του πολίτη, θρησκεία, πολιτικός προσανατολισμός),
• Συστήματα προληπτικής αστυνόμευσης (με βάση τη δημιουργία προφίλ, την τοποθεσία ή την προηγούμενη εγκληματική συμπεριφορά),
• Συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, το χώρο εργασίας και τα εκπαιδευτικά ιδρύματα 
• Αδιάκριτη απόσπαση βιομετρικών δεδομένων από μέσα κοινωνικής δικτύωσης ή βίντεο από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου (παραβιάζοντας τα ανθρώπινα δικαιώματα και το δικαίωμα στην ιδιωτική ζωή).

Τεχνητή νοημοσύνη υψηλού κινδύνου

Οι ευρωβουλευτές διεύρυναν την ταξινόμηση των τομέων υψηλού κινδύνου ώστε να συμπεριλάβουν βλάβες στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα των ανθρώπων ή το περιβάλλον. Πρόσθεσαν επίσης στον κατάλογο υψηλού κινδύνου τα συστήματα ΤΝ για τον επηρεασμό των ψηφοφόρων σε πολιτικές εκστρατείες και σε συστήματα συστάσεων που χρησιμοποιούνται από πλατφόρμες μέσων κοινωνικής δικτύωσης (με περισσότερους από 45 εκατομμύρια χρήστες σύμφωνα με τον νόμο περί ψηφιακών υπηρεσιών).

Τεχνητή νοημοσύνη γενικού σκοπού - μέτρα διαφάνειας

Οι ευρωβουλευτές συμπεριέλαβαν υποχρεώσεις για τους παρόχους ιδρυτικών μοντέλων - ένας νέος και ταχέως εξελισσόμενος τομέας της ΤΝ - ο οποίος θα πρέπει να εγγυάται ισχυρή προστασία των θεμελιωδών δικαιωμάτων, της υγείας και της ασφάλειας και του περιβάλλοντος, της δημοκρατίας και του κράτους δικαίου. Θα πρέπει να αξιολογεί και να μετριάζει τους κινδύνους, να συμμορφώνεται με τις απαιτήσεις σχεδιασμού, πληροφόρησης και περιβάλλοντος και να εγγράφρται στη βάση δεδομένων της ΕΕ.

Τα παραγωγικά μοντέλα θεμελίωσης, όπως το GPT, θα πρέπει να συμμορφώνονται με πρόσθετες απαιτήσεις διαφάνειας, όπως η γνωστοποίηση ότι το περιεχόμενο δημιουργήθηκε από ΤΝ, ο σχεδιασμός του μοντέλου ώστε να αποτρέπεται η δημιουργία παράνομου περιεχομένου και η δημοσίευση περιλήψεων των δεδομένων που προστατεύονται από πνευματικά δικαιώματα και χρησιμοποιήθηκαν για την εκπαίδευση.

Υποστήριξη της καινοτομίας και προστασία των δικαιωμάτων των πολιτών

Για να ενισχύσουν την καινοτομία της ΤΝ, οι ευρωβουλευτές πρόσθεσαν εξαιρέσεις σε αυτούς τους κανόνες για τις ερευνητικές δραστηριότητες και τα στοιχεία ΤΝ που παρέχονται με άδειες ανοικτού κώδικα. Ο νέος νόμος προωθεί ρυθμιστικά sandboxes, ή ελεγχόμενα περιβάλλοντα, που δημιουργούνται από τις δημόσιες αρχές για τη δοκιμή της ΤΝ πριν από την ανάπτυξή της.

Οι ευρωβουλευτές θέλουν να ενισχύσουν το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες για συστήματα ΤΝ και να λαμβάνουν εξηγήσεις για αποφάσεις που βασίζονται σε συστήματα ΤΝ υψηλού κινδύνου και επηρεάζουν σημαντικά τα δικαιώματά τους. Οι ευρωβουλευτές αναμόρφωσαν επίσης τον ρόλο του Γραφείου ΤΝ της ΕΕ, το οποίο θα αναλάβει να παρακολουθεί τον τρόπο εφαρμογής του εγχειριδίου κανόνων ΤΝ.

Αποσπάσματα

Μετά την ψηφοφορία, ο συν-εισηγητής Brando Benifei (S&D, Ιταλία) δήλωσε: "Βρισκόμαστε στα πρόθυρα της θέσπισης νομοθεσίας-ορόσημο που πρέπει να αντέξει στην πρόκληση του χρόνου. Είναι ζωτικής σημασίας να οικοδομήσουμε την εμπιστοσύνη των πολιτών στην ανάπτυξη της ΤΝ, να καθορίσουμε τον ευρωπαϊκό τρόπο αντιμετώπισης των εξαιρετικών αλλαγών που ήδη συμβαίνουν, καθώς και να κατευθύνουμε την πολιτική συζήτηση για την ΤΝ σε παγκόσμιο επίπεδο. Είμαστε βέβαιοι ότι το κείμενό μας εξισορροπεί την προστασία των θεμελιωδών δικαιωμάτων με την ανάγκη παροχής ασφάλειας δικαίου στις επιχειρήσεις και τόνωσης της καινοτομίας στην Ευρώπη".

Ο συνεισηγητής Dragos Tudorache (Renew, Ρουμανία) δήλωσε: "Δεδομένου του βαθύτατου μετασχηματιστικού αντίκτυπου που θα έχει η Τεχνητή Νοημοσύνη στις κοινωνίες και τις οικονομίες μας, ο νόμος για την Τεχνητή Νοημοσύνη είναι πολύ πιθανόν το πιο σημαντικό νομοθετικό έργο αυτής της θητείας. Πρόκειται για την πρώτη νομοθεσία αυτού του είδους παγκοσμίως, γεγονός που σημαίνει ότι η ΕΕ μπορεί να πρωτοστατήσει στο να καταστεί η τεχνητή νοημοσύνη ανθρωποκεντρική, αξιόπιστη και ασφαλής. Εργαστήκαμε για να στηρίξουμε την καινοτομία της ΤΝ στην Ευρώπη και να δώσουμε χώρο στις νεοφυείς επιχειρήσεις, τις ΜΜΕ και τη βιομηχανία να αναπτυχθούν και να καινοτομήσουν, προστατεύοντας παράλληλα τα θεμελιώδη δικαιώματα, ενισχύοντας τη δημοκρατική εποπτεία και εξασφαλίζοντας ένα ώριμο σύστημα διακυβέρνησης και επιβολής της ΤΝ."

Επόμενα βήματα

Πριν ξεκινήσουν οι διαπραγματεύσεις με το Συμβούλιο για την τελική μορφή του νόμου, το παρόν σχέδιο διαπραγματευτικής εντολής πρέπει να εγκριθεί από το σύνολο του Κοινοβουλίου, με την ψηφοφορία να αναμένεται κατά τη σύνοδο 12-15 Ιουνίου.