Κανόνες για αξιόπιστη τεχνητή νοημοσύνη στην ΕΕ

ΒΑΣΙΚΑ ΣΗΜΕΙΑ

Τι είναι ένα σύστημα ΤΝ;

Ένα σύστημα ΤΝ είναι ένα μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με κάποιο επίπεδο αυτονομίας και μπορεί:

• να προσαρμόζεται μετά την εφαρμογή του· και
• να παράγει στοιχεία εξόδου όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις από στοιχεία εσόδου που λαμβάνει (για την επίτευξη ρητών ή σιωπηρών στόχων).

Μια προσέγγιση βάσει κινδύνου

Η νομοθεσία ακολουθεί μια προσέγγιση βάσει κινδύνου, που συνεπάγεται ότι όσο υψηλότερος είναι ο κίνδυνος πρόκλησης βλάβης στην κοινωνία, τόσο αυστηρότεροι είναι οι κανόνες. Ο κανονισμός ορίζει τη χρήση της ΤΝ στους παρακάτω τομείς ως υψηλού κινδύνου, λόγω των ενδεχόμενων επιπτώσεων σε θεμελιώδη δικαιώματα, στην ασφάλεια και στην ευημερία:

• κατασκευαστικά στοιχεία ασφάλειας προϊόντων που υπόκεινται στο πεδίο εφαρμογής ορισμένων ενωσιακών νομοθετικών πράξεων εναρμόνισης (ή ως αυτόνομα προϊόντα) και που υπόκεινται υποχρεωτικά σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος δυνάμει των ίδιων νομοθετικών πράξεων εναρμόνισης·
• βιομετρικά στοιχεία, όταν χρησιμοποιούνται για εξ αποστάσεως επαλήθευση ταυτότητας, κατηγοριοποίηση ατόμων με βάση ευαίσθητα γνωρίσματα (όπως η φυλή ή οι θρησκευτικές πεποιθήσεις), ή για την αναγνώριση συναισθημάτων, με εξαίρεση τις περιπτώσεις που χρησιμοποιούνται για απλή επαλήθευση ταυτότητας·
• υποδομές ζωτικής σημασίας, όταν η ΤΝ είναι κατασκευαστικό στοιχείο ασφάλειας σε τομείς όπως οι ψηφιακές υποδομές, η κυκλοφορία, το νερό, το φυσικό αέριο, η θέρμανση και η ηλεκτρική ενέργεια·
• εκπαίδευση και επαγγελματική κατάρτιση, συμπεριλαμβανομένης της πρόσβασης σε ζητήματα εκπαίδευσης, της αξιολόγησης των μαθησιακών αποτελεσμάτων, της αξιολόγησης των επιπέδων εκπαίδευσης ή της παρακολούθησης της συμπεριφοράς κατά τη διάρκεια εξετάσεων·
• απασχόληση, συμπεριλαμβανομένης της πρόσληψης, της επιλογής υποψηφίων, της λήψης αποφάσεων για τους όρους απασχόλησης (προαγωγές, καταγγελίες συμβατικών σχέσεων), της κατανομής εργασιών ή της παρακολούθησης των επιδόσεων·
• βασικές υπηρεσίες — συστήματα ΤΝ που χρησιμοποιούνται από δημόσιες αρχές για την αξιολόγηση της επιλεξιμότητας για δημόσιες υπηρεσίες (υγειονομική περίθαλψη, επιδόματα), τη βαθμολόγηση της πιστοληπτικής ικανότητας, την αξιολόγηση του κινδύνου ασφάλισης και την ιεράρχηση προτεραιοτήτων για την αντιμετώπιση καταστάσεων έκτακτης ανάγκης·
• επιβολή του νόμου — συστήματα ΤΝ που χρησιμοποιούνται για την εκτίμηση κινδύνων τέλεσης εγκλημάτων, ανιχνευτών ψεύδους, για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων, για την πρόβλεψη υποτροπής ή την κατάρτιση προφίλ ατόμων για ποινικές έρευνες·
• μετανάστευση και συνοριακός έλεγχος — συστήματα ΤΝ που χρησιμοποιούνται για την εκτίμηση κινδύνων σχετικά με τη μετανάστευση, το άσυλο και τις αιτήσεις χορήγησης θεώρησης εισόδου, ή για τον εντοπισμό και την ταυτοποίηση ατόμων σε μεταναστευτικό πλαίσιο·
• απονομή δικαιοσύνης και δημοκρατικές διαδικασίες — συστήματα ΤΝ που χρησιμοποιούνται από δικαστικές αρχές για νομική έρευνα και ερμηνεία ή συστήματα που θα μπορούσαν να επηρεάσουν τα αποτελέσματα εκλογών.

Ο κανονισμός απαγορεύει τις ακόλουθες πρακτικές ΤΝ με μη αποδεκτό επίπεδο κινδύνου

• Τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ή παραπλανητικές τεχνικές για τη χειραγώγηση της συμπεριφοράς κάποιου ατόμου ή ομάδας, υποβαθμίζοντας την ικανότητά τους να λάβουν τεκμηριωμένες αποφάσεις και ενδεχομένως προκαλώντας σημαντική βλάβη.
• Εκμετάλλευση ευάλωτων χαρακτηριστικών με βάση την ηλικία, την αναπηρία ή κοινωνικοοικονομικές καταστάσεις για χειραγώγηση ατόμων ή ομάδων, που οδηγεί σε ενδεχόμενη βλάβη.
• Κοινωνική βαθμολόγηση, για την αξιολόγηση ή την ταξινόμηση ανθρώπων με βάση τη συμπεριφορά ή τα χαρακτηριστικά, που οδηγεί σε άνιση μεταχείριση η οποία δεν σχετίζεται με το πλαίσιο στο οποίο συλλέχθηκαν τα δεδομένα ή με τρόπο δυσανάλογο συγκριτικά με τη σοβαρότητα της συμπεριφοράς.
• Αξιολόγηση ποινικού κινδύνου, για πρόβλεψη της πιθανότητας τέλεσης ενός εγκλήματος αποκλειστικά με βάση την κατάρτιση προφίλ ή τα χαρακτηριστικά της προσωπικότητας, με εξαίρεση τις αντικειμενικές ποινικές έρευνες που βασίζονται σε πραγματικά γεγονότα.
• Εξαγωγή εικόνων προσώπου από βάσεις δεδομένων αναγνώρισης προσώπου από το διαδίκτυο ή κάμερες ασφαλείας χωρίς συγκεκριμένο στόχο.
• Συναγωγή συναισθημάτων σε ευαίσθητους χώρους, όπως οι χώροι εργασίας ή τα εκπαιδευτικά ιδρύματα, εκτός αν χρησιμοποιούνται για ιατρικούς σκοπούς ή σκοπούς ασφάλειας.
• Βιομετρική κατηγοριοποίηση με βάση δεδομένα για συναγωγή ευαίσθητων γνωρισμάτων όπως η φυλή, η θρησκευτικές ή πολιτικές πεποιθήσεις, με εξαίρεση τη νόμιμη χρήση στο πλαίσιο επιβολής του νόμου.
• Βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσιους χώρους από αρχές επιβολής του νόμου, εκτός αν είναι απολύτως απαραίτητο σε συγκεκριμένες περιπτώσεις (π.χ. εύρεση εξαφανισμένων προσώπων, αποτροπή επικείμενων απειλών ή ταυτοποίηση υπόπτων σοβαρών εγκλημάτων). Για αυτή τη χρήση πρέπει να ακολουθούνται αυστηρές νομικές διαδικασίες, όπως, μεταξύ άλλων, η πρότερη λήψη άδειας, το περιορισμένο πεδίο εφαρμογής και διασφαλίσεις για την προστασία των δικαιωμάτων και των ελευθεριών.

Ο κανονισμός θεσπίζει υποχρεώσεις γνωστοποίησης σε περίπτωση ενδεχόμενου κινδύνου από την έλλειψη διαφάνειας σχετικά με τη χρήση της ΤΝ:

• Η ΤΝ που έχει σχεδιαστεί για να υποκαθιστά ανθρώπους (π.χ. ένα επιγραμμικό διαλογικό ρομπότ) πρέπει να ενημερώνει σχετικά τον άνθρωπο με τον οποίο αλληλεπιδρά·
• τα στοιχεία εξόδου παραγωγικής ΤΝ πρέπει να επισημαίνεται ότι έχουν παραχθεί από ΤΝ με μηχαναγνώσιμο τρόπο·
• σε ορισμένες περιπτώσεις, τα στοιχεία εξόδων παραγωγικής ΤΝ πρέπει να επισημαίνονται με ευδιάκριτο τρόπο, όπως στην περίπτωση προϊόντων βαθυπαραποίησης και κειμένου που προορίζεται για ενημέρωση του κοινού για ζητήματα δημόσιου συμφέροντος.

Όλα τα υπόλοιπα συστήματα ΤΝ θεωρείται ότι ενέχουν περιορισμένο κίνδυνο και, ως εκ τούτου, ο κανονισμός δεν θεσπίζει περαιτέρω κανόνες.

Αξιόπιστη χρήση των μεγάλων μοντέλων ΤΝ

• Τα μοντέλα ΤΝ γενικού σκοπού είναι μοντέλα που εκπαιδεύονται συνήθως σε μεγάλο όγκο δεδομένων και μπορούν να εκτελούν ένα ευρύ φάσμα εργασιών. Μπορεί να είναι κατασκευαστικά στοιχεία συστημάτων ΤΝ.
• Ο κανονισμός θεσπίζει υποχρεώσεις διαφάνειας για παρόχους τέτοιων μοντέλων ΤΝ γενικού σκοπού, πιο συγκεκριμένα έναν τεχνικό φάκελο, την παροχή πληροφοριών για προγραμματιστές κατάντη συστημάτων ΤΝ και τη γνωστοποίηση των δεδομένων που χρησιμοποιήθηκαν για την εκπαίδευση του μοντέλου.
• Τα πιο ισχυρά μοντέλα ΤΝ γενικού σκοπού μπορούν να θέτουν συστημικούς κινδύνους. Εάν ένα μοντέλο πληροί ένα συγκεκριμένο όριο ικανότητας, ο πάροχος του εν λόγω μοντέλου πρέπει να τηρεί πρόσθετες υποχρεώσεις διαχείρισης κινδύνου και κυβερνοασφάλειας.

Διακυβέρνηση

• Ο κανόνας θεσπίζει διάφορα όργανα διακυβέρνησης που είναι ενεργά από τις 2 Αυγούστου 2025:
  • εθνικές αρμόδιες αρχές που θα επιβλέπουν και θα επιβάλλουν τους κανόνες για τα συστήματα ΤΝ·
  • μια Υπηρεσία ΤΝ εντός της Ευρωπαϊκής Επιτροπής που θα συντονίζει την ενιαία εφαρμογή των κοινών κανόνων σε όλη την ΕΕ και θα ενεργεί ως ρυθμιστική αρχή για τα μοντέλα ΤΝ γενικού σκοπού.
• Τα κράτη μέλη της ΕΕ και η Υπηρεσία ΤΝ θα συνεργάζονται στενά σε ένα Συμβούλιο ΤΝ, που θα αποτελείται από εκπροσώπους των κρατών μελών, για τη διασφάλιση της ενιαίας και αποτελεσματικής εφαρμογής του κανονισμού.
• Ο κανονισμός θεσπίζει δύο συμβουλευτικά όργανα για την Υπηρεσία ΤΝ και το Συμβούλιο ΤΝ:
  • μια επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων για την παροχή επιστημονικών συμβουλών·
  • ένα συμβουλευτικό φόρουμ για ενδιαφερόμενους φορείς για την παροχή τεχνικής εμπειρογνωμοσύνης στο Συμβούλιο ΤΝ και την Επιτροπή.

Κυρώσεις

Τα πρόστιμα για παραβάσεις ορίζονται ως ένα ποσοστό του ετήσιου κύκλου εργασιών της εταιρείας που τέλεσε την παράβαση ή ένα προκαθορισμένο ποσό, όποιο από τα δύο είναι υψηλότερο. Οι μικρές και μεσαίες επιχειρήσεις και οι νεοσύστατες επιχειρήσεις υπόκεινται σε αναλογικά διοικητικά πρόστιμα.

Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων

Αυξημένη διαφάνεια εφαρμόζεται στην ανάπτυξη και χρήση συστημάτων ΤΝ υψηλού κινδύνου:

• πριν την εφαρμογή ενός συστήματος ΤΝ υψηλού κινδύνου από οντότητες που παρέχουν δημόσιες υπηρεσίες, πρέπει να εκτιμηθούν οι επιπτώσεις του στα θεμελιώδη δικαιώματα·
• τα συστήματα ΤΝ υψηλού κινδύνου και οι οντότητες που τα χρησιμοποιούν πρέπει να καταχωρίζονται σε μια βάση δεδομένων της ΕΕ.

Καινοτομία

Ο κανονισμός προβλέπει ένα νομικό πλαίσιο φιλικό για την καινοτομία και αποσκοπεί στην προώθηση της τεκμηριωμένης ρυθμιστικής μάθησης. Προβλέπει ρυθμιστικά δοκιμαστήρια ΤΝ, που διαμορφώνουν ένα ελεγχόμενο περιβάλλον στο οποίο καινοτόμα συστήματα ΤΝ μπορούν να αναπτυχθούν, να δοκιμαστούν και να επικυρωθούν, μεταξύ άλλων, και σε πραγματικές συνθήκες. Επιπλέον, ο κανονισμός επιτρέπει τη δοκιμή συστημάτων ΤΝ υψηλού κινδύνου σε πραγματικές συνθήκες υπό ορισμένες προϋποθέσεις.

Αξιολόγηση και επανεξέταση

Η Επιτροπή εξετάζει την ανάγκη τυχόν τροποποιήσεων του καταλόγου χρήσεων ΤΝ υψηλού κινδύνου και του καταλόγου των απαγορευμένων πρακτικών κάθε έτος. Το αργότερο μέχρι τις 2 Αυγούστου 2028, και εφεξής κάθε τέσσερα έτη, η Επιτροπή θα αξιολογεί και θα υποβάλλει έκθεση για τα παρακάτω:

• προσθήκη ή επέκταση του καταλόγου κατηγοριών υψηλού κινδύνου·
• τροποποιήσεις του καταλόγου συστημάτων ΤΝ που απαιτούν επιπλέον μέτρα διαφάνειας·
• τροποποιήσεις για τη βελτίωση της εποπτείας και της διακυβέρνησης.