Δελτίο συνοπτικής παρουσίασης

Εκτίμηση των επιπτώσεων σχετικά με ένα κανονιστικό πλαίσιο για την τεχνητή νοημοσύνη

Α. Ανάγκη ανάληψης δράσης

Ποιο είναι το πρόβλημα και γιατί αποτελεί πρόβλημα σε επίπεδο ΕΕ;

Η τεχνητή νοημοσύνη (ΤΝ) είναι μια νεοεμφανιζόμενη τεχνολογία γενικής χρήσης: ένα πολύ ισχυρό σύνολο τεχνικών προγραμματισμού ηλεκτρονικών υπολογιστών. Η αποδοχή των συστημάτων ΤΝ έχει μεγάλες δυνατότητες να αποφέρει κοινωνικά οφέλη, να συμβάλει στην οικονομική ανάπτυξη και να ενισχύσει την καινοτομία της ΕΕ και την παγκόσμια ανταγωνιστικότητα. Ωστόσο, σε ορισμένες περιπτώσεις, η χρήση συστημάτων ΤΝ μπορεί να δημιουργήσει προβλήματα. Τα ειδικά χαρακτηριστικά ορισμένων συστημάτων ΤΝ μπορεί να δημιουργήσουν νέους κινδύνους όσον αφορά 1) την ασφάλεια και την προστασία και 2) τα θεμελιώδη δικαιώματα, καθώς και να επισπεύσουν την πιθανότητα ή την ένταση των υφιστάμενων κινδύνων. Επίσης, τα συστήματα ΤΝ 3) δυσχεραίνουν την επαλήθευση της συμμόρφωσης με τους ισχύοντες κανόνες καθώς και την επιβολή τους από τις αρχές επιβολής του νόμου. Αυτό το σύνολο ζητημάτων, με τη σειρά του, οδηγεί σε 4) έλλειψη ασφάλειας δικαίου για τις επιχειρήσεις, 5) δυνητικά βραδύτερη αποδοχή των τεχνολογιών ΤΝ από τις επιχειρήσεις και τους πολίτες λόγω της έλλειψης εμπιστοσύνης, καθώς και σε 6) ρυθμιστικές αποκρίσεις από τις εθνικές αρχές για τον μετριασμό πιθανών εξωτερικών παραγόντων που ενέχουν τον κίνδυνο κατακερματισμού της εσωτερικής αγοράς.

Τι θα πρέπει να επιτευχθεί;

Το κανονιστικό πλαίσιο αποσκοπεί στην αντιμετώπιση των εν λόγω προβλημάτων προκειμένου να διασφαλιστεί η ορθή λειτουργία της ενιαίας αγοράς με τη δημιουργία των προϋποθέσεων για την ανάπτυξη και τη χρήση αξιόπιστης ΤΝ στην Ένωση. Οι ειδικοί στόχοι είναι: 1) να διασφαλιστεί ότι τα συστήματα ΤΝ που διατίθενται στην αγορά και χρησιμοποιούνται είναι ασφαλή και τηρούν την ισχύουσα νομοθεσία για τα θεμελιώδη δικαιώματα και τις αξίες της Ένωσης· 2) να διασφαλιστεί ασφάλεια δικαίου για τη διευκόλυνση των επενδύσεων και της καινοτομίας στον τομέα της ΤΝ· 3) να ενισχυθεί η διακυβέρνηση και η αποτελεσματική επιβολή της ισχύουσας νομοθεσίας για τα θεμελιώδη δικαιώματα και τις απαιτήσεις ασφάλειας που εφαρμόζονται στα συστήματα ΤΝ· και 4) να διευκολυνθεί η ανάπτυξη ενιαίας αγοράς για νόμιμα, ασφαλή και αξιόπιστα συστήματα ΤΝ και να προληφθεί ο κατακερματισμός της αγοράς.

Ποια είναι η προστιθέμενη αξία της δράσης σε επίπεδο ΕΕ (επικουρικότητα); 

Ο διασυνοριακός χαρακτήρας των δεδομένων και συνόλων δεδομένων μεγάλης κλίμακας στα οποία βασίζονται συχνά οι εφαρμογές ΤΝ σημαίνει ότι οι στόχοι της πρωτοβουλίας δεν μπορούν να επιτευχθούν αποτελεσματικά από τα κράτη μέλη μεμονωμένα. Το ευρωπαϊκό κανονιστικό πλαίσιο για αξιόπιστη ΤΝ αποσκοπεί στη θέσπιση εναρμονισμένων κανόνων σχετικά με την ανάπτυξη, τη διάθεση στην αγορά και τη χρήση προϊόντων και υπηρεσιών που ενσωματώνουν τεχνολογία ΤΝ ή αυτόνομων εφαρμογών ΤΝ στην Ένωση. Σκοπός του είναι να εξασφαλίσει ισότιμους όρους ανταγωνισμού και να προστατεύσει όλους τους Ευρωπαίους πολίτες, ενισχύοντας παράλληλα την ανταγωνιστικότητα και τη βιομηχανική βάση της Ευρώπης στον τομέα της ΤΝ. Η δράση της ΕΕ στον τομέα της ΤΝ θα τονώσει την εσωτερική αγορά και έχει σημαντικές δυνατότητες να παράσχει στην ευρωπαϊκή βιομηχανία ανταγωνιστικό πλεονέκτημα σε παγκόσμιο επίπεδο, με βάση οικονομίες κλίμακας που δεν μπορούν να επιτευχθούν μόνο από τα κράτη μέλη εάν ενεργούν μεμονωμένα.

Β. Λύσεις

Ποιες είναι οι διάφορες επιλογές για την επίτευξη των στόχων; Υπάρχει προτιμώμενη επιλογή ή όχι; Αν όχι, γιατί;

Έχουν εξεταστεί οι ακόλουθες επιλογές: Επιλογή 1: νομοθετική πράξη της ΕΕ για τη θέσπιση εθελοντικού συστήματος επισήμανσης· Επιλογή 2: τομεακή, «ad-hoc» προσέγγιση· Επιλογή 3: οριζόντια νομοθετική πράξη της ΕΕ για τη θέσπιση υποχρεωτικών απαιτήσεων για τις εφαρμογές ΤΝ υψηλού κινδύνου· Επιλογή 3+: ίδια με την 3 αλλά με εθελοντικούς κώδικες δεοντολογίας για τις εφαρμογές ΤΝ μη υψηλού κινδύνου· και Επιλογή 4: οριζόντια νομοθετική πράξη της ΕΕ για τη θέσπιση υποχρεωτικών απαιτήσεων για όλες τις εφαρμογές ΤΝ. Η προτιμώμενη επιλογή είναι η επιλογή 3+, δεδομένου ότι προσφέρει αναλογικές διασφαλίσεις έναντι των κινδύνων τους οποίους ενέχει η ΤΝ, περιορίζοντας παράλληλα στο ελάχιστο το διοικητικό κόστος και το κόστος συμμόρφωσης. Το ειδικό ζήτημα της ευθύνης για τις εφαρμογές ΤΝ θα αντιμετωπιστεί μέσω χωριστών μελλοντικών κανόνων και, συνεπώς, δεν καλύπτεται από τις επιλογές.

Ποιες απόψεις διατύπωσαν οι διάφοροι ενδιαφερόμενοι φορείς; Ποιος υποστηρίζει την κάθε επιλογή;

Οι επιχειρήσεις, οι δημόσιες αρχές, οι πανεπιστημιακοί και οι μη κυβερνητικές οργανώσεις συμφωνούν στο σύνολό τους ότι υπάρχουν νομοθετικά κενά ή ότι απαιτείται νέα νομοθεσία, μολονότι η πλειονότητα μεταξύ των επιχειρήσεων είναι μικρότερη. Η βιομηχανία και οι δημόσιες αρχές συμφωνούν με τον περιορισμό των υποχρεωτικών απαιτήσεων στις εφαρμογές ΤΝ υψηλού κινδύνου. Οι πολίτες και η κοινωνία των πολιτών είναι πιθανότερο να διαφωνούν με τον περιορισμό των υποχρεωτικών απαιτήσεων στις εφαρμογές υψηλού κινδύνου.

Γ. Επιπτώσεις της προτιμώμενης επιλογής

Ποια είναι τα οφέλη της προτιμώμενης επιλογής (ειδάλλως, των κυριότερων επιλογών);

Για τους πολίτες, η προτιμώμενη επιλογή θα μετριάσει τους κινδύνους για την ασφάλεια και τα θεμελιώδη δικαιώματά τους. Για τους παρόχους ΤΝ, θα δημιουργήσει ασφάλεια δικαίου και θα διασφαλίσει ότι δεν θα προκύψει κανένα εμπόδιο στη διασυνοριακή παροχή υπηρεσιών και προϊόντων που σχετίζονται με την ΤΝ. Για τις εταιρείες που χρησιμοποιούν ΤΝ, θα προωθήσει την εμπιστοσύνη μεταξύ των πελατών τους. Για τις εθνικές δημόσιες διοικήσεις, θα προωθήσει την εμπιστοσύνη του κοινού στη χρήση της ΤΝ και θα ενισχύσει τους μηχανισμούς επιβολής (με τη θέσπιση ευρωπαϊκού μηχανισμού συντονισμού, την παροχή κατάλληλων ικανοτήτων και τη διευκόλυνση των ελέγχων των συστημάτων ΤΝ με νέες απαιτήσεις τεκμηρίωσης, ιχνηλασιμότητας και διαφάνειας).

Ποιο είναι το κόστος της προτιμώμενης επιλογής (ειδάλλως, των κυριότερων επιλογών);

Οι επιχειρήσεις ή οι δημόσιες αρχές που αναπτύσσουν ή χρησιμοποιούν εφαρμογές ΤΝ που συνιστούν υψηλό κίνδυνο για την ασφάλεια ή τα θεμελιώδη δικαιώματα των πολιτών θα πρέπει να συμμορφώνονται με συγκεκριμένες οριζόντιες απαιτήσεις και υποχρεώσεις, οι οποίες θα τεθούν σε εφαρμογή μέσω τεχνικών εναρμονισμένων προτύπων. Το συνολικό συγκεντρωτικό κόστος συμμόρφωσης εκτιμάται ότι θα κυμανθεί μεταξύ 100 εκατ. EUR και 500 εκατ. EUR έως το 2025, ποσό που αντιστοιχεί σε ποσοστό έως 4-5 % των επενδύσεων σε ΤΝ υψηλού κινδύνου (το οποίο εκτιμάται ότι κυμαίνεται μεταξύ 5 % και 15 % του συνόλου των εφαρμογών ΤΝ). Το κόστος επαλήθευσης θα μπορούσε να ανέλθει σε ένα επιπλέον 2-5 % των επενδύσεων σε ΤΝ υψηλού κινδύνου. Οι επιχειρήσεις ή οι δημόσιες αρχές που αναπτύσσουν ή χρησιμοποιούν εφαρμογές ΤΝ που δεν ταξινομούνται ως υψηλού κινδύνου δεν θα πρέπει να επιβαρύνονται με οποιοδήποτε κόστος. Ωστόσο, θα μπορούσαν να επιλέξουν να τηρούν εθελοντικούς κώδικες δεοντολογίας για την τήρηση των κατάλληλων απαιτήσεων και τη διασφάλιση της αξιοπιστίας της οικείας ΤΝ. Στις περιπτώσεις αυτές, το κόστος θα μπορούσε να ανέλθει, το πολύ, στο ίδιο επίπεδο με εκείνο για τις εφαρμογές υψηλού κινδύνου, αλλά κατά πάσα πιθανότητα θα ήταν χαμηλότερο.

Ποιες είναι οι επιπτώσεις στις ΜΜΕ και στην ανταγωνιστικότητα;

Οι ΜΜΕ θα ωφεληθούν περισσότερο από το υψηλότερο συνολικό επίπεδο εμπιστοσύνης στην ΤΝ σε σύγκριση με τις μεγάλες εταιρείες που μπορούν επίσης να βασίζονται στην εμπορική τους ταυτότητα. Οι ΜΜΕ που αναπτύσσουν εφαρμογές οι οποίες ταξινομούνται ως υψηλού κινδύνου θα πρέπει να επωμιστούν παρόμοιο κόστος με τις μεγάλες εταιρείες. Πράγματι, λόγω της μεγάλης δυνατότητα κλιμάκωσης των ψηφιακών τεχνολογιών, οι μικρομεσαίες επιχειρήσεις μπορούν να έχουν τεράστια απήχηση παρά το μικρό τους μέγεθος, με δυνητικό αντίκτυπο σε εκατομμύρια άτομα. Ως εκ τούτου, όσον αφορά τις εφαρμογές υψηλού κινδύνου, ο αποκλεισμός των ΜΜΕ που προμηθεύουν ΤΝ από την εφαρμογή του κανονιστικού πλαισίου θα μπορούσε να υπονομεύσει σοβαρά τον στόχο της αύξησης της εμπιστοσύνης. Ωστόσο, το πλαίσιο θα προβλέπει ειδικά μέτρα, συμπεριλαμβανομένων ρυθμιστικών δοκιμαστηρίων ή παροχής βοήθειας μέσω των κόμβων ψηφιακής καινοτομίας, για τη στήριξη των ΜΜΕ όσον αφορά τη συμμόρφωσή τους με τους νέους κανόνες, λαμβανομένων υπόψη των ειδικών αναγκών τους.

Θα υπάρξουν σημαντικές επιπτώσεις στους εθνικούς προϋπολογισμούς και στις εθνικές διοικητικές αρχές; 

Τα κράτη μέλη θα πρέπει να ορίσουν εποπτικές αρχές επιφορτισμένες με την εφαρμογή των νομοθετικών απαιτήσεων. Η εποπτική τους λειτουργία θα μπορούσε να βασιστεί σε υφιστάμενες ρυθμίσεις, για παράδειγμα όσον αφορά τους οργανισμούς αξιολόγησης της συμμόρφωσης ή την εποπτεία της αγοράς, αλλά θα απαιτούσε επαρκή τεχνολογική εμπειρογνωσία και πόρους. Ανάλογα με την προϋπάρχουσα δομή σε κάθε κράτος μέλος, αυτό θα μπορούσε να ανέλθει σε 1 έως 25 ισοδύναμα πλήρους απασχόλησης ανά κράτος μέλος.

Θα υπάρξουν άλλες σημαντικές επιπτώσεις; 

Η προτιμώμενη επιλογή θα μετριάσει σημαντικά τους κινδύνους για τα θεμελιώδη δικαιώματα των πολιτών, καθώς και τις ευρύτερες αξίες της Ένωσης, και θα ενισχύσει την ασφάλεια ορισμένων προϊόντων και υπηρεσιών που ενσωματώνουν τεχνολογία ΤΝ ή αυτόνομων εφαρμογών ΤΝ.

Αναλογικότητα 

Η πρόταση είναι αναλογική και αναγκαία για την επίτευξη των στόχων, καθώς ακολουθεί προσέγγιση βάσει κινδύνου και επιβάλλει κανονιστικές επιβαρύνσεις μόνον όταν τα συστήματα ΤΝ είναι πιθανό να ενέχουν υψηλούς κινδύνους για τα θεμελιώδη δικαιώματα ή την ασφάλεια. Σε αντίθετη περίπτωση, επιβάλλονται μόνον ελάχιστες υποχρεώσεις διαφάνειας, ειδικότερα όσον αφορά την παροχή πληροφοριών για τη σήμανση της χρήσης ενός συστήματος ΤΝ κατά την αλληλεπίδραση με ανθρώπους ή τη χρήση βαθιά ψευδούς υλικού εάν δεν χρησιμοποιείται για νόμιμους σκοπούς. Τα εναρμονισμένα πρότυπα και τα υποστηρικτικά εργαλεία καθοδήγησης και συμμόρφωσης θα έχουν ως στόχο να βοηθήσουν τους παρόχους και τους χρήστες να συμμορφωθούν με τις απαιτήσεις και να ελαχιστοποιήσουν το κόστος τους.

Δ. Παρακολούθηση

Πότε θα επανεξεταστεί η πολιτική;

Η Επιτροπή θα δημοσιεύσει έκθεση αξιολόγησης και επανεξέτασης του πλαισίου πέντε έτη μετά την ημερομηνία έναρξης της εφαρμογής του.