This document is an excerpt from the EUR-Lex website
Document 52020IP0275
European Parliament resolution of 20 October 2020 with recommendations to the Commission on a framework of ethical aspects of artificial intelligence, robotics and related technologies (2020/2012(INL))
Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 που περιέχει συστάσεις προς την Επιτροπή σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών (2020/2012(INL))
Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 που περιέχει συστάσεις προς την Επιτροπή σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών (2020/2012(INL))
ΕΕ C 404 της 6.10.2021, p. 63–106
(BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)
|
6.10.2021 |
EL |
Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης |
C 404/63 |
P9_TA(2020)0275
Πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και συναφών τεχνολογιών
Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 20ής Οκτωβρίου 2020 που περιέχει συστάσεις προς την Επιτροπή σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών (2020/2012(INL))
(2021/C 404/04)
Το Ευρωπαϊκό Κοινοβούλιο,
|
— |
έχοντας υπόψη το άρθρο 225 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης, |
|
— |
έχοντας υπόψη το άρθρο 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης, |
|
— |
έχοντας υπόψη τον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης, |
|
— |
έχοντας υπόψη τον κανονισμό (ΕΕ) 2018/1488 του Συμβουλίου, της 28ης Σεπτεμβρίου 2018, σχετικά με τη σύσταση της κοινής επιχείρησης για την ευρωπαϊκή υπολογιστική υψηλών επιδόσεων (1), |
|
— |
έχοντας υπόψη την οδηγία 2000/43/ΕΚ του Συμβουλίου, της 29ης Ιουνίου 2000, περί εφαρμογής της αρχής της ίσης μεταχείρισης προσώπων ασχέτως φυλετικής ή εθνοτικής τους καταγωγής (2) (οδηγία για τη φυλετική ισότητα), |
|
— |
έχοντας υπόψη την οδηγία 2000/78/ΕΚ του Συμβουλίου, της 27ης Νοεμβρίου 2000, για τη διαμόρφωση γενικού πλαισίου για την ίση μεταχείριση στην απασχόληση και την εργασία (3) (οδηγία για την ίση μεταχείριση στην απασχόληση), |
|
— |
έχοντας υπόψη τον κανονισμό (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, σχετικά με την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της οδηγίας 95/46/ΕΚ (γενικός κανονισμός για την προστασία δεδομένων) (4) (ΓΚΠΔ), και την οδηγία (ΕΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα από αρμόδιες αρχές για τους σκοπούς της πρόληψης, διερεύνησης, ανίχνευσης ή δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της απόφασης-πλαίσιο 2008/977/ΔΕΥ του Συμβουλίου (5), |
|
— |
έχοντας υπόψη τη διοργανική συμφωνία της 13ης Απριλίου 2016 για τη βελτίωση της νομοθεσίας (6), |
|
— |
έχοντας υπόψη την πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 6ης Ιουνίου 2018, για τη θέσπιση του προγράμματος Ψηφιακή Ευρώπη για την περίοδο 2021-2027 (COM(2018)0434), |
|
— |
έχοντας υπόψη την ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών, της 11ης Δεκεμβρίου 2019, με τίτλο «Η Ευρωπαϊκή Πράσινη Συμφωνία» (COM(2019)0640), |
|
— |
έχοντας υπόψη την ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών, της 19ης Φεβρουαρίου 2020, με τίτλο «Λευκή Βίβλος για την Τεχνητή Νοημοσύνη — Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης» (COM(2020)0065), |
|
— |
έχοντας υπόψη την ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών, της 19ης Φεβρουαρίου 2020, με τίτλο «Ευρωπαϊκή στρατηγική για τα δεδομένα» (COM(2020)0066), |
|
— |
έχοντας υπόψη την ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών, της 19ης Φεβρουαρίου 2020, με τίτλο «Διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης» (COM(2020)0067), |
|
— |
έχοντας υπόψη τα συμπεράσματα του Συμβουλίου της Ευρωπαϊκής Ένωσης σχετικά με τη διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης, που εγκρίθηκαν τον Ιούνιο του 2020, |
|
— |
έχοντας υπόψη το ψήφισμά του της 16ης Φεβρουαρίου 2017 με συστάσεις προς την Επιτροπή σχετικά με ρυθμίσεις αστικού δικαίου στον τομέα της ρομποτικής (7), |
|
— |
έχοντας υπόψη το ψήφισμά του της 1ης Ιουνίου 2017 σχετικά με την ψηφιοποίηση της ευρωπαϊκής βιομηχανίας (8), |
|
— |
έχοντας υπόψη το ψήφισμά του της 12ης Σεπτεμβρίου 2018 σχετικά με τα αυτόνομα οπλικά συστήματα (9), |
|
— |
έχοντας υπόψη το ψήφισμά του της 11ης Σεπτεμβρίου 2018 σχετικά με τη γλωσσική ισότητα στην ψηφιακή εποχή (10), |
|
— |
έχοντας υπόψη το ψήφισμά του της 12ης Φεβρουαρίου 2019 σχετικά με μια ολοκληρωμένη ευρωπαϊκή βιομηχανική πολιτική για την τεχνητή νοημοσύνη και τη ρομποτική (11), |
|
— |
έχοντας υπόψη την έκθεση της ομάδας εμπειρογνωμόνων υψηλού επιπέδου της Επιτροπής για την τεχνητή νοημοσύνη, με τίτλο «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη», που δημοσιεύθηκε στις 8 Απριλίου 2019, |
|
— |
έχοντας υπόψη τη μελέτη εκτίμησης της ευρωπαϊκής προστιθέμενης αξίας που εκπόνησε η Μονάδα Ευρωπαϊκής Προστιθέμενης Αξίας της Υπηρεσίας Έρευνας του Ευρωπαϊκού Κοινοβουλίου με τίτλο «European framework on ethical aspects of artificial intelligence, robotics and related technologies: European added value assessment» (12), |
|
— |
έχοντας υπόψη τα ενημερωτικά σημειώματα που συντάχθηκαν και τις μελέτες που εκπονήθηκαν κατόπιν αιτήματος της Επιτροπής για το Μέλλον της Επιστήμης και της Τεχνολογίας (STOA), η οποία υπάγεται στη Μονάδα Διερεύνησης Επιστημονικών Προοπτικών της Υπηρεσίας Έρευνας του Ευρωπαϊκού Κοινοβουλίου, με τους εξής τίτλους: «What if algorithms could abide by ethical principles?» (Τι θα συνέβαινε εάν οι αλγόρθμοι μπορούσαν να τηρήσουν δεοντολογικές αρχές;), «Artificial Intelligence ante portas: Legal & ethical reflections» (Τεχνητή νοημοσύνη προ των πυλών: Προβληματισμός σε νομικό και δεοντολογικό επίπεδο), «A governance framework for algorithmic accountability and transparency» (Πλαίσιο διακυβέρνησης για την αλγοριθμική λογοδοσία και διαφάνεια), «Should we fear artificial intelligence?» (Θα πρέπει να φοβόμαστε την τεχνητή νοημοσύνη;) και «The ethics of artificial intelligence: Issues and initiatives» (Η δεοντολογία της τεχνητής νοημοσύνης: Ζητήματα και πρωτοβουλίες), |
|
— |
έχοντας υπόψη τη Σύμβαση-πλαίσιο του Συμβουλίου της Ευρώπης για την προστασία των εθνικών μειονοτήτων, το πρωτόκολλο αριθ. 12 της Σύμβασης για την προάσπιση των δικαιωμάτων του ανθρώπου και των θεμελιωδών ελευθεριών και τον Ευρωπαϊκό Χάρτη για τις περιφερειακές ή μειονοτικές γλώσσες, |
|
— |
έχοντας υπόψη τη σύσταση του Συμβουλίου του ΟΟΣΑ σχετικά με την τεχνητή νοημοσύνη που εγκρίθηκε στις 22 Μαΐου 2019, |
|
— |
έχοντας υπόψη τα άρθρα 47 και 54 του Κανονισμού του, |
|
— |
έχοντας υπόψη τις γνωμοδοτήσεις της Επιτροπής Εξωτερικών Υποθέσεων, της Επιτροπής Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών, της Επιτροπής Μεταφορών και Τουρισμού, της Επιτροπής Πολιτικών Ελευθεριών, Δικαιοσύνης και Εσωτερικών Υποθέσεων, της Επιτροπής Απασχόλησης και Κοινωνικών Υποθέσεων, της Επιτροπής Περιβάλλοντος, Δημόσιας Υγείας και Ασφάλειας των Τροφίμων, και της Επιτροπής Πολιτισμού και Παιδείας, |
|
— |
έχοντας υπόψη την έκθεση της Επιτροπής Νομικών Θεμάτων (A9-0186/2020), |
Εισαγωγή
|
A. |
λαμβάνοντας υπόψη ότι η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης (επίσης καλούμενη «TN»), της ρομποτικής και των συναφών τεχνολογιών πραγματοποιούνται από ανθρώπους, των οποίων οι επιλογές καθορίζουν τις δυνατότητες των εν λόγω τεχνολογιών να ωφελήσουν την κοινωνία· |
|
B. |
λαμβάνοντας υπόψη ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες που έχουν τη δυνατότητα να δημιουργήσουν ευκαιρίες για τις επιχειρήσεις και οφέλη για τους πολίτες και μπορούν να έχουν άμεσο αντίκτυπο σε όλες τις πτυχές των κοινωνιών μας, συμπεριλαμβανομένων των θεμελιωδών δικαιωμάτων και των κοινωνικών και οικονομικών αρχών και αξιών, καθώς και να έχουν διαρκή επιρροή σε όλους τους τομείς δραστηριότητας, προωθούνται και αναπτύσσονται γρήγορα· |
|
Γ. |
λαμβάνοντας υπόψη ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες θα επιφέρουν ουσιαστικές αλλαγές στην αγορά εργασίας και στον χώρο εργασίας· λαμβάνοντας υπόψη ότι αυτές μπορούν δυνητικά να αντικαταστήσουν εργαζομένους που εκτελούν επαναλαμβανόμενες δραστηριότητες, να διευκολύνουν τα συνεργατικά συστήματα εργασίας ανθρώπου-μηχανής, να αυξήσουν την ανταγωνιστικότητα και την ευημερία και να δημιουργήσουν νέες ευκαιρίες απασχόλησης για ειδικευμένους εργαζόμενους, θέτοντας ταυτόχρονα μια σοβαρή πρόκληση όσον αφορά την αναδιοργάνωση του εργατικού δυναμικού· |
|
Δ. |
λαμβάνοντας υπόψη ότι η ανάπτυξη της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών μπορεί επίσης να συμβάλει στην επίτευξη των στόχων βιωσιμότητας της Ευρωπαϊκής Πράσινης Συμφωνίας σε πολλούς διαφορετικούς τομείς· λαμβάνοντας υπόψη ότι οι ψηφιακές τεχνολογίες μπορούν να ενισχύσουν τον αντίκτυπο των πολιτικών όσον αφορά την προστασία του περιβάλλοντος· λαμβάνοντας υπόψη μπορούν επίσης να συμβάλουν στη μείωση της κυκλοφοριακής συμφόρησης, καθώς και των εκπομπών αερίων του θερμοκηπίου και ατμοσφαιρικών ρύπων· |
|
Ε. |
λαμβάνοντας υπόψη ότι, σε τομείς όπως οι δημόσιες μεταφορές, μπορούν να χρησιμοποιηθούν ευφυή συστήματα μεταφορών υποστηριζόμενα από την ΤΝ, με σκοπό να ελαχιστοποιηθεί η αναμονή σε ουρές, να βελτιστοποιηθεί η δρομολόγηση, να αυξηθεί η ανεξαρτησία των ατόμων με αναπηρίες και να αυξηθεί η ενεργειακή απόδοση, έτσι ώστε να ενισχυθούν οι προσπάθειες για απαλλαγή από τις ανθρακούχες εκπομπές και να μειωθεί το περιβαλλοντικό αποτύπωμα· |
|
ΣΤ. |
λαμβάνοντας υπόψη ότι οι τεχνολογίες αυτές δημιουργούν επιχειρηματικές ευκαιρίες που μπορούν να συμβάλουν στην ανάκαμψη της βιομηχανίας της Ένωσης μετά την τρέχουσα κρίση στον τομέα της υγείας και της οικονομίας, εφόσον αυξηθεί η χρήση τους στον τομέα των μεταφορών· λαμβάνοντας υπόψη ότι οι εν λόγω ευκαιρίες μπορούν να δημιουργήσουν νέες θέσεις εργασίας, καθώς η υιοθέτηση αυτών των τεχνολογιών έχει τη δυνατότητα να αυξήσει τα επίπεδα παραγωγικότητας των επιχειρήσεων και να συμβάλει στην αύξηση της αποδοτικότητας· λαμβάνοντας υπόψη ότι τα προγράμματα καινοτομίας στον εν λόγω τομέα μπορούν να δώσουν σε περιφερειακούς συνεργατικούς σχηματισμούς τη δυνατότητα να ευδοκιμήσουν· |
|
Ζ. |
λαμβάνοντας υπόψη ότι η Ένωση και τα κράτη μέλη της έχουν ιδιαίτερη ευθύνη να αξιοποιήσουν, να προωθήσουν και να ενισχύσουν την προστιθέμενη αξία της τεχνητής νοημοσύνης, και να διασφαλίσουν ότι οι τεχνολογίες ΤΝ είναι ασφαλείς και εξυπηρετούν την ευημερία και το γενικό συμφέρον των πολιτών τους, δεδομένου ότι μπορούν να συμβάλουν σημαντικά στην επίτευξη του κοινού στόχου για βελτίωση της ζωής των πολιτών και για προαγωγή της ευμάρειας εντός της Ένωσης, προωθώντας την ανάπτυξη καλύτερων στρατηγικών και την καινοτομία σε διάφορους τομείς και κλάδους· λαμβάνοντας υπόψη ότι, προκειμένου να αξιοποιηθεί πλήρως το δυναμικό της τεχνητής νοημοσύνης και να ευαισθητοποιηθούν οι χρήστες σχετικά με τα οφέλη και τις προκλήσεις που συνεπάγονται οι τεχνολογίες ΤΝ, είναι αναγκαίο να συμπεριληφθεί η ΤΝ ή ο ψηφιακός γραμματισμός στην εκπαίδευση και την κατάρτιση, μεταξύ άλλων σε ό,τι αφορά την προώθηση της ψηφιακής ένταξης, και να διεξαχθούν ενημερωτικές εκστρατείες σε επίπεδο Ένωσης, οι οποίες να απεικονίζουν επακριβώς όλες τις πτυχές της ανάπτυξης της ΤΝ· |
|
Η. |
λαμβάνοντας υπόψη ότι ένα κοινό ενωσιακό πλαίσιο για την εγκατάσταση, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών θα πρέπει να προστατεύει τους πολίτες από πιθανούς κινδύνους που αυτές εγκυμονούν, καθώς και να προάγει την αξιοπιστία των εν λόγω τεχνολογιών σε παγκόσμιο επίπεδο· λαμβάνοντας υπόψη ότι το εν λόγω πλαίσιο θα πρέπει να βασίζεται στο δίκαιο και τις αξίες της Ένωσης και να διέπεται από τις αρχές της διαφάνειας, της εξηγησιμότητας, της αμεροληψίας, της λογοδοσίας και της ευθύνης· |
|
Θ. |
λαμβάνοντας υπόψη ότι ένα τέτοιο ρυθμιστικό πλαίσιο έχει καίρια σημασία για την αποφυγή του κατακερματισμού της εσωτερικής αγοράς, ο οποίος απορρέει από τις διαφορετικές εθνικές νομοθεσίες, και θα συμβάλει στην προώθηση των απαραίτητων επενδύσεων, στην ανάπτυξη υποδομών δεδομένων και στη στήριξη της έρευνας· λαμβάνοντας υπόψη ότι θα πρέπει να αποτελείται από κοινές νομικές υποχρεώσεις και δεοντολογικές αρχές, όπως ορίζονται στην πρόταση κανονισμού που ζητείται στο παράρτημα του παρόντος ψηφίσματος· λαμβάνοντας υπόψη ότι θα πρέπει να θεσπιστεί σύμφωνα με τις κατευθυντήριες γραμμές για τη βελτίωση της νομοθεσίας· |
|
Ι. |
λαμβάνοντας υπόψη ότι η Ένωση διαθέτει ένα αυστηρό νομικό πλαίσιο για τη διασφάλιση, μεταξύ άλλων, της προστασίας των δεδομένων προσωπικού χαρακτήρα, της ιδιωτικής ζωής και της μη διακριτικής μεταχείρισης, και για την προώθηση της ισότητας των φύλων, της προστασίας του περιβάλλοντος και των δικαιωμάτων των καταναλωτών· λαμβάνοντας υπόψη ότι ένα τέτοιο νομικό πλαίσιο που συνίσταται σε ένα ευρύ σύνολο οριζόντιας και τομεακής νομοθεσίας, συμπεριλαμβανομένων των υφιστάμενων κανόνων για την ασφάλεια των προϊόντων και την ευθύνη, θα εξακολουθήσει να εφαρμόζεται σε σχέση με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, μολονότι ενδέχεται να είναι αναγκαίες ορισμένες προσαρμογές συγκεκριμένων νομικών μέσων, προκειμένου να αντικατοπτρίζεται ο ψηφιακός μετασχηματισμός και να αντιμετωπίζονται οι νέες προκλήσεις που θέτει η χρήση της τεχνητής νοημοσύνης· |
|
ΙΑ. |
λαμβάνοντας υπόψη ότι υπάρχουν ανησυχίες ότι το τρέχον νομικό πλαίσιο της Ένωσης, συμπεριλαμβανομένων του κεκτημένου στον τομέα του δικαίου για την προστασία των καταναλωτών και του εργασιακού και κοινωνικού κεκτημένου, της νομοθεσίας για την προστασία των προσωπικών δεδομένων, της νομοθεσίας για την ασφάλεια των προϊόντων και την εποπτεία της αγοράς, καθώς και της νομοθεσίας για την καταπολέμηση των διακρίσεων, ενδέχεται να μην είναι πλέον κατάλληλο για τον σκοπό της αποτελεσματικής αντιμετώπισης των κινδύνων που δημιουργούνται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες· |
|
ΙΒ. |
λαμβάνοντας υπόψη ότι, εκτός από την προσαρμογή της υφιστάμενης νομοθεσίας, τα νομικά και δεοντολογικά ζητήματα που σχετίζονται με τις τεχνολογίες ΤΝ θα πρέπει να αντιμετωπιστούν μέσω ενός αποτελεσματικού, ολοκληρωμένου και διαχρονικού κανονιστικού πλαισίου βάσει του δικαίου της Ένωσης, το οποίο θα αντικατοπτρίζει τις αρχές και τις αξίες της Ένωσης, όπως κατοχυρώνονται στις Συνθήκες και στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης («Χάρτης»), θα περιορίζεται στην κάλυψη των υφιστάμενων νομικών κενών, αποφεύγοντας την υπερβολική ρύθμιση, και θα ενισχύει την ασφάλεια δικαίου τόσο για τις επιχειρήσεις όσο και για τους πολίτες, μεταξύ άλλων προβλέποντας υποχρεωτικά μέτρα για την πρόληψη πρακτικών που θα μπορούσαν αναμφίβολα να υπονομεύσουν τα θεμελιώδη δικαιώματα· |
|
ΙΓ. |
λαμβάνοντας υπόψη ότι κάθε νέο ρυθμιστικό πλαίσιο πρέπει να λαμβάνει υπόψη όλα τα διακυβευόμενα συμφέροντα· λαμβάνοντας υπόψη ότι η προσεκτική εξέταση των συνεπειών οποιουδήποτε νέου κανονιστικού πλαισίου για όλους τους παράγοντες στο πλαίσιο μιας εκτίμησης αντικτύπου θα πρέπει να αποτελεί προϋπόθεση για περαιτέρω νομοθετικά μέτρα· λαμβάνοντας υπόψη ότι ο κρίσιμος ρόλος των μικρών και μεσαίων επιχειρήσεων (ΜΜΕ) και των νεοφυών επιχειρήσεων, ιδίως στην οικονομία της Ένωσης, δικαιολογεί μια αυστηρά αναλογική προσέγγιση που θα τους επιτρέψει να αναπτυχθούν και να καινοτομήσουν· |
|
ΙΔ. |
λαμβάνοντας υπόψη ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες μπορούν να έχουν σοβαρές επιπτώσεις για την υλική και άυλη ακεραιότητα των ατόμων, των ομάδων και της κοινωνίας στο σύνολό της, και ότι η δυνητική ατομική και συλλογική βλάβη πρέπει να αντιμετωπιστεί με νομοθετικές απαντήσεις· |
|
ΙΕ. |
λαμβάνοντας υπόψη ότι, προκειμένου να τηρηθεί ένα ενωσιακό κανονιστικό πλαίσιο για την τεχνητή νοημοσύνη, ενδέχεται να χρειαστεί να θεσπιστούν ειδικοί κανόνες για τον τομέα των μεταφορών της Ένωσης· |
|
ΙΣΤ. |
λαμβάνοντας υπόψη ότι οι τεχνολογίες τεχνητής νοημοσύνης έχουν στρατηγική σημασία για τον τομέα των μεταφορών, μεταξύ άλλων επειδή αυξάνουν την ασφάλεια και την προσβασιμότητα όλων των τρόπων μεταφοράς και δημιουργούν νέες ευκαιρίες απασχόλησης και πιο βιώσιμα επιχειρηματικά μοντέλα· λαμβάνοντας υπόψη ότι μια ενωσιακή προσέγγιση για την ανάπτυξη της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών στον τομέα των μεταφορών έχει τη δυνατότητα να αυξήσει την παγκόσμια ανταγωνιστικότητα και τη στρατηγική αυτονομία της οικονομίας της Ένωσης· |
|
ΙΖ. |
λαμβάνοντας υπόψη ότι το ανθρώπινο λάθος εξακολουθεί να εμπλέκεται σε περίπου 95 % όλων των τροχαίων ατυχημάτων στην Ένωση· λαμβάνοντας υπόψη ότι η Ένωση είχε ως στόχο να μειώσει τους ετήσιους θανάτους από τροχαία ατυχήματα στην Ένωση κατά 50 % έως το 2020 σε σύγκριση με το 2010, αλλά, δεδομένης της στασιμότητας της προόδου, ανανέωσε τις προσπάθειες της στο πλαίσιο πολιτικής της ΕΕ για την οδική ασφάλεια 2021-2030 — Επόμενα βήματα προς το «Όραμα μηδενικών απωλειών»· λαμβάνοντας υπόψη ότι, εν προκειμένω, η ΤΝ, η αυτοματοποίηση και άλλες νέες τεχνολογίες έχουν μεγάλες δυνατότητες και ζωτική σημασία για την αύξηση της οδικής ασφάλειας μέσω της μείωσης των πιθανοτήτων ανθρώπινου σφάλματος· |
|
ΙΗ. |
λαμβάνοντας υπόψη ότι το ενωσιακό κανονιστικό πλαίσιο για την τεχνητή νοημοσύνη θα πρέπει επίσης να αντικατοπτρίζει την ανάγκη για διασφάλιση του σεβασμού των δικαιωμάτων των εργαζομένων· λαμβάνοντας υπόψη ότι θα πρέπει να συνεκτιμηθεί η συμφωνία-πλαίσιο για την ψηφιοποίηση που συνήφθη από τους Ευρωπαίους κοινωνικούς εταίρους τον Ιούνιο του 2020· |
|
ΙΘ. |
λαμβάνοντας υπόψη ότι το πεδίο εφαρμογής του ενωσιακού κανονιστικού πλαισίου για την τεχνητή νοημοσύνη θα πρέπει να είναι επαρκές, αναλογικό και να αξιολογείται ενδελεχώς· λαμβάνοντας υπόψη ότι θα πρέπει να καλύπτει ευρύ φάσμα τεχνολογιών και των συνιστωσών τους, συμπεριλαμβανομένων των αλγορίθμων, του λογισμικού και των δεδομένων που χρησιμοποιούνται ή παράγονται από αυτές, και ότι χρειάζεται να υιοθετηθεί μια στοχευμένη προσέγγιση βάσει κινδύνου, προκειμένου να αποφευχθούν η παρακώλυση της μελλοντικής καινοτομίας και η δημιουργία περιττών επιβαρύνσεων, ιδίως για τις ΜΜΕ· λαμβάνοντας υπόψη ότι η ποικιλομορφία των εφαρμογών που βασίζονται στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες περιπλέκει τις προσπάθειες για την εξεύρεση ενιαίας λύσης, κατάλληλης για ολόκληρο το φάσμα των κινδύνων· |
|
Κ. |
λαμβάνοντας υπόψη ότι η ανάλυση δεδομένων και η ΤΝ έχουν ολοένα και μεγαλύτερο αντίκτυπο στις πληροφορίες που καθίστανται προσβάσιμες στους πολίτες· λαμβάνοντας υπόψη ότι οι εν λόγω τεχνολογίες, σε περίπτωση κατάχρησής τους, ενδέχεται να θέσουν σε κίνδυνο τα θεμελιώδη δικαιώματα της ελευθερίας της έκφρασης και της πληροφόρησης, καθώς και την ελευθερία και την πολυφωνία των μέσων ενημέρωσης· |
|
ΚΑ. |
λαμβάνοντας υπόψη ότι το γεωγραφικό πεδίο εφαρμογής του ενωσιακού κανονιστικού πλαισίου για την ΤΝ θα πρέπει να καλύπτει όλες τις συνιστώσες της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών που αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση, μεταξύ άλλων σε περιπτώσεις όπου μέρος αυτών των τεχνολογιών μπορεί να βρίσκεται εκτός της Ένωσης ή να μην έχει συγκεκριμένη γεωγραφική θέση· |
|
ΚΒ. |
λαμβάνοντας υπόψη ότι το ενωσιακό κανονιστικό πλαίσιο για την τεχνητή νοημοσύνη θα πρέπει να καλύπτει όλα τα σχετικά στάδια, και συγκεκριμένα την ανάπτυξη, την εφαρμογή και τη χρήση των σχετικών τεχνολογιών και των συνιστωσών τους, απαιτώντας τη δέουσα συνεκτίμηση των σχετικών νομικών υποχρεώσεων και δεοντολογικών αρχών, και να θέτει τις προϋποθέσεις ώστε να διασφαλίζεται ότι οι φορείς ανάπτυξης, οι φορείς εφαρμογής και οι χρήστες συμμορφώνονται πλήρως με τις εν λόγω υποχρεώσεις και αρχές· |
|
ΚΓ. |
λαμβάνοντας υπόψη ότι η εναρμονισμένη προσέγγιση όσον αφορά τις δεοντολογικές αρχές για την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες απαιτεί να αναπτυχθεί, σε επίπεδο Ένωσης, μια κοινή αντίληψη των εννοιών που αποτελούν τη βάση των τεχνολογιών, όπως, για παράδειγμα, οι αλγόριθμοι, το λογισμικό, τα δεδομένα και η βιομετρική αναγνώριση· |
|
ΚΔ. |
λαμβάνοντας υπόψη ότι η λήψη μέτρων σε επίπεδο Ένωσης δικαιολογείται από την ανάγκη να αποφευχθεί ο κανονιστικός κατακερματισμός ή η ύπαρξη μιας σειράς εθνικών κανονιστικών διατάξεων χωρίς κοινό παρονομαστή και να διασφαλιστεί η ομοιόμορφη εφαρμογή των κοινών δεοντολογικών αρχών που κατοχυρώνονται στη νομοθεσία κατά την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών υψηλού κινδύνου· λαμβάνοντας υπόψη ότι απαιτούνται σαφείς κανόνες όταν οι κίνδυνοι είναι σημαντικοί· |
|
ΚΕ. |
λαμβάνοντας υπόψη ότι οι κοινές δεοντολογικές αρχές είναι αποτελεσματικές μόνον εφόσον κατοχυρώνονται στη νομοθεσία και ορίζονται φορείς αρμόδιοι για τη διασφάλιση, την αξιολόγηση και την παρακολούθηση της συμμόρφωσης προς αυτές· |
|
ΚΣΤ. |
λαμβάνοντας υπόψη ότι η δεοντολογική καθοδήγηση, όπως οι αρχές που έχουν εγκριθεί από την ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη, αποτελούν μια καλή αφετηρία, αλλά δεν αρκούν για να διασφαλιστεί ότι οι φορείς ανάπτυξης, οι φορείς εφαρμογής και οι χρήστες ενεργούν με θεμιτό τρόπο και εγγυώνται την αποτελεσματική προστασία των μεμονωμένων ατόμων· λαμβάνοντας υπόψη ότι η καθοδήγηση αυτή είναι ακόμη πιο σημαντική όσον αφορά την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες υψηλού κινδύνου· |
|
ΚΖ. |
λαμβάνοντας υπόψη ότι κάθε κράτος μέλος θα πρέπει να ορίσει μια εθνική εποπτική που θα είναι αρμόδια να διασφαλίζει, να αξιολογεί και να παρακολουθεί τη συμμόρφωση της ανάπτυξης, της εφαρμογής και της χρήσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών υψηλού κινδύνου με το κανονιστικό πλαίσιο της Ένωσης για την ΤΝ· και θα καθιστά δυνατή τη διεξαγωγή συζητήσεων και την ανταλλαγών απόψεων σε στενή συνεργασία με τα ενδιαφερόμενα μέρη και την κοινωνία των πολιτών· λαμβάνοντας υπόψη ότι οι εθνικές εποπτικές αρχές θα πρέπει να συνεργάζονται μεταξύ τους· |
|
ΚΗ. |
λαμβάνοντας υπόψη ότι, προκειμένου να διασφαλιστούν μια εναρμονισμένη προσέγγιση σε ολόκληρη την Ένωση και η βέλτιστη λειτουργία της ψηφιακής ενιαίας αγοράς, ο συντονισμός σε επίπεδο Ένωσης από την Επιτροπή και/ή κάθε σχετικά θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που μπορούν να οριστούν στο πλαίσιο αυτό θα πρέπει να αξιολογηθεί όσον αφορά τις νέες ευκαιρίες και προκλήσεις, ιδίως εκείνες διασυνοριακού χαρακτήρα, που προκύπτουν από τις τρέχουσες τεχνολογικές εξελίξεις· λαμβάνοντας υπόψη ότι, για τον σκοπό αυτό, θα πρέπει να ανατεθεί στην Επιτροπή η εξεύρεση κατάλληλης λύσης για τη διάρθρωση αυτού του συντονισμού σε επίπεδο Ένωσης· |
Ανθρωποκεντρική και ανθρωπογενής τεχνητή νοημοσύνη
|
1. |
είναι της άποψης ότι, με την επιφύλαξη της ειδικής τομεακής νομοθεσίας, χρειάζεται να θεσπιστεί ένα αποτελεσματικό και εναρμονισμένο κανονιστικό πλαίσιο που θα βασίζεται στο δίκαιο της Ένωσης, στον Χάρτη και στο διεθνές δίκαιο για τα ανθρώπινα δικαιώματα, και θα εφαρμόζεται ιδίως στις τεχνολογίες υψηλού κινδύνου, προκειμένου να καθιερωθούν ίσα πρότυπα σε ολόκληρη την Ένωση και να διασφαλιστεί η αποτελεσματική προστασία των αξιών της Ένωσης· |
|
2. |
πιστεύει ότι κάθε νέο κανονιστικό πλαίσιο για την ΤΝ που περιλαμβάνει νομικές υποχρεώσεις και δεοντολογικές αρχές για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών θα πρέπει να σέβεται πλήρως τον Χάρτη και, ως εκ τούτου, να σέβεται την ανθρώπινη αξιοπρέπεια, αυτονομία και αυτοδιάθεση του ατόμου, να προλαμβάνει τις επιβλαβείς συνέπειες, να προωθεί τη δικαιοσύνη, την ένταξη και τη διαφάνεια, να εξαλείφει τις προκαταλήψεις και τις διακρίσεις, μεταξύ άλλων όσον αφορά τις μειονοτικές ομάδες, να σέβεται και να συμμορφώνεται με τις αρχές του περιορισμού των αρνητικών εξωτερικών παραγόντων της χρησιμοποιούμενης τεχνολογίας, της διασφάλισης της εξηγησιμότητας των τεχνολογιών, και της εξασφάλισης ότι οι τεχνολογίες υπάρχουν για να εξυπηρετούν τους ανθρώπους και δεν τους αντικαθιστούν ούτε αποφασίζουν για αυτούς, με απώτερο στόχο την αύξηση της ευημερίας για όλους τους ανθρώπους· |
|
3. |
επισημαίνει την ασυμμετρία μεταξύ εκείνων που χρησιμοποιούν τεχνολογίες ΤΝ και εκείνων που αλληλεπιδρούν και υπόκεινται σε αυτές· τονίζει, στην συνάρτηση αυτή, ότι η εμπιστοσύνη των πολιτών στην ΤΝ μπορεί να οικοδομηθεί μόνο βάσει ενός κανονιστικού πλαισίου «δεοντολογίας εξ ορισμού και εκ σχεδιασμού» που θα διασφαλίζει ότι η ΤΝ που τίθεται σε λειτουργία σέβεται πλήρως και συμμορφώνεται με τις Συνθήκες, τον Χάρτη και το παράγωγο δίκαιο της Ένωσης· θεωρεί ότι η αξιοποίηση μιας τέτοιας προσέγγισης θα πρέπει να συνάδει με την αρχή της προφύλαξης που καθοδηγεί την ενωσιακή νομοθεσία, και θα πρέπει να βρίσκεται στο επίκεντρο οποιουδήποτε κανονιστικού πλαισίου για την ΤΝ· ζητεί, στο πλαίσιο αυτό, ένα σαφές και συνεκτικό πρότυπο διακυβέρνησης που θα επιτρέπει στις εταιρείες και στους φορείς καινοτομίας να αναπτύσσουν περαιτέρω την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες· |
|
4. |
πιστεύει ότι οποιαδήποτε νομοθετική δράση σχετίζεται με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες θα πρέπει να συνάδει με τις αρχές της αναγκαιότητας και της αναλογικότητας· |
|
5. |
θεωρεί ότι μια τέτοια προσέγγιση θα επιτρέψει στις εταιρείες να εισάγουν καινοτόμα προϊόντα στην αγορά και θα δημιουργήσει νέες ευκαιρίες, διασφαλίζοντας παράλληλα την προστασία των αξιών της Ένωσης, καθώς θα οδηγήσει στην ανάπτυξη συστημάτων ΤΝ που ενσωματώνουν τις δεοντολογικές αρχές της Ένωσης ήδη από τον σχεδιασμό· θεωρεί ότι ένα τέτοιο κανονιστικό πλαίσιο βασισμένο σε αξίες θα συνιστούσε προστιθέμενη αξία, καθώς θα παρείχε στην Ένωση ένα μοναδικό ανταγωνιστικό πλεονέκτημα και θα συνέβαλε σημαντικά στην ευημερία και την ευμάρεια των πολιτών και των επιχειρήσεων της Ένωσης τονώνοντας την εσωτερική αγορά· υπογραμμίζει ότι το εν λόγω κανονιστικό πλαίσιο για την ΤΝ θα παρέχει επίσης προστιθέμενη αξία όσον αφορά την προώθηση της καινοτομίας στην εσωτερική αγορά· πιστεύει ότι, για παράδειγμα, στον τομέα των μεταφορών, η προσέγγιση αυτή προσφέρει στις επιχειρήσεις της Ένωσης την ευκαιρία να καταστούν παγκόσμιοι ηγέτες στον συγκεκριμένο κλάδο· |
|
6. |
σημειώνει ότι το νομικό πλαίσιο της Ένωσης θα πρέπει να εφαρμόζεται στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες· |
|
7. |
σημειώνει ότι οι δυνατότητες που βασίζονται στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες στηρίζονται στα μαζικά δεδομένα, και ότι απαιτείται μια κρίσιμη μάζα δεδομένων για την εκπαίδευση των αλγορίθμων και τη βελτίωση των αποτελεσμάτων· χαιρετίζει, εν προκειμένω, την πρόταση της Επιτροπής να δημιουργηθεί ένας κοινός χώρος δεδομένων στην Ένωση με στόχο την ενίσχυση της ανταλλαγής δεδομένων και τη στήριξη της έρευνας, με πλήρη σεβασμό των ευρωπαϊκών κανόνων για την προστασία των δεδομένων· |
|
8. |
θεωρεί ότι το ισχύον νομικό πλαίσιο της Ένωσης, ιδίως όσον αφορά την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, θα πρέπει να εφαρμόζεται πλήρως στην ΤΝ, τη ρομποτική και τις συναφείς τεχνολογίες και πρέπει να επανεξετάζεται και να ελέγχεται τακτικά και να επικαιροποιείται, όπου είναι αναγκαίο, προκειμένου να αντιμετωπίζονται αποτελεσματικά οι κίνδυνοι που δημιουργούνται από τις εν λόγω τεχνολογίες, και, στο πλαίσιο αυτό, θα μπορούσε να επωφεληθεί από τη συμπλήρωσή του με ισχυρές κατευθυντήριες αρχές δεοντολογίας· επισημαίνει ότι, εκεί όπου θα ήταν πρόωρο να εγκριθούν νομικές πράξεις, θα πρέπει να χρησιμοποιηθεί ένα μη δεσμευτικό πλαίσιο· |
|
9. |
αναμένει από την Επιτροπή να ενσωματώσει στη νομοθετική πρόταση που ζητείται στο παράρτημα του παρόντος ψηφίσματος μια ισχυρή δεοντολογική προσέγγιση, ως συνέχεια της Λευκής Βίβλου για την τεχνητή νοημοσύνη, μεταξύ άλλων όσον αφορά την ασφάλεια, την ευθύνη και τα θεμελιώδη δικαιώματα, που θα μεγιστοποιεί τις ευκαιρίες και θα ελαχιστοποιεί τους κινδύνους των τεχνολογιών ΤΝ· αναμένει ότι η ζητούμενη νομοθετική πρόταση θα περιλαμβάνει λύσεις πολιτικής για τους μείζονες αναγνωρισμένους κινδύνους της τεχνητής νοημοσύνης, συμπεριλαμβανομένων, μεταξύ άλλων, της δεοντολογικής συλλογής και χρήσης μαζικών δεδομένων, του ζητήματος της αλγοριθμικής διαφάνειας και της αλγοριθμικής μεροληψίας· καλεί την Επιτροπή να αναπτύξει κριτήρια και δείκτες για την επισήμανση της τεχνολογίας ΤΝ, προκειμένου να ενισχυθούν η διαφάνεια, η εξηγησιμότητα και η λογοδοσία και να δοθούν κίνητρα για πρόσθετες προφυλάξεις από τους προγραμματιστές· τονίζει την ανάγκη να πραγματοποιηθούν επενδύσεις στην ενσωμάτωση μη τεχνικών κλάδων στη μελέτη και την έρευνα για την ΤΝ, ώστε να λαμβάνεται υπόψη το κοινωνικό πλαίσιο· |
|
10. |
φρονεί ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες πρέπει να είναι προσαρμοσμένες στις ανθρώπινες ανάγκες σύμφωνα με την αρχή ότι η ανάπτυξη, η εφαρμογή και η χρήση τους θα πρέπει πάντα να τίθενται στην υπηρεσία των ανθρώπων, και όχι το αντίστροφο, και θα πρέπει να επιδιώκουν την προαγωγή της ευημερίας και της ατομικής ελευθερίας, καθώς και τη διατήρηση της ειρήνης, την πρόληψη των συγκρούσεων και την ενίσχυση της διεθνούς ασφάλειας, μεγιστοποιώντας παράλληλα τα οφέλη που προσφέρουν και αποτρέποντας και μειώνοντας τους κινδύνους που συνδέονται με αυτές· |
|
11. |
δηλώνει ότι, η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, μεταξύ άλλων, αλλά όχι αποκλειστικά, από ανθρώπους, θα πρέπει πάντα να καθοδηγούνται από δεοντολογικές αρχές και να σχεδιάζονται έτσι ώστε να σέβονται και να επιτρέπουν την ανθρώπινη παρέμβαση και τη δημοκρατική εποπτεία, καθώς και την ανάκτηση του ελέγχου από τον άνθρωπο, όταν χρειάζεται, με την εφαρμογή κατάλληλων μέτρων ελέγχου· |
Εκτίμηση κινδύνου
|
12. |
τονίζει ότι κάθε μελλοντικός κανονισμό θα πρέπει να ακολουθεί μια διαφοροποιημένη και μελλοντοστραφή προσέγγιση βάσει κινδύνου για τη ρύθμιση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων τεχνολογικά ουδέτερων προτύπων σε όλους τους τομείς, με ειδικά ανά τομέα πρότυπα όπου αρμόζει· σημειώνει ότι, προκειμένου να διασφαλιστούν η ομοιόμορφη εφαρμογή του συστήματος εκτίμησης κινδύνου και η συμμόρφωση με τις σχετικές νομικές υποχρεώσεις για την εξασφάλιση ισότιμων όρων ανταγωνισμού μεταξύ των κρατών μελών και την πρόληψη του κατακερματισμού της εσωτερικής αγοράς, χρειάζεται να καταρτιστεί ένας εξαντλητικός και σωρευτικός κατάλογος τομέων και χρήσεων ή σκοπών υψηλού κινδύνου· τονίζει ότι ένας τέτοιος κατάλογος πρέπει να αποτελεί αντικείμενο τακτικής επαναξιολόγησης, και σημειώνει ότι, δεδομένης της εξελισσόμενης φύσης αυτών των τεχνολογιών, ο τρόπος με τον οποίο διενεργείται η εκτίμηση κινδύνου ενδέχεται να χρειαστεί να επανεξεταστεί στο μέλλον· |
|
13. |
εκτιμά ότι ο προσδιορισμός του κατά πόσον η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες θα πρέπει να θεωρούνται υψηλού κινδύνου και, επομένως, να τηρούν υποχρεωτικά με τις νομικές υποχρεώσεις και τις δεοντολογικές αρχές που ορίζονται στο κανονιστικό πλαίσιο για την ΤΝ, θα πρέπει πάντα να προκύπτει από αμερόληπτη, ρυθμιζόμενη και εξωτερική εκ των προτέρων αξιολόγηση βάσει συγκεκριμένων και καθορισμένων κριτηρίων· |
|
14. |
θεωρεί, στο πλαίσιο αυτό, ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες θα πρέπει να θεωρούνται υψηλού κινδύνου, όταν η ανάπτυξη, η εφαρμογή και η χρήση τους συνεπάγονται σημαντικό κίνδυνο να προκληθεί τραυματισμός ή βλάβη σε μεμονωμένα άτομα ή στην κοινωνία, κατά παράβαση των θεμελιωδών δικαιωμάτων και των κανόνων ασφαλείας που ορίζονται στο δίκαιο της Ένωσης· φρονεί ότι, για τους σκοπούς της αξιολόγησης του κατά πόσον οι τεχνολογίες ΤΝ ενέχουν τέτοιο κίνδυνο, θα πρέπει να λαμβάνονται υπόψη ο τομέας στον οποίο αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται, η συγκεκριμένη χρήση ή ο σκοπός τους, και η σοβαρότητα του τραυματισμού ή της βλάβης που αναμένεται ότι θα επέλθει· το πρώτο και το δεύτερο κριτήριο, δηλαδή ο τομέας και η συγκεκριμένη χρήση ή ο σκοπός, θα πρέπει να λαμβάνονται υπόψη σωρευτικά· |
|
15. |
υπογραμμίζει ότι η εκτίμηση των κινδύνων των τεχνολογιών αυτών θα πρέπει να πραγματοποιείται με βάση έναν εξαντλητικό και σωρευτικό κατάλογο τομέων, χρήσεων και σκοπών υψηλού κινδύνου· πιστεύει ακράδαντα ότι θα πρέπει να υπάρχει συνοχή εντός της Ένωσης όσον αφορά την εκτίμηση των κινδύνων των εν λόγω τεχνολογιών, ιδίως όταν αυτές αξιολογούνται τόσο μέσα από το πρίσμα της συμμόρφωσής τους με το κανονιστικό πλαίσιο για την ΤΝ όσο και σύμφωνα με οποιαδήποτε άλλη ισχύουσα ειδική τομεακή νομοθεσία· |
|
16. |
θεωρεί ότι αυτή η προσέγγιση βάσει κινδύνου θα πρέπει να αναπτυχθεί κατά τρόπο ώστε η διοικητική επιβάρυνση για τις επιχειρήσεις, και ιδίως τις ΜΜΕ, να περιοριστεί όσο το δυνατόν περισσότερο με τη χρήση υφιστάμενων εργαλείων· στα εν λόγω εργαλεία περιλαμβάνονται, μεταξύ άλλων, ο κατάλογος εκτίμησης αντικτύπου σχετικά με την προστασία των δεδομένων, που προβλέπεται στον κανονισμό (ΕΕ) 2016/679· |
Χαρακτηριστικά ασφαλείας, διαφάνεια και λογοδοσία
|
17. |
υπενθυμίζει ότι το δικαίωμα ενημέρωσης των καταναλωτών κατοχυρώνεται ως βασική αρχή του δικαίου της Ένωσης, και υπογραμμίζει ότι, επομένως, θα πρέπει να εφαρμόζεται πλήρως σε σχέση με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες· είναι της άποψης ότι θα πρέπει να περιλαμβάνει, ειδικότερα, τη διαφάνεια όσον αφορά την αλληλεπίδραση με τα συστήματα τεχνητής νοημοσύνης, συμπεριλαμβανομένων των διαδικασιών αυτοματισμού, και όσον αφορά τον τρόπο λειτουργίας τους, τις ικανότητές τους, π.χ. τον τρόπο φιλτραρίσματος και παρουσίασης των πληροφοριών, την ακρίβεια και τους περιορισμούς τους· θεωρεί ότι οι πληροφορίες αυτές θα πρέπει να παρέχονται στις εθνικές εποπτικές αρχές και στις εθνικές αρχές προστασίας των καταναλωτών· |
|
18. |
υπογραμμίζει ότι η εμπιστοσύνη των καταναλωτών είναι ουσιώδης για την ανάπτυξη και την υλοποίηση των εν λόγω τεχνολογιών, οι οποίες μπορεί να εγκυμονούν εγγενείς κινδύνους όταν βασίζονται σε αδιαφανείς αλγορίθμους και μεροληπτικά σύνολα δεδομένων· πιστεύει ότι οι καταναλωτές πρέπει να έχουν το δικαίωμα να ενημερώνονται με κατανοητό, έγκαιρο, τυποποιημένο, ακριβή και προσβάσιμο τρόπο για την ύπαρξη, τη συλλογιστική, την πιθανή έκβαση και τον αντίκτυπο για τους καταναλωτές αλγοριθμικών συστημάτων, για το πώς μπορούν να απευθυνθούν σε έναν άνθρωπο με εξουσίες λήψης αποφάσεων, καθώς και για το πώς μπορούν να ελέγχονται, να αμφισβητούνται ουσιαστικά και να διορθώνονται οι αποφάσεις του συστήματος· υπογραμμίζει, στο πλαίσιο αυτό, την ανάγκη να ληφθούν υπόψη και να τηρηθούν οι αρχές της ενημέρωσης και της δημοσιοποίησης επί των οποίων έχει οικοδομηθεί το κεκτημένο στον τομέα του δικαίου της προστασίας των καταναλωτών· θεωρεί ότι είναι αναγκαίο να παρέχονται λεπτομερείς πληροφορίες στους τελικούς χρήστες όσον αφορά τη λειτουργία των συστημάτων μεταφορών και των οχημάτων που υποστηρίζονται από την ΤΝ· |
|
19. |
επισημαίνει ότι είναι σημαντικό οι αλγόριθμοι και τα σύνολα δεδομένων που χρησιμοποιούνται ή παράγονται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες να μπορούν να εξηγηθούν και, όπου είναι απολύτως αναγκαίο και με πλήρη σεβασμό της ενωσιακής νομοθεσίας για την προστασία των δεδομένων, της ιδιωτικής ζωής, των δικαιωμάτων διανοητικής ιδιοκτησίας και του εμπορικού απορρήτου, να έχουν πρόσβαση σε αυτά δημόσιες αρχές, όπως οι εθνικές εποπτικές αρχές και οι αρχές εποπτείας της αγοράς· σημειώνει περαιτέρω ότι, σύμφωνα με τα αυστηρότερα ισχύοντα βιομηχανικά πρότυπα, η τεκμηρίωση θα πρέπει να αποθηκεύεται από εκείνους που εμπλέκονται στα διάφορα στάδια ανάπτυξης των τεχνολογιών υψηλού κινδύνου· επισημαίνει το ενδεχόμενο οι αρχές εποπτείας της αγοράς να διαθέτουν πρόσθετα προνόμια στο πλαίσιο αυτό· τονίζει εν προκειμένω τον ρόλο μιας σύννομης αντίστροφης μηχανικής· θεωρεί ότι η εξέταση της τρέχουσας νομοθεσίας για την εποπτεία της αγοράς ενδεχομένως να είναι απαραίτητη για να διασφαλιστεί ότι ανταποκρίνεται με δεοντολογικό τρόπο στην εμφάνιση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών· |
|
20. |
ζητεί να απαιτείται από τους φορείς ανάπτυξης και εφαρμογής των τεχνολογιών υψηλού κινδύνου να παρέχουν στις δημόσιες αρχές, εφόσον το υποδεικνύει μια εκτίμηση κινδύνου, τη σχετική τεκμηρίωση όσον αφορά τη χρήση, τον σχεδιασμό και τις οδηγίες ασφάλειας, συμπεριλαμβανομένων του πηγαίου κώδικα, των εργαλείων ανάπτυξης και των δεδομένων που χρησιμοποιούνται από το σύστημα, όπου αυτό είναι απολύτως αναγκαίο και με πλήρη σεβασμό της ενωσιακής νομοθεσίας για την προστασία των δεδομένων, της ιδιωτικής ζωής, των δικαιωμάτων διανοητικής ιδιοκτησίας και του εμπορικού απορρήτου· σημειώνει ότι μια τέτοια υποχρέωση θα καθιστούσε δυνατή την αξιολόγηση της συμμόρφωσής τους με το δίκαιο της Ένωσης και τις δεοντολογικές αρχές, επισημαίνει δε, στο πλαίσιο αυτό, το παράδειγμα της νόμιμης κατάθεσης δημοσιεύσεων σε εθνική βιβλιοθήκη· επισημαίνει τη σημαντική διάκριση μεταξύ διαφάνειας των αλγορίθμων και διαφάνειας στη χρήση των αλγορίθμων· |
|
21. |
σημειώνει περαιτέρω ότι, προκειμένου να γίνεται σεβαστές η ανθρώπινη αξιοπρέπεια, η αυτονομία και η ασφάλεια, θα πρέπει να λαμβάνονται δεόντως υπόψη τα ζωτικής σημασίας και εξελιγμένα ιατροτεχνολογικά προϊόντα, καθώς και η ανάγκη οι ανεξάρτητες αξιόπιστες αρχές να διατηρούν τα μέσα που είναι αναγκαία για την παροχή υπηρεσιών σε πρόσωπα που μεταφέρουν αυτές τις συσκευές, όταν οι υπηρεσίες αυτές δεν παρέχονται πλέον από τον αρχικό φορέα ανάπτυξης ή εφαρμογής· για παράδειγμα, οι υπηρεσίες αυτές θα περιλαμβάνουν συντήρηση, επισκευές και βελτιώσεις, συμπεριλαμβανομένων ενημερώσεων λογισμικού που αποκαθιστούν δυσλειτουργίες και τρωτότητες· |
|
22. |
υποστηρίζει ότι η τεχνητή νοημοσύνη υψηλού κινδύνου, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, ανεξάρτητα από τον τομέα στον οποίο αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται, θα πρέπει να αναπτύσσονται εκ σχεδιασμού με ασφαλή, ιχνηλάσιμο, τεχνικά εύρωστο, δεοντολογικό και νομικά δεσμευτικό τρόπο και να υπόκεινται σε ανεξάρτητο έλεγχο και εποπτεία· θεωρεί ειδικότερα ότι όλοι οι παράγοντες καθ’ όλο το μήκος των αλυσίδων ανάπτυξης και εφοδιασμού προϊόντων και υπηρεσιών τεχνητής νοημοσύνης θα πρέπει να είναι νομικά υπόλογοι, και τονίζει την ανάγκη να θεσπιστούν μηχανισμοί που θα διασφαλίζουν την ευθύνη και τη λογοδοσία· |
|
23. |
υπογραμμίζει ότι οι κανόνες και οι κατευθυντήριες γραμμές σχετικά με την εξηγησιμότητα, την επαληθευσιμότητα, την ιχνηλασιμότητα και τη διαφάνεια, καθώς και, όπου κρίνεται σκόπιμο και απολύτως αναγκαίο βάσει εκτίμησης κινδύνου και με πλήρη σεβασμό της νομοθεσίας της Ένωσης, όπως οι κανόνες για την προστασία των δεδομένων, της ιδιωτικής ζωής, των δικαιωμάτων διανοητικής ιδιοκτησίας και του εμπορικού απορρήτου, η πρόσβαση των δημόσιων αρχών στην τεχνολογία, τα δεδομένα και τα συστήματα πληροφορικής στα οποία βασίζονται οι εν λόγω τεχνολογίες, έχουν ουσιαστική σημασία για τη διασφάλισης της εμπιστοσύνης των πολιτών στις τεχνολογίες αυτές, ακόμη και αν ο βαθμός εξηγησιμότητας τελεί σε συνάρτηση με την πολυπλοκότητα των τεχνολογιών· επισημαίνει ότι ο λόγος για τον οποίο ένα μοντέλο οδήγησε σε συγκεκριμένο αποτέλεσμα ή σε συγκεκριμένη απόφαση δεν είναι πάντα δυνατόν να εξηγηθεί, με χαρακτηριστικό παράδειγμα τους αλγόριθμους μαύρου κουτιού· θεωρεί, επομένως, ότι ο σεβασμός αυτών των αρχών αποτελεί προϋπόθεση για τη διασφάλιση της λογοδοσίας· |
|
24. |
θεωρεί ότι οι πολίτες, συμπεριλαμβανομένων των καταναλωτών, όταν αλληλεπιδρούν με ένα σύστημα που χρησιμοποιεί την τεχνητή νοημοσύνη, ιδίως για την εξατομίκευση ενός προϊόντος ή μιας υπηρεσίας για τους χρήστες του, θα πρέπει να ενημερώνονται για το εάν και το πώς μπορούν να απενεργοποιήσουν ή να περιορίσουν τέτοια εξατομίκευση· |
|
25. |
επισημαίνει εν προκειμένω ότι, για να είναι αξιόπιστες, η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες πρέπει να είναι τεχνικά εύρωστες και ακριβείς· |
|
26. |
τονίζει ότι η προστασία των δικτύων διασυνδεδεμένης ΤΝ και ρομποτικής είναι σημαντική και ότι πρέπει να ληφθούν ισχυρά μέτρα για να αποτρέπονται οι παραβιάσεις της ασφάλειας, οι διαρροές δεδομένων, η δηλητηρίαση των δεδομένων, οι κυβερνοεπιθέσεις και η κατάχρηση δεδομένων προσωπικού χαρακτήρα και ότι αυτό θα απαιτεί από τους αρμόδιους οργανισμούς, φορείς και θεσμικά όργανα τόσο σε ενωσιακό όσο και σε εθνικό επίπεδο να συνεργάζονται με τους τελικούς χρήστες των εν λόγω τεχνολογιών· καλεί την Επιτροπή και τα κράτη μέλη να μεριμνήσουν ώστε οι αξίες της Ένωσης να τηρούνται και τα θεμελιώδη δικαιωμάτων να γίνονται σεβαστά ανά πάσα στιγμή κατά την ανάπτυξη και την εφαρμογή της τεχνολογίας ΤΝ, προκειμένου να διασφαλιστούν η ασφάλεια και η ανθεκτικότητα των ψηφιακών υποδομών της Ένωσης· |
Αποφυγή μεροληψίας και διακρίσεων
|
27. |
υπενθυμίζει ότι η τεχνητή νοημοσύνη, ανάλογα με τον τρόπο με τον οποίο αναπτύσσεται και χρησιμοποιείται, έχει τη δυνατότητα να δημιουργήσει και να ενισχύσει προκαταλήψεις, μεταξύ άλλων μέσω εγγενών προκαταλήψεων στα υποκείμενα σύνολα δεδομένων, και, επομένως, να οδηγήσει σε διάφορες μορφές αυτοματοποιημένων διακρίσεων, συμπεριλαμβανομένων των έμμεσων διακρίσεων, ιδίως όσον αφορά ομάδες ατόμων με παρόμοια χαρακτηριστικά· καλεί την Επιτροπή και τα κράτη μέλη να λάβουν κάθε δυνατό μέτρο για την αποφυγή τέτοιων προκαταλήψεων και να διασφαλίσουν την πλήρη προστασία των θεμελιωδών δικαιωμάτων· |
|
28. |
εκφράζει τον προβληματισμό του για τους κινδύνους μεροληψίας και διακρίσεων κατά την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες· υπενθυμίζει ότι, σε κάθε περίπτωση, θα πρέπει να σέβονται το δίκαιο της Ένωσης, καθώς και τα ανθρώπινα δικαιώματα και την αξιοπρέπεια, την αυτονομία και την αυτοδιάθεση του ατόμου, και να διασφαλίζουν την ίση μεταχείριση και την απαγόρευση των διακρίσεων για όλους· |
|
29. |
τονίζει ότι οι τεχνολογίες ΤΝ θα πρέπει να σχεδιάζονται έτσι ώστε να σέβονται, να εξυπηρετούν και να προστατεύουν τις αξίες και τη σωματική και διανοητική ακεραιότητα της Ένωσης, να υποστηρίζουν την πολιτιστική και γλωσσική πολυμορφία της Ένωσης και να συμβάλλουν στην κάλυψη βασικών αναγκών· υπογραμμίζει την ανάγκη να αποφευχθεί κάθε χρήση που θα μπορούσε να οδηγήσει σε απαράδεκτο άμεσο ή έμμεσο εξαναγκασμό, να υπονομεύσει την ψυχολογική αυτονομία και την ψυχική υγεία ή να οδηγήσει σε αδικαιολόγητη παρακολούθηση, εξαπάτηση ή απαράδεκτη χειραγώγηση· |
|
30. |
πιστεύει ακράδαντα ότι τα θεμελιώδη ανθρώπινα δικαιώματα που κατοχυρώνονται στον Χάρτη θα πρέπει να γίνονται πλήρως σεβαστά, ώστε να διασφαλίζεται ότι αυτές οι αναδυόμενες τεχνολογίες δεν δημιουργούν κενά όσον αφορά την προστασία· |
|
31. |
επιβεβαιώνει ότι οι πιθανές μεροληψίες και διακρίσεις μέσω λογισμικού, αλγορίθμων και δεδομένων μπορούν να βλάψουν κατάφωρα τα άτομα και την κοινωνία και, ως εκ τούτου, θα πρέπει να αντιμετωπιστούν με την ενθάρρυνση της ανάπτυξης και της ανταλλαγής στρατηγικών για την καταπολέμησή τους, όπως, για παράδειγμα, η εξάλειψη της μεροληπτικότητας των συνόλων δεδομένων στην έρευνα και την ανάπτυξη, και με την ανάπτυξη κανόνων για την επεξεργασία δεδομένων· θεωρεί ότι η προσέγγιση αυτή έχει τη δυνατότητα να μετατρέψει το λογισμικό, τους αλγόριθμους και τα δεδομένα σε πλεονέκτημα για την καταπολέμηση των μεροληψιών και των διακρίσεων σε ορισμένες καταστάσεις, και σε κινητήρια δύναμη για την ισότητα των δικαιωμάτων και για θετική κοινωνική αλλαγή· |
|
32. |
υποστηρίζει ότι οι δεοντολογικές αξίες της δικαιοσύνης, της ακρίβειας, της εμπιστευτικότητας και της διαφάνειας θα πρέπει να αποτελούν τη βάση αυτών των τεχνολογιών, γεγονός που, στο πλαίσιο αυτό, συνεπάγεται ότι οι δραστηριότητές τους πρέπει να είναι τέτοιες ώστε να μην παράγονται μεροληπτικά αποτελέσματα· |
|
33. |
υπογραμμίζει τη σημασία της ποιότητας των συνόλων δεδομένων που χρησιμοποιούνται για την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, ανάλογα με το πλαίσιό τους, ιδίως όσον αφορά την αντιπροσωπευτικότητα των δεδομένων κατάρτισης, σχετικά με την εξάλειψη των στρεβλώσεων στα σύνολα δεδομένων, με τους αλγόριθμους που χρησιμοποιούνται, και με τα πρότυπα δεδομένων και συνάθροισης· τονίζει ότι τα εν λόγω σύνολα δεδομένων θα πρέπει να μπορούν να ελεγχθούν από τις εθνικές εποπτικές αρχές εφόσον ζητηθεί, προκειμένου να διασφαλίζεται η συμμόρφωσή τους με τις προαναφερθείσες αρχές· |
|
34. |
επισημαίνει ότι, στο πλαίσιο του εκτεταμένου πολέμου παραπληροφόρησης, ιδίως από εξωευρωπαϊκούς παράγοντες, οι τεχνολογίες ΤΝ μπορεί να έχουν δυσμενείς επιπτώσεις από δεοντολογική άποψη, με την εκμετάλλευση μεροληψιών στα δεδομένα και τους αλγόριθμους ή με τη σκόπιμη αλλαγή δεδομένων κατάρτισης από τρίτη χώρα, ενώ θα μπορούσαν επίσης να εκτεθούν σε άλλες μορφές επικίνδυνης κακόβουλης διαχείρισης με απρόβλεπτους τρόπους και με ανυπολόγιστες συνέπειες· συνεπώς, υπάρχει αυξημένη ανάγκη να συνεχίσει η Ένωση τις επενδύσεις στην έρευνα, την ανάλυση, την καινοτομία και τη διασυνοριακή και διατομεακή μεταφορά γνώσης, προκειμένου να αναπτυχθούν τεχνολογίες τεχνητής νοημοσύνης πλήρως απαλλαγμένες από κάθε είδους μεροληψία βάσει χαρακτηριστικών, προκαταλήψεις και διακρίσεις, και οι οποίες θα μπορούσαν να συμβάλουν αποτελεσματικά στην καταπολέμηση των ψευδών ειδήσεων και της παραπληροφόρησης, με παράλληλο σεβασμό του απορρήτου των δεδομένων και του νομικού πλαισίου της Ένωσης· |
|
35. |
υπενθυμίζει ότι είναι σημαντικό να εξασφαλιστούν αποτελεσματικά μέσα έννομης προστασίας για τα φυσικά πρόσωπα και καλεί τα κράτη μέλη να μεριμνήσουν ώστε να διατίθενται προσβάσιμες, οικονομικά προσιτές, ανεξάρτητες και αποτελεσματικές διαδικασίες και μηχανισμοί επανεξέτασης, ώστε να διασφαλίζεται η αμερόληπτη επανεξέταση από τον άνθρωπο όλων των καταγγελιών που αφορούν παραβιάσεις των δικαιωμάτων των πολιτών, όπως, για παράδειγμα, τα δικαιώματα των καταναλωτών ή τα ατομικά δικαιώματα, μέσω της χρήσης αλγοριθμικών συστημάτων, ανεξάρτητα από το εάν προέρχονται από φορείς του δημόσιου ή του ιδιωτικού τομέα· υπογραμμίζει τη σπουδαιότητα του σχεδίου οδηγίας του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με τις αντιπροσωπευτικές αγωγές για την προστασία των συλλογικών συμφερόντων των καταναλωτών και με την κατάργηση της οδηγίας 2009/22/ΕΚ, επί του οποίου επιτεύχθηκε πολιτική συμφωνία στις 22 Ιουνίου 2020, όσον αφορά μελλοντικές υποθέσεις στο πλαίσιο των οποίων αμφισβητείται η εισαγωγή ή η συνεχιζόμενη χρήση ενός συστήματος ΤΝ που ενέχει κίνδυνο παραβίασης των δικαιωμάτων των καταναλωτών, ή ζητείται έννομη προστασία λόγω παραβίασης δικαιωμάτων· ζητεί από την Επιτροπή και τα κράτη μέλη να διασφαλίσουν ότι οι εθνικές και ενωσιακές οργανώσεις καταναλωτών διαθέτουν επαρκή χρηματοδότηση για να βοηθούν τους καταναλωτές στην άσκηση του δικαιώματός τους προσφυγής σε περίπτωση παραβίασης των δικαιωμάτων τους· |
|
36. |
θεωρεί, ως εκ τούτου, ότι κάθε φυσικό ή νομικό πρόσωπο θα πρέπει να μπορεί να ζητήσει επανόρθωση για απόφαση που λαμβάνεται από την τεχνητή νοημοσύνη, τη ρομποτική ή συναφή τεχνολογία εις βάρος του, κατά παράβαση του ενωσιακού ή εθνικού δικαίου· |
|
37. |
θεωρεί ότι, σε περιπτώσεις εικαζόμενων παραβιάσεων του κανονιστικού πλαισίου της Ένωσης στη συνάρτηση αυτή, οι καταναλωτές θα μπορούσαν επίσης να υποβάλλουν αιτήματα επανόρθωσης στις εθνικές εποπτικές αρχές, οι οποίες θα λειτουργούν ως ένα πρώτο σημείο επαφής, προκειμένου να διασφαλίζεται η αποτελεσματική επιβολή του προαναφερθέντος πλαισίου· |
Κοινωνική ευθύνη και ισορροπία μεταξύ των φύλων
|
38. |
τονίζει ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες που είναι κοινωνικές υπεύθυνες μπορούν συμβάλουν σημαντικά στην εξεύρεση λύσεων που διασφαλίζουν και προάγουν θεμελιώδη δικαιώματα και αξίες της κοινωνίας μας, όπως είναι, για παράδειγμα, η δημοκρατία, το κράτος δικαίου, η πολυμορφία και ανεξαρτησία των μέσων ενημέρωσης, η ελεύθερη πρόσβαση σε αντικειμενική ενημέρωση, η υγεία και η οικονομική ευημερία, η ισότητα ευκαιριών, τα δικαιώματα των εργαζομένων και τα κοινωνικά δικαιώματα, η ποιοτική εκπαίδευση, η προστασία των παιδιών, η πολιτιστική και γλωσσική πολυμορφία, η ισότητα των φύλων, ο ψηφιακός γραμματισμός, η καινοτομία και η δημιουργικότητα· υπενθυμίζει την ανάγκη να διασφαλιστεί ότι τα συμφέροντα όλων των πολιτών, συμπεριλαμβανομένων εκείνων που βρίσκονται στο περιθώριο ή σε ευάλωτη κατάσταση, όπως τα άτομα με αναπηρία, λαμβάνονται επαρκώς υπόψη και εκπροσωπούνται· |
|
39. |
υπογραμμίζει τη σημασία της επίτευξης υψηλού επιπέδου συνολικού ψηφιακού αλφαβητισμού και της κατάρτισης επαγγελματιών υψηλής ειδίκευσης στον συγκεκριμένο τομέα, καθώς και της διασφάλισης της αμοιβαίας αναγνώρισης των αντίστοιχων προσόντων σε ολόκληρη την Ένωση· τονίζει την ανάγκη να υπάρχουν ποικίλες ομάδες προγραμματιστών και μηχανικών που θα εργάζονται μαζί με βασικούς κοινωνικούς παράγοντες προκειμένου να αποτρέπεται η ακούσια παρείσφρηση έμφυλων και πολιτιστικών προκαταλήψεων στους αλγορίθμους, τα συστήματα και τις εφαρμογές τεχνητής νοημοσύνης· στηρίζει τη δημιουργία εκπαιδευτικών προγραμμάτων και δραστηριοτήτων ευαισθητοποίησης του κοινού σχετικά με τον κοινωνικό, νομικό και ηθικό αντίκτυπο της τεχνητής νοημοσύνης· |
|
40. |
τονίζει ότι η διασφάλιση της ελευθερίας της σκέψης και της έκφρασης έχει ζωτική σημασία προκειμένου να διασφαλίζεται ότι οι τεχνολογίες αυτές δεν προωθούν τη ρητορική μίσους ή τις πράξεις βίας· θεωρεί, επομένως, ότι η επιβολή περιορισμών στην ελευθερία της έκφρασης που ασκείται ψηφιακά ή η παρεμπόδισή της είναι παράνομες σύμφωνα με τις θεμελιώδεις αρχές της Ένωσης, εκτός εάν η άσκηση αυτού του θεμελιώδους δικαιώματος συνεπάγεται παράνομη συμπεριφορά· |
|
41. |
τονίζει ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες μπορούν να συμβάλουν στη μείωση των κοινωνικών ανισοτήτων, υποστηρίζει δε ότι το ευρωπαϊκό μοντέλο για την ανάπτυξή τους πρέπει να βασίζεται στην εμπιστοσύνη των πολιτών και στη αυξημένη κοινωνική συνοχή· |
|
42. |
τονίζει ότι η εφαρμογή ενός συστήματος τεχνητής νοημοσύνης δεν θα πρέπει να περιορίζει αδικαιολόγητα την πρόσβαση των χρηστών σε δημόσιες υπηρεσίες όπως η κοινωνική ασφάλιση· καλεί, επομένως, την Επιτροπή να εξετάσει με ποιον τρόπο μπορεί να επιτευχθεί ο στόχος αυτός· |
|
43. |
τονίζει τη σημασία της υπεύθυνης έρευνας και ανάπτυξης με στόχο τη μεγιστοποίηση του πλήρους δυναμικού της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών προς όφελος των πολιτών και του κοινού· ζητεί την κινητοποίηση πόρων από την Ένωση και τα κράτη μέλη της προκειμένου να αναπτυχθεί και να υποστηριχθεί η υπεύθυνη καινοτομία· |
|
44. |
τονίζει ότι η τεχνολογική εμπειρογνωμοσύνη θα αποκτά όλο και μεγαλύτερη σημασία και, συνεπώς, είναι απαραίτητο να επικαιροποιούνται συνεχώς τα μαθήματα κατάρτισης, ιδίως για τις μελλοντικές γενιές, και να προωθείται η επαγγελματική επανεκπαίδευση όσων βρίσκονται ήδη στην αγορά εργασίας· υποστηρίζει, στο πλαίσιο αυτό, ότι η καινοτομία και η κατάρτιση θα πρέπει να προωθηθούν όχι μόνο στον ιδιωτικό αλλά και στον δημόσιο τομέα· |
|
45. |
εμμένει στην άποψη ότι η ανάπτυξη, η εφαρμογή και η χρήση αυτών των τεχνολογιών δεν θα πρέπει να προκαλεί κανενός είδους τραυματισμό ή βλάβη σε άτομα ή στην κοινωνία ή στο περιβάλλον και ότι, κατά συνέπεια, οι φορείς ανάπτυξης, οι φορείς εφαρμογής και οι χρήστες αυτών των τεχνολογιών θα πρέπει να θεωρούνται υπεύθυνοι για τον εν λόγω τραυματισμό ή την εν λόγω βλάβη σύμφωνα με τους σχετικούς ενωσιακούς και εθνικούς κανόνες περί ευθύνης· |
|
46. |
καλεί τα κράτη μέλη να αξιολογήσουν κατά πόσον οι απώλειες θέσεων εργασίας που οφείλονται στην ανάπτυξη αυτών των τεχνολογιών θα πρέπει να οδηγήσουν στην υιοθέτηση κατάλληλων δημόσιων πολιτικών, όπως, για παράδειγμα, η μείωση του χρόνου εργασίας· |
|
47. |
υποστηρίζει ότι μια προσέγγιση σχεδιασμού με βάση τις αξίες και τις δεοντολογικές αρχές της Ένωσης είναι απολύτως αναγκαία, προκειμένου να δημιουργηθούν οι προϋποθέσεις για ευρεία κοινωνική αποδοχή της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών· θεωρεί ότι η προσέγγιση αυτή, η οποία αποσκοπεί στην ανάπτυξη αξιόπιστης, δεοντολογικά υπεύθυνης και τεχνικά εύρωστης τεχνητής νοημοσύνης, αποτελεί σημαντικό καταλύτη υπέρ της βιώσιμης και έξυπνης κινητικότητας που είναι ασφαλής και προσβάσιμη· |
|
48. |
εφιστά την προσοχή στην υψηλή προστιθέμενη αξία που παρέχουν τα αυτόνομα οχήματα στα άτομα με μειωμένη κινητικότητα, καθώς τα οχήματα αυτά επιτρέπουν στα εν λόγω άτομα να συμμετέχουν αποτελεσματικότερα σε ατομικές οδικές μεταφορές, διευκολύνοντας, με τον τρόπο αυτό, την καθημερινότητά τους· τονίζει τη σημασία της προσβασιμότητας, ιδίως κατά τον σχεδιασμό συστημάτων κινητικότητας ως υπηρεσίας (MaaS)· |
|
49. |
καλεί την Επιτροπή να στηρίξει περαιτέρω την ανάπτυξη αξιόπιστων συστημάτων ΤΝ, προκειμένου να καταστούν οι μεταφορές πιο ασφαλείς, αποδοτικές, προσβάσιμες, οικονομικά προσιτές και πολυδεκτικές, μεταξύ άλλων για τα άτομα με μειωμένη κινητικότητα, και ιδίως τα άτομα με αναπηρίες, λαμβάνοντας υπόψη την οδηγία (ΕΕ) 2019/882 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (13) και την ευρωπαϊκή νομοθεσία για τα δικαιώματα των επιβατών· |
|
50. |
θεωρεί ότι η ΤΝ μπορεί να συμβάλει στην καλύτερη αξιοποίηση των δεξιοτήτων και των ικανοτήτων ατόμων με αναπηρίες και ότι η εφαρμογή της ΤΝ στον χώρο εργασίας μπορεί να συμβάλει σε αγορές εργασίας χωρίς αποκλεισμούς και σε υψηλότερα ποσοστά απασχόλησης για τα άτομα με αναπηρίες· |
Περιβάλλον και βιωσιμότητα
|
51. |
δηλώνει ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες θα πρέπει να χρησιμοποιούνται από τις κυβερνήσεις και τις επιχειρήσεις προς όφελος των ανθρώπων και του πλανήτη, να συμβάλλουν στην επίτευξη βιώσιμης ανάπτυξης, στη διατήρηση του περιβάλλοντος, στην επίτευξη κλιματικής ουδετερότητας και στους στόχους της κυκλικής οικονομίας· η ανάπτυξη, η εφαρμογή και η χρήση των τεχνολογιών αυτών θα πρέπει να συμβάλλουν στην πράσινη μετάβαση, να προστατεύουν το περιβάλλον, και να ελαχιστοποιούν και να αποκαθιστούν τυχόν βλάβες που προκαλούνται στο περιβάλλον κατά τη διάρκεια του κύκλου ζωής τους και σε ολόκληρη την αλυσίδα εφοδιασμού τους, σύμφωνα με το δίκαιο της Ένωσης· |
|
52. |
δεδομένου του σημαντικού περιβαλλοντικού αντικτύπου τους, για τους σκοπούς της προηγούμενης παραγράφου, ο περιβαλλοντικός αντίκτυπος της ανάπτυξης, της εφαρμογής και της χρήσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών θα μπορούσε, όπου είναι σκόπιμο και κατάλληλο, να αξιολογείται από ειδικές τομεακές αρχές καθ’ όλη τη διάρκεια της ζωής τους· η αξιολόγηση αυτή θα μπορούσε να περιλαμβάνει εκτίμηση των επιπτώσεων της εξόρυξης των αναγκαίων υλικών, και της κατανάλωσης ενέργειας και των εκπομπών αερίων θερμοκηπίου που προκαλούνται στο πλαίσιο της ανάπτυξης, της εφαρμογής και της χρήσης τους· |
|
53. |
προτείνει, προκειμένου να αναπτυχθούν υπεύθυνες λύσεις τεχνητής νοημοσύνης αιχμής, να διερευνηθεί, να ενισχυθεί και να μεγιστοποιηθεί το δυναμικό της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, μέσω υπεύθυνης έρευνας και καινοτομίας για τις οποίες απαιτείται να κινητοποιηθούν πόροι σε επίπεδο Ένωσης και σε επίπεδο κρατών μελών· |
|
54. |
επισημαίνει το γεγονός ότι η ανάπτυξη, η εφαρμογή και η χρήση αυτών των τεχνολογιών παρέχουν ευκαιρίες για την προώθηση των Στόχων Βιώσιμης Ανάπτυξης που περιγράφονται από τα Ηνωμένα Έθνη, της παγκόσμιας ενεργειακής μετάβασης και της απαλλαγής από τις ανθρακούχες εκπομπές· |
|
55. |
θεωρεί ότι οι στόχοι της κοινωνικής ευθύνης, της ισότητας των φύλων, της προστασίας του περιβάλλοντος και της βιωσιμότητας δεν θα πρέπει να θίγουν τις υφιστάμενες γενικές και τομεακές υποχρεώσεις σε αυτούς τους τομείς· πιστεύει ότι θα πρέπει να θεσπιστούν μη δεσμευτικές κατευθυντήριες γραμμές όσον αφορά την υλοποίηση, για τους φορείς ανάπτυξης, τους φορείς εφαρμογής και τους χρήστες, ιδίως των τεχνολογιών υψηλού κινδύνου, σε σχέση με τη μεθοδολογία για την αξιολόγηση της συμμόρφωσής τους με τον παρόντα κανονισμό και την επίτευξη των στόχων αυτών· |
|
56. |
καλεί την Επιτροπή να προωθήσει και να χρηματοδοτήσει την ανάπτυξη τεχνητής νοημοσύνης, ρομποτικής και συναφών τεχνολογιών που θα είναι ανθρωποκεντρικές, θα αντιμετωπίζουν τις περιβαλλοντικές και κλιματικές προκλήσεις και θα διασφαλίζουν τον σεβασμό των θεμελιωδών δικαιωμάτων μέσω της χρήσης φορολογικών κινήτρων, κινήτρων στον τομέα των προμηθειών ή άλλων κινήτρων· |
|
57. |
τονίζει ότι, παρά το σημερινό υψηλό αποτύπωμα άνθρακα της ανάπτυξης, της εφαρμογής και της χρήσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων των αυτοματοποιημένων αποφάσεων και της μηχανικής μάθησης, οι εν λόγω τεχνολογίες μπορούν να συμβάλουν στη μείωση του τρέχοντος περιβαλλοντικού αποτυπώματος του τομέα των ΤΠΕ· υπογραμμίζει ότι αυτές και άλλες κατάλληλα ρυθμιζόμενες συναφείς τεχνολογίες θα πρέπει να αποτελούν καθοριστικούς παράγοντες για την επίτευξη των στόχων της Πράσινης Συμφωνίας, των Στόχων Βιώσιμης Ανάπτυξης των Ηνωμένων Εθνών και της Συμφωνίας του Παρισιού σε πολλούς διαφορετικούς τομείς, θα πρέπει δε να ενισχύουν τον αντίκτυπο των πολιτικών για την προστασία του περιβάλλοντος, όπως, ενδεικτικά, οι πολιτικές που αφορούν τη μείωση των αποβλήτων και την υποβάθμιση του περιβάλλοντος· |
|
58. |
καλεί την Επιτροπή να εκπονήσει μελέτη σχετικά με τον αντίκτυπο του αποτυπώματος άνθρακα της τεχνολογίας ΤΝ και τις θετικές και αρνητικές συνέπειες της μετάβασης στη χρήση τεχνολογίας ΤΝ από τους καταναλωτές· |
|
59. |
σημειώνει ότι, δεδομένης της εντεινόμενης ανάπτυξης των εφαρμογών ΤΝ, η οποία απαιτεί υπολογιστικούς, αποθηκευτικούς και ενεργειακούς πόρους, θα πρέπει να εκτιμάται ο αντίκτυπος των συστημάτων ΤΝ στο περιβάλλον καθ’ όλη τη διάρκεια ζωής τους· |
|
60. |
θεωρεί ότι σε τομείς όπως η υγεία πρέπει η ευθύνη να βαρύνει εντέλει φυσικό ή νομικό πρόσωπο· επισημαίνει την ανάγκη για ανιχνεύσιμα και δημοσίως διαθέσιμα δεδομένα κατάρτισης για τους αλγορίθμους· |
|
61. |
υποστηρίζει ένθερμα τη δημιουργία του ευρωπαϊκού χώρου δεδομένων υγείας, όπως προτείνει η Επιτροπή στην ανακοίνωσή της σχετικά με μία Ευρωπαϊκή στρατηγική για τα δεδομένα, ο οποίος θα αποσκοπεί στην προώθηση της ανταλλαγής δεδομένων υγείας και στη στήριξη της έρευνας με πλήρη σεβασμό της προστασίας των δεδομένων, συμπεριλαμβανομένης της επεξεργασίας των δεδομένων με τεχνολογία ΤΝ, και ο οποίος θα ενισχύει και θα διευρύνει τη χρησιμοποίηση και την επαναχρησιμοποίηση των δεδομένων υγείας· συνιστά να αναβαθμιστεί η διασυνοριακή ανταλλαγή δεδομένων υγείας, συγκεκριμένα δε είδη πληροφοριών για την υγεία, όπως τα ευρωπαϊκά αρχεία για την υγεία, γονιδιωματικές πληροφορίες και ψηφιακά απεικονιστικά δεδομένα υγείας, να συνδέονται και να αξιοποιούνται, μέσω ασφαλών, συνενωμένων αποθετηρίων, ώστε να διευκολύνονται διαλειτουργικά μητρώα ή διαλειτουργικές βάσεις δεδομένων σε ολόκληρη την Ένωση σε τομείς όπως η έρευνα, η επιστήμη και η υγεία· |
|
62. |
επισημαίνει τα οφέλη της ΤΝ για την πρόληψη, τη θεραπευτική αντιμετώπιση και τον έλεγχο των νόσων, με χαρακτηριστικό παράδειγμα την πρόβλεψη της επιδημίας COVID-19 από την ΤΝ πριν από τον ΠΟΥ· καλεί επιτακτικά την Επιτροπή να εξοπλίσει επαρκώς το Ευρωπαϊκό Κέντρο Πρόληψης και Ελέγχου Νόσων (ECDC) με το κανονιστικό πλαίσιο και τους πόρους που θα του επιτρέπουν να συλλέγει ανεξάρτητα τα αναγκαία ανωνυμοποιημένα παγκόσμια δεδομένα υγείας σε πραγματικό χρόνο και σε συνεργασία με τα κράτη μέλη, ώστε, μεταξύ άλλων, να αντιμετωπιστούν τα ζητήματα που ανέδειξε η πανδημία COVID-19· |
Ιδιωτική ζωή και βιομετρική αναγνώριση
|
63. |
παρατηρεί ότι η παραγωγή και η χρήση δεδομένων, συμπεριλαμβανομένων δεδομένων προσωπικού χαρακτήρα, όπως τα βιομετρικά δεδομένα, που προκύπτουν από την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, αυξάνονται με ταχείς ρυθμούς, υπογραμμίζοντας έτσι την ανάγκη για σεβασμό και επιβολή της τήρησης των δικαιωμάτων των πολιτών στην ιδιωτική ζωή και στην προστασία των δεδομένων προσωπικού χαρακτήρα σύμφωνα με το δίκαιο της Ένωσης· |
|
64. |
επισημαίνει ότι η δυνατότητα που παρέχουν οι εν λόγω τεχνολογίες να χρησιμοποιούνται δεδομένα προσωπικού και μη χαρακτήρα για την κατηγοριοποίηση και τη μικροστόχευση προσώπων, τον εντοπισμό τρωτοτήτων μεμονωμένων ατόμων ή την εκμετάλλευση ακριβών προγνωστικών πληροφοριών, πρέπει να αντισταθμίζεται από την αποτελεσματική επιβολή αρχών προστασίας των δεδομένων και της ιδιωτικής ζωής, όπως η ελαχιστοποίηση των δεδομένων, το δικαίωμα αντίταξης στην κατάρτιση προφίλ και ελέγχου της χρήσης των δεδομένων ενός ατόμου, το δικαίωμα να λαμβάνεται αιτιολόγηση της απόφασης που ελήφθη βάσει αυτοματοποιημένης διαδικασίας και η προστασία της ιδιωτικής ζωής ήδη από το στάδιο του σχεδιασμού, καθώς και οι αρχές της αναλογικότητας, της αναγκαιότητας και του περιορισμού βάσει αυστηρά καθορισμένων σκοπών σε συμμόρφωση με τον ΓΚΠΔ· |
|
65. |
τονίζει ότι, όταν οι τεχνολογίες εξ αποστάσεως αναγνώρισης, όπως η αναγνώριση βιομετρικών χαρακτηριστικών, ιδίως η αναγνώριση προσώπου, χρησιμοποιούνται από τις δημόσιες αρχές για σημαντικούς σκοπούς δημόσιου συμφέροντος, η χρήση τους θα πρέπει πάντα να γνωστοποιείται, να είναι αναλογική, στοχευμένη και να περιορίζεται σε συγκεκριμένους στόχους, να υπόκειται σε χρονικό περιορισμό σύμφωνα με το δίκαιο της Ένωσης και να λαμβάνει δεόντως υπόψη την ανθρώπινη αξιοπρέπεια και αυτονομία και τα θεμελιώδη δικαιώματα που προβλέπονται στον Χάρτη Τα κριτήρια και τα όρια αυτής της χρήσης θα πρέπει να υπόκεινται σε δικαστικό και δημοκρατικό έλεγχο και να λαμβάνουν υπόψη τον ψυχολογικό και κοινωνικοπολιτιστικό αντίκτυπό της στην κοινωνία των πολιτών· |
|
66. |
επισημαίνει ότι, ενώ η ανάπτυξη της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών στο πλαίσιο των αποφάσεων δημόσιας εξουσίας παρουσιάζει οφέλη, μπορεί να οδηγήσει σε σοβαρή κατάχρηση, όπως, για παράδειγμα, η μαζική παρακολούθηση, η προληπτική αστυνόμευση και η παραβίαση του δικαιώματος σε δίκαιη δίκη· |
|
67. |
εκτιμά ότι οι τεχνολογίες που μπορούν να παράγουν αυτοματοποιημένες αποφάσεις, αντικαθιστώντας έτσι αποφάσεις που λαμβάνονται από δημόσιες αρχές, θα πρέπει να αντιμετωπίζονται με τη μέγιστη δυνατή προσοχή, ιδίως στον τομέα της δικαιοσύνης και της επιβολής του νόμου· |
|
68. |
πιστεύει ότι τα κράτη μέλη θα πρέπει να προσφεύγουν σε τέτοιες τεχνολογίες μόνο εφόσον υπάρχουν τεκμηριωμένα στοιχεία που αποδεικνύουν την αξιοπιστία τους και εφόσον είναι δυνατή ή συστηματική η ουσιαστική παρέμβαση και επανεξέταση από τον άνθρωπο σε περιπτώσεις στις οποίες διακυβεύονται θεμελιώδεις ελευθερίες· υπογραμμίζει ότι είναι σημαντικό οι εθνικές αρχές να διενεργούν αυστηρή εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα για τα συστήματα τεχνητής νοημοσύνης που εφαρμόζονται σε αυτές τις περιπτώσεις, ιδίως μετά την αξιολόγηση των τεχνολογιών αυτών ως υψηλού κινδύνου· |
|
69. |
είναι της άποψης ότι κάθε απόφαση που λαμβάνεται από την τεχνητή νοημοσύνη, τη ρομποτική ή τις συναφείς τεχνολογίες στο πλαίσιο των προνομίων της δημόσιας εξουσίας θα πρέπει να υπόκειται σε ουσιαστική ανθρώπινη παρέμβαση, και ότι θα πρέπει να ακολουθείται η δέουσα διαδικασία, ιδίως μετά την αξιολόγηση των τεχνολογιών αυτών ως υψηλού κινδύνου· |
|
70. |
πιστεύει ότι η τεχνολογική πρόοδος δεν θα πρέπει να οδηγήσει στη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών για την αυτόνομη λήψη αποφάσεων του δημόσιου τομέα που έχουν άμεσο και σημαντικό αντίκτυπο στα δικαιώματα και τις υποχρεώσεις των πολιτών· |
|
71. |
σημειώνει ότι η ΤΝ, η ρομποτική και οι συναφείς τεχνολογίες στον τομέα της επιβολής του νόμου και του ελέγχου των συνόρων θα μπορούσαν να ενισχύσουν τη δημόσια ασφάλεια και προστασία, αλλά χρειάζονται επίσης εκτεταμένο και αυστηρό δημόσιο έλεγχο και το υψηλότερο δυνατό επίπεδο διαφάνειας, τόσο όσον αφορά την εκτίμηση των κινδύνων μεμονωμένων εφαρμογών, όσο και μια γενική επισκόπηση της χρήσης της ΤΝ, της ρομποτικής και των συναφών τεχνολογιών στον τομέα της επιβολής του νόμου και του ελέγχου των συνόρων· θεωρεί ότι οι οι εν λόγω τεχνολογίες ενέχουν σημαντικούς δεοντολογικούς κινδύνους που πρέπει να αντιμετωπιστούν επαρκώς, λαμβάνοντας υπόψη τις πιθανές αρνητικές επιπτώσεις για τα άτομα, ιδίως όσον αφορά τα δικαιώματά τους στην ιδιωτική ζωή, την προστασία των δεδομένων και την απαγόρευση των διακρίσεων· τονίζει ότι η κακή χρήση τους μπορεί να αποτελέσει άμεση απειλή για τη δημοκρατία και ότι η ανάπτυξη και χρήση τους πρέπει να σέβονται τις αρχές της αναλογικότητας και της αναγκαιότητας, τον Χάρτη των Θεμελιωδών Δικαιωμάτων, καθώς και το σχετικό παράγωγο δίκαιο της Ένωσης, όπως τους κανόνες για την προστασία των δεδομένων· τονίζει ότι η ΤΝ δεν θα πρέπει να αντικαθιστά ποτέ τους ανθρώπους στην έκδοση αποφάσεων· φρονεί ότι αποφάσεις, όπως, για παράδειγμα, η αποφυλάκιση με εγγύηση ή η απόλυση υπό όρους, οι οποίες εξετάζονται στο δικαστήριο, ή αποφάσεις που βασίζονται αποκλειστικά σε αυτοματοποιημένη επεξεργασία και παράγουν έννομα αποτελέσματα που αφορούν το φυσικό πρόσωπο ή το επηρεάζουν σημαντικά, πρέπει πάντοτε να περιλαμβάνουν ουσιαστική αξιολόγηση και κρίση από άνθρωπο· |
Χρηστή διακυβέρνηση
|
72. |
τονίζει ότι η κατάλληλη διακυβέρνηση της ανάπτυξης, της εφαρμογής και της χρήσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, και ιδίως των τεχνολογιών υψηλού κινδύνου μέσω της θέσπισης μέτρων για τη λογοδοσία και την αντιμετώπιση δυνητικών κινδύνων για μεροληψία και διακρίσεις, μπορεί να ενισχύσει την ασφάλεια των πολιτών και την εμπιστοσύνη τους στις εν λόγω τεχνολογίες· |
|
73. |
θεωρεί ότι ένα κοινό πλαίσιο για τη διακυβέρνηση αυτών των τεχνολογιών, το οποίο θα συντονίζεται από την Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα ή τους οργανισμούς της Ένωσης που ενδέχεται να οριστούν εν προκειμένω για το έργο αυτό, και θα εφαρμόζεται από τις εθνικές εποπτικές αρχές σε κάθε κράτος μέλος, θα εξασφάλιζε μια συνεκτική ενωσιακή προσέγγιση και θα απέτρεπε τον κατακερματισμό της ενιαίας αγοράς· |
|
74. |
παρατηρεί ότι για την ανάπτυξη της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών χρησιμοποιείται μεγάλος όγκος δεδομένων, και ότι η επεξεργασία και ο μερισμός των εν λόγω δεδομένων, καθώς και η πρόσβαση σε αυτά, πρέπει να διέπονται από τη νομοθεσία και να υπόκεινται στις οριζόμενες σε αυτήν απαιτήσεις σχετικά με την ποιότητα, την ακεραιότητα, τη διαλειτουργικότητα, τη διαφάνεια, την ασφάλεια, την εμπιστευτικότητα και τον έλεγχο· |
|
75. |
υπενθυμίζει ότι η πρόσβαση στα δεδομένα αποτελεί ουσιαστική συνιστώσα για την ανάπτυξη της ψηφιακής οικονομίας· επισημαίνει, στο πλαίσιο αυτό, ότι η διαλειτουργικότητα των δεδομένων, περιορίζοντας τα φαινόμενα εγκλωβισμού, διαδραματίζει καίριο ρόλο στη διασφάλιση δίκαιων συνθηκών αγοράς και στην προώθηση ισότιμων όρων ανταγωνισμού στην ψηφιακή ενιαία αγορά· |
|
76. |
υπογραμμίζει την ανάγκη να διασφαλιστεί ότι τα δεδομένα προσωπικού χαρακτήρα προστατεύονται επαρκώς, ιδίως τα δεδομένα που αφορούν ευάλωτες ομάδες ή προέρχονται από ευάλωτες ομάδες, όπως, για παράδειγμα, τα άτομα με αναπηρία, οι ασθενείς, τα παιδιά, οι ηλικιωμένοι, οι μειονότητες, οι μετανάστες και άλλες ομάδες που διατρέχουν κίνδυνο αποκλεισμού· |
|
77. |
σημειώνει ότι η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών από τις δημόσιες αρχές συχνά ανατίθενται σε ιδιωτικούς φορείς· θεωρεί ότι αυτό δεν θα πρέπει σε καμία περίπτωση να θέσει σε κίνδυνο την προστασία των δημόσιων αξιών και των θεμελιωδών δικαιωμάτων· θεωρεί ότι οι όροι και οι προϋποθέσεις για τη σύναψη δημόσιων συμβάσεων θα πρέπει να αντικατοπτρίζουν τα δεοντολογικά πρότυπα που επιβάλλονται στις δημόσιες αρχές, κατά περίπτωση· |
Καταναλωτές και εσωτερική αγορά
|
78. |
υπογραμμίζει τη σημασία ενός κανονιστικού πλαισίου για την ΤΝ που θα εφαρμόζεται όταν οι καταναλωτές στην Ένωση είναι χρήστες αλγοριθμικού συστήματος, υπόκεινται σε τέτοιο σύστημα, αποτελούν στόχο τέτοιου συστήματος ή μεταφέρονται σε τέτοιο σύστημα, ανεξάρτητα από τον τόπο εγκατάστασης των οντοτήτων που αναπτύσσουν, πωλούν ή χρησιμοποιούν το σύστημα· πιστεύει επιπλέον ότι, για λόγους ασφάλειας δικαίου, οι κανόνες που ορίζονται στο εν λόγω πλαίσιο θα πρέπει να εφαρμόζονται σε όλους τους προγραμματιστές και σε ολόκληρη την αλυσίδα αξίας, συγκεκριμένα στην ανάπτυξη, την εφαρμογή και τη χρήση των σχετικών τεχνολογιών και των συνιστωσών τους, θα πρέπει δε να εγγυώνται υψηλό επίπεδο προστασίας των καταναλωτών· |
|
79. |
σημειώνει ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, και τομείς όπως το διαδίκτυο των πραγμάτων, η μηχανική μάθηση, τα συστήματα που βασίζονται σε κανόνες ή οι αυτοματοποιημένες και υποβοηθούμενες διαδικασίες λήψης αποφάσεων συνδέονται άρρηκτα μεταξύ τους· επιπλέον, σημειώνει ότι θα μπορούσαν να δημιουργηθούν τυποποιημένα εικονίδια που να βοηθούν στην επεξήγηση παρόμοιων συστημάτων στους καταναλωτές όταν αυτά είναι περίπλοκα ή όταν έχουν τη δυνατότητα να λαμβάνουν αποφάσεις που επηρεάζουν σημαντικά τη ζωή των καταναλωτών· |
|
80. |
υπενθυμίζει ότι η Επιτροπή θα πρέπει να εξετάσει το υφιστάμενο νομικό πλαίσιο και την εφαρμογή του, συμπεριλαμβανομένων του κεκτημένου στον τομέα της νομοθεσίας για την προστασία των καταναλωτών, της νομοθεσίας για την ευθύνη για ελαττωματικά προϊόντα, της νομοθεσίας για την ασφάλεια των προϊόντων και της νομοθεσίας για την εποπτεία της αγοράς, προκειμένου να εντοπίσει τα νομικά κενά, καθώς και τις υφιστάμενες ρυθμιστικές υποχρεώσεις· θεωρεί ότι αυτό είναι απαραίτητο προκειμένου να εξακριβωθεί κατά πόσον είναι σε θέση να ανταποκριθεί στις νέες προκλήσεις που θέτει η εμφάνιση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών και να διασφαλίσει υψηλό επίπεδο προστασίας των καταναλωτών· |
|
81. |
τονίζει την ανάγκη να αντιμετωπιστούν αποτελεσματικά οι προκλήσεις που δημιουργούν η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες και να διασφαλιστεί ότι οι καταναλωτές είναι ενδυναμωμένοι και προστατεύονται κατάλληλα· υπογραμμίζει την ανάγκη να κοιτάξουμε πέρα από τις παραδοσιακές αρχές της ενημέρωσης και της δημοσιοποίησης, επί των οποίων έχει οικοδομηθεί το κεκτημένο στον τομέα του δικαίου της προστασίας των καταναλωτών, καθώς θα υπάρξει ανάγκη για ενίσχυση των δικαιωμάτων των καταναλωτών και για θέσπιση σαφών περιορισμών όσον αφορά την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, ώστε να διασφαλιστεί ότι η εν λόγω τεχνολογία συμβάλλει στη βελτίωση της ζωής των καταναλωτών και εξελίσσεται με τρόπο που σέβεται τα θεμελιώδη δικαιώματα, τα δικαιώματα των καταναλωτών και τις αξίες της Ένωσης· |
|
82. |
επισημαίνει ότι το νομοθετικό πλαίσιο που θεσπίστηκε με την απόφαση αριθ. 768/2008/ΕΚ (14) προβλέπει έναν εναρμονισμένο κατάλογο των υποχρεώσεων για παραγωγούς, εισαγωγείς και διανομείς, ενθαρρύνει τη χρήση προτύπων και προβλέπει διάφορα επίπεδα ελέγχου, ανάλογα με την επικινδυνότητα του προϊόντος· θεωρεί ότι αυτό το πλαίσιο θα πρέπει να ισχύει και για τα προϊόντα με ενσωματωμένη ΤΝ· |
|
83. |
σημειώνει ότι, για τους σκοπούς της ανάλυσης των επιπτώσεων της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών στους καταναλωτές, η πρόσβαση σε δεδομένα θα μπορούσε, με πλήρη σεβασμό της νομοθεσίας της Ένωσης, όπως, για παράδειγμα αυτή που αφορά την προστασία των δεδομένων, της ιδιωτικής ζωής και του εμπορικού απορρήτου, να επεκταθεί στις εθνικές αρμόδιες αρχές· υπενθυμίζει ότι είναι σημαντικό να εκπαιδεύονται οι καταναλωτές ώστε να είναι καλύτερα ενημερωμένοι και να έχουν περισσότερες δεξιότητες κατά την αλληλεπίδραση με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, προκειμένου να προστατεύονται από τους δυνητικούς κινδύνους και να υπερασπίζονται τα δικαιώματά τους· |
|
84. |
καλεί την Επιτροπή να προτείνει μέτρα για την ιχνηλασιμότητα των δεδομένων, λαμβάνοντας υπόψη τόσο τη νομιμότητα της απόκτησης δεδομένων όσο και την προστασία των δικαιωμάτων των καταναλωτών και των θεμελιωδών δικαιωμάτων, με πλήρη σεβασμό του δικαίου της Ένωσης, μεταξύ άλλων, όσον αφορά την προστασία των δεδομένων, της ιδιωτικής ζωής, των δικαιωμάτων διανοητικής ιδιοκτησίας και του εμπορικού απορρήτου· |
|
85. |
σημειώνει ότι ότι οι τεχνολογίες αυτές θα πρέπει να έχουν ως επίκεντρο τον χρήστη και να είναι σχεδιασμένα έτσι ώστε να επιτρέπουν σε όλους τη χρήση προϊόντων ή υπηρεσιών ΤΝ, ανεξάρτητα από την ηλικία, το φύλο, πιθανές αναπηρίες ή τα χαρακτηριστικά τους· σημειώνει ότι η προσβασιμότητα σε αυτή την τεχνολογία για τα άτομα με αναπηρίες έχει ιδιαίτερη σημασία· σημειώνει ότι δεν θα πρέπει να υιοθετηθεί μια ενιαία προσέγγιση για όλες τις περιπτώσεις και ότι θα πρέπει να ληφθούν υπόψη οι αρχές του καθολικού σχεδιασμού, με στόχο το ευρύτερο δυνατό φάσμα χρηστών και σύμφωνα με τα σχετικά πρότυπα προσβασιμότητας· τονίζει ότι αυτό θα επιτρέψει στα άτομα να έχουν ισότιμη πρόσβαση και να συμμετέχουν ενεργά σε υφιστάμενες και αναδυόμενες ανθρώπινες δραστηριότητες διαμεσολαβούμενες από υπολογιστή και σε υποστηρικτικές τεχνολογίες· |
|
86. |
τονίζει ότι, όταν χρήματα που προέρχονται από δημόσιες πηγές συμβάλλουν σημαντικά στην ανάπτυξη, την εφαρμογή ή τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, σε συνδυασμό με πρότυπα ανοικτής διαδικασίας προμηθειών και ανοικτής διαδικασίας ανάθεσης συμβάσεων, θα μπορούσε να εξεταστεί το ενδεχόμενο ο κώδικας, τα παραγόμενα δεδομένα — στον βαθμό που δεν είναι προσωπικού χαρακτήρα — και το εκπαιδευμένο μοντέλο να καθίστανται εξ ορισμού δημόσια, κατόπιν συμφωνίας με τον προγραμματιστή, προκειμένου να εξασφαλίζεται η διαφάνεια, να ενισχύεται η κυβερνοασφάλεια και να είναι δυνατή η επαναχρησιμοποίηση, ώστε να προωθείται η καινοτομία· τονίζει ότι με αυτόν τον τρόπο, μπορούν να αξιοποιηθούν πλήρως οι δυνατότητες της ενιαίας αγοράς και να αποφευχθεί ο κατακερματισμός της αγοράς· |
|
87. |
θεωρεί ότι η ΤΝ, η ρομποτική και οι συναφείς τεχνολογίες έχουν τεράστιες δυνατότητες να παρέχουν στους καταναλωτές ευκαιρίες πρόσβασης σε ευρύ φάσμα ανέσεων σε πολλούς τομείς της ζωής τους, σε συνδυασμό με καλύτερα προϊόντα και καλύτερες υπηρεσίες, καθώς και την ευκαιρία να επωφελούνται από καλύτερη εποπτεία της αγοράς, υπό την προϋπόθεση ότι εξακολουθούν να εφαρμόζονται όλες οι αρχές, οι προϋποθέσεις, συμπεριλαμβανομένων της διαφάνειας και της επαληθευσιμότητας, και οι κανόνες που ισχύουν· |
Ασφάλεια και άμυνα
|
88. |
επισημαίνει ότι οι πολιτικές ασφάλειας και άμυνας της Ευρωπαϊκής Ένωσης και των κρατών μελών της διέπονται από τις αρχές που κατοχυρώνονται στον Χάρτη και τις αρχές του Καταστατικού Χάρτη των Ηνωμένων Εθνών και από μια κοινή αντίληψη όσον αφορά τις οικουμενικές αξίες των απαράβατων και αναφαίρετων δικαιωμάτων του ανθρώπου, της ανθρώπινης αξιοπρέπειας, της ελευθερίας, της δημοκρατίας, της ισότητας και του κράτους δικαίου· επισημαίνει ότι όλες οι σχετικές με την άμυνα προσπάθειες, εντός του ενωσιακού πλαισίου, πρέπει να σέβονται αυτές τις οικουμενικές αξίες και ταυτόχρονα να προάγουν την ειρήνη, την ασφάλεια και την πρόοδο στην Ευρώπη και στον κόσμο· |
|
89. |
επικροτεί την έγκριση 11 κατευθυντήριων αρχών για την ανάπτυξη και τη χρήση αυτόνομων οπλικών συστημάτων κατά τη συνεδρίαση των υψηλών συμβαλλόμενων μερών της σύμβασης των Ηνωμένων Εθνών για ορισμένα συμβατικά όπλα (CCW) η οποία πραγματοποιήθηκε το 2019· εκφράζει, ωστόσο, τη δυσαρέσκειά του για το γεγονός ότι δεν επιτεύχθηκε συμφωνία για ένα νομικά δεσμευτικό μέσο που θα ρυθμίζει τα φονικά αυτόνομα οπλικά συστήματα (LAWS), με αποτελεσματικό μηχανισμό επιβολής· επικροτεί και υποστηρίζει την έκθεση της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη της Επιτροπής με τίτλο «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη» που δημοσιεύτηκε στις 9 Απριλίου 2019, καθώς και τη θέση της για τα φονικά αυτόνομα οπλικά συστήματα (LAWS)· παροτρύνει τα κράτη μέλη να αναπτύξουν εθνικές στρατηγικές για τον ορισμό και το καθεστώς των φονικών αυτόνομων οπλικών συστημάτων (LAWS) που να συγκλίνουν σε μια ολοκληρωμένη στρατηγική σε επίπεδο Ένωσης, και να προωθήσουν, από κοινού με τον Ύπατο Εκπρόσωπο της Ένωσης και Αντιπρόεδρο της Επιτροπής (ΥΕ/ΑΕ) και το Συμβούλιο, στη συζήτηση για τα LAWS στο πλαίσιο της Σύμβασης CCW των Ηνωμένων Εθνών και άλλα σχετικά φόρουμ, τη θέσπιση διεθνών κανόνων για τις δεοντολογικές και νομικές παραμέτρους για την ανάπτυξη και τη χρήση πλήρως αυτόνομων, ημιαυτόνομων και τηλεχειριζόμενων φονικών οπλικών συστημάτων· υπενθυμίζει, εν προκειμένω, το ψήφισμά του της 12ης Σεπτεμβρίου 2018 για τα φονικά αυτόνομα οπλικά συστήματα, και ζητεί εκ νέου την άμεση επεξεργασία και έγκριση κοινής θέσης για τα φονικά αυτόνομα οπλικά συστήματα, τη θέσπιση διεθνούς απαγόρευσης για την ανάπτυξη, παραγωγή και χρήση φονικών αυτόνομων οπλικών συστημάτων που καθιστούν δυνατή την πραγματοποίηση επιθέσεων χωρίς ουσιαστικό έλεγχο από τον άνθρωπο και χωρίς τήρηση της αρχής για ανθρώπινη παρέμβαση, σύμφωνα με τη δήλωση που έκαναν με ανοιχτή επιστολή τους το 2015 οι διαπρεπέστεροι ερευνητές του τομέα της ΤΝ· επικροτεί τη συμφωνία του Συμβουλίου και του Κοινοβουλίου για τον αποκλεισμό των φονικών αυτόνομων όπλων «χωρίς τη δυνατότητα ουσιώδους ανθρώπινου ελέγχου επί των αποφάσεων επιλογής και εμπλοκής κατά τη διενέργεια επιθέσεων» από τις δράσεις που θα λαμβάνουν χρηματοδότηση στο πλαίσιο του Ευρωπαϊκού Ταμείου Άμυνας· πιστεύει ότι δεν πρέπει να παραβλέπονται οι δεοντολογικές πτυχές άλλων εφαρμογών της ΤΝ στον τομέα της άμυνας, όπως η συλλογή πληροφοριών, η επιτήρηση και η αναγνώριση (ISR) ή οι κυβερνοεπιχειρήσεις, και ότι πρέπει να δοθεί ιδιαίτερη προσοχή στην ανάπτυξη και χρήση μη επανδρωμένων αεροσκαφών σε στρατιωτικές επιχειρήσεις· |
|
90. |
υπογραμμίζει ότι οι αναδυόμενες τεχνολογίες στον τομέα της άμυνας και της ασφάλειας που δεν καλύπτονται από το διεθνές δίκαιο θα πρέπει να κρίνονται λαμβανομένων υπόψη της αρχής του σεβασμού στην ανθρωπότητα και των επιταγών της δημόσιας συνείδησης· |
|
91. |
συνιστά κάθε ενωσιακό πλαίσιο που διέπει τη χρήση συστημάτων στον τομέα της άμυνας που βασίζονται στην ΤΝ, τόσο σε πολεμικές όσο και σε μη πολεμικές καταστάσεις, να σέβεται όλα τα ισχύοντα νομικά καθεστώτα — ιδιαίτερα το διεθνές ανθρωπιστικό δίκαιο και το διεθνές δίκαιο για τα ανθρώπινα δικαιώματα — και να συμμορφώνεται με τη νομοθεσία, τις αρχές και τις αξίες της Ένωσης, λαμβάνοντας υπόψη τις ανισότητες όσον αφορά τις τεχνικές υποδομές και τις υποδομές ασφάλειας σε ολόκληρη την Ένωση· |
|
92. |
αναγνωρίζει ότι, σε αντίθεση με τις βιομηχανικές βάσεις στον τομέα της άμυνας, καίριες καινοτομίες ΤΝ θα μπορούσαν να προέλθουν από μικρά κράτη μέλη, και συνεπώς μια προσέγγιση τυποποιημένη βάσει της ΚΠΑΑ θα μπορούσε να διασφαλίσει ότι δεν θα παραγκωνίζονται τα μικρά κράτη μέλη και οι ΜΜΕ· τονίζει ότι ένα σύνολο κοινών ενωσιακών ικανοτήτων ΤΝ σε συνδυασμό με τις έννοιες λειτουργίας ενός κράτους μέλους μπορεί να γεφυρώσει τα τεχνικά χάσματα που θα μπορούσαν να παραγκωνίσουν τα κράτη που δεν διαθέτουν τη σχετική τεχνολογία, τη βιομηχανική εμπειρογνωμοσύνη ή την ικανότητα υλοποίησης συστημάτων ΤΝ στα υπουργεία άμυνάς τους· |
|
93. |
θεωρεί ότι οι τρέχουσες και οι μελλοντικές δραστηριότητες που συνδέονται με την ασφάλεια και την άμυνα, εντός του πλαισίου της Ένωσης θα βασίζονται στην ΤΝ, στη ρομποτική και στην αυτονομία, καθώς και σε συναφείς τεχνολογίες, και ότι μια αξιόπιστη, συμπαγής και έμπιστη ΤΝ θα μπορούσε να συμβάλει σε έναν σύγχρονο και αποτελεσματικό στρατιωτικό τομέα· συνεπώς, η Ένωση πρέπει να αναλάβει ηγετικό ρόλο στην έρευνα και την ανάπτυξη συστημάτων ΤΝ στον τομέα της άμυνας· πιστεύει ότι η χρήση βασιζόμενων στην ΤΝ εφαρμογών στον τομέα της ασφάλειας και της άμυνας θα μπορούσε να αποφέρει διάφορα άμεσα οφέλη στον επικεφαλής της επιχείρησης, όπως συλλογή δεδομένων υψηλότερης ποιότητας, καλύτερη αντίληψη της κατάστασης, αυξημένη ταχύτητα για τη λήψη αποφάσεων, μειωμένο κίνδυνο παράπλευρων απωλειών χάρη στην καλύτερη επικοινωνία, προστασία των δυνάμεων που επιχειρούν και, επομένως, μειωμένο κίνδυνο για τους ανθρώπους και για ανθρώπινες απώλειες· τονίζει ότι είναι ουσιώδης η ανάπτυξη αξιόπιστης ΤΝ στον τομέα της άμυνας, ως τεχνολογίας για τη διασφάλιση της ευρωπαϊκής στρατηγικής αυτονομίας στους τομείς των ικανοτήτων και των επιχειρήσεων· υπενθυμίζει ότι τα συστήματα ΤΝ καθίστανται επίσης βασικά στοιχεία για την αντιμετώπιση των αναδυόμενων απειλών κατά της ασφάλειας, όπως ο κυβερνοπόλεμος και ο υβριδικός πόλεμος, όσο στην επιγραμμική όσο και στην απογραμμική σφαίρα· υπογραμμίζει παράλληλα όλους τους κινδύνους και τις προκλήσεις της ανεξέλεγκτης χρήσης της ΤΝ· επισημαίνει ότι η ΤΝ είναι επιδεκτική σε χειραγώγηση, σφάλματα και ανακρίβειες· |
|
94. |
τονίζει ότι οι τεχνολογίες ΤΝ είναι ουσιαστικά διττής χρήσης, και ότι η ανάπτυξη της ΤΝ σε σχετικές με την άμυνα δραστηριότητες επωφελείται από ανταλλαγές μεταξύ στρατιωτικών και μη στρατιωτικών τεχνολογιών· επισημαίνει ότι η ΤΝ στις σχετικές με την άμυνα δραστηριότητες αποτελεί μια εγκάρσια ανατρεπτική τεχνολογία η εξέλιξη της οποίας μπορεί να προσφέρει ευκαιρίες για την ανταγωνιστικότητα και τη στρατηγική αυτονομία της Ένωσης· |
|
95. |
αναγνωρίζει ότι, στο σύγχρονο πλαίσιο των υβριδικών και εξελιγμένων πολέμων, ο όγκος και η ταχύτητα των πληροφοριών κατά τα αρχικά στάδια μιας κρίσης μπορεί να είναι χαοτικά για τους αναλυτές, και ότι ένα σύστημα ΤΝ θα μπορούσε να επεξεργαστεί τις πληροφορίες προκειμένου να διασφαλιστεί ότι οι υπεύθυνοι λήψης αποφάσεων παρακολουθούν το πλήρες φάσμα των πληροφοριών μέσα σε επαρκή χρονικά πλαίσια που να επιτρέπουν την ταχεία ανταπόκριση· |
|
96. |
υπογραμμίζει ότι είναι σημαντικό να προωθηθεί η ανάπτυξη του ανθρώπινου κεφαλαίου για την τεχνητή νοημοσύνη, με την προαγωγή των αναγκαίων δεξιοτήτων και της εκπαίδευσης στον τομέα της ασφάλειας και των τεχνολογιών ΤΝ, με ιδιαίτερη έμφαση στη δεοντολογία των ημιαυτόνομων και αυτόνομων επιχειρησιακών συστημάτων που βασίζονται στην ανθρώπινη λογοδοσία σε έναν κόσμο βασιζόμενο στην ΤΝ· τονίζει ειδικότερα ότι είναι σημαντικό να εξασφαλιστεί ότι οι ειδικοί της δεοντολογίας στον τομέα αυτό διαθέτουν τις κατάλληλες δεξιότητες και λαμβάνουν την κατάλληλη κατάρτιση· καλεί την Επιτροπή να υποβάλει το συντομότερο δυνατό το «Θεματολόγιο Ενίσχυσης των Δεξιοτήτων», που εξήγγειλε στη Λευκή Βίβλο για την τεχνητή νοημοσύνη στις 19 Φεβρουαρίου 2020· |
|
97. |
τονίζει ότι η κβαντική υπολογιστική θα μπορούσε να αποτελέσει την πιο επαναστατική μεταβολή στο πεδίο των συγκρούσεων μετά την ανακάλυψη των ατομικών όπλων και, για τούτο, ζητεί να καταστούν προτεραιότητα για την Ένωση και τα κράτη μέλη οι τεχνολογίες κβαντικής υπολογιστικής· αναγνωρίζει ότι τυχόν πράξεις επίθεσης, μεταξύ άλλων επιθέσεις σε υποδομές ζωτικής σημασίας, υποβοηθούμενες από κβαντική υπολογιστική θα δημιουργήσουν ένα περιβάλλον σύγκρουσης στο πλαίσιο του οποίου ο διαθέσιμος χρόνος για τη λήψη αποφάσεων θα μειωθεί δραστικά από μέρες και ώρες σε λεπτά και δευτερόλεπτα, και συνεπώς τα κράτη μέλη θα αναγκαστούν να αναπτύξουν ικανότητες αυτοπροστασίας και να εκπαιδεύσουν τόσο τους υπεύθυνους χάραξης πολιτικής όσο και το στρατιωτικό προσωπικό ώστε να μπορούν να ανταποκριθούν αποτελεσματικά σε τέτοια χρονικά πλαίσια· |
|
98. |
ζητεί να αυξηθούν οι επενδύσεις στην ευρωπαϊκή ΤΝ για την άμυνα και στις υποδομές ζωτικής σημασίας στις οποίες βασίζεται· |
|
99. |
υπενθυμίζει ότι οι περισσότερες σύγχρονες στρατιωτικές δυνάμεις παγκοσμίως έχουν ήδη συμμετάσχει σε σημαντικές προσπάθειες έρευνας και ανάπτυξης σχετικά με τη στρατιωτική διάσταση της τεχνητής νοημοσύνης· θεωρεί ότι η ΕΕ πρέπει να διασφαλίσει ότι δεν θα μείνει πίσω στον συγκεκριμένο τομέα· |
|
100. |
καλεί την Επιτροπή να ενσωματώσει την ανάπτυξη ικανοτήτων στον τομέα της ασφάλειας στον κυβερνοχώρο στη βιομηχανική πολιτική της για να διασφαλίσει την ανάπτυξη και την εφαρμογή ασφαλών, ανθεκτικών και ισχυρών συστημάτων βασιζόμενων στην ΤΝ και ρομποτικών συστημάτων· καλεί την Επιτροπή να διερευνήσει τη χρήση εφαρμογών και πρωτοκόλλων κυβερνοασφάλειας που βασίζονται στην τεχνολογία αλυσίδας συστοιχιών, οι οποίες θα χρησιμοποιούν αποδιαμεσολαβημένα μοντέλα κρυπτογράφησης δεδομένων για να βελτιώσουν την ανθεκτικότητα, την αξιοπιστία και την ευρωστία των υποδομών ΤΝ· ενθαρρύνει τα ενδιαφερόμενα μέρη από την Ευρώπη να ερευνήσουν και να κατασκευάσουν εξελιγμένα χαρακτηριστικά που θα μπορούσαν να διευκολύνουν τον εντοπισμό διεφθαρμένων και κακόβουλων συστημάτων ΤΝ και ρομποτικών συστημάτων τα οποία θα μπορούσαν να υπονομεύσουν την ασφάλεια της Ένωσης και των πολιτών της· |
|
101. |
τονίζει ότι όλα τα συστήματα ΤΝ στον τομέα της άμυνας πρέπει να έχουν συγκεκριμένο και σαφώς καθορισμένο πλαίσιο αποστολής, όπου οι άνθρωποι θα διατηρούν τη δυνατότητα να εντοπίζουν και να αποδεσμεύουν ή να απενεργοποιούν τα ανεπτυγμένα συστήματα σε περίπτωση που απομακρυνθούν από το πλαίσιο αποστολής που έχει οριστεί και ανατεθεί από τον άνθρωπο διοικητή, ή σε περίπτωση που προβούν σε ενέργεια κλιμάκωσης ή σε ανεπιθύμητη δράση· θεωρεί ότι τα συστήματα, τα προϊόντα και η τεχνολογία ΤΝ που προορίζονται για στρατιωτική χρήση θα πρέπει να είναι εξοπλισμένα με «μαύρο κουτί» για την καταγραφή κάθε συναλλαγής δεδομένων που πραγματοποιείται από τη μηχανή· |
|
102. |
υπογραμμίζει ότι η ευθύνη και η λογοδοσία για την απόφαση να σχεδιαστεί, να αναπτυχθεί, να εφαρμοστεί και να χρησιμοποιηθεί ένα σύστημα ΤΝ πρέπει να ανήκει σε άνθρωπο χειριστή, δεδομένου ότι πρέπει να πραγματοποιούνται ουσιαστική παρακολούθηση και έλεγχος από άνθρωπο για κάθε οπλικό σύστημα, και ότι απόφαση για τη χρήση βίας κατά την εκτέλεση οποιασδήποτε απόφασης σε σχέση με οπλικά συστήματα ΤΝ που ενδέχεται να έχουν θανατηφόρες συνέπειες πρέπει να λαμβάνεται με ανθρώπινη πρόθεση· υπογραμμίζει ότι θα πρέπει να παραμείνουν ουσιαστικά υπό ανθρώπινο έλεγχο η διοίκηση και ο έλεγχος των συστημάτων ΤΝ, σύμφωνα με τις αρχές της ανθρώπινης παρέμβασης, του ελέγχου από άνθρωπο και της διοίκησης από άνθρωπο στο επίπεδο της στρατιωτικής ηγεσίας· τονίζει ότι τα συστήματα που λειτουργούν βάσει ΤΝ πρέπει να παρέχουν στη στρατιωτική ηγεσία τη δυνατότητα να αναλαμβάνει την πλήρη ευθύνη και λογοδοσία για τη χρήση φονικής βίας και να επιδεικνύει το αναγκαίο επίπεδο κριτικής ικανότητας, όταν πρόκειται να προβεί σε θανατηφόρες ή σε μεγάλης κλίμακας καταστρεπτικές ενέργειες με τη χρήση των εν λόγω συστημάτων, κάτι που δεν μπορεί να αφεθεί σε μηχανές, διότι μια τέτοια απόφαση πρέπει να βασίζεται στη διάκριση, την αναλογικότητα και την προφύλαξη· τονίζει την ανάγκη να θεσπιστούν σαφή και ανιχνεύσιμα πλαίσια εξουσιοδότησης και λογοδοσίας για τη χρήση έξυπνων όπλων και άλλων συστημάτων που στηρίζονται στην ΤΝ, μέσω της χρήσης μοναδικών χαρακτηριστικών χρηστών, όπως οι βιομετρικές προδιαγραφές, που επιτρέπουν τη χρήση μόνο από εξουσιοδοτημένο προσωπικό· |
Μεταφορές
|
103. |
επισημαίνει τη δυνατότητα να χρησιμοποιηθούν η τεχνητή νοημοσύνη, η ρομποτική και οι συναφές τεχνολογίες σε όλα τα αυτόνομα μέσα οδικών, σιδηροδρομικών, πλωτών και εναέριων μεταφορών, και επίσης για να προωθηθούν η αλλαγή του τρόπου εκτέλεσης των μεταφορών και η διατροπικότητα, καθώς οι εν λόγω τεχνολογίες μπορούν να συμβάλουν στην εξεύρεση του βέλτιστου συνδυασμού τρόπων μεταφοράς εμπορευμάτων και επιβατών· επιπλέον, τονίζει τις δυνατότητες που διαθέτουν για να καταστήσουν αποδοτικότερες τις μεταφορές, την εφοδιαστική και τις ροές κυκλοφορίας και να κάνουν όλους τους τρόπους μεταφοράς ασφαλέστερους, ευφυέστερους και φιλικότερους προς το περιβάλλον· επισημαίνει ότι η δεοντολογική προσέγγιση της τεχνητής νοημοσύνης μπορεί επίσης να θεωρηθεί ένα σύστημα έγκαιρης προειδοποίησης, ιδίως όσον αφορά την ασφάλεια και την αποδοτικότητα των μεταφορών· |
|
104. |
επισημαίνει το γεγονός ότι ο παγκόσμιος ανταγωνισμός μεταξύ εταιρειών και οικονομικών περιφερειών σημαίνει ότι η Ένωση θα πρέπει να προωθήσει τις επενδύσεις και να ενισχύσει τη διεθνή ανταγωνιστικότητα των εταιρειών που δραστηριοποιούνται στον τομέα των μεταφορών, με την καθιέρωση ενός περιβάλλοντος ευνοϊκού για την ανάπτυξη και την εφαρμογή λύσεων ΤΝ και περαιτέρω καινοτομιών, στο πλαίσιο του οποίου επιχειρήσεις που έχουν την έδρα τους στην Ένωση μπορούν να πρωτοστατήσουν παγκοσμίως στην ανάπτυξη τεχνολογιών ΤΝ· |
|
105. |
τονίζει ότι ο τομέας των μεταφορών της Ένωσης χρειάζεται ένα επικαιροποιημένο κανονιστικό πλαίσιο σχετικά με τις εν λόγω αναδυόμενες τεχνολογίες και τη χρήση τους στον τομέα των μεταφορών, και ένα σαφές δεοντολογικό πλαίσιο για την επίτευξη αξιόπιστης ΤΝ, συμπεριλαμβανομένων πτυχών που αφορούν την ασφάλεια, τον σεβασμό της ανθρώπινης αυτονομίας, την εποπτεία και την ευθύνη, τα οποία θα αυξήσουν τα οφέλη που απολαμβάνουν όλοι και θα είναι καίριας σημασίας για την τόνωση των επενδύσεων στην έρευνα και την καινοτομία, την ανάπτυξη δεξιοτήτων και την υιοθέτηση της ΤΝ από τις δημόσιες υπηρεσίες, τις ΜΜΕ, τις νεοφυείς επιχειρήσεις και τις επιχειρήσεις, και, ταυτόχρονα, θα διασφαλίζουν την προστασία των δεδομένων, καθώς και τη διαλειτουργικότητα, χωρίς να επιβάλλουν περιττές διοικητικές επιβαρύνσεις σε επιχειρήσεις και καταναλωτές· |
|
106. |
σημειώνει ότι η ανάπτυξη και εφαρμογή της ΤΝ στον τομέα των μεταφορών δεν θα επιτευχθεί χωρίς σύγχρονη υποδομή, η οποία αποτελεί ουσιώδες μέρος των ευφυών συστημάτων μεταφορών· τονίζει ότι οι υφιστάμενες ανισότητες όσον αφορά το επίπεδο ανάπτυξης μεταξύ των κρατών μελών κινδυνεύουν να στερήσουν από τις λιγότερο ανεπτυγμένες περιφέρειες και τους κατοίκους τους τα οφέλη από την ανάπτυξη της αυτόνομης κινητικότητας· ζητεί επαρκή χρηματοδότηση για τη στήριξη του εκσυγχρονισμού των υποδομών μεταφορών στην Ένωση, συμπεριλαμβανομένης της ενσωμάτωσής τους στο δίκτυο 5G· |
|
107. |
συνιστά να αναπτυχθούν αξιόπιστα πρότυπα ΤΝ σε επίπεδο ΕΕ για όλους τους τρόπους μεταφοράς, συμπεριλαμβανομένης της αυτοκινητοβιομηχανίας, και για τη δοκιμή οχημάτων βασιζόμενων στην ΤΝ και συναφών προϊόντων και υπηρεσιών· |
|
108. |
σημειώνει ότι τα συστήματα ΤΝ θα μπορούσαν να συμβάλουν στη σημαντική μείωση του αριθμού των θανάτων από τροχαία ατυχήματα, για παράδειγμα μέσω της βελτίωσης των χρόνων αντίδρασης και της καλύτερης συμμόρφωσης με τους κανόνες· θεωρεί, ωστόσο, ότι θα είναι αδύνατο η χρήση αυτόνομων οχημάτων να έχει ως συνέπεια την εξάλειψη όλων των ατυχημάτων, υπογραμμίζει δε ότι αυτό καθιστά όλο και σημαντικότερη την εξηγησιμότητα των αποφάσεων της ΤΝ, προκειμένου να αιτιολογούνται οι ελλείψεις και οι ακούσιες συνέπειες των αποφάσεων της ΤΝ· |
Απασχόληση, δικαιώματα των εργαζομένων, ψηφιακές δεξιότητες και χώρος εργασίας
|
109. |
επισημαίνει ότι η εφαρμογή της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών στον χώρο εργασίας μπορεί να συμβάλει στη δημιουργία αγορών εργασίας χωρίς αποκλεισμούς και να έχει αντίκτυπο στην υγεία και ασφάλεια στην εργασία, ενώ μπορεί επίσης να χρησιμοποιηθεί για την παρακολούθηση, την αξιολόγηση, την πρόβλεψη και την καθοδήγηση των επιδόσεων των εργαζομένων με άμεσες και έμμεσες συνέπειες για τη σταδιοδρομία τους· λαμβάνοντας υπόψη ότι η ΤΝ θα πρέπει να έχει θετικό αντίκτυπο στις συνθήκες εργασίας και να καθοδηγείται από τον σεβασμό των ανθρωπίνων δικαιωμάτων καθώς και των θεμελιωδών δικαιωμάτων και αξιών της Ένωσης· λαμβάνοντας υπόψη ότι η ΤΝ θα πρέπει να είναι ανθρωποκεντρική, να ενισχύει την ευημερία των ανθρώπων και της κοινωνίας και να συμβάλλει σε μια δίκαιη και ισότιμη μετάβαση· οι εν λόγω τεχνολογίες θα πρέπει, επομένως, να έχουν θετικό αντίκτυπο στις συνθήκες εργασίας και να διέπονται από τον σεβασμό των ανθρωπίνων δικαιωμάτων καθώς και των θεμελιωδών δικαιωμάτων και αξιών της Ένωσης· |
|
110. |
επισημαίνει ότι είναι αναγκαίο να αναπτυχθούν οι ικανότητες των εργαζομένων και των εκπροσώπων τους μέσω της κατάρτισης και της εκπαίδευσης σχετικά με την ΤΝ στον χώρο εργασίας, προκειμένου να κατανοούνται καλύτερα οι επιπτώσεις των λύσεων ΤΝ· τονίζει ότι οι αιτούντες και οι εργαζόμενοι θα πρέπει να ενημερώνονται δεόντως και εγγράφως όταν χρησιμοποιείται ΤΝ στο πλαίσιο διαδικασιών προσλήψεων και άλλων αποφάσεων σχετικά με τους ανθρώπινους πόρους και σχετικά με τον τρόπο με τον οποίο μπορεί να ζητηθεί επανεξέταση από άνθρωπο σε μια τέτοια περίπτωση προκειμένου να αναστραφεί μια αυτοματοποιημένη απόφαση· |
|
111. |
τονίζει την ανάγκη να εξασφαλιστεί ότι η αύξηση της παραγωγικότητας που οφείλεται στην ανάπτυξη και τη χρήση της ΤΝ και της ρομποτικής δεν ωφελεί μόνο τους ιδιοκτήτες και τους μετόχους εταιρειών, αλλά και τις εταιρείες και το εργατικό δυναμικό, μέσω καλύτερων συνθηκών εργασίας και απασχόλησης, συμπεριλαμβανομένων του μισθού, της οικονομικής μεγέθυνσης και ανάπτυξης, και ότι υπηρετεί επίσης την κοινωνία στο σύνολό της, ιδίως όταν τα εν λόγω οφέλη αποβαίνουν εις βάρος των θέσεων εργασίας· καλεί τα κράτη μέλη να μελετήσουν προσεκτικά τον δυνητικό αντίκτυπο της ΤΝ στην αγορά εργασίας και στα συστήματα κοινωνικής ασφάλισης και να αναπτύξουν στρατηγικές για να εξασφαλίσουν μακροπρόθεσμη σταθερότητα μέσω της μεταρρύθμισης των φόρων και των εισφορών καθώς και άλλων μέτρων σε περίπτωση χαμηλότερων δημόσιων εσόδων· |
|
112. |
υπογραμμίζει τη σημασία των εταιρικών επενδύσεων στην τυπική και άτυπη κατάρτιση και δια βίου μάθηση, προκειμένου να υποστηριχθεί η δίκαιη μετάβαση προς την ψηφιακή οικονομία· τονίζει, στο πλαίσιο αυτό, ότι οι εταιρείες που χρησιμοποιούν ΤΝ έχουν την ευθύνη να παρέχουν επαρκή επανεκπαίδευση και αναβάθμιση των δεξιοτήτων για όλους τους ενδιαφερόμενους εργαζόμενους, προκειμένου αυτοί να μάθουν πώς να χρησιμοποιούν ψηφιακά εργαλεία και να δουλεύουν με συνεργατικά ρομπότ («co-bots») και άλλες νέες τεχνολογίες, και, επομένως, να προσαρμόζονται στις μεταβαλλόμενες ανάγκες της αγοράς εργασίας και να διατηρούν την απασχόλησή τους· |
|
113. |
θεωρεί ότι θα πρέπει να δοθεί ιδιαίτερη προσοχή στις νέες μορφές εργασίας, όπως η περιστασιακή εργασία και η εργασία σε πλατφόρμες, που προκύπτουν από την εφαρμογή νέων τεχνολογιών σε αυτό το πλαίσιο· τονίζει ότι, στο πλαίσιο της ρύθμισης των συνθηκών τηλεργασίας σε ολόκληρη την Ένωση και της διασφάλισης αξιοπρεπών συνθηκών εργασίας και απασχόλησης στην ψηφιακή οικονομία, πρέπει επίσης να λαμβάνεται υπόψη ο αντίκτυπος της ΤΝ· καλεί την Επιτροπή να προβεί σε σχετικές διαβουλεύσεις με τους κοινωνικούς εταίρους, τους προγραμματιστές ΤΝ, τους ερευνητές και άλλους συμφεροντούχους· |
|
114. |
υπογραμμίζει ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες δεν πρέπει να θίγει με κανένα τρόπο την άσκηση των θεμελιωδών δικαιωμάτων όπως αναγνωρίζονται στα κράτη μέλη και σε επίπεδο Ένωσης, μεταξύ άλλων, του δικαιώματος ή της ελευθερίας σε απεργία ή για ανάληψη άλλων δράσεων που καλύπτονται από ειδικά συστήματα εργασιακών σχέσεων στα κράτη μέλη, σύμφωνα με το εθνικό δίκαιο και/ή την εθνική πρακτική, ούτε να θίγουν το δικαίωμα διαπραγμάτευσης, σύναψης και εφαρμογής συλλογικών συμβάσεων ή το δικαίωμα ανάληψης συλλογικής δράσης σύμφωνα με το εθνικό δίκαιο ή/και την εθνική πρακτική· |
|
115. |
επαναλαμβάνει ότι είναι σημαντική η εκπαίδευση και η συνεχής μάθηση για την ανάπτυξη των προσόντων που είναι αναγκαία στην ψηφιακή εποχή και για να αντιμετωπιστεί ο ψηφιακός αποκλεισμός· καλεί τα κράτη μέλη να επενδύσουν σε συστήματα εκπαίδευσης, επαγγελματικής κατάρτισης και διά βίου μάθησης που είναι υψηλής ποιότητας, ανταποκρίνονται στις ανάγκες και δεν εισάγουν αποκλεισμούς καθώς και σε πολιτικές επανεκπαίδευσης και αναβάθμισης των δεξιοτήτων των εργαζομένων σε τομείς που ενδέχεται να πληγούν σοβαρά από την ΤΝ· επισημαίνει την ανάγκη να παρασχεθούν στο σημερινό και το μελλοντικό εργατικό δυναμικό οι αναγκαίες δεξιότητες γραμματισμού, αριθμητισμού και ψηφιακές δεξιότητες καθώς και ικανότητες στους τομείς των θετικών επιστημών, της τεχνολογίας, της μηχανικής και των μαθηματικών (STEM), και εγκάρσιες μη τεχνικές δεξιότητες όπως η κριτική σκέψη, η δημιουργικότητα και η επιχειρηματικότητα· υπογραμμίζει ότι πρέπει να δοθεί ιδιαίτερη προσοχή στη ένταξη των μειονεκτουσών ομάδων στο πλαίσιο αυτό· |
|
116. |
υπενθυμίζει ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες που χρησιμοποιούνται στον χώρο εργασίας πρέπει να είναι προσβάσιμες για όλους, βάσει της αρχής του σχεδιασμού για όλους· |
Εκπαίδευση και πολιτισμός
|
117. |
τονίζει την ανάγκη να αναπτυχθούν κριτήρια για την ανάπτυξη, την εφαρμογή και τη χρήση της ΤΝ, λαμβανομένου υπόψη τον αντίκτυπού τους στους τομείς της εκπαίδευσης, των μέσων ενημέρωσης, της νεολαίας, της έρευνας, του αθλητισμού, και του πολιτισμού και της δημιουργικότητας, με την ανάπτυξη σημείων αναφοράς και τον καθορισμό αρχών για δεοντολογικά υπεύθυνες και αποδεκτές χρήσεις των τεχνολογιών ΤΝ που μπορούν να εφαρμοστούν κατάλληλα σε αυτούς τους τομείς, συμπεριλαμβανομένου ενός σαφούς καθεστώτος ευθύνης για τα προϊόντα που προκύπτουν από τη χρήση της ΤΝ· |
|
118. |
σημειώνει ότι κάθε παιδί έχει δικαίωμα σε ποιοτική δημόσια εκπαίδευση σε όλες τις βαθμίδες· ζητεί, επομένως, να αναπτυχθούν, να εφαρμοστούν και να χρησιμοποιηθούν ποιοτικά συστήματα ΤΝ που καθιστούν δυνατά και παρέχουν ποιοτικά εκπαιδευτικά εργαλεία για όλους σε κάθε βαθμίδα, και τονίζει ότι δεν θα πρέπει η εφαρμογή νέων συστημάτων ΤΝ στα σχολεία να οδηγήσει στη διεύρυνση του ψηφιακού χάσματος στην κοινωνία· αναγνωρίζει την τεράστια δυνητική συμβολή της ΤΝ και της ρομποτικής στην εκπαίδευση· σημειώνει ότι δεν θα πρέπει τα συστήματα ΤΝ για εξατομικευμένη μάθηση να αντικαθιστούν τις εκπαιδευτικές σχέσεις στις οποίες συμμετέχουν οι εκπαιδευτικοί, και ότι δεν θα πρέπει να παραμερίζονται οι παραδοσιακές μορφές εκπαίδευσης, ταυτόχρονα δε παρατηρεί ότι πρέπει να παρέχεται οικονομική, τεχνολογική και εκπαιδευτική στήριξη, συμπεριλαμβανομένης της εξειδικευμένης κατάρτισης στις τεχνολογίες της πληροφορίας και των επικοινωνιών, για τους εκπαιδευτικούς που επιθυμούν να αποκτήσουν κατάλληλες δεξιότητες, ώστε να προσαρμοστούν στις τεχνολογικές αλλαγές και, όχι μόνο να αξιοποιήσουν τις δυνατότητες της ΤΝ, αλλά και να κατανοήσουν τους περιορισμούς της· ζητεί να αναπτυχθεί μια στρατηγική σε επίπεδο Ένωσης η οποία θα συμβάλει στον μετασχηματισμό και την επικαιροποίηση των εκπαιδευτικών μας συστημάτων, θα προετοιμάσει τα εκπαιδευτικά μας ιδρύματα σε όλες τις βαθμίδες και θα εφοδιάσει τους εκπαιδευτικούς και τους μαθητές με τις απαραίτητες δεξιότητες και ικανότητες· |
|
119. |
τονίζει ότι τα εκπαιδευτικά ιδρύματα θα πρέπει να επιδιώκουν τη χρήση συστημάτων ΤΝ για εκπαιδευτικούς σκοπούς που έχουν λάβει ευρωπαϊκό πιστοποιητικό δεοντολογικής συμμόρφωσης· |
|
120. |
τονίζει ότι οι ευκαιρίες που παρέχονται από την ψηφιοποίηση και τις νέες τεχνολογίες δεν πρέπει να έχουν ως αποτέλεσμα τη συνολική απώλεια θέσεων εργασίας στον πολιτιστικό και τον δημιουργικό τομέα, την παραμέληση της διατήρησης των πρωτοτύπων ή την υποβάθμιση της παραδοσιακής πρόσβασης στην πολιτιστική κληρονομιά, η οποία θα πρέπει επίσης να ενθαρρύνεται· σημειώνει ότι πρέπει τα συστήματα ΤΝ που αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται στην Ένωση θα πρέπει να αντικατοπτρίζουν την πολιτιστική πολυμορφία και την πολυγλωσσία της· |
|
121. |
αναγνωρίζει τις αυξανόμενες δυνατότητες της ΤΝ στους τομείς της πληροφόρησης, των μέσων ενημέρωσης και των επιγραμμικών πλατφορμών, μεταξύ άλλων ως εργαλείου για την καταπολέμηση της παραπληροφόρησης σύμφωνα με το δίκαιο της Ένωσης· υπογραμμίζει ότι, εάν δεν ρυθμιστεί, ενδέχεται να έχει αρνητικές από δεοντολογικής πλευράς επιπτώσεις, εκμεταλλευόμενη μεροληψίες στα δεδομένα και τους αλγορίθμους, οι οποίες μπορεί να οδηγήσουν στη διάδοση της παραπληροφόρησης και στη δημιουργία «φουσκών πληροφοριών» (information bubbles)· τονίζει τη σημασία της διαφάνειας και της λογοδοσίας όσον αφορά τους αλγορίθμους που χρησιμοποιούνται από τις πλατφόρμες διαμοιρασμού βίντεο, καθώς και από τις πλατφόρμες μετάδοσης συνεχούς ροής, προκειμένου να διασφαλίζεται η πρόσβαση σε πολιτιστικά και γλωσσικά ποικίλο περιεχόμενο· |
Εθνικές εποπτικές αρχές
|
122. |
επισημαίνει την προστιθέμενη αξία του ορισμού εθνικών εποπτικών αρχών σε κάθε κράτος μέλος, οι οποίες θα είναι αρμόδιες να διασφαλίζουν, να αξιολογούν και να παρακολουθούν τη συμμόρφωση με τις νομικές υποχρεώσεις και τις δεοντολογικές αρχές για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών υψηλού κινδύνου, συμβάλλοντας έτσι στη νομική και δεοντολογική συμμόρφωση των εν λόγω τεχνολογιών· |
|
123. |
πιστεύει ότι οι εν λόγω αρχές πρέπει να υποχρεούνται, χωρίς να αλληλεπικαλύπτονται τα καθήκοντά τους, να συνεργάζονται με τις αρχές που είναι αρμόδιες για την εφαρμογή της τομεακής νομοθεσίας, προκειμένου να εντοπίζουν τις τεχνολογίες υψηλού κινδύνου από δεοντολογική άποψη και να εποπτεύουν την εφαρμογή των απαιτούμενων και κατάλληλων μέτρων όταν εντοπίζονται τέτοιες τεχνολογίες· |
|
124. |
επισημαίνει ότι οι εν λόγω αρχές θα πρέπει να επικοινωνούν όχι μόνο μεταξύ τους, αλλά και με την Ευρωπαϊκή Επιτροπή και άλλα σχετικά θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης, προκειμένου να διασφαλίζεται η συνεκτικότητα της διασυνοριακής δράσης· |
|
125. |
προτείνει, στο πλαίσιο αυτής της συνεργασίας, να αναπτυχθούν κοινά κριτήρια και μια διαδικασία υποβολής αιτήσεων για τη χορήγηση ευρωπαϊκού πιστοποιητικού δεοντολογικής συμμόρφωσης, μεταξύ άλλων κατόπιν αιτήματος οποιουδήποτε φορέα ανάπτυξης, φορέα εφαρμογής ή χρήστη τεχνολογιών που δεν θεωρούνται υψηλού κινδύνου, ο οποίος επιθυμεί να πιστοποιηθεί η θετική αξιολόγηση της συμμόρφωσης που έχει διενεργηθεί από την οικεία εθνική εποπτική αρχή· |
|
126. |
ζητεί οι εν λόγω αρχές να είναι επιφορτισμένες με το καθήκον να προωθούν την τακτική ανταλλαγή απόψεων με την κοινωνία των πολιτών, καθώς και την καινοτομία σε επίπεδο Ένωσης, παρέχοντας βοήθειας σε ερευνητές, προγραμματιστές και άλλα ενδιαφερόμενα μέρη, καθώς και σε ψηφιακά λιγότερο ώριμες εταιρείες, και ιδίως σε μικρές και μεσαίες ή νεοφυείς επιχειρήσεις· ειδικότερα όσον αφορά την ευαισθητοποίηση και τη στήριξη για την ανάπτυξη, την εφαρμογή, την κατάρτιση και την απόκτηση ταλέντων, ώστε να εξασφαλίζονται η αποτελεσματική μεταφορά τεχνολογίας και η πρόσβαση σε τεχνολογίες, έργα, εκροές και δίκτυα· |
|
127. |
ζητεί να δοθεί επαρκή χρηματοδότηση από όλα τα κράτη μέλη στα οποία έχουν οριστεί εθνικές εποπτικές αρχές, και τονίζει την ανάγκη να ενισχυθούν οι εθνικές αρχές εποπτείας της αγοράς όσον αφορά τους πόρους, τις δεξιότητες και τις ικανότητες, καθώς και τις γνώσεις σχετικά με τους ειδικούς κινδύνους της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών· |
Συντονισμός σε επίπεδο Ένωσης
|
128. |
υπογραμμίζει τη σημασία του συντονισμού σε επίπεδο Ένωσης, όπως διενεργείται από την Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που μπορούν να οριστούν στο πλαίσιο αυτό προκειμένου να αποφευχθεί ο κατακερματισμός και να διασφαλιστεί εναρμονισμένη προσέγγιση σε ολόκληρη την Ένωση· θεωρεί ότι ο συντονισμός θα πρέπει να επικεντρώνεται στις εντολές και τις δράσεις των εθνικών εποπτικών αρχών σε κάθε κράτος μέλος, όπως αναφέρεται στην προηγούμενη υποενότητα, καθώς και στην ανταλλαγή βέλτιστων πρακτικών μεταξύ των εν λόγω αρχών και τη συμβολή στη συνεργασία στον τομέα της έρευνας και ανάπτυξης σε ολόκληρη την Ένωση· καλεί την Επιτροπή να αξιολογήσει και να εξεύρει την καταλληλότερη λύση για τη διάρθρωση αυτού του συντονισμού· παραδείγματα σχετικών υφιστάμενων θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης είναι ο ENISA, ο ΕΕΠΔ και ο Ευρωπαίος Διαμεσολαβητής· |
|
129. |
πιστεύει ότι ο συντονισμός αυτός, καθώς και η ευρωπαϊκή πιστοποίηση της δεοντολογικής συμμόρφωσης, όχι μόνο θα ωφελήσουν την ανάπτυξη της βιομηχανίας και της καινοτομίας στην Ένωση στο πλαίσιο αυτό, αλλά θα αυξήσουν επίσης την ευαισθητοποίηση των πολιτών σχετικά με τις ευκαιρίες που προσφέρουν και τους κινδύνους που ενέχουν οι τεχνολογίες αυτές· |
|
130. |
προτείνει να δημιουργηθεί ένα κέντρο εμπειρογνωμοσύνης, το οποίο θα φέρνει σε επαφή τον ακαδημαϊκό τομέα, τους τομείς της έρευνας και της βιομηχανίας, καθώς και μεμονωμένους εμπειρογνώμονες σε επίπεδο Ένωσης, προκειμένου να προωθηθεί η ανταλλαγή γνώσεων και τεχνικής εμπειρογνωμοσύνης και να διευκολυνθεί η συνεργασία σε ολόκληρη την Ένωση και πέραν αυτής· ζητεί επίσης το εν λόγω κέντρο εμπειρογνωμοσύνης να περιλαμβάνει οργανώσεις ενδιαφερομένων, όπως, για παράδειγμα, οργανώσεις προστασίας των καταναλωτών, προκειμένου να διασφαλίζεται η ευρεία εκπροσώπηση των καταναλωτών· θεωρεί ότι, λόγω του πιθανού δυσανάλογου αντίκτυπου των αλγοριθμικών συστημάτων στις γυναίκες και στις μειονότητες, τα επίπεδα λήψης αποφάσεων μιας τέτοιας δομής θα πρέπει να είναι ετερόκλητα και να διασφαλίζουν την ισότητα των φύλων· τονίζει ότι τα κράτη μέλη πρέπει να αναπτύξουν στρατηγικές διαχείρισης κινδύνων για την ΤΝ, στο πλαίσιο των εθνικών στρατηγικών τους για την εποπτεία της αγοράς· |
|
131. |
προτείνει η Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης που μπορούν να οριστούν σε αυτό το πλαίσιο να παρέχουν κάθε αναγκαία συνδρομή στις εθνικές εποπτικές αρχές όσον αφορά τον ρόλο τους ως πρώτων σημείων επαφής σε περιπτώσεις εικαζόμενων παραβιάσεων των νομικών υποχρεώσεων και των δεοντολογικών αρχών που ορίζονται στο κανονιστικό πλαίσιο της Ένωσης για την ΤΝ, συμπεριλαμβανομένης της αρχής της μη διακριτικής μεταχείρισης· θα πρέπει επίσης να παρέχει κάθε αναγκαία συνδρομή στις εθνικές εποπτικές αρχές σε περιπτώσεις κατά τις οποίες οι τελευταίες διενεργούν αξιολογήσεις συμμόρφωσης με σκοπό τη στήριξη του δικαιώματος των πολιτών να αμφισβητούν και να ζητούν επανόρθωση, και συγκεκριμένα υποστηρίζοντας, κατά περίπτωση, τη διαβούλευση με άλλες αρμόδιες αρχές στην Ένωση, ιδίως με το δίκτυο συνεργασίας για την προστασία των καταναλωτών και τους εθνικούς φορείς προστασίας των καταναλωτών, τις οργανώσεις της κοινωνίας των πολιτών και τους κοινωνικούς εταίρους που βρίσκονται σε άλλα κράτη μέλη· |
|
132. |
αναγνωρίζει την πολύτιμη συνεισφορά της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη, η οποία αποτελείται από εκπροσώπους της ακαδημαϊκής κοινότητας, της κοινωνίας των πολιτών και της βιομηχανίας, καθώς και της Ευρωπαϊκής Συμμαχίας για την ΤΝ, ιδιαίτερα τις «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη», και προτείνει να μπορεί αυτή να παρέχει εμπειρογνωμοσύνη στην Επιτροπή και/ή σε τυχόν αρμόδια θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που μπορούν να οριστούν στο πλαίσιο αυτό· |
|
133. |
σημειώνει τη συμπερίληψη σχετικών με την ΤΝ έργων στο ευρωπαϊκό πρόγραμμα βιομηχανικής ανάπτυξης στον τομέα της άμυνας (EDIDP)· πιστεύει ότι το μελλοντικό Ευρωπαϊκό Ταμείο Άμυνας (ΕΤΑ) και η μόνιμη διαρθρωμένη συνεργασία (PESCO) μπορεί επίσης να προσφέρει καλώς προσαρμοσμένα πλαίσια για μελλοντικά έργα που συνδέονται με την ΤΝ, τα οποία θα μπορούσαν να συμβάλουν στον καλύτερο εξορθολογισμό των ενωσιακών προσπαθειών στον τομέα αυτόν, και παράλληλα θα προωθήσουν τον στόχο της Ένωσης για προαγωγή των ανθρωπίνων δικαιωμάτων, του διεθνούς δικαίου και των πολυμερών λύσεων· τονίζει ότι τα έργα που συνδέονται με την ΤΝ θα πρέπει να συγχρονίζονται με τα ευρύτερα μη στρατιωτικά ενωσιακά προγράμματα που αφορούν την ΤΝ· επισημαίνει ότι, σύμφωνα με τη Λευκή Βίβλο για την τεχνητή νοημοσύνη που εξέδωσε η Ευρωπαϊκή Επιτροπή στις 19 Φεβρουαρίου 2020, τα κέντρα αριστείας και έρευνας που εστιάζουν στην έρευνα και την ανάπτυξη της ΤΝ στον τομέα της ασφάλειας και της άμυνας θα πρέπει να δημιουργούνται βάσει αυστηρών προδιαγραφών που να υποστηρίζουν τη συμμετοχή και τις επενδύσεις ιδιωτικών φορέων· |
|
134. |
σημειώνει τη Λευκή Βίβλο για την τεχνητή νοημοσύνη που εξέδωσε η Ευρωπαϊκή Επιτροπή στις 19 Φεβρουαρίου 2020, και εκφράζει τη δυσαρέσκειά του για το γεγονός ότι δεν συνυπολογίστηκαν οι στρατιωτικές πτυχές· καλεί την Επιτροπή και τον ΥΕ/ΑΠ να υποβάλουν, στο πλαίσιο μιας συνολικής προσέγγισης, τομεακή στρατηγική για την ΤΝ σε δραστηριότητες συνδεόμενες με την άμυνα εντός του πλαισίου της Ένωσης, η οποία θα διασφαλίζει τόσο τον σεβασμό των δικαιωμάτων των πολιτών όσο και τα στρατηγικά συμφέροντα της Ένωσης και θα βασίζεται σε μια συνεπή προσέγγιση που θα εκτείνεται από τη σύλληψη συστημάτων ΤΝ έως τη στρατιωτική χρήση τους, και να συγκροτήσει ομάδα εργασίας για την ασφάλεια και την άμυνα στο πλαίσιο της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη, η οποία θα ασχολείται ειδικά με ζητήματα πολιτικής και επενδύσεων, καθώς και με δεοντολογικές πτυχές της ΤΝ στον τομέα της ασφάλειας και άμυνας· καλεί το Συμβούλιο, την Επιτροπή και τον ΑΠ/ΥΕ να ξεκινήσουν διαρθρωμένο διάλογο με το Κοινοβούλιο για τον σκοπό αυτό· |
Ευρωπαϊκή πιστοποίηση δεοντολογικής συμμόρφωσης
|
135. |
προτείνει να αναπτυχθούν κοινά κριτήρια και μια διαδικασία υποβολής αιτήσεων για τη χορήγηση ευρωπαϊκού πιστοποιητικού δεοντολογικής συμμόρφωσης στο πλαίσιο του συντονισμού σε επίπεδο Ένωσης, μεταξύ άλλων κατόπιν αιτήματος οποιουδήποτε φορέα ανάπτυξης, φορέα εφαρμογής ή χρήστη τεχνολογιών που δεν θεωρούνται υψηλού κινδύνου, ο οποίος επιθυμεί να πιστοποιηθεί η θετική αξιολόγηση της συμμόρφωσης που έχει διενεργηθεί από την οικεία εθνική εποπτική αρχή· |
|
136. |
πιστεύει ότι το εν λόγω ευρωπαϊκό πιστοποιητικό δεοντολογικής συμμόρφωσης θα προωθούσε τη δεοντολογία εκ σχεδιασμού σε ολόκληρη την αλυσίδα εφοδιασμού των οικοσυστημάτων τεχνητής νοημοσύνης· προτείνει, επομένως, η πιστοποίηση αυτή να αποτελεί, στην περίπτωση των τεχνολογιών υψηλού κινδύνου, υποχρεωτική προϋπόθεση επιλεξιμότητας για τις διαδικασίες σύναψης δημόσιων συμβάσεων στον τομέα της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών· |
Διεθνής συνεργασία
|
137. |
είναι της γνώμης ότι η αποτελεσματική διασυνοριακή συνεργασία και η τήρηση των δεοντολογικών προτύπων μπορούν να επιτευχθούν μόνον εάν όλα τα ενδιαφερόμενα μέρη δεσμευτούν να εξασφαλίσουν ανθρώπινη παρέμβαση και εποπτεία, τεχνική ευρωστία και ασφάλεια, διαφάνεια και λογοδοσία, πολυμορφία, αμεροληψία και δικαιοσύνη, κοινωνική και περιβαλλοντική ευημερία, και σέβονται τις καθιερωμένες αρχές της ιδιωτικότητας, της διακυβέρνησης των δεδομένων και της προστασίας των δεδομένων, ιδίως εκείνες που κατοχυρώνονται στον κανονισμό (ΕΕ) 2016/679· |
|
138. |
τονίζει ότι οι νομικές υποχρεώσεις και οι δεοντολογικές αρχές της Ένωσης για την ανάπτυξη, την εφαρμογή και τη χρήση αυτών των τεχνολογιών θα μπορούσαν να καταστήσουν την Ευρώπη πρωτοπόρο σε παγκόσμιο επίπεδο στον τομέα της τεχνητής νοημοσύνης και, ως εκ τούτου, θα πρέπει να προωθηθούν παγκοσμίως μέσω της συνεργασίας με διεθνείς εταίρους, ενώ παράλληλα θα συνεχιστεί ο κρίσιμος και δεοντολογικός διάλογος με τρίτες χώρες που διαθέτουν εναλλακτικά μοντέλα ρύθμισης, ανάπτυξης και εφαρμογής μοντέλων τεχνητής νοημοσύνης· |
|
139. |
υπενθυμίζει ότι οι ευκαιρίες που προσφέρουν και οι κίνδυνοι που ενέχουν οι τεχνολογίες αυτές έχουν παγκόσμια διάσταση, καθώς το λογισμικό και τα δεδομένα που χρησιμοποιούν συχνά εισάγονται στην Ένωση και εξάγονται από αυτήν, και, επομένως, χρειάζεται να υιοθετηθεί μια συνεκτική προσέγγιση συνεργασίας σε διεθνές επίπεδο· καλεί την Επιτροπή να αναλάβει την πρωτοβουλία να αξιολογήσει ποιες διμερείς και πολυμερείς συνθήκες και συμφωνίες θα πρέπει να προσαρμοστούν ώστε να διασφαλιστεί μια συνεκτική προσέγγιση και να προωθηθεί το ευρωπαϊκό μοντέλο δεοντολογικής συμμόρφωσης σε παγκόσμιο επίπεδο· |
|
140. |
επισημαίνει την προστιθέμενη αξία του συντονισμού σε επίπεδο Ένωσης, όπως αναφέρεται ανωτέρω και στο πλαίσιο αυτό· |
|
141. |
ζητεί να εδραιωθούν συνέργειες και δίκτυα μεταξύ διαφόρων ευρωπαϊκών κέντρων έρευνας για την ΤΝ, καθώς και άλλων πολύπλευρων φόρουμ, όπως το Συμβούλιο της Ευρώπης, η Οργάνωση των Ηνωμένων Εθνών για την Εκπαίδευση, την Επιστήμη και τον Πολιτισμό (UNESCO), ο Οργανισμός Οικονομικής Συνεργασίας και Ανάπτυξης (ΟΟΣΑ), ο Παγκόσμιος Οργανισμός Εμπορίου και η Διεθνής Ένωση Τηλεπικοινωνιών (ITU), με στόχο την εναρμόνιση των προσπαθειών τους και τον καλύτερο συντονισμό στην ανάπτυξη της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών· |
|
142. |
υπογραμμίζει ότι η Ένωση πρέπει να βρίσκεται στην πρώτη γραμμή για τη στήριξη των πολυμερών προσπαθειών στο πλαίσιο της ομάδας κρατικών εμπειρογνωμόνων της τη CCW του ΟΗΕ και άλλων σχετικών φόρουμ, προκειμένου να συζητηθεί ένα αποτελεσματικό διεθνές ρυθμιστικό πλαίσιο που να εξασφαλίζει ουσιαστικό ανθρώπινο έλεγχο επί των αυτόνομων οπλικών συστημάτων, ώστε οι τεχνολογίες αυτές τεθούν υπό πλήρη έλεγχο, με την καθιέρωση σαφώς καθορισμένων και βασιζόμενων σε δείκτες αναφοράς διαδικασιών και τη θέσπιση νομοθεσίας για τη δεοντολογική χρήση τους, σε διαβούλευση με τους ενδιαφερόμενους φορείς του στρατού, της βιομηχανίας, της επιβολής του νόμου, της ακαδημαϊκής κοινότητας και της κοινωνίας των πολιτών, να κατανοηθούν οι σχετικές δεοντολογικές πτυχές, να μετριαστούν οι εγγενείς κίνδυνοι των τεχνολογιών και να προληφθεί η χρήση τους για δόλιους σκοπούς· |
|
143. |
αναγνωρίζει τον ρόλο του ΝΑΤΟ στην προώθηση της ευρωατλαντικής ασφάλειας και ζητεί συνεργασία εντός του ΝΑΤΟ για τη θέσπιση κοινών προτύπων και τη διαλειτουργικότητα των συστημάτων ΤΝ στον τομέα της άμυνας· τονίζει ότι η διατλαντική σχέση είναι σημαντική για τη διαφύλαξη των κοινών αξιών και την αντιμετώπιση μελλοντικών και αναδυόμενων απειλών· |
|
144. |
επισημαίνει ότι είναι σημαντικό να δημιουργηθεί ένας κώδικας δεοντολογίας που θα στηρίζει την ανάπτυξη στηριζόμενων στην ΤΝ συστημάτων με δυνατότητα χρήσης ως όπλων σε στρατιωτικές επιχειρήσεις, παρόμοιος με το υφιστάμενο κανονιστικό πλαίσιο που απαγορεύει την ανάπτυξη χημικών και βιολογικών όπλων· θεωρεί ότι η Επιτροπή θα πρέπει να δρομολογήσει τη δημιουργία προτύπων σχετικά με τη χρήση οπλικών συστημάτων ΤΝ σε πολεμικές επιχειρήσεις σύμφωνα με το διεθνές ανθρωπιστικό δίκαιο, και ότι η Ένωση θα πρέπει να επιδιώξει τη διεθνή έγκριση τέτοιων προτύπων· θεωρεί ότι η Ένωση θα πρέπει να προβεί σε διπλωματικές ενέργειες σχετικά με την ΤΝ σε διεθνή φόρουμ με ομόγνωμους εταίρους όπως η G7, η G20 και ο ΟΟΣΑ· |
Τελικές πτυχές
|
145. |
συμπεραίνει, μετά τον ανωτέρω προβληματισμό σχετικά με πτυχές που αφορούν τη δεοντολογική διάσταση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, ότι η νομική και δεοντολογική διάσταση θα πρέπει να ενσωματωθεί σε ένα αποτελεσματικό, μακρόπνοο και ολοκληρωμένο κανονιστικό πλαίσιο σε επίπεδο Ένωσης, το οποίο θα υποστηρίζεται από τις εθνικές αρμόδιες αρχές, θα συντονίζεται και θα ενισχύεται από την Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και τους οργανισμούς της Ένωσης που μπορούν να οριστούν σε αυτό το πλαίσιο, θα υποστηρίζεται τακτικά από το προαναφερθέν κέντρο εμπειρογνωμοσύνης, και θα τηρείται δεόντως και θα πιστοποιείται στο πλαίσιο της εσωτερικής αγοράς· |
|
146. |
Σύμφωνα με τη διαδικασία του άρθρου 225 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης, ζητεί από την Επιτροπή να υποβάλει πρόταση κανονισμού σχετικά με τις δεοντολογικές αρχές για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, βάσει του άρθρου 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης και με βάση τις λεπτομερείς συστάσεις που διατυπώνονται στο παράρτημα· επισημαίνει ότι η πρόταση δεν θα πρέπει να υπονομεύει την ειδική τομεακή νομοθεσία, αλλά θα πρέπει να καλύπτει μόνο τα κενά που έχουν εντοπιστεί· |
|
147. |
συνιστά στην Ευρωπαϊκή Επιτροπή, κατόπιν διαβούλευσης με όλα τα ενδιαφερόμενα μέρα, να επανεξετάσει, εάν χρειαστεί, την υφιστάμενη ενωσιακή νομοθεσία που ισχύει για την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, προκειμένου να αντιμετωπιστεί η ταχύτητα της ανάπτυξής τους σύμφωνα με τις συστάσεις που παρατίθενται στο παράρτημα του παρόντος κανονισμού, και παράλληλα να αποφευχθεί η υπερβολική ρύθμιση, μεταξύ άλλων για τις ΜΜΕ· |
|
148. |
πιστεύει ότι η περιοδική αξιολόγηση και επανεξέταση, όπου απαιτείται, του κανονιστικού πλαισίου της Ένωσης σχετικά με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες θα είναι ουσιαστικής σημασίας προκειμένου να διασφαλιστεί ότι η ισχύουσα νομοθεσία ευθυγραμμίζεται με την ταχεία τεχνολογική πρόοδο· |
|
149. |
θεωρεί ότι η ζητούμενη νομοθετική πρόταση θα έχει δημοσιονομικές συνέπειες, εάν τα προαναφερθέντα καθήκοντα συντονισμού πρόκειται να ανατεθούν σε ευρωπαϊκό οργανισμό και θα έπρεπε να παρασχεθούν στον εν λόγω οργανισμό οι απαραίτητοι τεχνικοί και ανθρώπινοι πόροι για την εκπλήρωση των πρόσθετων καθηκόντων που του έχουν ανατεθεί· |
o
o o
|
150. |
αναθέτει στον Πρόεδρό του να διαβιβάσει το παρόν ψήφισμα και τις επισυναπτόμενες λεπτομερείς συστάσεις στην Επιτροπή και στο Συμβούλιο. |
(1) ΕΕ L 252 της 8.10.2018, σ. 1.
(2) ΕΕ L 180 της 19.7.2000, σ. 22.
(3) ΕΕ L 303 της 2.12.2000, σ. 16.
(4) ΕΕ L 119 της 4.5.2016, σ. 1.
(5) ΕΕ L 119 της 4.5.2016, σ. 89.
(6) ΕΕ L 123 της 12.5.2016, σ. 1.
(7) ΕΕ C 252 της 18.7.2018, σ. 239.
(8) ΕΕ C 307 της 30.8.2018, σ. 163.
(9) ΕΕ C 433 της 23.12.2019, σ. 86.
(10) Κείμενα που εγκρίθηκαν, P8_TA(2018)0332.
(11) Κείμενα που εγκρίθηκαν, P8_TA(2019)0081.
(12) https://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2020)654179.
(13) Οδηγία (EE) 2019/882 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 17ης Απριλίου 2019, σχετικά με τις απαιτήσεις προσβασιμότητας προϊόντων και υπηρεσιών (ΕΕ L 151 της 7.6.2019, σ. 70).
(14) Απόφαση αριθ. 768/2008/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Ιουλίου 2008, σχετικά με ένα κοινό πλαίσιο για την εμπορία των προϊόντων και για την κατάργηση της απόφασης 93/465/ΕΟΚ του Συμβουλίου (ΕΕ L 218 της 13.8.2008, σ. 82).
ΠΑΡΑΡΤΗΜΑ ΣΤΟ ΨΗΦΙΣΜΑ
ΛΕΠΤΟΜΕΡΕΙΣ ΣΥΣΤΑΣΕΙΣ ΣΧΕΤΙΚΑ ΜΕ ΤΟ ΠΕΡΙΕΧΟΜΕΝΟ ΤΗΣ ΖΗΤΟΥΜΕΝΗΣ ΠΡΟΤΑΣΗΣ
Α. ΑΡΧΕΣ ΚΑΙ ΣΤΟΧΟΙ ΤΗΣ ΖΗΤΟΥΜΕΝΗΣ ΠΡΟΤΑΣΗΣ
|
I. |
Οι βασικές αρχές και οι βασικοί στόχοι της πρότασης είναι οι εξής:
|
|
II. |
Η πρόταση περιλαμβάνει τα εξής στοιχεία:
|
|
III. |
Ο «κανονισμός σχετικά με δεοντολογικές αρχές για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών» εδράζεται στις ακόλουθες αρχές:
|
|
IV. |
Για τους σκοπούς του συντονισμού σε επίπεδο Ένωσης, η Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης που μπορούν να οριστούν σε αυτό το πλαίσιο θα πρέπει να εκτελούν τα ακόλουθα κύρια καθήκοντα:
|
|
V. |
Επιπλέον, η Επιτροπή θα πρέπει να εκτελεί τα ακόλουθα καθήκοντα:
|
|
VI. |
Η «εποπτική αρχή» κάθε κράτους μέλους θα πρέπει να εκτελεί τα ακόλουθα βασικά καθήκοντα:
|
|
VII. |
Ο βασικός ρόλος των ενδιαφερόμενων μερών θα πρέπει να είναι η συνεργασία με την Επιτροπή και/ή με τα σχετικά θεσμικά και λοιπά όργανα και τους οργανισμούς της Ένωσης που μπορούν να οριστούν στο πλαίσιο αυτό, και με την «εποπτική αρχή» κάθε κράτους μέλους. |
Β. ΚΕΙΜΕΝΟ ΤΗΣ ΖΗΤΟΥΜΕΝΗΣ ΝΟΜΟΘΕΤΙΚΗΣ ΠΡΟΤΑΣΗΣ
Πρόταση
ΚΑΝΟΝΙΣΜΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ
σχετικά με δεοντολογικές αρχές για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών
ΤΟ ΕΥΡΩΠΑΪΚΟ ΚΟΙΝΟΒΟΥΛΙΟ ΚΑΙ ΤΟ ΣΥΜΒΟΥΛΙΟ ΤΗΣ ΕΥΡΩΠΑΪΚΗΣ ΕΝΩΣΗΣ,
Έχοντας υπόψη τη Συνθήκη για τη λειτουργία της Ευρωπαϊκής Ένωσης και ιδίως το άρθρο 114,
Έχοντας υπόψη την πρόταση της Ευρωπαϊκής Επιτροπής,
Κατόπιν διαβίβασης του σχεδίου νομοθετικής πράξης στα εθνικά κοινοβούλια,
Έχοντας υπόψη τη γνώμη της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής,
Αποφασίζοντας σύμφωνα με τη συνήθη νομοθετική διαδικασία,
Εκτιμώντας τα ακόλουθα:
|
(1) |
Η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να βασίζονται στη βούληση για εξυπηρέτηση της κοινωνίας. Οι εν λόγω τεχνολογίες μπορούν να προσφέρουν ευκαιρίες και να ενέχουν κινδύνους που θα πρέπει να αντιμετωπιστούν και να ρυθμιστούν από ένα ολοκληρωμένο κανονιστικό πλαίσιο σε επίπεδο Ένωσης, το οποίο θα πρέπει να τηρείται από το στάδιο της ανάπτυξης και εφαρμογής των εν λόγω τεχνολογιών μέχρι και το στάδιο της χρήσης τους. |
|
(2) |
Η συμμόρφωση προς τις δεοντολογικές αρχές όσον αφορά την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες στην Ένωση, θα πρέπει να είναι ισοδύναμο σε όλα τα κράτη μέλη, προκειμένου να αξιοποιούνται αποτελεσματικά οι ευκαιρίες και να αντιμετωπίζονται με συνέπεια οι κίνδυνοι αυτών των τεχνολογιών, καθώς και να αποφεύγεται ο κανονιστικός κατακερματισμός. Θα πρέπει να εξασφαλιστεί ότι οι κανόνες που ορίζονται στον παρόντα κανονισμό εφαρμόζονται ομοιόμορφα σε ολόκληρη την Ένωση. |
|
(3) |
Στο πλαίσιο αυτό, η υφιστάμενη ποικιλομορφία των κανόνων και των πρακτικών που πρέπει να ακολουθούνται σε ολόκληρη την Ένωση ενέχει σημαντικό κίνδυνο κατακερματισμού της ενιαίας αγοράς, μπορεί δε να υπονομεύσει την προστασία της ευημερίας και της ευμάρειας τόσο των ατόμων όσο και της κοινωνίας, καθώς και την ολοκληρωμένη αξιοποίηση του πλήρους δυναμικού που διαθέτουν η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες όσον αφορά την προώθηση της καινοτομίας και τη διατήρηση αυτής της ευημερίας και της ευμάρειας. Οι διαφορές ως προς τον βαθμό συνεκτίμησης, εκ μέρους των φορέων ανάπτυξης, των φορέων εγκατάστασης και των χρηστών, της εγγενούς σε αυτές τις τεχνολογίες δεοντολογικής διάστασης μπορούν να υπονομεύσουν την ελεύθερη ανάπτυξη, εφαρμογή και χρήση τους εντός της Ένωσης, καθώς και να αποτελέσουν εμπόδιο στη διασφάλιση ισότιμων όρων ανταγωνισμού, την επιδίωξη τεχνολογικής προόδου και την άσκηση οικονομικών δραστηριοτήτων σε επίπεδο Ένωσης, να στρεβλώσουν τον ανταγωνισμό και να εμποδίσουν τις αρχές από την εκπλήρωση των υποχρεώσεών τους βάσει του δικαίου της Ένωσης. Επιπλέον, η απουσία κοινού κανονιστικού πλαισίου, το οποίο να αντικατοπτρίζει τις δεοντολογικές αρχές, για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συνεπάγεται ανασφάλεια δικαίου για όλους τους εμπλεκόμενους φορείς, δηλαδή τους φορείς ανάπτυξης, τους φορείς εφαρμογής και τους χρήστες. |
|
(4) |
Ωστόσο, ο παρών κανονισμός, ενώ συμβάλλει στην υιοθέτηση μιας συνεκτικής προσέγγισης σε επίπεδο Ένωσης και εντός των ορίων που θέτει, θα πρέπει να παρέχει στα κράτη ένα περιθώριο ελιγμών, μεταξύ άλλων όσον αφορά τον τρόπο εκτέλεσης της εντολής της αντίστοιχης εθνικής εποπτικής αρχής τους, λαμβανομένου υπόψη του επιδωκόμενου στόχου, όπως ορίζεται στον παρόντα κανονισμό. |
|
(5) |
Ο παρών κανονισμός δεν θίγει την υφιστάμενη ή μελλοντική τομεακή νομοθεσία. Θα πρέπει να είναι αναλογική σε σχέση με τον στόχο της, ώστε να μην παρεμποδίζεται αδικαιολόγητα η καινοτομία στην Ένωση, και να συνάδει με μια προσέγγιση με βάση τον κίνδυνο. |
|
(6) |
Το γεωγραφικό πεδίο εφαρμογής του εν λόγω πλαισίου θα πρέπει να καλύπτει όλες τις συνιστώσες της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών καθ’ όλη τη διάρκεια της ανάπτυξης, της εφαρμογής και της χρήσης τους στην Ένωση, συμπεριλαμβανομένων των περιπτώσεων στις οποίες μέρος των τεχνολογιών ενδέχεται να βρίσκεται εκτός της Ένωσης ή να μην έχει συγκεκριμένη ή μοναδική τοποθεσία, όπως στην περίπτωση των υπηρεσιών υπολογιστικού νέφους. |
|
(7) |
Προκειμένου να υπάρξει μια ενιαία κανονιστική προσέγγιση και, επομένως, ασφάλεια δικαίου τόσο για τους πολίτες όσο και για τις επιχειρήσεις, είναι απαραίτητο να καθιερωθεί στην Ένωση κοινή αντίληψη εννοιών, όπως η τεχνητή νοημοσύνη, η ρομποτική, οι συναφείς τεχνολογίες και η βιομετρική αναγνώριση. Αυτές θα πρέπει να είναι τεχνολογικά ουδέτερες και να υπόκεινται σε επανεξέταση όποτε είναι αναγκαίο. |
|
(8) |
Επιπλέον, είναι αναγκαίο να ληφθεί υπόψη το γεγονός ότι υπάρχουν τεχνολογίες που σχετίζονται με την τεχνητή νοημοσύνη και τη ρομποτική και επιτρέπουν στο λογισμικό να ελέγχει φυσικές ή εικονικές διεργασίες, σε μικρότερο ή μεγαλύτερο βαθμό αυτονομίας (1). Για παράδειγμα, όσον αφορά την αυτοματοποιημένη οδήγηση οχημάτων, το διεθνές πρότυπο J3016 της Ένωσης Μηχανικών Αυτοκινήτων (Society of Automotive Engineers — SAE) πρότεινε έξι διαφορετικά επίπεδα αυτόνομης οδήγησης. |
|
(9) |
Η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να συμπληρώνουν τις ανθρώπινες ικανότητες, να μην τις υποκαθιστούν και να διασφαλίζουν ότι η εκτέλεσή τους δεν αντίκειται στο βέλτιστο συμφέρον των πολιτών και ότι συμμορφώνεται με το δίκαιο της Ένωσης, τα θεμελιώδη δικαιώματα, όπως ορίζονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης («Χάρτης»), στην πάγια νομολογία του Δικαστηρίου της Ευρωπαϊκής Ένωσης, καθώς και σε άλλες ευρωπαϊκές και διεθνείς πράξεις που ισχύουν στην Ένωση. |
|
(10) |
Οι αποφάσεις που λαμβάνονται ή ενημερώνονται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες θα πρέπει να εξακολουθήσουν να υπόκεινται σε ουσιαστική επανεξέταση, κρίση, παρέμβαση και έλεγχο από τον άνθρωπο. Η τεχνική και λειτουργική πολυπλοκότητα των εν λόγω τεχνολογιών δεν θα πρέπει ποτέ να εμποδίζει τον φορέα εφαρμογής ή τον χρήστη τους να είναι σε θέση, τουλάχιστον, να ενεργοποιεί το κλείδωμα με ασφάλεια έναντι βλάβης, να μεταβάλλει ή να διακόπτει τη λειτουργία τους, ή να επιστρέφει σε προηγούμενη κατάσταση για την αποκατάσταση ασφαλών λειτουργιών, σε περιπτώσεις όπου διακυβεύεται η συμμόρφωση με το δίκαιο της Ένωσης και με τις δεοντολογικές αρχές και τις νομικές υποχρεώσεις που ορίζονται στον παρόντα κανονισμό. |
|
(11) |
Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες θα πρέπει να θεωρούνται υψηλού κινδύνου, όταν η ανάπτυξη, η εφαρμογή και η χρήση τους συνεπάγονται σημαντικό κίνδυνο να προκληθεί τραυματισμός ή βλάβη σε μεμονωμένα άτομα ή στην κοινωνία, κατά παράβαση των θεμελιωδών δικαιωμάτων και των κανόνων ασφαλείας που ορίζονται στο δίκαιο της Ένωσης. Για τους σκοπούς της αξιολόγησής τους ως τέτοιων, θα πρέπει να λαμβάνονται υπόψη ο τομέας στον οποίο αυτές αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται, η συγκεκριμένη χρήση ή ο σκοπός τους και η σοβαρότητα του τραυματισμού ή της βλάβης που αναμένεται ότι θα επέλθει. Ο βαθμός σοβαρότητας θα πρέπει να καθορίζεται με βάση την έκταση του πιθανού τραυματισμού ή της βλάβης, τον αριθμό των θιγόμενων προσώπων, τη συνολική αξία της προκαλούμενης ζημίας και τη ζημία για την κοινωνία στο σύνολό της. Σοβαρές μορφές τραυματισμού και βλάβης είναι, για παράδειγμα, οι παραβιάσεις των δικαιωμάτων των παιδιών, των καταναλωτών ή των εργαζομένων, οι οποίες, λόγω της έκτασής τους, του αριθμού των παιδιών, των καταναλωτών ή των εργαζομένων που επηρεάζονται, ή του αντικτύπου τους στο σύνολο της κοινωνίας, συνεπάγονται σημαντικό κίνδυνο παραβίασης των θεμελιωδών δικαιωμάτων και των κανόνων ασφαλείας, όπως ορίζονται στο δίκαιο της Ένωσης. Ο παρών κανονισμός θα πρέπει να παρέχει εξαντλητικό και σωρευτικό κατάλογο των τομέων υψηλού κινδύνου, και των χρήσεων και σκοπών υψηλού κινδύνου. |
|
(12) |
Οι υποχρεώσεις που ορίζονται στον παρόντα κανονισμό, ιδίως όσον αφορά τις τεχνολογίες υψηλού κινδύνου, θα πρέπει να ισχύουν μόνο για την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, οι οποίες αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση και, σύμφωνα με την εκτίμηση κινδύνου που προβλέπεται στον παρόντα κανονισμό, θεωρούνται υψηλού κινδύνου. Οι εν λόγω υποχρεώσεις πρέπει να τηρούνται με την επιφύλαξη της γενικής υποχρέωσης σύμφωνα με την οποία η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να αναπτύσσονται, να εφαρμόζονται και να χρησιμοποιούνται στην Ένωση με ανθρωποκεντρικό τρόπο και με βάση τις αρχές της ανθρώπινης αυτονομίας και ασφάλειας σύμφωνα με το δίκαιο της Ένωσης και με πλήρη σεβασμό των θεμελιωδών δικαιωμάτων, όπως, για παράδειγμα, η ανθρώπινη αξιοπρέπεια, το δικαίωμα στην ελευθερία και την ασφάλεια και το δικαίωμα στην ακεραιότητα του προσώπου. |
|
(13) |
Οι τεχνολογίες υψηλού κινδύνου θα πρέπει να σέβονται τις αρχές της ασφάλειας, της διαφάνειας, της λογοδοσίας, της αμεροληψίας ή της μη διακριτικής μεταχείρισης, της κοινωνικής ευθύνης και της ισότητας των φύλων, του δικαιώματος επανόρθωσης, της περιβαλλοντικής βιωσιμότητας, της προστασίας της ιδιωτικής ζωής και της χρηστής διακυβέρνησης, αφού η εθνική εποπτική αρχή διενεργήσει αμερόληπτη, αντικειμενική και εξωτερική εκτίμηση κινδύνου σύμφωνα με τα κριτήρια που καθορίζονται στον παρόντα κανονισμό και στον κατάλογο που παρατίθεται στο παράρτημα. Στο πλαίσιο αυτής της αξιολόγησης θα πρέπει να λαμβάνονται υπόψη οι απόψεις του φορέα ανάπτυξης ή τον φορέα εφαρμογής και κάθε αυτοαξιολόγηση που διενεργείται από αυτούς. |
|
(14) |
Η Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης που μπορούν να οριστούν για τον σκοπό αυτό θα πρέπει να καταρτίσουν μη δεσμευτικές κατευθυντήριες γραμμές υλοποίησης για τους φορείς ανάπτυξης, τους φορείς εφαρμογής και τους χρήστες σχετικά με τη μεθοδολογία για τη συμμόρφωση με τον παρόντα κανονισμό. Στο πλαίσιο αυτό, θα πρέπει να διαβουλεύονται με τα ενδιαφερόμενα μέρη. |
|
(15) |
Θα πρέπει να υπάρχει συνοχή εντός της Ένωσης όσον αφορά την εκτίμηση των κινδύνων των εν λόγω τεχνολογιών, ιδίως στην περίπτωση που αυτές αξιολογούνται τόσο μέσα το πρίσμα του παρόντος κανονισμού όσο και σύμφωνα με την ισχύουσα τομεακή νομοθεσία. Κατά συνέπεια, οι εθνικές εποπτικές αρχές θα πρέπει να ενημερώνουν άλλες αρχές που διενεργούν εκτιμήσεις κινδύνου σύμφωνα με οποιαδήποτε τομεακή νομοθεσία, όταν οι εν λόγω τεχνολογίες αξιολογούνται ως υψηλού κινδύνου μετά τη διενέργεια της εκτίμησης κινδύνου που προβλέπεται στον παρόντα κανονισμό. |
|
(16) |
Για να είναι αξιόπιστες, η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να αναπτύσσονται, να εφαρμόζονται και να χρησιμοποιούνται με ασφαλή, διαφανή και υπεύθυνο τρόπο, σύμφωνα με τα χαρακτηριστικά ασφαλείας που αφορούν την ευρωστία, την ανθεκτικότητα, την ασφάλεια, την ακρίβεια και τον εντοπισμό σφαλμάτων, την εξηγησιμότητα, την ερμηνευσιμότητα, την επαληθευσιμότητα, τη διαφάνεια και την αναγνωρισιμότητα, και κατά τρόπο ώστε να καθίστανται δυνατές η απενεργοποίηση των οικείων λειτουργιών και η επαναφορά σε προηγούμενη κατάσταση για την αποκατάσταση ασφαλών λειτουργιών, σε περιπτώσεις μη συμμόρφωσης με τα εν λόγω χαρακτηριστικά ασφαλείας. Η διαφάνεια θα πρέπει να εξασφαλίζεται με την παροχή στις δημόσιες αρχές, όπου είναι απολύτως αναγκαίο, δυνατότητας πρόσβασης στην τεχνολογία, τα δεδομένα και τα συστήματα πληροφορικής στα οποία βασίζονται οι εν λόγω τεχνολογίες. |
|
(17) |
Οι φορείς ανάπτυξης, οι φορείς εφαρμογής και οι χρήστες της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, ιδίως τεχνολογιών υψηλού κινδύνου, είναι υπεύθυνοι σε διαφορετικό βαθμό για τη συμμόρφωση με τις αρχές της ασφάλειας, της διαφάνειας και της λογοδοσίας, ανάλογα με τη συμμετοχή τους στις σχετικές τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες. Οι φορείς ανάπτυξης θα πρέπει να διασφαλίζουν ότι οι σχετικές τεχνολογίες σχεδιάζονται και κατασκευάζονται σύμφωνα με τα χαρακτηριστικά ασφαλείας που ορίζονται στον παρόντα κανονισμό, ενώ οι φορείς εφαρμογής και οι χρήστες θα πρέπει να εφαρμόζουν και να χρησιμοποιούν τις σχετικές τεχνολογίες λαμβάνοντας πλήρως υπόψη τα εν λόγω χαρακτηριστικά. Για τον σκοπό αυτό, οι φορείς ανάπτυξης τεχνολογιών υψηλού κινδύνου θα πρέπει να αξιολογούν και να προβλέπουν τους κινδύνους κατάχρησης που μπορούν εύλογα να αναμένονται όσον αφορά τις τεχνολογίες που αναπτύσσουν. Θα πρέπει επίσης να διασφαλίζουν ότι τα συστήματα που αναπτύσσουν υποδεικνύουν, στο μέτρο του δυνατού και με κατάλληλα μέσα, όπως, για παράδειγμα, τα μηνύματα αποποίησης ευθύνης, την πιθανότητα σφαλμάτων ή ανακριβειών. |
|
(18) |
Οι φορείς ανάπτυξης και οι φορείς εφαρμογής θα πρέπει να θέτουν στη διάθεση των χρηστών τυχόν μεταγενέστερες ενημερώσεις των σχετικών τεχνολογιών, ιδίως όσον αφορά το λογισμικό, όπως ορίζεται στις συμβάσεις ή όπως προβλέπεται στο ενωσιακό ή εθνικό δίκαιο. Επιπλέον, όταν υποδεικνύεται σε εκτίμηση κινδύνου, οι φορείς ανάπτυξης και οι φορείς εφαρμογής θα πρέπει να παρέχουν στις δημόσιες αρχές τη σχετική τεκμηρίωση όσον αφορά τη χρήση των οικείων τεχνολογιών, καθώς και τις σχετικές οδηγίες ασφαλείας, συμπεριλαμβανομένων του πηγαίου κώδικα, των εργαλείων ανάπτυξης και των δεδομένων που χρησιμοποιούνται από το σύστημα, όταν αυτό είναι απολύτως αναγκαίο και με πλήρη σεβασμό της νομοθεσίας της Ένωσης για την προστασία των δεδομένων, της ιδιωτικής ζωής, των δικαιωμάτων διανοητικής ιδιοκτησίας και του εμπορικού απορρήτου. |
|
(19) |
Τα άτομα έχουν το δικαίωμα να αναμένουν από την τεχνολογία που χρησιμοποιούν ότι λειτουργεί με εύλογο τρόπο και σέβεται την εμπιστοσύνη τους. Ο βαθμός εμπιστοσύνης των πολιτών στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, εξαρτάται από τη την κατανόηση και αφομοίωση των τεχνικών διαδικασιών. Ο βαθμός εξηγησιμότητας των εν λόγω διαδικασιών θα πρέπει να εξαρτάται από το πλαίσιο των εν λόγω τεχνικών διαδικασιών και από τη σοβαρότητα των συνεπειών μιας εσφαλμένης ή ανακριβούς εκροής, πρέπει δε να είναι επαρκής για την αμφισβήτησή τους και για την αναζήτηση επανόρθωσης. Η ελεγξιμότητα, η ιχνηλασιμότητα και η διαφάνεια θα πρέπει να αντιμετωπίζουν τον πιθανό ακατανόητο χαρακτήρα των εν λόγω τεχνολογιών. |
|
(20) |
Η εμπιστοσύνη της κοινωνίας στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, εξαρτάται από τον βαθμό αξιολογησιμότητας, ελεγξιμότητας και ιχνηλασιμότητας των οικείων τεχνολογιών. Όπου απαιτείται λόγω του βαθμού συμμετοχής τους, οι προγραμματιστές θα πρέπει να διασφαλίζουν ότι οι εν λόγω τεχνολογίες σχεδιάζονται και κατασκευάζονται κατά τρόπο ώστε να επιτρέπονται η εν λόγω αξιολόγηση, ο έλεγχος και η ιχνηλάτηση. Εντός των ορίων του τεχνικώς εφικτού, οι φορείς εφαρμογής και οι χρήστες θα πρέπει να διασφαλίζουν ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες εφαρμόζονται και χρησιμοποιούνται με πλήρη σεβασμό των απαιτήσεων διαφάνειας, παρέχοντας ταυτόχρονα τη δυνατότητα ελέγχου και ιχνηλάτησης. |
|
(21) |
Προκειμένου να διασφαλίζονται η διαφάνεια και η λογοδοσία, όταν ένα σύστημα χρησιμοποιεί τεχνητή νοημοσύνη, όταν τα συστήματα τεχνητής νοημοσύνης εξατομικεύουν ένα προϊόν ή μια υπηρεσία για τους χρήστες του και υπάρχει ενδεχομένως δυνατότητα απενεργοποίησης ή περιορισμού της εξατομίκευσης, καθώς και όταν πρόκειται για τεχνολογία αυτοματοποιημένης λήψης αποφάσεων, οι πολίτες θα πρέπει να ενημερώνονται σχετικά. Επιπλέον, τα μέτρα διαφάνειας θα πρέπει να συνοδεύονται, στον βαθμό που αυτό είναι τεχνικά εφικτό, από σαφείς και κατανοητές εξηγήσεις σχετικά με τα δεδομένα που χρησιμοποιούνται και σχετικά με τον αλγόριθμο, τον σκοπό του, τα αποτελέσματά του και τους πιθανούς κινδύνους που ενέχει. |
|
(22) |
Η μεροληψία και οι διακρίσεις από λογισμικό, αλγορίθμους και δεδομένα είναι αθέμιτες και θα πρέπει να αντιμετωπιστούν με τη ρύθμιση των διαδικασιών μέσω των οποίων σχεδιάζονται και εφαρμόζονται. Η μεροληψία μπορεί να απορρέει τόσο από αποφάσεις που ενημερώνονται ή λαμβάνονται από αυτοματοποιημένα συστήματα όσο και από σύνολα δεδομένων στα οποία βασίζονται οι εν λόγω αποφάσεις ή τα οποία εκπαιδεύουν το σύστημα. |
|
(23) |
Το λογισμικό, οι αλγόριθμοι και τα δεδομένα που χρησιμοποιούνται ή παράγονται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες θα πρέπει να θεωρούνται μεροληπτικά, όταν, για παράδειγμα, παρουσιάζουν μη βέλτιστα αποτελέσματα σε σχέση με οποιοδήποτε πρόσωπο ή οποιαδήποτε ομάδα προσώπων, βάσει προκατειλημμένης προσωπικής ή κοινωνικής αντίληψης και επακόλουθης επεξεργασίας των δεδομένων που αφορούν τα χαρακτηριστικά τους. |
|
(24) |
Σύμφωνα με το δίκαιο της Ένωσης, θα πρέπει να θεωρείται ότι το λογισμικό, οι αλγόριθμοι και τα δεδομένα που χρησιμοποιούνται ή παράγονται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες εισάγουν διακρίσεις, όταν παράγουν αποτελέσματα που έχουν δυσανάλογες αρνητικές επιπτώσεις και οδηγούν σε διαφορετική μεταχείριση ενός προσώπου ή μιας ομάδας προσώπων, μεταξύ άλλων θέτοντας τα πρόσωπα αυτά σε μειονεκτική θέση σε σύγκριση με άλλα, για λόγους όπως τα προσωπικά χαρακτηριστικά τους, χωρίς αντικειμενική ή εύλογη αιτιολόγηση και ανεξάρτητα από τυχόν ισχυρισμούς ουδετερότητας των τεχνολογιών. |
|
(25) |
Σύμφωνα με το δίκαιο της Ένωσης, θεμιτοί στόχοι που θα μπορούσαν, βάσει του παρόντος κανονισμού, να θεωρηθούν ότι δικαιολογούν αντικειμενικά οποιαδήποτε διαφορετική μεταχείριση προσώπων ή ομάδας προσώπων είναι η προστασία της δημόσιας τάξης, ασφάλειας και υγείας, η πρόληψη ποινικών αδικημάτων, η προστασία των ατομικών δικαιωμάτων και ελευθεριών, η δίκαιη εκπροσώπηση και η αντικειμενικότητα των απαιτήσεων για την άσκηση επαγγέλματος. |
|
(26) |
Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να συμβάλουν στη βιώσιμη πρόοδο. Οι τεχνολογίες αυτές δεν θα πρέπει να αντιβαίνουν προς τον στόχο της διατήρησης του περιβάλλοντος ή της πράσινης μετάβασης. Θα μπορούσαν να διαδραματίσουν σημαντικό ρόλο στην επίτευξη των Στόχων Βιώσιμης Ανάπτυξης που περιγράφονται από τα Ηνωμένα Έθνη, έτσι ώστε οι μελλοντικές γενιές να μπορέσουν να ακμάσουν. Οι εν λόγω τεχνολογίες μπορούν να στηρίξουν την παρακολούθηση της επαρκούς προόδου με βάση δείκτες βιωσιμότητας και κοινωνικής συνοχής, μεταξύ άλλων χρησιμοποιώντας υπεύθυνα εργαλεία έρευνας και καινοτομίας που απαιτούν την κινητοποίηση πόρων από την Ένωση και τα κράτη μέλη της για τη στήριξη και την επένδυση σε έργα για την επίτευξη των εν λόγω στόχων. |
|
(27) |
Η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, δεν θα πρέπει σε καμία περίπτωση να προκαλούν σκόπιμα ή να αποδέχονται εκ σχεδιασμού κανενός είδους τραυματισμό ή βλάβη στα άτομα ή την κοινωνία. Κατά συνέπεια, οι εν λόγω τεχνολογίες υψηλού κινδύνου θα πρέπει να αναπτύσσονται, να εφαρμόζονται και να χρησιμοποιούνται με κοινωνικά υπεύθυνο τρόπο. |
|
(28) |
Ως εκ τούτου, οι φορείς ανάπτυξης, οι φορείς εφαρμογής και οι χρήστες θα πρέπει να θεωρούνται υπεύθυνοι, ανάλογα με τον βαθμό της συμμετοχής τους στην τεχνητή νοημοσύνη, τη ρομποτική και τις σχετικές τεχνολογίες, και σύμφωνα με τους ενωσιακούς και εθνικούς κανόνες περί ευθύνης, για κάθε τραυματισμό ή βλάβη που προκαλείται σε μεμονωμένα άτομα και στην κοινωνία. |
|
(29) |
Ειδικότερα, οι προγραμματιστές που λαμβάνουν αποφάσεις οι οποίες καθορίζουν και ελέγχουν την πορεία ή τον τρόπο ανάπτυξης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, καθώς και οι φορείς εφαρμογής που συμμετέχουν στην εφαρμογή τους λαμβάνοντας αποφάσεις σχετικά με την εν λόγω εφαρμογή και ασκώντας έλεγχο επί των σχετικών κινδύνων ή επωφελούμενοι από την εν λόγω εφαρμογή, με ελεγκτική ή διαχειριστική λειτουργία, θα πρέπει γενικά να θεωρείται ότι είναι υπεύθυνοι για την πρόληψη τέτοιων τραυματισμών ή ζημιών και, γι’ αυτό, θα πρέπει να λαμβάνουν κατάλληλα μέτρα κατά τη διάρκεια της διαδικασίας ανάπτυξης, τα οποία θα τηρούν πλήρως κατά τη διάρκεια της φάσης εφαρμογής. |
|
(30) |
Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες που είναι κοινωνικά υπεύθυνες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, μπορούν να οριστούν ως τεχνολογίες που συμβάλλουν στην εξεύρεση λύσεων οι οποίες προστατεύουν και προάγουν διάφορες πτυχές της κοινωνίας, ιδίως τη δημοκρατία, την υγεία και την οικονομική ευημερία, την ισότητα ευκαιριών, τα δικαιώματα των εργαζομένων και τα κοινωνικά δικαιώματα, την πολυφωνία και την ανεξαρτησία των μέσων ενημέρωσης και τη δωρεάν πρόσβαση σε αντικειμενική ενημέρωση, οι οποίες προωθούν τον δημόσιο διάλογο, την ποιοτική εκπαίδευση, την πολιτισμική και γλωσσική πολυμορφία, την ισόρροπη εκπροσώπηση των φύλων, τον ψηφιακό γραμματισμό, την καινοτομία και τη δημιουργικότητα. Επίσης, αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται λαμβανομένου δεόντως υπόψη του τελικού τους αντικτύπου στη σωματική και ψυχική υγεία των πολιτών και δεν προωθούν τη ρητορική μίσους ή τις πράξεις βίας. Οι εν λόγω στόχοι θα πρέπει να επιτευχθούν ιδίως μέσω τεχνολογιών υψηλού κινδύνου. |
|
(31) |
Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες θα πρέπει επίσης να αναπτύσσονται, να εφαρμόζονται και να χρησιμοποιούνται με σκοπό την υποστήριξη της κοινωνικής ένταξης, της δημοκρατίας, της πολυφωνίας, της αλληλεγγύης, της δικαιοσύνης, της ισότητας και της συνεργασίας, οι δε δυνατότητές τους θα πρέπει να μεγιστοποιηθούν και να διερευνηθούν μέσω έργων έρευνας και καινοτομίας. Η Ένωση και τα κράτη μέλη της θα πρέπει, συνεπώς, να κινητοποιήσουν τα επικοινωνιακά, διοικητικά και οικονομικά μέσα που διαθέτουν για να στηρίξουν και να επενδύσουν σε τέτοια έργα. |
|
(32) |
Τα έργα που σχετίζονται με τη δυναμική της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών για την αντιμετώπιση του ζητήματος της κοινωνικής ευημερίας θα πρέπει να υλοποιούνται βάσει υπεύθυνων εργαλείων έρευνας και καινοτομίας, ώστε να διασφαλίζεται εξαρχής η συμμόρφωση τους προς δεοντολογικές αρχές. |
|
(33) |
Η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να λαμβάνουν υπόψη το περιβαλλοντικό τους αποτύπωμα. Σύμφωνα με τις υποχρεώσεις που ορίζονται στο εφαρμοστέο ενωσιακό δίκαιο, οι εν λόγω τεχνολογίες δεν θα πρέπει να προκαλούν βλάβη στο περιβάλλον κατά τη διάρκεια του κύκλου ζωής τους και σε ολόκληρη την αλυσίδα εφοδιασμού τους, θα πρέπει δε να αναπτύσσονται, να εφαρμόζονται και να χρησιμοποιούνται κατά τρόπο που να προστατεύει το περιβάλλον, να μετριάζει και να αποκαθιστά το περιβαλλοντικό τους αποτύπωμα, να συμβάλλει στην πράσινη μετάβαση και να στηρίζει την επίτευξη των στόχων της κλιματικής ουδετερότητας και της κυκλικής οικονομίας. |
|
(34) |
Για τους σκοπούς του παρόντος κανονισμού, οι φορείς ανάπτυξης, οι φορείς εφαρμογής και οι χρήστες θα πρέπει να θεωρούνται υπεύθυνοι, στον βαθμό που συμμετέχουν στην ανάπτυξη, την εφαρμογή ή τη χρήση τεχνητής νοημοσύνης, ρομποτικής και συναφών τεχνολογιών που θεωρούνται υψηλού κινδύνου, για κάθε βλάβη που προκαλείται στο περιβάλλον σύμφωνα με τους ισχύοντες κανόνες περιβαλλοντικής ευθύνης. |
|
(35) |
Οι τεχνολογίες αυτές θα πρέπει επίσης να αναπτύσσονται, να εφαρμόζονται και να χρησιμοποιούνται για να στηριχθεί η επίτευξη των περιβαλλοντικών στόχων σύμφωνα με τις υποχρεώσεις που ορίζονται στο ισχύον ενωσιακό δίκαιο, όπως, για παράδειγμα, η μείωση της παραγωγής αποβλήτων, η μείωση του αποτυπώματος άνθρακα, η καταπολέμηση της κλιματικής αλλαγής και η διατήρηση του περιβάλλοντος, οι δε δυνατότητές τους στο πλαίσιο αυτό θα πρέπει να μεγιστοποιηθούν και να διερευνηθούν μέσω έργων έρευνας και καινοτομίας. Η Ένωση και τα κράτη μέλη θα πρέπει, συνεπώς, να κινητοποιήσουν τα επικοινωνιακά, διοικητικά και οικονομικά μέσα που διαθέτουν για να στηρίξουν και να επενδύσουν σε τέτοια έργα. |
|
(36) |
Τα έργα που σχετίζονται με τη δυναμική της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών για την αντιμετώπιση περιβαλλοντικών ζητημάτων θα πρέπει να υλοποιούνται βάσει υπεύθυνων εργαλείων έρευνας και καινοτομίας, ώστε να διασφαλίζεται εξαρχής η συμμόρφωση των έργων αυτών προς δεοντολογικές αρχές. |
|
(37) |
Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, οι οποίες αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται στην Ένωση, θα πρέπει να σέβονται πλήρως τα δικαιώματα των πολιτών της Ένωσης στην ιδιωτική ζωή και την προστασία των δεδομένων προσωπικού χαρακτήρα. Ειδικότερα, η ανάπτυξη, η εφαρμογή και η χρήση τους θα πρέπει να είναι σύμφωνες με τον κανονισμό (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (2) και την οδηγία 2002/58/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (3). |
|
(38) |
Ειδικότερα, τα δεοντολογικά όρια της χρήσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να λαμβάνονται δεόντως υπόψη όταν χρησιμοποιούνται τεχνολογίες εξ αποστάσεως αναγνώρισης, όπως η αναγνώριση βιομετρικών χαρακτηριστικών, ιδίως η αναγνώριση προσώπου, για την αυτόματη ταυτοποίηση ατόμων. Όταν οι τεχνολογίες αυτές χρησιμοποιούνται από δημόσιες αρχές για λόγους σημαντικού δημόσιου συμφέροντος, ιδίως για τη διαφύλαξη της ασφάλειας των ατόμων και την αντιμετώπιση εθνικών καταστάσεων έκτακτης ανάγκης, και όχι για την εγγύηση της ασφάλειας ιδιοκτησίας, η χρήση θα πρέπει πάντα να γνωστοποιείται, να είναι αναλογική, στοχευμένη και να περιορίζεται σε συγκεκριμένους στόχους και χρονικά σύμφωνα με το δίκαιο της Ένωσης και με σεβασμό προς την ανθρώπινη αξιοπρέπεια και αυτονομία και τα θεμελιώδη δικαιώματα που ορίζονται στον Χάρτη. Τα κριτήρια και τα όρια αυτής της χρήσης θα πρέπει να υπόκεινται σε δικαστικό έλεγχο και να υποβάλλονται σε δημοκρατικό έλεγχο και διάλογο με τη συμμετοχή της κοινωνίας των πολιτών. |
|
(39) |
Η διακυβέρνηση που βασίζεται σε σχετικά πρότυπα ενισχύει την ασφάλεια και συμβάλλει στην τόνωση της εμπιστοσύνης των πολιτών στην ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες. |
|
(40) |
Οι δημόσιες αρχές θα πρέπει να διενεργούν εκτιμήσεις αντικτύπου όσον αφορά τα θεμελιώδη δικαιώματα πριν από την ανάπτυξη τεχνολογιών υψηλού κινδύνου που υποστηρίζουν αποφάσεις που λαμβάνονται στον δημόσιο τομέα και έχουν άμεσο και σημαντικό αντίκτυπο στα δικαιώματα και τις υποχρεώσεις των πολιτών. |
|
(41) |
Μεταξύ των υφιστάμενων σχετικών προτύπων διακυβέρνησης περιλαμβάνονται, για παράδειγμα, οι «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη» που εκπονήθηκαν από την ομάδα εμπειρογνωμόνων υψηλού επιπέδου της Ευρωπαϊκής Επιτροπής για την τεχνητή νοημοσύνη, καθώς και τυχόν άλλα τεχνικά πρότυπα, όπως, για παράδειγμα, εκείνα που έχουν εγκριθεί από την Ευρωπαϊκή Επιτροπή Τυποποίησης (CEN), την Ευρωπαϊκή Επιτροπή Ηλεκτροτεχνικής Τυποποίησης (CENELEC) και το Ευρωπαϊκό Ινστιτούτο Τηλεπικοινωνιακών Προτύπων (ETSI), σε ευρωπαϊκό επίπεδο, και από τον Διεθνή Οργανισμό Τυποποίησης (ISO) και το Ινστιτούτο Ηλεκτρολόγων και Ηλεκτρονικών Μηχανικών (IEEE), σε διεθνές επίπεδο. |
|
(42) |
Ο μερισμός και η χρήση δεδομένων από πολλούς διαφορετικούς συμμετέχοντες αποτελεί ευαίσθητο ζήτημα και, ως εκ τούτου, η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών θα πρέπει να υπόκεινται σε σχετικούς κανόνες, πρότυπα και πρωτόκολλα που αντικατοπτρίζουν τις απαιτήσεις ποιότητας, ακεραιότητας, ασφάλειας, αξιοπιστίας, σεβασμού της ιδιωτικότητας και ελέγχου. Η στρατηγική για τη διακυβέρνηση των δεδομένων θα πρέπει να επικεντρώνεται στην επεξεργασία, τον μερισμό και την πρόσβαση σε αυτά τα δεδομένα, συμπεριλαμβανομένων της ορθής διαχείρισης, της ελεγξιμότητας και της ιχνηλασιμότητάς τους, καθώς και να διασφαλίζει την επαρκή προστασία των δεδομένων που ανήκουν σε ευάλωτες ομάδες, συμπεριλαμβανομένων των ατόμων με αναπηρία, των ασθενών, των παιδιών, των μειονοτήτων και των μεταναστών, ή άλλων ομάδων που διατρέχουν κίνδυνο αποκλεισμού. Επιπλέον, οι φορείς ανάπτυξης, οι φορείς εφαρμογής και οι χρήστες θα πρέπει να μπορούν, κατά περίπτωση, να βασίζονται σε βασικούς δείκτες επιδόσεων κατά την αξιολόγηση των συνόλων δεδομένων που χρησιμοποιούν για να ενισχύσουν την αξιοπιστία των τεχνολογιών που αναπτύσσουν, εφαρμόζουν και χρησιμοποιούν. |
|
(43) |
Τα κράτη μέλη θα πρέπει να ορίσουν ανεξάρτητη διοικητική αρχή η οποία θα ενεργεί ως εποπτική αρχή. Ειδικότερα, κάθε εθνική εποπτική αρχή θα πρέπει να είναι υπεύθυνη για τον εντοπισμό της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών που θεωρούνται υψηλού κινδύνου μέσα από το πρίσμα των κριτηρίων εκτίμησης κινδύνου που προβλέπονται στον παρόντα κανονισμό, καθώς και για την αξιολόγηση και την παρακολούθηση της συμμόρφωσης των εν λόγω τεχνολογιών με τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό. |
|
(44) |
Κάθε εθνική εποπτική αρχή θα πρέπει επίσης να φέρει την ευθύνη για τη χρηστή διακυβέρνηση των εν λόγω τεχνολογιών υπό τον συντονισμό της Επιτροπής και/ή οποιονδήποτε άλλων σχετικών θεσμικών και λοιπών οργάνων ή οργανισμών της Ένωσης που μπορούν να οριστούν για τον σκοπό αυτό. Κατά συνέπεια, οι εθνικές εποπτικές αρχές διαδραματίζουν σημαντικό ρόλο στην προώθηση της εμπιστοσύνης και της ασφάλειας των πολιτών της Ένωσης, καθώς και στη δημιουργία μιας δημοκρατικής, πλουραλιστικής και ισότιμης κοινωνίας. |
|
(45) |
Για τους σκοπούς της αξιολόγησης τεχνολογιών που είναι υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό και της παρακολούθησης της συμμόρφωσής τους με αυτόν, οι εθνικές εποπτικές αρχές θα πρέπει, κατά περίπτωση, να συνεργάζονται με τις αρχές που είναι αρμόδιες για την αξιολόγηση και την παρακολούθηση των εν λόγω τεχνολογιών και για την επιβολή της συμμόρφωσής τους με την τομεακή νομοθεσία. |
|
(46) |
Οι εθνικές εποπτικές αρχές θα πρέπει να συνεργάζονται ουσιαστικά και τακτικά μεταξύ τους, καθώς και με την Ευρωπαϊκή Επιτροπή και άλλα σχετικά θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης, προκειμένου να διασφαλίζεται η συνοχή της διασυνοριακής δράσης και να καθίσταται δυνατή η συνεπής ανάπτυξη, εφαρμογή και χρήση των εν λόγω τεχνολογιών εντός της Ένωσης, σύμφωνα με τις δεοντολογικές αρχές και τις νομικές υποχρεώσεις που καθορίζονται στον παρόντα κανονισμό. |
|
(47) |
Στο πλαίσιο της εν λόγω συνεργασίας και με σκοπό την επίτευξη πλήρους εναρμόνισης σε επίπεδο Ένωσης, οι εθνικές εποπτικές αρχές θα πρέπει να συνδράμουν την Επιτροπή στην κατάρτιση κοινού και εξαντλητικού καταλόγου τεχνητής νοημοσύνης, ρομποτικής και συναφών τεχνολογιών υψηλού κινδύνου, σύμφωνα με τα κριτήρια που προβλέπονται στον παρόντα κανονισμό και στο παράρτημά του. Επιπλέον, θα πρέπει να αναπτυχθεί μια διαδικασία για την έκδοση ευρωπαϊκού πιστοποιητικού δεοντολογικής συμμόρφωσης, συμπεριλαμβανομένης μιας εθελοντικής διαδικασίας υποβολής αιτήσεων για κάθε φορέα ανάπτυξης, φορέα εφαρμογής ή χρήστη τεχνολογιών που δεν θεωρούνται υψηλού κινδύνου, ο οποίος επιθυμεί να πιστοποιηθεί η συμμόρφωσή τους με τον παρόντα κανονισμό. |
|
(48) |
Οι εθνικές εποπτικές αρχές θα πρέπει να διασφαλίζουν τη συγκέντρωση ενός μέγιστου αριθμού ενδιαφερομένων, όπως είναι, για παράδειγμα, η βιομηχανία, οι επιχειρήσεις, οι κοινωνικοί εταίροι, οι ερευνητές, οι καταναλωτές και οι οργανώσεις της κοινωνίας των πολιτών, καθώς και να παρέχουν ένα πολυφωνικό φόρουμ προβληματισμού και ανταλλαγής απόψεων, ώστε να καταλήγουν σε σαφή και ακριβή συμπεράσματα όσον αφορά τον τρόπο ρύθμισης της διακυβέρνησης. |
|
(49) |
Οι εθνικές εποπτικές αρχές θα πρέπει να φέρνουν σε επαφή όσο το δυνατόν περισσότερους ενδιαφερόμενους φορείς, όπως, για παράδειγμα, βιομηχανίες, επιχειρήσεις, κοινωνικούς εταίρους, ερευνητές, καταναλωτές και οργανώσεις της κοινωνίας των πολιτών, και να παρέχουν ένα πολυφωνικό φόρουμ προβληματισμού και ανταλλαγής απόψεων για τη διευκόλυνση της συνεργασίας με τα ενδιαφερόμενα μέρη, καθώς και μεταξύ τους, ιδίως εκείνων που προέρχονται από τον ακαδημαϊκό χώρο, την έρευνα, τη βιομηχανία και την κοινωνία των πολιτών, και εμπειρογνωμόνων, προκειμένου να συνάγονται κατανοητά και ακριβή συμπεράσματα σκοπό την καθοδήγηση του τρόπου ρύθμισης της διακυβέρνησης. |
|
(50) |
Επιπλέον, οι εν λόγω εθνικές εποπτικές αρχές θα πρέπει να παρέχουν επαγγελματική διοικητική καθοδήγηση και στήριξη σε φορείς ανάπτυξης, φορείς εφαρμογής και χρήστες, ιδίως μικρές και μεσαίες ή νεοφυείς επιχειρήσεις, που αντιμετωπίζουν προκλήσεις όσον αφορά τη συμμόρφωση με τις δεοντολογικές αρχές και τις νομικές υποχρεώσεις που ορίζονται στον παρόντα κανονισμό. |
|
(51) |
Η Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης που μπορούν να οριστούν για τον σκοπό αυτό θα πρέπει να θεσπίσουν δεσμευτικές κατευθυντήριες γραμμές σχετικά με τη μεθοδολογία που πρέπει να χρησιμοποιούν οι εθνικές εποπτικές αρχές κατά τη διενέργεια της αξιολόγησης της συμμόρφωσής τους. |
|
(52) |
Η αναφορά δυσλειτουργιών εφιστά την προσοχή των αρχών σε πιθανές και πραγματικές παραβιάσεις του δικαίου της Ένωσης, με σκοπό την πρόληψη τυχόν τραυματισμού, βλάβης ή ζημίας που θα προκαλούνταν σε διαφορετική περίπτωση. Επιπλέον, οι διαδικασίες υποβολής εκθέσεων βελτιώνουν τη ροή πληροφοριών εντός των εταιρειών και των οργανισμών, μετριάζοντας έτσι τον κίνδυνο δημιουργίας ελαττωματικών ή εσφαλμένων προϊόντων ή υπηρεσιών. Οι εταιρείες και οι οργανισμοί που αναπτύσσουν, εφαρμόζουν ή χρησιμοποιούν την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, συμπεριλαμβανομένων των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θα πρέπει να δημιουργούν διαύλους υποβολής καταγγελιών, οι δε καταγγέλλοντες παραβάσεις θα πρέπει να προστατεύονται από αντίποινα. |
|
(53) |
Η ταχύτητα με την οποία εξελίσσονται η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, καθώς και οι τεχνικές μηχανική μάθηση, οι συλλογιστικές διαδικασίες και άλλες υποστηρικτικές τεχνολογίες είναι απρόβλεπτη. Επομένως, είναι σκόπιμο και αναγκαίο να θεσπιστεί ένας μηχανισμός επανεξέτασης στο πλαίσιο του οποίου, εκτός από την υποβολή εκθέσεων σχετικά με την εφαρμογή του κανονισμού, η Επιτροπή θα υποβάλλει τακτικά έκθεση σχετικά με την πιθανή τροποποίηση του πεδίου εφαρμογής του παρόντος κανονισμού. |
|
(54) |
Δεδομένου ότι ο στόχος του παρόντος κανονισμού, δηλαδή η θέσπιση ενός κοινού κανονιστικού πλαισίου δεοντολογικών αρχών για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών στην Ένωση, δεν μπορεί να επιτευχθεί επαρκώς από τα κράτη μέλη, αλλά μπορεί, λόγω της εμβέλειας και των αποτελεσμάτων του, να επιτευχθεί καλύτερα σε ενωσιακό επίπεδο, η Ένωση μπορεί να θεσπίσει μέτρα, σύμφωνα με την αρχή της επικουρικότητας, όπως ορίζεται στο άρθρο 5 της Συνθήκης για την Ευρωπαϊκή Ένωση. Σύμφωνα με την αρχή της αναλογικότητας, όπως ορίζεται στο ίδιο άρθρο, ο παρών κανονισμός δεν υπερβαίνει τα αναγκαία για την επίτευξη του στόχου αυτού όρια. |
|
(55) |
Ο συντονισμός σε επίπεδο Ένωσης, όπως ορίζεται στον παρόντα κανονισμό, θα μπορούσε να επιτευχθεί καλύτερα από την Επιτροπή και/ή από τα σχετικά θεσμικά και λοιπά όργανα και τους οργανισμούς της Ένωσης που μπορούν να οριστούν στο πλαίσιο αυτό, προκειμένου να αποφευχθεί ο κατακερματισμός και να διασφαλιστεί η συνεπής εφαρμογή του παρόντος κανονισμού. Ως εκ τούτου, η Επιτροπή θα πρέπει να επιφορτιστεί με την εξεύρεση κατάλληλης λύσης για τη διάρθρωση του εν λόγω συντονισμού σε επίπεδο Ένωσης, με σκοπό τον συντονισμό των εντολών και των δράσεων των εθνικών εποπτικών αρχών σε κάθε κράτος μέλος, ιδίως όσον αφορά την εκτίμηση των κινδύνων της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, τη θέσπιση κοινού πλαισίου για τη διακυβέρνηση της ανάπτυξης, της εφαρμογής και της χρήσης των εν λόγω τεχνολογιών, την ανάπτυξη και έκδοση πιστοποιητικού συμμόρφωσης με τις δεοντολογικές αρχές και τις νομικές υποχρεώσεις που ορίζονται στον παρόντα κανονισμό, τη στήριξη τακτικών ανταλλαγών με τους ενδιαφερόμενους φορείς και την κοινωνία των πολιτών, και τη δημιουργία ενός κέντρου εμπειρογνωμοσύνης, στο οποίο θα συμμετέχουν οι τομείς των πανεπιστημίων, της έρευνας και της βιομηχανίας, καθώς και μεμονωμένοι εμπειρογνώμονες σε επίπεδο Ένωσης, με σκοπό την ενίσχυση της ανταλλαγής γνώσεων και τεχνικής εμπειρογνωμοσύνης, την προώθηση της προσέγγισης της Ένωσης μέσω της διεθνούς συνεργασίας και την εξασφάλιση συνεκτικής απάντησης σε παγκόσμιο επίπεδο στις ευκαιρίες και τους κινδύνους που ενέχουν οι τεχνολογίες αυτές, |
ΕΞΕΔΩΣΑΝ ΤΟΝ ΠΑΡΟΝΤΑ ΚΑΝΟΝΙΣΜΟ:
Κεφάλαιο I
Γενικές διατάξεις
Άρθρο 1
Σκοπός
Σκοπός του παρόντος κανονισμού είναι η θέσπιση ενός ολοκληρωμένου και διαχρονικού κανονιστικού πλαισίου δεοντολογικών αρχών και νομικών υποχρεώσεων για την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών στην Ένωση.
Άρθρο 2
Πεδίο εφαρμογής
Ο παρών κανονισμός εφαρμόζεται στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, οι οποίες αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση.
Άρθρο 3
Γεωγραφικό πεδίο εφαρμογής
Ο παρών κανονισμός εφαρμόζεται στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, όταν αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται, ακόμη και μερικώς, στην Ένωση, ανεξάρτητα από το αν το λογισμικό, οι αλγόριθμοι ή τα δεδομένα που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες βρίσκονται εκτός της Ένωσης ή δεν έχουν συγκεκριμένη γεωγραφική θέση.
Άρθρο 4
Ορισμοί
Για τους σκοπούς του παρόντος κανονισμού, ισχύουν οι ακόλουθοι ορισμοί:
|
α) |
«τεχνητή νοημοσύνη»: σύστημα το οποίο είτε βασίζεται σε λογισμικό είτε είναι ενσωματωμένο σε συσκευές υλισμικού και εμφανίζει έξυπνη συμπεριφορά, μεταξύ άλλων, συλλέγοντας, επεξεργαζόμενο, αναλύοντας και ερμηνεύοντας το περιβάλλον του, και αναλαμβάνοντας δράση, με κάποιο βαθμό αυτονομίας, για την επίτευξη συγκεκριμένων στόχων (4)· |
|
β) |
«αυτονομία»: ένα σύστημα ΤΝ που λειτουργεί ερμηνεύοντας ορισμένες εισροές και χρησιμοποιώντας μια δέσμη προκαθορισμένων οδηγιών, χωρίς να περιορίζεται στις εν λόγω οδηγίες, παρά το γεγονός ότι η συμπεριφορά του περιορίζεται και εστιάζεται στην εκπλήρωση του στόχου που του έχει δοθεί και σε άλλες συναφείς σχεδιαστικές επιλογές που έχει κάνει ο φορέας ανάπτυξής του· |
|
γ) |
«ρομποτική»: τεχνολογίες που επιτρέπουν σε αυτόματα ελεγχόμενες, επαναπρογραμματιζόμενες μηχανές (5) πολλαπλών χρήσεων να εκτελούν δραστηριότητες στον φυσικό κόσμο οι οποίες εκτελούνται παραδοσιακά ή εκκινούνται από ανθρώπους, μεταξύ άλλων μέσω της τεχνητής νοημοσύνης ή των συναφών τεχνολογιών· |
|
δ) |
«συναφείς τεχνολογίες»: τεχνολογίες που επιτρέπουν σε λογισμικό να ελέγχει, με μερική ή πλήρη αυτονομία, μια φυσική ή εικονική διεργασία, τεχνολογίες ικανές να ανιχνεύουν βιομετρικά, γενετικά ή άλλα δεδομένα, και τεχνολογίες που αντιγράφουν ή χρησιμοποιούν με άλλο τρόπο ανθρώπινα χαρακτηριστικά· |
|
ε) |
«υψηλός κίνδυνος»: σημαντικός κίνδυνος που ενέχουν η ανάπτυξη, η εφαρμογή και η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών για την πρόκληση τραυματισμού ή βλάβης σε άτομα ή την κοινωνία κατά παράβαση των θεμελιωδών δικαιωμάτων και των κανόνων ασφαλείας που ορίζονται στο δίκαιο της Ένωσης, λαμβάνοντας υπόψη τη συγκεκριμένη χρήση ή τον σκοπό τους, τον τομέα στον οποίο αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται και τη σοβαρότητα του τραυματισμού ή της βλάβης που αναμένεται να επέλθει· |
|
στ) |
«ανάπτυξη»: η κατασκευή και ο σχεδιασμός αλγορίθμων, η σύνταξη και ο σχεδιασμός λογισμικού, ή η συλλογή, η αποθήκευση και η διαχείριση δεδομένων, με σκοπό τη δημιουργία ή την εκπαίδευση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, ή με σκοπό τη δημιουργία μιας νέας εφαρμογής για την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες που ήδη υφίστανται· |
|
ζ) |
«φορέας ανάπτυξης/προγραμματιστής»: κάθε φυσικό ή νομικό πρόσωπο που λαμβάνει αποφάσεις οι οποίες καθορίζουν και ελέγχουν την πορεία ή τον τρόπο ανάπτυξης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών· |
|
η) |
«εφαρμογή»: η λειτουργία και διαχείριση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, καθώς και η διάθεση τους στην αγορά ή η κατ’ άλλον τρόπο διάθεσή τους σε χρήστες· |
|
θ) |
«φορέας εφαρμογής»: κάθε φυσικό ή νομικό πρόσωπο που συμμετέχει στη συγκεκριμένη εφαρμογή της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών με ελεγκτική ή διαχειριστική λειτουργία, λαμβάνοντας αποφάσεις, ασκώντας έλεγχο επί του κινδύνου και επωφελούμενο από την εν λόγω εφαρμογή· |
|
ι) |
«χρήση»: κάθε ενέργεια που σχετίζεται με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες εκτός της ανάπτυξης ή της εφαρμογής· |
|
ια) |
«χρήστης»: κάθε φυσικό ή νομικό πρόσωπο που χρησιμοποιεί την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες για σκοπούς διαφορετικούς από αυτούς της ανάπτυξης ή της εφαρμογής· |
|
ιβ) |
«μεροληψία»: οποιαδήποτε προκατειλημμένη προσωπική ή κοινωνική αντίληψη σχετικά με πρόσωπο ή ομάδα προσώπων βάσει των προσωπικών χαρακτηριστικών τους· |
|
ιγ) |
«διάκριση»: οποιαδήποτε διαφορετική μεταχείριση προσώπου ή ομάδας προσώπων βάσει λόγου ο οποίος δεν έχει αντικειμενική ή εύλογη αιτιολόγηση και, ως εκ τούτου, απαγορεύεται από το δίκαιο της Ένωσης· |
|
ιδ) |
«τραυματισμός ή βλάβη»: σωματική ή ψυχική βλάβη, υλική ή μη ζημία, η οποία προκαλείται, μεταξύ άλλων, από ρητορική μίσους, μεροληψία, διακρίσεις ή στιγματισμό, όπως χρηματοοικονομική ή οικονομική απώλεια, απώλεια απασχόλησης ή εκπαιδευτικών ευκαιριών, αδικαιολόγητος περιορισμός της ελευθερίας επιλογής ή έκφρασης, ή απώλεια της ιδιωτικότητας, και κάθε παραβίαση του δικαίου της Ένωσης που είναι επιζήμια για ένα πρόσωπο· |
|
ιε) |
«χρηστή διακυβέρνηση»: ο τρόπος διασφάλισης της έγκρισης και τήρησης κατάλληλων και εύλογων προτύπων και κανόνων συμπεριφοράς από τους φορείς ανάπτυξης, τους φορείς εφαρμογής και τους χρήστες, με βάση ένα επίσημο σύνολο κανόνων, διαδικασιών και αξιών που τους επιτρέπει να αντιμετωπίζουν επαρκώς τα δεοντολογικά ζητήματα κατά ή πριν από την εμφάνισή τους. |
Άρθρο 5
Δεοντολογικές αρχές για την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες
1. Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται στην Ένωση σύμφωνα με το δίκαιο της Ένωσης και με πλήρη σεβασμό της ανθρώπινης αξιοπρέπειας, αυτονομίας και ασφάλειας και άλλων θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη.
2. Κάθε επεξεργασία δεδομένων προσωπικού χαρακτήρα στο πλαίσιο της ανάπτυξης, της εφαρμογής και της χρήσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων των δεδομένων προσωπικού χαρακτήρα που προέρχονται από μη προσωπικά και βιομετρικά δεδομένα, διενεργείται σύμφωνα με τον κανονισμό (ΕΕ) 2016/679 και την οδηγία 2002/58/ΕΚ.
3. Η Ένωση και τα κράτη μέλη της ενθαρρύνουν τα ερευνητικά έργα που αποσκοπούν στην παροχή λύσεων, με βάση την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, για την προώθηση της κοινωνικής ένταξης, της δημοκρατίας, της πολυφωνίας, της αλληλεγγύης, της δικαιοσύνης, της ισότητας και της συνεργασίας.
Κεφάλαιο ΙΙ
Υποχρεώσεις όσον αφορά τις τεχνολογίες υψηλού κινδύνου
Άρθρο 6
Υποχρεώσεις όσον αφορά τις τεχνολογίες υψηλού κινδύνου
1. Οι διατάξεις του παρόντος κεφαλαίου εφαρμόζονται μόνο στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες που αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση, οι οποίες θεωρούνται υψηλού κινδύνου.
2. Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται κατά τρόπο ώστε να διασφαλίζεται ότι δεν παραβιάζουν τις δεοντολογικές αρχές που ορίζονται στον παρόντα κανονισμό.
Άρθρο 7
Ανθρωποκεντρική και ανθρωπογενής τεχνητή νοημοσύνη
1. Οι τεχνολογίες τεχνητής νοημοσύνης υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται με τρόπο που να εγγυάται την πλήρη εποπτεία από τον άνθρωπο ανά πάσα στιγμή.
2. Οι τεχνολογίες που αναφέρονται στην παράγραφο 1 αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται κατά τρόπο ώστε να καθίσταται δυνατή η πλήρης ανάκτηση του ελέγχου από τον άνθρωπο ανά πάσα στιγμή, μεταξύ άλλων με την τροποποίηση ή την απενεργοποίηση των εν λόγω τεχνολογιών.
Άρθρο 8
Ασφάλεια, διαφάνεια και λογοδοσία
1. Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες:
|
α) |
αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται με ανθεκτικό τρόπο, έτσι ώστε να διασφαλίζεται ένα επαρκές επίπεδο ασφάλειας, μέσω της τήρησης ελάχιστων γραμμών βάσης για την ασφάλεια στον κυβερνοχώρο, ανάλογων προς τον εντοπιζόμενο κίνδυνο, και να αποτρέπεται η εκμετάλλευση τεχνολογικών τρωτοτήτων για δόλιους ή παράνομους σκοπούς· |
|
β) |
αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται με ασφαλή τρόπο που να εγγυάται την ύπαρξη διασφαλίσεων, όπως, μεταξύ άλλων, ένα εφεδρικό σχέδιο και μέτρα σε περίπτωση κινδύνου για την ασφάλεια ή την προστασία· |
|
γ) |
αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται κατά τρόπο που να εξασφαλίζει αξιόπιστες επιδόσεις, όπως αναμένεται ευλόγως από τον χρήστη, όσον αφορά την επίτευξη των στόχων και την εκτέλεση των δραστηριοτήτων για τις οποίες έχει σχεδιαστεί, μεταξύ άλλων διασφαλίζοντας ότι όλες οι λειτουργίες είναι αναπαραγώγιμες· |
|
δ) |
αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται κατά τρόπο ώστε να διασφαλίζεται ακρίβεια όσον αφορά την επίτευξη των στόχων και την εκτέλεση των δραστηριοτήτων των συγκεκριμένων τεχνολογιών· εάν δεν είναι δυνατόν να αποφευχθούν περιστασιακές ανακρίβειες, το σύστημα υποδεικνύει, στο μέτρο του δυνατού, την πιθανότητα σφαλμάτων και ανακρίβειας στους φορείς εφαρμογής και τους χρήστες με τα κατάλληλα μέσα· |
|
ε) |
αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται κατά τρόπο εξηγήσιμο, ώστε να διασφαλίζεται η δυνατότητα επανεξέτασης των τεχνικών διαδικασιών των τεχνολογιών· |
|
στ) |
αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται κατά τρόπο ώστε να ενημερώνουν τους χρήστες ότι αλληλεπιδρούν με συστήματα τεχνητής νοημοσύνης, αποκαλύπτοντας δεόντως και πλήρως τις δυνατότητες, την ακρίβεια και τους περιορισμούς τους στους φορείς ανάπτυξης, τους φορείς εφαρμογής και τους χρήστες της τεχνητής νοημοσύνης· |
|
ζ) |
σύμφωνα με το άρθρο 6, αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται κατά τρόπο που καθιστά δυνατή, σε περίπτωση μη συμμόρφωσης με τα χαρακτηριστικά ασφαλείας που αναφέρονται στα στοιχεία α) έως ζ), την προσωρινή απενεργοποίηση των σχετικών λειτουργιών και την επαναφορά σε προηγούμενη κατάσταση για την αποκατάσταση ασφαλών λειτουργιών. |
2. Σύμφωνα με το άρθρο 6 παράγραφος 1, οι τεχνολογίες που αναφέρονται στην παράγραφο 1 του παρόντος άρθρου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται με διαφανή και ανιχνεύσιμο τρόπο, ώστε τα στοιχεία, οι διεργασίες και οι φάσεις τους να τεκμηριώνονται με τα υψηλότερα δυνατά και ισχύοντα πρότυπα, και οι εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18 να μπορούν να αξιολογούν τη συμμόρφωση των εν λόγω τεχνολογιών με τις υποχρεώσεις που προβλέπονται στον παρόντα κανονισμό. Ειδικότερα, οι φορείς ανάπτυξης, οι φορείς εφαρμογής ή οι χρήστες των εν λόγω τεχνολογιών είναι αρμόδιοι και σε θέση να αποδεικνύουν τη συμμόρφωση με τα χαρακτηριστικά ασφαλείας που ορίζονται στην παράγραφο 1.
3. Οι φορείς ανάπτυξης, οι φορείς εφαρμογής ή οι χρήστες των τεχνολογιών που αναφέρονται στην παράγραφο 1 εγγυώνται ότι τα μέτρα που λαμβάνονται για τη διασφάλιση της συμμόρφωσης με τα χαρακτηριστικά ασφαλείας που ορίζονται στην παράγραφο 1 μπορούν να ελέγχονται από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18, ή, κατά περίπτωση, από άλλους εθνικούς ή ευρωπαϊκούς τομεακούς εποπτικούς οργανισμούς.
Άρθρο 9
Αποφυγή μεροληψίας και διακρίσεων
1. Τυχόν λογισμικό, αλγόριθμοι ή δεδομένα που χρησιμοποιούνται ή παράγονται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες που αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση δεν μεροληπτούν και, με την επιφύλαξη της παραγράφου 2, δεν εισάγουν διακρίσεις λόγω, μεταξύ άλλων, φυλής, φύλου, γενετήσιου προσανατολισμού, εγκυμοσύνης, αναπηρίας, σωματικών ή γενετικών χαρακτηριστικών, ηλικίας, ιδιότητας μέλους εθνικής μειονότητας, εθνοτικής ή κοινωνικής καταγωγής, γλώσσας, θρησκείας ή πεποιθήσεων, πολιτικών απόψεων ή συμμετοχής στα κοινά, της ιδιότητας του πολίτη, αστικής ή οικονομικής κατάστασης, εκπαίδευσης ή ποινικού μητρώου.
2. Κατά παρέκκλιση από την παράγραφο 1 και 2 και με την επιφύλαξη του ενωσιακού δικαίου που διέπει τις αθέμιτες διακρίσεις, οιαδήποτε διαφορετική μεταχείριση μεταξύ προσώπων ή ομάδων προσώπων μπορεί να δικαιολογηθεί, μόνον εφόσον υπάρχει αντικειμενικός, εύλογος και θεμιτός σκοπός, ο οποίος είναι αναλογικός και αναγκαίος, στον βαθμό που δεν υπάρχει εναλλακτική λύση η οποία να θίγει σε μικρότερο βαθμό την αρχή της ίσης μεταχείρισης.
Άρθρο 10
Κοινωνική ευθύνη και ισότητα των φύλων
Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, οι οποίες αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται στην Ένωση, αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται σύμφωνα με το σχετικό δίκαιο, τις αρχές και τις αξίες της Ένωσης, κατά τρόπο που δεν παρεμβαίνει στις εκλογές ούτε συμβάλλει στη διάδοση της παραπληροφόρησης, σέβεται τα δικαιώματα των εργαζομένων, προάγει την ποιοτική εκπαίδευση και τον ψηφιακό γραμματισμό, δεν διευρύνει το χάσμα μεταξύ των φύλων εμποδίζοντας την ισότητα ευκαιριών για όλους και δεν παραβλέπει τα δικαιώματα διανοητικής ιδιοκτησίας και τους περιορισμούς ή τις εξαιρέσεις τους.
Άρθρο 11
Περιβαλλοντική βιωσιμότητα
Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, αξιολογούνται ως προς την περιβαλλοντική βιωσιμότητά τους από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18 ή, κατά περίπτωση, από άλλους εθνικούς ή ευρωπαϊκούς τομεακούς εποπτικούς φορείς, οι οποίοι διασφαλίζουν ότι λαμβάνονται μέτρα για τον μετριασμό και την αντιμετώπιση των γενικών τους επιπτώσεων όσον αφορά τους φυσικούς πόρους, την κατανάλωση ενέργειας, την παραγωγή αποβλήτων, το αποτύπωμα άνθρακα, την κατάσταση έκτακτης ανάγκης λόγω κλιματικής αλλαγής και την υποβάθμιση του περιβάλλοντος, προκειμένου να εξασφαλίζεται η συμμόρφωση με το εφαρμοστέο ενωσιακό ή εθνικό δίκαιο, καθώς και η τήρηση άλλων διεθνών περιβαλλοντικών δέσμευσης που ενδεχομένως έχει αναλάβει η Ένωση.
Άρθρο 12
Σεβασμός της ιδιωτικής ζωής και προστασία των δεδομένων προσωπικού χαρακτήρα
Η χρήση και η συλλογή βιομετρικών δεδομένων για σκοπούς εξ αποστάσεως ταυτοποίησης σε δημόσιους χώρους, όπως η βιομετρική αναγνώριση ή η αναγνώριση προσώπου, ενέχουν συγκεκριμένους κινδύνους για τα θεμελιώδη δικαιώματα και εφαρμόζονται ή χρησιμοποιούνται μόνο από τις δημόσιες αρχές των κρατών μελών για σημαντικούς σκοπούς δημόσιου συμφέροντος. Οι εν λόγω αρχές μεριμνούν ώστε η εν λόγω εφαρμογή ή χρήση να γνωστοποιείται, να είναι αναλογική και στοχευμένη, να περιορίζεται σε συγκεκριμένους στόχους και τόπο, καθώς και χρονικά, σύμφωνα με το ενωσιακό και το εθνικό δίκαιο, ιδίως τον κανονισμό (ΕΕ) 2016/679 και την οδηγία 2002/58/ΕΚ, και να λαμβάνει δεόντως υπόψη την ανθρώπινη αξιοπρέπεια και αυτονομία, και τα θεμελιώδη δικαιώματα που ορίζονται στον Χάρτη, δηλαδή τον σεβασμό της ιδιωτικής ζωής και την προστασία των δεδομένων προσωπικού χαρακτήρα.
Άρθρο 13
Δικαίωμα επανόρθωσης
Κάθε φυσικό ή νομικό πρόσωπο έχει το δικαίωμα να ζητήσει επανόρθωση για τραυματισμό ή βλάβη που προκλήθηκε από την ανάπτυξη, την εφαρμογή και τη χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, κατά παράβαση του δικαίου της Ένωσης και των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό.
Άρθρο 14
Εκτίμηση κινδύνου
1. Για τους σκοπούς του παρόντος κανονισμού, η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, θεωρούνται τεχνολογίες υψηλού κινδύνου όταν, κατόπιν εκτίμησης κινδύνου βάσει αντικειμενικών κριτηρίων, όπως, για παράδειγμα, η συγκεκριμένη χρήση ή ο συγκεκριμένος σκοπός τους, ο τομέας στον οποίο αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται και η σοβαρότητα του τραυματισμού ή της βλάβης που μπορεί να προκληθεί, προκύπτει ότι η ανάπτυξη, η εφαρμογή ή η χρήση τους συνεπάγεται σημαντικό κίνδυνο πρόκλησης τραυματισμού ή βλάβης σε άτομα ή στην κοινωνία κατά παράβαση των θεμελιωδών και των κανόνων ασφάλειας που ορίζονται στο δίκαιο της Ένωσης.
2. Με την επιφύλαξη της ισχύουσας τομεακής νομοθεσίας, η εκτίμηση των κινδύνων της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, διενεργείται, σύμφωνα με τα αντικειμενικά κριτήρια που προβλέπονται στην παράγραφο 1 του παρόντος άρθρου και στον εξαντλητικό και σωρευτικό κατάλογο που παρατίθεται στο παράρτημα του παρόντος κανονισμού, από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18, υπό τον συντονισμό της Επιτροπής και/ή οποιωνδήποτε άλλων σχετικών θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης που μπορούν να οριστούν για τον σκοπό αυτό στο πλαίσιο της συνεργασίας τους.
3. Σε συνεργασία με τις εθνικές εποπτικές αρχές που αναφέρονται στην παράγραφο 2, η Επιτροπή, μέσω κατ’ εξουσιοδότηση πράξεων σύμφωνα με το άρθρο 20, καταρτίζει και στη συνέχεια επικαιροποιεί κοινό κατάλογο των τεχνολογιών υψηλού κινδύνου που εντοπίζονται εντός της Ένωσης.
4. Η Επιτροπή επικαιροποιεί επίσης, μέσω κατ’ εξουσιοδότηση πράξεων σύμφωνα με το άρθρο 20, τον κατάλογο που προβλέπεται στο παράρτημα του παρόντος κανονισμού.
Άρθρο 15
Αξιολόγηση της συμμόρφωσης
1. Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες υψηλού κινδύνου υπόκεινται σε αξιολόγηση της συμμόρφωσης με τις υποχρεώσεις που ορίζονται στα άρθρα 6 έως 12 του παρόντος κανονισμού, καθώς και σε επακόλουθη παρακολούθηση, οι οποίες διενεργούνται αμφότερες από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18 υπό τον συντονισμό της Επιτροπής και/ή οποιωνδήποτε άλλων σχετικών θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης που μπορούν να οριστούν για τον σκοπό αυτό.
2. Το λογισμικό, οι αλγόριθμοι και τα δεδομένα που χρησιμοποιούνται ή παράγονται από τεχνολογίες υψηλού κινδύνου που έχουν αξιολογηθεί ως συμμορφούμενες με τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό σύμφωνα με την παράγραφο 1 θεωρείται επίσης ότι συμμορφώνονται με τις εν λόγω υποχρεώσεις, εκτός εάν η οικεία εθνική εποπτική αρχή αποφασίσει να διενεργήσει αξιολόγηση με δική της πρωτοβουλία ή κατόπιν αιτήματος του φορέα ανάπτυξης, του φορέας εφαρμογής ή του χρήστη.
3. Με την επιφύλαξη της τομεακής νομοθεσίας, η Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης που μπορεί να οριστούν ειδικά για τον σκοπό αυτό καταρτίζουν δεσμευτικές κατευθυντήριες γραμμές σχετικά με τη μεθοδολογία που πρέπει να χρησιμοποιούν οι εθνικές εποπτικές αρχές για την αξιολόγηση της συμμόρφωσης που αναφέρεται στην παράγραφο 1, το αργότερο έως την ημερομηνία έναρξης ισχύος του παρόντος κανονισμού.
Άρθρο 16
Ευρωπαϊκό πιστοποιητικό δεοντολογικής συμμόρφωσης
1. Σε περίπτωση θετικής αξιολόγησης της συμμόρφωσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών υψηλού κινδύνου, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, η οποία διενεργήθηκε σύμφωνα με το άρθρο 15, η οικεία εθνική εποπτική αρχή εκδίδει ευρωπαϊκό πιστοποιητικό δεοντολογικής συμμόρφωσης.
2. Κάθε φορέας ανάπτυξης, φορέας εφαρμογής ή χρήστης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, οι οποίες δεν θεωρούνται υψηλού κινδύνου και, ως εκ τούτου, δεν υπόκεινται στις υποχρεώσεις που ορίζονται στα άρθρα 6 έως 12 και στην εκτίμηση κινδύνου και την αξιολόγηση της συμμόρφωσης που προβλέπονται στα άρθρα 14 και 15, μπορεί επίσης να ζητήσει να πιστοποιηθεί η συμμόρφωση με τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό, ή με μέρος αυτών, εφόσον αυτό δικαιολογείται από τη φύση της συγκεκριμένης τεχνολογίας, όπως αποφασίζεται από τις εθνικές εποπτικές αρχές. Το πιστοποιητικό εκδίδεται μόνον εφόσον έχει διενεργηθεί αξιολόγηση της συμμόρφωσης από την αρμόδια εθνική εποπτική αρχή και η εν λόγω αξιολόγηση είναι θετική.
3. Για τους σκοπούς της έκδοσης του πιστοποιητικού που αναφέρεται στην παράγραφο 2, αναπτύσσεται διαδικασία υποβολής αιτήσεων από την Επιτροπή και/ή από άλλα σχετικά θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που μπορούν να οριστούν για τον σκοπό αυτό.
Κεφάλαιο III
Θεσμική εποπτεία
Άρθρο 17
Πρότυπα διακυβέρνησης και καθοδήγηση για την υλοποίηση
1. Η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες που αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση συμμορφώνονται με τα σχετικά πρότυπα διακυβέρνησης που καθορίζονται από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18 σύμφωνα με το δίκαιο, τις αρχές και τις αξίες της Ένωσης, υπό τον συντονισμό της Επιτροπής και/ή οποιωνδήποτε άλλων σχετικών θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης που μπορούν να οριστούν για τον σκοπό αυτό και σε συνεργασία με τα σχετικά ενδιαφερόμενα μέρη.
2. Τα πρότυπα που αναφέρονται στην παράγραφο 1 περιλαμβάνουν μη δεσμευτικές κατευθυντήριες γραμμές εφαρμογής σχετικά με τη μεθοδολογία για τη συμμόρφωση των φορέων ανάπτυξης, των φορέων εφαρμογής και των χρηστών με τον παρόντα κανονισμό και δημοσιεύονται το αργότερο έως την ημερομηνία έναρξης ισχύος του παρόντος κανονισμού.
3. Τα δεδομένα που χρησιμοποιούνται ή παράγονται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες που αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση τελούν υπό τη διαχείριση των φορέων ανάπτυξης, των φορέων εφαρμογής και των χρηστών σύμφωνα με τους σχετικούς κανόνες και τα πρότυπα των εθνικών, ενωσιακών και άλλων ευρωπαϊκών οργανισμών, και σύμφωνα με τους διεθνείς κανόνες και τα διεθνή πρότυπα, καθώς και με τα σχετικά βιομηχανικά και επιχειρηματικά πρωτόκολλα. Ειδικότερα, οι φορείς ανάπτυξης και οι φορείς εφαρμογής διενεργούν, όπου αυτό είναι εφικτό, ελέγχους ποιότητας των εξωτερικών πηγών δεδομένων που χρησιμοποιούνται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, και εφαρμόζουν μηχανισμούς εποπτείας όσον αφορά τη συλλογή, την αποθήκευση, την επεξεργασία και τη χρήση τους.
4. Με την επιφύλαξη των δικαιωμάτων φορητότητας και των δικαιωμάτων των προσώπων των οποίων η χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών έχει παράξει δεδομένα, η συλλογή, η αποθήκευση, η επεξεργασία, ο μερισμός δεδομένων που χρησιμοποιούνται ή παράγονται από την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες που αναπτύσσονται, εφαρμόζονται ή χρησιμοποιούνται στην Ένωση, καθώς και η πρόσβαση σε τέτοια δεδομένα, συμμορφώνονται με τους σχετικούς κανόνες και τα πρότυπα των εθνικών, ενωσιακών και άλλων ευρωπαϊκών οργανισμών, και με τους διεθνείς κανόνες και τα διεθνή πρότυπα, καθώς και με τα σχετικά βιομηχανικά και επιχειρηματικά πρωτόκολλα. Ειδικότερα, οι φορείς ανάπτυξης και οι φορείς εφαρμογής διασφαλίζουν ότι τα εν λόγω πρωτόκολλα εφαρμόζονται κατά την ανάπτυξη και την εφαρμογή της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, καθορίζοντας με σαφήνεια τις απαιτήσεις για την επεξεργασία και τη χορήγηση πρόσβασης σε δεδομένα που χρησιμοποιούνται ή παράγονται από αυτές τις τεχνολογίες, καθώς και τον σκοπό, την εμβέλεια και τους αποδέκτες της επεξεργασίας και της χορήγησης πρόσβασης στα εν λόγω δεδομένα, το σύνολο των οποίων πρέπει να είναι ανά πάσα στιγμή ελέγξιμο και ιχνηλάσιμο.
Άρθρο 18
Εποπτικές αρχές
1. Κάθε κράτος μέλος ορίζει ανεξάρτητη δημόσια αρχή υπεύθυνη για την παρακολούθηση της εφαρμογής του παρόντος κανονισμού («εποπτική αρχή»), τη διενέργεια των αξιολογήσεων επικινδυνότητας και συμμόρφωσης και την πιστοποίηση που προβλέπονται στα άρθρα 14, 15 και 16, με την επιφύλαξη της τομεακής νομοθεσίας.
2. Κάθε εθνική εποπτική αρχή συμβάλλει στη συνεπή εφαρμογή του παρόντος κανονισμού σε ολόκληρη την Ένωση. Για τον σκοπό αυτό, οι εποπτικές αρχές κάθε κράτους μέλους συνεργάζονται μεταξύ τους, με την Επιτροπή και/ή με άλλα σχετικά θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που μπορεί να οριστούν για τον σκοπό αυτό.
3. Κάθε εθνική εποπτική αρχή λειτουργεί ως πρώτο σημείο επαφής σε περιπτώσεις εικαζόμενης παραβίασης των δεοντολογικών αρχών και των νομικών υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, συμπεριλαμβανομένης της διακριτικής μεταχείρισης ή της παραβίασης άλλων δικαιωμάτων, ως αποτέλεσμα της ανάπτυξης, της εφαρμογής ή της χρήσης της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών. Στις περιπτώσεις αυτές, η οικεία εθνική εποπτική αρχή διενεργεί αξιολόγηση της συμμόρφωσης με σκοπό τη στήριξη του δικαιώματος των πολιτών να αντιταχθούν και να ζητήσουν επανόρθωση.
4. Κάθε εθνική εποπτική αρχή είναι αρμόδια να επιτηρεί την εφαρμογή των σχετικών εθνικών, ευρωπαϊκών και διεθνών κανόνων και προτύπων διακυβέρνησης που αναφέρονται στο άρθρο 17 στην τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, μεταξύ άλλων επικοινωνώντας με τον μέγιστο δυνατό αριθμό ενδιαφερομένων. Για τον σκοπό αυτό, οι εποπτικές αρχές κάθε κράτους μέλους παρέχουν ένα φόρουμ τακτικών ανταλλαγών με ενδιαφερόμενα μένα από την ακαδημαϊκή κοινότητα, την έρευνα, τη βιομηχανία και την κοινωνία των πολιτών, καθώς και μεταξύ τους.
5. Κάθε εθνική εποπτική αρχή παρέχει επαγγελματική και διοικητική καθοδήγηση και υποστήριξη σχετικά με τη γενική εφαρμογή του δικαίου της Ένωσης που ισχύει για την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες, καθώς και σχετικά με τις δεοντολογικές αρχές που ορίζονται στον παρόντα κανονισμό, ιδίως σε σχετικούς οργανισμούς έρευνας και ανάπτυξης και σε μικρές και μεσαίες ή νεοφυείς επιχειρήσεις.
6. Κάθε κράτος μέλος κοινοποιεί στην Ευρωπαϊκή Επιτροπή τις νομοθετικές διατάξεις που θεσπίζει δυνάμει του παρόντος άρθρου από [ΕΕ: να εισαχθεί η ημερομηνία που αντιστοιχεί σε ένα έτος μετά την έναρξη ισχύος] και, χωρίς καθυστέρηση, κάθε μεταγενέστερη τροποποίησή τους.
7. Τα κράτη μέλη λαμβάνουν όλα τα αναγκαία μέτρα για να εξασφαλίσουν την εφαρμογή των δεοντολογικών αρχών και νομικών υποχρεώσεων που ορίζονται στον παρόντα κανονισμό. Τα κράτη μέλη στηρίζουν τα σχετικά ενδιαφερόμενα μέρη και την κοινωνία των πολιτών, τόσο σε ενωσιακό όσο και σε εθνικό επίπεδο, στις προσπάθειές τους να διασφαλίσουν μια έγκαιρη, δεοντολογική και τεκμηριωμένη απάντηση στις νέες ευκαιρίες και προκλήσεις, ιδίως εκείνες που έχουν διασυνοριακό χαρακτήρα και προκύπτουν από τις τεχνολογικές εξελίξεις που σχετίζονται με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες.
Άρθρο 19
Αναφορά παραβιάσεων και προστασία των καταγγελλόντων
Η οδηγία (ΕΕ) 2019/1937 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (6) ισχύει για την αναφορά παραβιάσεων του παρόντος κανονισμού και για την προστασία των προσώπων που αναφέρουν τις παραβιάσεις αυτές.
Άρθρο 20
Συντονισμός σε επίπεδο Ένωσης
1. Η Επιτροπή και/ή τα σχετικά θεσμικά και λοιπά όργανα και οι οργανισμοί της Ένωσης που μπορούν να οριστούν σε αυτό το πλαίσιο έχουν τα ακόλουθα καθήκοντα:
|
— |
διασφαλίζουν ότι διενεργείται με συνέπεια η εκτίμηση των κινδύνων της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, η οποία αναφέρεται στο άρθρο 14 και πραγματοποιείται από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18 με βάση τα κοινά αντικειμενικά κριτήρια που προβλέπονται στο άρθρο 8 παράγραφος 1 και στον κατάλογο των τομέων υψηλού κινδύνου και των χρήσεων ή σκοπών υψηλού κινδύνου που παρατίθενται στο παράρτημα του παρόντος κανονισμού· |
|
— |
λαμβάνουν υπόψη την αξιολόγηση της συμμόρφωσης και την επακόλουθη παρακολούθηση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών υψηλού κινδύνου, που αναφέρονται στο άρθρο 15 και πρέπει να διενεργούνται από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18· |
|
— |
αναπτύσσουν τη διαδικασία υποβολής αιτήσεων για την έκδοση του πιστοποιητικού που αναφέρεται στο άρθρο 16 από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18· |
|
— |
με την επιφύλαξη της τομεακής νομοθεσίας, εκπονούν τις δεσμευτικές κατευθυντήριες γραμμές που αναφέρονται στο άρθρο 17 παράγραφος 4 σχετικά με τη μεθοδολογία που πρέπει να χρησιμοποιούν οι εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18· |
|
— |
συντονίζουν την κατάρτιση των σχετικών προτύπων διακυβέρνησης που αναφέρονται στο άρθρο 17 από τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18, συμπεριλαμβανομένων μη δεσμευτικών κατευθυντήριων γραμμών υλοποίησης για τους φορείς ανάπτυξης, τους φορείς εφαρμογής και τους χρήστες σχετικά με τη μεθοδολογία για τη συμμόρφωση με τον παρόντα κανονισμό· |
|
— |
συνεργάζονται με τις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18 όσον αφορά τη συμβολή τους στη συνεπή εφαρμογή του παρόντος κανονισμού σε ολόκληρη την Ένωση σύμφωνα με το άρθρο 18 παράγραφος 2· |
|
— |
λειτουργούν ως κέντρο εμπειρογνωμοσύνης, προωθώντας την ανταλλαγή πληροφοριών σχετικά με την τεχνητή νοημοσύνη, τη ρομποτική και τις συναφείς τεχνολογίες και υποστηρίζοντας την ανάπτυξη κοινής αντίληψης στην ενιαία αγορά, εκδίδοντας πρόσθετες κατευθυντήριες γραμμές και γνωμοδοτήσεις και παρέχοντας εμπειρογνωμοσύνη στις εθνικές εποπτικές αρχές που αναφέρονται στο άρθρο 18, παρακολουθώντας την εφαρμογή της σχετικής ενωσιακής νομοθεσίας, προσδιορίζοντας πρότυπα βέλτιστων πρακτικών και, κατά περίπτωση, διατυπώνοντας συστάσεις για κανονιστικά μέτρα· στο πλαίσιο αυτό, θα πρέπει να έρχονται σε επαφή με τον μέγιστο δυνατό αριθμό ενδιαφερόμενων μερών και να διασφαλίζουν ότι η σύνθεση των επιπέδων λήψης αποφάσεων παρουσιάζει ποικιλομορφία και εγγυάται την ισότητα των φύλων· |
|
— |
φιλοξενούν μια ομάδα εργασίας για την ασφάλεια και την άμυνα με στόχο την εξέταση ζητημάτων πολιτικής και επενδύσεων που σχετίζονται ειδικά με τη δεοντολογική χρήση της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών στον τομέα της ασφάλειας και της άμυνας. |
Άρθρο 21
Άσκηση της εξουσιοδότησης
1. Η εξουσία έκδοσης κατ’ εξουσιοδότηση πράξεων ανατίθεται στην Επιτροπή σύμφωνα με τους όρους του παρόντος άρθρου.
2. Η εξουσία έκδοσης κατ’ εξουσιοδότηση πράξεων που αναφέρεται στο άρθρο 14 παράγραφοι 3 και 4 ανατίθεται στην Επιτροπή για περίοδο πέντε ετών από την (ημερομηνία έναρξης ισχύος του παρόντος κανονισμού).
3. Η εξουσιοδότηση που προβλέπεται στο άρθρο 14 παράγραφοι 3 και 4 μπορεί να ανακληθεί ανά πάσα στιγμή από το Ευρωπαϊκό Κοινοβούλιο ή το Συμβούλιο. Η απόφαση ανάκλησης επιφέρει τη λήξη της εξουσιοδότησης που προσδιορίζεται στην εν λόγω απόφαση. Αρχίζει να ισχύει την επομένη της δημοσίευσης της απόφασης στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης ή σε μεταγενέστερη ημερομηνία που προσδιορίζεται στην απόφαση. Δεν θίγει το κύρος των κατ’ εξουσιοδότηση πράξεων που έχουν ήδη τεθεί σε ισχύ.
4. Πριν από την έκδοση κατ’ εξουσιοδότηση πράξης, η Επιτροπή διαβουλεύεται με εμπειρογνώμονες οι οποίοι ορίζονται από κάθε κράτος μέλος σύμφωνα με τις αρχές που καθορίζονται στη διοργανική συμφωνία της 13ης Απριλίου 2016 για τη βελτίωση της νομοθεσίας.
5. Μόλις εκδώσει κατ’ εξουσιοδότηση πράξη, η Επιτροπή την κοινοποιεί ταυτόχρονα στο Ευρωπαϊκό Κοινοβούλιο και στο Συμβούλιο.
6. Κατ’ εξουσιοδότηση πράξη η οποία εκδίδεται δυνάμει του άρθρου 14 παράγραφοι 3 και 4 τίθεται σε ισχύ μόνον εφόσον δεν έχει διατυπωθεί αντίρρηση από το Ευρωπαϊκό Κοινοβούλιο ή από το Συμβούλιο εντός προθεσμίας τριών μηνών από την κοινοποίηση της εν λόγω πράξης στο Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο ή εφόσον, πριν από τη λήξη της εν λόγω προθεσμίας, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο έχουν ενημερώσει αμφότερα την Επιτροπή ότι δεν θα προβάλουν αντιρρήσεις. Η προθεσμία αυτή παρατείνεται κατά τρεις μήνες κατόπιν πρωτοβουλίας του Ευρωπαϊκού Κοινοβουλίου ή του Συμβουλίου.
Άρθρο 22
Τροποποίηση της οδηγίας (ΕΕ) 2019/1937
Η οδηγία (ΕΕ) 2019/1937 τροποποιείται ως εξής:
|
1) |
Στο άρθρο 2 παράγραφος 1, προστίθεται το ακόλουθο σημείο:
|
|
2) |
Στο μέρος Ι του παραρτήματος προστίθεται το ακόλουθο σημείο:
|
Άρθρο 23
Επανεξέταση
Η Επιτροπή παρακολουθεί σε τακτική βάση την ανάπτυξη της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, και έως [ΕΕ: να εισαχθεί η ημερομηνία που αντιστοιχεί σε τρία έτη μετά την έναρξη ισχύος], και στη συνέχεια, ανά τριετία, υποβάλλει στο Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο και την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή έκθεση σχετικά με την εφαρμογή του παρόντος κανονισμού, συμπεριλαμβανομένης αξιολόγησης της ενδεχόμενης τροποποίησης του πεδίου εφαρμογής του.
Άρθρο 24
Έναρξη ισχύος
Ο παρών κανονισμός αρχίζει να ισχύει την εικοστή ημέρα από τη δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης.
Εφαρμόζεται από την [XX].
Ο παρών κανονισμός είναι δεσμευτικός ως προς όλα τα μέρη του και ισχύει άμεσα σε κάθε κράτος μέλος.
…,
Για το Ευρωπαϊκό Κοινοβούλιο
Ο Πρόεδρος
Για το Συμβούλιο
Ο Πρόεδρος
ΠΑΡΑΡΤΗΜΑ
Εξαντλητικός και σωρευτικός κατάλογος των τομέων υψηλού κινδύνου και των χρήσεων ή σκοπών υψηλού κινδύνου που ενέχουν κίνδυνο παραβίασης των θεμελιωδών δικαιωμάτων και των κανόνων ασφαλείας
|
Τομείς υψηλού κινδύνου |
|
||||||||||||||||||||||||||||
|
Χρήσεις ή σκοποί υψηλού κινδύνου |
|
(1) Όσον αφορά την αυτοματοποιημένη οδήγηση οχημάτων, το διεθνές πρότυπο J3016 της SAE, που επικαιροποιήθηκε τελευταία το 2018 σε J3016_201806, πρότεινε έξι διαφορετικά επίπεδα αυτόνομης οδήγησης. https://www.sae.org/standards/content/j3016_201806/
(2) Κανονισμός (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της οδηγίας 95/46/ΕΚ (Γενικός Κανονισμός για την Προστασία Δεδομένων) (ΕΕ L 119 της 4.5.2016, σ. 1).
(3) Οδηγία 2002/58/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 12ης Ιουλίου 2002, σχετικά με την επεξεργασία των δεδομένων προσωπικού χαρακτήρα και την προστασία της ιδιωτικής ζωής στον τομέα των ηλεκτρονικών επικοινωνιών (οδηγία για την προστασία της ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες) (ΕΕ L 201 της 31.7.2002, σ. 37).
(4) Προσαρμοσμένος ορισμός σύμφωνα με την ανακοίνωση της Ευρωπαϊκής Επιτροπής COM(2018)0237, 25.04.2018, σελ. 1.
(5) Από τον ορισμό των βιομηχανικών ρομπότ στο πρότυπο ISO 8373.
(6) Οδηγία (ΕΕ) 2019/1937 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 23ης Οκτωβρίου 2019, σχετικά με την προστασία των προσώπων που αναφέρουν παραβιάσεις του δικαίου της Ένωσης (ΕΕ L 305 της 26.11.2019, σ. 17).