52021AE2482

EUR-Lex

Access to European Union law

This document is an excerpt from the EUR-Lex website

EUROPA
EUR-Lex home
EUR-Lex - 52021AE2482 - EN

Help

Search tips

Need more search options? Use the Advanced search

Document 52021AE2482

Γνωμοδότηση της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής με θέμα «Πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (Πράξη για την τεχνητή νοημοσύνη) και για την τροποποίηση ορισμένων νομοθετικών πράξεων της Ένωσης» [COM(2021) 206 final — 2021/106 (COD)]

EESC 2021/02482

ΕΕ C 517 της 22.12.2021, p. 61–66 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

Date of document:: 22/09/2021; ημερομηνία ψήφισης
Date of vote:: 22/09/2021
Date lodged:: 07/06/2021

Author:: Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή
Responsible body:: Section for the Single Market, Production and Consumption, EESC_INT
Rapporteur:: Catelijne MULLER
Form:: Γνωμοδότηση
Term of office:: 2015-2020
Internal reference:: AVIS-SECTION 2021/2482 FIN, INT/940
Session:: 563

Procedure number:

Link

European Parliament - Legislative observatory

Treaty:

Συνθήκη για τη λειτουργία της Ευρωπαϊκής Ένωσης

Legal basis:

12016E114

Link

Select all documents mentioning this document

Earlier related instruments:

52021PC0206 ESC Opinion

Instruments cited:

Link

EUROVOC descriptor:

Subject matter:

Directory code:

13.10.30.00 Βιομηχανική πολιτική και εσωτερική αγορά / Βιομηχανική πολιτική: Γενικά, προγράμματα, στατιστικές και έρευνα / Έρευνα και τεχνολογική ανάπτυξη

HTML

PDF

Official Journal

22.12.2021

Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης

C 517/61

[COM(2021) 206 final — 2021/106 (COD)]

(2021/C 517/09)

Εισηγήτρια:

η κ. Catelijne MULLER

Αίτηση γνωμοδότησης	Ευρωπαϊκό Κοινοβούλιο, 7.6.2021 Συμβούλιο, 15.6.2021
Νομική βάση	Άρθρο 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης
Αρμόδιο όργανο	Ενιαία αγορά, παραγωγή και κατανάλωση
Εγκρίθηκε από το τμήμα	2.9.2021
Εγκρίθηκε από την ολομέλεια	22.9.2021
Σύνοδος ολομέλειας αριθ.	563
Αποτέλεσμα της ψηφοφορίας (υπέρ / κατά / αποχές)	225/03/06

1. Συμπεράσματα και συστάσεις

1.1.

Η Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή (ΕΟΚΕ) εκφράζει την ικανοποίησή της για το γεγονός ότι η πρόταση της Επιτροπής σχετικά με την πράξη για την τεχνητή νοημοσύνη όχι μόνο εξετάζει τους κινδύνους που συνδέονται με την ΤΝ, αλλά θέτει επίσης ουσιαστικά το όριο που η ΕΕ προτίθεται να θέσει όσον αφορά την ποιότητα, τις επιδόσεις και την αξιοπιστία της ΤΝ. Η ΕΟΚΕ εκφράζει ιδιαίτερη ικανοποίηση για το γεγονός ότι η πράξη για την τεχνητή νοημοσύνη θέτει στο επίκεντρο την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα αλλά και ότι έχει παγκόσμια εμβέλεια.

1.2.

Η ΕΟΚΕ θεωρεί ότι υπάρχουν περιθώρια βελτίωσης όσον αφορά το πεδίο εφαρμογής, τον ορισμό και τη σαφήνεια των απαγορευμένων πρακτικών ΤΝ, τις επιπτώσεις των επιλογών κατηγοριοποίησης σε σχέση με την «πυραμίδα κινδύνου», το αποτέλεσμα μετριασμού του κινδύνου των απαιτήσεων για ΤΝ υψηλού κινδύνου, την εκτελεστότητα της πράξης για την τεχνητή νοημοσύνη και τη σχέση με τους υφιστάμενους κανονισμούς και άλλες πρόσφατες κανονιστικές προτάσεις.

1.3.

Η ΕΟΚΕ τονίζει ότι η ΤΝ δεν λειτούργησε ποτέ σε έναν κόσμο χωρίς νόμους. Λόγω του ευρέος πεδίου εφαρμογής της, καθώς και της υπεροχής της ως κανονισμού της ΕΕ, η πράξη για την τεχνητή νοημοσύνη θα μπορούσε να δημιουργήσει τριβές με την ισχύουσα εθνική και ενωσιακή νομοθεσία και τις σχετικές κανονιστικές προτάσεις. Η ΕΟΚΕ συνιστά την τροποποίηση της αιτιολογικής σκέψης (41) προκειμένου να μελετηθούν και να αποσαφηνιστούν δεόντως οι σχέσεις μεταξύ της πράξης για την τεχνητή νοημοσύνη και της ισχύουσας και της επικείμενης νομοθεσίας.

1.4.

Η ΕΟΚΕ συνιστά να αποσαφηνιστεί ο ορισμός της τεχνητής νοημοσύνης με την κατάργηση του παραρτήματος I και την ελαφρά τροποποίηση του άρθρο 3 και τη διεύρυνση του πεδίου εφαρμογής της πράξης για την τεχνητή νοημοσύνη ώστε να συμπεριληφθούν τα «κληροδοτημένα συστήματα ΤΝ» και οι συνιστώσες τεχνητής νοημοσύνης των συστημάτων ΤΠ μεγάλης κλίμακας στον χώρο ελευθερίας, ασφάλειας και δικαιοσύνης, όπως απαριθμούνται στο παράρτημα IX.

1.5.

Η ΕΟΚΕ συνιστά να αποσαφηνιστούν οι απαγορεύσεις σχετικά με τις «τεχνικές που απευθύνονται στο υποσυνείδητο» και την «εκμετάλλευση των τρωτών σημείων» έτσι ώστε να αντικατοπτριστεί η απαγόρευση της επιβλαβούς χειραγώγησης, καθώς και να προστεθεί η «προσβολή των θεμελιωδών δικαιωμάτων, της δημοκρατίας και του κράτους δικαίου» ως προϋποθέσεις για τις απαγορεύσεις αυτές.

1.6.

Η ΕΟΚΕ θεωρεί ότι δεν έχει θέση στην ΕΕ η βαθμολόγηση της αξιοπιστίας των πολιτών της ΕΕ με βάση την κοινωνική τους συμπεριφορά ή τα χαρακτηριστικά της προσωπικότητάς τους, ανεξάρτητα από τον φορέα που διενεργεί τη βαθμολόγηση. Η ΕΟΚΕ συνιστά τη διεύρυνση του πεδίου εφαρμογής της εν λόγω απαγόρευσης, ώστε να συμπεριληφθεί η κοινωνική βαθμολόγηση από ιδιωτικούς οργανισμούς και ημιδημόσιες αρχές.

1.7.

Η ΕΟΚΕ ζητεί την απαγόρευση της χρήσης της ΤΝ, αφενός, για την αυτοματοποιημένη βιομετρική αναγνώριση σε δημόσια και ιδιωτικά προσβάσιμους χώρους, με εξαίρεση τους σκοπούς εξακρίβωσης της ταυτότητας σε συγκεκριμένες περιστάσεις και, αφετέρου, για την αυτοματοποιημένη αναγνώριση των ανθρώπινων συμπεριφορικών σημάτων σε δημόσια και ιδιωτικά προσβάσιμους χώρους, με εξαίρεση πολύ συγκεκριμένες περιπτώσεις, όπως ορισμένοι σκοποί που αφορούν την υγεία, όπου η αναγνώριση των συναισθημάτων των ασθενών μπορεί να είναι πολύτιμη.

1.8.

Η προσέγγιση «βάσει καταλόγου» για την ΤΝ υψηλού κινδύνου ενέχει τον κίνδυνο κανονικοποίησης και ενσωμάτωσης ορισμένων συστημάτων και χρήσεων της ΤΝ που εξακολουθούν να επικρίνονται έντονα. Η ΕΟΚΕ προειδοποιεί ότι η συμμόρφωση με τις απαιτήσεις που ορίζονται για την ΤΝ μεσαίου και υψηλού κινδύνου δεν μετριάζει κατ’ ανάγκη τους κινδύνους βλάβης στην υγεία, στην ασφάλεια και στα θεμελιώδη δικαιώματα σε σχέση με όλες τις ΤΝ υψηλού κινδύνου. Η ΕΟΚΕ συνιστά η πράξη για την τεχνητή νοημοσύνη να μεριμνήσει για την κατάσταση αυτή. Θα πρέπει, έστω, να προστεθούν οι απαιτήσεις i) της ανθρώπινης δραστηριότητας, ii) της ιδιωτικής ζωής, iii) της ποικιλομορφίας, της απαγόρευσης των διακρίσεων και της δικαιοσύνης, iv) της εξηγησιμότητας και v) της περιβαλλοντικής και κοινωνικής ευημερίας των κατευθυντήριων γραμμών δεοντολογίας για αξιόπιστη ΤΝ.

1.9.

Σύμφωνα με την επί μακρού υποστηριζόμενη προσέγγιση που ευνοεί «την άσκηση ελέγχου από τον άνθρωπο» στην τεχνητή νοημοσύνη, η ΕΟΚΕ συνιστά ένθερμα η πράξη για την τεχνητή νοημοσύνη να προβλέπει ότι ορισμένες αποφάσεις παραμένουν προνόμιο του ανθρώπου, ιδίως σε τομείς όπου οι αποφάσεις αυτές έχουν μια δεοντολογική πτυχή, καθώς και νομικές συνέπειες ή κοινωνικό αντίκτυπο, όπως στο δικαστικό σώμα, την επιβολή του νόμου, τις κοινωνικές υπηρεσίες, την υγειονομική περίθαλψη, τη στέγαση, τις χρηματοπιστωτικές υπηρεσίες, τις εργασιακές σχέσεις και την εκπαίδευση.

1.10.

Η ΕΟΚΕ συνιστά να καταστούν υποχρεωτικές οι αξιολογήσεις συμμόρφωσης τρίτων για κάθε ΤΝ υψηλού κινδύνου.

1.11.

Η ΕΟΚΕ συνιστά τη θέσπιση μηχανισμού καταγγελιών και προσφυγών για τους οργανισμούς και τους πολίτες που έχουν υποστεί ζημία από οποιοδήποτε σύστημα, πρακτική ή χρήση ΤΝ που εμπίπτει στο πεδίο εφαρμογής της πράξης για την τεχνητή νοημοσύνη.

2. Κανονιστική πρόταση για την τεχνητή νοημοσύνη — Πράξη για την τεχνητή νοημοσύνη

2.1.

Η ΕΟΚΕ εκφράζει την ικανοποίησή της για το γεγονός ότι η πρόταση της Επιτροπής για την πράξη για την τεχνητή νοημοσύνη όχι μόνο εξετάζει τους κινδύνους που συνδέονται με την ΤΝ, αλλά θέτει επίσης ουσιαστικά το όριο που η ΕΕ το όριο που η ΕΕ προτίθεται να θέσει όσον αφορά την ποιότητα, τις επιδόσεις και την αξιοπιστία της ΤΝ.

3. Γενικές παρατηρήσεις– Πράξη για την τεχνητή νοημοσύνη

Στόχος και πεδίο εφαρμογής

3.1.

Η ΕΟΚΕ επικροτεί τόσο τον στόχο όσο και το πεδίο εφαρμογής της πράξης για την τεχνητή νοημοσύνη. Η ΕΟΚΕ επικροτεί ιδιαίτερα το γεγονός ότι η Επιτροπή θέτει την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα στο επίκεντρο της πράξης για την τεχνητή νοημοσύνη. Η ΕΟΚΕ εκφράζει επίσης την ικανοποίησή της για την εξωτερική επίδραση της πράξης για την τεχνητή νοημοσύνη, η οποία διασφαλίζει ότι η ΤΝ που αναπτύσσεται εκτός της ΕΕ πρέπει να πληροί τα ίδια νομικά πρότυπα εάν αναπτυχθεί ή έχει αντίκτυπο εντός της ΕΕ.

Ορισμός της ΤΝ

3.2.

Ο ορισμός της ΤΝ (άρθρο 3 παράγραφος 1 σε συνδυασμό με το παράρτημα I της πράξης για την τεχνητή νοημοσύνη) οδήγησε σε συζήτηση μεταξύ των επιστημόνων της ΤΝ, σύμφωνα με την οποία ορισμένα από τα παραδείγματα που παρατίθενται στο παράρτημα I δεν θεωρούνται ΤΝ από επιστήμονες της ΤΝ και λείπουν ορισμένες σημαντικές τεχνικές ΤΝ. Η ΕΟΚΕ θεωρεί ότι δεν υπάρχει προστιθέμενη αξία στο παράρτημα I και συνιστά την πλήρη αφαίρεσή του από την πράξη για την τεχνητή νοημοσύνη. Η ΕΟΚΕ συνιστά επίσης την τροποποίηση του ορισμού του άρθρου 3 στοιχείο θ) ως εξής:

«Σύστημα τεχνητής νοημοσύνης» (σύστημα ΤΝ): λογισμικό που μπορεί, με αυτοματοποιημένο τρόπο, για ένα δεδομένο σύνολο στόχων που έχουν καθοριστεί από τον άνθρωπο, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλεπιδρά».

Υγεία, ασφάλεια και θεμελιώδη δικαιώματα — η πυραμίδα κινδύνου

3.3.

Η κλιμακούμενη «πυραμίδα κινδύνου» (χαμηλός/μεσαίος κίνδυνος, υψηλός κίνδυνος, μη αποδεκτός κίνδυνος), η οποία χρησιμοποιείται για την κατηγοριοποίηση ορισμένων γενικών πρακτικών ΤΝ και ειδικών ανά τομέα περιπτώσεων χρήσης της ΤΝ, αναγνωρίζει ότι η ΤΝ δεν ενέχει πάντα κινδύνους και ότι όλοι οι κίνδυνοι δεν είναι ίσοι ή δεν απαιτούν τα ίδια μέτρα μετριασμού.

3.4.

Η επιλεγείσα προσέγγιση θέτει δύο σημαντικά ερωτήματα. Πρώτον, τα μέτρα μετριασμού (για την ΤΝ υψηλού και χαμηλού/μεσαίου κινδύνου) μετριάζουν πραγματικά επαρκώς τους κινδύνους βλάβης στην υγεία και την ασφάλεια και παραβίασης των θεμελιωδών δικαιωμάτων; Δεύτερον, είμαστε έτοιμοι να επιτρέψουμε στην ΤΝ να αντικαταστήσει σε μεγάλο βαθμό τη λήψη αποφάσεων από τον άνθρωπο, ακόμη και σε κρίσιμες διαδικασίες, όπως η επιβολή του νόμου και η δικαστική εξουσία;

3.5.

Όσον αφορά το πρώτο ερώτημα, η ΕΟΚΕ προειδοποιεί ότι η συμμόρφωση με τις απαιτήσεις για την ΤΝ μεσαίου και υψηλού κινδύνου δεν μετριάζει κατ’ ανάγκη τους κινδύνους βλάβης στην υγεία και την ασφάλεια και παραβίασης των θεμελιωδών δικαιωμάτων σε όλες τις περιπτώσεις. Αυτό θα αναλυθεί περαιτέρω στο τμήμα 4.

3.6.

Όσον αφορά το δεύτερο ερώτημα, αυτό που λείπει από την πράξη για την τεχνητή νοημοσύνη είναι η ιδέα ότι η υπόσχεση της ΤΝ έγκειται στην ενίσχυση της λήψης αποφάσεων και της ανθρώπινης νοημοσύνης και όχι στην αντικατάστασή της. Η πράξη για την τεχνητή νοημοσύνη βασίζεται στην παραδοχή ότι, εφόσον πληρούνται οι απαιτήσεις για την ΤΝ μεσαίου και υψηλού κινδύνου, η ΤΝ μπορεί σε μεγάλο βαθμό να αντικαταστήσει τη λήψη αποφάσεων από τον άνθρωπο.

3.7.

H ΕΟΚΕ συνιστά ένθερμα η πράξη για την τεχνητή νοημοσύνη να προβλέπει ότι ορισμένες αποφάσεις παραμένουν προνόμιο του ανθρώπου, ιδίως σε τομείς όπου οι αποφάσεις αυτές έχουν μια δεοντολογική πτυχή, καθώς και νομικές συνέπειες ή κοινωνικό αντίκτυπο, όπως στη δικαιοσύνη, την επιβολή του νόμου, τις κοινωνικές υπηρεσίες, την υγειονομική περίθαλψη, τη στέγαση, τις χρηματοπιστωτικές υπηρεσίες, τις εργασιακές σχέσεις και την εκπαίδευση.

3.8.

Τα συστήματα ΤΝ δεν λειτουργούν σε έναν άνομο κόσμο. Σήμερα, ορισμένοι νομικά δεσμευτικοί κανόνες σε ευρωπαϊκό, εθνικό και διεθνές επίπεδο εφαρμόζονται ήδη ή αφορούν τα συστήματα ΤΝ. Στον μη αποκλειστικό κατάλογο νομικών πηγών περιλαμβάνονται τα εξής: το πρωτογενές δίκαιο της ΕΕ (οι Συνθήκες της Ευρωπαϊκής Ένωσης και ο Χάρτης των Θεμελιωδών Δικαιωμάτων της), το παράγωγο δίκαιο της ΕΕ (όπως ο γενικός κανονισμός για την προστασία δεδομένων, η οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων, ο κανονισμός για την ελεύθερη ροή των δεδομένων μη προσωπικού χαρακτήρα, οι οδηγίες κατά των διακρίσεων, το δίκαιο των καταναλωτών και η οδηγία για την ασφάλεια και την υγεία στην εργασία), οι Συνθήκες των Ηνωμένων Εθνών για τα ανθρώπινα δικαιώματα και οι συμβάσεις του Συμβουλίου της Ευρώπης (όπως η Ευρωπαϊκή σύμβαση Δικαιωμάτων του Ανθρώπου), καθώς και πολλοί νόμοι των κρατών μελών της ΕΕ. Εκτός από τους οριζόντια εφαρμοστέους κανόνες, υπάρχουν διάφοροι κανόνες ειδικοί ανά τομέα που εφαρμόζονται σε συγκεκριμένες εφαρμογές ΤΝ (όπως, για παράδειγμα, ο κανονισμός για τα ιατροτεχνολογικά προϊόντα στον τομέα της υγειονομικής περίθαλψης). Η ΕΟΚΕ συνιστά την τροποποίηση της αιτιολογικής σκέψης (41) προκειμένου να ληφθεί δεόντως υπόψη το γεγονός αυτό.

4. Ειδικές παρατηρήσεις και συστάσεις — Πράξη για την τεχνητή νοημοσύνη

Απαγορευμένες πρακτικές ΤΝ

4.1.

Η ΕΟΚΕ συμφωνεί ότι οι πρακτικές ΤΝ που αναφέρονται στο άρθρο 5 πράγματι δεν έχουν κοινωνικό όφελος και θα πρέπει να απαγορευθούν. Ωστόσο, θεωρεί ορισμένες διατυπώσεις ασαφείς, γεγονός που θα μπορούσε να δυσχεράνει την ερμηνεία ορισμένων απαγορεύσεων και την παράκαμψή τους.

4.2.

Υπάρχουν στοιχεία που αποδεικνύουν ότι οι τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο μπορούν να οδηγήσουν, όχι μόνο σε σωματική ή ψυχολογική βλάβη (αναμένεται να θεσπιστούν οι προϋποθέσεις για τη συγκεκριμένη απαγόρευση), αλλά και μπορούν, δεδομένου του περιβάλλοντος στο οποίο αναπτύσσονται, να οδηγήσουν σε άλλες δυσμενείς προσωπικές, κοινωνικές ή δημοκρατικές συνέπειες, όπως η αλλαγή της συμπεριφοράς στις ψηφοφορίες. Επιπλέον, η τεχνητή νοημοσύνη συχνά δεν καθοδηγεί την τεχνική η οποία απευθύνεται στο υποσυνείδητο αλλά μάλλον την επιλογή του αντικειμένου που αποτελεί το στόχο της τεχνικής αυτής.

4.3.

Προκειμένου να καταγραφούν όσα επιδιώκει να απαγορεύσει η πράξη για την τεχνητή νοημοσύνη στο άρθρο 5 παράγραφος 1 στοιχείο α), τα οποία χειραγωγούν τους ανθρώπους σε επιβλαβή συμπεριφορά, η ΕΟΚΕ συνιστά να τροποποιηθεί η παράγραφος ως εξής:«[…] το σύστημα ΤΝ που αναπτύχθηκε, αποσκοπεί ή χρησιμοποιείται για να στρεβλώσει ουσιωδώς τη συμπεριφορά ενός προσώπου κατά τρόπο που προκαλεί ή ενδέχεται να παραβιάσει τα θεμελιώδη δικαιώματα του εν λόγω προσώπου, άλλου προσώπου ή ομάδας προσώπων, συμπεριλαμβανομένης της σωματικής ή ψυχολογικής υγείας και ασφάλειάς τους, ή της δημοκρατίας και του κράτους δικαίου».

4.4.

Η ΕΟΚΕ συνιστά την τροποποίηση της απαγορευμένης πρακτικής της εκμετάλλευσης των τρωτών σημείων στο άρθρο 5 παράγραφος 1 στοιχείο β) με τον ίδιο τρόπο, ώστε να συμπεριληφθεί η παραβίαση των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένης της σωματικής ή ψυχολογικής βλάβης.

4.5.

Η ΕΟΚΕ επικροτεί την απαγόρευση της «κοινωνικής βαθμολόγησης» στο άρθρο 5 παράγραφος 1 στοιχείο γ). Η ΕΟΚΕ συνιστά η απαγόρευση της κοινωνικής βαθμολόγησης να ισχύει και για τους ιδιωτικούς οργανισμούς και τις ημιδημόσιες αρχές και όχι μόνο για τις δημόσιες αρχές. Δεν έχει θέση στην ΕΕ η βαθμολόγηση της αξιοπιστίας των πολιτών της ΕΕ με βάση την κοινωνική τους συμπεριφορά ή τα χαρακτηριστικά της προσωπικότητάς τους, ανεξάρτητα από τον φορέα που διενεργεί τη βαθμολόγηση. Εάν υπήρχε, η ΕΕ θα άνοιγε τον δρόμο σε πολλούς χώρους όπου θα επιτρεπόταν η κοινωνική βαθμολόγηση, όπως στον χώρο εργασίας. Οι προϋποθέσεις των εδαφίων (i) και (ii) θα πρέπει να αποσαφηνιστούν ώστε να χαραχθεί σαφής διαχωριστική γραμμή μεταξύ του τι θεωρείται «κοινωνική βαθμολόγηση» και του τι μπορεί να θεωρηθεί αποδεκτή μορφή αξιολόγησης για έναν συγκεκριμένο σκοπό, δηλαδή το σημείο κατά το οποίο οι πληροφορίες που χρησιμοποιούνται για την αξιολόγηση δεν θα πρέπει πλέον να θεωρούνται συναφείς ή εύλογα συνδεδεμένες με τον στόχο της αξιολόγησης.

4.6.

Η πράξη για την τεχνητή νοημοσύνη αποσκοπεί στην απαγόρευση της εξ αποστάσεως βιομετρικής αναγνώρισης σε πραγματικό χρόνο (με αναγνώριση προσώπου, για παράδειγμα) για την επιβολή του νόμου και στην κατηγοριοποίησή της ως «υψηλού κινδύνου» όταν χρησιμοποιείται για άλλους σκοπούς. Αυτό επιτρέπει την «εκ των υστέρων» και την «εκ του σύνεγγυς» βιομετρική αναγνώριση. Επίσης, επιτρέπεται η βιομετρική αναγνώριση που δεν αποσκοπεί στην ταυτοποίηση ενός προσώπου, αλλά μάλλον στην αξιολόγηση της συμπεριφοράς ενός προσώπου από τα βιομετρικά χαρακτηριστικά του (μικροεκφράσεις, βάδιση, θερμοκρασία, συχνότητα καρδιακών παλμών κ.λπ.). Ο περιορισμός στην «επιβολή του νόμου» επιτρέπει τη βιομετρική ταυτοποίηση, καθώς και όλες τις άλλες μορφές βιομετρικής αναγνώρισης που δεν αποσκοπούν στην ταυτοποίηση ενός ατόμου, συμπεριλαμβανομένων όλων των αναφερόμενων μορφών «αναγνώρισης συναισθήματος» για όλους τους άλλους σκοπούς, από όλους τους άλλους παράγοντες, σε όλους τους δημόσιους και τους ιδιωτικούς χώρους, συμπεριλαμβανομένων των χώρων εργασίας, των καταστημάτων, των σταδίων, των θεάτρων κ.λπ. Αυτό αφήνει την πόρτα ανοικτή σε έναν κόσμο όπου διαρκώς «αξιολογούμαστε συναισθηματικά» για όποιο σκοπό ο αξιολογητής θεωρεί απαραίτητο.

4.7.

Η πράξη για την τεχνητή νοημοσύνη κατατάσσει γενικά την «αναγνώριση συναισθημάτων» στην κατηγορία χαμηλού κινδύνου, με εξαίρεση κάποιους τομείς χρηστών στους οποίους την κατατάσσει στην κατηγορία υψηλού κινδύνου. Αυτό το είδος βιομετρικής αναγνώρισης είναι επίσης γνωστό ως «αναγνώριση διάθεσης» και ορισμένες φορές ως «αναγνώριση συμπεριφοράς». Όλα τα είδη πρακτικών ΤΝ είναι εξαιρετικά επεμβατικά, στερούνται οποιασδήποτε έγκυρης επιστημονικής βάσης και ενέχουν σημαντικούς κινδύνους παραβίασης ορισμένων θεμελιωδών δικαιωμάτων του Χάρτη της ΕΕ, όπως το δικαίωμα στην ανθρώπινη αξιοπρέπεια, το δικαίωμα στην ακεραιότητα του ατόμου (συμπεριλαμβανομένης της διανοητικής ακεραιότητας) και το δικαίωμα στην ιδιωτική ζωή.

4.8.

Σε γενικές γραμμές, σύμφωνα με το αίτημα του Ευρωπαίου Επόπτη Προστασίας Δεδομένων (ΕΕΠΔ) και του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων (ΕΣΠΔ) της 21ης Ιουνίου 2021 για απαγόρευση της χρήσης τεχνητής νοημοσύνης για την αυτοματοποιημένη αναγνώριση των ανθρώπινων χαρακτηριστικών σε δημοσίως προσβάσιμους χώρους, καθώς και ορισμένων άλλων χρήσεων της ΤΝ που μπορούν να οδηγήσουν σε αθέμιτες διακρίσεις, η ΕΟΚΕ ζητεί:

—

απαγόρευση της χρήσης ΤΝ για την αυτοματοποιημένη βιομετρική αναγνώριση σε δημόσια και ιδιωτικά προσβάσιμους χώρους (όπως αναγνώριση προσώπων, βάδισης, φωνής και άλλων βιομετρικών χαρακτηριστικών), με εξαίρεση τους σκοπούς εξακρίβωσης της ταυτότητας σε συγκεκριμένες περιστάσεις (για παράδειγμα, για την παροχή πρόσβασης σε ευαίσθητους για την ασφάλεια χώρους),

—	απαγόρευση της χρήσης ΤΝ για την αυτοματοποιημένη αναγνώριση ανθρώπινων συμπεριφορικών σημάτων σε δημόσια και ιδιωτικά προσβάσιμους χώρους,

—	απαγόρευση των συστημάτων ΤΝ που χρησιμοποιούν βιομετρικά στοιχεία για την κατηγοριοποίηση ατόμων σε ομάδες με βάση την εθνοτική καταγωγή, το φύλο, τον πολιτικό ή σεξουαλικό προσανατολισμό ή άλλους λόγους για τους οποίους απαγορεύονται οι διακρίσεις βάσει του άρθρο 21 του Χάρτη,

—	απαγόρευση της χρήσης της ΤΝ για τη διαπίστωση των συναισθημάτων, της συμπεριφοράς ή των χαρακτηριστικών ενός φυσικού προσώπου, εκτός από πολύ συγκεκριμένες περιπτώσεις, όπως για ορισμένους σκοπούς που αφορούν την υγεία, όπου είναι σημαντική η αναγνώριση των συναισθημάτων των ασθενών.

ΤΝ υψηλού κινδύνου

4.9.

Προκειμένου να αποφασίσει αν μια πρακτική ή μια χρήση ΤΝ που συνιστά κίνδυνο για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα θα πρέπει να επιτρέπεται υπό αυστηρές προϋποθέσεις, η Επιτροπή εξέτασε δύο στοιχεία:(I) το κατά πόσον η πρακτική ή η χρήση της ΤΝ μπορεί να έχει κοινωνικά οφέλη και (ii) το κατά πόσον οι κίνδυνοι βλάβης για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα που ενέχει η χρήση αυτή μπορούν ωστόσο να μετριαστούν με την εκπλήρωση ορισμένων απαιτήσεων.

4.10.

Η ΕΟΚΕ εκφράζει την ικανοποίησή της για την ευθυγράμμιση αυτών των απαιτήσεων με στοιχεία των κατευθυντήριων γραμμών δεοντολογίας για αξιόπιστη ΤΝ. Ωστόσο, πέντε σημαντικές απαιτήσεις των κατευθυντήριων γραμμών δεοντολογίας για αξιόπιστη ΤΝ δεν εξετάζονται ειδικώς στις απαιτήσεις για την ΤΝ υψηλού κινδύνου από την πράξη για την τεχνητή νοημοσύνη, και συγκεκριμένα: i) η ανθρώπινη δραστηριότητα, ii) η ιδιωτικότητα, iii) η πολυμορφία, η απαγόρευση των διακρίσεων και η δικαιοσύνη, iv) η εξηγησιμότητα και v) η περιβαλλοντική και η κοινωνική ευημερία. Η ΕΟΚΕ θεωρεί ότι πρόκειται για χαμένη ευκαιρία, δεδομένου ότι πολλοί από τους κινδύνους που ενέχει η ΤΝ είναι εκείνοι της ιδιωτικής ζωής, της μεροληψίας, του αποκλεισμού, της ανεξήγητης έκβασης των αποφάσεων ΤΝ, της υπονόμευσης της ανθρώπινης παρέμβασης και του περιβάλλοντος και όλα αυτά αντικατοπτρίζονται στα θεμελιώδη δικαιώματά μας.

4.11.

Η ΕΟΚΕ συνιστά να προστεθούν οι εν λόγω απαιτήσεις στις απαιτήσεις του κεφαλαίου 2 του τίτλου III της πράξης για την τεχνητή νοημοσύνη, προκειμένου να βελτιωθεί η ικανότητα της εν λόγω πράξης να προστατεύει αποτελεσματικά την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματά μας από τις δυσμενείς επιπτώσεις της ΤΝ που χρησιμοποιείται είτε από δημόσιες αρχές είτε από ιδιωτικούς οργανισμούς.

4.12.

Η ΕΟΚΕ εκφράζει την ικανοποίησή της για το «αλληλένδετο σύστημα» μεταξύ της πράξης για την τεχνητή νοημοσύνη και της ενωσιακής νομοθεσίας εναρμόνισης. Συνιστά την επέκταση του πεδίου εφαρμογής της πράξης για την τεχνητή νοημοσύνη και των απαιτήσεων για την ΤΝ υψηλού κινδύνου πέραν των «κατασκευαστικών στοιχείων ασφάλειας της ΤΝ» ή της κατάστασης στην οποία το ίδιο το σύστημα ΤΝ είναι προϊόν που καλύπτεται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα II. Αυτό οφείλεται στο γεγονός ότι η ΤΝ μπορεί να ενέχει κινδύνους, όχι μόνο όταν χρησιμοποιείται ως κατασκευαστικό στοιχείο ασφάλειας των εν λόγω προϊόντων αλλά και επειδή το ίδιο το σύστημα ΤΝ δεν είναι πάντα ένα προϊόν, όταν χρησιμοποιείται, για παράδειγμα, ως μέρος διαγνωστικού ή προγνωστικού εργαλείου στο ιατρικό πεδίο ή ως θερμοστάτης που λειτουργεί με τεχνητή νοημοσύνη και ρυθμίζει έναν λέβητα.

4.13.

Η ΕΟΚΕ προειδοποιεί, ωστόσο, ότι η επιλεγείσα προσέγγιση με βάση τον κατάλογο για την ΤΝ υψηλού κινδύνου στο παράρτημα III μπορεί να οδηγήσει στη νομιμοποίηση, την κανονικοποίηση και τη συνεκτίμηση αρκετών πρακτικών ΤΝ που εξακολουθούν να επικρίνονται έντονα και για τις οποίες τα κοινωνικά οφέλη είναι αμφισβητήσιμα ή ανύπαρκτα.

4.14.

Επιπλέον, οι κίνδυνοι βλάβης της υγείας και της ασφάλειας και παραβίασης των θεμελιωδών δικαιωμάτων δεν μπορούν απαραιτήτως να μετριαστούν με τη συμμόρφωση στις 5 απαιτήσεις για την ΤΝ υψηλού κινδύνου, ιδίως όσον αφορά τα λιγότερο αναφερόμενα θεμελιώδη δικαιώματα που θα μπορούσαν να επηρεαστούν από την τεχνητή νοημοσύνη, όπως, μεταξύ άλλων, το δικαίωμα στην ανθρώπινη αξιοπρέπεια, το τεκμήριο αθωότητας, το δικαίωμα σε δίκαιες και πρόσφορες συνθήκες εργασίας, η ελευθερία του συνεταιρίζεσθαι και του συνέρχεσθαι και το δικαίωμα στην απεργία.

4.15.

Η ΕΟΚΕ συνιστά ένθερμα να προστεθεί η διαχείριση και η λειτουργία της υποδομής τηλεπικοινωνιών και διαδικτύου στο σημείο 2 του παραρτήματος III. Η ΕΟΚΕ συνιστά επίσης την επέκταση του πεδίου εφαρμογής του παρόντος σημείου πέρα από τα κατασκευαστικά στοιχεία ασφάλειας της ΤΝ.

4.16.

Τα συστήματα ΤΝ για τον προσδιορισμό της πρόσβασης στην εκπαίδευση και την αξιολόγηση των σπουδαστών ενέχουν ορισμένους κινδύνους βλάβης στην υγεία και την ασφάλεια και παραβίασης των θεμελιωδών δικαιωμάτων των σπουδαστών. Τα διαδικτυακά εργαλεία προβολής, για παράδειγμα, για την υποτιθέμενη επισήμανση της «ύποπτης συμπεριφοράς» και των «ενδείξεων εξαπάτησης» κατά τη διάρκεια διαδικτυακών εξετάσεων, με τη χρήση κάθε είδους βιομετρικών στοιχείων και ιχνηλάτησης συμπεριφοράς, είναι πραγματικά επεμβατικά και στερούνται επιστημονικών στοιχείων.

4.17.

Η χρήση συστημάτων ΤΝ για την παρακολούθηση, τον εντοπισμό και την αξιολόγηση των εργαζομένων προκαλεί σοβαρές ανησυχίες όσον αφορά τα θεμελιώδη δικαιώματα των εργαζομένων σε δίκαιες και πρόσφορες συνθήκες εργασίας, στην ενημέρωση και τη διαβούλευση, καθώς και σε αιτιολογημένες απολύσεις. Η προσθήκη αυτών των συστημάτων ΤΝ στον κατάλογο υψηλού κινδύνου είναι πιθανό να προκαλέσει αντιπαραθέσεις με την εθνική εργατική νομοθεσία και τις συλλογικές συμβάσεις για (μη) δίκαιη απόλυση, υγιείς και ασφαλείς συνθήκες εργασίας και ενημέρωση των εργαζομένων. Η ΕΟΚΕ ζητεί να διασφαλιστεί η πλήρης συμμετοχή και ενημέρωση των εργαζομένων και των κοινωνικών εταίρων στη διαδικασία λήψης αποφάσεων σχετικά με τη χρήση της τεχνητής νοημοσύνης στον χώρο εργασίας, καθώς και σχετικά με την ανάπτυξη, τις δημόσιες συμβάσεις και την εγκατάστασή της.

4.18.

Η απαίτηση της «ανθρώπινης εποπτείας» είναι ιδιαίτερα σημαντική στις εργασιακές σχέσεις, διότι η εποπτεία θα ασκείται από έναν εργαζόμενο ή μια ομάδα εργαζομένων. Η ΕΟΚΕ τονίζει ότι οι εν λόγω εργαζόμενοι θα πρέπει να λάβουν κατάρτιση σχετικά με τον τρόπο εκτέλεσης αυτού του καθήκοντος. Επιπλέον, δεδομένου ότι οι εν λόγω εργαζόμενοι αναμένεται να έχουν τη δυνατότητα να αγνοήσουν το αποτέλεσμα του συστήματος ΤΝ ή ακόμη και να αποφασίσουν να μην το χρησιμοποιήσουν, θα πρέπει να ληφθούν μέτρα για να αποφευχθεί ο φόβος αρνητικών συνεπειών (όπως υποβιβασμός ή απόλυση) σε περίπτωση που ληφθεί μια τέτοια απόφαση.

4.19.

Η χρήση των συστημάτων ΤΝ σε σχέση με την πρόσβαση και την απόλαυση δημόσιων υπηρεσιών είναι ευρύτερη από τη χρήση των συστημάτων ΤΝ σε σχέση με την πρόσβαση και την απόλαυση βασικών ιδιωτικών υπηρεσιών, όπου, για την τελευταία, μόνο η πιστωτική βαθμολογία (φερεγγυότητα) από την ΤΝ θεωρείται υψηλού κινδύνου. Η ΕΟΚΕ συνιστά τη διεύρυνση του πεδίου εφαρμογής του σημείου 5 στοιχείο β) του παραρτήματος III στα συστήματα ΤΝ που αποσκοπούν στην αξιολόγηση της επιλεξιμότητας για βασικές ιδιωτικές υπηρεσίες.

4.20.

Η ΤΝ που χρησιμοποιείται από τις αρχές επιβολής του νόμου και στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων για τη διενέργεια ατομικών (ποινικών ή σχετικών με την ασφάλεια) εκτιμήσεων κινδύνου ενέχει κίνδυνο παραβίασης του τεκμηρίου αθωότητας, του δικαιώματος υπεράσπισης και του δικαιώματος ασύλου του Χάρτη της ΕΕ. Τα συστήματα ΤΝ, γενικά, απλώς επιδιώκουν συσχετίσεις που βασίζονται σε χαρακτηριστικά που εντοπίζονται σε άλλες «περιπτώσεις». Η υποψία σε αυτές τις περιπτώσεις δεν βασίζεται σε πραγματική υποψία εγκληματικής πράξης ή πλημμελήματος από το συγκεκριμένο πρόσωπο, αλλά απλώς σε χαρακτηριστικά που το εν λόγω πρόσωπο επιχειρεί να μοιραστεί με καταδικασθέντες εγκληματίες (όπως διεύθυνση, εισόδημα, ιθαγένεια, χρέη, απασχόληση, συμπεριφορά, συμπεριφορά φίλων και μελών της οικογένειας κ.ο.κ.).

4.21.

Η χρήση της ΤΝ στην απονομή της δικαιοσύνης και στις δημοκρατικές διαδικασίες είναι ιδιαίτερα ευαίσθητη και θα πρέπει να προσεγγιστεί με μεγαλύτερη διαφοροποίηση και έλεγχο από ό, τι συμβαίνει σήμερα. Η απλή χρήση συστημάτων για την παροχή συνδρομής σε δικαστική αρχή κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου, καθώς και κατά την εφαρμογή του νόμου σε ένα συγκεκριμένο σύνολο πραγματικών περιστατικών, παραβλέπει το γεγονός ότι η κρίση είναι πολύ πιο σημαντική από την εξεύρεση μοντέλων σε ιστορικά δεδομένα (το οποίο είναι ουσιαστικά αυτό που κάνουν τα σημερινά συστήματα ΤΝ). Το κείμενο προϋποθέτει επίσης ότι αυτοί οι τύποι ΤΝ θα συνδράμουν απλώς τη δικαιοσύνη, αφήνοντας παράλληλα εκτός πεδίου την πλήρως αυτοματοποιημένη διαδικασία λήψης δικαστικών αποφάσεων. Η ΕΟΚΕ εκφράζει επίσης τη λύπη της για τα συστήματα ή τις χρήσεις ΤΝ στο πλαίσιο δημοκρατικών διαδικασιών, όπως οι εκλογές.

4.22.

Η ΕΟΚΕ συνιστά να προστεθεί διάταξη που να προβλέπει την κατάσταση κατά την οποία είναι προφανές ή καθίσταται σαφές κατά την προηγούμενη αξιολόγηση της συμμόρφωσης ότι οι 6 απαιτήσεις δεν θα μετριάσουν επαρκώς τον κίνδυνο βλάβης στην υγεία και την ασφάλεια και παραβίασης των ανθρωπίνων δικαιωμάτων (για παράδειγμα, με την τροποποίηση του άρθρου 16 στοιχείο ζ) της πράξης για την τεχνητή νοημοσύνη.

Διακυβέρνηση και εκτελεστότητα

4.23.

Η ΕΟΚΕ εκφράζει την ικανοποίησή της για τη δομή διακυβέρνησης που θέσπισε η πράξη για την τεχνητή νοημοσύνη. Συνιστά στο διοικητικό συμβούλιο για την ΤΝ να πραγματοποιεί τακτικές υποχρεωτικές ανταλλαγές απόψεων με την ευρύτερη κοινωνία, συμπεριλαμβανομένων των κοινωνικών εταίρων και των ΜΚΟ.

4.24.

Η ΕΟΚΕ συνιστά ένθερμα τη διεύρυνση του πεδίου εφαρμογής της πράξης για την τεχνητή νοημοσύνη, έτσι ώστε να συμπεριληφθούν τα «κληροδοτημένα συστήματα ΤΝ», δηλαδή τα συστήματα που ήδη χρησιμοποιούνται ή έχουν αναπτυχθεί πριν από την έναρξη ισχύος της πράξης για την τεχνητή νοημοσύνη, προκειμένου να αποφευχθεί η ταχεία παρακολούθηση από τους φορείς χρήσης κάθε απαγορευμένης ΤΝ και κάθε ΤΝ υψηλού ή μέσου κινδύνου, προς αποφυγή των απαιτήσεων συμμόρφωσης. Επιπλέον, η ΕΟΚΕ συνιστά θερμά να μην εξαιρεθεί η ΤΝ που αποτελεί συνιστώσα των ευρείας κλίμακας συστημάτων ΤΠ στον χώρο ελευθερίας, ασφάλειας και δικαιοσύνης, όπως απαριθμούνται στο παράρτημα IX, από το πεδίο εφαρμογής της πράξης για την τεχνητή νοημοσύνη.

4.25.

Η πολυπλοκότητα των απαιτήσεων και των δραστηριοτήτων λογοδοσίας, καθώς και η αυτοαξιολόγηση, ενέχουν τον κίνδυνο να απλουστευθεί αυτή η διαδικασία σε καταλόγους ελέγχου όπου ένα απλό «ναι» ή «όχι» θα μπορούσε να επαρκεί για την εκπλήρωση των απαιτήσεων. Η ΕΟΚΕ συνιστά να καταστούν υποχρεωτικές οι αξιολογήσεις τρίτων για κάθε ΤΝ υψηλού κινδύνου.

4.26.

Η ΕΟΚΕ συνιστά την εφαρμογή κατάλληλων (οικονομικών) μέτρων στήριξης και απλών και προσβάσιμων εργαλείων για τις πολύ μικρές και τις μικρές οργανώσεις, καθώς και για τις οργανώσεις της κοινωνίας των πολιτών, ώστε να είναι σε θέση, αφενός, να κατανοήσουν τον σκοπό και το νόημα της πράξης για την τεχνητή νοημοσύνη και, αφετέρου, να είναι σε θέση να ανταποκριθούν στις απαιτήσεις της. Τα μέτρα αυτά θα πρέπει να υπερβαίνουν τη στήριξη των κόμβων ψηφιακής καινοτομίας και να συνίστανται στη διευκόλυνση της πρόσβασης σε υψηλού επιπέδου εμπειρογνωμοσύνη σχετικά με την πράξη για την τεχνητή νοημοσύνη, τις απαιτήσεις της, τις υποχρεώσεις της και ιδίως το σκεπτικό στο οποίο βασίζονται.

4.27.

Η ΕΟΚΕ συνιστά τη θέσπιση μηχανισμού καταγγελιών και προσφυγών για τους οργανισμούς και τους πολίτες που έχουν υποστεί ζημία από οποιοδήποτε σύστημα, πρακτική ή χρήση της ΤΝ που εμπίπτουν στο πεδίο εφαρμογής της πράξης για την τεχνητή νοημοσύνη.

Βρυξέλλες, 22 Σεπτεμβρίου 2021.

Η Πρόεδρος της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής

Christa SCHWENG

Top

All

Choose the experimental features you want to try