Γνωμοδότηση της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής με θέμα «Ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Ευρωπαϊκό Συμβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών — Τεχνητή νοημοσύνη για την Ευρώπη»

[COM(2018) 237 final]

(2018/C 440/08)

Εισηγητής:	ο κ. Giuseppe GUERINI
Συνεισηγητής:	ο κ. Gonçalo LOBO XAVIER

Αίτηση γνωμοδότησης	Ευρωπαϊκή Επιτροπή, 12.7.2018
Νομική βάση	Άρθρο 304 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης
Αρμόδιο τμήμα	Ενιαία αγορά, παραγωγή και κατανάλωση
Υιοθετήθηκε από το τμήμα	4.9.2018
Υιοθετήθηκε από την ολομέλεια	19.9.2018
Σύνοδος ολομέλειας αριθ.	537
Αποτέλεσμα της ψηφοφορίας (υπέρ/κατά/αποχές)	199/1/2

1.   Συμπεράσματα και συστάσεις

1.1.

Η ΕΟΚΕ πιστεύει ότι οι διαδικασίες τεχνητής νοημοσύνης και αυτοματοποίησης προσφέρουν τεράστιες δυνατότητες προόδου της ευρωπαϊκής κοινωνίας όσον αφορά την καινοτομία και τον θετικό μετασχηματισμό της, συγχρόνως, όμως, συνοδεύονται από προκλήσεις, κινδύνους και ανησυχίες. Ως εκ τούτου, είναι σημαντικό τα ευρωπαϊκά θεσμικά όργανα να δρομολογήσουν ταχεία και συνολικά μέτρα για την πλήρη ανάπτυξη και ρύθμιση της τεχνητής νοημοσύνης.

1.2.

Μια προηγμένη προσέγγιση για την τεχνητή νοημοσύνη στην Ευρώπη πρέπει να καλύπτει διάφορους τομείς, μεταξύ των οποίων: α) τις δημόσιες και ιδιωτικές επενδύσεις στην έρευνα-ανάπτυξη και στις προηγμένες ψηφιακές υποδομές, β) την εφαρμογή νέων νομοθετικών κανόνων ή την προσαρμογή των ισχυόντων εφαρμοστέων, γ) την ανάπτυξη επαρκούς γνώσης και ευαισθητοποίησης των πολιτών και των καταναλωτών και δ) ειδικά προγράμματα επιμόρφωσης για τους εργαζομένους.

1.3.

Ειδικότερα, οι προκλήσεις σχετικά με την ευθύνη που προκύπτουν στο πλαίσιο των αναδυόμενων ψηφιακών τεχνολογιών πρέπει να εντοπίζονται συστηματικά και να αντιμετωπίζονται σε διεθνές και σε ενωσιακό επίπεδο, καθώς και σε επίπεδο κρατών μελών. Η ΕΟΚΕ επιθυμεί τη στενή συνεργασία με τα ευρωπαϊκά θεσμικά όργανα κατά τη διαδικασία της ανάλυσης και της αξιολόγησης του συνόλου της ενωσιακής νομοθεσίας σε θέματα ευθύνης, ασφάλειας των προϊόντων και αστικής ευθύνης, η οποία χρήζει κατάλληλων τροποποιήσεων.

1.4.

Η ΕΟΚΕ συμφωνεί με τον στόχο που θέτει η ανακοίνωση της Ευρωπαϊκής Επιτροπής, συγκεκριμένα, να ενισχυθεί η βιομηχανική και τεχνολογική ικανότητα της ΕΕ προκειμένου να διαδοθεί η τεχνητή νοημοσύνη σε ολόκληρη την εσωτερική αγορά. Η προσπάθεια που απαιτείται για να συμβαδίσουμε με άλλους παγκόσμιους παράγοντες είναι τόσο μεγάλη ώστε απαιτείται σε πολύ μεγάλο βαθμό συντονισμός μεταξύ όλων των μέσων και της χρηματοδότησης που διατίθενται σε ευρωπαϊκό και σε εθνικό επίπεδο. Μολαταύτα, οι αξίες και οι αρχές της ΕΕ δεν θα πρέπει να θυσιάζονται στο όνομα της παγκόσμιας ανταγωνιστικότητας.

1.5.

Σε ό,τι αφορά τον στόχο της Ευρωπαϊκής Επιτροπής «να καταστεί η τεχνητή νοημοσύνη προσιτή σε όλους τους δυνητικούς χρήστες, με έμφαση στις μικρές και μικρομεσαίες επιχειρήσεις», η ΕΟΚΕ θεωρεί ότι η αντιμετώπιση της πρόκλησης της παγκόσμιας ανταγωνιστικότητας απαιτεί να έχουν όσο το δυνατόν περισσότεροι συναρμόδιοι πρόσβαση στην τεχνητή νοημοσύνη. Συνεπώς, είναι ζωτικής σημασίας αυτή να είναι διαθέσιμη σε όλες τις διαφορετικές μορφές επιχειρήσεων που δραστηριοποιούνται στην ευρωπαϊκή ενιαία αγορά, μεταξύ άλλων στις ΜΜΕ, τους αγρότες, τις κοινωνικές επιχειρήσεις, τους συνεταιρισμούς, τις μεμονωμένες επιχειρήσεις και τις ενώσεις καταναλωτών.

1.6.

Η Ευρωπαϊκή Επιτροπή και τα κράτη μέλη θα πρέπει να συνεργαστούν για την ανάπτυξη κατευθυντήριων γραμμών σχετικά με τη δεοντολογία της τεχνητής νοημοσύνης και θα πρέπει να μεριμνήσουν για τη συμμετοχή όλων των συναρμοδίων του δημόσιου και του ιδιωτικού τομέα σε αυτήν την προσπάθεια. Αυτές οι κατευθυντήριες γραμμές θα πρέπει να περιλαμβάνουν τις βασικές αρχές της διαφάνειας στη χρήση των συστημάτων τεχνητής νοημοσύνης για την πρόσληψη των υπαλλήλων και για την αξιολόγηση ή τον έλεγχο των επιδόσεών τους. Πέρα από τις αρχές δεοντολογίας, η ΕΟΚΕ προτείνει να αναπτυχθεί ένα σαφές, εναρμονισμένο και υποχρεωτικό νομικό πλαίσιο σε ευρωπαϊκό επίπεδο για τη δέουσα ρύθμιση της τεχνητής νοημοσύνης και την επικαιροποίηση των υφιστάμενων κανόνων που επηρεάζονται από τα συστήματα τεχνητής νοημοσύνης, με ιδιαίτερη έμφαση στις διατάξεις για την ευθύνη του παραγωγού και την προστασία των καταναλωτών. Η ΕΟΚΕ επιθυμεί να συνεργαστεί στενά με τα θεσμικά όργανα της ΕΕ στην ανάλυση και την αξιολόγηση της συναφούς νομοθεσίας της ΕΕ, η οποία, στο μέλλον, θα πρέπει να τροποποιηθεί λόγω της ανάπτυξης της τεχνητής νοημοσύνης.

1.6.1.

Η Ευρωπαϊκή Επιτροπή θα πρέπει επίσης να προβεί σε προσεκτική αξιολόγηση της επίδρασης της τεχνητής νοημοσύνης στην αγορά εργασίας. Σε αυτήν την αξιολόγηση θα πρέπει να λαμβάνονται υπόψη τόσο η πιθανή αντικατάσταση ορισμένων εργαζομένων με ηλεκτρονικές συσκευές ή ρομπότ όσο και το γεγονός ότι ορισμένες λειτουργίες, ενώ δεν είναι πλήρως αυτοματοποιημένες, θα μεταβληθούν εκ βάθρων χάρη στις νέες τεχνολογίες.

1.7.

Για τον λόγο αυτό, η ΕΟΚΕ συνιστά να μην παραμείνει απλή πρόταση ή προτροπή η εκφρασθείσα επιθυμία «να μην μείνει κανείς πίσω», αλλά να μετουσιωθεί σε ουσιαστική πράξη.

1.8.

Είναι σημαντικό να αναδειχθεί ο ρόλος των εκπαιδευτικών προγραμμάτων επιμόρφωσης για την προστασία των Ευρωπαίων εργαζομένων που δραστηριοποιούνται σε ένα περιβάλλον το οποίο αλλάζει εκ βάθρων με τη σταδιακή ανάδυση της τεχνητής νοημοσύνης. Οι πολίτες της Ευρώπης θα πρέπει να έχουν πρόσβαση στις κατάλληλες πληροφορίες που θα τους επιτρέπουν να είναι υπεύθυνοι και ενημερωμένοι χρήστες των συσκευών και των εφαρμογών που καθίστανται διαθέσιμες χάρη στις ταχείες τεχνολογικές εξελίξεις.

1.9.

Στις περιπτώσεις που τα νέα μέτρα θα επιτρέπουν στις δημόσιες διοικήσεις να χρησιμοποιούν την τεχνολογία για τη λήψη οργανωτικών αποφάσεων και για την πραγματοποίηση ταχύτερων επιλογών, θα είναι απαραίτητο να αντιμετωπιστεί το ζήτημα της αποτελεσματικής νομικής ευθύνης τέτοιων αποφάσεων μέσα σε ένα σαφές νομικό πλαίσιο, το οποίο θα εγγυάται την πλήρη λογοδοσία της διοίκησης έναντι των πολιτών.

1.10.

Ιδιαίτερη προσοχή θα πρέπει να δοθεί στον ρόλο της κοινωνίας πολιτών και των οργανώσεων της κοινωνικής οικονομίας όσον αφορά την αύξηση της ενεργού συμμετοχής των πολιτών στις οικονομικές και τις κοινωνικές διαδικασίες οι οποίες, χάρη στην τεχνητή νοημοσύνη, θα αυξήσουν το επίπεδο συμμετοχής στην κοινωνία μας. Οι οργανώσεις της κοινωνίας πολιτών και οι κοινωνικές επιχειρήσεις μπορούν να συμβάλουν σημαντικά στην προώθηση της κατανόησης και της αποδοχής των τεχνολογιών από τους ιδιώτες, ιδίως μέσω συνεργατικών μηχανισμών που επιτρέπουν τη συμμετοχή των ανθρώπων στον σημερινό ψηφιακό μετασχηματισμό.

1.11.

Η συντελούμενη τεχνολογική επανάσταση δεν μπορεί και δεν πρέπει να υλοποιηθεί χωρίς την ουσιαστική και ενεργό ένταξη των εργαζομένων, των καταναλωτών και των κοινωνικών οργανώσεων, ενώ οι τρέχουσες τεχνολογικές εξελίξεις πρέπει να δρομολογηθούν κατά τέτοιο τρόπο ώστε να εξασφαλίζουν ευρύτερη και πιο διαφανή υπεύθυνη συμμετοχή πλήρως ενημερωμένων πολιτών. Αυτός είναι ο λόγος για τον οποίο η ΕΟΚΕ συνιστά στην Ευρωπαϊκή Επιτροπή, κατά τη συγκρότηση της Ευρωπαϊκής συμμαχίας για την τεχνητή νοημοσύνη, να συνεκτιμήσει την ανάγκη δημιουργίας μιας χωρίς αποκλεισμούς αντιπροσωπευτικής πλατφόρμας από πολλά επαγγέλματα για τους διάφορους συναρμοδίους που εκπροσωπούν τους Ευρωπαίους πολίτες, συμπεριλαμβανομένων των εκπροσώπων των εργαζομένων, οι οποίοι καλούνται να αλληλεπιδράσουν με τις ευφυείς μηχανές (1).

2.   Γενικές παρατηρήσεις

2.1.

Οι ψηφιακές συσκευές και οι μεγάλης κλίμακας μηχανές εκμάθησης αυξάνουν καθημερινά την ικανότητα των αλγορίθμων να εργάζονται με πολύ μεγάλο όγκο δεδομένων, αυτή δε η ικανότητα είναι πιθανό να ενισχυθεί περαιτέρω στο μέλλον χάρη στα νευρωνικά δίκτυα (τα οποία χρησιμοποιούνται ήδη, για παράδειγμα, από έξυπνα τηλέφωνα για την οπτική αναγνώριση αντικειμένων, προσώπων και εικόνων).

2.2.

Τέτοιου είδους εξελίξεις μετασχηματίζουν τον παραδοσιακό τρόπο μάθησης που χρησιμοποιούσαν μέχρι σήμερα οι μηχανές τεχνητής νοημοσύνης, καθότι δεν περιορίζονται πλέον στη μάθηση με την εξαγωγή κανόνων από τα δεδομένα, αλλά αναπτύσσουν επίσης μια ευέλικτη και προσαρμοστική ικανότητα εκμάθησης. Η διαδικασία αυτή θα αυξήσει την ικανότητα της τεχνητής νοημοσύνης να μαθαίνει και να ενεργεί στον πραγματικό κόσμο.

2.3.

Ενόψει της εξαιρετικά ταχείας τεχνολογικής αλλαγής που βρίσκεται σε εξέλιξη, είναι πλέον ζωτικής σημασίας η Ευρωπαϊκή Επιτροπή και τα κράτη μέλη να εργαστούν από κοινού για τη διεξαγωγή εμπεριστατωμένης εξέτασης των αναδυόμενων ζητημάτων που ανακύπτουν λόγω της ταχείας ανάπτυξης της τεχνητής νοημοσύνης και να μεριμνήσουν για τη συμμετοχή όλων των σχετικών δημόσιων και ιδιωτικών ενδιαφερόμενων φορέων στη διαδικασία χωρίς να υπονομεύονται οι ευκαιρίες για πρόοδο και τεχνολογική ανάπτυξη.

2.4.

Η ανακοίνωση COM(2018) 237 της Ευρωπαϊκής Επιτροπής αποσκοπεί στην ενίσχυση της βιομηχανικής και τεχνολογικής ικανότητας της ΕΕ και στην ενθάρρυνση της εξάπλωσης της τεχνητής νοημοσύνης σε ολόκληρη την ευρωπαϊκή οικονομία, τόσο στον ιδιωτικό τομέα όσο και στη δημόσια διοίκηση. Όπως έχει ήδη αναφερθεί σε προηγούμενη γνωμοδότηση πρωτοβουλίας (2), η ΕΟΚΕ υποστηρίζει την πρωτοβουλία της Ευρωπαϊκής Επιτροπής, η οποία ενσωματώνει ουσιαστικά στην ανακοίνωσή της πολλές από τις προηγούμενες συστάσεις της ΕΟΚΕ, προτρέπει, ωστόσο, την Ευρωπαϊκή Επιτροπή να ενεργήσει έγκαιρα και αποφασιστικά.

2.5.

Η υιοθέτηση μιας αποτελεσματικής ευρωπαϊκής προσέγγισης για την τεχνητή νοημοσύνη περιλαμβάνει την ενθάρρυνση σημαντικών επενδύσεων στην έρευνα και την καινοτομία, συμπεριλαμβανομένων των ψηφιακών υποδομών, οι οποίες είναι απαραίτητες για την προετοιμασία για τις μείζονες κοινωνικοοικονομικές προκλήσεις που θα δημιουργήσει η πρόοδος των νέων τεχνολογιών για την ευρωπαϊκή κοινωνία και τις αγορές τα επόμενα χρόνια.

2.6.

Η Ευρωπαϊκή Επιτροπή και τα κράτη μέλη θα πρέπει να συνεργαστούν για τη διαμόρφωση ορισμένων κατευθυντήριων γραμμών σχετικά με τη δεοντολογία της τεχνητής νοημοσύνης και θα πρέπει να μεριμνήσουν για τη συμμετοχή όλων των δημόσιων και ιδιωτικών συναρμοδίων στην εν λόγω διαδικασία.

2.7.

Ταυτόχρονα, πρέπει να εγκριθεί σε ευρωπαϊκό επίπεδο ένα εναρμονισμένο νομικό πλαίσιο σύμφωνα με τον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ και με βάση τις αρχές που κατοχυρώνονται στις Συνθήκες της ΕΕ. Το νέο κανονιστικό πλαίσιο θα πρέπει να περιέχει σαφείς κανόνες για την αντιμετώπιση των κινδύνων που συνεπάγεται η εκμάθηση των μηχανών, όπως, για παράδειγμα η έλλειψη διαφάνειας στην αγορά, η έλλειψη ανταγωνισμού, οι διακρίσεις, οι αθέμιτες εμπορικές πρακτικές, οι απειλές για την κυβερνοασφάλεια και την ασφάλεια των προϊόντων. Συγκεκριμένα, οι ρυθμιστικές εγγυήσεις θα πρέπει να είναι αυστηρές στις περιπτώσεις κατά τις οποίες τα δεδομένα που καθοδηγούν τα συστήματα τεχνητής νοημοσύνης ανακτώνται αυτόματα κατά τη χρήση των ηλεκτρονικών συσκευών και των ηλεκτρονικών υπολογιστών.

2.8.

Η ΕΟΚΕ σημειώνει ότι στο έγγραφο εργασίας των υπηρεσιών της Ευρωπαϊκής Επιτροπής SWD (2018) 137 final, που επισυνάπτεται στην ανακοίνωση της τελευταίας, αναλύεται δεόντως η επίδραση της τεχνητής νοημοσύνης στη νομοθεσία της ΕΕ και χαρτογραφούνται τα ζητήματα ευθύνης που ανακύπτουν λόγω των αναδυόμενων ψηφιακών τεχνολογιών.

2.9.

Επιπλέον, θα απαιτηθούν ολοκληρωμένα σχέδια δράσης με σκοπό α) την υποστήριξη του εκσυγχρονισμού των συστημάτων εκπαίδευσης και κατάρτισης με την ανάδειξη των νέων δεξιοτήτων που απαιτούνται από την αγορά εργασίας του μέλλοντος και β) τη διασφάλιση υψηλού επιπέδου προστασίας των πολιτών και των εργαζομένων ενόψει των αναμενόμενων προκλήσεων (3).

2.10.

Η ΕΟΚΕ ενθαρρύνει την Ευρωπαϊκή Επιτροπή να προβεί γρήγορα σε περαιτέρω ενέργειες τόσο όσον αφορά τη ρύθμιση όσο και την ενθάρρυνση των επενδύσεων: ο σημερινός ταχύς ρυθμός αλλαγών απαιτεί γρήγορους ρυθμούς προσαρμογής.

3.   Η πρόταση της Ευρωπαϊκής Επιτροπής: ευρωπαϊκή στήριξη και επενδύσεις στην τεχνητή νοημοσύνη

3.1.

Η Ευρωπαϊκή Επιτροπή δηλώνει στην ανακοίνωσή της ότι θα υποστηρίξει τη διάδοση της τεχνητής νοημοσύνης τόσο σε ό,τι αφορά τις βασικές ερευνητικές εφαρμογές όσο και τις βιομηχανικές εφαρμογές. Από την άποψη αυτή, η ΕΟΚΕ τονίζει τη σημασία της συμμετοχής όλων των κατηγοριών παραγόντων σε μια τέτοια διαδικασία, συμπεριλαμβανομένων των ΜΜΕ, των παρόχων υπηρεσιών, των κοινωνικών επιχειρήσεων, των γεωργών, των συνεταιρισμών, των ενώσεων καταναλωτών και των ενώσεων που εκπροσωπούν τους ηλικιωμένους.

3.2.

Σε ό,τι αφορά τον στόχο της Ευρωπαϊκής Επιτροπής «να καταστεί η τεχνητή νοημοσύνη προσιτή σε όλους τους δυνητικούς χρήστες, με έμφαση στις μικρές και μικρομεσαίες επιχειρήσεις», η ΕΟΚΕ θεωρεί ότι η αντιμετώπιση της πρόκλησης της παγκόσμιας ανταγωνιστικότητας προϋποθέτει όσο το δυνατόν περισσότερες οντότητες να έχουν πρόσβαση στα της τεχνητής νοημοσύνης. Εκτός από τα όσα έχει ήδη προγραμματίσει η Ευρωπαϊκή Επιτροπή για την ανάπτυξη «πλατφόρμας τεχνητής νοημοσύνης κατά παραγγελία», είναι επίσης σημαντικό να δημιουργηθούν οι κατάλληλες μορφές συμμετοχής και διαβούλευσης με τους διάφορους συναρμοδίους, συμπεριλαμβανομένων των μικρών και μεσαίων επιχειρήσεων, των δικτύων κοινωνικής οικονομίας και των οργανώσεων της κοινωνίας πολιτών (με τις τελευταίες να διαδραματίζουν καίριο ρόλο στην ενθάρρυνση της συμμετοχής των Ευρωπαίων πολιτών κατά τρόπο ενημερωμένο και ενεργό).

3.3.

Η Ευρωπαϊκή Επιτροπή ανακοίνωσε ότι θα υποστηρίξει την καινοτομία που βασίζεται στην τεχνητή νοημοσύνη μέσω πιλοτικού σχεδίου που έχει καταρτιστεί από το Ευρωπαϊκό Συμβούλιο Καινοτομίας, το οποίο διαθέτει προϋπολογισμό ύψους 2,7 δισεκατ. ευρώ για την περίοδο 2018-2020.

3.4.

Η ΕΟΚΕ πιστεύει ότι η πρωτοβουλία αυτή μπορεί να είναι χρήσιμη για την ανάπτυξη της τεχνητής νοημοσύνης, τονίζει όμως συγχρόνως, ότι η χρηματοδότηση της έρευνας πρέπει να μεταβαίνει γρήγορα από τη φάση του πειραματισμού στο διαρθρωτικό στάδιο. Είναι επίσης σημαντικό η Ευρωπαϊκή Επιτροπή να ενθαρρύνει τα διάφορα ερευνητικά κέντρα τα οποία εδρεύουν επί του παρόντος σε όλα τα κράτη μέλη προκειμένου να αναπτυχθεί ένα δίκτυο συνεργασίας σε ευρωπαϊκό επίπεδο που θα είναι αφιερωμένο στην τεχνητή νοημοσύνη.

3.5.

Η ΕΟΚΕ επισημαίνει ότι η Ευρωπαϊκή Επιτροπή προτίθεται να αυξήσει τις επενδύσεις στην τεχνητή νοημοσύνη στο πλαίσιο του προγράμματος «Ορίζοντας 2020» σε περίπου 1,5 δισεκατ. ευρώ έως τα τέλη του 2020. Εάν εγκριθεί γρήγορα στο πλαίσιο των τρεχουσών συμπράξεων δημόσιου και ιδιωτικού τομέα, η προσέγγιση αυτή θα μπορούσε να οδηγήσει σε περαιτέρω επενδύσεις ύψους 2,5 δισεκατ. ευρώ εντός δύο ετών. Η ίδια προσέγγιση πρέπει να υιοθετηθεί και στο μελλοντικό πρόγραμμα-πλαίσιο «Ορίζοντας Ευρώπη».

3.6.

Από μια διαφορετική οπτική γωνία, είναι καλό σημάδι το γεγονός ότι η Ευρωπαϊκή Επιτροπή και το Ευρωπαϊκό Ταμείο Στρατηγικών Επενδύσεων, που πρέπει να διαδραματίζουν κεντρικό καθοδηγητικό ρόλο στην υποστήριξη της ανάπτυξης της τεχνητής νοημοσύνης στην ΕΕ, έχουν δρομολογήσει το πρόγραμμα VentureEU, ένα πρόγραμμα εταιρειών επιχειρηματικού κεφαλαίου ύψους 2,1 δισεκατ. ευρώ για την τόνωση των επενδύσεων σε καινοτόμες επιχειρήσεις σε όλη την Ευρώπη.

3.7.

Ωστόσο, η προσπάθεια που απαιτείται για να συμβαδίσουμε με άλλους παγκόσμιους παράγοντες είναι τόσο μεγάλη ώστε απαιτείται σε πολύ μεγάλο βαθμό συντονισμός και συνέργεια μεταξύ όλων των μέσων και της χρηματοδότησης που διατίθενται σε ευρωπαϊκό και σε εθνικό επίπεδο. Είναι σαφές ότι ο ανταγωνισμός με την Κίνα και τις ΗΠΑ στον τομέα της τεχνητής νοημοσύνης απαιτεί τη συγκέντρωση των δυνάμεων όλων των δημόσιων και ιδιωτικών φορέων που δραστηριοποιούνται σε ευρωπαϊκό επίπεδο, ώστε να διασφαλιστεί ότι η ΕΕ διαδραματίζει ηγετικό ρόλο σε παγκόσμια κλίμακα.

3.8.

Για να επιδιώξουμε αποδοτικά έναν ανταγωνιστικό ρόλο για την ΕΕ σε σχέση με την τεχνητή νοημοσύνη, θα είναι επίσης σημαντικό να πραγματοποιηθούν επαρκείς επενδύσεις σε κατάλληλο λογισμικό και υλισμικό πληροφορικής, καθώς και σε ψηφιακές υποδομές, ικανές να εγγυηθούν έναν αξιόπιστο ρόλο για την ΕΕ από την άποψη αυτή.

3.9.

Στις επενδύσεις στον τομέα της τεχνητής νοημοσύνης θα πρέπει να συνεκτιμάται το γεγονός ότι οι ευρωπαϊκές εταιρείες κατέχουν ιδιαίτερα ισχυρή θέση στους τομείς της αυτοματοποίησης και της ρομποτικής. Ως εκ τούτου, αυτοί οι τομείς, οι οποίοι αποτελούν τμήμα της τεχνητής νοημοσύνης κατά μια ευρύτερη έννοια, θα μπορούσαν να αποδειχθούν καθοριστικής σημασίας για την εξασφάλιση σημαντικού παγκόσμιου ρόλου για την ΕΕ αναφορικά με την εν εξελίξει τεχνολογική ανάπτυξη και, επομένως, χρήζουν ιδιαίτερης προσοχής.

4.   Η τεχνητή νοημοσύνη και ο αντίκτυπός της στους πολίτες και στους εργαζομένους

4.1.

Είναι αναμφισβήτητο ότι η ανάπτυξη της τεχνητής νοημοσύνης εξελίσσεται με πολύ ταχύ ρυθμό. Αυτός είναι ο λόγος για τον οποίο τα ευρωπαϊκά θεσμικά όργανα, όταν αξιολογούν τον αντίκτυπο κάθε ρυθμιστικού μέτρου σχετικού με την τεχνητή νοημοσύνη, θα πρέπει να ακολουθούν μια πολύπλευρη προσέγγιση με γνώμονα όχι μόνο τις διοικητικές, νομικές και οικονομικές πτυχές, αλλά και τους ανθρωπολογικούς, ψυχολογικούς, κοινωνιολογικούς και τεχνολογικούς προβληματισμούς.

4.2.

Για να υποστηρίξουμε αυτές τις καινοτομίες, αλλά πρωτίστως για να τις στρέψουμε προς μια κατεύθυνση στο επίκεντρο της οποίας θα παραμένουν οι άνθρωποι, είναι σημαντικό η Ευρωπαϊκή Ένωση να ενεργήσει ώστε να επιτύχει υψηλό βαθμό τεχνολογικής ανταγωνιστικότητας χωρίς να παραβλέπονται ουσιαστικές ηθικές, κοινωνικές και ανθρώπινες παράμετροι.

4.3.

Ως εκ τούτου, η ΕΟΚΕ θεωρεί ζωτικής σημασίας: α) η ιδιωτική ζωή και η υπεύθυνη επεξεργασία των δεδομένων των προσώπων να διέπονται από την κατάλληλη νομοθεσία, όπως με την ουσιαστική έναρξη ισχύος του νέου ΓΚΠΔ, ο οποίος, εάν κριθεί αναγκαίο, θα πρέπει να επικαιροποιείται διαρκώς προκειμένου να συμβαδίζει με την ανάπτυξη της τεχνητής νοημοσύνης, β) να αξιολογούνται τα σημαντικά στοιχεία της ισχύουσας νομοθεσίας της ΕΕ και, εάν χρειάζεται, να προσαρμόζονται στα νέα σενάρια που δημιουργεί η τεχνητή νοημοσύνη και γ) να οικοδομηθούν οι ικανότητες και οι δεξιότητες που χρειάζονται οι άνθρωποι, οι διοικήσεις και οι επιχειρήσεις της Ευρώπης ώστε να επωφελούνται αποτελεσματικά από τα πλεονεκτήματα που προσφέρει η τεχνητή νοημοσύνη.

4.4.

Ως αφετηρία για την ανάλυση που πρόκειται να πραγματοποιηθεί, κρίνεται σκόπιμο να σημειωθεί ότι η τεχνητή νοημοσύνη βασίζεται στη χρήση και την επεξεργασία μεγάλων ποσοτήτων δεδομένων, τα οποία αποτελούν τη βάση κάθε εφαρμογής που στηρίζεται στις νέες τεχνολογίες. Λαμβανομένης υπόψη αυτής της παραμέτρου, η κύρια πρόκληση για την ευρωπαϊκή ρυθμιστική αρχή είναι η θέσπιση διαφανούς και ρυθμιζόμενης πρόσβασης στα δεδομένα των τελικών χρηστών.

4.5.

Όσο καλύτερη είναι η ποιότητα των υπό επεξεργασία δεδομένων, τόσο καλύτερη είναι η ακρίβεια και η απόδοση των συστημάτων τεχνητής νοημοσύνης. Ωστόσο, δεν πρέπει να λησμονείται το γεγονός ότι τα δεδομένα που αφορούν ιδιώτες πρέπει να αποκτώνται νόμιμα και να χρησιμοποιούνται με τρόπους που είναι γνωστοί στους άμεσα ενδιαφερόμενους, προκειμένου να διασφαλίζεται η χρήση των προσωπικών δεδομένων για προκαθορισμένους και σαφείς σκοπούς για τους οποίους ο χρήστης έχει προηγουμένως δώσει δεόντως και εν πλήρει επιγνώσει τη συγκατάθεσή του.

4.6.

Αξίζει να σημειωθεί ότι, για την προστασία των τελικών καταναλωτών, ενδέχεται να χρειαστεί να αλλάξουν και να προσαρμοστούν καταλλήλως στα νέα ενδεχόμενα που προκύπτουν από την πιο εκτεταμένη και αναλυτική χρήση της τεχνητής νοημοσύνης διάφορα σημαντικά τμήματα της ευρωπαϊκής νομοθεσίας —παραδείγματος χάρη, όσα αφορούν τη διαδικτυακή διαφήμιση, τις αθέμιτες εμπορικές πρακτικές, την ασφάλεια και την ευθύνη των προϊόντων, τα δικαιώματα των καταναλωτών, τις καταχρηστικές συμβατικές ρήτρες, τις πωλήσεις και τις εγγυήσεις, τις ασφάλειες και την αναγραφή των τιμών.

4.7.

Το καθοριστικό ζήτημα της ασφάλειας των προϊόντων και της ευθύνης γι’ αυτά έχει ληφθεί δεόντως υπόψη από την Ευρωπαϊκή Επιτροπή στο έγγραφο εργασίας της SWD (2018) 137 final, στο οποίο αναλύονται περιπτωσιολογικές μελέτες και παρουσιάζεται ένας κατάλογος με νομοθετικές πράξεις της ΕΕ που χρήζουν περαιτέρω ανάλυσης και αξιολόγησης. Η ΕΟΚΕ ενθαρρύνει πλήρως την Ευρωπαϊκή Επιτροπή να συνεχίσει αυτό το έργο και είναι πρόθυμη να προσφέρει τη συμβολή της στην προσπάθεια αυτή.

4.8.

Είναι σημαντικό να υπογραμμιστεί ο ρόλος της πολιτισμικής, εκπαιδευτικής και πανεπιστημιακής κατάρτισης, αφενός, και της επαρκούς πληροφόρησης του ευρύτερου κοινού, αφετέρου, για την κατοχύρωση των δικαιωμάτων των πολιτών της Ευρώπης ενόψει της προόδου της τεχνητής νοημοσύνης. Ειδικότερα, είναι σημαντικό να διασφαλιστεί η διαφάνεια και η ορθότητα της διαχείρισης των αλγορίθμων της τεχνητής νοημοσύνης και των βάσεων δεδομένων που χρησιμοποιούν για τη λειτουργία τους.

4.9.

Ως εκ τούτου, ένα ζητούμενο ζωτικής σημασίας είναι οι πολίτες της Ευρώπης να λαμβάνουν επαρκή κατάρτιση, καθώς και απλές και κατανοητές πληροφορίες, οι οποίες θα τους επιτρέπουν να είναι υπεύθυνοι και ενημερωμένοι χρήστες των συσκευών και των εφαρμογών που διατίθενται χάρη στην ταχεία τεχνολογική εξέλιξη, η οποία συντελείται αυτή τη στιγμή και καθίσταται ολοένα και περισσότερο διαδεδομένη.

4.10.

Υπό το πρίσμα όλων αυτών των αιτημάτων, η ΕΕ και τα κράτη μέλη πρέπει να προσφέρουν σαφείς και αποτελεσματικές λύσεις, προωθώντας, συγκεκριμένα, ένα σύγχρονο εκπαιδευτικό σύστημα και διευρύνοντας συνεχώς τη διά βίου κατάρτιση στην αγορά εργασίας και στην κοινωνία πολιτών.

4.11.

Η Ευρωπαϊκή Επιτροπή θα πρέπει να προβεί σε προσεκτική αξιολόγηση των επιπτώσεων της τεχνητής νοημοσύνης στην αγορά εργασίας. Πρόκειται για μια σημαντική ανησυχία πολλών Ευρωπαίων εργαζομένων που έχουν μεν προχωρήσει στη σταδιοδρομία τους, απέχουν, όμως, πολύ ακόμη από την ηλικία συνταξιοδότησης και παρατηρούν τις αλλαγές που λαμβάνουν χώρα με δυσπιστία και φόβο. Η εξέταση θα πρέπει να λαμβάνει υπόψη τόσο την πιθανή αντικατάσταση ορισμένων εργαζομένων με ηλεκτρονικές συσκευές ή ρομπότ όσο και το γεγονός ότι ορισμένες λειτουργίες, ενώ δεν είναι πλήρως αυτοματοποιημένες, θα αλλάξουν εκ βάθρων χάρη στις νέες τεχνολογίες. Ως εκ τούτου, αυτή η εξέταση και αξιολόγηση θα πρέπει να εστιάζονται όχι μόνο στις αναπόφευκτες και αναμενόμενες αλλαγές στις γραμμές παραγωγής, αλλά και στην επανεξέταση των οργανωτικών διαδικασιών και των επιχειρηματικών στόχων, κατόπιν εμπεριστατωμένου κοινωνικού διαλόγου με τους εργαζομένους.

4.12.

Σε ορισμένες περιπτώσεις, όπως συμβαίνει και έχει συμβεί με πολλές άλλες τεχνολογίες, θα ήταν σκόπιμο η τεχνητή νοημοσύνη να δοκιμαστεί σταδιακά και σε διαδοχικούς βαθμούς προσαρμογής πριν από την πλήρη χρήση της, ώστε οι συμμετέχοντες να μπορούν να αισθάνονται ασφαλείς με τις νέες τεχνολογίες —μεταξύ άλλων μέσω κατάλληλων επιμορφωτικών κύκλων— και να διορθωθούν τυχόν σφάλματα προσαρμογής κατά τη διάρκεια της διαδικασίας (4).

4.13.

Η εισαγωγή νέων τεχνολογιών στις επιχειρήσεις προϋποθέτει την ανάπτυξη κοινωνικού διαλόγου μεταξύ των διαφόρων συμμετεχόντων εταίρων. Στο πλαίσιο αυτό, κρίνονται σκόπιμες η διαρκής ενημέρωση και η συμμετοχή των οργανώσεων εργαζομένων και των συνδικαλιστικών οργανώσεων στις διαβουλεύσεις.

5.   Τεχνητή νοημοσύνη, δημόσια διοίκηση και κοινωνία πολιτών

5.1.

Η τεχνητή νοημοσύνη είναι μια τεχνολογική και κοινωνική καινοτομία ικανή να μετασχηματίσει ριζικά ολόκληρη την κοινωνία και να μεταβάλει προς το καλύτερο τον δημόσιο τομέα και τη σχέση μεταξύ των πολιτών και της δημόσιας διοίκησης. Οι ευκαιρίες που προσφέρει η τεχνητή νοημοσύνη θα μπορούσαν να αυξήσουν τόσο την αποτελεσματικότητα της δημόσιας διοίκησης καθώς και την ικανοποίηση των πολιτών από τις υπηρεσίες και την αποτελεσματική λειτουργία της.

5.2.

Για να επιτευχθούν αυτοί οι στόχοι, είναι σημαντικό οι δημόσιοι υπάλληλοι να είναι επίσης προετοιμασμένοι να αντιμετωπίσουν τις αλλαγές και τις προσκλήσεις που θα επιφέρει η τεχνητή νοημοσύνη στην ευρωπαϊκή κοινωνία. Οι δημόσιοι εργοδότες και διευθυντικά στελέχη —όπως και οι εκπαιδευτικοί, οι εκπαιδευτές και το πανεπιστημιακό προσωπικό που αναφέρθηκε παραπάνω— πρέπει να είναι σε θέση να κατανοούν πλήρως το φαινόμενο της τεχνητής νοημοσύνης και να αποφασίζουν ποια νέα μέσα θα χρησιμοποιούν στις διοικητικές διαδικασίες.

5.3.

Η εισαγωγή της τεχνητής νοημοσύνης στον δημόσιο και τον ιδιωτικό τομέα απαιτεί τον σχεδιασμό διαδικασιών που προωθούν την κατανόηση και την αποδοχή των τεχνολογιών από τους χρήστες μέσω μηχανισμών συνεργασίας που επιτρέπουν στους πολίτες να συμβάλλουν, ει δυνατόν μέσω συμμετοχικών συστημάτων διοίκησης, στην ανάπτυξη τεχνολογιών που βασίζονται στην τεχνητή νοημοσύνη.

5.4.

Για να επιτευχθούν σημαντικά αποτελέσματα σε αυτό το μέτωπο, μπορεί να είναι χρήσιμο να αναπτυχθούν όλο και πιο αξιόπιστοι τρόποι συνεργασίας και εταιρικής σχέσης μεταξύ του δημόσιου και του ιδιωτικού τομέα, που αποσκοπούν στην αξιοποίηση των ευκαιριών, οι οποίες προκύπτουν από τις τεχνολογικές εφαρμογές, την τεχνητή νοημοσύνη και τη ρομποτική.

5.5.

Η πρόκληση για τις δημόσιες διοικήσεις παρουσιάζει ιδιαίτερες δυσκολίες όσον αφορά τη νομική πτυχή και τη νομιμότητα, καθώς πρέπει να επιτευχθεί η σωστή ισορροπία μεταξύ των δημοσίων συμφερόντων (μεταξύ άλλων της άσκησης δημόσιας εξουσίας) και των επιμέρους συμφερόντων (συγκεκριμένη έκφραση της ελευθερίας του ατόμου). Στο σημείο αυτό, για παράδειγμα, η χρήση της τεχνητής νοημοσύνης από τις δημόσιες διοικήσεις θα απαιτήσει την εναρμόνιση της αρχής της διαφάνειας και της δημοσίευσης των διοικητικών εγγράφων με την προστασία των προσωπικών δεδομένων και το δικαίωμα του ατόμου στην ιδιωτική ζωή, μέσα σε ένα σαφές και ρητό κανονιστικό πλαίσιο.

5.6.

Στις περιπτώσεις που τα νέα μέτρα επιτρέπουν στις δημόσιες διοικήσεις να χρησιμοποιούν την τεχνολογία για να λαμβάνουν οργανωτικές αποφάσεις και να πραγματοποιούν ταχύτερες επιλογές, όπως κατά την επιλογή αναδόχου σε μια πρόσκληση υποβολής προσφορών, τη διαχείριση ενός καταλόγου αναμονής για συγκεκριμένες υπηρεσίες ή για την πρόσληψη νέων υπαλλήλων σε μια δημόσια διοίκηση, θα είναι απαραίτητο να αντιμετωπιστεί το ζήτημα της αποτελεσματικής νομικής ευθύνης για τέτοιου είδους αποφάσεις μέσα σε ένα σαφές νομικό πλαίσιο που εγγυάται την πλήρη λογοδοσία της διοίκησης έναντι των πολιτών.

5.7.

Οι οργανώσεις της κοινωνίας πολιτών και οι κοινωνικές επιχειρήσεις καλούνται να διαδραματίσουν σημαντικό ρόλο στην προώθηση της κατανόησης και της αποδοχής των τεχνολογιών από τους ιδιώτες, ιδίως μέσω συνεργατικών μηχανισμών που επιτρέπουν τη συμμετοχή στις διαδικασίες ψηφιακού μετασχηματισμού. Σημαντική στο σημείο αυτό είναι η δυνατότητα δημιουργίας συμμετοχικών συστημάτων διοίκησης για τα μέσα αυτά, για παράδειγμα, με συνεταιριστική μορφή, ξεκινώντας από τις ψηφιακές πλατφόρμες οι οποίες χρησιμοποιούνται ήδη για τη διάρθρωση νέων μορφών οικονομικής σχέσης στη διαχείριση της εργασίας.

5.8.

Οι διοικητικές αρχές που είναι αρμόδιες για τους μηχανισμούς εποπτείας της αγοράς θα πρέπει να διαθέτουν την ειδημοσύνη και τις εξουσίες να προστατεύουν τον θεμιτό ανταγωνισμό, τα δικαιώματα των καταναλωτών, καθώς και την ασφάλεια και τα δικαιώματα των εργαζομένων. Δημόσια ή ανεξάρτητα όργανα θα πρέπει να ορίζονται υπεύθυνα για τους ελέγχους των αλγορίθμων. Ταυτόχρονα, οι επιχειρήσεις θα πρέπει να θεσπίσουν αποτελεσματικούς μηχανισμούς για τον έλεγχο της χρήσης των δεδομένων από την τεχνητή νοημοσύνη.

---

(1)  Βλ. την εγκριθείσα γνωμοδότηση της ΕΟΚΕ INT/845 με θέμα «Τεχνητή νοημοσύνη: πρόβλεψη του αντικτύπου της στην εργασία για τη διασφάλιση δίκαιης μετάβασης» (γνωμοδότηση πρωτοβουλίας), εισηγήτρια: Salis-Madinier (βλ. σελ. 1 της παρούσας Επίσημης Εφημερίδας).

(2)  INT/806 της 31ης Μαΐου 2017, «Η τεχνητή νοημοσύνη — Οι επιπτώσεις της τεχνητής νοημοσύνης στην (ψηφιακή) ενιαία αγορά, στην παραγωγή, στην κατανάλωση, στην απασχόληση και στην κοινωνία» (ΕΕ C 288 της 31.8.2017, σ. 1).

(3)  Η ΕΟΚΕ υιοθέτησε τη γνωμοδότηση SOC/578 — «Διαχείριση της μετάβασης σε έναν ψηφιοποιημένο κόσμο της εργασίας» (ΕΕ C 367 της 10.10.2018, σ. 15).

(4)  Βλ. την εγκριθείσα γνωμοδότηση της ΕΟΚΕ INT/845 με θέμα «Τεχνητή νοημοσύνη: πρόβλεψη του αντικτύπου της στην εργασία για τη διασφάλιση δίκαιης μετάβασης» (γνωμοδότηση πρωτοβουλίας), εισηγήτρια: Salis-Madinier (βλ. σελ. 1 της παρούσας Επίσημης Εφημερίδας).