ΕΥΡΩΠΑΪΚΗ ΕΠΙΤΡΟΠΗ

Βρυξέλλες, 19.2.2020

COM(2020) 64 final

ΕΚΘΕΣΗ ΤΗΣ ΕΠΙΤΡΟΠΗΣ ΠΡΟΣ ΤΟ ΕΥΡΩΠΑΪΚΟ ΚΟΙΝΟΒΟΥΛΙΟ, ΤΟ ΣΥΜΒΟΥΛΙΟ ΚΑΙ ΤΗΝ ΕΥΡΩΠΑΪΚΗ ΟΙΚΟΝΟΜΙΚΗ ΚΑΙ ΚΟΙΝΩΝΙΚΗ ΕΠΙΤΡΟΠΗ

Έκθεση σχετικά με τις επιπτώσεις της τεχνητής νοημοσύνης, του διαδικτύου των πραγμάτων και της ρομποτικής στην ασφάλεια και την ευθύνη

Έκθεση σχετικά με τις επιπτώσεις της τεχνητής νοημοσύνης, του διαδικτύου των πραγμάτων και της ρομποτικής στην ασφάλεια και την ευθύνη

1.Εισαγωγή

Η τεχνητή νοημοσύνη (AI) 1 , το διαδίκτυο των πραγμάτων (IoT) 2 και η ρομποτική θα δημιουργήσουν νέες ευκαιρίες και οφέλη για την κοινωνία μας. Η Επιτροπή έχει αναγνωρίσει τη σημασία και τις δυνατότητες των εν λόγω τεχνολογιών, καθώς και την ανάγκη για σημαντικές επενδύσεις στους εν λόγω τομείς 3 . Έχει δεσμευτεί να εξασφαλίσει για την Ευρώπη την παγκόσμια πρωτοκαθεδρία στον τομέα της τεχνητής νοημοσύνης, του διαδικτύου των πραγμάτων και της ρομποτικής. Για την επίτευξη αυτού του στόχου απαιτείται σαφές και προβλέψιμο νομικό πλαίσιο για την αντιμετώπιση των τεχνολογικών προκλήσεων.

1.1.Το υφιστάμενο πλαίσιο ασφάλειας και ευθύνης

Ο γενικός στόχος του νομικού πλαισίου ασφάλειας και ευθύνης είναι να διασφαλιστεί ότι όλα τα προϊόντα και οι υπηρεσίες, συμπεριλαμβανομένων εκείνων που ενσωματώνουν αναδυόμενες ψηφιακές τεχνολογίες, λειτουργούν με ασφάλεια, αξιοπιστία και συνέπεια και ότι τυχόν προκληθείσα ζημία αποκαθίσταται αποτελεσματικά. Τα υψηλά επίπεδα ασφάλειας για τα προϊόντα και τα συστήματα που ενσωματώνουν νέες ψηφιακές τεχνολογίες και οι εύρωστοι μηχανισμοί για την αποκατάσταση προκληθεισών ζημιών (δηλαδή το πλαίσιο ευθύνης) συμβάλλουν στην καλύτερη προστασία των καταναλωτών. Επίσης, δημιουργούν εμπιστοσύνη προς τις εν λόγω τεχνολογίες, γεγονός που αποτελεί προϋπόθεση για την υιοθέτησή τους από τη βιομηχανία και τους χρήστες. Με τον τρόπο αυτόν θα επιτευχθεί μόχλευση της ανταγωνιστικότητας της βιομηχανίας μας και προώθηση των στόχων της ΕΕ 4 . Ένα σαφές πλαίσιο ασφάλειας και ευθύνης είναι ιδιαίτερα σημαντικό όταν αναδύονται νέες τεχνολογίες, όπως η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική, με στόχο τη διασφάλιση τόσο της προστασίας των καταναλωτών όσο και της ασφάλειας δικαίου για τις επιχειρήσεις.

Η Ένωση διαθέτει εύρωστο και αξιόπιστο κανονιστικό πλαίσιο για την ασφάλεια και την ευθύνη λόγω ελαττωματικών προϊόντων, καθώς και εύρωστο σύνολο προτύπων ασφαλείας, τα οποία συμπληρώνονται από τις εθνικές, μη εναρμονισμένες νομοθεσίες περί ευθύνης. Τα πλαίσια αυτά διασφαλίζουν από κοινού την ευημερία των πολιτών μας στην ενιαία αγορά και ενθαρρύνουν την καινοτομία και την υιοθέτηση της τεχνολογίας. Ωστόσο, η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική μεταβάλλουν τα χαρακτηριστικά πολλών προϊόντων και υπηρεσιών.

Η Επιτροπή στην ανακοίνωσή της με τίτλο «Τεχνητή νοημοσύνη για την Ευρώπη» 5 , την οποία εξέδωσε στις 25 Απριλίου 2018, δήλωσε ότι θα υποβάλει έκθεση στην οποία θα αξιολογούνται οι επιπτώσεις των αναδυόμενων ψηφιακών τεχνολογιών στα υφιστάμενα πλαίσια ασφάλειας και ευθύνης. Η παρούσα έκθεση αποσκοπεί να εντοπίσει και να εξετάσει τις ευρύτερες επιπτώσεις και τα ενδεχόμενα κενά των πλαισίων ευθύνης και ασφάλειας ως προς την τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και τη ρομποτική. Οι προσανατολισμοί που παρέχονται με την παρούσα έκθεση που συνοδεύει τη Λευκή Βίβλο για την τεχνητή νοημοσύνη τίθενται προς συζήτηση και αποτελούν μέρος της ευρύτερης διαβούλευσης με τα ενδιαφερόμενα μέρη. Το τμήμα για την ασφάλεια βασίζεται στην αξιολόγηση 6 της οδηγίας για τα μηχανήματα 7 και στις εργασίες με τις σχετικές ομάδες εμπειρογνωμόνων 8 . Το τμήμα για την ευθύνη βασίζεται στην αξιολόγηση 9 της οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων 10 , στη συμβολή των οικείων ομάδων εμπειρογνωμόνων 11 και στις επαφές με ενδιαφερόμενα μέρη. Η παρούσα έκθεση δεν έχει ως στόχο την παροχή εξαντλητικής επισκόπησης των υφιστάμενων κανόνων για την ασφάλεια και την ευθύνη, αλλά επικεντρώνεται στα βασικά ζητήματα που έχουν εντοπιστεί μέχρι στιγμής.

1.2.Χαρακτηριστικά των τεχνολογιών της τεχνητής νοημοσύνης, του διαδικτύου των πραγμάτων και της ρομποτικής

Η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική έχουν πολλά κοινά χαρακτηριστικά. Μπορούν να συνδυάζουν τη συνδεσιμότητα, την αυτονομία και την εξάρτηση από τα δεδομένα για την εκτέλεση καθηκόντων με ελάχιστο ή καθόλου ανθρώπινο έλεγχο ή εποπτεία. Τα εξοπλισμένα με τεχνητή νοημοσύνη συστήματα μπορούν επίσης να βελτιώνουν τις επιδόσεις τους αντλώντας διδάγματα από την εμπειρία. Ο σύνθετος χαρακτήρας τους αντικατοπτρίζεται τόσο στην πληθώρα των οικονομικών φορέων που εμπλέκονται στην αλυσίδα εφοδιασμού όσο και στην πολλαπλότητα συστατικών στοιχείων, μερών, λογισμικού, συστημάτων ή υπηρεσιών που συναπαρτίζουν τα νέα τεχνολογικά οικοσυστήματα. Στα χαρακτηριστικά τους προστίθεται η δεκτικότητά τους στις ενημερώσεις και τις αναβαθμίσεις μετά τη διάθεσή τους στην αγορά. Οι τεράστιοι όγκοι χρησιμοποιούμενων δεδομένων, η εξάρτηση από αλγορίθμους και η αδιαφάνεια της λήψης αποφάσεων της τεχνητής νοημοσύνης καθιστούν δυσχερέστερη την πρόβλεψη της συμπεριφοράς των προϊόντων που διαθέτουν δυνατότητες τεχνητής νοημοσύνης και την κατανόηση των πιθανών αιτίων τυχόν ζημίας. Τέλος, η συνδεσιμότητα και ο ανοικτός χαρακτήρας μπορούν επίσης να εκθέσουν τα προϊόντα τεχνητής νοημοσύνης και τα προϊόντα του διαδικτύου των πραγμάτων σε κυβερνοαπειλές.

1.3.Ευκαιρίες που δημιουργεί η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική

Η αύξηση της εμπιστοσύνης των χρηστών στις αναδυόμενες τεχνολογίες και της κοινωνικής αποδοχής τους, η βελτίωση των προϊόντων, των διαδικασιών και των επιχειρηματικών μοντέλων και η παροχή βοήθειας στους ευρωπαίους κατασκευαστές ώστε να καταστούν πιο αποδοτικοί είναι μερικές μόνο από τις ευκαιρίες που δημιουργεί η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική.

Η τεχνητή νοημοσύνη, πέρα από την αύξηση της παραγωγικότητας και της αποδοτικότητας, υπόσχεται επίσης να επιτρέψει στον άνθρωπο να αναπτύξει νοημοσύνη που δεν έχει ακόμη επιτευχθεί, ανοίγοντας την πόρτα σε νέες ανακαλύψεις και συμβάλλοντας στην επίλυση ορισμένων από τις μεγαλύτερες προκλήσεις στον κόσμο: από τη θεραπεία χρόνιων νοσημάτων, την πρόβλεψη επιδημικών εξάρσεων ή τη μείωση των ποσοστών θνησιμότητας από τροχαία ατυχήματα ως την καταπολέμηση της κλιματικής αλλαγής ή την πρόβλεψη απειλών για την κυβερνοασφάλεια.

Οι εν λόγω τεχνολογίες μπορούν να αποφέρουν πολλά οφέλη βελτιώνοντας την ασφάλεια των προϊόντων και καθιστώντας τα λιγότερο επιρρεπή σε ορισμένους κινδύνους. Για παράδειγμα, τα συνδεδεμένα και αυτοματοποιημένα οχήματα θα μπορούσαν να βελτιώσουν την οδική ασφάλεια, καθώς τα περισσότερα τροχαία ατυχήματα προκαλούνται επί του παρόντος από ανθρώπινα σφάλματα 12 . Επιπλέον, τα συστήματα διαδικτύου των πραγμάτων είναι σχεδιασμένα να λαμβάνουν και να επεξεργάζονται τεράστιο όγκο δεδομένων από διάφορες πηγές. Αυτό το αυξημένο επίπεδο πληροφοριών μπορεί να χρησιμοποιηθεί έτσι ώστε τα προϊόντα να μπορούν να αυτοπροσαρμόζονται και, κατά συνέπεια, να καθίστανται ασφαλέστερα. Οι νέες τεχνολογίες μπορούν να συμβάλουν στη βελτίωση της αποτελεσματικότητας των ανακλήσεων προϊόντων, καθώς, για παράδειγμα, τα προϊόντα θα μπορούσαν να προειδοποιούν τους χρήστες ώστε να αποφεύγουν προβλήματα ασφάλειας 13 . Εάν προκύψει ζήτημα ασφάλειας κατά τη χρήση συνδεδεμένου προϊόντος, οι παραγωγοί μπορούν να επικοινωνούν άμεσα με τους χρήστες, αφενός για να προειδοποιούν τους χρήστες σχετικά με τους κινδύνους και, αφετέρου, εάν είναι δυνατόν, για να επιλύουν απευθείας το πρόβλημα παρέχοντας, για παράδειγμα, ενημέρωση ασφάλειας. Για παράδειγμα, κατά την ανάκληση μίας από τις συσκευές του το 2017, ένας παραγωγός έξυπνων τηλεφώνων πραγματοποίησε ενημέρωση λογισμικού για να μειώσει στο μηδέν τη χωρητικότητα της μπαταρίας των ανακληθέντων τηλεφώνων 14 , έτσι ώστε οι χρήστες να σταματήσουν να χρησιμοποιούν τις επικίνδυνες συσκευές.

Επιπλέον, οι νέες τεχνολογίες μπορούν να συμβάλουν στη βελτίωση της ιχνηλασιμότητας των προϊόντων. Για παράδειγμα, τα χαρακτηριστικά συνδεσιμότητας του διαδικτύου των πραγμάτων μπορούν να δώσουν τη δυνατότητα στις επιχειρήσεις και στις αρχές εποπτείας της αγοράς να παρακολουθούν επικίνδυνα προϊόντα και να εντοπίζουν κινδύνους στις αλυσίδες εφοδιασμού 15 .

Παράλληλα με τις ευκαιρίες που μπορούν να προσφέρουν η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική στην οικονομία και τις κοινωνίες μας, μπορούν επίσης να δημιουργήσουν κίνδυνο πρόκλησης βλάβης σε έννομα αγαθά, τόσο υλικά όσο και ηθικά. Ο κίνδυνος πρόκλησης τέτοιας βλάβης θα αυξηθεί, καθώς διευρύνεται το πεδίο των εφαρμογών. Στο πλαίσιο αυτό, είναι σημαντικό να αναλυθεί κατά πόσον και σε ποιον βαθμό το ισχύον νομικό πλαίσιο ασφάλειας και ευθύνης εξακολουθεί να είναι κατάλληλο για την προστασία των χρηστών.

2.Ασφάλεια

Η Επιτροπή, στην ανακοίνωσή της με τίτλο «Οικοδόμηση εμπιστοσύνης στην ανθρωποκεντρική τεχνητή νοημοσύνη» αναφέρει ότι τα συστήματα ΤΝ θα πρέπει να περιλαμβάνουν ενσωματωμένους μηχανισμούς προστασίας και ασφάλειας ήδη από το στάδιο του σχεδιασμού, προκειμένου να βεβαιώνεται ότι είναι αποδεδειγμένα ασφαλή σε κάθε βήμα, θέτοντας ως προτεραιότητα τη σωματική και πνευματική ασφάλεια όλων των εμπλεκομένων 16 .

Στην αξιολόγηση της ενωσιακής νομοθεσίας για την ασφάλεια των προϊόντων στην παρούσα ενότητα αναλύεται κατά πόσον το ισχύον ενωσιακό νομοθετικό πλαίσιο περιλαμβάνει τα σχετικά στοιχεία ώστε να διασφαλίζεται ότι οι αναδυόμενες τεχνολογίες και, ιδίως, τα συστήματα τεχνητής νοημοσύνης ενσωματώνουν ασφάλεια προσώπων και ασφάλεια συστημάτων ήδη από το στάδιο του σχεδιασμού.

Η παρούσα έκθεση εξετάζει κυρίως την οδηγία για τη γενική ασφάλεια των προϊόντων 17 , καθώς και την εναρμονισμένη νομοθεσία για τα προϊόντα η οποία ακολουθεί τους οριζόντιους κανόνες της «νέας προσέγγισης» 18 και/ή του «νέου νομοθετικού πλαισίου» (στο εξής: ενωσιακή νομοθεσία ή πλαίσιο για την ασφάλεια των προϊόντων) 19 . Οι οριζόντιοι κανόνες διασφαλίζουν τη συνοχή μεταξύ των τομεακών κανόνων για την ασφάλεια των προϊόντων.

Η ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων έχει ως στόχο να διασφαλίσει ότι τα προϊόντα που διατίθενται στην αγορά της Ένωσης πληρούν υψηλές προδιαγραφές όσον αφορά την υγεία, την ασφάλεια και το περιβάλλον και ότι τα εν λόγω προϊόντα μπορούν να κυκλοφορούν ελεύθερα σε ολόκληρη την Ένωση. Η τομεακή νομοθεσία 20 συμπληρώνεται από την οδηγία για τη γενική ασφάλεια των προϊόντων 21 , η οποία απαιτεί όλα τα καταναλωτικά προϊόντα να είναι ασφαλή, ακόμη και αν δεν ρυθμίζονται από την τομεακή ενωσιακή νομοθεσία. Οι κανόνες ασφάλειας συμπληρώνονται από την εποπτεία της αγοράς και τις εξουσίες που ανατίθενται στις εθνικές αρχές στο πλαίσιο του κανονισμού για την εποπτεία της αγοράς 22 και της οδηγίας για τη γενική ασφάλεια των προϊόντων 23 . Στον τομέα των μεταφορών, υπάρχουν πρόσθετοι ενωσιακοί και εθνικοί κανόνες για τη θέση σε λειτουργία μηχανοκίνητων οχημάτων 24 , αεροσκαφών ή πλοίων, καθώς και σαφείς κανόνες που διέπουν την ασφάλεια κατά τη λειτουργία, συμπεριλαμβανομένων καθηκόντων για τους χειριστές και καθηκόντων εποπτείας για τις αρχές.

Η ευρωπαϊκή τυποποίηση αποτελεί επίσης ουσιαστικό στοιχείο της ενωσιακής νομοθεσίας για την ασφάλεια των προϊόντων. Δεδομένου του παγκόσμιου χαρακτήρα της ψηφιοποίησης και των αναδυόμενων ψηφιακών τεχνολογιών, η διεθνής συνεργασία στον τομέα της τυποποίησης έχει ιδιαίτερη σημασία για την ανταγωνιστικότητα της ευρωπαϊκής βιομηχανίας.

Μεγάλο μέρος του ενωσιακού πλαισίου για την ασφάλεια των προϊόντων συντάχθηκε πριν από την εμφάνιση ψηφιακών τεχνολογιών όπως η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων ή η ρομποτική. Ως εκ τούτου, δεν περιέχει πάντοτε διατάξεις που να περιλαμβάνουν ρητή πρόβλεψη για τις νέες προκλήσεις και τους κινδύνους των εν λόγω αναδυόμενων τεχνολογιών. Ωστόσο, παρόλο που το υφιστάμενο πλαίσιο για την ασφάλεια των προϊόντων είναι τεχνολογικά ουδέτερο, αυτό δεν σημαίνει ότι δεν θα εφαρμόζεται στα προϊόντα που ενσωματώνουν τις εν λόγω τεχνολογίες. Επιπλέον, μεταγενέστερες νομοθετικές πράξεις που αποτελούν μέρος του εν λόγω πλαισίου, όπως στους τομείς των ιατροτεχνολογικών προϊόντων ή των αυτοκινήτων, συνεκτιμούν ήδη ρητά ορισμένες πτυχές της ανάδυσης ψηφιακών τεχνολογιών, όπως τις αυτοματοποιημένες αποφάσεις, το λογισμικό ως ξεχωριστό προϊόν και τη συνδεσιμότητα.

Η λογική που διέπει την ισχύουσα ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων 25

Οι προκλήσεις που παρουσιάζουν οι αναδυόμενες ψηφιακές τεχνολογίες για το ενωσιακό πλαίσιο ασφάλειας των προϊόντων παρουσιάζονται στη συνέχεια.

Η συνδεσιμότητα αποτελεί βασικό χαρακτηριστικό του συνεχώς αυξανόμενου αριθμού προϊόντων και υπηρεσιών. Το χαρακτηριστικό αυτό θέτει υπό αμφισβήτηση την παραδοσιακή έννοια της ασφάλειας, καθώς η συνδεσιμότητα μπορεί να θέσει άμεσα σε κίνδυνο την ασφάλεια του προϊόντος και έμμεσα όταν αυτό μπορεί να παραβιαστεί με αποτέλεσμα να δημιουργούνται απειλές κατά της ασφάλειας και να επηρεάζεται η ασφάλεια των χρηστών.

Παράδειγμα αποτελεί μια ειδοποίηση του συστήματος έγκαιρης προειδοποίησης της ΕΕ από την Ισλανδία σχετικά με ένα έξυπνο ρολόι για παιδιά 26 . Το εν λόγω προϊόν δεν θα έβλαπτε άμεσα το παιδί που το φορούσε, αλλά επειδή δεν διαθέτει ένα ελάχιστο επίπεδο ασφάλειας, μπορεί να χρησιμοποιηθεί εύκολα ως εργαλείο πρόσβασης στο παιδί. Δεδομένου ότι μεταξύ των σκοπών του προϊόντος είναι η ασφάλεια των παιδιών μέσω του εντοπισμού τους, ο καταναλωτής θα ανέμενε ότι το προϊόν δεν θα παρουσίαζε απειλή κατά της ασφάλειας των παιδιών που μπορεί να επηρεάσει την ασφάλειά τους μέσω ενδεχόμενης παρακολούθησής τους και/ή προσέγγισής τους από κάποιον.

Άλλο παράδειγμα αποτελεί ειδοποίηση που υπέβαλε η Γερμανία σχετικά με επιβατικό αυτοκίνητο 27 . Το ραδιόφωνο του οχήματος μπορεί να έχει ορισμένα κενά ασφαλείας λογισμικού που επιτρέπουν σε μη εξουσιοδοτημένους τρίτους την πρόσβαση στα διασυνδεδεμένα συστήματα ελέγχου του οχήματος. Εάν τρίτος εκμεταλλευόταν τα εν λόγω κενά ασφάλειας λογισμικού για δόλιους σκοπούς, θα μπορούσε να επέλθει τροχαίο ατύχημα.

Οι βιομηχανικές εφαρμογές ενδέχεται επίσης να είναι εκτεθειμένες σε κυβερνοαπειλές που επηρεάζουν την ασφάλεια των προσώπων σε μεγαλύτερη κλίμακα, όταν οι εν λόγω εφαρμογές δεν διαθέτουν τα αναγκαία επίπεδα ασφάλειας. Αυτό μπορεί να συμβεί, για παράδειγμα, με τη μορφή κυβερνοεπιθέσεων σε ένα κρίσιμο σύστημα ελέγχου βιομηχανικής μονάδας με στόχο την πρόκληση έκρηξης που θα μπορούσε να έχει ως αποτέλεσμα την απώλεια ζωών.

Η ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων δεν προβλέπει γενικά ειδικές υποχρεωτικές ουσιώδεις απαιτήσεις για την αντιμετώπιση των κυβερνοαπειλών που επηρεάζουν την ασφάλεια των χρηστών. Ωστόσο, υπάρχουν διατάξεις σχετικά με τις πτυχές της ασφάλειας στον κανονισμό για τα ιατροτεχνολογικά προϊόντα 28 , στην οδηγία για τα όργανα μετρήσεων 29 , στην οδηγία για τον ραδιοεξοπλισμό 30 και στη νομοθεσία για την έγκριση τύπου οχήματος 31 . Η πράξη για την κυβερνοασφάλεια 32 θεσπίζει εθελοντικό πλαίσιο πιστοποίησης της κυβερνοασφάλειας για τα προϊόντα, τις υπηρεσίες και τις διαδικασίες της τεχνολογίας των πληροφοριών και των επικοινωνιών (ΤΠΕ), ενώ η σχετική ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων θεσπίζει υποχρεωτικές απαιτήσεις.

Επιπλέον, ο κίνδυνος απώλειας της συνδεσιμότητας των αναδυόμενων ψηφιακών τεχνολογιών μπορεί επίσης να συνεπάγεται κινδύνους που σχετίζονται με την ασφάλεια. Για παράδειγμα, εάν ένα συνδεδεμένο σύστημα συναγερμού πυρκαγιάς χάσει τη συνδεσιμότητά του, ενδέχεται να μην ειδοποιήσει τον χρήστη σε περίπτωση πυρκαγιάς.

Η ασφάλεια στην ισχύουσα ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων αποτελεί στόχο δημόσιας τάξης. Η έννοια της ασφάλειας συνδέεται με τη χρήση του προϊόντος και τους κινδύνους, π.χ. μηχανικούς, ηλεκτρικούς κ.λπ., που πρέπει να αντιμετωπιστούν για να καταστεί το προϊόν ασφαλές. Πρέπει να σημειωθεί ότι, ανάλογα με την ενωσιακή νομοθετική πράξη για την ασφάλεια των προϊόντων, η χρήση του προϊόντος δεν περιλαμβάνει μόνο τη σκοπούμενη χρήση αλλά και την προβλέψιμη χρήση και, σε ορισμένες περιπτώσεις, όπως στην οδηγία για τα μηχανήματα 33 , ακόμη και την ευλόγως προβλέψιμη κακή χρήση.

Η αυτονομία 34 είναι ένα από τα κύρια χαρακτηριστικά της τεχνητής νοημοσύνης. Τυχόν ανεπιθύμητα αποτελέσματα που βασίζονται στην τεχνητή νοημοσύνη θα μπορούσαν να προκαλέσουν βλάβη στους χρήστες και τα εκτεθειμένα πρόσωπα.

Εφόσον η μελλοντική «συμπεριφορά» των προϊόντων τεχνητής νοημοσύνης μπορεί να καθοριστεί εκ των προτέρων από την εκτίμηση επικινδυνότητας που πραγματοποιεί ο κατασκευαστής προτού διατεθούν τα προϊόντα στην αγορά, το ενωσιακό πλαίσιο για την ασφάλεια των προϊόντων προβλέπει ήδη υποχρεώσεις για τους παραγωγούς να λαμβάνουν υπόψη κατά την εκτίμηση επικινδυνότητας τη «χρήση» 35 των προϊόντων καθ’ όλη τη διάρκεια του κύκλου ζωής τους. Το εν λόγω πλαίσιο προβλέπει επίσης ότι οι κατασκευαστές πρέπει να παρέχουν οδηγίες και πληροφορίες ασφάλειας ή προειδοποιήσεις για τους χρήστες 36 . Στο πλαίσιο αυτό, για παράδειγμα, η οδηγία για τον ραδιοεξοπλισμό 37 απαιτεί από τον κατασκευαστή να περιλαμβάνει οδηγίες με πληροφορίες σχετικά με τον τρόπο χρήσης του ραδιοεξοπλισμού σύμφωνα με τη σκοπούμενη χρήση του.

Μπορεί επίσης να υπάρξουν καταστάσεις στο μέλλον, στις οποίες τα αποτελέσματα των συστημάτων τεχνητής νοημοσύνης δεν μπορούν να καθοριστούν πλήρως εκ των προτέρων. Σε μια τέτοια περίπτωση, η εκτίμηση επικινδυνότητας που πραγματοποιείται πριν από τη διάθεση του προϊόντος στην αγορά ενδέχεται να μην αντικατοπτρίζει πλέον τη χρήση, τη λειτουργία ή τη συμπεριφορά του προϊόντος. Στις περιπτώσεις αυτές, στο μέτρο που μεταβάλλεται, λόγω της αυτόνομης συμπεριφοράς, η σκοπούμενη χρήση, η οποία είχε αρχικά προβλεφθεί από τον κατασκευαστή 38 , και επηρεάζεται η συμμόρφωση με τις απαιτήσεις ασφάλειας, θα μπορούσε να θεωρηθεί ότι απαιτείται νέα επαναξιολόγηση του αυτοδιδασκόμενου προϊόντος 39 .

Σύμφωνα με το ισχύον πλαίσιο, όταν οι παραγωγοί αντιλαμβάνονται ότι ένα προϊόν, καθ’ όλη τη διάρκεια του κύκλου ζωής του, παρουσιάζει κινδύνους που έχουν επιπτώσεις στην ασφάλεια, υποχρεούνται ήδη να ενημερώνουν αμέσως τις αρμόδιες αρχές και να αναλαμβάνουν δράσεις για την πρόληψη των κινδύνων για τους χρήστες 40 .

Το χαρακτηριστικό αυτοδιδασκαλίας των προϊόντων και των συστημάτων τεχνητής νοημοσύνης μπορεί να επιτρέψει τη λήψη από τις μηχανές αποφάσεων που αποκλίνουν από τα αρχικά σκοπούμενα από τους παραγωγούς και, κατά συνέπεια, από τα αναμενόμενα από τους χρήστες. Αυτό εγείρει ερωτήματα σχετικά με τον ανθρώπινο έλεγχο, έτσι ώστε οι άνθρωποι να μπορούν να επιλέγουν εάν και πώς θα αναθέτουν τη λήψη αποφάσεων σε προϊόντα και συστήματα τεχνητής νοημοσύνης με σκοπό την επίτευξη στόχων που έχουν επιλεγεί από τον άνθρωπο 42 . Η υφιστάμενη ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων δεν περιλαμβάνει ρητή πρόβλεψη για την ανθρώπινη εποπτεία στο πλαίσιο των αυτοδιδασκόμενων προϊόντων και συστημάτων τεχνητής νοημοσύνης 43 .

Η μελλοντική «συμπεριφορά» των εφαρμογών τεχνητής νοημοσύνης θα μπορούσε να δημιουργήσει κινδύνους για την ψυχική υγεία 44  των χρηστών που απορρέουν, για παράδειγμα, από τη συνεργασία τους με ανθρωποειδή ρομπότ και συστήματα τεχνητής νοημοσύνης, στο σπίτι ή στο εργασιακό τους περιβάλλον. Στο πλαίσιο αυτό, σήμερα, η ασφάλεια χρησιμοποιείται γενικά για να εκφράσει στην εκλαμβανόμενη απειλή σωματικής βλάβης του χρήστη η οποία μπορεί να προέλθει από την αναδυόμενη ψηφιακή τεχνολογία. Ταυτόχρονα, τα ασφαλή προϊόντα ορίζονται στο ενωσιακό νομικό πλαίσιο ως προϊόντα που δεν παρουσιάζουν κανέναν κίνδυνο ή απλώς ελάχιστους κινδύνους για την ασφάλεια και την υγεία των προσώπων. Είναι κοινώς αποδεκτό ότι ο ορισμός της υγείας περιλαμβάνει τόσο τη σωματική όσο και την ψυχική ευεξία. Ωστόσο, οι κίνδυνοι για την ψυχική υγεία θα πρέπει να περιλαμβάνονται ρητά στην έννοια της ασφάλειας των προϊόντων υπό το νομοθετικό πλαίσιο.

Για παράδειγμα, η αυτονομία δεν θα πρέπει να προκαλεί υπερβολικό άγχος και ενόχληση για παρατεταμένες περιόδους και να βλάπτει την ψυχική υγεία. Στο πλαίσιο αυτό, παράγοντες που επηρεάζουν θετικά την αίσθηση ασφάλειας για τους ηλικιωμένους 45 θεωρούνται: οι ασφαλείς σχέσεις με το βοηθητικό προσωπικό υγειονομικής περίθαλψης, o έλεγχος των δραστηριοτήτων της καθημερινής ζωής και η ενημέρωση σχετικά με αυτή. Οι παραγωγοί ρομπότ τα οποία αλληλεπιδρούν με ηλικιωμένους θα πρέπει να λαμβάνουν υπόψη τους τους εν λόγω παράγοντες ώστε να προλαμβάνονται κίνδυνοι για την ψυχική υγεία.

Ένα άλλο ουσιώδες χαρακτηριστικό των βασιζόμενων σε τεχνητή νοημοσύνη προϊόντων και συστημάτων είναι η εξάρτηση από τα δεδομένα. Η ακρίβεια και η συνάφεια των δεδομένων είναι ουσιαστικής σημασίας για να εξασφαλιστεί ότι τα συστήματα και τα προϊόντα με βάση την τεχνητή νοημοσύνη λαμβάνουν τις αποφάσεις όπως προοριζόταν από τον παραγωγό.

Η ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων δεν περιλαμβάνει ρητή πρόβλεψη για τους κινδύνους για την ασφάλεια που προκύπτουν από εσφαλμένα δεδομένα. Ωστόσο, με βάση τη «χρήση» του προϊόντος, οι παραγωγοί θα πρέπει να προβλέπουν κατά τις φάσεις σχεδιασμού και δοκιμών την ακρίβεια των δεδομένων και τη συνάφειά τους για τις λειτουργίες ασφάλειας.

Για παράδειγμα, σύστημα που βασίζεται στην τεχνητή νοημοσύνη και έχει σχεδιαστεί για την ανίχνευση συγκεκριμένων αντικειμένων μπορεί να αντιμετωπίζει δυσκολίες στην αναγνώριση αντικειμένων υπό κακές συνθήκες φωτισμού, επομένως οι σχεδιαστές θα πρέπει να περιλαμβάνουν δεδομένα που προέρχονται από δοκιμές του προϊόντος τόσο σε συνήθη όσο και σε ανεπαρκώς φωτισμένα περιβάλλοντα.

Ένα άλλο παράδειγμα αφορά τα αγροτικά ρομπότ, όπως τα ρομπότ για τη συγκομιδή καρπών που στοχεύουν στην ανίχνευση και τον εντοπισμό ώριμων καρπών στα δένδρα ή στο έδαφος. Ενώ οι χρησιμοποιούμενοι αλγόριθμοι δείχνουν ήδη ποσοστά επιτυχίας για την κατάταξη άνω του 90 %, τυχόν ανεπάρκεια στα σύνολα δεδομένων που τροφοδοτούν τους εν λόγω αλγόριθμους μπορεί να οδηγήσει αυτά τα ρομπότ στη λήψη εσφαλμένων αποφάσεων και, κατά συνέπεια, στην πρόκληση τραυματισμού σε ζώο ή πρόσωπο.

Η αδιαφάνεια αποτελεί ένα ακόμη κύριο χαρακτηριστικό ορισμένων από τα προϊόντα και τα συστήματα που βασίζονται στην τεχνητή νοημοσύνη, το οποίο μπορεί να προκύψει από την ικανότητά τους να βελτιώνουν τις επιδόσεις τους βάσει της αποκτηθείσας πείρας. Ανάλογα με τη μεθοδολογική προσέγγιση, τα προϊόντα και τα συστήματα που βασίζονται στην τεχνητή νοημοσύνη μπορούν να χαρακτηρίζονται από διάφορους βαθμούς αδιαφάνειας. Αυτό μπορεί να οδηγήσει σε διαδικασία λήψης αποφάσεων του συστήματος η οποία είναι δύσκολο να ιχνηλατηθεί («black box-effect» — το φαινόμενο του μαύρου κουτιού). Οι άνθρωποι ενδέχεται να μην χρειάζεται να κατανοούν κάθε βήμα της διαδικασίας λήψης αποφάσεων, αλλά καθώς οι αλγόριθμοι τεχνητής νοημοσύνης εξελίσσονται περισσότερο και χρησιμοποιούνται σε ζωτικής σημασίας τομείς, είναι καθοριστικής σημασίας να μπορούν οι άνθρωποι να κατανοήσουν πώς έχουν ληφθεί οι αλγοριθμικές αποφάσεις του συστήματος. Αυτό θα ήταν ιδιαίτερα σημαντικό για τον εκ των υστέρων μηχανισμό επιβολής, δεδομένου ότι θα παράσχει στις αρχές επιβολής του νόμου τη δυνατότητα να ιχνηλατήσουν την ευθύνη που απορρέει από συμπεριφορές και επιλογές των συστημάτων τεχνητής νοημοσύνης. Αυτό αναγνωρίζεται επίσης από την ανακοίνωση της Επιτροπής με τίτλο «Οικοδόμηση εμπιστοσύνης στην ανθρωποκεντρική τεχνητή νοημοσύνη» 46 .

Πρόσθετοι κίνδυνοι που ενδέχεται να έχουν επιπτώσεις στην ασφάλεια είναι εκείνοι που απορρέουν από τον σύνθετο χαρακτήρα των προϊόντων και των συστημάτων, καθώς διάφορα κατασκευαστικά στοιχεία, συσκευές και προϊόντα μπορούν να ενοποιηθούν και να επηρεάζουν το ένα τη λειτουργία του άλλου (π.χ. προϊόντα που αποτελούν μέρος ενός οικοσυστήματος έξυπνου σπιτιού).

Ο εν λόγω σύνθετος χαρακτήρας καλύπτεται ήδη από το ενωσιακό νομικό πλαίσιο για την ασφάλεια στο οποίο γίνεται αναφορά στην αρχή της παρούσας ενότητας 48 . Ειδικότερα, όταν ο παραγωγός διενεργεί εκτίμηση επικινδυνότητας για το προϊόν, πρέπει να λαμβάνει υπόψη τη σκοπούμενη χρήση, την προβλέψιμη χρήση και, ανάλογα με την περίπτωση, την ευλόγως προβλέψιμη κακή χρήση.

Σ’ αυτό το πλαίσιο, αν ο παραγωγός σκοπεύει η συσκευή του να είναι διασυνδεδεμένη και να αλληλεπιδρά με άλλες συσκευές, αυτό θα πρέπει να λαμβάνεται υπόψη κατά την εκτίμηση επικινδυνότητας. Η χρήση ή η κακή χρήση καθορίζονται με βάση, για παράδειγμα, την εμπειρία από προηγούμενη χρήση προϊόντων του ίδιου τύπου, τη διερεύνηση ατυχημάτων ή την ανθρώπινη συμπεριφορά.

Ο σύνθετος χαρακτήρας των συστημάτων αντιμετωπίζεται επίσης ειδικότερα από την τομεακή νομοθεσία για την ασφάλεια, όπως ο κανονισμός για τα ιατροτεχνολογικά προϊόντα και, έως έναν βαθμό, η νομοθεσία για τη γενική ασφάλεια των προϊόντων 49 . Για παράδειγμα, ο παραγωγός συνδεδεμένης συσκευής που προορίζεται να αποτελέσει μέρος οικοσυστήματος έξυπνου σπιτιού θα πρέπει να είναι σε θέση να προβλέπει εύλογα ότι τα προϊόντα του θα έχουν αντίκτυπο στην ασφάλεια άλλων προϊόντων.

Επιπλέον, η νομοθεσία για τις μεταφορές αντιμετωπίζει αυτόν τον σύνθετο χαρακτήρα σε επίπεδο συστήματος. Για τα αυτοκίνητα, τα τρένα και τα αεροσκάφη, η έγκριση τύπου και η πιστοποίηση πραγματοποιούνται τόσο για κάθε κατασκευαστικό στοιχείο όσο και για το σύνολο του οχήματος ή του αεροσκάφους. Η τεχνική ικανότητα κυκλοφορίας, η αξιοπλοΐα και η διαλειτουργικότητα των σιδηροδρόμων αποτελούν μέρος της αξιολόγησης της ασφάλειας. Στις μεταφορές, τα «συστήματα» πρέπει να «εγκρίνονται» από μια αρχή, είτε βάσει αξιολόγησης της συμμόρφωσης από τρίτον με βάση σαφείς τεχνικές απαιτήσεις είτε κατόπιν επίδειξης ως προς τον τρόπο αντιμετώπισης των κινδύνων. Γενικά, η λύση είναι ένας συνδυασμός επιπέδου «προϊόντος» και «συστήματος».

Τα σύνθετα συστήματα περιλαμβάνουν συχνά λογισμικό, το οποίο αποτελεί βασικό κατασκευαστικό στοιχείο ενός συστήματος που βασίζεται στην τεχνητή νοημοσύνη. Γενικά, ως μέρος της αρχικής εκτίμησης επικινδυνότητας, ο κατασκευαστής του τελικού προϊόντος υποχρεούται να προβλέψει τους κινδύνους του ενσωματωμένου στο εν λόγω προϊόν λογισμικού κατά τον χρόνο διάθεσης του προϊόντος στην αγορά.

Ορισμένα τμήματα της ενωσιακής νομοθεσίας για την ασφάλεια των προϊόντων αναφέρονται ρητά στο λογισμικό που είναι ενσωματωμένο στο προϊόν. Για παράδειγμα, η οδηγία για τα μηχανήματα 50 ορίζει ότι σφάλμα οφειλόμενο στην αστοχία του λογισμικού του συστήματος χειρισμού δεν πρέπει να δημιουργεί επικίνδυνες καταστάσεις.

Στην ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων, οι ενημερώσεις του λογισμικού μπορούν να συγκριθούν με τις εργασίες συντήρησης για λόγους ασφάλειας, υπό την προϋπόθεση ότι δεν τροποποιούν σημαντικά προϊόν που έχει ήδη διατεθεί στην αγορά και δεν εισάγουν νέους κινδύνους που δεν είχαν προβλεφθεί στην αρχική εκτίμηση επικινδυνότητας. Ωστόσο, εάν η ενημέρωση του λογισμικού τροποποιεί ουσιωδώς το προϊόν στο οποίο καταφορτώνεται, ολόκληρο το προϊόν μπορεί να θεωρηθεί νέο προϊόν και η συμμόρφωση με τη σχετική νομοθεσία ασφάλειας των προϊόντων πρέπει να αξιολογηθεί εκ νέου κατά τον χρόνο της τροποποίησης 51 .

Ως προς αυτοτελώς χρησιμοποιούμενο λογισμικό που διατίθεται στην αγορά ως έχει ή αναφορτώνεται μετά τη διάθεση του προϊόντος στην αγορά, η εναρμονισμένη ενωσιακή τομεακή νομοθεσία για την ασφάλεια των προϊόντων δεν περιέχει γενικά ειδικές διατάξεις. Ωστόσο, ορισμένες ενωσιακές νομοθετικές πράξεις εστιάζονται στο αυτοτελώς χρησιμοποιούμενο λογισμικό, για παράδειγμα ο κανονισμός για τα ιατροτεχνολογικά προϊόντα. Επιπλέον, το αυτοτελώς χρησιμοποιούμενο λογισμικό που αναφορτώνεται σε συνδεδεμένα προϊόντα τα οποία επικοινωνούν μέσω ορισμένων μονάδων ραδιοσυχνοτήτων 52 μπορεί επίσης να ρυθμίζεται από την οδηγία για τον ραδιοεξοπλισμό μέσω κατ’ εξουσιοδότηση πράξεων. Η εν λόγω οδηγία απαιτεί συγκεκριμένες κλάσεις ή κατηγορίες ραδιοεξοπλισμού να υποστηρίζουν χαρακτηριστικά τα οποία να διασφαλίζουν ότι δεν διακυβεύεται η συμμόρφωση του εν λόγω εξοπλισμού κατά την αναφόρτωση λογισμικού 53 .

Τέλος, οι αναδυόμενες ψηφιακές τεχνολογίες επηρεάζονται από σύνθετες αξιακές αλυσίδες. Ωστόσο, ο εν λόγω σύνθετος χαρακτήρας δεν είναι νέος, ούτε αποτελεί αποκλειστικά ζήτημα που προκύπτει από τις νέες αναδυόμενες ψηφιακές τεχνολογίες, όπως η τεχνητή νοημοσύνη ή το διαδίκτυο των πραγμάτων. Για παράδειγμα, πρόκειται για την περίπτωση προϊόντων όπως υπολογιστές, ρομπότ υπηρεσιών ή συστήματα μεταφορών.

Σύμφωνα με το ενωσιακό πλαίσιο για την ασφάλεια των προϊόντων, ανεξάρτητα από το πόσο σύνθετη είναι η αξιακή αλυσίδα, ο παραγωγός που διαθέτει το προϊόν στην αγορά εξακολουθεί να φέρει την ευθύνη για την ασφάλεια του προϊόντος. Οι παραγωγοί φέρουν την ευθύνη για την ασφάλεια του τελικού προϊόντος, συμπεριλαμβανομένων των στοιχείων που είναι ενσωματωμένα στο προϊόν, π.χ. το λογισμικό ενός υπολογιστή.

Ορισμένες ενωσιακές νομοθετικές πράξεις για την ασφάλεια των προϊόντων περιέχουν ήδη διατάξεις που αναφέρονται ρητά σε καταστάσεις στις οποίες παρεμβαίνουν σε ένα δεδομένο προϊόν περισσότεροι οικονομικοί φορείς προτού αυτό διατεθεί στην αγορά. Για παράδειγμα, η οδηγία για τους ανελκυστήρες 54 απαιτεί από τον οικονομικό φορέα που σχεδιάζει και κατασκευάζει τον ανελκυστήρα να χορηγεί στον εγκαταστάτη 55 «κάθε αναγκαία τεκμηρίωση και πληροφορίες ώστε να μπορεί ο δεύτερος να εξασφαλίσει την ομαλή και ασφαλή εγκατάσταση και δοκιμή του ανελκυστήρα». Η οδηγία για τα μηχανήματα απαιτεί από τους κατασκευαστές εξοπλισμού να παρέχουν πληροφορίες στον χειριστή σχετικά με τον τρόπο συναρμολόγησης του εν λόγω εξοπλισμού με άλλο μηχάνημα 56 .

3.Ευθύνη

Σε ενωσιακό επίπεδο, οι διατάξεις για την ασφάλεια των προϊόντων και για την ευθύνη λόγω ελαττωματικών προϊόντων είναι δύο συμπληρωματικοί μηχανισμοί με τους οποίους επιδιώκεται ο ίδιος στόχος πολιτικής για μια λειτουργική ενιαία αγορά εμπορευμάτων που εξασφαλίζει υψηλά επίπεδα ασφάλειας, δηλαδή η ελαχιστοποίηση του κινδύνου πρόκλησης βλάβης στους χρήστες και η επανόρθωση για ζημία που προκαλείται από ελαττωματικά προϊόντα.

Σε εθνικό επίπεδο, τα μη εναρμονισμένα πλαίσια αστικής ευθύνης συμπληρώνουν τους εν λόγω ενωσιακούς κανόνες διασφαλίζοντας επανόρθωση για ζημίες από διάφορα αίτια (όπως προϊόντα και υπηρεσίες) και εστιαζόμενα στα διάφορα υπεύθυνα πρόσωπα (όπως ιδιοκτήτες, φορείς εκμετάλλευσης ή πάροχοι υπηρεσιών).

Αν και η βελτιστοποίηση των ενωσιακών κανόνων ασφάλειας για την τεχνητή νοημοσύνη μπορεί να συμβάλει στην αποτροπή των ατυχημάτων, ενδέχεται, παρ’ όλ’ αυτά, να συμβεί κάποιο ατύχημα. Εδώ υπεισέρχεται η αστική ευθύνη. Οι κανόνες περί αστικής ευθύνης διαδραματίζουν διπλό ρόλο στην κοινωνία μας: αφενός, διασφαλίζουν ότι οι ζημιωθέντες λαμβάνουν επανόρθωση και, αφετέρου, παρέχουν οικονομικά κίνητρα στον ζημιώσαντα για να αποφεύγει την πρόκληση τέτοιων ζημιών. Οι κανόνες για την ευθύνη πρέπει πάντα να επιτυγχάνουν ισορροπία μεταξύ της προστασίας των πολιτών από τις βλάβες και της δυνατότητας των επιχειρήσεων να καινοτομούν.

Τα πλαίσια ευθύνης στην Ένωση έχουν λειτουργήσει ικανοποιητικά. Βασίζονται στην παράλληλη εφαρμογή της οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων (οδηγία 85/374/ΕΟΚ), η οποία εναρμόνισε την ευθύνη του παραγωγού ελαττωματικών προϊόντων, και άλλων, μη εναρμονισμένων, εθνικών καθεστώτων ευθύνης.

Η οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων παρέχει ένα επίπεδο προστασίας που δεν παρέχουν από μόνα τους τα εθνικά καθεστώτα πταισματικής ευθύνης. Καθιερώνει σύστημα αντικειμενικής ευθύνης του παραγωγού για ζημίες που οφείλονται σε ελάττωμα των προϊόντων του. Σε περίπτωση σωματικής βλάβης ή υλικής ζημίας, ο ζημιωθείς δικαιούται αποζημίωση εάν αποδείξει τη ζημία, το ελάττωμα του προϊόντος (δηλαδή ότι το προϊόν δεν παρέχει την ασφάλεια που δικαιούται να αναμένει το κοινό) και την αιτιώδη συνάφεια μεταξύ του ελαττωματικού προϊόντος και της ζημίας.

Τα εθνικά μη εναρμονισμένα καθεστώτα προβλέπουν κανόνες πταισματικής ευθύνης, σύμφωνα με τους οποίους, προκειμένου να θεμελιωθεί με επιτυχία αξίωση αποζημίωσης, οι ζημιωθέντες πρέπει να αποδείξουν πταίσμα του υπευθύνου, τη ζημία και την αιτιώδη συνάφεια μεταξύ του πταίσματος και της ζημίας. Επίσης, προβλέπουν καθεστώτα αντικειμενικής ευθύνης στο πλαίσιο των οποίων ο εθνικός νομοθέτης καταλογίζει την ευθύνη για κίνδυνο σε συγκεκριμένο πρόσωπο, χωρίς να χρειάζεται ο ζημιωθείς να αποδείξει πταίσμα/ελάττωμα ή αιτιώδη συνάφεια μεταξύ του πταίσματος / του ελαττώματος και της ζημίας.

Τα εθνικά καθεστώτα ευθύνης παρέχουν στους ζημιωθέντες από προϊόντα και υπηρεσίες τη δυνατότητα να προβάλλουν διάφορες παράλληλες αξιώσεις αποζημίωσης λόγω πταισματικής ή αντικειμενικής ευθύνης. Οι εν λόγω αξιώσεις εγείρονται συχνά κατά διαφόρων υπεύθυνων προσώπων, υπό διαφορετικές προϋποθέσεις.

Για παράδειγμα, ο παθών τροχαίου ατυχήματος μπορεί, κατά κανόνα, να προβάλλει αξίωση κατά του ιδιοκτήτη του αυτοκινήτου (δηλαδή του προσώπου που καλύπτεται από ασφάλιση αστικής ευθύνης από ατυχήματα αυτοκινήτων) επικαλούμενος αντικειμενική ευθύνη, καθώς και κατά του οδηγού επικαλούμενος πταισματική ευθύνη, αμφότερες βάσει του εθνικού αστικού δικαίου, αλλά και κατά του παραγωγού, σύμφωνα με την οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων, αν το αυτοκίνητο είχε ελάττωμα.

Σύμφωνα με τους εναρμονισμένους κανόνες για την ασφάλιση μηχανοκίνητων οχημάτων, η χρήση του οχήματος πρέπει να καλύπτεται από ασφάλιση 57 και ο ασφαλιστής είναι πάντοτε στην πράξη το πρώτο σημείο επαφής κατά του οποίου στρέφεται η αίτηση αποζημίωσης για σωματικές βλάβες ή υλικές ζημίες. Σύμφωνα μ’ αυτούς τους κανόνες, η υποχρεωτική ασφάλιση αποκαθιστά τη ζημία του παθόντος και προστατεύει τον ασφαλισμένο που, βάσει των εθνικών κανόνων αστικού δικαίου 58 , υπέχει ευθύνη καταβολής χρηματικής αποζημίωσης για το ατύχημα στο οποίο εμπλέκεται το μηχανοκίνητο όχημα. Οι παραγωγοί δεν υποχρεούνται να έχουν ασφαλιστική κάλυψη δυνάμει της οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων. Η ενωσιακή νομοθεσία δεν αντιμετωπίζει τα αυτόνομα οχήματα διαφορετικά από τα μη αυτόνομα οχήματα όσον αφορά την ασφάλιση μηχανοκίνητων οχημάτων. Τα οχήματα αυτά, όπως όλα τα οχήματα, πρέπει να καλύπτονται από ασφάλιση αστικής ευθύνης από μηχανοκίνητα οχήματα έναντι τρίτων, η οποία αποτελεί τον ευκολότερο τρόπο αποζημίωσης του ζημιωθέντος.

Η σύναψη κατάλληλης ασφάλισης μπορεί να μετριάσει τις αρνητικές συνέπειες των ατυχημάτων με την ομαλή αποζημίωση του παθόντος. Οι σαφείς κανόνες για την ευθύνη βοηθούν τις ασφαλιστικές εταιρείες να υπολογίζουν τους κινδύνους τους και να ζητούν αναγωγικά αποζημίωση από το μέρος που φέρει την τελική ευθύνη για τη ζημία. Για παράδειγμα, εάν ένα ατύχημα προκληθεί από ελάττωμα, ο ασφαλιστής του μηχανοκίνητου οχήματος, αφού αποζημιώσει τον παθόντα, μπορεί να ζητήσει αναγωγικά αποζημίωση από τον κατασκευαστή.

Ωστόσο, τα χαρακτηριστικά των αναδυόμενων ψηφιακών τεχνολογιών, όπως η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική, αποτελούν πρόκληση για τα ενωσιακά και τα εθνικά πλαίσια ευθύνης και θα μπορούσαν να μειώσουν την αποτελεσματικότητά τους. Ορισμένα από τα χαρακτηριστικά αυτά θα μπορούσαν να καταστήσουν δύσκολο τον καταλογισμό της ζημίας σε ανθρώπινη συμπεριφορά, ώστε να θεμελιωθεί αξίωση βάσει πταισματικής ευθύνης σύμφωνα με τους εθνικούς κανόνες. Αυτό σημαίνει ότι η απόδειξη των αξιώσεων αποζημίωσης που βασίζονται στο εθνικό δίκαιο των αδικοπραξιών μπορεί να είναι δύσκολη ή υπερβολικά δαπανηρή και, κατά συνέπεια, οι ζημιωθέντες ενδέχεται να μη λαμβάνουν επαρκή αποζημίωση. Είναι σημαντικό οι παθόντες ατυχημάτων που οφείλονται σε προϊόντα ή υπηρεσίες, συμπεριλαμβανομένων των αναδυόμενων ψηφιακών τεχνολογιών όπως η τεχνητή νοημοσύνη, να μην απολαύουν χαμηλότερου επιπέδου προστασίας σε σύγκριση με αυτή που παρέχεται για παρόμοια προϊόντα και υπηρεσίες για τα οποία θα λάμβαναν αποζημίωση βάσει του εθνικού δικαίου των αδικοπραξιών. Αυτό θα μπορούσε να μειώσει την κοινωνική αποδοχή των εν λόγω αναδυόμενων τεχνολογιών και να οδηγήσει σε δισταγμούς ως προς τη χρήση τους.

Θα πρέπει να αξιολογηθεί κατά πόσον οι προκλήσεις που παρουσιάζουν οι νέες τεχνολογίες για τα υφιστάμενα πλαίσια θα μπορούσαν επίσης να προκαλέσουν ανασφάλεια δικαίου ως προς τον τρόπο εφαρμογής των υφιστάμενων νόμων (π.χ. τον τρόπο εφαρμογής της έννοιας του πταίσματος στις ζημίες που προκαλούνται από την τεχνητή νοημοσύνη). Αυτές θα μπορούσαν με τη σειρά τους να αποθαρρύνουν τις επενδύσεις, καθώς και να αυξήσουν το κόστος πληροφόρησης και ασφάλισης για τους παραγωγούς και τις άλλες επιχειρήσεις της αλυσίδας εφοδιασμού, ιδίως τις ευρωπαϊκές ΜΜΕ. Επιπλέον, σε περίπτωση που τα κράτη μέλη εστιαστούν τελικά στην αντιμετώπιση των προκλήσεων που παρουσιάζονται για τα εθνικά πλαίσια ευθύνης, το γεγονός αυτό θα μπορούσε να οδηγήσει σε περαιτέρω κατακερματισμό, αυξάνοντας έτσι το κόστος της διάθεσης καινοτόμων λύσεων τεχνητής νοημοσύνης στην ενιαία αγορά και μειώνοντας το διασυνοριακό εμπόριο σ’ αυτήν. Είναι σημαντικό να γνωρίζουν οι εταιρείες τους κινδύνους αστικής ευθύνης σε ολόκληρη την αξιακή αλυσίδα και να μπορούν να τους μειώνουν ή να τους αποτρέπουν, καθώς και να ασφαλίζονται αποτελεσματικά έναντι αυτών.

Το παρόν κεφάλαιο εξηγεί τον τρόπο με τον οποίο οι νέες τεχνολογίες παρουσιάζουν προκλήσεις για τα υφιστάμενα πλαίσια και τον τρόπο με τον οποίο θα μπορούσαν να αντιμετωπιστούν οι προκλήσεις αυτές. Επιπλέον, οι ιδιαιτερότητες ορισμένων τομέων, όπως αυτού της υγείας, ενδέχεται να απαιτούν πρόσθετες εκτιμήσεις.

Σύνθετος χαρακτήρας των προϊόντων, των υπηρεσιών και της αξιακής αλυσίδας: Η τεχνολογία και η βιομηχανία έχουν εξελιχθεί ραγδαία τις τελευταίες δεκαετίες. Ιδίως, η διάκριση μεταξύ προϊόντων και υπηρεσιών μπορεί να μην είναι πλέον τόσο ξεκάθαρη όσο παλιότερα. Τα προϊόντα και η παροχή υπηρεσιών είναι αλληλένδετα σε ολοένα και μεγαλύτερο βαθμό. Αν και τα σύνθετα προϊόντα και οι αξιακές αλυσίδες δεν είναι κάτι το καινοφανές για την ευρωπαϊκή βιομηχανία ή το κανονιστικό της μοντέλο, το λογισμικό αλλά και η τεχνητή νοημοσύνη χρήζουν ιδιαίτερης προσοχής ως προς την ευθύνη λόγω ελαττωματικών προϊόντων. Το λογισμικό είναι απαραίτητο για τη λειτουργία μεγάλου αριθμού προϊόντων και μπορεί να επηρεάσει την ασφάλειά τους. Ενσωματώνεται στα προϊόντα, αλλά μπορεί επίσης να παρέχεται χωριστά, ώστε να καθίσταται δυνατή η σκοπούμενη χρήση του προϊόντος. Ένας υπολογιστής ή ένα έξυπνο τηλέφωνο δεν θα είχαν ιδιαίτερη χρησιμότητα χωρίς λογισμικό. Αυτό σημαίνει ότι το λογισμικό μπορεί να καταστήσει ένα υλικό προϊόν ελαττωματικό και να προκαλέσει υλικές βλάβες (πρβλ. πλαίσιο για το λογισμικό στο τμήμα που αφορά την ασφάλεια). Αυτό θα μπορούσε ενδεχομένως να επιφέρει ευθύνη του παραγωγού του προϊόντος σύμφωνα με την οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων.

Ωστόσο, δεδομένου ότι το λογισμικό είναι πολλών διαφορετικών ειδών και μορφών, οι απαντήσεις που σχετίζονται με την ταξινόμηση του λογισμικού ως υπηρεσίας ή ως προϊόντος ενδέχεται να μην είναι πάντα απλές. Επομένως, ενώ το λογισμικό που καθοδηγεί τις λειτουργίες ενός υλικού προϊόντος θα μπορούσε να θεωρηθεί εξάρτημα ή κατασκευαστικό στοιχείο του εν λόγω προϊόντος, η ταξινόμηση ορισμένων ειδών αυτοτελώς χρησιμοποιούμενου λογισμικού θα μπορούσε να είναι δυσκολότερη.

Οι εφαρμογές τεχνητής νοημοσύνης συχνά ενσωματώνονται σε σύνθετα περιβάλλοντα διαδικτύου των πραγμάτων, όπου αλληλεπιδρούν πολλές διαφορετικές συνδεδεμένες συσκευές και υπηρεσίες. Ο συνδυασμός διαφορετικών ψηφιακών κατασκευαστικών στοιχείων σε ένα σύνθετο οικοσύστημα και η ποικιλία των εμπλεκόμενων παραγόντων μπορεί να καταστήσει δύσκολη την εκτίμηση της προέλευσης ενδεχόμενης ζημίας, καθώς και του προσώπου που είναι υπεύθυνο γι’ αυτήν. Λόγω του σύνθετου χαρακτήρα των εν λόγω τεχνολογιών, μπορεί να είναι πολύ δύσκολο για τους ζημιωθέντες να προσδιορίσουν τον υπεύθυνο και να αποδείξουν όλες τις αναγκαίες προϋποθέσεις για την επιτυχή έγερση αξίωσης, όπως απαιτείται από την εθνική νομοθεσία. Το κόστος της εν λόγω πραγματογνωμοσύνης μπορεί να είναι οικονομικά απαγορευτικό και να αποθαρρύνει τους ζημιωθέντες από την αξίωση αποζημίωσης.

Επιπλέον, τα προϊόντα και οι υπηρεσίες που βασίζονται στην τεχνητή νοημοσύνη θα αλληλεπιδρούν με τις παραδοσιακές τεχνολογίες, γεγονός που θα έχει ως αποτέλεσμα επιπλέον σύνθετο χαρακτήρα και ως προς την ευθύνη. Για παράδειγμα, για ορισμένο χρονικό διάστημα τα αυτόνομα αυτοκίνητα θα κυκλοφορούν στους δρόμους ταυτόχρονα με τα παραδοσιακά. Παρόμοιος σύνθετος χαρακτήρας αλληλεπιδρώντων παραγόντων θα προκύψει σε ορισμένους τομείς υπηρεσιών (όπως η διαχείριση της κυκλοφορίας και η υγεία), όπου μερικώς αυτοματοποιημένα συστήματα τεχνητής νοημοσύνης θα υποστηρίζουν τη διαδικασία λήψης αποφάσεων από τον άνθρωπο.

Σύμφωνα με την έκθεση 59 της σύνθεσης για τις νέες τεχνολογίες της ομάδας εμπειρογνωμόνων για την ευθύνη και τις νέες τεχνολογίες, θα μπορούσαν να εξεταστούν προσαρμογές των εθνικών νομοθεσιών ώστε να διευκολύνεται το βάρος της απόδειξης για τα πρόσωπα που υφίστανται ζημία η οποία συνδέεται με την τεχνητή νοημοσύνη. Για παράδειγμα, το βάρος της απόδειξης θα μπορούσε να συνδέεται με τη συμμόρφωση (από τον οικείο φορέα εκμετάλλευσης) με συγκεκριμένες υποχρεώσεις κυβερνοασφάλειας ή άλλες υποχρεώσεις ασφάλειας οι οποίες προβλέπονται στον νόμο: σε περίπτωση μη συμμόρφωσης μ’ αυτούς τους κανόνες, θα μπορούσε να μεταβάλλεται το βάρος της απόδειξης ως προς το πταίσμα και την αιτιώδη συνάφεια.

Συνδεσιμότητα και ανοικτός χαρακτήρας: Επί του παρόντος δεν είναι απολύτως σαφές ποιες είναι οι προσδοκίες ασφάλειας όσον αφορά τις ζημίες που προκύπτουν από παραβιάσεις της κυβερνοασφάλειας στο προϊόν και κατά πόσον η ζημία αυτή θα μπορούσε να αποκατασταθεί επαρκώς σύμφωνα με την οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων.

Οι αδυναμίες στον τομέα της κυβερνοασφάλειας μπορεί να υπάρχουν εξαρχής, όταν ένα προϊόν τίθεται σε κυκλοφορία, αλλά μπορεί επίσης να εμφανιστούν σε μεταγενέστερο στάδιο, πολύ μετά τη θέση του προϊόντος σε κυκλοφορία.

Σε πλαίσια πταισματικής ευθύνης, η θέσπιση σαφών υποχρεώσεων σχετικά με την κυβερνοασφάλεια επιτρέπει στους φορείς εκμετάλλευσης να προσδιορίζουν τι πρέπει να κάνουν προκειμένου να αποφεύγουν τις συνέπειες της ευθύνης.

Σύμφωνα με την οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων, το ερώτημα εάν ένας παραγωγός μπορούσε να είχε προβλέψει ορισμένες αλλαγές λαμβάνοντας υπόψη την ευλόγως προβλέψιμη χρήση του προϊόντος μπορεί να έρθει σε μεγαλύτερο βαθμό στο προσκήνιο. Για παράδειγμα, θα μπορούσε να διαπιστωθεί αύξηση της χρήσης της «άμυνας μεταγενέστερου ελαττώματος» σύμφωνα με την οποία ο παραγωγός δεν ευθύνεται εάν το ελάττωμα δεν υπήρχε τη στιγμή κατά την οποία το προϊόν τέθηκε σε κυκλοφορία ή στην «άμυνα κινδύνου ανάπτυξης» (που βασίζεται στο επιχείρημα ότι η γνώση αιχμής της εποχής δεν θα μπορούσε να είχε προβλέψει το ελάττωμα). Επιπλέον, η ευθύνη θα μπορούσε να μετριαστεί αν ο ζημιωθείς δεν διενεργεί ενημερώσεις σχετικές με την ασφάλεια. Αυτό θα μπορούσε ενδεχομένως να θεωρηθεί συντρέχον πταίσμα του ζημιωθέντος και, ως εκ τούτου, να μετριάσει την ευθύνη του παραγωγού. Δεδομένου ότι η έννοια της προβλέψιμης εύλογης χρήσης και τα ζητήματα συντρέχοντος πταίσματος, όπως η μη καταφόρτωση ενημέρωσης ασφαλείας, μπορεί να αποκτήσουν μεγαλύτερη σημασία, οι ζημιωθέντες ενδέχεται να δυσκολεύονται περισσότερο να αποζημιωθούν για ζημία που προκλήθηκε από ελάττωμα του προϊόντος.

Αυτονομία και αδιαφάνεια: Όταν οι εφαρμογές τεχνητής νοημοσύνης μπορούν να δρουν αυτόνομα, εκτελούν μια εργασία χωρίς να είναι προκαθορισμένα όλα τα βήματά της και με μικρότερο ή ενδεχομένως καθόλου άμεσο ανθρώπινο έλεγχο ή εποπτεία. Η κατανόηση των αλγορίθμων που βασίζονται στην εκμάθηση μηχανής μπορεί να είναι δύσκολη ή αδύνατη (το λεγόμενο «φαινόμενο του μαύρου κουτιού»). 

Εκτός από τον σύνθετο χαρακτήρα που εξετάζεται ανωτέρω, λόγω του φαινόμενου του μαύρου κουτιού σε μέρος της τεχνητής νοημοσύνης, η αποκατάσταση της ζημίας θα μπορούσε να καταστεί δύσκολη για ζημίες που προκαλούνται από αυτόνομες εφαρμογές τεχνητής νοημοσύνης. Η ανάγκη κατανόησης του αλγορίθμου και των δεδομένων που χρησιμοποιεί η τεχνητή νοημοσύνη απαιτεί αναλυτικές ικανότητες και τεχνική εμπειρογνωμοσύνη οι οποίες θα μπορούσαν να είναι απαγορευτικά δαπανηρές για τους ζημιωθέντες. Επιπλέον, η πρόσβαση στον αλγόριθμο και τα δεδομένα θα μπορούσε να είναι αδύνατη χωρίς τη συνεργασία του δυνάμει υπευθύνου. Επομένως οι ζημιωθέντες ενδέχεται να μην είναι στην πράξη σε θέση να εγείρουν αξίωση αποζημίωσης. Επιπλέον, δεν είναι σαφής ο τρόπος με τον οποίο θα μπορούσε να αποδειχθεί το πταίσμα μιας τεχνητής νοημοσύνης που ενεργεί αυτόνομα, ή τι θα θεωρούνταν πταίσμα προσώπου που επαφίεται στη χρήση της τεχνητής νοημοσύνης.

Οι εθνικές νομοθεσίες έχουν ήδη αναπτύξει διάφορες λύσεις για την ελάφρυνση του βάρους της απόδειξης για τους ζημιωθέντες σε παρόμοιες καταστάσεις.

Η υποχρέωση των παραγωγών να διασφαλίζουν ότι όλα τα προϊόντα που διατίθενται στην αγορά είναι ασφαλή καθ’ όλη τη διάρκεια του κύκλου ζωής τους, καθώς και ως προς την ευλόγως αναμενόμενη χρήση τους, εξακολουθεί να αποτελεί κατευθυντήρια αρχή για την ασφάλεια των προϊόντων και την ευθύνη λόγω ελαττωματικών προϊόντων στην Ένωση. Αυτό σημαίνει ότι ο κατασκευαστής θα πρέπει να διασφαλίζει ότι ένα προϊόν που χρησιμοποιεί τεχνητή νοημοσύνη σέβεται ορισμένες παραμέτρους ασφαλείας. Τα χαρακτηριστικά της τεχνητής νοημοσύνης δεν αποκλείουν το δικαίωμα σε προσδοκίες ως προς την ασφάλεια των προϊόντων, είτε αυτά είναι αυτόματες χορτοκοπτικές μηχανές ή χειρουργικά ρομπότ.

Η αυτονομία μπορεί να επηρεάσει την ασφάλεια του προϊόντος, διότι μπορεί να μεταβάλει σημαντικά τα χαρακτηριστικά του, μεταξύ άλλων και τα χαρακτηριστικά ασφαλείας του. Το ερώτημα είναι υπό ποιες συνθήκες τα χαρακτηριστικά αυτοδιδασκαλίας παρατείνουν την ευθύνη του παραγωγού και σε ποιον βαθμό θα πρέπει ο παραγωγός να προβλέπει ορισμένες αλλαγές.

Σύμφωνα με την έκθεση 60 της σύνθεσης για τις νέες τεχνολογίες της ομάδας εμπειρογνωμόνων για την ευθύνη και τις νέες τεχνολογίες, η λειτουργία ορισμένων αυτόνομων συσκευών και υπηρεσιών τεχνητής νοημοσύνης θα μπορούσε να έχει συγκεκριμένο προφίλ κινδύνου όσον αφορά την ευθύνη, διότι αυτές μπορούν να προσβάλουν σε σημαντικό βαθμό σημαντικά έννομα αγαθά, όπως η ζωή, η υγεία και η περιουσία, και να εκθέσουν το ευρύ κοινό σε κινδύνους. Αυτό θα μπορούσε να αφορά κυρίως συσκευές τεχνητής νοημοσύνης που κινούνται σε δημόσιους χώρους (π.χ. πλήρως αυτόνομα οχήματα, δρόνους 61 και ρομπότ διανομής δεμάτων) ή υπηρεσίες που βασίζονται σε τεχνητή νοημοσύνη με παρόμοιους κινδύνους (π.χ. υπηρεσίες διαχείρισης της κίνησης που καθοδηγούν ή ελέγχουν οχήματα ή διαχείρισης της διανομής ενέργειας). Οι προκλήσεις της αυτονομίας και της αδιαφάνειας σε ό,τι αφορά τα εθνικά δίκαια των αδικοπραξιών θα μπορούσαν να αντιμετωπιστούν με την υιοθέτηση μιας προσέγγισης βάσει κινδύνου. Τα συστήματα αντικειμενικής ευθύνης θα μπορούσαν να διασφαλίζουν ότι, όποτε πραγματώνεται αυτός ο κίνδυνος, ο ζημιωθείς αποζημιώνεται ανεξαρτήτως πταίσματος. Θα πρέπει να εξεταστεί προσεκτικά ο αντίκτυπος που έχει ο προσδιορισμός του προσώπου που φέρει την αντικειμενική ευθύνη για τις εν λόγω πράξεις στην ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης, καθώς και να εξεταστεί το ενδεχόμενο υιοθέτησης μια προσέγγισης βάσει κινδύνου.

4.Συμπέρασμα

Η εμφάνιση νέων ψηφιακών τεχνολογιών, όπως η τεχνητή νοημοσύνη, το διαδίκτυο των πραγμάτων και η ρομποτική, εγείρουν νέες προκλήσεις όσον αφορά την ασφάλεια των προϊόντων και την ευθύνη, όπως η συνδεσιμότητα, η αυτονομία, η εξάρτηση από τα δεδομένα, η αδιαφάνεια, ο σύνθετος χαρακτήρας των προϊόντων και των συστημάτων, οι ενημερώσεις του λογισμικού και η πιο σύνθετη διαχείριση της ασφάλειας και αξιακές αλυσίδες.

Η ισχύουσα νομοθεσία για την ασφάλεια των προϊόντων έχει ορισμένα κενά που πρέπει να αντιμετωπιστούν, ιδίως η οδηγία για τη γενική ασφάλεια των προϊόντων, η οδηγία για τα μηχανήματα, η οδηγία για τον ραδιοεξοπλισμό και το νέο νομοθετικό πλαίσιο. Οι μελλοντικές εργασίες για την προσαρμογή διαφόρων νομοθετικών πράξεων σ’ αυτό το πλαίσιο θα γίνουν με συνεπή και εναρμονισμένο τρόπο.

Οι νέες προκλήσεις στον τομέα της ασφάλειας δημιουργούν επίσης νέες προκλήσεις όσον αφορά την ευθύνη. Οι εν λόγω προκλήσεις που σχετίζονται με την ευθύνη πρέπει να αντιμετωπιστούν προκειμένου να διασφαλίζεται το ίδιο επίπεδο προστασίας για τους ζημιωθέντες σε σύγκριση με τους ζημιωθέντες από παραδοσιακές τεχνολογίες, διατηρώντας παράλληλα την ισορροπία ως προς τις ανάγκες της τεχνολογικής καινοτομίας. Αυτό θα συμβάλει στη δημιουργία εμπιστοσύνης σ’ αυτές τις νέες αναδυόμενες ψηφιακές τεχνολογίες και στη δημιουργία επενδυτικής σταθερότητας.

Ενώ, καταρχήν, η ισχύουσα ενωσιακή και οι εθνικές νομοθεσίες για την ευθύνη μπορούν να καλύψουν τις αναδυόμενες τεχνολογίες, η διάσταση και η συνδυαστική επίδραση των προκλήσεων που παρουσιάζει η τεχνητή νοημοσύνη θα μπορούσαν να καταστήσουν πιο δύσκολη την αποζημίωση των ζημιωθέντων σε όλες τις περιπτώσεις όπου αυτή θα ήταν δικαιολογημένη 63 . Ως εκ τούτου, η κατανομή του κόστους σε περίπτωση ζημίας ενδέχεται να είναι άδικη ή αναποτελεσματική με βάση τους ισχύοντες κανόνες. Για να διορθωθεί η κατάσταση και να αντιμετωπιστούν πιθανές αβεβαιότητες στο υφιστάμενο πλαίσιο, θα μπορούσαν να εξεταστούν ορισμένες προσαρμογές της οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων και των εθνικών καθεστώτων ευθύνης, μέσω κατάλληλων πρωτοβουλιών της ΕΕ, με στοχευμένη προσέγγιση με βάση τον κίνδυνο, δηλαδή λαμβάνοντας υπόψη ότι οι διάφορες εφαρμογές της τεχνητής νοημοσύνης ενέχουν διαφορετικούς κινδύνους.

(1)

     Ο ορισμός της τεχνητής νοημοσύνης από την ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (AI HLEG) διατίθεται στη διεύθυνση https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines .

(2)

     Ο ορισμός του διαδικτύου των πραγμάτων από τη σύσταση ITU-T Y.2060 διατίθεται στη διεύθυνση https://www.itu.int/ITU-T/recommendations/rec.aspx?rec=y.2060 .

(3)

     SWD(2016) 110, COM(2017) 9, COM(2018) 237 και COM(2018) 795.

(4)

      http://ec.europa.eu/growth/industry/policy_en  

(5)

      https://eur-lex.europa.eu/legal-content/EL/TXT/HTML/?uri=CELEX:52018DC0237&from=EN .

Το συνοδευτικό έγγραφο εργασίας των υπηρεσιών της Επιτροπής SWD(2018) 137 final ( https://eur-lex.europa.eu/legal-content/en/ALL/?uri=CELEX%3A52018SC0137 ) επιχείρησε μία πρώτη χαρτογράφηση των προκλήσεων σχετικά με την ευθύνη που ανακύπτουν στο πλαίσιο των αναδυόμενων ψηφιακών τεχνολογιών.

(6)

     SWD(2018) 161 final.

(7)

     Οδηγία 2006/42/ΕΚ.

(8)

     Δίκτυο για την ασφάλεια των καταναλωτών, όπως εγκαθιδρύεται στην οδηγία 2001/95/ΕΚ για τη γενική ασφάλεια των προϊόντων (ΟΓΑΠ), στην οδηγία 2006/42/ΕΚ για τα μηχανήματα και στην οδηγία 2014/53/ΕΕ για τον ραδιοεξοπλισμό, ομάδες εμπειρογνωμόνων που απαρτίζονται από τα κράτη μέλη, τη βιομηχανία και άλλα ενδιαφερόμενα μέρη, όπως οι ενώσεις καταναλωτών.

(9)

     COM(2018) 246 final.

(10)

     Οδηγία 85/374/ΕΟΚ.

(11)

     Η ομάδα εμπειρογνωμόνων για την ευθύνη και τις νέες τεχνολογίες δημιουργήθηκε για να παράσχει στην Επιτροπή εμπειρογνωμοσύνη σχετικά με τη δυνατότητα εφαρμογής της οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων και των εθνικών κανόνων περί αστικής ευθύνης, καθώς και βοήθεια για την ανάπτυξη κατευθυντήριων αρχών για πιθανές προσαρμογές της ισχύουσας νομοθεσίας που σχετίζεται με τις νέες τεχνολογίες. Απαρτίζεται από δύο συνθέσεις, τη «σύνθεση για την ευθύνη λόγω ελαττωματικών προϊόντων» και τη «σύνθεση για τις νέες τεχνολογίες», βλ. https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupDetail&groupID=3592&NewSearch=1&NewSearch=1&Lang=EL .

   Για την έκθεση της «σύνθεσης για τις νέες τεχνολογίες» σχετικά με την «ευθύνη για την τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες», βλ. https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .

(12)

     Εκτιμάται ότι περίπου το 90 % των τροχαίων ατυχημάτων προκαλείται από ανθρώπινα λάθη. Βλέπε την έκθεση της Επιτροπής σχετικά με τη διάσωση ζωών: Διάσωση ζωών: Ενίσχυση της ασφάλειας των αυτοκινήτων στην ΕΕ [COM(2016) 0787 final].

(13)

     Για παράδειγμα, ο οδηγός αυτοκινήτου μπορεί να προειδοποιείται για να επιβραδύνει σε περίπτωση που υπάρχει ατύχημα στον δρόμο του.

(14)

     ΟΟΣΑ (2018), "Measuring and maximising the impact of product recalls globally: OECD workshop report" («Μέτρηση και μεγιστοποίηση του αντίκτυπου των ανακλήσεων προϊόντων σε παγκόσμιο επίπεδο: Έκθεση εργαστηρίου του ΟΟΣΑ»), OECD Science, Technology and Industry Policy Papers (Έγγραφα πολιτικής του ΟΟΣΑ για την επιστήμη, την τεχνολογία και τη βιομηχανία), τεύχος 56, Εκδόσεις ΟΟΣΑ, Παρίσι, https://doi.org/10.1787/ab757416-en .

(15)

     ΟΟΣΑ (2018), "Enhancing product recall effectiveness globally: OECD workshop report" («Ενίσχυση της αποτελεσματικότητας της ανάκλησης προϊόντων σε παγκόσμιο επίπεδο: Έκθεση εργαστηρίου του ΟΟΣΑ»), OECD Science, Technology and Industry Policy Papers (Έγγραφα πολιτικής του ΟΟΣΑ για την επιστήμη, την τεχνολογία και τη βιομηχανία), τεύχος 58, Εκδόσεις ΟΟΣΑ, Παρίσι, https://doi.org/10.1787/ef71935c-en .

(16)

     Ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών σχετικά με την οικοδόμηση εμπιστοσύνης στην ανθρωποκεντρική τεχνητή νοημοσύνη, Βρυξέλλες, 8.4.2019 [COM(2019) 168 final].

(17)

   Οδηγία 2001/95/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 3ης Δεκεμβρίου 2001, για τη γενική ασφάλεια των προϊόντων (ΕΕ L 11 της 15.1.2002, σ. 4-17).

(18)

     ΕΕ C 136 της 4.6.1985, σ. 1.

(19)

     Κανονισμός (ΕΚ) αριθ. 765/2008 και απόφαση (ΕΚ) αριθ. 768/2008.

(20)

     Η δέσμη αυτή δεν περιλαμβάνει την ενωσιακή νομοθεσία για τις μεταφορές και τα αυτοκίνητα.

(21)

     Οδηγία 2001/95/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 3ης Δεκεμβρίου 2001, για τη γενική ασφάλεια των προϊόντων (ΕΕ L 11 της 15.1.2002, σ. 4-17).

(22)

     Κανονισμός (ΕΚ) αριθ. 765/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Ιουλίου 2008, για τον καθορισμό των απαιτήσεων διαπίστευσης και εποπτείας της αγοράς όσον αφορά την εμπορία των προϊόντων και για την κατάργηση του κανονισμού (ΕΟΚ) αριθ. 339/93 (ΕΕ L 218 της 13.8.2008, σ. 30-47, ELI: http://data.europa.eu/eli/reg/2008/765/oj ) και, από το 2021 και εξής, Κανονισμός (ΕΕ) 2019/1020 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 20ής Ιουνίου 2019, για την εποπτεία της αγοράς και τη συμμόρφωση των προϊόντων και για την κατάργηση της οδηγίας 2004/42/ΕΚ και των κανονισμών (ΕΚ) αριθ. 765/2008 και (ΕΕ) αριθ. 305/2011 (ΕΕ L 169 της 25.6.2019, σ. 1–44, ELI: http://data.europa.eu/eli/reg/2019/1020/oj).

(23)

     Άρθρο 8 παράγραφος 1 στοιχείο β) και παράγραφος 3 της οδηγίας για τη γενική ασφάλεια των προϊόντων.

(24)

   Για παράδειγμα, η οδηγία 2007/46/ΕΚ — έγκριση των μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους, και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά, και ο κανονισμός (ΕΕ) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 30ής Μαΐου 2018, για την έγκριση και την εποπτεία της αγοράς μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους, και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά, για την τροποποίηση των κανονισμών (ΕΚ) αριθ. 715/2007 και (ΕΚ) αριθ. 595/2009 και για την κατάργηση της οδηγίας 2007/46/ΕΚ.

(25)

     Η εικόνα αυτή δεν περιλαμβάνει τις απαιτήσεις της νομοθεσίας για τον κύκλο ζωής των προϊόντων, δηλαδή για τη χρήση και τη συντήρηση, και έχει ενδεικτικό και μόνο χαρακτήρα.

(26)

     Ειδοποίηση RAPEX από την Ισλανδία που δημοσιεύθηκε στον ιστότοπο της πύλης της ΕΕ για την ασφάλεια (A12/0157/19).

(27)

     Ειδοποίηση RAPEX από τη Γερμανία που δημοσιεύθηκε στον ιστότοπο της πύλης της ΕΕ για την ασφάλεια (A12/1671/15).

(28)

   Κανονισμός (ΕΕ) 2017/745 για τα ιατροτεχνολογικά προϊόντα.

(29)

   Οδηγία 2014/32/ΕΕ σχετικά με τη διαθεσιμότητα των οργάνων μετρήσεων στην αγορά.

(30)

   Οδηγία 2014/53/ΕΕ για τον ραδιοεξοπλισμό.

(31)

   Οδηγία 2007/46/ΕΚ — έγκριση των μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους, και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά. Από την 1η Σεπτεμβρίου 2020 η οδηγία θα καταργηθεί και θα αντικατασταθεί από τον κανονισμό (EE) 2018/858 για την έγκριση μηχανοκίνητων οχημάτων και των ρυμουλκουμένων τους και των συστημάτων, κατασκευαστικών στοιχείων και χωριστών τεχνικών μονάδων που προορίζονται για τα οχήματα αυτά, για την τροποποίηση των κανονισμών (ΕΚ) αριθ. 715/2007 και (ΕΚ) αριθ. 595/2009 και για την κατάργηση της οδηγίας 2007/46/ΕΚ.

(32)

   Κανονισμός (ΕΕ) 2019/881.

(33)

   Οδηγία 2006/42/EK σχετικά με τα μηχανήματα.

(34)

   Ενώ τα προϊόντα που βασίζονται στην τεχνητή νοημοσύνη μπορούν να δρουν αυτόνομα με αντίληψη του περιβάλλοντός τους και χωρίς να ακολουθούν προκαθορισμένη δέσμη οδηγιών, η συμπεριφορά τους περιορίζεται από τον στόχο που τους έχει τεθεί και άλλες συναφείς επιλογές σχεδιασμού που έχουν κάνει οι προγραμματιστές τους.

(35)

     Στην ενωσιακή νομοθεσία για την ασφάλεια των προϊόντων, οι παραγωγοί προβαίνουν στην εκτίμηση επικινδυνότητας με βάση τη σκοπούμενη χρήση του προϊόντος, την προβλέψιμη χρήση και/ή την ευλόγως προβλέψιμη κακή χρήση.

(36)

     Απόφαση αριθ. 768/2008/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 9ης Ιουλίου 2008, για κοινό πλαίσιο εμπορίας των προϊόντων και για την κατάργηση της απόφασης 93/465/ΕΟΚ του Συμβουλίου (ΕΕ L 218 της 13.8.2008, σ. 82-128). Το άρθρο R2 παράγραφος 7 του παραρτήματος Ι έχει ως εξής: «Οι κατασκευαστές εξασφαλίζουν ότι το προϊόν συνοδεύεται από οδηγίες και πληροφορίες ασφάλειας σε γλώσσα ευκόλως κατανοητή από τους καταναλωτές και άλλους τελικούς χρήστες, όπως έχει αποφασίσει το σχετικό κράτος μέλος.»

(37)

     Άρθρο 10 παράγραφος 8 που παραπέμπει στις οδηγίες για τον τελικό χρήστη και παράρτημα VI σχετικά με τη δήλωση συμμόρφωσης ΕΕ.

(38)

   Έως σήμερα, η «αυτοδιδασκαλία» χρησιμοποιείται στο πλαίσιο της τεχνητής νοημοσύνης κυρίως ως ένδειξη ότι οι μηχανές είναι ικανές να μαθαίνουν κατά τη διάρκεια της εκπαίδευσής τους· δεν απαιτείται ακόμη οι μηχανές τεχνητής νοημοσύνης να συνεχίζουν να μαθαίνουν μετά τη θέση τους σε λειτουργία· αντίθετα, ιδίως στον τομέα της υγειονομικής περίθαλψης, οι μηχανές τεχνητής νοημοσύνης συνήθως διακόπτουν τη μάθηση μετά την επιτυχή ολοκλήρωση της εκπαίδευσής τους. Ως εκ τούτου, στο εν λόγω στάδιο, η αυτόνομη συμπεριφορά που απορρέει από τα συστήματα τεχνητής νοημοσύνης δεν συνεπάγεται ότι το προϊόν εκτελεί καθήκοντα που δεν έχουν προβλεφθεί από τους προγραμματιστές.

(39)

     Αυτό συνάδει με την ενότητα 2.1 του «Γαλάζιου οδηγού του 2016 σχετικά με την εφαρμογή των κανόνων της ΕΕ για τα προϊόντα».

(40)

     Άρθρο 5 της οδηγίας 2001/95/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 3ης Δεκεμβρίου 2001, για τη γενική ασφάλεια των προϊόντων.

(41)

   Σε περίπτωση οποιασδήποτε αλλαγής στο σιδηροδρομικό σύστημα που ενδέχεται να έχει επιπτώσεις στην ασφάλεια (π.χ. τεχνική, επιχειρησιακή αλλαγή ή και οργανωτική αλλαγή που θα μπορούσε να επηρεάσει τη διαδικασία λειτουργίας ή συντήρησης), η εφαρμοστέα διαδικασία περιγράφεται στο παράρτημα Ι του εκτελεστικού κανονισμού (ΕΕ) 2015/1136 της Επιτροπής (ΕΕ L 185 της 14.7.2015, σ. 6).

   Σε περίπτωση «σημαντικής αλλαγής», θα πρέπει να υποβάλλεται στον προτείνοντα την αλλαγή έκθεση αξιολόγησης της ασφάλειας από ανεξάρτητο «φορέα εκτίμησης» (θα μπορούσε να είναι η εθνική αρχή ασφάλειας ή άλλος τεχνικά ικανός φορέας).

   Μετά τη διαδικασία ανάλυσης κινδύνου, ο προτείνων την αλλαγή εφαρμόζει τα κατάλληλα μέτρα για τον μετριασμό των κινδύνων (εάν ο προτείνων είναι σιδηροδρομική επιχείρηση ή διαχειριστής υποδομής, η εφαρμογή του κανονισμού αποτελεί τμήμα του οικείου συστήματος διαχείρισης της ασφάλειας, του οποίου η εφαρμογή εποπτεύεται από την Εθνική Αρχή Ασφαλείας).

(42)

     Policy and Investment Recommendations for Trustworthy AI (Συστάσεις πολιτικής και επενδύσεων για αξιόπιστη τεχνητή νοημοσύνη), ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη, Ιούνιος 2019.

(43)

     Ωστόσο, αυτό δεν αποκλείει το ενδεχόμενο να είναι απαραίτητη η εποπτεία σε δεδομένη κατάσταση λόγω ορισμένων από τις υφιστάμενες γενικότερες υποχρεώσεις σχετικά με τη διάθεση του προϊόντος στην αγορά.

(44)

   Καταστατικό του Παγκόσμιου Οργανισμού Υγείας (ΠΟΥ), πρώτη περίπτωση: «Υγεία είναι η κατάσταση πλήρους σωματικής, πνευματικής και κοινωνικής ευεξίας του ατόμου και όχι μόνο η απουσία ασθένειας ή αναπηρίας.» (https://www.who.int/about/who-we-are/constitution).

(45)

     Social Robots: Technological, Societal and Ethical Aspects of Human-Robot Interaction (Κοινωνικά ρομπότ: τεχνολογικές, κοινωνικές και δεοντολογικές πτυχές της αλληλεπίδρασης ανθρώπων-ρομπότ), σ. 237-264, έρευνα, Neziha Akalin, Annica Kristoffersson και Amy Loutfi, Ιούλιος 2019.

(46)

      https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top  

(47)

   Με βάση τις βασικές απαιτήσεις που πρότεινε η ομάδα εμπειρογνωμόνων υψηλού επιπέδου στις κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines .

(48)

   Κανονισμός (ΕΚ) αριθ. 765/2008 και απόφαση (ΕΚ) αριθ. 768/2008 και εναρμονισμένη τομεακή νομοθεσία για την ασφάλεια, π.χ. οδηγία 2006/42/ΕΚ για τα μηχανήματα.

(49)

     Το άρθρο 2 της οδηγίας για τη γενική ασφάλεια των προϊόντων προβλέπει ότι ένα ασφαλές προϊόν λαμβάνει υπόψη «[την] επίδραση[ς] που έχει το προϊόν αυτό σε άλλα, όταν είναι ευλόγως δυνατόν να προβλεφθεί ότι το προϊόν αυτό θα χρησιμοποιηθεί μαζί με άλλα προϊόντα».

(50)

     Παράρτημα I τμήμα 1.2.1 της οδηγίας για τα μηχανήματα.

(51)

    Ο «Γαλάζιος Οδηγός» του 2016 σχετικά με την εφαρμογή των κανόνων της ΕΕ για τα προϊόντα

(52)

     Οι μονάδες ραδιοσυχνοτήτων είναι ηλεκτρονικές συσκευές που μεταδίδουν και/ή λαμβάνουν ραδιοσήματα (WIFI, Bluetooth) μεταξύ δύο συσκευών.

(53)

   Άρθρο 3 παράγραφος 3 στοιχείο θ) της οδηγίας για τον ραδιοεξοπλισμό.

(54)

   Σύμφωνα με το άρθρο 16 παράγραφος 2 της οδηγίας 2014/33/ΕΕ.

(55)

   Σύμφωνα με την οδηγία 2014/33/ΕΕ για τους ανελκυστήρες, ο εγκαταστάτης είναι ισοδύναμος με τον κατασκευαστή και πρέπει να αναλαμβάνει την ευθύνη του σχεδιασμού, της κατασκευής, της εγκατάστασης και της διάθεσης στην αγορά του ανελκυστήρα.

(56)

   Το λεκτικό του παραρτήματος I άρθρο 1.7.4.2 της οδηγίας για τα μηχανήματα έχει ως εξής: «Κάθε εγχειρίδιο χρήσης πρέπει να περιλαμβάνει, κατά περίπτωση, τουλάχιστον τις ακόλουθες πληροφορίες: [...] θ) τις οδηγίες συναρμολόγησης, εγκατάστασης και σύνδεσης του μηχανήματος, συμπεριλαμβανομένων των σχεδίων, διαγραμμάτων και των μέσων στερέωσης και καθορισμό του πλαισίου ή της εγκατάστασης όπου πρόκειται να προσαρμοσθεί το μηχάνημα·»

(57)

     Εναρμονισμένοι για τα μηχανοκίνητα οχήματα με την οδηγία 2009/103/ΕΚ σχετικά με την ασφάλιση της αστικής ευθύνης που προκύπτει από την κυκλοφορία αυτοκινήτων οχημάτων και τον έλεγχο της υποχρεώσεως προς ασφάλιση της ευθύνης αυτής.

(58)

     Στα περισσότερα κράτη μέλη υφίσταται αντικειμενική ευθύνη του προσώπου στο όνομα του οποίου είναι καταχωρισμένο το μηχανοκίνητο όχημα.

(59)

   Liability for Artificial Intelligence and other emerging technologies’ Report (Έκθεση σχετικά με την ευθύνη για την τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες),

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .

(60)

   Liability for Artificial Intelligence and other emerging technologies’ Report (Έκθεση σχετικά με την ευθύνη για την τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες),

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .

(61)

   Πρβλ. τα συστήματα μη επανδρωμένων αεροσκαφών που αναφέρονται στον εκτελεστικό κανονισμό (ΕΕ) 2019/947 της Επιτροπής, της 24ης Μαΐου 2019, για τους κανόνες και τις διαδικασίες που διέπουν τη λειτουργία μη επανδρωμένων αεροσκαφών.

(62)

   Liability for Artificial Intelligence and other emerging technologies’ Report (Έκθεση σχετικά με την ευθύνη για την τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες),

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .

(63)

   Βλ. την έκθεση της σύνθεσης για τις νέες τεχνολογίες, σ. 3, και τη σύσταση πολιτικής 27.2. της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη.