31.8.2017   

RO

Jurnalul Oficial al Uniunii Europene

C 288/1

Raportor:

Catelijne MULLER

1.1

Inteligența artificială (IA) traversează în prezent o perioadă cu evoluții importante, găsindu-și rapid locul prin aplicațiile sale în toate domeniile societății. Dimensiunea pieței IA este de aproximativ 664 de milioane USD, fiind preconizată o creștere de până la 38,8 de miliarde USD până în 2025. Întrucât IA poate avea efecte atât pozitive, cât și negative asupra societății, CESE s-a angajat să urmărească cu atenție evoluțiile conexe, nu numai cele de natură tehnică, ci – în mod explicit – și din punct de vedere etic, social și din perspectiva siguranței.

1.2

Ca reprezentant al societății civile europene, CESE va defini, centraliza și promova în perioada următoare dezbaterea publică cu privire la IA, asociind la aceasta toate părțile interesate relevante: factori de decizie, întreprinderi, parteneri sociali, consumatori, ONG-uri, instituții de învățământ și medicale, experți și universitari de diverse discipline (între care IA, securitate, etică, economie, științele muncii, drept, studii comportamentale, psihologie, filosofie).

1.3

Tema dominantă în prezent este super-inteligența, care este desigur importantă, însă umbrește dezbaterea privind impactul actualelor aplicații ale IA. De aceea, misiunea și obiectivul acestui proces vor fi, printre altele, de a spori și extinde cunoștințele cu privire la IA, contribuind astfel la o dezbatere informată și echilibrată, fără a pleca de la cele mai proaste premise sau fără a relativiza la extrem. În acest sens, CESE se va strădui să promoveze dezvoltarea IA în beneficiul umanității. Totuși, acest proces va avea, de asemenea, ca sarcină importantă și obiectiv de a identifica, a semnala și a monitoriza evoluțiile disruptive din cadrul dezvoltării IA și a celor legate de aceasta, pentru a le aborda în mod adecvat și în timp util. Acest lucru va duce la sporirea încrederii și la implicarea societății civile și la sprijinirea în continuare a dezvoltării durabile și a utilizării inteligenței artificiale.

1.4

Dat fiind impactul transfrontalier al IA, va trebui să se adopte și cadre strategice mai largi decât nivelul național. CESE recomandă ca UE să-și asume un rol motrice la nivel mondial în adoptarea unor cadre de politică globale clare și uniforme pentru IA, în conformitate cu valorile europene și drepturile fundamentale. CESE poate și dorește să-și aducă contribuția în acest sens.

1.5

CESE semnalează 11 domenii în care IA implică provocări pentru societate: etica; securitatea; respectul vieții private; transparența și responsabilitatea; munca; educația și competențele; (in)egalitatea și incluziunea; legislația și reglementările; guvernanța și democrația; intervențiile militare; super-inteligența. Comitetul face în cele ce urmează anumite recomandări.

1.6

CESE pledează pentru o abordare human-in-command a IA, ale cărei condiții prealabile sunt dezvoltarea responsabilă, sigură și utilă a IA și în cadrul căreia mașinile rămân mașini, sub controlul permanent al ființei umane.

1.7

CESE pledează pentru introducerea unui cod deontologic pentru dezvoltarea, implementarea și utilizarea IA, astfel încât sistemele IA să rămână pe parcursul întregului proces compatibile cu următoarele principii: demnitate umană, integritate, libertate, respectarea vieții private, a diversității culturale și de gen și a drepturilor fundamentale ale omului.

1.8

CESE pledează pentru elaborarea unui sistem de standardizare pentru verificarea, validarea și controlul sistemelor IA, pe baza unei game largi de standarde de siguranță, transparență, facilitate de înțelegere și de explicare și valori etice.

1.9

CESE solicită o infrastructură IA europeană, compusă din medii de învățare cu sursă deschisă (open source) și care respectă viața privată, din medii de testare în situații reale (real life) și din seturi de date de înaltă calitate pentru dezvoltarea și alimentarea mecanismelor de învățare ale sistemelor de IA. CESE subliniază avantajul (concurențial) pe care UE îl poate obține un pe piața mondială prin dezvoltarea și promovarea unor sisteme europene responsabile de IA, certificate și etichetate ca atare.

1.10

UE, autoritățile naționale și partenerii sociali trebuie să identifice împreună ce sectoare ale pieței forței de muncă vor fi influențate de IA, în ce măsură și în ce interval de timp și să caute soluții pentru a atenua consecințele asupra ocupării forței de muncă, a conținutului muncii, a sistemelor sociale și a (in)egalității. De asemenea, ar trebui investit în acele sectoare ale pieței forței de muncă asupra cărora IA are o influență redusă sau neglijabilă.

1.11

CESE recomandă părților interesate să depună eforturi solidare pentru sisteme IA complementare și pentru co-crearea acestora la locul de muncă, cum ar fi echipele om-mașină, în cadrul cărora IA să completeze și să îmbunătățească performanțele umane. De asemenea, părțile interesate trebuie să investească în învățarea formală și non-formală, în educație și în cursuri accesibile tuturor, pentru a putea lucra cu IA, dar și pentru a dezvolta competențe care nu vor fi sau nu vor putea fi preluate de IA.

1.12

Este deja necesar să înceapă evaluarea concretă a legislațiilor și reglementărilor UE în cadrul celor 6 domenii de interes numite de STOA (Scientific Foresight Unit) care trebuie eventual să fie revizuite sau adaptate. CESE este capabil și dispus să joace un rol în acest proces de evaluare. CESE se împotrivește introducerii unei forme de personalitate juridică pentru roboți sau IA. Efectele corective preventive ale legislației în materie de răspundere civilă ar fi, astfel, prejudiciate și ar apărea un risc moral atât la dezvoltarea, cât și la utilizarea IA, creându-se posibilități de abuz.

1.13

Trebuie promovată și consolidată în mod activ dezvoltarea aplicațiilor de IA de care poate beneficia societatea, care promovează incluziunea și îmbunătățesc viața oamenilor, atât la nivel public, cât și privat. În cadrul programelor sale, Comisia Europeană trebuie să finanțeze cercetarea privind impactul social al IA și al inovațiilor în materie de IA finanțate de UE.

1.14

CESE susține apelul lansat de Human Rights Watch și alte organizații pentru interzicerea armelor autonome. CESE salută consultarea anunțată în acest sens în cadrul ONU, însă consideră că și utilizarea IA în războaiele cibernetice ar trebui să facă parte dintre subiectele acestei consultări ONU.

2.1

Nu există o definiție general acceptată, univocă și precisă a IA. IA este o noțiune generică pentru un mare număr de (sub)domenii, precum: cognitive computing [algoritmi capabili de raționament și înțelegere la un nivel mai înalt (mai asemănători cu mintea umană)], machine learning (algoritmi care învață singuri să îndeplinească sarcini), augmented intelligence (colaborare dintre om și mașină), AI robotics (IA integrată în roboți). Obiectivul central al cercetării și dezvoltării IA este însă automatizarea comportamentului inteligent, precum raționamentul, colectarea de informații, planificarea, învățarea, comunicarea, manipularea, semnalizarea, chiar și crearea, visarea și perceperea.

2.2

În linii mari, IA se clasifică în narrow AI și general AI. Narrow AI (IA restrânsă) este capabilă să îndeplinească sarcini specifice. General AI (IA generală) este capabilă să îndeplinească orice sarcină intelectuală pe care o poate îndeplini un om.

2.3

În domeniul narrow AI, s-au înregistrat în ultimul timp mari progrese, în special prin extinderea capacității de procesare a computerelor (computer processing power), prin disponibilitatea unei mari cantități de date și prin dezvoltarea învățării automatizate (machine learning) (ML). ML include algoritmi care învață singuri să îndeplinească sarcini specifice, fără a fi programați în acest sens. Această metodă se bazează pe prelucrarea „datelor de antrenament”, pe baza cărora algoritmul învață să recunoască tipare și să elaboreze reguli. Deep learning (DL), o formă a ML, folosește structuri de tipul rețelelor neuronale (neural networks) bazate într-o oarecare măsură pe creierul uman, și care învață prin intermediul exercițiului și prin feedback. Rezultatul acestor evoluții este că, între timp, sistemele de IA (prin intermediul algoritmilor) pot învăța singure, pot fi autonome și pot opera adaptări.

2.4

Accentul principal al cercetării și dezvoltării IA se pune de ceva timp pe elementele de raționament, colectarea cunoștințelor, planificare, comunicare și percepție (vizuală, auditivă și senzorială). Acest lucru a dus la un număr mare de utilizări ale IA: asistenți virtuali, mașini autonome, agregare automată a știrilor, recunoașterea vocii, programe de traducere, programe text-to-speak, comerț financiar automatizat, e-discovery juridic etc.

2.5

CESE semnalează că numărul aplicațiilor de IA și al investițiilor în aceasta a crescut exponențial în perioada recentă. Dimensiunea pieței de IA este, în prezent, estimată la aproximativ 664 de milioane USD și se așteaptă ca această sumă să crească la 38,8 de miliarde USD până în 2025.

3.1

Aproape nimeni nu contestă, practic, că IA poate avea mari avantaje sociale. Să ne gândim la următoarele aplicații: agricultură durabilă, siguranța traficului, un sistem financiar mai sigur, procese de producție mai ecologice, medicină mai bună, muncă mai sigură, educație mai personalizată, o mai bună administrare a justiției, o societate mai sigură. Este posibil chiar să contribuie la eradicarea bolii și a sărăciei. De asemenea, IA poate contribui considerabil la dezvoltarea industriei și la îmbunătățirea competitivității Uniunii Europene.

3.2

La fel ca în cazul oricărei tehnologii disruptive, IA implică însă și riscuri și provocări politice în domenii precum securitatea și asigurarea controlabilității, aspectele social-economice, etică și respectarea vieții private, fiabilitate etc.

3.3

Ne aflăm într-un moment crucial de stabilire a condițiilor (prealabile) pentru evoluția actuală și ulterioară a IA și utilizarea acesteia. Aceste avantaje ale IA pot fi obținute în mod durabil doar dacă provocările din jurul IA vor fi și ele abordate în mod adecvat. În acest scop, trebuie făcute niște alegeri politice.

(a)

Etică

3.4

Dezvoltarea IA ridică multe întrebări de natură etică. Care este impactul IA autonome (cu capacitate de auto-învățare) asupra integrității, autonomiei, demnității, independenței, egalității, securității și a libertății noastre personale de alegere? Cum ne asigurăm că normele noastre fundamentale, valorile și drepturile omului continuă să fie respectate și garantate?

3.5

În plus, dezvoltarea IA are loc în prezent în principal într-un mediu omogen, alcătuit, în principal, din bărbați tineri, albi, cu consecința că IA absoarbe în structură (în mod conștient sau nu) decalaje culturale și de gen deoarece, printre altele, sistemele de IA se formează pe bază de date de învățare. Aceste date trebuie să fie precise și totodată de bună calitate, variate, suficient de aprofundate și imparțiale. Există o tendință generală de a considera că datele sunt prin definiție obiective, însă este o concepție greșită. Datele sunt ușor de manipulat, pot fi tendențioase, reflectă prejudecăți și preferințe culturale, de gen și de alte tipuri și pot conține erori.

3.6

Sistemele IA dezvoltate în prezent nu conțin valori etice. Noi, oamenii, trebuie să le aplicăm sistemelor IA și mediului în care acestea sunt mobilizate. Dezvoltarea, mobilizarea și utilizarea sistemelor IA (atât la nivel public, cât și comercial) trebuie să aibă loc în limitele normelor, valorilor și libertăților noastre fundamentale și ale drepturilor omului. Prin urmare, CESE solicită elaborarea și stabilirea unui cod deontologic uniform la nivel mondial pentru dezvoltarea, implementarea și utilizarea IA.

(b)

Securitate

3.7

Utilizarea IA în lumea fizică duce în mod incontestabil la preocupări în materie de securitate. Se poate face o diferență între securitatea internă și cea externă.

3.8

CESE consideră că sistemele de IA pot fi puse în funcțiune doar dacă îndeplinesc cerințele specifice în materie de securitate internă și externă. Aceste cerințe ar trebui stabilite în comun de factorii de decizie politică și de specialiștii în IA, de întreprinderi și de organizațiile societății civile.

(c)

Transparență, înțelegere, posibilitatea garantării controlului, posibilitatea explicării comportamentelor

3.9

Acceptarea și dezvoltarea și utilizarea durabile ale IA sunt indisolubil legate de posibilitatea de a înțelege, controla și explica funcționarea, acțiunile și deciziile sistemelor IA, inclusiv retrospectiv.

3.10

Acțiunile și deciziile sistemelor de IA (ce rezultă din algoritmii inteligenți) afectează tot mai mult viața oamenilor. Printre exemple se numără utilizarea IA în activitățile polițienești bazate pe informații, evaluarea cererilor de credite ipotecare sau în procedura de autorizare pentru asigurări. Inteligibilitatea, controlabilitatea și posibilitatea de a explica procesul decizional al unui sistem de IA este de o importanță crucială în acest sens.

3.11

În acest moment, există multe sisteme IA care sunt deja foarte greu de înțeles pentru utilizatori. Acest lucru este însă valabil, în tot mai mare măsură, și pentru producătorii sistemelor. Mai ales rețelele neurale (neural networks) sunt deseori niște „cutii negre” în cadrul cărora au loc procese (de decizie) care nu mai pot fi înțelese și pentru care nu există mecanisme de explicare.

3.12

CESE pledează pentru sisteme de IA transparente, ușor de înțeles și controlabile, a căror funcționare trebuie explicată, chiar și post factum. În plus, ar trebui să se stabilească ce procese decizionale pot sau nu să fie lăsate pe seama sistemelor de IA și când ar trebui să fie de dorit sau obligatorie intervenția umană.

(d)

Respectarea vieții private

3.13

Respectarea vieții private în cadrul sistemelor IA reprezintă o sursă de îngrijorare. Există multe produse (de consum) dotate cu IA integrată: aparatură casnică, jucării pentru copii, automobile, dispozitive de monitorizare a sănătății (health tracker) sau telefoane inteligente. Toate aceste produse comunică date (deseori personale) pe platformele cloud ale producătorilor. Mai ales acum când comerțul cu date a explodat, ceea ce înseamnă că datele generate nu rămân la producător, ci sunt revândute către terți, apare preocuparea dacă respectarea vieții private este suficient garantată.

3.14

De asemenea, IA poate influența alegerile oamenilor în multe domenii (de la decizii comerciale și până la scrutine sau referendumuri) prin analiza unor volume mari de date (deseori) personale. Copiii constituie un grup deosebit de vulnerabil. CESE este îngrijorat de aplicațiile IA care vizează în mod explicit influențarea comportamentului și a dorințelor copiilor.

3.15

Trebuie evitat ca aplicarea IA la datele personale să limiteze libertatea reală sau percepută a oamenilor. Regulamentul general al UE privind protecția datelor (RGPD) prevede protecția consolidată a vieții private în ceea ce privește datele personale furnizate în format digital. Din perspectiva dezvoltării IA, trebuie controlat atent dacă dreptul la consimțământ informat și la libertatea de alegere în momentul transmiterii datelor, dar și de a avea acces la datele transmise, de a le adapta și verifica în practică este garantat în mod suficient.

(e)

Norme, standarde și infrastructură

3.16

Trebuie dezvoltate noi sisteme de standardizare pentru verificarea și validarea sistemelor de IA, pe baza unui spectru larg de standarde, pentru a putea evalua și controla securitatea, transparența, inteligibilitatea, explicabilitatea deciziilor și responsabilitatea etică a sistemelor IA.

3.17

CESE cere ca UE să-și dezvolte propria infrastructură de IA, constând în medii de învățare din surse deschise și care respectă viața privată și în seturi de date de înaltă calitate pentru dezvoltarea și antrenamentul sistemelor de IA. În acest sens, UE ar putea să obțină și un avantaj (concurențial) pe piața mondială, prin promovarea unor sisteme europene fiabile de IA. Comitetul recomandă ca examinarea posibilității de certificare și etichetare europeană a acestor sisteme.

(f)

Impactul asupra muncii și a ocupării forței de muncă, asupra condițiilor de muncă și a sistemelor sociale

3.18

În ce privește viteza și măsura în care se va întâmpla acest lucru, părerile diferă, însă este evident că IA va avea un impact asupra volumului ocupării forței de muncă și a naturii și caracterului unei mari părți a activităților lucrative și, prin urmare, și asupra sistemelor sociale.

3.19

Brynjolfsson și McAfee de la MIT denumesc actualele evoluții tehnologice (printre care și IA) „a doua eră a mașinilor”. Există, însă, două diferențe importante: (i) mașinile „din vechea generație” au înlocuit mai ales energia musculară, în timp ce cele noi substituie capacități intelectuale și cognitive, astfel încât această evoluție are impact nu doar asupra lucrătorilor cu calificare scăzută (blue collar workers), ci și a celor cu calificări medii și înalte (white collar workers); și (ii) IA este o tehnologie generică (general purpose technology) care are un impact simultan asupra tuturor sectoarelor.

3.20

IA poate avea mari avantaje atunci când este utilizată în cadrul activităților periculoase, grele, epuizante, murdare, neplăcute, repetitive sau monotone. Însă și munca de rutină și prelucrarea și analiza datelor sau munca în cadrul căreia planificarea sau predicția joacă un rol important, muncă desfășurată de regulă de persoane cu grad înalt de școlarizare, poate fi efectuată, în tot mai mare măsură, de sistemele IA.

3.21

Cele mai multe locuri de muncă presupun însă diverse activități. Este puțin probabil ca toate activitățile pe care le îndeplinește cineva să fie preluate de IA sau de roboți. Aproape fiecare persoană se va confrunta însă cu automatizarea unor părți ale activității sale profesionale. Timpul astfel eliberat poate fi folosit pentru alte sarcini, cu condiția ca autoritățile naționale și partenerii sociali să-și asume angajamente în acest sens. În acest context, este necesar să se țină seama de impactul pe care aceste evoluții îl pot avea asupra lucrătorilor și managerilor, promovându-li-se implicarea în proces, astfel încât să păstreze controlul asupra evoluțiilor și să nu devină victimele lor.

3.22

În același timp, vor apărea noi locuri de muncă. Nimeni nu poate prevedea însă în ce vor consta acestea, câte vor fi și cât de repede se va întâmpla acest lucru. Companii precum Google și Facebook reușesc să dezvolte o valoare uriașă cu un număr relativ mic de angajați. În plus, noile locuri de muncă nu sunt întotdeauna de cea mai bună calitate. Există îngrijorarea că, odată cu evoluția ulterioară a IA, mai rămân doar mini-sarcini slab plătite pentru un grup tot mai mare de lucrători flexibili.

3.23

IA nu va avea consecințe doar în privința cantității de muncă disponibilă, ci și asupra naturii muncii existente. Sistemele IA oferă tot mai multe posibilități pentru urmărirea și monitorizarea lucrătorilor, fiind periclitate astfel autonomia și viața privată. În prezent, munca este deja deseori stabilită și împărțită de niște algoritmi, fără intervenție umană, fapt care influențează natura muncii și condițiile de lucru. Există și riscul ca, în cazul folosirii sistemelor IA, activitățile să fie simplificate, iar unele competențe importante să fie uitate.

3.24

Cert este, însă, că tehnologia nu este ceva ce „ni se întâmplă”. Guvernele și partenerii sociali au posibilitatea de a determina modul în care IA este dezvoltată și aplicată în procesul muncii și trebuie să profite pe deplin de această posibilitate. Astfel, este important să ne concentrăm nu numai pe ce este capabilă să facă IA, ci mai ales pe ce sunt capabili să facă oamenii (creativitate, empatie, colaborare), pe lucrurile pe care dorim ca oamenii să continue să le facă, și să căutăm posibilități pentru ca omul și mașina să lucreze împreună (complementaritate).

3.25

Formele de augmented intelligence (complementaritate), în cadrul căreia omul și mașina colaborează și se consolidează reciproc, reprezintă cea mai interesantă utilizare a IA, întrucât este vorba despre om împreună cu mașina, nu despre om în locul mașinii. Co-crearea are de fapt o mare importanță: lucrătorii trebuie să fie implicați în dezvoltarea unor asemenea sisteme IA complementare pentru a se asigura că pot fi utilizate sistemele IA și că în munca lucrătorului există în continuare suficientă autonomie și control (human-in-command), împlinire și plăcere.

(g)

Educație și competențe

3.26

Menținerea la zi sau formarea competențelor digitale este necesară pentru a li se oferi oamenilor posibilitatea de a se adapta la evoluțiile rapide din domeniul IA. Comisia Europeană se angajează puternic în dezvoltarea competențelor digitale, prin intermediul Digital Skills and Jobs Coalition. Însă nu oricine va fi capabil sau interesat să codeze și să devină programator. De aceea, politica și mijloacele financiare trebuie să se îndrepte și spre educarea și dezvoltarea unor competențe din domenii care nu vor fi amenințate de sistemele IA (să ne gândim la sarcinile în care interacțiunea umană este prioritară, în care omul și mașina colaborează, sau la sarcini care ne-am dori să fie executate în continuare de oameni).

3.27

Dacă se pune accentul pe complementaritatea dintre om și IA (augmented intelligence), educația legată de interacțiunea și lucrul cu sistemele IA va fi necesară pentru toți și de la o vârstă fragedă, pentru a ne asigura că oamenii își pot păstra autonomia și controlul în munca desfășurată (human-in-command). De asemenea, este importantă și educația legată de etică și respectarea vieții private, întrucât IA are un mare impact în aceste domenii.

(h)

Accesibilitate, (in)egalitate socială, incluziune, distribuție

3.28

Cea mai mare parte din dezvoltarea IA și din toate elementele care țin de aceasta (platforme de dezvoltare, date, cunoștințe, expertiză) se concentrează în mâinile celor 5 mari companii de tehnologie (Amazon, Apple, Facebook, Google, Microsoft). Deși aceste companii sunt susținătoarele dezvoltării deschise a IA, iar unele dintre acestea își oferă platformele de dezvoltare ca open-source, nu este garantată accesibilitatea completă a sistemelor IA. UE, decidenții politici internaționali și organizațiile din societatea civilă îndeplinesc un rol important în acest sens, asigurându-se că sistemele IA sunt accesibile tuturor, dar și că dezvoltarea acestora are loc într-un mediu deschis.

3.29

Schimbările tehnologice favorabile capitalului, în cadrul cărora inovațiile oferă avantaje mai ales proprietarilor inovației, deteriorează poziția muncii în raport cu cea a capitalului. De asemenea, schimbările tehnologice pot conduce la inegalități (salariale) între persoane (atât la nivel local, cât și la nivel regional și global). IA poate intensifica aceste tendințe.

3.30

Este important ca aceste tendințe să fie monitorizate cu atenție și abordate în mod adecvat. Se pledează deja pentru un impozit pe IA, un dividend IA sau pentru distribuirea proprietății asupra sistemelor de IA între lucrători și angajatori. De asemenea, se vorbește din ce în ce mai mult despre necesitatea unui venit de bază necondiționat.

3.31

Într-un aviz anterior (1), CESE a evocat posibilitatea unor dividende digitale, care să fie repartizate echitabil pentru a obține efecte pozitive în materie de creștere. CESE acordă o importanță deosebită explorării tuturor acestor soluții, subliniind că trebuie să se găsească un echilibru just între efectele pozitive pentru om ale dezvoltării sistemelor de IA și eventualele efecte negative care pot decurge din aceste soluții. De asemenea, trebuie evitat hazardul moral determinat de situația în care răspunderea pentru sistemele IA ar fi transferată asupra unei entități care nu poate fi efectiv trasă la răspundere.

(i)

Legislație și reglementări

3.32

Implicațiile IA asupra legislației și reglementărilor existente sunt mari. STOA (Evaluarea opțiunilor științifice și tehnologice) efectuată de Parlamentul European în iunie 2016 a produs o sinteză a legislației și reglementărilor europene care vor fi afectate de evoluțiile din domeniul roboticii, al sistemelor cibernetico-fizice și al IA. STOA numește 6 domenii de interes – transporturi, sistemele cu utilizare duală, libertățile civice, securitate, sănătate, energie – în cadrul cărora e posibil să trebuiască să fie revizuite sau adaptate nu mai puțin de 39 de regulamente, directive, declarații, comunicări ale UE și Carta drepturilor fundamentale a Uniunii Europene. Această evaluare trebui abordată în mod urgent și hotărât, iar CESE poate și dorește să joace un rol în acest proces.

3.33

Există multe discuții cu privire la cine poate fi tras la răspundere dacă un sistem IA provoacă daune, cu atât mai mult în condițiile în care sistemul IA are capacitatea de autoînvățare și își continuă învățarea după punerea sa în funcțiune. Parlamentul European a prezentat o serie de recomandări pentru legislația civilă cu privire la robotică, cu propunerea de a acorda roboților o așa-numită e-personalitate, astfel ca aceștia să poată fi trași la răspundere în materie civilă pentru daunele pe care le-ar putea provoca. CESE se declară împotriva introducerii oricărei forme de statut juridic pentru roboți sau sistemele de IA, întrucât acest demers induce un risc inacceptabil de hazard moral. Legislația în materie de răspundere civilă are un efect preventiv de corectare a comportamentului, care poate dispărea odată ce riscul răspunderii nu îi mai revine fabricantului, întrucât acesta a fost redirecționat către robot (sau către sistemul IA). În plus, există riscul de utilizare improprie și abuzivă a unui asemenea statut juridic. Comparația cu răspunderea limitată a societăților este eronată în acest caz, întrucât în acea situație responsabilul ultim este întotdeauna o persoană fizică. În acest sens, trebuie analizat în ce măsură legislația și reglementările, precum și jurisprudența actuală națională și europeană din domeniul răspunderii (pentru produs și risc) și al culpei proprii oferă suficiente răspunsuri la această întrebare și dacă nu, care sunt soluțiile juridice oferite.

3.34

Pentru o abordare corectă a legislației și reglementărilor din cadrul IA, este vital să avem și o înțelegere clară cu privire la ceea ce IA poate, ceea ce nu poate și ceea ce este posibil să poată în viitor pe termen scurt, mediu și lung.

3.35

IA nu se oprește la granițe. Ca atare, este important să se evalueze necesitatea unei reglementări globale, întrucât legislația regională nu va fi suficientă și va avea chiar efecte nedorite. Date fiind sistemul său verificat de standarde privind produsele și siguranța, tentațiile protecționiste de pe alte continente, nivelul ridicat de cunoștințe din Europa, sistemul european de drepturi fundamentale, valori sociale și dialog social, CESE recomandă ca UE să-și asume rolul de lider în crearea unor cadre strategice clare și globale în materie de IA și de stimulare la nivel mondial a acestui proces.

(j)

Guvernanță și democrație

3.36

Aplicațiile de IA pot contribui la o mai mare implicare a cetățenilor în politicile publice și la sporirea transparenței procesului decizional. CESE invită UE și guvernele naționale să utilizeze IA în acest scop.

3.37

CESE este preocupat de utilizarea direcționată a sistemelor de IA (sub forma algoritmilor inteligenți) pentru agregarea știrilor, de exemplu, pe platformele de comunicare socială, ceea ce induce limitarea informației și sporirea clivajelor din societate (exemple în acest sens fiind „bulele filtrante” și informațiile false de pe Twitter și Facebook în timpul alegerilor din SUA).

3.38

De asemenea, CESE este preocupat de semnalele care trimit la o posibilă utilizare a sistemelor de IA pentru a influența comportamentul (la vot al) cetățenilor. Prin intermediul așa-numiților „algoritmi inteligenți”, preferințele și comportamentul oamenilor ar putea fi prevăzute și influențate într-o anumită direcție. Acest lucru reprezintă o amenințare la adresa unei democrații echitabile și deschise. În actuala eră a polarizării și a dezmembrării instituțiilor internaționale, precizia și forța unei asemenea tehnologii de propagandă pot garanta rapid o mai mare dislocare a societății. Acesta este unul dintre motivele pentru care este nevoie de introducerea unor standarde de transparență și controlabilitate a algoritmilor (inteligenți).

(k)

Conflicte armate

3.39

Prin Convenția ONU privind interzicerea anumitor tipuri de arme convenționale s-a hotărât ca, în 2017, implicațiile armelor autonome să fie evaluate de experți. CESE salută acest lucru și susține apelul lansat de Human Rights Watch în vederea interzicerii sistemelor de arme autonome. CESE consideră că o astfel de interdicție ar trebui analizată și avută în vedere în mod serios. Acest lucru nu este, însă, suficient pentru a aborda posibilitățile IA în cadrul situațiilor de război și de conflict. Și utilizările IA în războiul cibernetic ar trebui să facă parte dintre subiectele acestei consultări ONU.

3.40

În plus, trebuie evitat ca IA să ajungă în mâinile unor oameni sau regimuri care urmăresc să o folosească în activități teroriste.

(l)

Super-inteligență

3.41

În final, se pune întrebarea care sunt posibilitățile și riscurile dezvoltării super-inteligenței. În opinia lui Stephen Hawking, dezvoltarea IA generale va însemna deja sfârșitul omenirii. După Hawking, în acel moment, IA se va dezvolta în continuare într-un ritm cu care oamenii nu vor mai putea ține pasul. De aceea, există experți care optează pentru un așa-numit disjunctor (kill-switch sau reset-button), cu care am putea dezactiva sau reseta un sistem de IA devenit incontrolabil sau super-inteligent.

3.42

CESE pledează pentru o abordare de tipul human-in-command, având drept condiție prealabilă dezvoltarea și utilizarea responsabilă și sigură a IA, în care mașinile să rămână mașini, iar oamenii să poată păstra mereu controlul asupra acestor mașini. Discuția cu privire la super-inteligență este, ca atare, importantă, însă în acest moment eclipsează dezbaterea cu privire la utilizările actuale ale IA.

4.1

Mari operatori comerciali (cum este cazul OpenAI) au adoptat între timp diverse inițiative pentru dezvoltarea unei IA deschise, sigure și responsabile din punct de vedere social. Însă decidenții politici nu pot lăsa acest lucru la latitudinea companiilor și trebuie să joace un rol bine definit în această chestiune. Este nevoie de măsuri țintite și de sprijinirea cercetării legate de provocările societale din jurul IA, dar și de dezvoltarea unor sisteme de IA sigure și robuste, aflate în serviciul umanității.

4.2

Programele UE (între care Orizont 2020) sunt prin excelență adecvate pentru a aborda această provocare. CESE a constatat că finanțarea în special a pilonului Societal Challenges al Orizont 2020 „rămâne în urmă” față de cea din cadrul celorlalți doi piloni Excellent Science și Industrial Leadership și că suferă o reducere. CESE insistă să se recunoască importanța cercetării din cadrul pilonului Societal Challenges legată de marile provocări societale și de utilizările IA în societate.

4.3

De asemenea, trebuie abordate și posibilele efecte transversale ale IA. În paralel cu dezvoltarea inovațiilor disruptive din domeniul IA, trebuie finanțate cercetarea impactului social al acestor inovații și găsirea mijloacelor pentru a soluționa această chestiune.

4.4

Cercetarea și dezvoltarea unei IA aflate în serviciul umanității necesită, de asemenea, o varietate de date de antrenament și de testare de înaltă calitate, disponibile în mod deschis, precum și medii de testare în situație reală (real life). Până în prezent, infrastructura IA și datele de foarte bună calitate sunt disponibile doar la și pentru un număr limitat de părți private și există obstacole în calea testării IA în spațiul public, fapt care împiedică aplicarea IA în alte domenii. Dezvoltarea datelor de înaltă calitate, disponibile în mod deschis, și a unei infrastructuri europene a IA este crucială pentru a obține o IA sigură, robustă și utilă.

5.1

Impactul social larg al IA nu poate fi încă perceput pe deplin. Este, însă, incontestabil faptul că impactul va fi ridicat. În prezent, evoluțiile din domeniul IA se succed într-un ritm rapid, fapt care impune o monitorizare critică dintr-o perspectivă largă pentru a putea aborda în mod adecvat și în timp util evoluțiile importante și disruptive, atât de natură tehnică, cât și socială, din cadrul și din jurul IA (evoluții decisive sau „game-changers”).

5.2

Evoluțiile decisive de natură tehnică pot fi definite ca salturi vizibile sau semnificative în dezvoltarea competențelor legate de IA, care pot fi elemente precursoare ale dezvoltării unei IA generale. În ceea ce privește evoluțiile decisive de natură socială, pot fi avute în vedere pierderile considerabile de locuri de muncă fără perspectiva unor locuri de muncă alternative, situațiile nesigure, disfuncțiile sistemului, evoluțiile internaționale neașteptate etc.

5.3

Decidenții politici, industria, partenerii sociali, consumatorii, ONG-urile, instituțiile de învățământ și cele sanitare, reprezentanți ai mediului universitar și specialiști din cadrul diverselor discipline [printre care IA (aplicată), etică, securitate, economie, științele muncii, drept, științe comportamentale, psihologie, filosofie] trebuie să urmărească împreună îndeaproape evoluțiile din jurul IA și să identifice și să se mențină la curent cu aceste evoluții decisive, pentru a adopta măsurile corecte la momentul potrivit, sub forma politicilor, a legislației și reglementărilor, a autoreglementării și dialogului social.

5.4

În calitatea sa de reprezentant al societății civile europene, CESE va defini, centraliza și anima în perioada următoare această dezbatere între mai multe părți interesate în jurul IA.