EUR-Lex Access to European Union law

Back to EUR-Lex homepage

This document is an excerpt from the EUR-Lex website

Document EESC-2018-02369-AS

Inteligența artificială pentru Europa

EESC-2018-02369-AS

RO

Comitetul Economic și Social European

INT/851

Inteligența artificială pentru Europa

AVIZ

Secțiunea pentru piața unică, producție și consum


Comunicare a Comisiei către Parlamentul European, Consiliul European, Consiliu, Comitetul Economic și Social European și Comitetul Regiunilor – Inteligența artificială pentru Europa
[COM(2018) 237 final]

Administrator

Alice TETU

Data documentului

07/09/2018

Raportor: Giuseppe GUERINI

Coraportor: Gonçalo LOBO XAVIER

Sesizare

Comisia Europeană, 12/07/2018

Temei juridic

Articolul 304 din Tratatul privind funcționarea Uniunii Europene

Secțiunea competentă

Secțiunea pentru piața unică, producție și consum

Data adoptării în secțiune

04/09/2018

Data adoptării în sesiunea plenară

DD/MM/YYYY

Sesiunea plenară nr.

Rezultatul votului
(voturi pentru/voturi împotrivă/abțineri)

…/…/…



1.Concluzii și recomandări

1.1CESE consideră că inteligența artificială („IA“) și procesele de automatizare au un potențial enorm de îmbunătățire a societății europene în ceea ce privește inovarea și transformarea pozitivă, dar că dau naștere totodată unor provocări, riscuri și preocupări semnificative. Prin urmare, este esențial ca instituțiile europene să ia rapid măsuri cuprinzătoare, menite să dezvolte și să reglementeze pe deplin IA.

1.2O abordare avansată a IA în Europa trebuie să acopere mai multe domenii, printre care: i) investițiile publice și private în cercetare și dezvoltare și în infrastructuri digitale avansate; ii) punerea în aplicare a unor noi norme legislative sau adaptarea normelor aplicabile existente; iii) dezvoltarea unor cunoștințe adecvate și conștientizarea corespunzătoare în rândul cetățenilor și al consumatorilor și iv) programe de formare specifice pentru lucrători.

1.3În special provocările în materie de responsabilitate care apar în contextul noilor tehnologii digitale emergente ar trebui să fie identificate și abordate în mod sistematic la nivel internațional, la nivelul UE și la nivelul statelor membre, iar CESE dorește să colaboreze îndeaproape cu instituțiile UE în cadrul analizei și evaluării întregii legislații a UE privind responsabilitatea, siguranța produselor și răspunderea civilă, care necesită modificări corespunzătoare.

1.4CESE este de acord cu obiectivul comunicării Comisiei, și anume de a consolida capacitatea industrială și tehnologică a UE în scopul unei utilizări tot mai ample a IA în cadrul întregii piețe interne. Efortul necesar pentru a ține pasul cu alți actori globali este atât de substanțial, încât este foarte mare nevoie de coordonarea tuturor instrumentelor și finanțărilor disponibile la nivel european și național.

Acestea fiind spuse, valorile și principiile UE nu ar trebui să fie sacrificate în numele competitivității globale.

1.5În ceea ce privește obiectivul Comisiei de „a aduce IA la toți potențialii utilizatori, cu accent pe întreprinderile mici și mijlocii“, CESE consideră că abordarea provocării competitivității globale impune ca IA să fie accesibilă cât mai multor entități. Prin urmare, este esențial ca ea să fie pusă la dispoziția tuturor formelor diferite de întreprinderi active de pe piața unică europeană, inclusiv a IMM-urilor, fermierilor, întreprinderilor sociale, cooperativelor, întreprinderilor individuale și asociațiilor de protecție a consumatorilor.

1.6Comisia Europeană și statele membre ar trebui să conlucreze pentru a elabora orientări privind etica inteligenței artificiale și să implice în aceste eforturi toate părțile interesate publice și private relevante. Aceste orientări vor trebui să includă principii privind transparența în ce privește utilizarea sistemelor de IA pentru angajarea de lucrători sau pentru controlul și evaluarea performanțelor acestora. În plus față de principiile etice, CESE sugerează că ar trebui dezvoltat la nivel european un cadru juridic clar, armonizat și obligatoriu, pentru a reglementa în mod corespunzător IA și a actualiza normele existente afectate de IA, în special cele referitoare la răspunderea producătorului și protecția consumatorilor. CESE ar dori să colaboreze îndeaproape cu instituțiile UE în cadrul analizei și evaluării legislației UE relevante, care va necesita, pe viitor, modificări ca urmare a dezvoltării IA.

1.6.1Totodată, Comisia Europeană va trebui să întreprindă o evaluare atentă a efectelor IA asupra pieței forței de muncă. Această examinare trebuie să țină seama atât de posibila înlocuire a unora dintre lucrători cu dispozitive electronice sau cu roboți, cât și de faptul că anumite funcții, deși nu complet automatizate, vor fi profund schimbate de noile tehnologii.

1.7Din acest motiv, CESE recomandă ca dorința declarată conform căreia „nimeni nu trebuie lăsat în urmă“ să nu rămână o simplă propunere sau un îndemn, ci să se traducă în fapte concrete.

1.8Este important să se sublinieze rolul programelor de formare educațională în protejarea lucrătorilor din Europa care operează într-un mediu profund schimbat de apariția progresivă a IA. Cetățenii Europei ar trebui să aibă acces la informații adecvate, care să le permită să fie utilizatori responsabili și informați ai dispozitivelor și aplicațiilor puse la dispoziție de dezvoltarea tehnologică rapidă.

1.9În cazurile în care noile măsuri permit administrațiilor publice să utilizeze tehnologia pentru a lua decizii organizaționale și a face alegeri mai repede, va fi necesar să se abordeze chestiunea responsabilității juridice efective în privința acestor decizii într-un cadru legislativ clar, care să garanteze responsabilitatea deplină a administrației față de cetățeni.

1.10O atenție deosebită ar trebui acordată rolului societății civile și al organizațiilor economiei sociale în creșterea participării active a cetățenilor la procesele economice și sociale care, datorită inteligenței artificiale, vor spori gradul de participare la viața societăților noastre. Organizațiile societății civile și întreprinderile sociale pot juca un rol important în promovarea înțelegerii și a acceptării tehnologiilor de către cetățeni, în special prin mecanisme de colaborare care să permită implicarea oamenilor în transformarea digitală în curs de desfășurare.

1.11Actuala revoluție tehnologică nu poate și nu trebuie să fie concretizată fără o includere activă și semnificativă a lucrătorilor, a consumatorilor și a organizațiilor sociale, iar evoluțiile tehnologice în curs trebuie direcționate în așa fel încât să asigure o participare mai amplă și mai responsabilă a unor cetățeni pe deplin informați. Din acest motiv, CESE recomandă ca, la înființarea Alianței europene pentru inteligența artificială, Comisia Europeană să țină seama de necesitatea de a crea o platformă incluzivă, multiprofesională și reprezentativă pentru diferitele părți interesate care îi reprezintă pe cetățenii europeni, inclusiv reprezentanții lucrătorilor, întrucât aceștia vor trebui să interacționeze cu mașini inteligente 1 .

2.Observații generale

2.1Zi de zi, dispozitivele digitale și echipamentele de învățare automată la scară largă sporesc capacitatea algoritmilor de a lucra cu cantități uriașe de date, fiind de așteptat ca această capacitate să crească și mai mult în viitor, datorită „rețelelor de tip neural“ (utilizate deja, de exemplu, de telefoanele inteligente pentru recunoașterea vizuală a obiectelor, fețelor și imaginilor).

2.2Asemenea evoluții transformă modul obișnuit de „învățare” pe care se bazau până acum dispozitivele IA, care nu se mai limitează la învățarea prin extragerea de reguli din date, ci dezvoltă, de asemenea, o capacitate de învățare flexibilă și adaptivă. Acest proces va spori capacitatea IA de a învăța și de a acționa în lumea reală.

2.3Având în vedere schimbările tehnologice foarte rapide în curs de desfășurare, este esențial ca Comisia Europeană și statele membre să conlucreze pentru a efectua o examinare aprofundată a provocărilor care se prefigurează ca urmare a dezvoltării rapide a IA și să implice în acest proces toate părțile interesate publice și private relevante, fără a submina oportunitățile în materie de progres și dezvoltare tehnologică.

2.4Comunicarea COM(2018) 237 a Comisiei urmărește să consolideze capacitatea industrială și tehnologică a UE și să încurajeze utilizarea tot mai amplă a IA în întreaga economie europeană – atât în sectorul privat, cât și în administrația publică. După cum a menționat anterior într-unul dintre avizele sale din proprie inițiativă 2 , CESE sprijină inițiativa Comisiei, care, de fapt, include în comunicarea sa numeroase sugestii formulate anterior de Comitet, însă îndeamnă Comisia să acționeze prompt și decisiv.

2.5Adoptarea unei abordări europene eficace față de IA implică încurajarea unor investiții semnificative în cercetare și inovare, inclusiv în infrastructurile digitale – investiții necesare pentru pregătirea confruntării societăților și piețelor europene cu provocările socioeconomice majore pe care progresele în domeniul noilor tehnologii le vor genera în următorii ani.

2.6Comisia Europeană și statele membre ar trebui să conlucreze pentru a elabora o serie de orientări privind etica inteligenței artificiale și să implice în acest proces toate părțile interesate publice și private relevante.

2.7Totodată, trebuie adoptat un cadru legislativ armonizat la nivel european, în conformitate cu Carta drepturilor fundamentale a UE și cu principiile consacrate în tratatele UE. Noul cadru de reglementare ar trebui să conțină norme precise, care să abordeze riscurile pe care le implică învățarea automată, cum ar fi lipsa de transparență a pieței, lipsa concurenței, discriminarea, practicile comerciale neloiale, amenințările la adresa securității cibernetice și a siguranței produselor.

În special, măsurile reglementare de protecție ar trebui să fie stricte în situațiile în care datele după care se conduc sistemele de inteligență artificială sunt preluate automat în cursul utilizării de dispozitive electronice și de calculatoare.

2.8CESE constată că documentul de lucru al serviciilor Comisiei [SWD (2018) 137 final] anexat la comunicarea Comisiei analizează în mod corespunzător implicațiile IA asupra legislației UE și descrie provocările în materie de responsabilitate care apar în contextul noilor tehnologii digitale.

2.9În plus, vor fi necesare planuri de acțiune cuprinzătoare pentru: i) sprijinirea modernizării sistemelor de educație și formare profesională prin dezvoltarea noilor competențe necesare pe piața forței de muncă din viitor și ii) garantarea unui nivel ridicat de protecție pentru cetățeni și lucrători în raport cu provocările preconizate 3 .

2.10CESE încurajează Comisia să ia cât mai curând măsuri suplimentare în materie de reglementare și de promovare a investițiilor: actualul ritm rapid al schimbărilor necesită o adaptare promptă.

3.Propunerea Comisiei Europene: sprijin și investiții europene în materie de inteligență artificială

3.1Comisia anunță în comunicarea sa că va sprijini difuzarea IA în ce privește atât domeniul cercetării de bază, cât și cel al aplicațiilor industriale. În acest sens, CESE subliniază importanța implicării în cadrul unui astfel de proces a tuturor tipurilor de actori, inclusiv a IMM-urilor, a societăților de servicii, a întreprinderilor sociale, a fermierilor, a cooperativelor, a asociațiilor de protecție a consumatorilor și a asociațiilor reprezentative ale persoanelor în vârstă.

3.2În ceea ce privește obiectivul Comisiei de „a aduce IA la toți potențialii utilizatori, cu accent pe întreprinderile mici și mijlocii“, CESE consideră că abordarea provocării legate de competitivitatea globală impune ca IA să fie accesibilă cât mai multor entități. În plus față de ceea ce Comisia a planificat deja pentru a dezvolta o „platformă de IA la cerere“, este, de asemenea, important să se stabilească forme adecvate de implicare și consultare a diferitelor părți interesate, inclusiv a IMM-urilor, a rețelelor economiei sociale și a organizațiilor societății civile (acestea din urmă având un rol esențial în implicarea cetățenilor europeni într-un mod informat și activ).

3.3Comisia a anunțat că va sprijini inovarea bazată pe inteligența artificială printr-un proiect-pilot instituit de Consiliul European pentru Inovare, cu un buget de 2,7 miliarde EUR pentru perioada 2018-2020.

3.4CESE consideră că această inițiativă ar putea fi utilă pentru dezvoltarea IA, dar subliniază în același timp că finanțarea cercetării ar trebui să treacă rapid de la faza de experimentare la etapa structurală. De asemenea, este important ca Comisia să încurajeze diferitele centre de cercetare aflate în prezent în statele membre, pentru a dezvolta o rețea de colaborare la nivel european dedicată inteligenței artificiale.

3.5CESE ia act de intenția Comisiei de a majora investițiile în IA în cadrul programului Orizont 2020 la aproximativ 1,5 miliarde EUR până la sfârșitul anului 2020. Dacă va fi adoptată rapid în cadrul parteneriatelor public-privat actuale, această abordare ar putea genera investiții suplimentare de 2,5 miliarde EUR în decurs de doi ani. Aceeași abordare trebuie să fie adoptată și în viitorul program-cadru Orizont Europa.

3.6Din altă perspectivă, este un semn bun că Comisia Europeană și Fondul european pentru investiții strategice – care ar trebui să joace un rol de coordonare central în sprijinul dezvoltării IA în UE – au lansat programul „VentureEU“, un fond cu capital de risc de 2,1 miliarde EUR, pentru a stimula investițiile în firme inovatoare pe întregul teritoriu al Europei.

3.7Cu toate acestea, efortul necesar pentru a ține pasul cu alți actori globali este atât de amplu, încât este foarte mare nevoie de coordonarea și sinergia tuturor instrumentelor și finanțărilor disponibile la nivel european și național. Este clar că, pentru a concura cu China și Statele Unite în domeniul IA, se impune reunirea forțelor tuturor actorilor publici și privați care operează la nivel european, pentru a se garanta că UE joacă un rol de lider pe plan mondial.

3.8Pentru a permite UE să devină un actor competitiv în ceea ce privește IA, va fi, de asemenea, important să se realizeze investiții adecvate în resurse corespunzătoare de echipamente informatice hardware și software și în infrastructuri digitale capabile să garanteze UE un rol credibil în acest sens.

3.9Investițiile în IA ar trebui să ia în considerare faptul că întreprinderile europene sunt deosebit de puternice în domeniile automatizării și roboticii. Astfel de sectoare, care fac parte din IA în sens larg, ar putea, prin urmare, să se dovedească cu adevărat importante pentru a garanta că UE joacă un rol semnificativ pe scena mondială în ceea ce privește dezvoltarea tehnologică în curs de desfășurare și, ca atare, merită o atenție specială.

4.Inteligența artificială și impactul său asupra oamenilor și a lucrătorilor

4.1Este incontestabil faptul că dezvoltarea IA avansează într-un ritm foarte rapid. Din acest motiv, instituțiile europene, atunci când evaluează impactul fiecărei măsuri de reglementare privind inteligența artificială, trebuie să adopte o abordare pluridisciplinară care să ia în considerare nu numai aspectele administrative, juridice și economice, ci și considerații antropologice, psihologice, sociologice și tehnologice.

4.2Pentru a susține aceste inovații, dar mai ales pentru a le orienta într-o direcție care să garanteze că ființele umane vor deține în continuare un rol central, este important ca Uniunea Europeană să acționeze pentru a atinge un nivel ridicat de competitivitate tehnologică fără a pierde din vedere considerațiile etice, sociale și umane esențiale.

4.3CESE consideră, prin urmare, că este esențial ca: i) protecția vieții private a persoanelor și prelucrarea responsabilă a datelor acestora să fie reglementate de o legislație adecvată, de exemplu prin lansarea efectivă a noului Regulament general privind protecția datelor, care va trebui, după caz, să fie actualizat în mod constant pentru a ține pasul cu dezvoltarea rapidă a IA; ii) o serie de acte importante ale legislației UE aplicabile să fie evaluate și, după caz, adaptate noilor scenarii generate de IA și iii) să fie dezvoltate competențele și abilitățile de care oamenii, administrațiile și întreprinderile din Europa au nevoie pentru a beneficia cu adevărat de avantajele oferite de inteligența artificială.

4.4Ca punct de plecare al analizei preconizate, merită observat faptul că IA se bazează pe utilizarea și prelucrarea unor cantități mari de date, care constituie fundamentul oricărei aplicații bazate pe tehnologii noi. În aceste condiții, principala provocare pentru autoritatea europeană de reglementare este instituirea unui acces transparent și reglementat la datele utilizatorilor finali.

4.5Cu cât calitatea datelor prelucrate este mai bună, cu atât mai mare este precizia și performanța sistemelor IA. Cu toate acestea, nu trebuie uitat faptul că datele referitoare la persoane trebuie să fie dobândite în mod legal și să fie utilizate în moduri cunoscute celor vizați în mod direct, pentru a garanta o utilizare a datelor personale în scopurile predeterminate și transparente pentru care utilizatorul și-a dat anterior consimțământul în mod adecvat și în cunoștință de cauză.

4.6Trebuie remarcat faptul că, pentru a proteja consumatorii finali, ar putea fi necesar să se schimbe și să se adapteze în mod corespunzător mai multe părți importante din legislația europeană – cum ar fi cele privind publicitatea online, practicile comerciale neloiale, siguranța produselor și răspunderea, drepturile consumatorilor, clauzele contractuale abuzive, vânzările și garanțiile, asigurările și indicațiile de prețuri – la noile scenarii declanșate de utilizarea mai extinsă și mai rafinată a inteligenței artificiale.

4.7Aspectul decisiv legat de siguranța produselor și de răspunderea pentru produse a fost luat în considerare în mod corespunzător de Comisie în documentul său de lucru SWD(2018) 137 final, prin analiza unor studii de caz și prin prezentarea unei liste de acte legislative ale UE care merită să facă obiectul unor analize și evaluări mai aprofundate. CESE încurajează Comisia să continue aceste eforturi și este dispus să își aducă propria contribuție în acest sens.

4.8Este important să se sublinieze rolul formării culturale, educaționale și academice, pe de o parte, și al furnizării unor informații adecvate destinate publicului larg, pe de altă parte, pentru protejarea drepturilor cetățenilor europeni în contextul progreselor înregistrate de IA. În special, este important să se asigure transparența și corectitudinea în gestionarea algoritmilor de IA și a bazelor de date de care depinde funcționarea lor.

4.9Prin urmare, este esențial ca cetățenii Europei să beneficieze de o formare adecvată, precum și de informații simple și ușor de înțeles, care să le permită să fie utilizatori responsabili și informați ai dispozitivelor și aplicațiilor puse la dispoziție de evoluția tehnologică rapidă de la ora actuală, care devine din ce în ce mai răspândită la toate nivelurile.

4.10Date fiind toate aceste solicitări, UE și statele membre trebuie să ofere soluții clare și eficiente, în special prin promovarea unui sistem modern de învățământ și prin extinderea continuă a formării pe tot parcursul vieții pe piața muncii și în rândul societății civile.

4.11Comisia Europeană va trebui să efectueze o evaluare atentă a efectelor IA asupra pieței forței de muncă. Aceasta este o preocupare majoră pentru mulți lucrători europeni care au avansat în carieră, dar sunt încă departe de vârsta de pensionare, și care se uită cu neîncredere și teamă la schimbările care au loc. Examinarea trebuie să țină seama atât de posibila înlocuire a unora dintre lucrători cu dispozitive electronice sau cu roboți, cât și de faptul că anumite funcții, deși nu complet automatizate, vor fi profund schimbate de noile tehnologii. Prin urmare, examinarea și evaluarea ar trebui să se concentreze nu numai pe schimbările inevitabile și așteptate ale liniilor de producție, ci și pe regândirea proceselor organizaționale și a obiectivelor de afaceri, în urma desfășurării unui dialog social adecvat cu lucrătorii.

4.12În anumite situații, astfel cum se întâmplă și s-a întâmplat în cazul multor alte tehnologii, este recomandabil să se testeze IA în etape și grade succesive de adaptare, înainte de utilizarea deplină, pentru a le permite celor implicați să se simtă în siguranță atunci când utilizează noile tehnologii – inclusiv prin parcursuri de instruire adecvate – și pentru a remedia eventualele erori de adaptare în timpul procesului 4 .

4.13Introducerea de noi tehnologii în întreprinderi necesită desfășurarea unui dialog social între diferiții parteneri implicați. În această privință, organizațiile lucrătorilor și sindicatele vor trebui să fie informate și consultate în mod constant.

5.Inteligența artificială, administrația publică și societatea civilă

5.1IA este o inovație tehnologică și socială capabilă să transforme radical întreaga societate și să schimbe în bine sectorul public și relația dintre cetățeni și administrația publică. Posibilitățile oferite de inteligența artificială ar putea crește atât eficiența administrativă, cât și satisfacția cetățenilor în ce privește serviciile oferite de administrația publică și buna funcționare a acesteia.

5.2Pentru ca aceste obiective să fie atinse, este esențial ca și funcționarii publici să fie pregătiți, la rândul lor, să facă față schimbărilor și provocărilor pe care le va genera IA în societatea europeană. Angajatorii publici și personalul de conducere din administrații – împreună cu profesorii, formatorii și personalul universitar, menționați mai sus – trebuie să fie capabili să înțeleagă pe deplin fenomenul IA și să decidă ce instrumente noi să introducă în procedurile administrative.

5.3Introducerea IA în sectorul public și în cel privat necesită elaborarea unor proceduri care să stimuleze înțelegerea și acceptarea tehnologiilor de către utilizatori, prin mecanisme de cooperare care să le permită cetățenilor să contribuie, pe cât posibil prin sisteme de guvernanță participativă, la dezvoltarea tehnologiilor bazate pe IA.

5.4Pentru a obține rezultate semnificative în această direcție, ar putea fi utilă dezvoltarea unor moduri de colaborare și parteneriate din ce în ce mai fiabile între sectorul public și cel privat, care să vizeze valorificarea oportunităților care decurg din aplicațiile tehnologice, inteligența artificială și robotică.

5.5Provocarea pentru administrațiile publice este deosebit de dificilă din perspectiva juridică și a legitimității, deoarece trebuie găsit echilibrul adecvat între interesele publice (care implică exercitarea puterii publice) și cele individuale (manifestarea specifică a libertății individului). În acest sens, de exemplu, utilizarea IA de către administrațiile publice va necesita ca principiul transparenței și publicării documentelor administrative să fie reconciliat cu protecția datelor cu caracter personal și cu dreptul la viață privată, într-un cadru de reglementare clar și explicit.

5.6În cazurile în care noile măsuri permit administrațiilor publice să utilizeze tehnologia pentru a lua decizii organizatorice și a face alegeri mai repede – cum ar fi selectarea unui contractant în cadrul unei licitații, gestionarea unei liste de așteptare pentru anumite servicii sau recrutarea de noi lucrători în administrația publică – va fi necesar să se abordeze chestiunea responsabilității juridice efective în privința acestor decizii într-un cadru legislativ clar, care să garanteze responsabilitatea deplină a administrației față de cetățeni.

5.7Organizațiile societății civile și întreprinderile sociale au un rol important de jucat în promovarea înțelegerii tehnologiilor și acceptarea lor de către cetățeni, în special prin mecanisme de colaborare care să permită implicarea în procesele de transformare digitală. Ceea ce este important aici este posibilitatea de a crea sisteme de guvernanță participativă – de exemplu, sub forma unor cooperative – pentru aceste instrumente, începând cu platformele digitale care sunt deja folosite pentru a structura noi forme de relații economice în gestionarea muncii.

5.8Autoritățile administrative responsabile cu mecanismele de monitorizare a pieței ar trebui să aibă expertiza și competențele de a proteja concurența loială, drepturile consumatorilor, precum și siguranța și drepturile lucrătorilor. Ar trebui ca responsabilitatea în ce privește auditul algoritmilor să fie încredințată unor organisme publice sau independente. În același timp, întreprinderile ar trebui să instituie mecanisme eficace pentru auditarea utilizării datelor de către IA.

Bruxelles, 4 septembrie 2018

Ariane RODERT
Președinta Secțiunii pentru piața unică, producție și consum

_____________

Top