MT

Kumitat Ekonomiku u Soċjali Ewropew

TEN/664

Inizjattiva li tindirizza l-isfidi tal-pjattaformi onlajn fir-rigward tat-tixrid tad-diżinformazzjoni

OPINJONI

Kumitat Ekonomiku u Soċjali Ewropew


Komunikazzjoni tal-Kummissjoni lill-Parlament Ewropew, lill-Kunsill, lill-Kumitat Ekonomiku u Soċjali Ewropew u lill-Kumitat tar-Reġjuni – L-indirizzar tad-diżinformazzjoni online: Approċċ Ewropew
[COM(2018) 236 final]

Relatur: Martin SIECKER

Konsultazzjoni

Il-Kummissjoni Ewropea, 18/06/2018

Bażi legali

Artikolu 304 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea

Sezzjoni kompetenti

Sezzjoni Speċjalizzata għat-Trasport, l-Enerġija, l-Infrastruttura u s-Soċjetà tal-Informazzjoni

Adottata fis-sezzjoni

06/09/2018

Adottata fil-plenarja

19/09/2018

Sessjoni plenarja Nru

537

Riżultat tal-votazzjoni
(favur/kontra/astensjonijiet)

121/16/34



1.Konklużjonijiet u rakkomandazzjonijiet

1.1Il-libertà tal-informazzjoni u tal-espressjoni hija invjolabbli fl-UE, madankollu din il-libertà hija użata biex jinqalbu l-prinċipji tal-Unjoni sabiex id-dibattitu u l-ħsieb kritiku jsiru impossibbli, u mhux bħala għodda biex tinforma jew tipperswadi, iżda bħala arma. Id-diżinformazzjoni hija użata bħala forma estrema ta’ abbuż tal-mezzi ta’ komunikazzjoni li għandha l-għan li tinfluwenza l-proċessi soċjali u politiċi u hija partikolarment b’saħħitha meta tkun sponsorjata mill-gvernijiet u użata fir-relazzjonijiet internazzjonali. Fost il-bosta każijiet attwali serji, insibu d-diżinformazzjoni li qed jappoġġja l-Istat Russu, il-kampanja tal-Brexit li tista’ tiġi kklassifikata biss bħala attakk dirett kontra l-UE u l-indħil fl-elezzjonijiet fl-Istati Uniti tal-Amerika. Dawn l-azzjonijiet destabilizzanti kollha jqajmu tħassib kbir għas-soċjetà ċivili Ewropea.

1.2Varjetà ta’ għodod u metodi huma attwalment użati biex jimminaw il-valuri Ewropej u l-azzjonijiet esterni tal-UE, kif ukoll biex jiġu żviluppati u jipprovokaw attitudnijiet nazzjonalisti u separatisti, jimmanipulaw il-pubbliku u jagħmlu interferenza diretta fil-politika domestika tal-pajjiżi sovrani u l-UE bħala entità sħiħa. Barra minn hekk, l-influwenza dejjem tikber ta’ kapaċitajiet offensivi ċibernetiċi u ż-żieda fl-armamenti ta’ teknoloġiji biex jinkisbu għanijiet politiċi hija osservata. L-impatt ta’ azzjonijiet bħal dawn ta' spiss jiġi sottovalutat 1 .

1.3Il-KESE jaqbel mas-sejħa tal-Kummissjoni għal aktar responsabbiltà min-naħa tal-pjattaformi tal-midja soċjali. Madankollu, minkejja l-eżistenza ta' diversi studji u dokumenti ta' politika prodotti minn speċjalisti Ewropej fl-aħħar ftit snin, il-komunikazzjoni hija nieqsa minn kwalunkwe pass obbligatorju prattiku biex dan jiġi żgurat.

1.4Fuq il-bażi ta’ riċerka disponibbli l-UE għandha tiżgura u tkompli tirriċerka l-impatt tad-diżinformazzjoni fl-Ewropa, billi tinkludi wkoll il-monitoraġġ tar-reżiljenza tal-Ewropej fir-rigward tad-diżinformazzjoni fl-istħarriġiet futuri tal-Ewrobarometru. Dawn l-istħarriġiet ma għandhomx jinkludu biss data ġenerika dwar l-aħbarijiet foloz, iżda għandhom jidentifikaw ukoll is-sitwazzjoni reali tal-immunità tal-Ewropej fir-rigward tad-diżinformazzjoni. Minħabba n-nuqqas ta' urġenza u ambizzjoni min-naħa tal-Kummissjoni, ma jiġux indirizzati kwistjonijiet fundamentali, bħall-iskemi ta’ appoġġ għall-midja tradizzjonali sabiex ikun żgurat id-dritt fundamentali taċ-ċittadini għal informazzjoni ta’ kwalità u affidabbli, li tiġi investigata l-fattibbiltà tal-istabbiliment ta' sħubijiet pubbliċi-privati sabiex jinħolqu pjattaformi onlajn bi ħlas li joffru servizzi onlajn siguri u affordabbli, li jiġu eżaminati opportunitajiet għall-ħolqien ta' aktar trasparenza madwar u superviżjoni fuq l-alogritmi sottostanti ta' dawn is-sistemi onlajn u li tiġi eżaminata l-possibbiltà ta' tkissir ta' monopolji għall-irkupru ta' kundizzjonijiet ekwivalenti ta' kompetizzjoni għal kompetizzjoni ġusta, sabiex tiġi impeduta l-korruzzjoni gradwali tas-soċjetà.

1.5Il-KESE jiddispjaċih li kemm il-Komunikazzjoni kif ukoll ir-rapport tal-HLEG naqsu milli jsemmu lir-Russja bħala s-sors prinċipali ta' diżinformazzjoni ostili kontra l-UE. Madankollu, l-ewwel pass biex wieħed isolvi kwalunkwe problema huwa li jammetti li hemm waħda.

1.6Abbażi tar-Riżoluzzjoni tal-Parlament Ewropew tal-15 ta' Ġunju 2017 dwar il-pjattaformi online u s-suq uniku diġitali 2 , il-Kummissjoni tirreferi għas-sejħiet tal-KESE għall-infurzar responsabbli tar-regolamenti legali eżistenti fir-rigward tal-pjattaformi onlajn. Barra minn hekk, il-KESE jistieden lill-Kummissjoni biex ittemm id-diskussjoni tar-reġim tar-responsabbiltà legali għall-pjattaformi onlajn u timplimenta r-regolament fil-mira tal-pjattaformi onlajn fir-rigward tad-definizzjoni u n-natura tagħhom. Il-pjattaformi onlajn u n-netwerks soċjali għandhom jimpenjaw ruħhom fir-rigward ta’ dawn il-miżuri sabiex jiżguraw it-trasparenza billi jispjegaw kif l-algoritmi jagħżlu l-aħbarijiet ippreżentati, u jiġu mħeġġa sabiex jieħdu miżuri effettivi ħalli jtejbu l-viżibbiltà ta’ aħbarijiet affidabbli, u jiffaċilitaw l-aċċess tal-utenti għaliha.

1.7Waħda mill-problemi marbutin mad-diżinformazzjoni hija l-fatt li mhuwiex possibbli li tiġi vverifikata l-identità tas-sorsi li jkunu qed jifirxu d-diżinformazzjoni permezz tal-internet. Huwa wisq faċli li wieħed jopera fiċ-ċiberspazju permezz ta' identità falza – u b'mod ġenerali, dan huwa eżattament dak li jagħmlu dawk li jkunu attivi onlajn u li jkollhom intenzjoni malizzjuża. Il-Kummissjoni tressaq diversi proposti, li huma stabbiliti fil-Komunikazzjoni Konġunta dwar iċ-Ċibersigurtà ppubblikata f'Settembru 2017. Il-problema hija li dawn il-proposti mhumiex obbligatorji. Jekk verament nixtiequ nagħmlu differenza fil-ġlieda kontra d-diżinformazzjoni, jaf ikollna bżonn ta’ miżuri aktar stretti rigward l-identifikazzjoni meta n-nies ikunu qed joperaw b'mod proattiv fuq l-internet. Wara kollox, dan huwa l-mod kif topera l-midja ta' kwalità, f'konformità mal-Kodiċi ta' Bordeaux tal-1954, li tfassal mill-Federazzjoni Internazzjonali tal-Ġurnalisti u li jistabbilixxi prinċipji ċari u stretti ħafna dwar kif wieħed jaħdem bis-sorsi. L-ismijiet u l-indirizzi tas-sorsi dejjem għandhom ikunu magħrufa lill-persunal editorjali.

1.8Il-KESE jaqbel mal-Kummissjoni li l-komunità li tivverifika l-fatti għandha taħdem flimkien mill-qrib. Diġà jeżistu netwerks simili, inkluż wieħed taħt il-kappa tat-Task Force East StratCom. Il-problema hija li dawn jeħtieġu finanzjament suffiċjenti, element li bħalissa huwa nieqes. Il-KESE jistieden lill-Kummissjoni u lill-Istati Membri biex jappoġġaw b'mod sħiħ l-isforzi tat-Task Force East StratCom. Dan għandu jinkludi mhux biss baġit adegwat, iżda wkoll involviment attiv mill-Istati Membri kollha fil-ħidma tiegħu, abbażi tal-bgħit ta' esperti ssekondati lit-Task Force East StratCom u l-ħolqien ta' punti ta' kuntatt. Is-sit web li jippreżenta r-riżultati tal-isforzi ta' din it-task force 3 għandu jiġi kkomunikat b'mod aktar proattiv, għas-sensibilizzazzjoni tal-pubbliku fl-UE dwar it-theddid.

2.Il-kontenut essenzjali tal-Komunikazzjoni mill-Kummissjoni

2.1Ekosistema ta' informazzjoni li taħdem sew, mingħajr ħlas u pluralistika bbażata fuq standards professjonali għoljin hija indispensabbli għal dibattitu demokratiku siewi. Il-Kummissjoni toqgħod attenta għat-theddid li d-diżinformazzjoni tippreżenta għas-soċjetajiet miftuħin u demokratiċi tagħna.

2.2Il-Kummissjoni beħsiebha tippreżenta approċċ komprensiv li għandu l-għan li jwieġeb għal dan it-theddid billi jippromovi ekosistemi diġitali 4 bbażati fuq it-trasparenza u li jiffavorixxu informazzjoni ta' kwalità għolja, isaħħaħ il-pożizzjoni taċ-ċittadini kontra d-diżinformazzjoni u jipproteġi d-demokraziji tagħna u l-proċessi tat-tfassil ta' politika tagħna.

2.3Il-Kummissjoni tistieden lill-atturi rilevanti kollha jżidu b'mod sinifikanti l-isforzi tagħhom biex il-problema tad-diżinformazzjoni tiġi indirizzata b'mod adegwat. Hija tqis li l-azzjonijiet proposti, jekk jiġu implimentati b'mod effettiv, se jikkontribwixxu b'mod materjali għall-ġlieda kontra d-diżinformazzjoni onlajn.

2.4Il-Kummissjoni tidentifika tliet kawżi ewlenin tal-problema (ħolqien ta' diżinformazzjoni, amplifikazzjoni permezz tal-midja soċjali u ta’ midja onlajn oħra, disseminazzjoni minn utenti ta' pjattaformi onlajn) u tippreżenta għadd ta' proposti biex din tiġi indirizzata, f'ħames oqsma ta' politika:

·tinħoloq ekosistema onlajn aktar trasparenti, affidabbli u li tista' tinżamm responsabbli;

·proċessi elettorali siguri u reżiljenti;

·jitrawmu l-edukazzjoni u l-litteriżmu fil-midja;

·appoġġ għal ġurnaliżmu ta' kwalità bħala element essenzjali ta' soċjetà demokratika;

·jiġi miġġieled it-theddid ta' diżinformazzjoni interna u esterna permezz ta' komunikazzjoni strateġika.

3.Kummenti ġenerali

3.1Iż-żieda ta' diżinformazzjoni organizzata minn diversi atturi tal-istat u mhux tal-istat tippreżenta theddida reali għad-demokrazija. Dawn il-forzi destabilizzanti jinkludu gvernijiet ta' nazzjonijiet akbar minn kwalunkwe Stat Membru tal-UE. L-UE hija l-imsieħba adatta li għandha taġixxi jekk tixtieq li tiġġieled kontra din it-theddida għaliex, għall-kuntrarju ta' kwalunkwe Stat Membru wieħed, l-Unjoni għandha l-massa kritika u r-riżorsi li jpoġġuha f'pożizzjoni unika biex tiżviluppa u timplimenta strateġiji u politiki biex tiġi indirizzata din il-kwistjoni.

3.2Il-funzjonament tajjeb tad-demokrazija jiddependi minn ċittadini infurmati sew li jistgħu jagħmlu għażliet edukati bbażati fuq fatti affidabbli u opinjonijiet fdati. Sistema ta' intrapriżi tal-midja indipendenti, affidabbli u trasparenti b'pożizzjoni speċjali għal xandara pubbliċi, li jimpjegaw persunal professjonali mdaqqas sabiex jiġbru, jivverifikaw, jivvalutaw, janalizzaw u jinterpretaw is-sorsi tal-aħbarijiet hija kruċjali, sabiex jiġi ssalvagwardjat livell partikolari ta' kwalità u affidabbiltà tal-istejjer li jiġu ppubblikati.

3.3Hemm differenza bejn aħbarijiet foloz u diżinformazzjoni. L-aħbarijiet foloz ilhom jeżistu fl-istorja: dan huwa terminu komprensiv li jinkorpora għajdut, propoganda ta' gwerra, diskors ta' mibegħda, sensazzjoni, gideb, użu selettiv ta' fatti, eċċ. L-invenzjoni tal-istampa fis-seklu 15 ippermettiet id-distribuzzjoni ta' aħbarijiet (foloz) fuq skala akbar, u l-firxa ġeografika tagħhom kompliet tikber wara l-introduzzjoni tal-bolla fl-1840. It-teknoloġija diġitali u l-internet neħħew l-aħħar ostakli għad-distribuzzjoni mingħajr limitu.

3.4Id-diżiformazzjoni hija definita bħala informazzjoni falza jew qarrieqa verifikabbli li tinħoloq, tiġi ppreżentata u tinxtered għal gwadann ekonomiku, jew biex tqarraq b'mod intenzjonat bil-pubbliku, li tista' tagħmel ħsara lill-proċessi demokratiċi u tinfluwenza l-elezzjonijiet u hija theddida serja għas-soċjetà 5 .

3.5Hemm partijiet multipli fil-katina tad-diżinformazzjoni: dawk li joħolquha, dawk li jikkunsmaw kif ukoll pjattaformi onlajn li għandhom rwol importanti ħafna fil-proċess kollu billi jiffaċilitaw id-distribuzzjoni.

Dawk li joħolquha (gvernijiet, istituzzjonijiet reliġjużi, konglomerati ta' negozju, partiti politiċi, organizzazzjonijiet ideoloġiċi) jagħmlu dan għal diversi raġunijiet (biex jinfluwenzaw u jimmanipulaw l-opinjoni pubblika, jikkonfermaw is-superjorità preżunta tagħhom, jagħmlu jew iżidu profitt, jiksbu poter, joħolqu mibegħda, jiġġustifikaw l-esklużjoni, eċċ.).

Dawn li jxerrduha (b'mod partikolari l-pjattaformi onlajn, iżda wkoll il-midja tradizzjonali) għandhom motivi differenti inklużi benefiċċji finanzjarji jew manipulazzjoni bi ħsieb.

Dawn li jikkunsmawha (utenti tal-internet) spiss ma jkunux kritiċi biżżejjed bħala konsumaturi u sussegwentement jiġu mmanipulati apposta mill-pjattaformi onlajn. Il-kumpaniji tat-teknoloġija intermedjarji bħal Twitter, Google u Facebook (biex insemmu ftit) jiffaċilitaw kondiviżjoni mingħajr limitu u kontroll ta' kontenut fuq pjattaformi onlajn bi skambju għall-ġbir ta' data privata li tippermetti lil dawn il-pjattaformi joħolqu profitti kbar b'reklamar immirat b'mod preċiż ħafna (microtargeting) li jipprovdi messaġġi kummerċjali mfassla apposta lil gruppi fil-mira definiti b'mod strett. In-nuqqas ta’ għarfien tal-konsumaturi dwar l-awtoprotezzjoni diġitali tikkontribwixxi għat-tkabbir tal-problema.

3.6Il-kumpaniji tat-teknoloġija inkwistjoni għandhom responsabbiltà kondiviża minħabba li għandhom rwol importanti ħafna fil-proċess. Il-kumpaniji teknoloġiċi inkwistjoni ma jidentifikawx lilhom infushom bħala pubblikaturi iżda "biss" bħala pjattaformi onlajn li jxerrdu l-informazzjoni u kontenut ieħor li jinħoloq minn midja stabbilita mingħajr ma jkollhom iħallsu l-ispiża tal-ħolqien ta' kontenut fil-forma ta' persunal editorjali. Il-kontenut jiġi distribwit minn sorsi oħrajn mingħajr ma jivverifikaw, jivvalutaw, janalizzaw jew jinterpretaw il-materjal li jkunu qed jippubblikaw. Google mhuwiex “biss” pjattaforma. Huwa jfassal, jifforma u jibdel il-mod kif aħna naraw id-dinja, din kienet waħda mill-konklużjonijiet ta' artikolu dwar “The great Brexit robbery: how our democracy was hijacked”, li ġie ppubblikat mill-Guardian, li analizza kif “shadowy, global operation by […] the disparate forces of the Leave campaign influenced the result of the EU referendum” (operazzjoni minn taħt globali minn […] forzi li huma essenzjalment differenti fix-xorta tagħhom tal-kampanja tal-Ħruġ influwenzaw ir-riżultat tar-referendum tal-UE). Peress li d-diżinformazzjoni u l-aħbarijiet affidabbli qed jiġu ppreżentati b'mod indistingwibbli, l-utenti jsibuha bi tqila li jifirdu waħda mill-oħra. Għalhekk il-kumpaniji teknoloġiċi għandhom jipprijoritizzaw sabiex isiru trasparenti dwar ir-regoli u d-data. F’dan ir-rigward, huwa partikolarment importanti il-livell ta’ trasparenza tar-rabtiet bejn il-politiki tad-dħul mir-reklamar tal-pjattaformi u t-tixrid tad-diżinformazzjoni. (F'dan ir-rigward in-negozjati attwali tal-Kodiċi ta' Prattika dwar id-Diżinformazzjoni li kellhom jiġu ppubblikati sal-aħħar ta' Lulju 2018 għandhom jiġu ssorveljati mill-qrib).

4.Kummenti speċifiċi

4.1Minkejja d-diversità ta’ messaġġi, mezzi, għodod, livelli, ambizzjonijiet u għanijiet tattiċi, u minkejja n-natura rapida tagħha ta’ adattament, l-objettiv strateġiku ta’ kampanji ta’ diżinformazzjoni huwa li jimmina d-demokrazija liberali, li jiżra’ u jamplifika l-isfiduċja f’sorsi kredibbli ta’ informazzjoni, fid-direzzjoni ġeopolitika ta’ pajjiż u fil-ħidma ta’ organizzazzjonijiet intergovernattivi. Id-diżinformazzjoni qed tintuża sabiex jiġu sfruttati u amplifikati l-qasmiet bejn il-gruppi soċjoekonomiċi differenti abbażi tan-nazzjon, ir-razza, id-dħul, l-età, l-edukazzjoni u l-okkupazzjoni tagħhom. Apparti l-forom li huma rikonoxxuti sew bħall-aġenziji tal-aħbarijiet, l-użu ta’ pjattaformi onlajn, ittri elettroniċi tal-massa eċċ., din tiffunzjona permezz ta’ diversi forom, pereżempju l-aġenziji tar-relazzjonijiet pubbliċi, il-lobbisti, il-gruppi ta’ riflessjoni, l-organizzazzjonijiet nongovernattivi, dawk li jinfluwenzaw fl-ogħla livelli, il-politiki partiġġjani, il-komunità tal-esperti, l-attivitajiet kulturali u l-movimenti Ewropej tal-lemin u tax-xellug estrem li b'kumpens jirċievu ħlas permezz ta’ diversi trusts pubbliċi “indipendenti”, kontijiet offshore, eċċ.

4.2Il-Gvern Russu qed juża firxa wiesgħa ta’ għodod u strumenti fil-kampanji ta’ diżinformazzjoni tiegħu kif diġà stabbilixxew il-Parlament Ewropew 6 , il-Kummissjoni Ewropea 7 u l-Kunsill Ewropew 8 . Dawn il-kampanji ta’ diżinformazzjoni għandhom jittieħdu bl-ogħla livell ta’ serjetà. Din hija parti mid-duttrina militari Russa u hija aċċettata mill-ogħla ġerarkija tal-aktar midja importanti proprjetà tal-istat Russu. Dawn il-kampanji huma direttament immirati biex jagħmlu ħsara lid-demokrazija liberali, l-istat tad-dritt u d-drittijiet tal-bniedem, u biex isikktu dawk l-istituzzjonijiet, l-organizzazzjonijiet intergovernattivi, il-politiċi u l-individwi li jiddefenduhom 9 .

4.3Aħna ngħixu f'era kkaratterizzata minn relazzjonijiet politiċi u demokratiċi polarizzati ħafna. Skont gruppi ta' riflessjoni bħal Freedom House, the Economist Intelligence Unit u oħrajn, id-demokrazija ilha taħt pressjoni dejjem tikber mill-kriżi ekonomika globali fl-2008 'l hawn. Wieħed mir-riżultati ta' dan huwa tip ġdid ta' tmexxija politika bi profil li jirrappreżenta qtugħ minn mat-tradizzjoni demokratika li bnejna fl-Ewropa fl-aħħar 70 sena. Minflok tmexxija liberali magħżula demokratikament naraw aktar u aktar "nies b'saħħithom" li l-elezzjonijiet tagħhom huma mdawrin b'mistoqsijiet penetranti dwar l-integrità tal-proċessi li ġew eletti fihom. Aħna familjari ma' din it-tip ta' tmexxija lil hinn mill-isfera ta' influwenza tal-UE, pereżempju fir-Russja u fiċ-Ċina. Iżda b'rappreżentanti bħal Trump, Erdogan u "demokratiċi illiberali" eletti fl-Istati Membri tal-UE – li lkoll saru famużi minħabba l-preferenza tagħhom għad-diżinformazzjoni, id-disprezz tagħhom lejn id-demokrazija u r-relazzjoni dgħajfa tagħhom mal-istat tad-dritt – il-fenomenu qed jolqotna dejjem iżjed fil-laħam il-ħaj.

4.4Demokrazija li taħdem sew tiddependi minn ċittadini infurmati sew li jieħdu deċiżjonijiet edukati abbażi ta' fatti affidabbli u opinjonijiet fdati, iżda l-"affidabbiltà" u l-"fiduċja" huma kunċetti li fis-soċjetà tagħna tal-lum ma għadhomx aktar awtoevidenti. F'din it-tip ta' klima soċjetali polarizzata ħafna, u b'eċċess ta' informazzjoni, in-nies huma vulnerabbli ħafna għad-diżinformazzjoni, u dan jagħmilha relattivament faċli biex l-imġiba tagħhom tiġi mmanipulata. Aħna rajna li operazzjonijiet destabbilizzanti bħal dawn kellhom rati ta' suċċess għoljin ħafna fl-elezzjonijiet ġenerali f'diversi Stati Membri kif ukoll f'avvenimenti oħrajn bħall-kampanja tal-Brexit, kampanji ta' diżinformazzjoni li jikkonċernaw l-attakki fuq il-Krimea u l-Ukrajna, u l-attakk tal-2014 b'missila tas-sistema militari Russa BUK fuq it-titjira ta' Malaysian Airlines MH 17, fejn l-298 passiġġer u membru tal-ekwipaġġ kollha ġew immassakrati. Il-Kummissjoni hija mħeġġa sabiex tfittex modi aktar proattivi sabiex teduka lill-pubbliku dwar it-theddidiet iffaċċjati b’riżultat ta’ kampanji ta’ diżinformazzjoni, attakki ċibernetiċi, u l-impatt ġenerali ta’ influwenza barranija fuq is-soċjetà. Dan jista’ jsir, pereżempju, billi ssegwi l-iżviluppi reċenti f’pajjiżi oħrajn, billi tipprovdi informazzjoni aċċessibbli u attraenti liċ-ċittadini dwar kwistjonijiet urġenti marbutin maċ-ċibersigurtà li jinkludu pariri u l-aħjar prattiki dwar kif dawn jistgħu jipproteġu l-ambjenti diġitali ta’ kuljum tagħhom.

4.5Il-KESE jaqbel mal-Kummissjoni li, minħabba l-kumplessità tal-kwistjoni u l-pass mgħaġġel tal-iżvilupp fl-ambjent diġitali, kull risposta politika għandha tkun komprensiva, tivvaluta kontinwament il-fenomenu tad-diżinformazzjoni u taġġusta l-objettivi tal-politika fid-dawl tal-evoluzzjoni tagħha. Ma hemmx soluzzjoni waħda li tindirizza l-isfidi kollha, iżda li ma jsir xejn mhijiex opzjoni. Il-proposti tal-Kummissjoni huma pass fid-direzzjoni t-tajba, iżda rridu naħdmu aktar u nagħmlu xogħol aħjar. It-trasparenza, id-diversità, il-kredibbiltà u l-inklużività għandhom imexxu l-azzjoni sabiex tiġi indirizzata d-diżinformazzjoni, filwaqt li fl-istess ħin jiġu protetti l-libertà tad-diskors u drittijiet fundamentali oħra.

4.6Ir-Russja tidher partikolarment attiva fil-qasam tad-diżinformazzjoni u l-gwerra ibrida kontra l-Punent b'enfasi fuq l-UE. Biex niġġieldu kontra dan, għandna bżonn noħolqu ekosistema onlajn aktar trasparenti, affidabbli u li tista' tinżamm responsabbli mill-aktar fis. Il-KESE jirrakkomanda l-użu tal-Manwal ta' Praga, studju ffinanzjat mill-Ministeru għall-Affarijiet Barranin tan-Netherlands u l-International Visegrad Fund, li jagħti ħarsa ġenerali ċara lejn is-sovverżjoni ostili Russa fl-UE u t-theddida li din tirrappreżenta lid-demokrazija. Minkejja li hemm xi Stati Membri li għadhom jiddubitaw mill-eżistenza ta' tali theddida jew li saħansitra jikkontribwixxu għall-firxa tagħha, l-istudju huwa ċar ħafna fil-ġudizzju tiegħu li huwa assolutament neċessarju li l-UE tieħu azzjoni. L-istudju jressaq proposti konkreti dwar kif jitfasslu u jiġu implimentati strateġiji kontra influwenzi ostili u sovverżivi.

4.7Ir-rwol tal-pjattaformi onlajn kien moralment ta' min imaqdru fir-rigward tad-diżinformazzjoni. F'perjodu ta' żmien relattivament qasir dawn il-pjattaformi essenzjalment żviluppaw tip ta' funzjoni ta' utilità pubblika simili għal dik li kellhom il-kumpaniji tat-telefonija, ix-xandara u l-gazzetti fil-passat. Sabiex ikunu jistgħu jużaw is-servizzi tal-pjattaformi onlajn b'mod "liberu", l-utenti jħallsu bid-data personali li tippermetti lil dawn il-pjattaformi jbigħu ammont enormi ta' reklamar immirat b'mod preċiż ħafna kif jidher mill-każ ta' Cambridge Analytica. Dan il-mudell ta' dħul distort (mil-lat tal-privatezza) irendi wisq flus biex dawn il-pjattaformi jneħħuh fuq bażi volontarja. Kien hemm min issuġġerixxa li pjattaformi bħal Facebook għandhom joffru wkoll servizz kredibbli u li jaħdem sew simili għal ta' Facebook, li jirrikjedi li l-utenti jħallsu ammont żgħir bħala skambju għall-garanzija li l-privatezza tagħhom tiġi rispettata. Titqajjem il-kwistjoni jekk l-utenti potenzjali għadx għandhom biżżejjed fiduċja u kunfidenza fil-kredibbiltà u fl-integrità ta' portali bħal Facebook, wara l-mod li bih il-kumpanija responsabbli għalih tat rendikont tal-imġiba tagħha lis-Senat tal-Istati Uniti. Sabiex tiżdied il-fiduċja tal-pubbliku fil-pjattaformi onlajn u ċ-ċittadini jiġu mħarsa kontra din il-forma ta’ abbuż, inkluż it-trattament ħażin u l-kondiviżjoni ta’ data personali, dawn il-pjattaformi jeħtiġilhom jiġu rregolati kif intwera qabel mill-Kodiċi ta’ Kondotta għall-ġlieda kontra d-diskors ta’ mibegħda illegali onlajn tal-2016, ir-Regolament Ġenerali dwar il-Protezzjoni tad-Data jew id-Direttivi dwar dwar iċ-Ċibersigurtà (l-hekk imsejħa NIS Directive). Madanakollu, l-awtoregolazzjoni, kif proposta mill-Kummissjoni, hija biss l-ewwel pass f'dan ir-rigward u għandha tkun akkumpanjata minn miżuri ulterjuri meħudin mill-Kummissjoni.

4.8Andrew Keen, imprenditur u kittieb Brittaniku li huwa magħruf bħala l-Antikrist tal-Internet, ippubblika erba' kotba kritiċi ħafna dwar l-iżvilupp tal-internet. Huwa mhuwiex kontra l-internet jew il-midja soċjali, iżda jqis l-attivitajiet tal-kumpaniji tat-teknoloġija l-kbar, immirati sabiex jiġbru informazzjoni sensittiva dwar in-nies, bħala l-qalba tal-problema. Il-privatezza hija ħaġa prezzjuża ħafna, tiddefinixxi min aħna. 'L hekk imsejjaħ mudell tan-negozju bla ħlas – fejn aħna ma nħallsux bil-flus iżda billi nirrinunzjaw il-privatezza tagħna – se jeqred il-privatezza tagħna. Keen iqabbel dan mas-seklu 19, meta r-Rivoluzzjoni Industrijali ġġenerat bidla ta' daqs li jista' jitqabbel mad-daqs ta' bidla li r-Rivoluzzjoni Diġitali qed tiġġenera bħalissa. Meta bidla tiġi definita bħala rivoluzzjoni normalment iġġib magħha problemi kbar ħafna. Fis-seklu 19 irnexxielna nsolvu dawk il-problemi b'għodod bħall-innovazzjoni, ir-regolazzjoni, l-għażliet tal-konsumaturi, l-azzjoni ċivili u l-edukazzjoni. Il-messaġġ tiegħu huwa li l-intelliġenza tal-bniedem tista' terġa' tagħmel dan – mhux l-intelliġenza artifiċjali – u aħna rridu nużaw ir-riżorsi kollha li użajna biex nillimitaw ir-rivoluzzjoni preċedenti sabiex niżguraw li nikkontrollaw ir-Rivoluzzjoni Diġitali u nimpedixxu milli din tiddominana.

4.9Fuq il-bażi ta’ riċerka disponibbli l-UE għandha tiżgura u tkompli tirriċerka l-impatt tad-diżinformazzjoni fl-Ewropa, billi tinkludi wkoll il-monitoraġġ tar-reżiljenza tal-Ewropej fir-rigward tad-diżinformazzjoni fl-istħarriġiet futuri tal-Ewrobarometru. Dawn l-istħarriġiet ma għandhomx jinkludu biss data ġenerika dwar l-aħbarijiet foloz, iżda għandhom jidentifikaw ukoll is-sitwazzjoni reali tal-immunità tal-Ewropej fir-rigward tad-diżinformazzjoni. Minħabba n-nuqqas ta' urġenza u ambizzjoni min-naħa tal-Kummissjoni, ma jiġux indirizzati kwistjonijiet fundamentali, bħall-iskemi ta’ appoġġ għall-midja tradizzjonali sabiex ikun żgurat id-dritt fundamentali taċ-ċittadini għal informazzjoni ta’ kwalità u affidabbli, li tiġi investigata l-fattibbiltà tal-istabbiliment ta' sħubijiet pubbliċi-privati sabiex jinħolqu pjattaformi onlajn bi ħlas li joffru servizzi onlajn siguri u affordabbli, li jiġu eżaminati opportunitajiet għall-ħolqien ta' aktar trasparenza madwar u superviżjoni fuq l-alogritmi sottostanti ta' dawn is-sistemi onlajn u li tiġi eżaminata l-possibbiltà ta' tkissir ta' monopolji għall-irkupru ta' kundizzjonijiet ekwivalenti ta' kompetizzjoni għal kompetizzjoni ġusta, sabiex tiġi impeduta l-korruzzjoni gradwali tas-soċjetà.

4.10Jaf tkun ħaġa tajba pereżempju li tiġi eżaminata l-possibbiltà li tinħoloq pjattaforma onlajn ibbażata fuq sħubija pubblika-privata li tiggarantixxi l-privatezza tal-utenti. Pjattaforma Ewropea ta’ dan it-tip bil-Kummissjoni bħala msieħba pubblika ta’ kofinanzjament, tista' tkun proposta attraenti u promettenti ħafna bħala alternattiva għall-Magna tal-Manipulazzjoni ta’ Mark Zuckerberg u monopolji privati u kummerċjali kbar oħrajn mill-Istati Uniti tal-Amerika u miċ-Ċina. Tali pjattaforma għandha tiggarantixxi r-rispett għall-privatezza tal-utenti tagħha.

4.11F'ekonomija tas-suq għandu jitħallas prezz għal kollox, iżda b'din l-alternattiva l-munita tkun flus minflok il-privatezza. Il-biċċa l-kbira tal-baġit meħtieġ għal dan is-servizz semipubbliku jista' jiġi ffinanzjat minn flus mit-taxxi, kif inhuma s-servizzi pubbliċi kollha. Għall-bqija tal-baġit, l-utenti jkollhom iħallsu ammont relattivament żgħir ta' flus biex jissalvagwardjaw il-privatezza tagħhom kontra l-ġuħ mingħajr xaba' għad-data privata tal-pjattaformi "soċjali" attwali. Li kieku l-UE u l-gvernijiet nazzjonali tal-Istati Membri kellhom jiddikjaraw b'mod uffiċjali li tali pjattaforma soċjali kienet imsieħba preferuta u jużawha bħala alternattiva għal dawk li lesti jaħtfu d-data attwali, din ikollha l-ekonomija ta' skala meħtieġa biex ikollha l-opportunità li tikkompeti mal-atturi attwali tas-suq. L-UE tista' tuża wkoll magni tat-tiftix eżistenti li jiggarantixxu privatezza assoluta bħala msieħba ippreferuti tagħhom u jinstallawhom bħala applikazzjoniijiet awtomatiċi fuq il-kompjuters kollha li jintużaw mill-istituzzjonijiet tal-UE u minn istituzzjonijiet governattivi fl-Istati Membri. Il-Kummissjoni jista' wkoll ikollha rwol aktar proattiv u tinvestiga possibbiltajiet regolatorji fir-rigward tal-algoritmi u t-tkissir tal-monopolji.

4.12Minkejja li l-verifika tal-fatti mhijiex is-soluzzjoni għall-problema, din madankollu għandha importanza kruċjali. Hija sservi bħala l-ewwel pass lejn il-fehim, l-esponiment u l-analiżi tad-diżinformazzjoni, pass li huwa assolutament neċessarju qabel ma jkunu jistgħu jitfasslu aktar kontromiżuri. Jenħtieġ ukoll sforz kbir biex tinġibed l-attenzjoni ta' udjenzi usa', għaliex mhux kulħadd juża l-pjattaformi tal-midja soċjali jew saħansitra l-internet. Ir-residenti ta' reġjuni remoti jistgħu jkunu partikolarment diffiċli biex jintlaħqu. Il-viżibbiltà fil-midja hija importanti. It-televiżjoni għadha l-aktar sors komuni ta' informazzjoni għan-nies, u programmi regolari li jispjegaw każijiet ta' diżinformazzjoni bil-lingwi nazzjonali jistgħu jikkontribwixxu b'mod sinifikanti għas-sensibilizzazzjoni. Huwa importanti li l-proċess tal-verifika tal-fatti jsir minn professjonisti, sabiex jiġu evitati l-iżbalji li kkaratterizzaw l-ewwel tentattiv reċenti tal-Kummissjoni. Il-kooperazzjoni ma' djar tal-pubblikazzjoni u organizzazzjonijiet tal-midja li l-ġurnalisti tagħhom huma involuti fil-verifika tal-fatti tista' timpedixxi dawn il-problemi.

4.13Waħda mill-problemi marbutin mad-diżinformazzjoni hija l-fatt li mhuwiex possibbli li tiġi vverifikata l-identità tas-sorsi li jkunu qed jifirxu d-diżinformazzjoni permezz tal-internet. Huwa wisq faċli li wieħed jopera fiċ-ċiberspazju permezz ta' identità falza – u b'mod ġenerali, dan huwa eżattament dak li jagħmlu dawk li jkunu attivi onlajn u li jkollhom intenzjoni malizzjuża. Il-Kummissjoni tressaq diversi proposti, li huma stabbiliti fil-Komunikazzjoni Konġunta dwar iċ-Ċibersigurtà ppubblikata f'Settembru 2017. Il-problema hija li dawn il-proposti mhumiex obbligatorji: l-utenti jistgħu jagħżlu li jikkomunikaw biss fuq pjattaformi onlajn ma' utenti oħrajn li jkunu identifikaw lilhom infushom; il-Kummissjoni se tippromovi l-użu ta' sistemi onlajn volontarji li jippermettu l-identifikazzjoni tal-fornituri tal-informazzjoni, eċċ. Ovvjament, hemm kunflitt ta' interess potenzjali bejn il-privatezza u l-kontroll sħiħ u għandu jkun possibbli li tinżamm l-anonimità meta wieħed ikun qed juża l-internet b'mod passiv. Iżda jekk verament nixtiequ nagħmlu differenza fil-ġlieda kontra d-diżinformazzjoni, jaf ikollna bżonn aktar miżuri stretti rigward l-identifikazzjoni meta n-nies ikunu qed joperaw b'mod proattiv fuq l-internet. Wara kollox, dan huwa l-mod kif topera l-midja ta' kwalità, f'konformità mal-Kodiċi ta' Bordeaux tal-1954, li tfassal mill-Federazzjoni Internazzjonali tal-Ġurnalisti u li jistabbilixxi prinċipji ċari u stretti ħafna dwar kif wieħed jaħdem bis-sorsi. Xi drabi jkun hemm raġunijiet validi għaliex organizzazzjonijiet tal-aħbarijiet ta' kwalità tradizzjonali jippubblikaw stejjer b'sorsi anonimi, iżda dejjem jinkludu indikazzjoni li l-isem u l-indirizz tas-sors ikunu magħrufa mal-persunal editorjali.

4.14It-teknoloġiji mhumiex “tajbin” jew “ħżiena2 – huma newtrali. Jistgħu jintużaw b'mod tajjeb jew ħażin, iżda dan jiddependi mill-għażliet li jsiru min-nies li jużawhom. Teknoloġiji ġodda u emerġenti bħal dawk li qed jintużaw issa fl-arti tad-diżinformazzjoni wkoll għandhom il-potenzjal li jaqdu rwol ċentrali biex tiġi indirizzata d-diżinformazzjoni. Għalhekk, il-KESE jilqa' l-intenzjoni tal-Kummissjoni li tagħmel użu b'mod sħiħ mill-programm ta' ħidma Orizzont 2020 u mill-programm suċċessur tiegħu Orizzont Ewropa sabiex timmobilizza r-riċerka u t-teknoloġiji bħall-intelliġenza artifiċjali, il-blockchain u l-algoritmi għall-identifikazzjoni aħjar tas-sorsi, il-validazzjoni tal-affidabbiltà tal-informazzjoni u l-valutazzjoni tal-kwalità u tal-preċiżjoni tas-sorsi tad-data fil-futur. Madankollu, analiżi dettaljata ta’ possibilitajiet oħrajn ta’ finanzjament biex tkun indirizzata d-diżinformazzjoni hija kruċjali, għax il-parti l-kbira tal-inizjattivi mhumiex applikabbli għall-Programmi Orizzont.

4.15Proċessi elettorali siguri u reżiljenti huma l-bażi għad-demokrazija fl-UE, iżda s-sigurtà u r-reżiljenza ta' dawk il-proċessi ma għadhomx garantiti. F'dawn l-aħħar snin, ġew identifikati tattiċi ta' manipulazzjoni u ta' diżinformazzjoni onlajn matul l-elezzjonijiet f'mill-anqas 18-il pajjiż, u t-tattiċi ta' diżinformazzjoni kkontribwew għas-seba' sena konsekuttiva ta' tnaqqis ġenerali fil-libertà tal-internet. Il-KESE jilqa' b'sodisfazzjon l-inizjattivi li ħadet il-Kummissjoni sabiex jiġu identifikati l-aħjar prattiki għall-identifikazzjoni, il-mitigazzjoni u l-ġestjoni tar-riskji għall-proċess elettorali minn attakki ċibernetiċi u diżinformazzjoni fid-dawl tal-elezzjonijiet tal-Parlament Ewropew tal-2019.

4.16Il-ħiliet diġitali u tal-midja u l-edukazzjoni ċivika huma elementi kostitwenti kruċjali biex tiżdied ir-reżiljenza tas-soċjetà, speċjalment meta jitqies li ż-żgħażagħ, li għandhom preżenza kbira fuq il-pjattaformi onlajn, huma riċettivi ħafna għad-diżinformazzjoni. Il-politika tal-edukazzjoni hija r-responsabbiltà tal-gvern u, għaldaqstant, il-gvernijiet nazzjonali għandhom il-kompitu li jorganizzawha fil-livelli kollha tas-sistemi tal-edukazzjoni nazzjonali u jħarrġu lill-għalliema dwar dan is-suġġett. Sfortunatament, il-gvernijiet spiss jittraskuraw milli jagħtu pożizzjoni prominenti lill-edukazzjoni għal-litteriżmu fl-informazzjoni u fil-midja fis-sistemi tal-edukazzjoni nazzjonali tagħhom fuq l-aġendi politiċi tagħhom. Qabel xejn, dan għandu jittejjeb, iżda l-litteriżmu fl-informazzjoni u fil-midja jmur ukoll lil hinn mis-sistemi tal-edukazzjoni. Jeħtieġ li dan jiġi promoss u jittejjeb fil-gruppi kollha tas-soċjetà, irrispettivament mill-età. F'dawn l-oqsma, l-organizzazzjonijiet mhux governattivi għandhom jaqdu rwol. Ħafna minn dawn l-organizzazzjonijiet diġà qegħdin jaħdmu fl-Ewropa, iżda l-biċċa l-kbira tagħhom joperaw fuq skala żgħira u ma jilħqux biżżejjed nies. L-inizjattivi ta' kooperazzjoni nazzjonali bejn l-organizzazzjonijiet mhux governattivi u l-gvernijiet nazzjonali jistgħu jimlew dan il-vojt.

4.17Il-midja tal-aħbarijiet ta' kwalità u l-ġurnaliżmu affidabbli għandhom rwol essenzjali biex jagħtu lill-pubbliku informazzjoni soda u varjata. Din il-midja tradizzjonali qiegħda tesperjenza problemi finanzjarji, peress li l-pjattaformi qed ixerrdu kontenut prodott mill-midja tradizzjonali mingħajr ma jirrimborżawhom għall-ispejjeż li jkunu ġarrbu u mbagħad jiksbu l-introjtu minn din il-midja billi jbigħu r-reklamar. Sabiex il-pożizzjoni tal-pubblikaturi tittejjeb u jiġi żgurat li d-detenturi tad-drittijiet jiġu kkumpensati għall-ħidma tagħhom meta l-frott ta' ħidmiethom jintuża minn ħaddieħor għal finijiet kummerċjali, tkun idea tajba li jsir ftehim rapidu dwar ir-riforma fid-drittijiet tal-awtur tal-UE. Barra minn hekk, huwa rakkomandat li jsir tiftix għal soluzzjonijiet sabiex tiġi estiża l-inizjattiva mħabbra mill-Parlament Ewropew f’Settembru 2018 dwar il-finanzjament Ewropew speċifikament biex ikun appoġġjat il-ġurnaliżmu investigattiv fl-UE. Stampa b’saħħitha u affidabbli twassal għal demokrazija reżiljenti u li tkun tista’ tiġi difiża fejn jippersistu l-valuri tal-verità u tar-responsabilità. Il-finanzjament huwa partikolarment importanti għal mezzi tax-xandir iżgħar li ta’ spiss iħabbtu wiċċhom ma’ kawżi u talbiet vessatorji mfasslin biex jagħlquhom.

4.18Sabiex tiġġieled kontra theddid ta' diżinformazzjoni intern u estern, fl-2015 il-Kummissjoni stabbilixxiet it-Task Force East StratCom sabiex tiffoka fuq komunikazzjoni strateġika proattiva dwar il-politiki tal-UE biex jiġu miġġielda tentattivi destabilizzanti mir-Russja. Il-KESE jixtieq li kieku l-Kummissjoni tkun aktar proattiva biex tikkomunika l-ħidma ta' East StratCom lill-pubbliku ġenerali u li tiggwidah lejn l-informazzjoni fuq is-sit web tat-task force għall-finijiet ta' sensibilizzazzjoni tal-pubbliku dwar it-theddid għad-demokrazija tagħna u biex tiżdied ir-reżistenza kontra dan it-theddid. Huwa wkoll neċessarju li jiżdied il-baġit tat-task force. F'Ottubru 2017 intlaħaq qbil dwar baġit ta' EUR 1 000 000 mill-Parlament Ewropew. Dak il-baġit bilkemm kien komparabbli mar-riżorsi finanzjarji investiti minn atturi oħrajn bħall-Federazzjoni Russa. (Id-Dipartiment tal-Istat tal-Istati Uniti tal-Amerika jistma li l-isforz sofistikat tal-kampanja ta' influwenza tal-Kremlin jinkludi USD 1,4 biljun fis-sena f'apparat ta' propaganda intern u estern, li jingħad li jilħaq madwar 600 miljun persuna f'130 pajjiż u bi 30 lingwa).

4.19Minbarra azzjonijiet oħrajn, il-Kummissjoni hija mħeġġa toqgħod attenta għall-fatt li l-istituzzjonijiet nazzjonali u r-regolamenti dwar is-sigurtà tal-informazzjoni fl-Istati Membri spiss huma sottożviluppati. L-ambjent regolatorju huwa skadut, u għalhekk ma jippermettix li l-aġenziji regolatorji rilevanti jagħmlu skrutinju adatt tal-mezzi ta’ diżinformazzjoni fir-rigward tal-konformità man-normi leġislattivi. Il-kooperazzjoni intraistituzzjonali hija inadegwata, hemm nuqqas ċar ta’ strateġiji nazzjonali fit-tul bil-għan li jkunu miġġielda l-kampanji ta’ diżinformazzjoni mmexxijin minn barra u l-produzzjoni ta’ narrattivi koerenti lejn gruppi vulnerabbli tal-popolazzjoni. Reviżjoni bir-reqqa tad-Direttiva dwar is-Servizzi tal-Midja Awdjoviżiva tal-UE, li attwalment tippermetti li mezz tax-xandir jista’ jkun reġistrat fi kwalunkwe Stat Membru tal-UE sakemm wieħed mill-membri tal-bord tal-kumpannija tal-midja jkun residenti f’dak il-pajjiż, hija kruċjali wkoll, peress li tippermetti li jintlaħqu udjenzi fil-pajjiżi Ewropej, filwaqt li jkunu sfruttati lakuni fir-regolamenti tal-UE.

Brussell, 19 ta’ Settembru 2018

Luca JAHIER
Il-President tal-Kumitat Ekonomiku u Soċjali Ewropew

*

*    *

N.B.: Appendiċi fil-paġni li jmiss.



APPENDIĊI

għall-Opinjoni tal-Kumitat

L-emendi li ġejjin inċaħdu waqt id-diskussjoni iżda rċevew aktar minn kwart tal-voti:

Punt 4.3

Aħna ngħixu f'era kkaratterizzata minn relazzjonijiet politiċi u demokratiċi polarizzati ħafna. Skont gruppi ta' riflessjoni bħal Freedom House, the Economist Intelligence Unit u oħrajn, id-demokrazija ilha taħt pressjoni dejjem tikber mill-kriżi ekonomika globali fl-2008 'l hawn. Wieħed mir-riżultati ta' dan huwa tip ġdid ta' tmexxija politika bi profil li jirrappreżenta qtugħ minn mat-tradizzjoni demokratika li bnejna fl-Ewropa fl-aħħar 70 sena. Minflok tmexxija liberali magħżula demokratikament naraw aktar u aktar "nies b'saħħithom" li l-elezzjonijiet tagħhom huma mdawrin b'mistoqsijiet penetranti dwar l-integrità tal-proċessi li ġew eletti fihom. Aħna familjari ma' din it-tip ta' tmexxija lil hinn mill-isfera ta' influwenza tal-UE, pereżempju fir-Russja u fiċ-Ċina. Iżda b'rappreżentanti bħal Trump, Erdogan u "demokratiċi illiberali" eletti fl-Istati Membri tal-UE – li lkoll saru famużi minħabba l-preferenza tagħhom għad-diżinformazzjoni, id-disprezz tagħhom lejn id-demokrazija u r-relazzjoni dgħajfa tagħhom mal-istat tad-dritt – il-fenomenu qed jolqotna dejjem iżjed fil-laħam il-ħaj.

Riżultat tal-votazzjoni

Voti favur:    68

Voti kontra:    82

Astensjonijiet:    24

_____________