31.8.2017   

CS

Úřední věstník Evropské unie

C 288/1

Zpravodajka:

Catelijne MULLER

1.1

Umělá inteligence (UI) prochází v současné době důležitým vývojem a rychle nachází uplatnění ve společnosti. Objem trhu pro UI činí zhruba 664 milionů USD a podle očekávání by měl do roku 2025 ještě vzrůst na 38,8 miliardy USD. Jelikož UI může mít na společnost pozitivní i negativní dopad, EHSV si předsevzal, že bude vývoj kolem UI pečlivě sledovat, a to nejen z technického, ale výslovně také z etického, bezpečnostního a společenského hlediska.

1.2

EHSV jakožto představitel evropské občanské společnosti dá společenské diskusi kolem UI v nadcházejícím období formu, bude ji centralizovat a podněcovat a zahrnovat přitom do ní všechny příslušné zúčastněné strany: tvůrce politiky, průmysl, sociální partnery, spotřebitele, nevládní organizace, výchovná vzdělávací zařízení a zdravotnická zařízení, odborníky a akademické pracovníky z různých oborů (mezi jinými z oblasti UI, bezpečnosti, etiky, ekonomie, věd o ergoterapii, právních věd, behaviorálních věd, psychologie, filosofie).

1.3

Nakolik je diskuse o superinteligenci důležitá je v současné době zastíněno debatou o dopadech současného uplatnění UI. Úkolem a cílem tohoto procesu je proto mimo jiné navýšit a rozšířit vědomosti o UI, a přispět tak k informované a vyvážené debatě bez katastrofických scénářů a extrémního relativizování. EHSV se přitom zasadí o podporu vývoje UI ve prospěch lidstva. Nicméně důležitým úkolem a cílem tohoto procesu bude rovněž uznat, pojmenovat a sledovat rušivý vývoj v rámci a kolem UI, aby jej bylo možné přiměřeným a vhodným způsobem řešit. To povede k většímu společenskému zapojení, důvěře a přijetí, pokud jde o další udržitelný vývoj a uplatnění UI.

1.4

Dopad UI je přeshraniční, proto je třeba stanovit i nadnárodní politické rámce. EHSV doporučuje, aby EU při vytváření celosvětových, jednoznačných politických rámců pro UI, které budou v souladu s evropskými hodnotami a základními právy, zaujala na světové úrovni průkopnickou pozici. EHSV může a chce k tomuto procesu přispět svým dílem.

1.5

EHSV registruje v současné době 11 oblastí, v nichž UI přináší společenské výzvy: etika; bezpečnost; soukromí; transparentnost a vysvětlitelnost; práce; vzdělávání a schopnosti; (ne)rovnost a začleňování; právní předpisy a regulace; správa a demokracie; válka; superinteligence. EHSV má tato doporučení.

1.6

EHSV vyzývá k přístupu human in command (člověk ve velení), jehož rámcovými podmínkami jsou odpovědný, bezpečný a užitečný vývoj UI, při němž stroje zůstávají stroji a člověk si nad těmito stroji vždy ponechá kontrolu.

1.7

EHSV žádá vytvoření etického kodexu pro vývoj, využití a používání UI, aby byly systémy UI během celého svého procesu fungování v souladu se zásadami lidské důstojnosti, integrity, svobody, soukromí a kulturní rozmanitosti a genderové diverzity a se základními lidskými právy.

1.8

EHSV vyzývá k vytvoření normalizačního systému pro ověření, validaci a kontrolu systémů UI, a to na základě širokého spektra norem v oblasti bezpečnosti, transparentnosti, srozumitelnosti, vysvětlitelnosti a etických hodnot.

1.9

EHSV se zasazuje o vytvoření evropské infrastruktury UI, která bude sestávat ze vzdělávacích prostředí, která respektují otevřené zdroje a soukromí, zkušebních prostředí ze skutečného života, vysoce kvalitních souborů údajů pro vývoj a trénink systémů UI. EHSV upozorňuje na (konkurenční) výhodu, kterou by EU mohla na celosvětovém trhu získat, a to prostřednictvím vývoje a propagace „evropských odpovědných systémů UI“ a poskytnutí evropské certifikace a označování UI.

1.10

EU, vnitrostátní správní orgány a sociální partneři musí společně zmapovat, na která odvětví trhu práce a v jaké míře a v jakém časovém horizontu bude UI mít dopad, a hledat způsoby, jak řešit dopady na pracovní příležitosti, náplň práce, sociální systémy a (ne)rovnost. Kromě toho je třeba investovat do těch odvětví trhu práce, na něž má UI malý nebo žádný vliv.

1.11

EHSV zúčastněným stranám doporučuje, aby společně investovaly do komplementárních systémů UI a jejich společného vytvoření na pracovišti, např. do týmů člověk-stroj, přičemž úlohou strojů je doplňovat a vylepšovat výkon lidí. Zúčastněné strany musí rovněž investovat do formálního vzdělávání i neformálního učení, vzdělávání a odborné přípravy pro každého, aby bylo možné s UI pracovat, ale rovněž aby bylo možné rozvíjet dovednosti, které UI nepřevezme nebo převzít nemůže.

1.12

V současné době je již nezbytné konkrétně posoudit právní předpisy a regulaci EU v rámci šesti oblastí zájmu určených panelem Hodnocení vědecko-technických možností (oddělení vědeckých prognóz), které možná bude třeba přezkoumat nebo upravit. EHSV v tomto procesu posuzování může a chce hrát určitou roli. EHSV se staví proti zavedení jakékoli formy právní subjektivity robotů nebo UI. Preventivně nápravné působení právních předpisů týkajících se odpovědnosti tím pozbývá působnosti, vzniká zde morální riziko jak v případě vývoje, tak v případě použití UI a hrozí zneužití.

1.13

Je třeba aktivně podporovat a propagovat rozvoj způsobů uplatnění UI, které slouží společnosti, podporují začleňování a zlepšují život lidí, a to jak na veřejné, tak na soukromé úrovni. Evropská komise musí v rámci svých programů financovat výzkum společenského dopadu UI, jakož i inovací UI financovaných z prostředků EU.

1.14

EHSV podporuje výzvu organizace Human Rights Watch et al. k zákazu systémů autonomních zbraní. EHSV vítá avizovanou konzultaci na toto téma v OSN, je však toho názoru, že tématem této konzultace v OSN by měly být rovněž způsoby uplatnění UI v kybernetické válce.

2.1

Žádná jednoznačně přijímaná, přesně vymezená definice UI neexistuje. UI je zastřešující pojem pro velké množství (pod)oblastí, jako např.: kognitivní informatika (cognitive computing, tedy algoritmy, které argumentují a chápou na vyšší (lidské) úrovni), strojové učení (machine learning, tedy algoritmy, které si osvojují úkoly), rozšířená inteligence (augmented intelligence, tedy spolupráce mezi člověkem a strojem), robotika v oblasti UI (UI integrovaná do robotů). Ústředním cílem výzkumu a vývoje v oblasti UI je však automatizace inteligentního jednání, jako je argumentace, shromažďování informací, plánování, učení, komunikace, manipulace, vysílání signálů a samostatná tvorba, snění a vnímání.

2.2

UI lze zhruba dělit na UI v úzkém slova smyslu a UI v obecném slova smyslu. UI v úzkém slova smyslu je schopná vykonávat konkrétní úkoly. UI v obecném slova smyslu je schopná vykonat jakýkoli intelektuální úkol, který je schopen vykonat člověk.

2.3

Na poli UI v úzkém slova smyslu bylo v minulosti dosaženo velkého pokroku, zejména díky růstu výpočetní výkonnosti (computer processing power), dostupnosti velkých objemů dat a vývoji strojového učení (machine learning). Strojové učení obsahuje algoritmy, které jsou schopné si osvojit konkrétní úkoly, aniž by pro to byly naprogramovány. Tato metoda spočívá ve zpracování „tréninkových dat“, na jejichž základě se algoritmus učí rozpoznávat vzorce a definovat pravidla. Hluboké učení (deep learning), jedna z forem strojového učení, využívá struktury (neural networks, tedy neuronové sítě), jejichž fungování je volně založené na fungování lidského mozku a které se učí pomocí konkrétních cvičení a zpětné vazby. Výsledkem tohoto vývoje je, že systémy UI (prostřednictvím algoritmů) již mohou být samoučíčí, autonomní a adaptabilní.

2.4

Nejvýznamnější pozornost výzkumu a vývoje v oblasti UI se již určitou dobu upírá k prvkům, jako je argumentace, shromažďování znalostí, plánování, komunikace a vnímání (zrakové, sluchové nebo smyslové). To vedlo k velkému množství způsobů uplatnění UI: virtuální asistenti, autonomní vozidla, automatické shromažďování informací, rozpoznání řeči, překladatelské programy, programy pro konverzi textu na řeč, automatizované finanční obchodování, e-discovery (vyhledávání informací uchovávaných v elektronické podobě) v oblasti práva atd.

2.5

EHSV upozorňuje, že množství způsobů uplatnění UI a investic do ní v poslední době exponenciálně vzrostlo. Objem trhu pro UI činí v současné době zhruba 664 milionů USD a podle očekávání by měl do roku 2025 ještě vzrůst na 38,8 miliardy USD.

3.1

To, že UI může mít velké společenské výhody, je poměrně nesporné: vzpomeňme na uplatnění v udržitelném zemědělství, bezpečnější dopravu a finanční systém, výrobní postupy šetrnější k životnímu prostředí, lepší zdravotnictví, bezpečnější práci, osobnější přístup ve vzdělávání, lepší justici a bezpečnější společnost. UI může dokonce přispět k odstranění nemocí a chudoby. UI může významně přispět rovněž k růstu průmyslu a ke zlepšení konkurenceschopnosti EU.

3.2

Jako každá disruptivní technologie, tak i UI s sebou přináší také rizika a komplexní politické výzvy v oblastech, jako je bezpečnost a odpovědnost, socioekonomické aspekty, etika a soukromí, spolehlivost atd.

3.3

Nacházíme se nyní na křižovatce, kde se určují (rámcové) podmínky pro současný a další vývoj a uplatnění UI. Těchto výhod UI však lze dlouhodobě dosáhnout pouze tehdy, pokud budeme odpovídajícím způsobem řešit také výzvy související s UI. Proto je třeba přijímat politická rozhodnutí.

a)

Etika

3.4

Vývoj UI vyvolává mnoho etických otázek. Jaký vliv má autonomní (samoučící) UI na naši osobní integritu, důstojnost, samostatnost, rovnost, bezpečnost, svobodu volby? Jak zajistíme, aby byly respektovány a zachovány naše základní normy, hodnoty a lidská práva?

3.5

Navíc vývoj UI se momentálně odehrává v rámci homogenního prostředí zejména mladých, bílých mužů, v důsledku čehož jsou do UI (byť nevědomky) vnášeny kulturní a genderové rozdíly, mj. proto, že se systémy UI učí na základě tréninkových dat. Tato data musí být správná a kromě toho dostatečně kvalitní, rozmanitá, dostatečně hloubková a nezaujatá. Existuje obecná tendence věřit tomu, že data jsou ze své podstaty objektivní, ale to je mylná představa. Daty lze snadno manipulovat, mohou být zaujatá (biased), mohou odrážet kulturní, genderové a jiné předsudky a priority a mohou obsahovat chyby.

3.6

Systémy UI, které jsou v současné době ve vývoji, neobsahují žádné etické hodnoty. Ty musíme systémům UI a prostředí, v němž budou používány, poskytnout my, lidé. Vývoj, nasazení a použití systémů UI (jak veřejné, tak komerční) se musí uskutečnit v mezích našich základních norem, hodnot, svobod a lidských práv. EHSV proto vyzývá k vývoji a zavedení jednotného celosvětového etického kodexu pro vývoj, využívání a použití UI.

b)

Bezpečnost

3.7

Použití UI ve fyzickém světě vede bezpochyby k bezpečnostním otázkám. Rozlišovat lze mezi vnitřní a vnější bezpečností.

3.8

EHSV se domnívá, že systémy UI lze začít používat pouze v případě, že budou splňovat konkrétní požadavky na vnitřní a vnější bezpečnost. Tyto požadavky musí společně stanovit tvůrci politik, odborníci na UI a bezpečnost, podniky a organizace občanské společnosti.

c)

Transparentnost, srozumitelnost, odpovědnost, vysvětlitelnost

3.9

Přijetí a udržitelný rozvoj a uplatnění UI souvisí s možností chápat, řídit a vysvětlit fungování, kroky a rozhodnutí systémů UI, především také ex post.

3.10

Kroky a rozhodnutí systémů UI (učiněné za pomoci inteligentních algoritmů) zasahují v rostoucí míře do každodenního života lidí. Příkladem může být použití UI v policejní práci založené na zpravodajských informacích, při posuzování žádostí o hypotéku nebo během povolování pojistných smluv. Srozumitelnost, odpovědnost a vysvětlitelnost rozhodovacího procesu systému UI přitom hraje zásadní roli.

3.11

V současné době jsou mnohé systémy UI již pro uživatele velmi složité na pochopení. V rostoucí míře to však platí také pro výrobce těchto systémů. Zejména neuronové sítě jsou často „černými skříňkami“, v nichž probíhají (rozhodovací) procesy, které již není možné pochopit a pro něž neexistují mechanismy, které by jejich fungování mohly osvětlit.

3.12

EHSV požaduje transparentní, srozumitelné a kontrolovatelné systémy UI, jejichž fungování lze i vysvětlit ex post. Kromě toho je třeba stanovit, které rozhodovací procesy lze přenechat systémům UI, a které ne, a to, kdy je žádoucí, nebo dokonce nezbytný lidský zásah.

d)

Respektování soukromí

3.13

Soukromí systémů UI je problematikou, která vzbuzuje obavy. Řada (spotřebitelských) výrobků již nyní disponuje integrovanou UI: spotřebiče pro domácnost, dětské hračky, automobily, aplikace pro sledování zdravotního stavu a kondice, chytré telefony. Všechny tyto výrobky sdělují (často osobní) údaje cloudovým platformám výrobců. Když teď obchod s daty zažívá boom – což znamená, že vytvořená data nezůstávají ve výrobcích, ale jsou dále prodávána třetím stranám – je problémem, zda je soukromí dostatečně chráněno.

3.14

UI je navíc schopná prostřednictvím analýzy velkého množství (často) osobních údajů ovlivnit rozhodování lidí v mnoha oblastech (počínaje obchodními rozhodnutími až po volby a referenda). Obzvláště zranitelnou skupinou jsou děti. ESHV je znepokojen takovým uplatněním UI, které se výslovně zaměřuje na ovlivňování toho, jak děti jednají a co si přejí.

3.15

Je třeba předejít tomu, aby uplatnění UI v oblasti osobních údajů omezovala skutečnou či lidmi vnímanou svobodu. Obecné nařízení EU o ochraně osobních údajů stanoví v podstatné míře ochranu soukromí digitálně poskytovaných osobních údajů. To, zda je právo lidí na informovaný souhlas nebo svobodu volby při udávání údajů, ale i na přístup k poskytnutým údajům, jejich úpravě a kontrole ve skutečnosti dostatečně zaručeno, je třeba s ohledem na vývoj UI dobře sledovat.

e)

Normy, standardy a infrastruktura

3.16

Aby bylo možné posoudit a kontrolovat bezpečnost, transparentnost, srozumitelnost, vysvětlitelnost a etickou odpovědnost systémů UI, je třeba vyvinout nové normalizační systémy pro verifikaci a ověření systémů UI, a to na základě široké škály norem.

3.17

EHSV žádá, aby EU vytvořila vlastní infrastrukturu UI, která bude sestávat ze vzdělávacích prostředí, která respektují otevřené zdroje a soukromí, a vysoce kvalitních souborů údajů pro vývoj a trénink systémů UI. EU tak může navíc získat (konkurenční) výhodu na celosvětovém trhu, a to propagací evropských odpovědných systémů UI. EHSV doporučuje prozkoumat přitom možnosti evropské certifikace a označování UI.

f)

Dopad UI na práci, pracovní příležitosti, pracovní podmínky a sociální systémy

3.18

Ohledně rychlosti a míry, do jaké k tomu dojde se názory různí, ale je jasné, že UI bude mít dopad na množství pracovních příležitostí a povahu a charakter velké části práce, a tím i na sociální systémy.

3.19

Brynjolfsson a McAfee ze společnosti MIT říkají současnému technologickému vývoji (včetně UI) druhá průmyslová revoluce. Jsou zde však dva podstatné rozdíly: i) „staré“ stroje nahrazovaly především fyzickou sílu, zatímco nové stroje nahrazují myšlení a kognitivní schopnosti, což se nedotýká jen pracovních míst osob s nízkou kvalifikací (blue collar workers), ale i těch se střední či vysokou kvalifikací (white collar workers) a ii) UI je obecně vzato všeobecně používanou technologií (general purpose technology), která má dopad na prakticky všechna odvětví naráz.

3.20

UI může mít velké výhody, když se využije na nebezpečnou, těžkou, vyčerpávající, špinavou, nepříjemnou, repetitivní a jednotvárnou práci. Ale i rutinizovatelnou práci a zpracování a analýza dat nebo práci, při níž hraje velkou roli plánování a předvídání a kterou často vykonávají vysokoškolsky vzdělaní lidé, mohou v rostoucí míře vykonávat systémy UI.

3.21

Většina pracovních míst však sestává z různých pracovních činností. Šance, že všechny činnosti, které někdo vykonává, převezme UI nebo roboti, se zdá malá. Téměř každý se však s automatizací částí svých funkcí setká. Čas, který se tím ušetří, lze využít pro jiné úkoly, pokud jej na to vládní instituce a sociální partneři věnují. Je nezbytné brát přitom v potaz dopad, který může tento vývoj mít na profesionály a manažery, a podporovat přitom jejich zapojení, aby tento vývoj dokázali řídit, a nestali se jeho obětí.

3.22

Kromě toho by měla přibýt i nová pracovní místa. Nikdo však nedokáže předpovědět, která to budou, kolik jich bude a jak rychle k tomu dojde. Společnostem jako Google nebo Facebook se daří vytvářet obrovskou hodnotu s poměrně malých počtem pracovníků. Navíc ne vždy se v případě těchto nových pracovních míst jedná o dobrá pracovní místa. Panuje proto obava, že kvůli dalšímu rozvoji UI zde pro rostoucí skupinu flexibilních pracovníků brzy zůstanou jen špatně placené drobné úkoly.

3.23

UI nebude mít dopady pouze na množství dostupné práce, ale i na její povahu. Systémy UI nabízejí stále více možností, jak pracovníky sledovat a monitorovat, což ohrožuje jejich autonomii a soukromí. Práci dnes často určují a rozdělují algoritmy, aniž by do toho lidé jakkoli zasahovali, což má vliv na povahu práce a pracovní podmínky. A při využívání systémů UI existuje riziko omezení činností a ztráty důležitých dovedností.

3.24

Faktem však zůstává, že technologie nás „nepředhoní“. Vládní instituce a sociální partneři mají možnost určit způsob, jakým se UI bude dále vyvíjet a uplatňovat v pracovním procesu, a tuto možnost musí bez váhání využít. Je přitom důležité nezaměřit pozornost pouze na to, čeho je UI schopná, ale stejně tak i na to, čeho jsou schopni lidé (kreativita, empatie, spolupráce), na to, co chceme, aby lidé nadále dělali, a hledat možnosti, jak by člověk a stroj mohli lépe spolupracovat (komplementarita).

3.25

Augmented intelligence, tedy rozšířená inteligence (komplementarita), kdy člověk a stroj spolupracují a vzájemně se posilují, představuje zajímavé uplatnění UI, protože jde o člověka a stroj, na rozdíl od člověka místo stroje. Spolutvoření má skutečně velký význam: pracovníky je třeba do procesu vývoje takových komplementárních systémů UI zapojit, aby se mohli zasadit o to, aby byly tyto systémy UI použitelné a aby byla pracovníkovi ponechána dostatečná autonomie a kontrola (human-in-command, tedy člověk ve velení), uspokojení a radost z práce.

g)

Vzdělávání a dovednosti

3.26

Udržování nebo získávání digitálních dovedností je nezbytné proto, aby lidé měli příležitost se rychlému vývoji v oblasti UI přizpůsobit. Evropská komise velmi vsází na vývoj digitálních dovedností prostřednictvím Digital Skills and Jobs Coalition. Ne každý však bude schopný nebo ochotný psát kódy nebo se stát programátorem. Bude proto rovněž třeba nasměrovat politiky i finanční prostředky do vzdělávání a rozvoje dovedností v oblastech, které systémy UI neohrozí (vzpomeňme na ty úkoly, při nichž v popředí stojí lidská interakce, při nichž lidé a stroje spolupracují nebo u nichž chceme, aby je nadále vykonávali lidé).

3.27

Když se investuje do komplementarity člověka a UI (rozšířená inteligence), bude každý člověk již od raného věku potřebovat vzdělání, pokud jde o zacházení a práci se systémy UI, aby se zajistilo, že lidem bude ponechána autonomie a kontrola jejich práce (člověk ve velení). Svůj význam přitom má mj. také vzdělávání v oblasti etiky nebo soukromí, protože UI má na tyto oblasti velký dopad.

h)

Přístupnost, společenská (ne)rovnost, začleňování, stratifikace

3.28

Převážná část vývoje UI všechny s tím související prvky (platformy pro vývoj, data, znalosti, odborné poznatky) jsou v rukou 5 technologických podniků (Amazon, Apple, Facebook, Google, Microsoft). Ačkoli tyto podniky jsou zastánci otevřeného vývoje UI a někteří nabízejí své platformy pro vývoj UI jako otevřený zdroj, plný přístup k systémům UI není zajištěn. EU, mezinárodní tvůrci politiky a organizace občanské společnosti musí v tomto ohledu plnit významnou úlohu tím, že se postarají o to, aby byly systémy UI přístupné pro každého, ale aby se jejich vývoj odehrával v otevřeném prostředí.

3.29

Technologické změny zvýhodňující kapitál, kde inovace nabízejí výhody zejména pro vlastníky těchto inovací, zhoršuje postavení práce oproti tomuto kapitálu. Technologické změny mohou vést k (příjmové) nerovnosti mezi lidmi (jak na místní, tak na regionální a celosvětové úrovni). UI může tento trend ještě posílit.

3.30

Je důležité tyto trendy pečlivě sledovat a odpovídajícím způsobem řešit. Existují vědci, kteří se přimlouvají za zdanění UI, dividendy z UI nebo sdílené vlastnictví systémů UI zaměstnanci a zaměstnavateli. Stále víc se rovněž mluví o nutnosti bezpodmínečného základního příjmu.

3.31

EHSV již v některém ze svých dřívějších stanovisek (1) popsal možnost digitalizačních dividend a jejich rovnoměrné rozdělení ve prospěch dosažení pozitivních dopadů na růst. EHSV přikládá význam výzkumu všech těchto řešení, přičemž je třeba najít správnou rovnováhu mezi vývojem UI, který bude ve prospěch člověka, a případnými omezujícími dopady v důsledku těchto řešení. Rovněž je třeba předejít morálnímu riziku, že bude odpovědnost za systémy UI přesunuta na subjekt, jejž nelze účinně považovat za odpovědný.

i)

Právní předpisy a regulace

3.32

Důsledky UI pro stávající právní předpisy a regulaci jsou velké. Panel Hodnocení vědecko-technických možností (STOA) Evropského parlamentu vydalo v červnu 2016 přehled evropských právních předpisů a regulace, jichž se vývoj v oblasti robotiky, kyberneticko-fyzických systémů UI dotkne. STOA pojmenovává 6 oblastí zájmu – doprava, systémy dvojího užití, občanské svobody, bezpečnost, zdraví, energie –, v jejichž rámci je třeba přezkoumat a upravit nejméně 39 nařízení, směrnic, prohlášení, sdělení EU a Listinu základních práv Evropské unie. Toto hodnocení je třeba provést rychle a rázně a EHSV v tomto procesu může a chce hrát určitou roli.

3.33

Hodně se také diskutuje o tom, kdo by případně byl odpovědný v případě, že by systém UI způsobil nějakou škodu. Zejména v případě, že jde o systém UI, který je samoučící a po uvedení do provozu se dále sám učí. Evropský parlament sestavil doporučení pro občanskoprávní legislativu v oblasti robotiky, jejichž součástí je návrh posoudit možnost zavést pro roboty tzv. „elektronickou osobnost“ spočívající v tom, že by mohli být občanskoprávně odpovědní za škodu, kterou způsobí. EHSV se staví proti jakékoli formě právní subjektivity robotů nebo (systémů) UI, protože to s sebou nese nepřijatelný morální hazard. Z občanskoprávní odpovědnosti vyplývá preventivní působení na změnu chování, které může zmizet, jakmile již odpovědnostní riziko nenese tvůrce, protože se přesouvá na robota (nebo systém UI). Navíc zde existuje riziko nesprávného použití nebo zneužití takové právní formy. Přirovnání k omezené odpovědnosti společností poněkud pokulhává, protože v takovém případě je vždy ve výsledku odpovědnou fyzická osoba. V této souvislosti je třeba prozkoumat, do jaké míry dávají současné vnitrostátní a unijní právní předpisy a regulace a judikatura v oblasti (objektivní) odpovědnosti (za výrobky) a vlastní viny dostatečnou odpověď na tuto otázku, a pokud ne, jaká právní řešení se pak nabízejí.

3.34

Aby navíc bylo možné k právním předpisům a regulaci v rámci UI přistoupit správně, bude klíčové dobře porozumět tomu, co UI dokáže, a co naopak nedokáže, případně co v krátkodobé, střednědobé a dlouhodobé perspektivě dokázat může.

3.35

UI není omezena hranicemi. Proto je důležité posoudit nutnost celosvětové regulace, protože regionální regulace nebude dostatečná, a měla by dokonce nežádoucí dopady. Vzhledem k osvědčenému systému norem pro výrobky a bezpečnost, tendenci k protekcionismu na jiných kontinentech, vysoké úrovni znalostí v rámci Evropy, systému evropských základních práv a sociálních hodnot a sociálnímu dialogu EHSV Evropské unii doporučuje, aby při vytváření celosvětových, jednoznačných politických rámců pro UI zaujala průkopnickou pozici a zahájila tento proces na celosvětové úrovni.

j)

Správa věcí veřejných a demokracie

3.36

Způsoby uplatnění UI mohou přispět k lepšímu zapojení lidí do vládní politiky a transparentního správního rozhodování. EHSV vyzývá EU a vnitrostátní správní orgány, aby UI k tomuto účelu používaly.

3.37

EHSV vyjadřuje obavy ohledně cíleného využívání systémů UI (v podobě inteligentních algoritmů) ke shromažďování informací např. na sociálních médiích, která podle všeho měla za následek zúžení informací a další štěpení společnosti (vzpomeňme na „filter bubbles“, tedy informační bubliny, nebo na „fake news“, tedy lživé zprávy, na Twitteru nebo Facebooku během amerických voleb).

3.38

EHSV je rovněž znepokojen náznaky, že systémy UI mohly být použity k ovlivnění jednání lidí (např. při volbách). Prostřednictvím inteligentních algoritmů bylo možné předvídat a cíleně ovlivňovat preference a jednání lidí. To ohrožuje korektní a otevřenou demokracii. V dnešní době plné polarizace a likvidování mezinárodních institucí může preciznost a síla takových propagandistických technologií rychle vést k dalšímu rozvrácení společnosti. To je jeden z důvodů, proč jsou normy ohledně transparentnosti a kontrolovatelnosti (inteligentních) algoritmů potřeba.

k)

Válka

3.39

Úmluva OSN o některých konvenčních zbraních stanovila, že odborníci v roce 2017 prodiskutují dopady autonomních zbraní. EHSV tímto vítá a podporuje výzvu organizace Human Rights Watch et al. k zákazu systémů autonomních zbraní. EHSV je přesvědčen, že tento zákaz by měl být pečlivě analyzován a zvážen. To však nestačí k tomu, aby došlo řádnému posouzení možností, které UI představuje ve válečných situacích a konfliktech. Předmětem této konzultace OSN musí být rovněž způsoby uplatnění UI v kybernetické válce.

3.40

Kromě toho je třeba předejít tomu, aby se UI dostala do rukou osob nebo režimů, jejichž cílem je podporovat teroristickou činnost.

l)

Superinteligence

3.41

Na závěr je tu ještě otázka, jaké možnosti a rizika s sebou nese vývoj superinteligence. Podle Stephena Hawkinga bude již rozvoj UI v obecném slova smyslu znamenat konec lidstva. V tu chvíli se podle Hawkinga bude UI dále vyvíjet tempem, kterému lidé nebudou stačit. Existují také odborníci, kteří by raději zvolili tzv. „kill-switch“ (vypínač) neboli „reset-button“ (resetovací tlačítko), jímž by bylo možné superinteligentní systém UI, který se vymkl kontrole, deaktivovat nebo resetovat.

3.42

EHSV vyzývá k přístupu „human in command“ (člověk ve velení), jehož rámcovými podmínkami jsou odpovědný a bezpečný vývoj a použití UI, při němž stroje zůstávají stroji a člověk si může nad těmito stroji vždy ponechat kontrolu. Diskuse o superinteligenci je přitom důležitá, ale v současné době zastiňuje debatu o dopadech současného uplatnění UI.

4.1

Velké obchodní subjekty již vyvinuly různé iniciativy pro otevřený, bezpečný a společensky odpovědný vývoj UI (jako je OpenAI). Tvůrci politik to však nemohou nechat na podnicích a musí v tomto ohledu hrát svoji úlohu. Jsou nezbytná cílená opatření a podpora výzkumu v oblasti společenských výzev souvisejících s UI a v oblasti vývoje bezpečných a spolehlivých systémů UI.

4.2

K řešení těchto výzev se nadmíru hodí programy EU, jako je mj. Horizont 2020. EHSV konstatoval, že financování zejména v rámci pilíře Společenské výzvy programu Horizont 2020 „zaostává“ za financováním v rámci dalších dvou pilířů Vynikající věda a Vedoucí postavení v průmyslu a je nadále utlumováno. EHSV naléhá, aby se výzkumu rozsáhlých společenských výzev, jakož i společenského uplatnění UI v rámci pilíře Společenské výzvy věnoval velký prostor.

4.3

Rovněž je třeba se zabývat potenciálními průřezovými dopady UI. Zároveň s financováním vývoje rušivých inovací UI je třeba financovat výzkum a řešení společenského dopadu těchto inovací.

4.4

Výzkum a vývoj UI ve službách lidstva vyžaduje navíc množství vysoce kvalifikovaných, veřejně dostupných tréninkových a zkušebních dat a zkušebních prostředí ze skutečného života. Až dosud byla infrastruktura UI a kvalifikovaná data dostupná pouze u a pro omezené množství soukromých subjektů a byly zde překážky pro testování UI ve veřejném prostoru, což omezuje uplatnění UI v jiných oblastech. Vývoj veřejně dostupných vysoce kvalifikovaných dat a evropské infrastruktury UI jsou klíčové, abychom mohli dosáhnout bezpečné, spolehlivé a užitečné UI.

5.1

Široký společenský dopad UI zatím nelze zcela předvídat. Není však sporu o tom, že tento dopad bude velký. Novinky v oblasti vývoje UI v tuto chvíli střídají v rychlém sledu jedna druhou, což vyžaduje kritické a komplexní sledování, aby bylo možné přiměřeným a vhodným způsobem řešit důležitý a rušivý vývoj v rámci a v souvislosti s UI („gamechangers“, neboli jakési zlomové aspekty) jak technického, tak společenského rázu.

5.2

V případě technických zlomových aspektů pomysleme např. na pozoruhodné nebo významné skoky ve vývoji schopností UI, které mohou být předzvěstí dosažení UI v obecném slova smyslu. V případě společenských zlomových aspektů může být řeč např. o zásadním úbytku pracovních míst, aniž by byla v dohlednu nová místa, která je nahradí, nebo o nebezpečných situacích, systémových selháních, nečekaném mezinárodním vývoji atd.

5.3

Tvůrci politik, průmysl, sociální partneři, spotřebitelé, nevládní organizace, vzdělávací a pečovatelská zařízení a akademičtí pracovníci a specialisté z různých oborů (mj. (aplikované) UI, etiky, bezpečnosti, ekonomie, věd o ergoterapii, právních věd, behaviorálních věd, psychologie, filosofie) musí vývoj kolem UI společně pečlivě sledovat a tyto zlomové aspekty zmapovat a aktualizovat, aby pak v pravý čas dokázali přijmout ta správná opatření, ať už v podobě politiky, právních předpisů a regulace, samosprávy, či sociálního dialogu.

5.4

EHSV jakožto představitel evropské občanské společnosti dá v nadcházejícím období této diskusi více zúčastněných stran týkající se UI formu, bude ji centralizovat a podněcovat.