SOC/816
Začlenění osob se zdravotním postižením
v kontextu nových technologií a umělé inteligence
STANOVISKO
sekce Zaměstnanost, sociální věci, občanství
Začlenění osob se zdravotním postižením v kontextu vývoje nových technologií a umělé inteligence – možnosti, výzvy, rizika a příležitosti
(průzkumné stanovisko na žádost polského předsednictví)
Zpravodajka: Dovilė JUODKAITĖ
|
Poradce
|
Álvaro Antonio Couceiro Farjas (pro zpravodajku, skupina III)
|
|
|
|
|
dopis polského předsednictví Rady EU
|
dopis ze dne 6. září 2024
|
|
Právní základ
|
článek 304 Smlouvy o fungování Evropské unie
průzkumné stanovisko
|
|
Odpovědná sekce
|
Zaměstnanost, sociální věci, občanství
|
|
Přijato v sekci
|
11/3/2025
|
|
Výsledek hlasování
(pro/proti/zdrželi se hlasování)
|
51/0/
|
|
Přijato na plenárním zasedání
|
D/M/YYYY
|
|
Plenární zasedání č.
|
…
|
|
Výsledek hlasování
(pro/proti/zdrželi se hlasování)
|
…/…/…
|
1.Závěry a doporučení
1.1EHSV se domnívá, že je naprosto nezbytné začleňovat osoby se zdravotním postižením v rámci celého procesu navrhování, vývoje, posuzování a zavádění nových technologií a aplikací založených na umělé inteligenci (AI). Toto začleňování má rozhodující význam pro zmírnění potenciálního rizika diskriminace.
1.2EHSV vyzývá členské státy a EU, aby prověřily a vyhodnotily, do jaké míry jsou aplikace AI v nejdůležitějších oblastech inkluzivní. Je třeba sdílet kladné osvědčené postupy, které zlepšují inkluzivnost aplikací založených na AI a zohledňují skupiny, jež by mohly být oběťmi diskriminace.
1.3EHSV uznává pokrok, který přinesl právní rámec EU v souvislosti s ochranou osob se zdravotním postižením před nepřijatelnými a vysoce rizikovými systémy AI, ochranou citlivých osobních údajů a zákazem manipulativních programů AI. Domnívá se nicméně, že je zapotřebí dalších následných opatření, aby bylo možné analyzovat případnou potřebu chránit osoby se zdravotním postižením před škodlivým použitím údajně nízce rizikových systémů, a to zejména v oblasti zaměstnání a náboru.
1.4EHSV zdůrazňuje, že v souladu se směrnicí Evropského parlamentu a Rady (EU) 2019/882, směrnicí Evropského parlamentu a Rady (EU) 2016/2102 a souvisejícími normami přístupnosti je důležité zajistit všeobecnou přístupnost služeb a zboží, jež využívají nové technologie a řešení založená na AI.
1.5Podle EHSV musí členské státy zajistit, aby zaměstnavatelé promítli příležitosti vznikající díky novému technologickému vývoji a aplikacím AI do zlepšení přístupnosti a přiměřených úprav pro zaměstnance se zdravotním postižením, a Evropská komise to musí podporovat. Přechod na nové digitální nástroje je sice třeba podporovat, ale zároveň by neměly být kvůli novým alternativám zavrhovány současné přínosné podpůrné technologie.
1.6EHSV doporučuje navýšit veřejné výdaje na výzkum a vývoj řešení založených na AI v zájmu zajištění přístupnosti a technologické pomoci, zlepšit informovanost veřejnosti o tomto technologickém pokroku a rovněž posílit stávající státní podporu na získávání těchto poznatků a odbornou přípravu všech uživatelů.
1.7EHSV naléhavě vyzývá členské státy, aby prováděly a rozšířily stávající programy zaměřené na získávání digitálních dovedností a určené osobám se zdravotním postižením s cílem zlepšit jejich nynější situaci a kvalifikace v této oblasti a aby souběžně usilovaly o lepší začlenění těchto osob do terciárního vzdělávání a odborné přípravy v technologických oborech. Komise a členské státy EU musí na úrovni EU shromažďovat data umožňující analýzu této míry začlenění a rozdílů v zaměstnanosti osob se zdravotním postižením.
1.8EHSV zdůrazňuje, že je třeba prosazovat přiměřené úpravy pro zaměstnance se zdravotním postižením na pracovišti, mimo jiné při jejich náboru do zaměstnání ve veřejném i soukromém sektoru, získávání dovedností a v odborné přípravě a rovněž tak v terciárním vzdělávání, neboť kvůli stávajícím překážkám je míra vysokoškolského vzdělání osob se zdravotním postižením mimořádně nízká. Náborové aplikace využívající nové technologie a AI musejí zamezit případným diskriminačním situacím a musejí být přístupné nebo nabízet přístupné alternativy
2.Souvislosti
2.1Dne 6. září 2024, tj. ještě před začátkem polského předsednictví Rady EU, požádal polský ministr pro evropské záležitosti EHSV o vypracování řady průzkumných stanovisek, mimo jiné stanoviska Začlenění osob se zdravotním postižením v kontextu vývoje nových technologií a umělé inteligence – možnosti, výzvy, rizika a příležitosti.
2.2V tomto průzkumném stanovisku jsou shrnuta témata související s nynější situací a potenciální dopad technologického vývoje a AI na zaměstnávání osob se zdravotním postižením v EU. Reaguje se vněm na otázky položené předsednictvím v souvislosti s rizikem diskriminace osob se zdravotním postižením, které může být spojeno s používáním algoritmů AI a dalších nových technologií na trhu práce.
3.Obecné připomínky
3.1Článek 27 Úmluvy OSN o právech osob se zdravotním postižením, kterou ratifikovala EU v roce 2011 i všechny členské státy, uznává právo osob se zdravotním postižením na práci na rovnoprávném základě s ostatními. Stanoví požadavky, které je nutné splnit, aby bylo tohoto cíle dosaženo, a mezi něž patří zajištění přístupu k odborné přípravě, poskytování přiměřených úprav na pracovišti a odstranění veškerých překážek, které by osobám se zdravotním postižením mohly bránit v plném začlenění, včetně překážek v informačních a komunikačních technologiích a systémech.
3.2Nové technologie a AI nabízejí osobám se zdravotním postižením nové příležitosti v oblasti vzdělávání, zaměstnanosti a zapojení ve společnosti. Řešení, která jsou vyvíjena, však musí být přístupná a při jejich vývoji je nutné brát na osoby se zdravotním postižením ohled. V evropském aktu o přístupnosti jsou v tomto ohledu stanoveny základní minimální požadavky na přístupnost a připomíná se, že je nutné zlepšit přístupnost dostupných i budoucích technologií, včetně AI. V aktu o AI je tento požadavek označen za prioritu a považuje za nezbytné, aby poskytovatelé požadavky na přístupnost splňovali v plném rozsahu. Měla by se prozkoumat možnost vypracování zvláštních norem přístupnosti pro technologie AI.
3.3Evropská komise přijala v roce 2022 balíček týkající se zaměstnanosti osob se zdravotním postižením, aby se pokročilo v zavádění opatření, jež mají zajistit dodržování Úmluvy OSN o právech osob se zdravotním postižením v EU, v souladu se Strategií práv osob se zdravotním postižením na období 2021–2030.
3.4Na úrovni EU je nicméně zaměstnáno pouze 50,8 % osob se zdravotním postižením v porovnání se 74,8 % osob bez postižení a na plný pracovní úvazek pracuje pouze 20 % žen a 29 % mužů se zdravotním postižením. V zaměstnání vydělávají osoby se zdravotním postižením v EU v průměru o 17,76 % méně než osoby bez postižení, což odpovídá 3 200 PPS. Je tedy zřejmé, že EU a její členské státy musí zlepšit začlenění osob se zdravotním postižením na trhu práce, přičemž se musí zaměřit na veřejnou podporu, vzdělávání a odbornou přípravu, přístupnost a přiměřené úpravy a odstranění diskriminačních postojů.
3.5Nebude-li odstraněna digitální propast, může nízká úroveň digitálních dovedností a digitalizace trhu práce spolu s nahrazováním pracovních míst s nízkou hodnotou řešeními AI prohloubit socioekonomické vyloučení osob se zdravotním postižením.
3.5.1Proces digitalizace a nové technologie obecně usnadňují řešení problémů v oblasti zaměstnatelnosti a zlepšují pracovní postupy, avšak pokud nebudou zohledňovat situaci každého člověka, kterého se týkají, mohou současně otevírat prostor pro nové problémy a potenciální rizika.
3.5.2Zaprvé, existují velké rozdíly ve využívání těchto technologií na trhu práce. I když přibližně 92 % pracovních míst na současném trhu práce vyžaduje digitální dovednosti a EU a její členské státy zintenzivnily své úsilí o zvýšení celkové digitalizace, mívají osoby se zdravotním postižením nižší míru digitální gramotnosti a odborné přípravy a omezenější přístup k internetovému připojení a technologickým nástrojům
. Procesy digitalizace musí podporovat začlenění, aby nebyly vyloučeny skupiny zranitelných osob, jak se uvádí v předchozím stanovisku.
3.5.3V EU v současné době dokončí terciární vzdělávání pouze 18 % osob se zdravotním postižením oproti 39 % běžné populace. V kombinaci s nižší úrovní digitálních dovedností proto tyto osoby mají komplikované vyhlídky na své budoucí začlenění na trhu práce a na začlenění do společnosti, a to tím spíše, že digitální dovednosti podporují také začlenění do vzdělávání a účast na kulturních, volnočasových a společenských aktivitách.
3.5.4Trendy na trhu práce ukazují, že pracovní místa vyžadující nižší kvalifikaci jsou nahrazována novými technologiemi, a někteří lidé pracující v těchto oblastech již přicházejí o práci. V celosvětovém měřítku hrozí, že v důsledku zavádění automatizovaných technologií zanikne 2,3 % pracovních míst. Tento vývoj má obzvláště negativní dopad na ženy a na osoby se zdravotním postižením, neboť kvůli výše zmíněnému nedostatku dovedností a digitální propasti zpravidla pracují v odvětvích s nižší hodnotou. Digitalizace probíhající v oblasti vzdělávání a odborné přípravy může ještě více zhoršit již tak nízkou míru jejich začlenění, a tím následně snížit jejich potenciální zaměstnatelnost a možnosti jejich sociálního začleňování.
3.5.5EU a její členské státy proto musí navýšit finanční prostředky určené ke zvyšování digitálních dovedností osob se zdravotním postižením, aby získaly přístup k potřebným nástrojům. Vzdělávací nástroje v oblasti digitálních dovedností založené na AI, jako jsou on-line vzdělávací platformy a technologie adaptivního učení, lze využívat jakožto snadno přístupná a cenově dostupná řešení ke vzdělávání osob se zdravotním postižením, jejichž možnosti zapojit se do běžného vzdělávání jsou omezené, ale nesmí to podrývat úsilí o podporu inkluzivního vzdělávání.
3.5.6Členské státy proto musí více investovat do lepšího začleňování těchto osob v oblasti vzdělávání a odborné přípravy. Hlavní překážkou bránící jejich pozdějšímu začleňování na trh práce je stávající nízká míra vzdělání a odborné přípravy, a to na všech úrovních.
3.6Umělá inteligence nabízí příležitosti ke zlepšení přístupnosti a technologické pomoci. Tato řešení sice podporují přechod na nové, uživatelsky vstřícné digitální nástroje, nicméně nesmí násilně nahradit stávající zavedené podpůrné technologie a musí být zajištěna jejich vzájemná interoperabilita.
3.6.1Umělá inteligence umožňuje zjednodušit pracovní postupy a strukturu současných pracovních míst, pokud se bude vyvíjet v souladu s přístupem „univerzálního designu“. Tento pokrok spolu s vývojem úprav ke zlepšení přístupnosti založených na AI mohou usnadnit začlenění osob se zdravotním postižením na trh práce i jejich nezávislý život. Díky programům AI lze podpůrné technologie přizpůsobit různým scénářům a typům zdravotního postižení, zatímco již existující podpůrné pomůcky bývají obvykle jednoúčelové
. Například technologie přepisu řeči na text může být nápomocná osobě s omezenou schopností psaní a odečítače obrazovky založené na AI mohou zlepšit formátování dokumentů, které píšou osoby se zrakovým postižením.
3.6.2Vývojáři technologií založených na AI by měli v rámci celého procesu vývoje zajistit skutečné zapojení a konzultování osob se zdravotním postižením, aby se zlepšila přístupnost. Mělo by být také usnadněno zavádění technologií založených na AI na pracovištích, a to tak, že pracovníci se zdravotním postižením budou zapojeni prostřednictvím všeobecného a spravedlivého sociálního dialogu. Rovněž je třeba prosazovat výměnu osvědčených postupů mezi členskými státy EU, pokud jde o řešení v oblasti začleňování založených na AI.
3.6.3Podpora přechodu na nové digitální nástroje sice může být pozitivní, ale potenciální zavádění nových technologií a AI v zájmu lepšího přístupu a přiměřených úprav zároveň neznamená, že jimi budou podniky a zaměstnavatelé nahrazovat stávající fungující technologie, které jsou osobami se zdravotním postižením běžně používány a přijímány. Taktéž je třeba zohlednit interoperabilitu mezi novými řešeními založenými na AI a stávajícími zařízeními využívajícími hardware a podpůrné technologie, jako jsou odečítače obrazovky založené na AI nebo ruční přepisování hlasového záznamu na text s podporou AI, aby si je osoby se zdravotním postižením osvojily.
3.7Aplikace pro nábor a hodnocení zaměstnanců založené na AI mohou být diskriminační, pokud neberou v úvahu specifické problémy a běžné překážky v oblasti vzdělávání a práce, kterým osoby se zdravotním postižením čelí. Je nezbytné poskytovat osobám se zdravotním postižením přiměřené úpravy ve větší míře.
3.7.1Umělá inteligence sice umožňuje řešit stávající problémy, jsou s ní však spojena i rizika a problémy. V aktu o AI jsou tyto potenciálně škodlivé aspekty uznány a upozorňuje se na riziko diskriminace osob se zdravotním postižením. Biometrická identifikace může vést ke zkresleným výsledkům a systémy AI mohou zneužívat zranitelnost a omezovat nezávislost. Rovněž se upozorňuje na rizika používání AI při náboru a monitorování výkonnosti, neboť to může udržovat diskriminaci a oslabovat základní práva na ochranu údajů a soukromí. Takové způsoby používání nových technologií jsou považovány za vysoce rizikové pro práva a svobodu subjektů údajů.
3.7.2Může také vyvstat specifické riziko při používání nástrojů AI k analýze databází životopisů pro účely zrychlení náboru, pokud tyto nástroje nezohledňují specifické problémy, s nimiž se potýkají osoby se zdravotním postižením v systému vzdělávání a ve svém pracovním životě. V rámci automatizovaného systému může přerušení kariéry za účelem habilitace a rehabilitace, delší čas trávený odbornou přípravou a vzděláváním z důvodů souvisejících se zdravotním postižením nebo účast na specializovaných vzdělávacích programech osoby negativně ovlivnit. Takovéto systémy musí podléhat analýze nebo dohledu člověka nad nástroji AI z hlediska zdravotního postižení, aby se předešlo potenciální diskriminaci.
3.7.3Další rizika spočívají v případném zavádění digitálních procesů náboru prostřednictvím nepřístupných nástrojů, které nezohledňují nutnost přiměřených úprav. Nucené zavádění náboru založeného na nových technologiích může rovněž omezit účast kandidátů se zdravotním postižením, nejsou-li k dispozici žádné přístupné alternativy.
3.7.4Obecně nejsou přiměřené úpravy na pracovišti v evropských podnicích kvůli nepochopení jejich smyslu, souvisejícím nákladům a jejich složitosti či dostupnosti veřejné podpory běžně poskytovány a rovněž zaměstnavatelé nejsou povinni je zajistit. Až 70 % evropských zaměstnavatelů nemá pokyny v oblasti lidských zdrojů týkající se přiměřených úprav, a to ani v rámci procesů náboru, a 76 % zaměstnavatelů nemá povědomí o veřejných politikách či programech na podporu jejich zavádění na pracovišti
. Zlepšení přiměřených úprav tudíž nespočívá pouze v rozvoji nových veřejných politik, ale ve správném šíření a zavádění politik již existujících.
3.7.5Evropská komise nedávno vydala doporučení a pokyny týkající se přiměřených úprav na pracovišti v rámci balíčku opatření v oblasti zaměstnanosti osob se zdravotním postižením. Orgány veřejné správy coby zaměstnavatelé by se těmito zásadami měly řídit a členské státy je musejí šířit. V dokumentu o osvědčených postupech jsou uvedeny příklady, mimo jiné poskytování podpůrných technologií a dalších řešení založených na nových technologiích, a jiní zaměstnavatelé je mohou kopírovat.
3.8Při vývoji algoritmů AI a nových technologií musí být začleněny osoby se zdravotním postižením a musí být zohledňováno hledisko zdravotního postižení.
3.8.1EU, její členské státy a sociální partneři musí lépe porozumět tomu, proč musí být při používání nových technologií a postupů založených na AI na trhu práce zohledňováno hledisko zdravotního postižení. Chápání důsledků pro osoby se zdravotním postižením má zásadní význam již od prvotních návrhů algoritmů AI a je nezbytné i při dalším vývoji řešení, jemuž se věnují podniky, a při posuzování jejich využití.
3.8.2Aby bylo možné uplatňovat hledisko zdravotního postižení v rámci celého vývoje a hodnocení systémů AI, musí vývojáři digitálních nástrojů vždy konzultovat subjekty zastupující osoby se zdravotním postižením a najímat osoby se zdravotním postižením na specifické úkoly v oblasti posuzování a konzultací. Komise a členské státy musí tento proces zabezpečit a podporovat veřejné programy, které mají zlepšit začleňování osob se zdravotním postižením v těchto oblastech.
3.8.3Členské státy musí dále zajistit, aby vysoké školy do osnov pro výuku informatiky, ale také dalších inženýrských oborů, zahrnuly odbornou přípravu v oblasti přístupnosti a inkluzivního designu, přičemž podpora by měla být zajištěna vnitrostátními a evropskými prostředky. Zlepšilo by to relevantnost specializovaných řešení a přístupnost hlavního proudu AI již od počátečních fází vývoje.
3.9Umělá inteligence má pro osoby se zdravotním postižením specifické riziko diskriminace v oblasti bankovnictví a pojišťovnictví.
3.9.1V bankovnictví a pojišťovnictví je uplatňování různých modelů AI pro účely analýzy osob spojeno s jasnými riziky diskriminace, mimo jiné kvůli nepravidelné struktuře příjmů a přestávkám v zaměstnání. Umělá inteligence se využívá k analyzování osobních údajů s cílem uplatňovat specifické služby, ceny či krytí. Používání automatických nástrojů ke schvalování či zamítání služeb, ke zjednodušení, urychlení či přesnějšímu určení produktů může být tedy z hlediska diskriminace či ochrany osobních údajů rizikové.
3.9.2V aktu o AI se zdůrazňuje, že systémy AI vytvořené pro účely posuzování rizik a stanovení výše pojistného u zdravotního a životního pojištění jsou považovány za vysoce rizikové, pokud nejsou řádně koncipovány, vyvíjeny a používány, neboť mohou porušovat základní práva konkrétních osob a mít závažné dopady na život a zdraví lidí, včetně finančního vyloučení a diskriminace. Proto se v něm konstatuje, že soukromé bankovní a pojišťovací subjekty, které využívají technologie založené na AI, jež spadají do kategorie vysoce rizikových, musí nejprve před jejich zavedením provádět posouzení dopadů na základní práva.
3.9.3Členské státy musí posílit veřejné programy a pobídky, aby se v EU zlepšil přístup osob se zdravotním postižením k financím, a to jak z hlediska fyzické, informační a komunikační přístupnosti, tak prevence diskriminace. Odstranit překážky může pomoci také odborná příprava v oblasti financí určená osobám se zdravotním postižením a školení zaměstnanců finančních institucí zaměřené na problematiku zdravotního postižení.
V Bruselu dne 11. března 2025.
Cinzia DEL RIO
předsedkyně sekce Zaměstnanost, sociální věci, občanství
_____________