ЕВРОПЕЙСКА КОМИСИЯ

Брюксел, 19.2.2020

COM(2020) 64 final

ДОКЛАД НА КОМИСИЯТА ДО ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ, СЪВЕТА И ЕВРОПЕЙСКИЯ ИКОНОМИЧЕСКИ И СОЦИАЛЕН КОМИТЕТ

Доклад относно последиците от изкуствения интелект, интернета на нещата и роботиката за безопасността и отговорността

Доклад относно последиците от изкуствения интелект, интернета на нещата и роботиката за безопасността и отговорността

1.Въведение

Изкуственият интелект (ИИ) 1 , интернетът на нещата (ИН) 2 и роботиката ще създадат нови възможности и ползи за нашето общество. Комисията признава значението и потенциала на тези технологии и необходимостта от значителни инвестиции в тези области. 3 Тя е решена да превърне Европа в световен лидер в областта на ИИ, ИН и роботиката. За постигането на тази цел се изисква ясна и предвидима правна уредба, чрез която да се преодолеят технологичните предизвикателства.

1.1.Настоящата правна уредба в областта на безопасността и отговорността

Общата цел на правните уредби в областта на безопасността и отговорността е да се гарантира, че всички продукти и услуги, включително тези, в които се влагат нововъзникващи цифрови технологии, работят безопасно, надеждно и последователно, и че настъпилите вреди се поправят ефикасно. Високите нива на безопасност на продуктите и системите, в които се влагат нови цифрови технологии, и надеждните механизми за поправяне на настъпилите вреди (т.е. уредбата относно отговорността) допринасят за по-добрата защита на потребителите. Те също така създават доверие в тези технологии, което е предпоставка за възприемането им от промишлеността и ползвателите. Това от своя страна ще повиши конкурентоспособността на нашата промишленост и ще допринесе за постигането на целите на Съюза 4 . Наличието на ясна уредба в областта на безопасността и отговорността е особено важно при появата на нови технологии като ИИ, ИН и роботиката, за да се гарантират защитата на потребителите и правната сигурност за предприятията.

Съюзът разполага със солидна и надеждна нормативна уредба в областта на безопасността и отговорността за вреди от продукти и солиден набор от стандарти за безопасност, допълнени от нехармонизирано национално законодателство в областта на отговорността за вреди. Заедно те гарантират благосъстоянието на нашите граждани на единния пазар и насърчават иновациите и използването на технологиите. ИИ, ИН и роботиката обаче променят характеристиките на много продукти и услуги.

В съобщението „Изкуствен интелект за Европа“ 5 , прието на 25 април 2018 г., се посочва, че Комисията ще представи доклад за оценка на въздействието на нововъзникващите цифрови технологии върху съществуващите уредби за безопасност и отговорност. Настоящият доклад има за цел да установи и проучи по-общите последици от ИИ, ИН и роботиката и потенциалните пропуски в нормативната уредба на отговорността и безопасността. Насоките, изложени в настоящия доклад, придружаващ Бялата книга за изкуствения интелект, са предоставени с цел обсъждане и са част от по-широката консултация със заинтересованите страни. Разделът за безопасността се основава на оценката 6 на Директивата относно машините 7 и на работата със съответните експертни групи 8 . Разделът за отговорността се основава на оценката 9 на Директивата относно отговорността за вреди от продукти 10 , приноса на съответните експертни групи 11 и контактите със заинтересованите страни. Настоящият доклад няма за цел да извърши изчерпателен преглед на съществуващите правила за безопасност и отговорност, а е съсредоточен върху установените досега ключови въпроси.

1.2.Характеристики на технологиите в областта на ИИ, ИН и роботиката

ИИ, ИН и роботиката имат много общи характеристики. Те могат да съчетават свързаност, автономност и зависимост от данни, за да изпълняват задачи с малък или никакъв човешки контрол или надзор. Системите с ИИ могат също така да подобряват собствените си резултати чрез учене от опит. Тяхната сложност намира отражение както в множеството икономически оператори, участващи във веригата на доставки, така и в многообразието от компоненти, части, софтуер, системи или услуги, които заедно образуват новите технологични екосистеми. Към това се прибавя и отвореността към актуализации и подобрения след пускането на продуктите на пазара. Огромните количества усвоявани данни, използването на алгоритми и непрозрачността на процеса на вземане на решения от ИИ затрудняват предвиждането на поведението на даден продукт с ИИ и разбирането на потенциалните причини за настъпили вреди. И накрая, свързаността и отвореността могат да изложат продуктите с ИИ и ИН и на киберзаплахи.

1.3.Възможности, създавани от ИИ, ИН и роботиката

Повишаването на доверието на ползвателите и засилването на общественото одобрение към нововъзникващите технологии, подобряването на продуктите, процесите и бизнес моделите и подкрепата за европейските производители, за да подобрят своята ефикасност, са само някои от възможностите, създавани от ИИ, ИН и роботиката.

Наред с повишаването на производителността и ефикасността, ИИ също така дава възможност на хората да разработят интелект, какъвто все още не е достигнат, което отваря вратите за нови открития и допринася за решаването на някои от най-големите предизвикателства в света: от лечението на хронични заболявания, прогнозирането на огнища на заболявания или намаляването на смъртността при пътнотранспортни произшествия до борбата с изменението на климата или предвиждането на заплахи за киберсигурността.

Тези технологии могат да донесат много ползи, като направят продуктите по-малко податливи на определени рискове и така подобрят безопасността им. Например свързаните и автоматизираните превозни средства биха могли да подобрят пътната безопасност, тъй като повечето пътнотранспортни произшествия понастоящем са причинени от човешки грешки 12 . Освен това системите с ИН са проектирани да получават и обработват голям обем данни от различни източници. Това повишено ниво на информация може да се използва по начин, който позволява на продуктите да се саморегулират и съответно да станат по-безопасни. Новите технологии могат да подобрят ефективността на изтеглянето на продукти, тъй като например продуктите биха могли да предупредят ползвателите да избягват определен проблем, свързан с безопасността 13 . Ако по време на използването на свързан продукт възникне проблем във връзка с безопасността, производителите могат да комуникират пряко с ползвателите, от една страна, за да ги предупредят за рисковете, а от друга страна, ако е възможно, да разрешат пряко проблема, като например осигурят актуализация във връзка с безопасността. Така например, по време на изтеглянето от пазара на устройство през 2017 г. производител на смартфони извърши актуализация на софтуера, за да намали до нула капацитета на батериите на подлежащите на изтегляне телефони 14 , така че ползвателите да спрат да използват опасните устройства.

Освен това новите технологии могат да допринесат за подобряване на проследимостта на продуктите. Така например функциите за свързване на ИН могат да дадат възможност на предприятията и органите за надзор на пазара да проследяват опасните продукти и да установяват рисковете във веригите на доставки 15 .

Наред с възможностите, които ИИ, ИН и роботиката може да предоставят на икономиката и на нашите общества, те също така може да създадат риск от накърняване на правнозащитени интереси — както имуществени, така и неимуществени. Рискът от настъпване на вреди ще се увеличава с разширяването на обхвата на приложение на тези технологии. В този контекст е от съществено значение да се анализира дали и до каква степен настоящата правна уредба в областта на безопасността и отговорността все още е годна да защити ползвателите.

2.Безопасност

В съобщението на Комисията, озаглавено „Изграждане на доверие в ориентирания към човека изкуствен интелект“, се посочва, че системите с изкуствен интелект следва да включват механизми за безопасност и сигурност от етапа на проектирането, за да се гарантира, че безопасността им е проверима на всеки етап и че е взета под внимание физическата и психическата безопасност на всички засегнати страни 16 .

Оценката на законодателството на Съюза в областта на безопасността на продуктите, представена в настоящия раздел, анализира въпроса дали настоящата законодателна уредба на Съюза съдържа съответните елементи, за да се гарантира, че нововъзникващите технологии, и по-специално системите с ИИ, включват механизми за безопасност и сигурност от етапа на проектирането.

Настоящият доклад разглежда предимно Директивата относно общата безопасност на продуктите 17 , както и хармонизираното законодателство в областта на продуктите, което следва хоризонталните правила на „Новия подход“ 18 и/или „Новата законодателна уредба“ (по-нататък „законодателство или уредба на Съюза в областта на безопасността на продуктите“) 19 . Хоризонталните правила осигуряват съгласуваност между секторните правила за безопасност на продуктите.

Законодателството на Съюза в областта на безопасността на продуктите има за цел да гарантира, че продуктите, пуснати на пазара на Съюза, отговарят на високи стандарти за здраве, безопасност и опазване на околната среда и че тези продукти могат да се движат свободно в целия Съюз. Секторното законодателство 20 се допълва от Директивата относно общата безопасност на продуктите 21 , която изисква всички потребителски продукти, дори и да не са регулирани от секторното законодателство на Съюза, да бъдат безопасни. Правилата за безопасност се допълват от надзор на пазара и правомощия, възложени на националните органи съгласно Регламента за надзор на пазара 22 и Директивата относно общата безопасност на продуктите 23 . В областта на транспорта съществуват допълнителни европейски и национални разпоредби относно въвеждането в експлоатация на моторно превозно средство 24 , въздухоплавателно средство или кораб, както и ясни правила, уреждащи безопасността по време на работа, включващи задачи за операторите и надзорни правомощия на съответните органи.

Европейската стандартизация също е съществен елемент от законодателството на Съюза в областта на безопасността на продуктите. Като се има предвид глобалният характер на цифровизацията и на нововъзникващите цифрови технологии, международното сътрудничество в областта на стандартизацията е от особено значение за конкурентоспособността на европейската промишленост.

Значителна част от уредбата на Съюза в областта на безопасността на продуктите е създадена преди появата на цифрови технологии като ИИ, ИН или роботиката. Поради това тя не винаги съдържа разпоредби, които изрично отговарят на новите предизвикателства и рискове, свързани с тези нови технологии. Това обаче не означава, че съществуващата уредба в областта на безопасността на продуктите не се прилага за продукти, включващи тези технологии, тъй като тя е технологично неутрална. Освен това в по-новите законодателни актове, които са част от тази уредба, например в сектора на медицинските изделия или на автомобилите, вече изрично са взети под внимание някои аспекти на появата на цифрови технологии, като например автоматизирани решения, софтуер като отделен продукт и свързаност.

Логиката, залегнала в основата на настоящото законодателство на Съюза в областта на безопасността на продуктите 25

По-долу са изложени предизвикателствата пред уредбата на Съюза в областта на безопасността на продуктите, пораждани от нововъзникващите цифрови технологии.

Свързаността е основна характеристика на все повече продукти и услуги. Тази характеристика е предизвикателство пред традиционната концепция за безопасност, тъй като свързаността може да наруши безопасността на продукта пряко, но също така и непряко — ако той бъде обект на хакерска атака, водеща до застрашаване на сигурността и засягане на безопасността на ползвателите.

Пример за това е нотификацията от Исландия чрез системата на ЕС за бърз обмен на информация във връзка с интелигентен часовник за деца 26 . Този продукт няма да причини пряка вреда на детето, което го носи, но тъй като липсва минимално ниво на сигурност, той лесно може да се използва като инструмент за получаване на достъп до детето. Тъй като една от предвидените функции на продукта е да гарантира безопасността на децата чрез локализиране, потребителят би очаквал той да не представлява заплаха за сигурността на децата, която би засегнала тяхната безопасност чрез възможността трети лица да ги проследят и/или да се свържат с тях.

Друг пример може да се вземе от нотификация, изпратена от Германия във връзка с лек автомобил 27 . Възможно е да има определени пропуски по отношение на сигурността на софтуера на радиото в автомобила, които да позволяват достъп на неупълномощени трети лица до взаимосвързаните системи за контрол в превозното средство. Ако тези пропуски по отношение на сигурността на софтуера бъдат използвани от трето лице за злонамерени цели, може да настъпи пътнотранспортно произшествие.

Ако не разполагат с необходимите равнища на сигурност, промишлените приложения също може да бъдат изложени на киберзаплахи, които биха засегнали безопасността на хора в по-голям мащаб. Такъв може да бъде случаят например с кибератаки срещу критично важна система за контрол на промишлено предприятие с цел да се предизвика експлозия, която би могла да отнеме човешки животи.

Законодателството на Съюза в областта на безопасността на продуктите по принцип не предвижда задължителни основни изисквания конкретно срещу киберзаплахи, засягащи безопасността на ползвателите. Разпоредби, свързани с аспектите на сигурността, обаче се съдържат в Регламента за медицинските изделия 28 , Директивата относно измервателните уреди 29 , Директивата за радиосъоръженията 30 или законодателството за типовото одобрение на превозни средства 31 . Актът за киберсигурността 32 предвижда доброволна рамка за сертифициране на киберсигурността за продукти, услуги и процеси в областта на информационните и комуникационните технологии (ИКТ), докато съответното законодателство на Съюза в областта на безопасността на продуктите въвежда задължителни изисквания.

Освен това рискът от загуба на свързаност при нововъзникващите цифрови технологии може да доведе и до рискове, свързани с безопасността. Например ако свързана пожароизвестителна система загуби свързаност, тя може да не предупреди потребителя в случай на пожар.

Безопасността в настоящото законодателство на Съюза в областта на безопасността на продуктите представлява цел, свързана с обществения ред. Концепцията за безопасност е свързана с употребата на продукта и с рисковете, например механични, електрически и т.н., които трябва да бъдат отстранени, за да бъде продуктът безопасен. Следва да се отбележи, че в зависимост от конкретния законодателен акт на Съюза в областта на безопасността на продуктите употребата на продукта обхваща не само предвидената, но също и предвидимата употреба, а в някои случаи, като например в Директивата относно машините 33 , дори и разумно предвидимата неправилна употреба.

Автономността 34 е една от основните характеристики на ИИ. Непредвидените резултати, произтичащи от ИИ, биха могли да причинят вреди на ползвателите и на застрашените лица.

Доколкото бъдещото „поведение“ на продуктите с ИИ може да бъде определено предварително чрез оценка на риска, извършена от производителя преди пускането на продуктите на пазара, уредбата на Съюза в областта на безопасността на продуктите вече установява задължения за производителите при оценката на риска да вземат предвид „използването“ 35 на продуктите през целия им жизнен цикъл. Тя предвижда също така задължение производителите да предоставят на ползвателите инструкции и информация във връзка с безопасността или предупреждения 36 . В този контекст например Директивата за радиосъоръженията 37 изисква от производителя да включва инструкции с информация за начина на използване на радиооборудването в съответствие с предвидената употреба.

В бъдеще може да възникнат и ситуации, при които резултатите от системите с ИИ няма да е възможно да бъдат изцяло определени предварително. В такива ситуации оценката на риска, извършена преди пускането на продукта на пазара, може вече да не отразява използването, функционирането или поведението на продукта. В тези случаи, ако първоначално предвидената от производителя употреба е била променена 38 поради автономно поведение и е засегнато съответствието с изискванията за безопасност, това може да бъде счетено за основание за извършване на нова оценка на самообучаващия се продукт 39 .

Съгласно действащата уредба, когато производителите узнаят, че в течение на жизнения си цикъл даден продукт създава рискове, които имат отражение върху безопасността, от тях понастоящем се изисква незабавно да информират компетентните органи и да предприемат действия за избягване на рисковете за ползвателите 40 .

Функцията за самообучение на продуктите и системите с ИИ може да позволи на машината да взема решения, които се отклоняват от първоначалния замисъл на производителите и съответно от очакванията на ползвателите. Това повдига въпроси относно човешкия контрол, така че хората да могат да избират как и дали да предоставят на продукти и системи с ИИ възможността за вземане на решения при изпълнението на избраните от човека цели 42 . Съществуващото законодателство на Съюза в областта на безопасността на продуктите не регламентира изрично човешкия надзор над самообучаващите се продукти и системи с ИИ 43 .

Бъдещото „поведение“ на приложенията с ИИ може да породи рискове за психичното здраве 44 на ползвателите, произтичащи например от сътрудничеството на ползвателите с хуманоидни роботи и системи с ИИ у дома или на работното място. В това отношение следва да се отбележи, че към настоящия момент понятието безопасност обикновено се свързва с усещането на потребителя за заплаха от физическо нараняване, която може да произтича от нововъзникващите цифрови технологии. Същевременно безопасните продукти са определени в правната уредба на Съюза като продукти, които не представляват какъвто и да е риск или само минимален риск за безопасността и здравето на хората. Общоприето е, че определението за „здраве“ включва както физическото, така и психическото благополучие. Въпреки това рисковете, свързани с психичното здраве, следва да бъдат включени изрично в концепцията за безопасност на продуктите в законодателната уредба.

Така например автономността не следва да причинява прекомерен стрес и неудобство за продължителни периоди от време, нито да накърнява психичното здраве. В връзка с това се счита, че факторите, които оказват положително влияние върху усещането за безопасност на възрастните хора 45 , са: да имат стабилни взаимоотношения с медицинския персонал, да имат контрол над ежедневните рутинни дейности и да получават информация за тях. Производителите на роботи, които взаимодействат с възрастни хора, следва да вземат под внимание тези фактори, за да предотвратят рисковете за психичното здраве.

Друга съществена характеристика на основаните на ИИ продукти и системи е зависимостта от данни. Точността и относимостта на данните са от съществено значение, за да се гарантира, че основаните на ИИ системи и продукти вземат решения в съответствие с предвидената от производителя цел.

Законодателството на Съюза в областта на безопасността на продуктите не разглежда изрично рисковете за безопасността, произтичащи от неточни данни. Въпреки това, в зависимост от „употребата“ на продукта, производителите следва да предвидят по време на етапите на проектиране и изпитване точността на данните и нейното значение за функциите, свързани с безопасността.

Например система с ИИ, създадена за откриване на специфични обекти, може да срещне затруднения при разпознаването на обекти в условия на лошо осветление, така че проектантите трябва да включат данни от изпитвания на продукта както в типични условия, така и при лошо осветление.

Друг пример е свързан със селскостопански роботи, като например машини за събиране на плодове, чиято цел е да разпознават и локализират зрелите плодове на дърветата или на земята. Въпреки че съответните алгоритми вече достигат над 90 % успеваемост при класифицирането, в случай на недостатък в наборите от данни, изпращани към тези алгоритми, тези роботи може да вземат лошо решение, вследствие на което да наранят животно или човек.

Непрозрачността е друга основна характеристика на някои от продуктите и системите с ИИ, която може да произтича от способността им да подобряват резултатите си чрез учене от опит. В зависимост от методологичния подход продуктите и системите с ИИ може да се характеризират с различна степен на непрозрачност. Това може да доведе до процес на вземане на решение на системата, който е труден за проследяване („ефект на черната кутия“). Може да не е необходимо хората да разбират всеки отделен етап от процеса на вземане на решения, но тъй като алгоритмите на ИИ бележат все по-голям напредък и се въвеждат в критични области, от решаващо значение е хората да могат да разбират как са били вземани алгоритмичните решения на системата. Това ще бъде от особено значение за последващия механизъм на правоприлагане, тъй като ще даде възможност на правоприлагащите органи да проследяват отговорността за поведението и избора на системите с ИИ. Това се потвърждава и в съобщението на Комисията, озаглавено „Изграждане на доверие в ориентирания към човека изкуствен интелект“ 46 .

Допълнителни рискове, които биха могли да повлияят върху безопасността, произтичат от сложността на продуктите и системите, тъй като е възможно да бъдат интегрирани различни компоненти, устройства и продукти и те могат да оказват влияние върху взаимното си функциониране (напр. продукти, които са част от интелигентна домашна екосистема).

Посочената в началото на настоящия раздел 48 правна уредба на Съюза в областта на безопасността вече съдържа мерки във връзка с тази сложност. По-специално, когато производителят извършва оценка на риска на продукта, той трябва да вземе под внимание предвидената употреба, предвидимата употреба и, където е приложимо, разумно предвидимата неправилна експлоатация.

В този контекст, ако производителят предвижда, че неговото устройство ще бъде взаимосвързано и ще взаимодейства с други устройства, това следва да бъде взето под внимание при оценката на риска. Употребата или неправилната експлоатация се определят въз основа например на опита от предишна употреба на същия тип продукт, разследвания на злополуки или анализ на човешкото поведение.

Въпросът за сложността на системите е регламентиран също така по-конкретно в секторното законодателство относно безопасността, например в Регламента за медицинските изделия и до известна степен в общото законодателство относно безопасността на продуктите 49 . Така например, производителят на свързано устройство, предназначено да бъде част от интелигентна домашна екосистема, следва да може разумно да предвиди, че продуктът му ще окаже въздействие върху безопасността на други продукти.

В допълнение към това законодателството в областта на транспорта регламентира тази сложност на ниво система. За колите, влаковете и самолетите одобрението на типа и сертифицирането се извършват както за всеки компонент, така и за цялото превозно или въздухоплавателно средство. Годността за движение по пътищата, летателната годност и оперативната съвместимост на железопътната система са част от оценката на безопасността. В областта на транспорта „системите“ трябва да бъдат „разрешени“ от съответен орган, като това става или въз основа на извършена от трето лице оценка на съответствието при съпоставка с ясни технически предписания, или след демонстрация на мерките за отстраняване на рисковете. Обикновено решението представлява комбинация от мерки на ниво „продукт“ и „система“.

Сложните системи често включват софтуер, като той е основен компонент на всяка система, основана на ИИ. Обикновено като част от първоначалната оценка на риска производителят на крайния продукт е задължен да предвиди рисковете от интегрирания в продукта софтуер към момента на пускането на продукта на пазара.

Някои актове от законодателството на Съюза в областта на безопасността на продуктите визират изрично интегрирания в продукта софтуер. Например Директивата относно машините 50 изисква неизправностите в софтуера на системата за управление да не водят до възникването на опасни ситуации.

В законодателството на Съюза в областта на безопасността на продуктите актуализациите на софтуера биха могли да се сравнят с операции по поддръжка, необходими за безопасността, при условие че не променят значително продукт, който вече е пуснат на пазара, и не водят до нови рискове, които не са били предвидени при първоначалната оценка на риска. Ако обаче актуализацията на софтуера променя значително продукта, в който тя се изтегля, е възможно целият продукт да бъде счетен за нов, при което трябва да се извърши нова оценка на съответствието със съответното законодателство относно безопасността на продуктите към момента на извършване на модификацията 51 .

Що се отнася до самостоятелния софтуер, пускан като такъв на пазара или качван след като продуктът е бил пуснат на пазара, хармонизираното секторно законодателство на Съюза в областта на безопасността на продуктите по принцип не съдържа специфични разпоредби за него. Някои части от законодателството на Съюза обаче са приложими спрямо самостоятелния софтуер, като например Регламентът за медицинските изделия. Освен това самостоятелният софтуер, качен в свързани продукти, които комуникират чрез определени радиомодули 52 , може да бъде регулиран и въз основа на Директивата за радиосъоръженията чрез делегирани актове. Тази директива изисква определени категории или класове радиосъоръжения да притежават характеристики, които да гарантират, че съответствието на съоръжението не се излага на риск при качване на софтуер 53 .

И накрая, нововъзникващите цифрови технологии се влияят от сложни вериги за създаване на стойност. Тази сложност обаче нито е нова, нито е проблем, породен изключително от нововъзникващите цифрови технологии, като ИИ или ИН. Такъв е например случаят с продукти като компютри, обслужващи роботи (service robots) или транспортни системи.

Съгласно законодателството на Съюза в областта на безопасността на продуктите, независимо от това колко е сложна веригата за създаване на стойност, отговорността за безопасността на продукта се носи от производителя, който пуска продукта на пазара. Производителите отговарят за безопасността на крайния продукт, включително и на частите, включени в него, например софтуера на компютър.

Някои актове от законодателството на Съюза в областта на безопасността на продуктите вече съдържат разпоредби, отнасящи се изрично до ситуации, в които няколко икономически оператори работят по даден продукт, преди той да бъде пуснат на пазара. Например Директивата за асансьорите 54 изисква от икономическия оператор, който проектира и произвежда асансьора, да осигури на лицето, което монтира асансьора 55 , „цялата необходима документация и информация, за да му даде възможност да осигури правилното и безопасното монтиране и изпитване на асансьора“. Директивата относно машините изисква от производителите на съоръжения да предоставят на оператора информация за начина на монтиране на оборудването към друга машина 56 .

3.Отговорност

На равнището на Съюза разпоредбите относно безопасността на продуктите и отговорността за вреди от продукти изграждат два допълващи се механизма за постигане на една и съща цел на политиката за функциониращ единен пазар на стоки, осигуряващ високи нива на безопасност, а именно — рискът от вреди за потребителите да се сведе до минимум и да се осигури обезщетение за вредите, причинени от дефектни продукти.

На национално равнище нехармонизираните правни уредби за гражданската отговорност допълват тези норми на Съюза, като гарантират обезщетение за вредите, причинени по различни начини (например от продукти и услуги), и като възлагат отговорността на различни лица (напр. собственици, оператори или доставчици на услуги).

Макар оптимизирането на правилата на Съюза в областта на безопасността във връзка с ИИ да може да спомогне за избягването на злополуки, такива все пак могат да се случат. Именно тогава влиза в действие гражданската отговорност. Нормите за гражданската отговорност играят двойна роля в нашето общество: от една страна, те гарантират, че лицата, претърпели вреди, причинени от други лица, получават обезщетение, а от друга страна създават икономически стимули за отговорното лице да избягва причиняването на такива вреди. Нормите за отговорността трябва винаги да постигат баланс между защитата на гражданите от вреди и осигуряването на възможности за предприятията да иновират.

Уредбата в областта на отговорността в Съюза функционира добре. Тя почива на паралелното прилагане на Директивата относно отговорността за вреди от продукти (Директива 85/374/ЕИО), която хармонизира отговорността на производителя на дефектни продукти, и други нехармонизирани национални режими в областта на отговорността.

Директивата относно отговорността за вреди от продукти осигурява слой защита, какъвто националните норми относно виновната отговорност не предвиждат сами по себе си. Тя въвежда режим на обективна (безвиновна) отговорност на производителя за вреди, причинени от дефект на продуктите му. В случай на телесни или материални вреди увреденото лице има право на обезщетение, ако докаже вредата, дефекта на продукта (т.е. че той не е бил толкова безопасен, колкото основателно може да се очаква) и причинно-следствената връзка между дефектния продукт и вредата.

Нехармонизираните национални режими предвиждат норми за виновна отговорност, съгласно които за да успеят да защитят претенцията си за обезщетение за претърпени вреди, увредените лица трябва да докажат вината на отговорното лице, настъпилата вреда и причинно-следствената връзка между виновното поведение и вредата. Въведени са и режими за обективна (безвиновна) отговорност, при които националният законодател възлага отговорността за даден риск на конкретно лице, без да е необходимо увреденото лице да доказва вина/дефект или причинно-следствена връзка между вината/дефекта и вредата.

Националните режими за отговорността предоставят на лицата, претърпели вреди, причинени от продукти и услуги, няколко паралелни възможности за претендиране на обезщетение, основаващи се на наличието на вина или на обективна отговорност. Тези претенции често са насочени срещу различни отговорни лица и за тях са предвидени различни условия.

Например пострадалият от пътнотранспортно произшествие обикновено може да предяви по националното гражданско право претенция за безвиновна отговорност срещу собственика на автомобила (т.е. лицето, което сключва застраховка „Гражданска отговорност“ за моторното превозно средство) и претенция за виновна отговорност срещу водача, а въз основа на Директивата относно отговорността за вреди от продукти може да предяви и претенция срещу производителя, ако автомобилът е имал дефект.

Съгласно хармонизираните правила относно застраховането на моторни превозни средства за използването на превозното средство трябва да бъде сключена застраховка 57 и на практика застрахователят винаги е първият, към когото се отправя искане за обезщетение на телесна повреда или материални вреди. Според тези правила задължителната застраховка обезщетява пострадалия и осигурява защита на застрахованото лице, което съгласно националното гражданско право 58 носи отговорност за изплащането на финансови обезщетения за злополуката с моторното превозно средство. Директивата относно отговорността за вреди от продукти не изисква от производителите задължително застраховане. По отношение на автомобилното застраховане законодателството на Съюза не третира автономните превозни средства по различен начин от неавтономните превозни средства. Като всички превозни средства, автономните превозни средства трябва да бъдат покрити от застраховка „Гражданска отговорност“, като това е най-лесният начин увреденото лице да получи обезщетение.

Сключването на подходяща застраховка може да смекчи отрицателните последици от злополуките, като осигури лесно заплащане на обезщетение на пострадалия. Ясните правила за отговорността помагат на застрахователните дружества да изчисляват рисковете и да искат възстановяване на разходите от страната, която в крайна сметка носи отговорност за вредите. Така например, ако злополуката е настъпила поради дефект, автомобилният застраховател може да поиска възстановяване на разходите от производителя, след като обезщети жертвата.

При все това, характеристиките на нововъзникващите цифрови технологии, като ИИ, ИН и роботиката, пораждат затруднения по отношение на някои аспекти от уредбата на Съюза и от националните уредби в областта на отговорността и биха могли да намалят тяхната ефективност. Някои от тези характеристики може да затруднят обратното проследяване на вредите до достигане до човешко поведение, което да може да даде основание за предявяване на претенция за виновна отговорност в съответствие с националните правила. Това означава, че претенциите за отговорност за причинени вреди, предявявани въз основа на националните норми за непозволеното увреждане, може да бъдат трудни за доказване или доказването им да бъде прекалено скъпо и съответно пострадалите може да не получат адекватно обезщетение. Важно е жертвите на злополуки, причинени от продукти и услуги, които включват нововъзникващи цифрови технологии като ИИ, да не се ползват от по-ниско равнище на защита в сравнение с други подобни продукти и услуги, за които биха получили обезщетение съгласно националното право в областта на непозволеното увреждане. Това би могло да намали приемането от обществото на тези нововъзникващи технологии и да доведе до колебание относно използването им.

Ще трябва да се прецени дали предизвикателствата, които новите технологии поставят пред съществуващите правни уредби, биха могли да доведат и до правна несигурност относно начина на прилагане на действащите закони (напр. как би се прилагала концепцията за „вината“ при вреди, причинени от ИИ). Това на свой ред би могло да обезкуражи инвестирането, както и да повиши разходите за информация и застраховане на производителите и другите предприятия по веригата на доставки, особено за европейските МСП. Освен това, дори държавите членки в крайна сметка да се справят с предизвикателствата пред националните си уредби в областта на отговорността, това би могло да доведе до допълнителна нормативна разпокъсаност, което би увеличило разходите за намиране на новаторски решения за ИИ и би намалило трансграничната търговия в рамките на единния пазар. Важно е дружествата да са наясно с рисковете, за които носят отговорност, по цялата верига за създаване на стойност и да могат да ги намаляват или предотвратяват, както и да се застраховат ефективно срещу тях.

В тази глава се обяснява защо новите технологии представляват предизвикателство за съществуващите уредби и по какъв начин могат да бъдат преодолени тези предизвикателства. Освен това особеностите на някои сектори, например здравеопазването, може да се нуждаят от допълнително разглеждане.

Сложност на продуктите, услугите и веригата за създаване на стойност: През последните десетилетия технологиите и промишлеността претърпяха драстично развитие. Особено разделителната линия между продуктите и услугите вече не може да бъде прокарана толкова ясно, колкото преди. Продуктите и предоставянето на услуги са все по-тясно преплетени. Въпреки че сложните продукти и вериги за създаване на стойност не са новост за европейската промишленост или нейния регулаторен модел, софтуерът и ИИ заслужават да им се обърне специално внимание във връзка с отговорността за вреди от продукти. Софтуерът е от основно значение за функционирането на голям брой продукти и може да повлияе върху тяхната безопасност. Той е интегриран в продуктите, но може да се доставя и отделно, за да позволи употребата на продукта по предназначение. Нито компютър, нито смартфон биха били от особена полза без софтуер. Това означава, че софтуерът може да доведе до дефект на материалния продукт и до материални вреди (вж. карето относно софтуера в частта относно безопасността). В крайна сметка това би могло да доведе до ангажиране на отговорността на производителя на продукта или стоката съгласно Директивата относно отговорността за вреди от продукти.

Тъй като обаче софтуерът съществува в много видове и форми, отговорите във връзка с класифицирането му като услуга или като продукт не винаги могат да са еднозначни. Така например, софтуерът за управление на работата на материален продукт може да се счита за част или компонент от този продукт, но някои форми на самостоятелен софтуер може да бъдат по-трудни за класифициране.

Приложения с изкуствен интелект често се интегрират в сложна среда от типа „интернет на нещата“, в която си взаимодействат множество различни свързани устройства и услуги. Съчетаването на различни цифрови компоненти в една сложна екосистема и многообразието на участниците могат да затруднят извършването на преценка за това откъде произтичат евентуалните вреди и кое лице носи отговорност за тях. Поради сложността на тези технологии за пострадалите може да бъде много трудно да установят кой носи отговорност и да докажат всички необходими елементи за успешното предявяване на претенция, както се изисква от националното законодателство. Разходите за такава експертна преценка могат да бъдат икономически непосилни и да обезкуражат пострадалите да предявяват претенции за обезщетение.

Наред с това, продуктите и услугите, които разчитат на ИИ, ще взаимодействат с традиционните технологии, което ще доведе до допълнително усложняване и в областта на отговорността. Така например, за известно време автономните автомобили ще ползват пътищата наред с традиционните автомобили. Подобна сложна система на взаимодействащи си участници ще възникне в някои сектори на услугите (напр. управлението на пътния трафик и здравеопазването), където частично автоматизирани системи с ИИ ще помагат при вземането на решения от хората.

Според доклада 59 , изготвен от подгрупата по новите технологии към Експертната група по въпросите на отговорността и новите технологии (Expert Group on Liability and New Technologies), може да се помисли за адаптиране на националните закони, за да се облекчи тежестта на доказване за лицата, които са претърпели вреди, свързани с ИИ. Възможно е например тежестта на доказване да бъде обвързана със спазването (от съответния оператор) на определени законоустановени задължения във връзка с киберсигурността или безопасността: ако правилата не бъдат спазени, може да се прилага промяна в тежестта на доказване по отношение на вината и причинно-следствената връзка.

Свързаност и отвореност: Понастоящем не е съвсем ясно какви може да бъдат очакванията за безопасност по отношение на вредите, произтичащи от нарушения на киберсигурността на продукта, и дали тези вреди биха били обезщетени по адекватен начин въз основа на Директивата относно отговорността за вреди от продукти.

Слабостите в киберсигурността може да съществуват още от самото начало, при пускане на продукта в обращение, но също така е възможно да възникнат на по-късен етап, много след пускането му в обращение.

При правните уредби, предвиждащи виновна отговорност, вменяването на ясни задължения относно киберсигурността позволява на субектите да определят какво трябва да направят, за да избегнат последиците от отговорността.

Ако се прилага Директивата относно отговорността за вреди от продукти, въпросът дали даден производител е можел да предвиди някои промени, като се има предвид разумно предвидимата употреба на продукта, може да придобие по-голямо значение. Така например, бихме могли да станем свидетели на по-често прибягване до защита чрез аргумент за „възникнал впоследствие недостатък“, според която производителят не носи отговорност, ако дефектът/недостатъкът не е съществувал към момента на пускане на продукта в обращение, или чрез аргумент за „риска, свързан с разработването на продукта“ (че най-съвременните познания към онзи момент не са позволявали въпросният дефект да бъде предвиден). Освен това отговорността би могла да се намали, ако увреденото лице не извършва актуализации, които са от значение за безопасността. Това потенциално би могло да се счита за съпричиняване от страна на увреденото лице и съответно би могло да води до намаляване на отговорността на производителя. Тъй като понятието за „разумно предвидима употреба“ и въпросите, свързани със съпричиняването на вреди, като например пропускът да се свали актуализация от значение за безопасността, може да придобият по-голямо значение, за увредените лица може да стане по-трудно да получат обезщетение за вреди, причинени от дефект в продукта.

Автономност и непрозрачност: Когато приложенията с ИИ са способни да действат автономно (самостоятелно), те изпълняват задача без всяка стъпка да е предварително определена и с по-малко или евентуално без какъвто и да било непосредствен контрол или надзор от страна на човека. Алгоритмите, основани на машинно самообучение, може да бъдат трудни за разбиране, ако не и напълно неразбираеми (т.нар. „ефект на черната кутия“). 

В допълнение към сложността, разгледана по-горе, поради ефекта на черната кутия при някои ИИ, получаването на обезщетение би могло да се превърне в трудна задача при вреди, причинени от автономни приложения с ИИ. За разбирането на алгоритъма и данните, използвани от ИИ, се изискват аналитичен капацитет и технически експертен опит, които биха могли да се окажат непосилно скъпи за увредените лица. Освен това достъпът до алгоритъма и данните може да бъде невъзможен без съдействието на евентуално отговорната страна. По този начин на практика жертвите може да не бъдат в състояние да предявят иск за обезщетение. Наред с това би било неясно как да се докаже вината на ИИ, който е действал автономно, или как би следвало да се разглежда вината на лице, което е разчитало на използването на ИИ.

Националните законодателства вече са разработили редица решения за намаляване на тежестта на доказване за увредените лица в подобни ситуации.

Като водещ принцип на Съюза по отношение на безопасността на продуктите и отговорността за вреди от продукти остава принципът, че производителите трябва да гарантират, че всички пуснати на пазара продукти следва да бъдат безопасни през целия си жизнен цикъл и при употреба на продукта, която може основателно да се очаква. Това означава, че производителят би трябвало да гарантира, че продукт, използващ ИИ, отговаря на определени показатели за безопасност. Характеристиките на ИИ не изключват правото на лицата да имат очаквания във връзка със сигурността на продуктите, независимо дали става дума за автоматични косачки на трева или хирургически роботи.

Автономността може да се отрази на безопасността на продукта, тъй като може да промени съществено неговите характеристики, включително характеристиките му за безопасност. Поставя се въпросът при какви обстоятелства характеристиките за самообучение удължават срока за отговорността на производителя и до каква степен производителят е бил длъжен да предвиди някои промени.

Според доклада 60 , изготвен от подгрупата по новите технологии към Експертната група по въпросите на отговорността и новите технологии, функционирането на някои автономни устройства и услуги с ИИ може да се окаже със специфичен рисков профил що се отнася до отговорността, тъй като тези устройства и услуги биха могли да увредят в значителна степен важни законни интереси, като живота, здравето и собствеността, и да изложат широката общественост на рискове. Това би могло да се отнася главно до устройствата с ИИ, които се движат на обществени места (напр. напълно автономни превозни средства, дронове 61 и роботи за доставка на пакети) или до услуги, основани на ИИ, които пораждат сходни рискове (напр. услуги за управление на движението по пътищата, които насочват или контролират превозните средства, или услуги по управление на електроразпределението). Предизвикателствата пред националните уредби в областта на непозволеното увреждане, пораждани от автономността и липсата на прозрачност, могат да бъдат преодолени с подход, основан на риска. Чрез режимите за обективна (безвиновна) отговорност би могло да се гарантира, че когато рискът се материализира, увреденото лице ще получи обезщетение, независимо дали е налице вина. Последиците от избора на лицата, които ще следва да носят обективна отговорност за такива операции, върху разработването и внедряването на ИИ ще трябва да бъдат внимателно преценени, като се обмисли подход, основан на риска.

4.Заключение

Появата на нови цифрови технологии, като ИИ, ИН и роботиката, поражда нови предизвикателства във връзка с безопасността на продуктите и отговорността, като например свързаност, автономност, зависимост от данни, непрозрачност, сложност на продуктите и системите, актуализации на софтуера и по-сложни системи за управление на безопасността и вериги за създаване на стойност.

Действащото законодателство в областта на безопасността на продуктите съдържа редица пропуски, които трябва да бъдат отстранени, по-специално в Директивата относно общата безопасност на продуктите, Директивата относно машините, Директивата за радиосъоръженията и новата законодателна уредба. При бъдещата работа по адаптирането на различните законодателни актове от тази уредба ще бъде възприет последователен и хармонизиран подход.

Новите предизвикателства, свързани с безопасността, пораждат и нови предизвикателства във връзка с отговорността. Необходимо е да се вземат мерки за преодоляване на предизвикателствата, свързани с отговорността, за да се гарантира същото равнище на защита като това, което се осигурява на лицата, претърпели вреди от традиционните технологии, при запазване на баланса с нуждите от технологични иновации. Това ще спомогне за изграждането на доверие в тези нововъзникващи цифрови технологии и за създаване на инвестиционна стабилност.

Въпреки че по принцип действащото европейско и национално законодателство в областта на отговорността може да се справи с нововъзникващите технологии, мащабът и комбинираните последици от предизвикателствата, произтичащи от ИИ, биха могли да затруднят обезщетяването на увредените лица във всички случаи, в които това би било обосновано 63 . По този начин разпределението на разходите при настъпване на вреда съгласно действащите правила може да се окаже несправедливо или неефикасно. С цел това да бъде поправено и да се премахнат евентуални елементи на несигурност в действащата уредба, би могло да се помисли за известни корекции на Директивата относно отговорността за вреди от продукти и националните режими относно отговорността, които да се извършат чрез подходящи инициативи на ЕС, при възприемане на целенасочен и основан на риска подход, т.е. като се има предвид, че различните приложения с ИИ пораждат различни рискове.

(1)

     Определението за „изкуствен интелект“ на експертната група на високо равнище (ЕГВР ИИ) може да бъде намерено на адрес: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines

(2)

     Определението за „интернет на нещата“, дадено в Препоръка ITU-T Y.2060 на Международния съюз по далекосъобщения може да бъде намерено на адрес: https://www.itu.int/ITU-T/recommendations/rec.aspx?rec=y.2060

(3)

     SWD(2016) 110, COM(2017) 9, COM(2018) 237 и COM(2018) 795.

(4)

      http://ec.europa.eu/growth/industry/policy_en  

(5)

      https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN .

В придружаващия го работен документ на службите на Комисията (2018) 137 ( https://eur-lex.europa.eu/legal-content/en/ALL/?uri=CELEX%3A52018SC0137 ) бяха набелязани за първи път свързаните с отговорността предизвикателства, срещани в контекста на нововъзникващите цифрови технологии.

(6)

     Работен документ на службите на Комисията SWD(2018) 161 final.

(7)

     Директива 2006/42/ЕО.

(8)

     Мрежата по безопасност на потребителите, създадена с Директива 2001/95/ЕО относно общата безопасност на продуктите (ДОБП), експертните групи по Директива 2006/42/ЕО относно машините и Директива 2014/53/ЕС относно радиосъоръженията, съставени от представители на държавите членки, промишлеността и други заинтересовани страни, като например сдружения на потребителите. 

(9)

     COM(2018) 246 final.

(10)

     Директива 85/374/ЕИО.

(11)

     Експертната група по въпросите на отговорността и новите технологии беше създадена, за да предоставя на Комисията експертен опит във връзка с приложимостта на Директивата относно отговорността за вреди от продукти и националните правила за гражданска отговорност, както и да оказва съдействие при разработването на ръководни принципи за евентуално адаптиране на приложимите закони, свързани с новите технологии. Тя работи в две подгрупи — подгрупа по отговорността за вреди от продукти и подгрупа по новите технологии, вж. http://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupDetail&groupID=3592&NewSearch=1&NewSearch=1 .

   Докладът на подгрупата по новите технологии, озаглавен „Отговорност за изкуствения интелект и други нововъзникващи технологии“, може да бъде намерен на адрес https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .

(12)

     По приблизителни оценки около 90 % от пътните произшествия са причинени от човешки грешки. Вж. доклада на Комисията, озаглавен „В името на човешкия живот: повишаване на безопасността на автомобилите в ЕС“ (COM(2016) 0787 final).

(13)

     Например водачът на моторно превозно средство може да бъде предупреден да намали скоростта в случай на произшествие на пътя, по който се движи.

(14)

     ОИСР (2018), „Измерване и максимално увеличаване на въздействието на изтеглянията от пазара на продукти в световен мащаб: доклад от семинар на ОИСР“, OECD Science, Technology and Industry Policy Papers, No. 56, OECD Publishing, Paris, https://doi.org/10.1787/ab757416-en .

(15)

     ОИСР (2018), „Подобряване в световен мащаб на ефективността при изтеглянето от пазара на продукти: информационен доклад на ОИСР“, OECD Science, Technology and Industry Policy Papers, No. 58, OECD Publishing, Paris, https://doi.org/10.1787/ef71935c-en .

(16)

     Съобщение на Комисията до Европейския парламент, Съвета, Европейския икономически и социален комитет и Комитета на регионите, озаглавено „Изграждане на доверие в ориентирания към човека изкуствен интелект“, Брюксел, 8.4.2019 г., COM(2019) 168 final.

(17)

   Директива 2001/95/ЕО на Европейския парламент и на Съвета от 3 декември 2001 г. относно общата безопасност на продуктите (ОВ L 11, 15.1.2002 г., стр. 4).

(18)

     ОВ С 136, 4.6.1985 г., стр. 1.

(19)

     Регламент (ЕО) № 2008/765 и Решение (ЕО) № 2008/768.

(20)

     Тази схема не включва законодателството на Съюза в областта на транспорта и автомобилите.

(21)

     Директива 2001/95/ЕО на Европейския парламент и на Съвета от 3 декември 2001 г. относно общата безопасност на продуктите (ОВ L 11, 15.1.2002 г., стр. 4).

(22)

     Регламент (ЕО) № 765/2008 на Европейския парламент и на Съвета от 9 юли 2008 г. за определяне на изискванията за акредитация и надзор на пазара във връзка с предлагането на пазара на продукти и за отмяна на Регламент (ЕИО) № 339/93, ОВ L 218, 13.8.2008 г., стр. 30, ELI: http://data.europa.eu/eli/reg/2008/765/oj , а от 2021 г. нататък — Регламент (ЕС) 2019/1020 на Европейския парламент и на Съвета от 20 юни 2019 г. относно надзора на пазара и съответствието на продуктите и за изменение на Директива 2004/42/ЕО и регламенти (ЕО) № 765/2008 и (ЕС) № 305/2011, ОВ L 169, 25.6.2019 г., стр. 1, ELI: https://eur-lex.europa.eu/eli/reg/2019/1020/oj?locale=bg

(23)

     Член 8, параграф 1, буква б) и параграф 3 от Директивата относно общата безопасност на продуктите.

(24)

   Например Директива 2007/46/ЕО — одобряване на моторни превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства, и Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета от 30 май 2018 г. относно одобряването и надзора на пазара на моторни превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства, за изменение на регламенти (ЕО) № 715/2007 и (ЕО) № 595/2009 и за отмяна на Директива 2007/46/ЕО.

(25)

     Схемата не включва законодателните изисквания в областта на жизнения цикъл на продукта, т.е. употребата и поддръжката, а е представена само за обща илюстрация.

(26)

     Нотификация посредством RAPEX от Исландия, публикувана на уебсайта EU Safety Gate (A12/0157/19).

(27)

     Нотификация посредством RAPEX от Германия, публикувана на уебсайта EU Safety Gate (A12/1671/15). 

(28)

   Регламент (ЕС) 2017/745 относно медицинските изделия.

(29)

   Директива 2014/32/ЕС относно предоставянето на пазара на средства за измерване.

(30)

   Директива 2014/53/ЕС за радиосъоръженията.

(31)

   Директива 2007/46/ЕО — одобрение на моторните превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства. Директивата ще бъде отменена и заменена с Регламент (ЕС) 2018/858 относно одобряването и надзора на пазара на моторни превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства, за изменение на регламенти (ЕО) № 715/2007 и (ЕО) № 595/2009 и за отмяна на Директива 2007/46/ЕО, считано от 1 септември 2020 г.

(32)

   Регламент (ЕС) 2019/881.

(33)

   Директива 2006/42/ЕО относно машините.

(34)

   Макар продуктите с ИИ да могат да действат автономно, като възприемат заобикалящата ги среда, без да следват набор от предварително определени инструкции, тяхното поведение е ограничено от зададената им цел и от други подходящи проектантски решения, взети от техните разработчици.

(35)

     Съгласно законодателството на Съюза в областта на безопасността на продуктите производителите извършват оценка на риска въз основа на предвидената употреба на продукта, предвидимата употреба и/или разумно предвидимата неправилна употреба.

(36)

     Решение № 768/2008/ЕО на Европейския парламент и на Съвета от 9 юли 2008 г. относно обща рамка за предлагането на пазара на продукти и за отмяна на Решение 93/465/ЕИО на Съвета (ОВ L 218, 13.8.2008 г., стр. 82). Член R2.7 от приложение I гласи: Производителите гарантират, че продуктът се придружава от инструкции и информация за безопасност на език, лесно разбираем за потребителите и другите крайни ползватели, определен от съответната държава членка.

(37)

     Член 10, параграф 8 относно указанията за крайния потребител и приложение VI, в което се прави позоваване на декларацията за съответствие с изискванията на ЕС.

(38)

   Досега в контекста на ИИ понятието „самообучение“ се използва най-вече, за да се посочи, че машините са способни да учат по време на обучението им; все още не се изисква машините с ИИ да продължат да учат, след като са пуснати в експлоатация; напротив, особено в здравеопазването машините с ИИ обикновено спират да учат, след като обучението им е завършено успешно. Следователно на този етап автономното поведение, произтичащо от системите с ИИ, не означава, че продуктът изпълнява задачи, които не са предвидени от разработчиците.

(39)

     Това е в съответствие с раздел 2.1 от „Синьото ръководство“ за прилагането на правилата на ЕС относно продуктите — 2016 г.

(40)

     Член 5 от Директива 2001/95/ЕО на Европейския парламент и на Съвета от 3 декември 2001 г. относно общата безопасност на продуктите.

(41)

   В случай на промени в железопътната система, които могат да окажат въздействие върху безопасността (например техническа, експлоатационна промяна или също организационна промяна, която може да повлияе на процеса на експлоатация или поддръжка), процесът, който трябва да се следва, е описан в приложение I към Регламент за изпълнение (ЕС) 2015/1136 на Комисията (ОВ L 185, 14.7.2015 г., стр. 6).

   В случай на „значителна промяна“ независим „оценяващ орган“ (това може да бъде националният орган по безопасността или друг технически компетентен орган) следва да представи на вносителя на предложението за промяната доклад за оценка на безопасността.

   След процеса на анализ на риска вносителят на предложението за промяната ще приложи подходящи мерки за намаляване на рисковете (ако вносителят на предложението е железопътно предприятие или управител на инфраструктура, прилагането на регламента е част от неговата система за управление на безопасността и се наблюдава от националния орган по безопасността).

(42)

     Препоръки относно политиката и инвестициите за надежден ИИ, експертна група на високо равнище по въпросите на изкуствения интелект, юни 2019 г.

(43)

     Това обаче не изключва възможността в дадена ситуация да е необходим надзор въз основа на някои от съществуващите по-общи задължения във връзка с пускането на продукта на пазара.

(44)

   Конституция на СЗО, първо тире: „Здравето е състояние на пълно физическо, психическо и социално благополучие, а не само отсъствие на заболяване или недъг.“ (https://www.who.int/about/who-we-are/constitution).

(45)

     Social Robots: Technological, Societal and Ethical Aspects of Human-Robot Interaction, стр. 237-264, Research, Neziha Akalin, Annica Kristoffersson and Amy Loutfi, юли 2019 г.

(46)

      https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top  

(47)

   Въз основа на ключовите изисквания, предложени от експертната група на високо равнище в Насоките относно етичните аспекти за надежден ИИ: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines  

(48)

   Регламент (ЕО) № 765/2008 и Решение № 768/2008/ЕО, както и хармонизираното секторно законодателство относно безопасността на продуктите, напр. Директива 2006/42/ЕО относно машините. 

(49)

     В член 2 от Директивата относно общата безопасност на продуктите се посочва, че при определянето на дадено изделие като безопасен продукт се взема предвид „въздействието върху други продукти, когато може да се предвиди, че продуктът ще се използва с други продукти“.

(50)

   Раздел 1.2.1. от приложение I към Директивата относно машините.

(51)

    „Синьо ръководство“ за прилагането на правилата на ЕС относно продуктите, 2016 г.

(52)

   Радиомодулите са електронни устройства, които предават и/или получават радиосигнали (WIFI, Bluetooth) между две устройства.

(53)

   Член 3, параграф 3, буква и) от Директивата за радиосъоръженията.

(54)

   Съгласно член 16, параграф 2 от Директива 2014/33/ЕС.

(55)

   Според Директива 2014/33/ЕС за асансьорите лицето, което монтира асансьора, е равностойно на производителя и трябва да носи отговорност за проектирането, производството, монтажа и пускането на пазара на асансьора.

(56)

   Точка 1.7.4.2 от приложение I към Директивата относно машините, гласи: „Всяка инструкция за експлоатация трябва при необходимост да съдържа следната информация:“ „и) инструкции за монтаж, инсталирането и свързването, включително плановете, схемите, начините на закрепване и указване на шасито или съоръжението, на което трябва да бъде монтирана машината;“.

(57)

     Хармонизация за моторните превозни средства, направена с Директива 2009/103/ЕО относно застраховката „Гражданска отговорност“ при използването на моторни превозни средства и за контрол върху задължението за сключване на такава застраховка.

(58)

   В повечето държави членки се прилага режим на безвиновна отговорност на лицето, на чието име е регистрирано моторното превозно средство.

(59)

   „Отговорност за изкуствения интелект и други нововъзникващи цифрови технологии“, доклад,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(60)

   „Отговорност за изкуствения интелект и други нововъзникващи цифрови технологии“, доклад,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(61)

   За справка относно безпилотните въздухоплавателни средства, вж. Регламент за изпълнение (ЕС) 2019/947 на Комисията от 24 май 2019 г. относно правилата и процедурите за експлоатация на безпилотни въздухоплавателни средства.

(62)

   „Отговорност за изкуствения интелект и други нововъзникващи цифрови технологии“, доклад,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(63)

   Вж. доклада на подгрупата по новите технологии, стр. 3, и политическа препоръка 27.2. на Експертната група на високо равнище по въпросите на изкуствения интелект.