Брюксел, 18.8.2022

COM(2022) 414 final

Препоръка за

РЕШЕНИЕ НА СЪВЕТА

за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа относно изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава


ОБЯСНИТЕЛЕН МЕМОРАНДУМ

КОНТЕКСТ НА ПРЕДЛОЖЕНИЕТО

Изкуственият интелект (ИИ) предлага големи възможности за обществото, околната среда и икономиката. Същевременно, в зависимост от обстоятелствата при конкретното му прилагане и използване, е възможно някои видове ИИ да причинят имуществени или неимуществени вреди и да изложат на риск обществените интереси и основните права и свободи на хората. Поради това, за да се посрещнат тези предизвикателства и да се използва потенциалът на ИИ, е от решаващо значение да разполагаме със съгласувана правна рамка за ИИ, с която да се защитят тези обществени интереси и основни права, като същевременно се съхрани доверието и се насърчават иновациите.

През април 2021 г. Европейската комисия предложи всеобхватен регламент относно ИИ, с който да се хармонизират правилата за системите с ИИ във всички 27 държави — членки на ЕС 1 . Понастоящем Европейският парламент и Съветът водят преговори по предложението в съответствие с обикновената законодателна процедура. Различни международни организации, включително Съветът на Европа, също работят по-активно в тази област — беше признат трансграничният характер на ИИ и необходимостта от международно сътрудничество за посрещане на общите предизвикателства.

Към конвенция на Съвета на Европа за изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава

На 11 септември 2019 г. Комитетът на министрите на Съвета на Европа взе решение да създаде специален комитет по изкуствения интелект (CAHAI) 2 . Задачата му бе да проучи доколко е осъществима и в какво би се състояла една правна рамка за разработването, проектирането и прилагането на ИИ, вземайки под внимание стандартите на Съвета на Европа по отношение на правата на човека, демокрацията и принципите на правовата държава, както и свързаните с тематиката съществуващи международни правни инструменти 3 . CAHAI основа анализа си върху технико-икономическо проучване 4 и консултация с множество заинтересовани страни, проведена през пролетта на 2021 г. 5 На 3 декември 2021 г. CAHAI завърши възложената му задача, като изготви заключителен документ, в който бяха определени възможните елементи на подобна правна рамка 6 . Съгласно въпросния документ за разработването, проектирането и прилагането на системи с ИИ е необходим правен инструмент, който покрива основните принципи за защита на човешкото достойнство и зачитането на правата на човека, демокрацията и принципите на правовата държава. Той следва да предвижда създаването на методология за класификация на рисковете, свързани със системите с ИИ, с категории като „нисък риск“, „висок риск“ и „неприемлив риск“. Приложения с ИИ, при които рисковете са класифицирани като „неприемливи“, следва да бъдат забранени 7 . Нужна е разпоредба за зачитане правото на равно третиране и недискриминация, за да се избегнат необосновани склонности в работата на ИИ. Следва да се осигурят правни гаранции най-малко за правото на ефективни правни средства за защита пред национален орган, правото на осведоменост, че се използва система с ИИ в даден процес на вземане на решения, правото на избор на взаимодействие с човек, както и правото на осведоменост, когато се взаимодейства със система с ИИ. Някои специфични въпроси като манипулирането на съдържание (т. нар. „дълбинни фалшификати“) следва обаче да бъдат разгледани в други секторни инструменти. Следва да се предвиди и изискване за създаване на механизми за осигуряване на съответствие и на национални надзорни органи. Правният инструмент може да бъде допълнен с необвързващ модел за оценка на въздействието.

За периода 2022—2024 г. бе създаден приемник на CAHAI — Комитетът по изкуствения интелект (CAI). Съгласно неговия мандат 8 CAI има за задача да установи международен преговорен процес с цел изготвяне на правна рамка за разработването, проектирането и прилагането на ИИ. Рамката следва да се основава на стандартите на Съвета на Европа по отношение на правата на човека, демокрацията и принципите на правовата държава, както и да води до иновации. Проектът трябва да е готов до 15 ноември 2023 г., а до изтичането на мандата на CAI през 2024 г. тя трябва да придобие завършен вид. В изпълнение на мандата си CAI следва да координира работата си с други междуправителствени комитети и субекти на Съвета на Европа, да изпълнява дейността си въз основа на солидни доказателства и приобщаващ процес на консултации, включително такива с международни и наднационални партньори, както и да вземе предвид заключителния документ на CAHAI.

От 4 до 6 април 2022 г. CAI проведе първата си среща, на която бяха избрани председател, заместник-председател и бюро. На 30 юни 2022 г. Комитетът на министрите на Съвета на Европа възложи на CAI „в съответствие с мандата си в кратък срок да пристъпи към изработването на правно обвързващ инструмент с многостранен характер („конвенция“/„рамкова конвенция“) за изкуствения интелект, който да се основава на стандартите на Съвета на Европа по отношение на правата на човека, демокрацията и принципите на правовата държава, да включва основни общи принципи, да води до иновации и който да позволява участие на държави, които не са членки на ЕС, като същевременно се вземат предвид други свързани с тематиката международни правни рамки, които вече се прилагат или такива, които са в процес на разработване“. 9

Впоследствие председателят на CAI представи „предварителен проект“ на бъдещата (рамкова) конвенция, в който са заложени основни принципи и правила, целящи да се гарантира, че при проектирането, разработването и прилагането на системите с ИИ се зачитат правата на човека, функционирането на демокрацията и спазването на принципите на правовата държава. Бъдещата (рамкова) конвенция ще трябва да се прилага в съответните юрисдикции на страните по нея. Тя обхваща както държавните, така и частните доставчици и ползвателите на системи с ИИ, но не разглежда системите с ИИ, свързани с националната отбрана. Предварителният проект предлага да бъдат включени следните разпоредби:

·цел и обхват на (рамковата) конвенция;

·определения за система с ИИ, жизнен цикъл, доставчик, потребител и „субект на ИИ“;

·някои основни принципи, включително процесуални гаранции и права за субектите на ИИ, приложими за всички системи с ИИ, независимо от тяхното равнище на риск;

·допълнителни мерки за държавния сектор, както и за системите с ИИ, при които съществуват „неприемливи“ и „значителни“ равнища на риск, установени въз основа на методология за оценка на риска и въздействието (която ще бъде разписана на по-късен етап в приложение към конвенцията);

·механизъм за последващи действия и сътрудничество между страните;

·заключителни разпоредби, включително възможност за държавите — членки на ЕС, да прилагат правото на Съюза във взаимоотношенията си по обхванати от конвенцията въпроси, както и възможност Съюзът да се присъедини към конвенцията.

Предварителният проект ще бъде обсъден на пленарните сесии на CAI в Страсбург, планирани за 21—23 септември и 23—25 ноември 2022 г. Насрочени са още четири срещи през 2023 г. и една през 2024 г.

Основания и цели на предложението

Настоящата препоръка за решение се представя на Съвета съгласно член 218 от Договора за функционирането на Европейския съюз (ДФЕС). С решението ще бъде разрешено започването на преговори от името на Съюза за бъдеща конвенция на Съвета на Европа относно ИИ, правата на човека, демокрацията и принципите на правовата държава, ще бъдат приети указания за водене на преговори и Комисията ще бъде посочена като преговарящ от името на Съюза.

Съгласно член 3, параграф 2 от ДФЕС Съюзът разполага с изключителна компетентност „за сключване на международни споразумения [...] доколкото [сключването им] може да засегне общите правила или да промени техния обхват“. Едно международно споразумение може да засегне общите правила или да промени обхвата им, когато областта, обхваната от споразумението, се припокрива със или е обхваната до голяма степен от правото на Съюза 10 .

В тази връзка в правото на Съюза се съдържа цялостен набор от общи правила за единния пазар на продуктите 11 и услугите 12 , при които може да се използват системи с ИИ. Освен това е възможно при разработването и използването на някои системи с ИИ да бъде засегнато упражняването на основните права, залегнали в Хартата на основните права на ЕС 13 и във вторичното законодателство на ЕС, включително например правото на физическа и психическа неприкосновеност 14 , защита на личните данни 15 , неприкосновеност на личния живот 16 , недискриминация 17 , свобода на изразяване на мнение и свобода на информация 18 , презумпция за невиновност 19 , справедлив съдебен процес и ефективни правни средства за защита 20 . Възможно е при разработването и използването на подобни системи да бъдат засегнати и ценностите, на които се основава Съюзът, включително човешкото достойнство, демокрацията и принципите на правовата държава 21 .

Освен това, за да се прецени дали дадена област е уредена до голяма степен от правото на Съюза, трябва да се вземе предвид не само правото на Съюза в настоящия му вид в съответната област, но и бъдещото му развитие, доколкото то може да се предвиди към момента на анализа 22 . Областта, обхваната от бъдещата конвенция на Съвета на Европа относно ИИ, засяга пряко това предвидимо бъдещо развитие, като се има предвид предложението на Комисията за регламент за ИИ („законодателния акт за ИИ“) 23 , което бе представено през април 2021 г. и понастоящем е предмет на обсъждане от страна на Европейския парламент и на Съвета.

Преговорите по бъдещата (рамкова) конвенция на Съвета на Европа относно ИИ действително са свързани с въпроси от компетентността на Съюза и съществува много значително припокриване между обхвата, характера и съдържанието на предварителния проект на конвенцията и на предложения законодателен акт за ИИ. С оглед на това е важно преговорите да се провеждат от името на Съюза по начин, който не засяга съгласуваността и единството на правилата на ЕС по отношение на ИИ и правилното функциониране на системата, която се крепи на тях, както и че бъдещата конвенция на Съвета на Европа се съобразява изцяло със съществуващото и с бъдещото право на Съюза в тази област.

Съгласуваност с действащите разпоредби в тази област на политиката

На 21 април 2021 г. Комисията предложи регламент за определяне на хармонизирани правила относно пускането на пазара, въвеждането в експлоатация и използването на системи с ИИ в Съюза. Паралелно с това предложението е насочено към създаването на единен пазар с оглед насърчаване на разработването и внедряването на ИИ, като същевременно се отдели нужното внимание на рисковете по отношение на безопасността, здравето и основните права. Предложението е с хоризонтален характер, тъй като е приложимо за доставчици и ползватели на системи с ИИ, независимо от това дали те са държавни или частни субекти. Системите с ИИ, разработени или използвани изключително за военни цели, са извън обхвата му.

В предложението са заложени пропорционални изисквания и задължения, които са ограничени до минимално необходимото за предотвратяване на рисковете за здравето, безопасността и основните права, без да се възпрепятства технологичното развитие на ИИ или да се увеличава несъразмерно финансовата и административната тежест за операторите. За тази цел се използва подход, основан на оценката на риска, при който системите с ИИ се класифицират в различни категории според риска, който бива „неприемлив“, „висок“, „свързан с прозрачността“, „нисък“ или „минимален“.

·Едно от предложенията е да бъдат забранени системите с ИИ, които се смятат за несъвместими с ценностите на ЕС и застрашават недвусмислено безопасността, препитанието или правата на хората, и представляват „неприемлив риск“ (например присъждане на социален рейтинг на гражданите от страна на държавните органи, опасни манипулативни практики, при които се използват ИИ, дистанционна биометрична идентификация в реално време за целите на правоприлагането на обществено достъпни места, с известни ограничени изключения).

·Системите с ИИ с „висок риск“, при които съществуват значителни рискове за здравето, безопасността или основните права, трябва да преминават проверки за съответствие и да изпълняват някои задължителни изисквания (например във връзка с управлението на риска, качеството на данните, документацията, прозрачността, човешкия надзор, точността, киберсигурността), преди те да може да бъдат пуснати на пазара или използвани в Съюза. Пропорционални и ефективни задължения за мониторинг и надзор се налагат и на доставчиците и ползвателите, като ясно се определят техните роли и отговорности по цялата верига за създаване на стойност, без това да засяга другите им задължения съгласно секторното законодателство.

·За системите с ИИ, при които съществува „свързан с прозрачността риск“, хората следва да бъдат информирани, когато си взаимодействат пряко или косвено с такива системи (например чатботове, системи за разпознаване на емоции и за биометрично категоризиране, дълбинни фалшификати).

·Всички други системи, при които съществува „минимален риск“ или „нисък риск“ за здравето, безопасността и основните права, са разрешени без допълнителни ограничения, но доставчиците може да изберат да спазват доброволни кодекси за поведение.

Понастоящем предложението се обсъжда от Съвета и Европейския парламент в съответствие с обикновената законодателна процедура.

В преговорите за бъдещата конвенция на Съвета на Европа относно ИИ, правата на човека, демокрацията и принципите на правовата държава следва да се гарантира, че договаряните разпоредби са съвместими с правото на Съюза и заложените в него задължения на държавите членки, отчитайки неговото бъдещо развитие и предложения законодателен акт за ИИ. Нужно е да се гарантира също така, че в конвенцията на Съвета на Европа ще присъства клауза за изключване на прилагането, позволяваща на държавите — членки на ЕС, които стават страни по конвенцията, да регулират отношенията помежду си въз основа на правото на Съюза. Предложеният законодателен акт за ИИ, заедно с промените в него по време на законодателната процедура и преговорите между съзаконодателите, а в крайна сметка и в неговия окончателен (приет) вариант, следва да се спазва от държавите — членки на ЕС. Европейският съюз също следва да може да се присъедини като страна към конвенцията.

Съгласуваност с други политики на Съюза

Препоръката е от значение за други текущи или планирани инициативи на Комисията, които третират проблемите при разработването и използването на системите с ИИ, набелязани в бялата книга за ИИ 24 . Тези други инициативи включват преразглеждане на секторното законодателство в областта на продуктите (например Директивата за машиностроителните изделия 25 , Директивата за общата безопасност на продуктите 26 ), както и на предстоящи инициативи, в които се разглеждат въпроси, свързани с отговорността, в областта на новите технологии, включително системите с ИИ.

Препоръката е съобразена и с цялостната стратегия на Комисията в областта на цифровите технологии, насочена към насърчаване на технологиите, които работят за хората — една от трите основни цели на визията за политиката, изложена в съобщението „Изграждане на цифровото бъдеще на Европа“ 27 . Част от целите ѝ е да се гарантира, че при разработването на ИИ се зачитат правата на човека и се изгражда доверие. Така Европа ще може да се впише в цифровата ера и следващите 10 години да се превърнат в цифрово десетилетие. 28

Освен това с предложената препоръка значително се укрепва ролята на Съюза в определянето на световни правила и стандарти и развитието на надежден ИИ, съобразен с ценностите и интересите на Съюза. Препоръката осигурява на Съюза стабилна основа за по-уверена цифрова дипломация на ЕС 29 и за водене на преговори с други европейски и неевропейски държави.

2.ПРАВНО ОСНОВАНИЕ, СУБСИДИАРНОСТ И ПРОПОРЦИОНАЛНОСТ

Правно основание

В член 218, параграф 3 от Договора за функционирането на Европейския съюз (ДФЕС) се предвижда, че Комисията представя препоръки на Съвета, който приема решение, с което разрешава започването на преговорите и назначава преговарящ от страна на Съюза. Съгласно член 218, параграф 4 от ДФЕС Съветът може да дава указания на преговарящия.

Субсидиарност (при неизключителна компетентност)

С предложения законодателен акт за ИИ се определят хармонизирани правила за системите с ИИ в Съюза, като по този начин държавите членки няма да могат да налагат допълнителни ограничения, освен ако това не е изрично разрешено в него. Съгласно член 3, параграф 2 от ДФЕС Съюзът разполага с изключителна компетентност за сключване на международни споразумения, доколкото те може да засегнат общите правила или да променят обхвата им. От това следва, че за всички въпроси, свързани с проектирането, разработването и прилагането на системи с ИИ, обхванати до голяма степен от правото на Съюза или които ще бъдат обхванати при предвидими бъдещи промени на правото на Съюза, и по-специално от предложения законодателен акт за ИИ, Съюзът следва да има компетентност да води преговори за бъдещата конвенция на Съвета на Европа относно ИИ.

Пропорционалност

Настоящата инициатива не надхвърля необходимото за постигане на съответните цели на политиката.

Избор на инструмент

Избраният инструмент е препоръка за решение на Съвета, както е предвидено в член 218, параграфи 3 и 4 от ДФЕС.

3.РЕЗУЛТАТИ ОТ ПОСЛЕДВАЩИТЕ ОЦЕНКИ, КОНСУЛТАЦИИТЕ СЪС ЗАИНТЕРЕСОВАНИТЕ СТРАНИ И ОЦЕНКИТЕ НА ВЪЗДЕЙСТВИЕТО

Последващи оценки/проверки за пригодност на действащото законодателство

Не се прилага.

Консултации със заинтересованите страни

Не се прилага.

Събиране и използване на експертни становища

За да се подготви за преговорите, Комисията взе предвид мненията, изразени от експертите от държавите членки по време на дискусиите в съответните работни групи на Съвета.

Оценка на въздействието

Не се прилага.

Пригодност и опростяване на законодателството

Не се прилага.

Основни права

Както с предложения законодателен акт за ИИ, така и с разглежданата конвенция на Съвета на Европа се цели да се сведат до минимум рисковете и да се гарантира високо равнище на защита на основните права, които в някои случаи може да бъдат засегнати при разработването и използването на ИИ. Едновременно с това се признава потенциалът на ИИ за защитата на тези права и за създаването на условия те да се упражняват в цифрова среда, както и за подобряване на благосъстоянието на обществото и на околната среда и насърчаване на технологичния прогрес.

4.ОТРАЖЕНИЕ ВЪРХУ БЮДЖЕТА

Не се очаква отражение върху бюджета на Съюза.

5.ДРУГИ ЕЛЕМЕНТИ

Планове за изпълнение и механизъм за мониторинг, оценка и докладване

Очаква се преговорният процес да продължи до 2024 г., след което може да се пристъпи към подписване и сключване на конвенцията.

Препоръка за

РЕШЕНИЕ НА СЪВЕТА

за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа относно изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава

СЪВЕТЪТ НА ЕВРОПЕЙСКИЯ СЪЮЗ,

като взе предвид Договора за функционирането на Европейския съюз, и по-специално член 218, параграфи 3 и 4 от него,

като взе предвид препоръката на Европейската комисия,

като има предвид, че:

(1)През 2021 г. Комитетът на министрите на Съвета на Европа създаде Комитет по изкуствения интелект (CAI) за периода 2022—2024 г., натоварен със задачата да установи международен преговорен процес с цел изготвяне на правна рамка за разработването, проектирането и прилагането на изкуствен интелект (ИИ), която се основава на стандартите на Съвета на Европа по отношение на правата на човека, демокрацията и принципите на правовата държава и която води до иновации 30 .

(2)На 30 юни 2022 г. Комитетът на министрите на Съвета на Европа възложи на Комитета по изкуствения интелект в съответствие с мандата си в кратък срок да пристъпи към изработването на правно обвързващ инструмент с многостранен характер („конвенция“/„рамкова конвенция“) за изкуствения интелект, който да се основава на стандартите на Съвета на Европа по отношение на правата на човека, демокрацията и принципите на правовата държава, да включва основни общи принципи, да води до иновации и който да позволява участие на държави, които не са членки на ЕС, като същевременно се вземат предвид други свързани с тематиката международни правни рамки, които вече се прилагат или такива, които са в процес на разработване 31 .

(3)Впоследствие председателят на Комитета по изкуствения интелект предложи предварителен проект на (рамковата) конвенция, приложим за проектирането, разработването и прилагането на системи с ИИ. Предварителният проект включва: разпоредби относно целта и предмета, обхвата, определенията, основните принципи, включително процесуални гаранции и права, приложими за всички системи с ИИ, независимо от равнището им на риск, допълнителните мерки за системите с ИИ в държавния сектор и за системите с ИИ, при които съществуват „неприемливи“ и „значителни“ равнища на риск, механизъм за последващи действия и сътрудничество; заключителни разпоредби, в това число възможност Съюзът да се присъедини към конвенцията; както и допълнение (в процес на разработване) относно методология за оценка на риска и въздействието на системите с ИИ.

(4)Съюзът е приел общи правила, които ще бъдат засегнати от елементите, разглеждани за конвенцията на Съвета на Европа. Сред тях има по-специално всеобхватен набор от правила в областта на единния пазар на продукти 32 и услуги 33 , при които може да се използват системи с ИИ, както и правила за защита на основните права, залегнали в Хартата на основните права на ЕС 34 и прилагани във вторичното законодателство на Съюза 35 , като е възможно в някои случаи тези права да бъдат неблагоприятно засегнати при разработването и използването на ИИ.

(5)Освен това на 21 април 2021 г. Комисията представи законодателно предложение за регламент за определяне на хармонизирани правила за ИИ 36 , което понастоящем се обсъжда от Европейския парламент и Съвета. По отношение на обхвата на предвижданата конвенция на Съвета на Европа той до голяма степен се припокрива със законодателното предложение, тъй като целта и на двата инструмента е да се определят правила за проектирането, разработването и прилагането на системи с ИИ, предоставяни и използвани както от държавни, така и от частни субекти.

(6)Следователно при сключването на разглежданата конвенция на Съвета на Европа може да бъдат засегнати съществуващи и предвидими бъдещи общи правила на Съюза или да се промени техният обхват по смисъла на член 3, параграф 2 от Договора за функционирането на Европейския съюз.

(7)За да се съхрани целостта на правото на Съюза и да се гарантира, че нормите на международното право и правото на Съюза запазват своята съгласуваност, е необходимо на Комисията да бъде разрешено да води преговори от името на Съюза по конвенцията на Съвета на Европа относно изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава.

(8)В съответствие с член 42, параграф 1 от Регламент (ЕС) 2018/1725 на Европейския парламент и на Съвета беше проведена консултация с Европейския надзорен орган по защита на данните, който прие становище на …,

ПРИЕ НАСТОЯЩОТО РЕШЕНИЕ:

Член 1

Комисията се упълномощава да води преговори от името на Съюза по (рамковата) конвенция на Съвета на Европа относно изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава.

Член 2

Указанията за водене на преговорите се съдържат в приложението.

Член 3

Преговорите се водят в консултация с [наименование на специалния комитет —
добавя се от Съвета].

Член 4

Адресат на настоящото решение е Комисията.

Съставено в Брюксел на […] година.

   За Съвета

   Председател

(1)    Предложение за РЕГЛАМЕНТ НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И НА СЪВЕТА ЗА ОПРЕДЕЛЯНЕ НА ХАРМОНИЗИРАНИ ПРАВИЛА ОТНОСНО ИЗКУСТВЕНИЯ ИНТЕЛЕКТ (ЗАКОНОДАТЕЛЕН АКТ ЗА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ) И ЗА ИЗМЕНЕНИЕ НА НЯКОИ ЗАКОНОДАТЕЛНИ АКТОВЕ НА СЪЮЗА, COM/2021/206 final.
(2)     Комитет на министрите, 1353-то заседание, Решение CM/Del/Dec(2019)1353/1.5, 11 септември 2019 г.
(3)     Комитет на министрите, Мандат на CAHAI (извадка от CM(2019)131)
(4)     Специален комитет по изкуствения интелект, Технико-икономическо проучване, CAHAI(2020)23, 17 декември 2020 г.
(5)     Специален комитет по изкуствения интелект, Анализ на консултацията с множество заинтересовани страни, CAHAI(2021)07, 23 юни 2021 г.
(6)     Специален комитет по изкуствения интелект, Възможни елементи на една правна рамка за изкуствения интелект, основана на стандартите на Съвета на Европа по отношение на правата на човека, демокрацията и принципите на правовата държава, CAHAI(2021)09rev, 3 декември 2021 г.
(7)    В този контекст CAHAI обръща внимание на системите с ИИ, които водят до масово наблюдение, и на тези, чрез които на гражданите се присъжда социален рейтинг, определящ техния достъп до основни услуги.
(8)     Комитет на министрите, Мандат на CAI (извадка от CM(2021) 131) .
(9)     Комитет на министрите, Решение относно работата на CAI на 132-рата сесия на Комитета на министрите — Последващи действия, CM/Del/Dec(2022)1438/10.4 , 30 юни 2022  г.
(10)    Напр. Дело C-114/12 Комисия/Съвет (Сродни права на излъчващите организации), ECLI:EU:C:2014:2151, точки 68—69; Становище 1/13 Присъединяване на трети държави към Хагската конвенция, EU:C:2014:2303, точки 71—74; Дело C-66/13 Green Network, EU:C:2014:2399, точки 27—33; Становище 3/15 Маракешки договор за улесняване на достъпа до публикувани произведения за слепи хора, лица с нарушено зрение или с други увреждания, които не позволяват четенето на печатни материали, ECLI:EU:C:2017:114, точки 105—108.
(11)    Напр. Директива 2001/95/ЕО относно общата безопасност на продуктите (ОВ L 11, 15.1.2002 г., стр. 4—17), Директива 85/374/ЕИО на Съвета от 25 юли 1985 г. за сближаване на законовите, подзаконовите и административните разпоредби на държавите членки относно отговорността за вреди, причинени от дефект на стока (ОВ L 210, 7.8.1985 г., стр. 29—33), както и специфично за сектора законодателство за безопасност на продуктите като Директива 2006/42/ЕО относно машините (ОВ L 157, 9.6.2006 г., стр. 24—86); Директива 2014/53/ЕС за хармонизирането на законодателствата на държавите членки във връзка с предоставянето на пазара на радиосъоръжения (ОВ L 153, 22.5.2014 г., стр. 62—106); Директива 2009/48/ЕО относно безопасността на детските играчки (ОВ L 170, 30.6.2009 г., стр. 1—37); Регламент (ЕС) 2017/745 за медицинските изделия  (ОВ L 117, 5.5.2017 г., стр. 1) ; Регламент (ЕС) 2019/2144 относно изискванията за одобряване на типа на моторни превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства, по отношение на общата безопасност на моторните превозни средства и защитата на пътниците и уязвимите участници в движението по пътищата (ОВ L 325, 16.12.2019 г., стр. 1).
(12)    Напр. Директива 2006/123/ЕО относно услугите на вътрешния пазар и специфично за сектора законодателство в областта на услугите като Директива 2000/31/ЕО за някои правни аспекти на услугите на информационното общество, и по-специално на електронната търговия (ОВ L 178, 17.7.2000 г., стр. 1—16); Директива 2008/48/ЕО на Европейския парламент и на Съвета от 23 април 2008 г. относно договорите за потребителски кредити (ОВ L 133, 22.5.2008 г., стр. 66—92), Директива (ЕС) 2016/97 на Европейския парламент и на Съвета от 20 януари 2016 г. относно разпространението на застрахователни продукти (преработен текст) (ОВ L 26, 2.2.2016 г., стр. 19—59); Директива (ЕС) 2018/1808 за аудиовизуалните медийни услуги (ОВ L 303, 28.11.2018 г., стр. 69—92).
(13)    Харта на основните права на Европейския съюз (ОВ C 326, 26.10.2012 г., стр. 391—407).
(14)    Напр. Регламент (ЕС) № 536/2014 на Европейския парламент и на Съвета от 16 април 2014 г. относно клиничните изпитвания на лекарствени продукти за хуманна употреба, и за отмяна на Директива 2001/20/ЕО (ОВ L 158, 27.5.2014 г., стр. 1—76).
(15)    Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г., стр. 1—88). Директива (ЕС) 2016/680 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни от компетентните органи за целите на предотвратяването, разследването, разкриването или наказателното преследване на престъпления или изпълнението на наказания и относно свободното движение на такива данни, и за отмяна на Рамково решение 2008/977/ПВР на Съвета (ОВ L 119, 4.5.2016 г., стр. 89—131).
(16)    Напр. Директива 2002/58/ЕО на Европейския парламент и на Съвета от 12 юли 2002 г. относно обработката на лични данни и защита на правото на неприкосновеност на личния живот в сектора на електронните комуникации (Директива за правото на неприкосновеност на личния живот и електронни комуникации) (OВ L 201, 31.7.2002 г., стр. 37—47).
(17)    Напр. Директива 2000/43/ЕО на Съвета от 29 юни 2000 г. относно прилагане на принципа на равно третиране на лица без разлика на расата или етническия произход ( ОВ L 180, 19.7.2000 г., стр. 22—26); Директива 2000/78/EО на Съвета от 27 ноември 2000 г. за създаване на основна рамка за равно третиране в областта на заетостта и професиите (OВ L 303, 2.12.2000 г., стр. 16—22); Директива 2006/54/ЕO на Европейския парламент и на Съвета от 5 юли 2006 г. за прилагането на принципа на равните възможности и равното третиране на мъжете и жените в областта на заетостта и професиите (преработена) (ОВ L 204, 26.7.2006 г., стр. 23—36); Директива 2004/113/ЕО на Съвета от 13 декември 2004 г. относно прилагане на принципа на равното третиране на мъжете и жените по отношение на достъпа до стоки и услуги и предоставянето на стоки и услуги (ОВ L 373, 21.12.2004 г., стр. 37—43).
(18)    Напр. Директива (ЕС) 2018/1808 на Европейския парламент и на Съвета от 14 ноември 2018 г. за изменение на Директива 2010/13/ЕС за координирането на някои разпоредби, установени в закони, подзаконови и административни актове на държавите членки, отнасящи се до предоставянето на аудиовизуални медийни услуги (Директива за аудиовизуалните медийни услуги), предвид променящите се пазарни условия, PE/33/2018/REV/1 (ОВ L 303, 28.11.2018 г., стр. 69—92).
(19)    Напр. Директива (EС) 2016/343 на Европейския парламент и на Съвета от 9 март 2016 г. относно укрепването на някои аспекти на презумпцията за невиновност и на правото на лицата да присъстват на съдебния процес в наказателното производство (ОВ L 65, 11.3.2016 г., стр. 1—11).
(20)    Напр. Директива 2012/29/ЕС на Европейския парламент и на Съвета от 25 октомври 2012 г. за установяване на минимални стандарти за правата, подкрепата и защитата на жертвите на престъпления (ОВ L 315, 14.11.2012 г., стр. 57—73); Регламент (ЕС) 2020/1783 на Европейския парламент и на Съвета от 25 ноември 2020 г. относно сътрудничеството между съдилища на държавите членки при събирането на доказателства по граждански или търговски дела (събиране на доказателства) (преработен текст) (OВ L 405, 2.12.2020 г., стр. 1—39); Директива 2013/48/ЕС на Европейския парламент и на Съвета от 22 октомври 2013 г. относно правото на достъп до адвокат в наказателното производство и в производството по европейска заповед за арест и относно правото на уведомяване на трето лице при задържане и на осъществяване на връзка с трети лица и консулски органи през периода на задържане (ОВ L 294, 6.11.2013 г.).
(21)    Член 2 от Договора за Европейския съюз (ОВ C 202, 7.6.2016 г.).
(22)    Например Становище 1/03 Нова конвенция от Лугано, ECLI:EU:C:2004:490, точка 126; Дело C-114/12 Комисия/Съвет (Сродни права на излъчващите организации), ECLI:EU:C:2014:2151, точка 70; Дело C‑66/13 Green Network, EU:C:2014:2399, точки 61—64.
(23)    Предложение за РЕГЛАМЕНТ НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И НА СЪВЕТА ЗА ОПРЕДЕЛЯНЕ НА ХАРМОНИЗИРАНИ ПРАВИЛА ОТНОСНО ИЗКУСТВЕНИЯ ИНТЕЛЕКТ (ЗАКОНОДАТЕЛЕН АКТ ЗА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ) И ЗА ИЗМЕНЕНИЕ НА НЯКОИ ЗАКОНОДАТЕЛНИ АКТОВЕ НА СЪЮЗА, COM/2021/206 final.
(24)    Бяла книга за изкуствения интелект — Европа в търсене на високи постижения и атмосфера на доверие, COM(2020) 65 final.
(25)    Предложение за регламент на Европейския парламент и на Съвета относно машиностроителните изделия, COM/2021/202 final.
(26)    Предложение за регламент на Европейския парламент и на Съвета относно общата безопасност на продуктите, за изменение на Регламент (ЕС) № 1025/2012 на Европейския парламент и на Съвета и за отмяна на Директива 87/357/ЕИО на Съвета и Директива 2001/95/ЕО на Европейския парламент и на Съвета, COM/2021/346 final.
(27)    Съобщение на Комисията „Изграждане на цифровото бъдеще на Европа“, COM(2020)67 final.
(28)    Съобщение на Комисията „Цифров компас до 2030 г.: Европейският път за цифровото десетилетие“ , COM/2021/118 final.
(29)    В тази връзка вж. също Заключения на Съвета относно цифровата дипломация на ЕС от 18 юли 2022 г., 11406/22.
(30)     Комитет на министрите, Мандат на CAI (извадка от CM(2021) 131) .
(31)     Комитет на министрите, Решение относно работата на CAI на 132-рата сесия на Комитета на министрите — Последващи действия, CM/Del/Dec(2022)1438/10.4, 30 юни 2022  г.
(32)    Напр. Директива 2001/95/ЕО относно общата безопасност на продуктите (ОВ L 11, 15.1.2002 г., стр. 4—17), Директива 85/374/ЕИО на Съвета от 25 юли 1985 г. за сближаване на законовите, подзаконовите и административните разпоредби на държавите членки относно отговорността за вреди, причинени от дефект на стока (ОВ L 210, 7.8.1985 г., стр. 29—33), както и специфично за сектора законодателство за безопасност на продуктите като Директива 2006/42/ЕО относно машините (ОВ L 157, 9.6.2006 г., стр. 24—86); Директива 2014/53/ЕС за хармонизирането на законодателствата на държавите членки във връзка с предоставянето на пазара на радиосъоръжения (ОВ L 153, 22.5.2014 г., стр. 62—106); Директива 2009/48/ЕО относно безопасността на детските играчки (ОВ L 170, 30.6.2009 г., стр. 1—37); Регламент (ЕС) 2017/745 за медицинските изделия  (ОВ L 117, 5.5.2017 г., стр. 1) ; Регламент (ЕС) 2019/2144 относно изискванията за одобряване на типа на моторни превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства, по отношение на общата безопасност на моторните превозни средства и защитата на пътниците и уязвимите участници в движението по пътищата (ОВ L 325, 16.12.2019 г., стр. 1).
(33)    Напр. Директива 2006/123/ЕО относно услугите на вътрешния пазар и специфично за сектора законодателство в областта на услугите като Директива 2000/31/ЕО за някои правни аспекти на услугите на информационното общество, и по-специално на електронната търговия (ОВ L 178, 17.7.2000 г., стр. 1—16); Директива 2008/48/ЕО на Европейския парламент и на Съвета от 23 април 2008 г. относно договорите за потребителски кредити (ОВ L 133, 22.5.2008 г., стр. 66—92).
(34)    Харта на основните права на Европейския съюз (ОВ C 326, 26.10.2012 г., стр. 391—407).
(35)    Напр. Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г., стр. 1—88); Директива (ЕС) 2016/680 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни от компетентните органи за целите на предотвратяването, разследването, разкриването или наказателното преследване на престъпления или изпълнението на наказания и относно свободното движение на такива данни, и за отмяна на Рамково решение 2008/977/ПВР на Съвета (ОВ L 119, 4.5.2016 г., стр. 89-131); Директива 2002/58/ЕО на Европейския парламент и на Съвета от 12 юли 2002 г. относно обработката на лични данни и защита на правото на неприкосновеност на личния живот в сектора на електронните комуникации (Директива за правото на неприкосновеност на личния живот и електронни комуникации) (OВ L 201, 31.7.2002 г., стр. 37—47); Директива 2000/43/ЕО на Съвета от 29 юни 2000 г. относно прилагане на принципа на равно третиране на лица без разлика на расата или етническия произход (ОВ L 180, 19.7.2000 г., стр. 22—26); Директива 2000/78/EО на Съвета от 27 ноември 2000 г. за създаване на основна рамка за равно третиране в областта на заетостта и професиите (OВ L 303, 2.12.2000 г., стр. 16—22).
(36)    Предложение за РЕГЛАМЕНТ НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И НА СЪВЕТА ЗА ОПРЕДЕЛЯНЕ НА ХАРМОНИЗИРАНИ ПРАВИЛА ОТНОСНО ИЗКУСТВЕНИЯ ИНТЕЛЕКТ (ЗАКОНОДАТЕЛЕН АКТ ЗА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ) И ЗА ИЗМЕНЕНИЕ НА НЯКОИ ЗАКОНОДАТЕЛНИ АКТОВЕ НА СЪЮЗА, COM/2021/206 final.

Брюксел, 18.8.2022

COM(2022) 414 final

ПРИЛОЖЕНИЕ

към

КЪМ ПРЕПОРЪКАТА ЗА РЕШЕНИЕ НА СЪВЕТА

за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа относно изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава


ПРИЛОЖЕНИЕ
към препоръката за решение на Съвета за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа относно изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава

Що се отнася до преговорния процес, Съюзът следва да се стреми да постигне следното:

(1)Преговорният процес да бъде открит, приобщаващ и прозрачен и да се основава на надеждни данни и добросъвестно сътрудничество.

(2)Преговорният процес да се основава на приобщаващ процес на консултации и да дава възможност за пълноценно участие на всички заинтересовани страни, включително на гражданското общество, частния сектор, академичните среди, неправителствените организации, организациите по стандартизация и други свързани с тематиката субекти с експертен опит в областта на регламентирането на проектирането, разработването и прилагането на системи с изкуствен интелект (ИИ).

(3)Всички данни и становища, получени от всички преговарящи страни, да се разглеждат на равни начала, за да се гарантира приобщаващ процес.

(4)Преговорният процес да се основава на ефективна и реалистична работна програма за изработване на (рамковата) конвенция.

Що се отнася до общите цели за преговорите, Съюзът следва да се стреми да постигне следното:

(5)Конвенцията да бъде съвместима с правото на Съюза в областта на единния пазар и с други области на правото на Съюза, включително с неговите общи принципи и с основните права и свободи, залегнали в Хартата на основните права на ЕС и прилагани чрез вторичното законодателство на ЕС.

(6)Конвенцията да бъде съвместима с предложения законодателен акт за изкуствения интелект (законодателен акт за ИИ) 1 , като се отчита бъдещото развитие в законодателния процес.

(7)Конвенцията да служи като ефективна и ориентирана към бъдещето регулаторна рамка за ИИ, която има за цел да се осигури високо равнище на защита на правата на човека и на европейските ценности, като същевременно се насърчават иновациите и се укрепят правната сигурност и доверието; в нея да бъдат признати и потенциалните ползи от ИИ за важни обществени интереси, включително защитеното и облекчено упражняване на правата на човека в цифрова среда, подобряването на благосъстоянието и здравето на обществото и на околната среда, както и насърчаването на технологичния прогрес.

(8)С конвенцията да се укрепи международното сътрудничество между Европейския съюз и други европейски и неевропейски държави, които може да се присъединят към нея.

(9)Конвенцията да бъде съвместима с действащите инструменти на Съвета на Европа, по-специално с Европейската конвенция за правата на човека и протоколите към нея, Конвенция № 108 на Съвета на Европа за защита на лицата при автоматизираната обработка на лични данни, изменена с Протокол CETS 223, и други свързани с тематиката правни инструменти на Съвета на Европа; да се избегне дублирането на тези инструменти, както и всички неблагоприятни последици за тяхното прилагане или за бъдещото присъединяване на която и да е държава към тях; да се обърне внимание на новите рискове и предизвикателства, произтичащи от специфичните характеристики на някои системи с ИИ, по отношение на спазването и ефективното прилагане на съществуващите права, защитени с тези инструменти.

(10)Конвенцията да бъде съвместима с ангажиментите на Европейския съюз по други международни споразумения, по които е страна, и с нея да се избегнат всички неблагоприятни последици за тяхното ефективно прилагане; по-специално конвенцията да е в съответствие с международните търговски ангажименти на Съюза и с нея да се избегнат ненужни или неоправдани ограничения по отношение на търговията.

По същество в преговорите Съюзът следва да се стреми да постигне следното:

(11)Разпоредбите на конвенцията да бъдат напълно съвместими с правото на Съюза в областта на единния пазар и с други области на правото на Съюза, включително с неговите общи принципи и с основните права, залегнали в Хартата на основните права на ЕС и прилагани чрез вторичното законодателство на ЕС.

(12)Разпоредбите на конвенцията да бъдат напълно съвместими с тези на предложения законодателен акт за ИИ, като се отчита бъдещото развитие в законодателния процес.

(13)Съгласно разпоредбите на конвенцията страните да имат възможност да предоставят по-широка защита от предвидената в конвенцията и по никакъв начин да не се засяга равнището на защита на основните права и свободи и гаранциите, предвидени в правото на Съюза, включително на принципа, че органите, осъществяващи надзор върху основните права, трябва да бъдат независими, доколкото това се изисква съгласно правото на ЕС.

(14)В конвенцията да се използва подход, основан на оценка на риска, и да се определят пропорционални, ефективни и ясни правила, приложими за държавните и частните субекти по цялата верига за създаване на стойност в областта на ИИ, чиято цел е да се сведат до минимум рисковете, произтичащи от проектирането, разработването и прилагането на някои системи с ИИ, като същевременно бъдат избегнати всички ненужни и несъразмерни ограничения или затруднения по отношение на дейността на тези субекти или пречки пред технологичното развитие; по-специално обхватът и строгостта на всяка регулаторна намеса да са балансирани, обосновани и съобразени с равнищата на риск, които пораждат системите с ИИ.

(15)Доколкото е възможно, формулировката на разпоредбите на конвенцията да бъде гъвкава и ориентирана към бъдещето, за да може да се отчете бъдещото развитие на технологиите, пазара, обществото и околната среда по отношение на ИИ.

(16)В конвенцията да се предвидят правила за проектиране, разработване и прилагане на системи с ИИ, с които се избягва припокриването и се осигуряват съществени предимства в сравнение с други свързани с тематиката международни или регионални конвенции, по-специално в областта на защитата на личните данни; правилата за ИИ да са съвместими с тези конвенции и с международните стандарти в областта на правата на човека.

(17)Конвенцията да включва разпоредби за ефективното прилагане на правилата за проектиране, разработване и прилагане на системи с ИИ, по-специално чрез подходящи механизми за предварително и последващо осигуряване на съответствие и контрол, и тя да признава ролята на стандартите, механизмите за сертифициране, независимите трети страни, участващи в проверки за съответствие, и на компетентните надзорни органи.

(18)С конвенцията да се осигури възможност да се предприемат мерки в подкрепа на иновациите, включително тестване на системи с ИИ и създаване и управление на регулаторни лаборатории за насърчаване на иновациите в областта на ИИ в контролирана среда под надзора на компетентни органи.

(19)В конвенцията да бъдат отчетени специалните нужди на малките и средните предприятия (МСП), да не се засяга тяхната конкурентоспособност несъразмерно, а страните да се задължат да предприемат конкретни мерки в тяхна подкрепа.

(20)В конвенцията да бъдат отчетени интересите на правоприлагащите и съдебните органи за целите на предотвратяването, разследването, разкриването и наказателното преследване на престъпления, включително по отношение на поверителността и справедливостта на тези разследвания.

(21)В конвенцията да бъде предвиден ефективен надзор от страна на компетентните органи, както и механизми за сътрудничество, с които се дава възможност за ефективното ѝ прилагане.

Що се отнася до прилагането на конвенцията, Съюзът следва да се стреми да постигне следното:

(22)Конвенцията да включва клауза за изключване на прилагането, благодарение на която в своите взаимоотношения държавите — членки на ЕС, да имат възможност да продължат да прилагат правото на Съюза по въпроси, попадащи в обхвата на конвенцията.

(23)Конвенцията да предвижда подходящ механизъм за гарантиране на нейното прилагане и да включва заключителни разпоредби, в това число относно уреждането на спорове, подписването, ратификацията, приемането, утвърждаването и присъединяването, влизането в сила, изменението, суспендирането, денонсирането, депозитаря и езиците, които следват модела на разпоредбите на други подобни конвенции на Съвета на Европа, когато това е възможно и целесъобразно.

(24)Конвенцията да позволява Европейският съюз да стане страна по нея.

(1)    Предложение за РЕГЛАМЕНТ НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И НА СЪВЕТА ЗА ОПРЕДЕЛЯНЕ НА ХАРМОНИЗИРАНИ ПРАВИЛА ОТНОСНО ИЗКУСТВЕНИЯ ИНТЕЛЕКТ (ЗАКОНОДАТЕЛЕН АКТ ЗА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ) И ЗА ИЗМЕНЕНИЕ НА НЯКОИ ЗАКОНОДАТЕЛНИ АКТОВЕ НА СЪЮЗА, COM/2021/206 final.