Резюме на становището на Европейския надзорен орган по защита на данните относно Препоръката за решение на Съвета за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа относно изкуствения интелект, правата на човека, демокрацията и принципите на правовата държава

(2022/C 458/04)

[Пълният текст на настоящото становище може да се намери на английски, френски и немски език на уебсайта на ЕНОЗД https://edps.europa.eu]

На 18 август 2022 г. Европейската комисия издава Препоръка за решение на Съвета за разрешаване на започването на преговори от името на Европейския съюз по конвенция на Съвета на Европа относно изкуствения интелект (ИИ), правата на човека, демокрацията и принципите на правовата държава („конвенцията“), съгласно член 218 от ДФЕС.

Като взе предвид трансграничния характер на изкуствения интелект ЕНОЗД приветства общата цел, поставена от Съвета на Европа, за разработване на първия правно обвързващ международен инструмент в областта на изкуствения интелект, основан на стандартите на Съвета на Европа за правата на човека, демокрацията и принципите на правовата държава. В съгласие с това ЕНОЗД подкрепя започването на преговори по конвенцията от името на Съюза и приветства неговата роля за насърчаване на надежден ИИ в съгласие с ценностите на Съюза.

ЕНОЗД взема под внимание факта, че предметът на конвенцията ще бъде уреден в ЕС от предложения законодателен акт за ИИ, и признава целта на Комисията да гарантира, че конвенцията е съвместима с предложения законодателен акт за ИИ, като в законодателния процес се вземат предвид бъдещите промени. ЕНОЗД обаче счита, че конвенцията представлява важна възможност за допълване на предложения законодателен акт за ИИ чрез укрепване на защитата на основните права на всички лица, засегнати от системи с ИИ, и поради това настоява конвенцията да предоставя ясни и силни гаранции за лицата, засегнати от използването на системи с ИИ.

В светлината на гореизложеното ЕНОЗД отправя четири основни препоръки относно указанията за водене на преговори:

—	общите цели на преговорите по конвенцията следва да отдадат по-голямо значение на гаранциите и правата, които трябва да бъдат предоставени на лицата — и групите физически лица — спрямо които се използват системи, основани на ИИ, в съответствие с основната насоченост и целите на Съвета на Европа;

—	в специално указание следва да бъде включено изрично позоваване на съответствието на конвенцията със съществуващата правна рамка на ЕС за защита на данните;

—	в съответствие с основания на риска подход следва да се въведе целта за налагане на забрана на системите с ИИ, които пораждат неприемливи рискове;

—	конвенцията следва да насърчава приемането на защита на данните още при проектирането и по подразбиране на всеки етап от жизнения цикъл на системите с ИИ.

Освен това в становището се предлагат допълнителни препоръки относно включването в Конвенцията на минимални процесуални гаранции, както и минимални изисквания за прозрачност, обяснимост и проверимост, съответствие и механизми за контрол, относно трансграничното сътрудничество между компетентните органи, които да бъдат определени от страните по конвенцията за надзор на гаранциите и правата, които трябва да бъдат предоставени в съответствие с нея.

1. ВЪВЕДЕНИЕ

На 18 август 2022 г. Европейската комисия публикува препоръка за решение на Съвета за разрешаване на започването на преговори от името на Европейския съюз за конвенция на Съвета на Европа относно изкуствения интелект (ИИ), правата на човека, демокрацията и принципите на правовата държава (1) в съответствие с член 218 от ДФЕС („препоръката“).

Целта на препоръката е да се разреши започването на преговори от името на Съюза за бъдеща конвенция на Съвета на Европа относно ИИ, правата на човека, демокрацията и принципите на правовата държава („конвенцията“), да се приемат указания за водене на преговори и да се определи Комисията за преговарящ от името на Съюза (2).

В обяснителния меморандум (3) Комисията подчертава, че преговорите за конвенцията се отнасят до въпроси, попадащи в изключителната компетентност на Съюза, също и поради значителното припокриване между „нулевия проект“ на конвенцията, разпространен от Комитета по изкуствен интелект (CAI) на Съвета на Европа, от една страна, и предложението на Комисията за регламент относно ИИ („предложения законодателен акт за ИИ“) (4), от друга страна, по отношение на техния обхват и съдържание (5).

В обяснителния меморандум (6) към препоръката се подчертава, че „нулевият проект“ предлага да се включат следните разпоредби:

—	Цел и приложно поле на (рамковата) конвенция;

—	определения за система с ИИ, жизнен цикъл, доставчик, потребител и „субект на ИИ“;

—	някои основни принципи, включително процесуални гаранции и права за субектите на ИИ, приложими за всички системи с ИИ, независимо от тяхното равнище на риск;

—	допълнителни мерки за държавния сектор, както и за системите с ИИ, при които съществуват „неприемливи“ и „значителни“ равнища на риск, установени въз основа на методология за оценка на риска и въздействието (която ще бъде разписана на по-късен етап в приложение към конвенцията);

—	механизъм за последващи действия и сътрудничество между страните;

—	заключителни разпоредби, включително възможност за държавите — членки на ЕС, да прилагат правото на Съюза във взаимоотношенията си по обхванати от конвенцията въпроси, както и възможност Съюзът да се присъедини към конвенцията.

В препоръката, в съображения (6) и (7), се подчертава, че сключването на конвенцията може да засегне съществуващи и предвидими бъдещи общи правила на Съюза. За да се съхрани целостта на правото на Съюза и да се гарантира, че нормите на международното право и правото на Съюза запазват своята съгласуваност, е необходимо на Комисията да бъде разрешено да води преговори от името на Съюза.

Настоящото становище на ЕНОЗД се издава в отговор на консултация на Комисията от 18 август 2022 г. съгласно член 42, параграф 1 от Регламента на ЕС за защита на данните (7). ЕНОЗД също така приветства позоваването на това становище в съображение 8 от препоръката.

8. ЗАКЛЮЧЕНИЯ

49.

Предвид посоченото по-горе ЕНОЗД дава следните препоръки:

(1)	да се отдаде по-голямо значение на целта да се „осигури високо равнище на защита на правата на човека и на европейските ценности“ в съответствие с естеството и мандата на Съвета на Европа.

(2)

да се заличи думата „включително“ след „правото на Съюза в областта на единния пазар и с други области на правото на Съюза“ в указания (5) и (11), за да се отрази по-добре взаимодействието между общите принципи и основните права, от една страна, и вторичното право (правото на ЕС в областта на единния пазар и други области на правото), от друга страна.

(3)

да се добави специално указание, в което се припомня необходимостта да се намери правилният баланс между обществения интерес и интересите на лицата, спрямо които се използват системи, основани на ИИ, да се гарантира пълно спазване на правото на неприкосновеност на личния живот и на защита на личните данни, както и на други засегнати основни права, по-специално правото на презумпция за невиновност и на справедлив съдебен процес, правото на добро управление и принципа на недискриминация.

(4)	да се уточни в указание, че конвенцията следва да предвижда определени минимални процесуални гаранции и права за лицата, засегнати от използването на системите с ИИ.

(5)	да се уточни в указание, че конвенцията следва да предвижда минимални изисквания за прозрачност, обяснимост и проверимост на системите с ИИ.

(6)	да се включи в указание(14) уточнението, че обществените/груповите рискове, породени от системите с ИИ, също трябва да бъдат оценени и смекчени.

(7)	да се уточни в указанията за водене на преговори, че някои системи с ИИ, които пораждат неприемливи рискове, следва да бъдат забранени, както и да се предостави примерен списък на такива системи с ИИ.

(8)	да се включи указание за водене на преговори, съгласно които конвенцията следва да насърчава приемането на защита на данните още при проектирането и по подразбиране на всеки етап от жизнения цикъл на системите с ИИ.

(9)

да се уточни съдържанието на указание (17), както следва:

—	трябва да се извърши предварителна оценка на съответствието от трета страна за високорисков ИИ;

—	високорисковите системи с ИИ следва да подлежат на нова процедура за оценяване на съответствието, когато настъпи значителна промяна;

—	да се посочи предмета и правното действие на сертификатите;

—	да се посочи, че техническите стандарти, от една страна, могат да имат положително въздействие върху хармонизирането на продуктите и услугите; от друга страна, че тяхната роля е да предоставят технически спецификации на правилата, които вече са установени със закон.

(10)	да се включи указание, съгласно което конвенцията следва да предвижда на компетентните надзорни органи да бъдат предоставени подходящи правомощия за разследване и правоприлагане.

(11)	да се добави указание за водене на преговори, чиято цел е да се гарантира, че конвенцията улеснява и насърчава трансграничното сътрудничество между компетентните органи.

Брюксел, 13 октомври 2022 г.

Wojciech Rafał WIEWIÓROWSKI

(1) COM(2022) 414 окончателен

(2) COM(2022) 414 окончателен, стр. 3.

(3) COM(2022) 414 окончателен, стр. 5.

(4) Предложение за регламент на Европейския парламент и на Съвета за определяне на хармонизирани правила относно изкуствения интелект (законодателен акт за изкуствения интелект) и за изменение на някои законодателни актове на Съюза, COM(2021) 206 окончателен.

(5) Вж. също съображение 5 от препоръката.

(6) COM (2022) 414 окончателен, стр. 2 – 3.

(7) Регламент (ЕС) 2018/1725 на Европейския парламент и на Съвета от 23 октомври 2018 година относно защитата на физическите лица във връзка с обработването на лични данни от институциите, органите, службите и агенциите на Съюза и относно свободното движение на такива данни и за отмяна на Регламент (ЕО) № 45/2001 и Решение № 1247/2002/ЕО (ОВ L 295, 21.11.2018 г., стр. 39).