—

като взе предвид Договора за Европейския съюз, и по-специално членове 2 и 6 от него, и Договора за функционирането на Европейския съюз, и по-специално член 16 от него,

—

като взе предвид Хартата на основните права на Европейския съюз („Хартата“), и по-специално членове 6, 7, 8, 11, 12, 13, 20, 21, 24 и 47 от нея,

—

като взе предвид Конвенцията за защита на правата на човека и основните свободи,

—

като взе предвид Конвенция № 108 на Съвета на Европа за защита на лицата при автоматизираната обработка на лични данни, и протокола за изменението ѝ (Конвенция 108+);

—

като взе предвид „Европейската етична харта за използване на изкуствения интелект в съдебните системи и тяхната среда“ на Европейската комисия за ефикасност на правосъдието(CEPEJ) към Съвета на Европа;

—

като взе предвид съобщението на Комисията от 8 април 2019 г., озаглавено „Изграждане на доверие в ориентирания към човека изкуствен интелект“ (COM(2019)0168),

—

като взе предвид Насоките относно етичните аспекти за надежден ИИ на експертната група на високо равнище по въпросите на изкуствения интелект от 8 април 2019 г.,

—

като взе предвид Бялата книга на Комисията от 19 февруари 2020 г., озаглавена „Изкуствен интелект — Европа в търсене на високи постижения и атмосфера на доверие“ (COM(2020)0065),

—

като взе предвид съобщението на Комисията от 19 февруари 2020 г., озаглавено „Европейска стратегия за данните“ (COM(2020)0066),

—

като взе предвид Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (1),

—

като взе предвид Директива (ЕС) 2016/680 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни от компетентните органи за целите на предотвратяването, разследването, разкриването или наказателното преследване на престъпления или изпълнението на наказания и относно свободното движение на такива данни, и за отмяна на Рамково решение 2008/977/ПВР на Съвета (2),

—

като взе предвид Регламент (ЕС) 2018/1725 на Европейския парламент и на Съвета от 23 октомври 2018 г. относно защитата на физическите лица във връзка с обработването на лични данни от институциите, органите, службите и агенциите на Съюза и относно свободното движение на такива данни и за отмяна на Регламент (ЕО) № 45/2001 и Решение № 1247/2002/ЕО (3),

—

като взе предвид Директива 2002/58/ЕО на Европейския парламент и на Съвета от 12 юли 2002 година относно обработката на лични данни и защита на правото на неприкосновеност на личния живот в сектора на електронните комуникации (Директива за правото на неприкосновеност на личния живот и електронни комуникации) (4),

—

като взе предвид Регламент (ЕС) 2016/794 на Европейския парламент и на Съвета от 11 май 2016 г. относно Агенцията на Европейския съюз за сътрудничество в областта на правоприлагането (Европол) и за замяна и отмяна на решения 2009/371/ПВР, 2009/934/ПВР, 2009/935/ПВР, 2009/936/ПВР и 2009/968/ПВР на Съвета (5),

—

като взе предвид своята резолюция от 19 юни 2020 г. относно протестите срещу расизма след смъртта на Джордж Флойд (6),

—

като взе предвид своята резолюция от 14 март 2017 г. относно последиците за основните права, породени от големи информационни масиви: неприкосновеност на личния живот, защита на личните данни, недопускане на дискриминация, сигурност и правоприлагане (7),

—

като взе предвид изслушването в комисията по граждански свободи, правосъдие и вътрешни работи (LIBE) на 20 февруари 2020 г. относно изкуствения интелект в наказателното право и употребата му при наказателноправни въпроси от полицията и съдебните органи;

—

като взе предвид доклада от командировката на LIBE в Съединените американски щати през февруари 2020 г.,

—

като взе предвид член 54 от своя Правилник за дейността,

—

като взе предвид становищата на комисията по вътрешния пазар и защита на потребителите и комисията по правни въпроси,

—

като взе предвид доклада на комисията по граждански свободи, правосъдие и вътрешни работи (A9-0232/2021),

A.

като има предвид, че цифровите технологии като цяло и разпространението на обработването на лични данни и анализи, осигурено от изкуствения интелект (ИИ), носят със себе си изключителни обещания и рискове; като има предвид, че чрез развитието на ИИ през последните години беше направена голяма крачка напред, което превърна ИИ в една от стратегическите технологии на 21-ви век, съдържаща потенциал за създаване на значителни ползи по отношение на ефективността, точността и удобството, като по този начин доведе до положителна промяна на европейската икономика и обществото, но също до големи рискове за основните права и демократичните устои на принципите на правовата държава; като има предвид, че ИИ не следва да се разглежда като самоцел, а като инструмент за обслужване на хората, чиято крайна цел е повишаването на благосъстоянието на хората, човешките способности и безопасност;

Б.

като има предвид, че въпреки постоянния напредък в областта на изчислителната скорост и капацитета на паметта на компютрите, засега не съществуват програми, които да могат да заместят човешката адаптивност в обширни области или при задачи, изискващи разбиране на контекста или критичен анализ; като има предвид, че някои приложения, свързани с ИИ достигнаха равнищата на показатели на хората с опит и професионалистите при изпълнението на определени конкретни задачи (например „правни технологии“), и могат да постигат резултати с категорично по-висока скорост и по-широк мащаб;

В.

като има предвид, че някои държави, включително няколко държави членки, използват в по-голяма степен приложенията на ИИ или вградени системи на ИИ в областта на правоприлагането и съдебната система, отколкото други, което отчасти се дължи на липсата на законова уредба и наличието на регулаторни различия, които позволяват или забраняват използването на ИИ за определени цели; като има предвид, че нарастващата употреба на ИИ в наказателно-правната област се основава най-вече на обещанията, че това ще намали определени видове престъпления и ще доведе до по-обективни решения; като има предвид обаче, че тези обещания невинаги се оказват верни;

Г.

като има предвид, че основните права и свободи, залегнали в Хартата, следва да бъдат гарантирани през целия жизнен цикъл на ИИ и свързаните с него технологии, по-специално по време на проектирането, разработването, внедряването и използването им, и следва да се прилагат за целите на правоприлагането при всички обстоятелства;

Д.

като има предвид, че технологиите в областта на ИИ следва да бъдат развивани по такъв начин, че да определят централно място за хората, да заслужават обществено доверие и винаги да работят в услуга на хората; като има предвид, че системите с ИИ следва по най-добър начин да гарантират, че са проектирани по такъв начин, че винаги да могат да бъдат затворени от човешки оператор;

Е.

като има предвид, че системите с ИИ трябва да бъдат проектирани с цел защита и осигуряване на ползи за всички членове на обществото (като при тяхното проектиране се включат съображения относно уязвимите, маргинализираните групи от населението), да бъдат недискриминационни, безопасни, решенията им да подлежат на разяснение и да бъдат прозрачни, и да зачитат автономността на човека и основните права, за да бъдат надеждни, както това е описано в Етичните насоки на експертната група на високо равнище по въпросите на изкуствения интелект;

Ж.

като има предвид, че Съюзът, наред с държавите членки, носи отговорност за гарантиране, че решенията, свързани с жизнения цикъл на приложение и използване на ИИ в областта на съдебната система и правоприлагането, се приемат по прозрачен начин, изцяло зачитат основните права и по-специално не затвърждават дискриминация, пристрастия или увреждания, когато последните съществуват; като има предвид, че съответните политически решения следва да зачитат принципите на необходимост и пропорционалност, за да се гарантира конституционосъобразност и справедлива и хуманна съдебна система;

З.

като има предвид, че приложенията с ИИ могат да предложат големи възможности в областта на правоприлагането, по-специално за подобряване на работните методи на правоприлагащите и съдебните органи, както и за по-ефективна борба с определени видове престъпления, по-специално финансовите престъпления, изпирането на пари и финансирането на тероризма, сексуалното насилие над деца онлайн и експлоатацията на цена, както и някои видове киберпрестъпления, като по този начин допринасят за безопасността и сигурността на гражданите на ЕС, като същевременно могат да доведат до значителни рисове за основните права на хората; като има предвид, че всяко общо приложение на ИИ за целите на масовото наблюдение би било непропорционално;

И.

като има предвид, че разработването и оперирането на системи с ИИ от страна на полицейските и съдебни органи предполага принос от различни лица, организации, машинни елементи, софтуерни алгоритми и човешки ползватели в среда, която често е сложна и крие предизвикателства; като има предвид, че приложенията на ИИ в областта на правоприлагането и съдебната система са на различни етапи на развитие, от концептуализацията през създаването на прототипи или оценка до използването след одобрение; като има предвид, че в бъдеще могат да възникнат нови възможности за използване, тъй като технологиите все повече се усъвършенстват благодарение на продължаващите научни изследвания в световен мащаб;

Й.

като има предвид, че е задължително наличието на ясен модел за търсене на правна отговорност за потенциалното вредно въздействие на системите с ИИ в областта на наказателното право; като има предвид, че регулаторните разпоредби в тази област следва винаги да запазват отчетността на човека и трябва да имат за цел, на първо място, да се избегне първоначалното причиняване на вредни последици;

К.

като има предвид, че в крайна сметка държавите членки носят отговорност за гарантирането на цялостното зачитане на основните права, когато се използват системи с ИИ в областта на правоприлагането и съдебната система;

Л.

като има предвид, че връзката между защитата на основните права и ефективната полицейска дейност трябва винаги да бъде съществен елемент в обсъжданията относно това дали и как ИИ следва да се използва от сектора на правоприлагането, където решенията могат да имат дълготрайни последици за живота и свободата на физическите лица; като има предвид, че това е от особено значение, тъй като ИИ има потенциала да бъде постоянна част от нашата екосистема за наказателно правосъдие, като предоставя анализ и съдействие при разследването;

М.

като има предвид, че ИИ се използва от правоприлагащите органи в приложения като технологии за лицево разпознаване, напр. за търсене в бази данни на заподозрени лица и идентифициране на жертвите на трафик на хора или сексуална експлоатация на деца, автоматизирано разпознаване на регистрационни номера, разпознаване на говорещите, разпознаване на речта, технологии за четене по устните, звуково наблюдение (напр. алгоритми за откриване на изстрели), автономно изследване и анализиране на разкрити бази данни, прогнозиране (прогнози за полицейската дейност и анализ на горещи точки на престъпността), инструменти за разкриване на поведение, усъвършенствани инструменти за виртуална аутопсия, които да помогнат да се определи причината за смъртта, автономни инструменти за разкриване на финансови измами и финансиране на тероризма, наблюдение на социалните медии (извличане и събиране на данни за връзки за интелигентен анализ на текст) и автоматизирани системи за наблюдение с различни способности за разкриване (като детектори за сърдечна дейност и термокамери); като има предвид, че посочените по-горе приложения, наред с други потенциални или бъдещи приложения на технологията с изкуствен интелект в областта на правоприлагането, имат твърде различни степени на надеждност и точност и се отразяват върху защитата на основните права и върху динамиката на наказателноправните системи; като има предвид, че много от тези инструменти се използват в държави извън ЕС, но биха били незаконни съгласно постиженията на правото на Съюза и съдебната практика в областта на защитата на данни; като има предвид, че рутинното внедряване на алгоритми, дори и с нисък процент на фалшива положителна идентификация, може да доведе до неверни сигнали, които далеч надминават точните сигнали;

Н.

като има предвид, че инструментите и приложенията с ИИ се използват също така от съдебната система на редица държави в световен мащаб, включителнов подкрепа на решения за предварително задържане, при постановяването на присъди, изчисляването на вероятността от рецидив и определянето на изпитателния срок,онлайн решаване на спорове, управление на съдебната практика и предоставянето на улеснен достъп до правото; като има предвид, че това доведе до вмешателство в и намаляване на възможностите за цветнокожите и други малцинства; като има предвид, че понастоящем в ЕС, с изключение на някои държави членки, тяхното използване е ограничено главно до гражданскоправни въпроси;

О.

като има предвид, че използването на ИИ в правоприлагането е свързано с редица потенциално високи и в някои случаи неприемливи рискове за защитата на основните права на физическите лица, като например непрозрачен процес на вземане на решения, различни видове дискриминация и присъщи на базовия алгоритъм грешки, които могат да бъдат засилени от веригите за обратна информация, както и рискове по отношение на защитата на неприкосновеността на личния живот и личните данни, защитата на свободата на изразяване на мнение и на информация, презумпцията за невиновност, правото на ефективни правни средства за защита и справедлив съдебен процес, както и рискове за свободата и сигурността на физическите лица;

П.

като има предвид, че системите с ИИ, използвани от правоприлагащите органи и съдебната система, са също така уязвими по отношение на атаките с помощта на ИИ срещу информационните системи или заразяването на данни, при които преднамерено се включва неправилен набор от данни, за да се получат необективни резултати; като има предвид, че в тези ситуации произтичащите от това вреди потенциално са дори по-значителни и могат да доведат в много по-висока степен до по-голямо увреждане както на отделни лица, така и на групи;

Р.

като има предвид, че внедряването на ИИ в областта на правоприлагането и съдебната система не следва да се разглежда само от гледна точка на техническата осъществимост, а по-скоро като политическо решение относно проектирането и целите на правоприлагането и на системите за наказателно правосъдие; като има предвид, че съвременното наказателно право се основава на идеята, че органите реагират на престъпление, след като то е извършено, без да се допуска предположението, че всички хора са опасни и трябва постоянно да бъдат наблюдавани, за да се предотврати потенциално нарушение; като има предвид, че основаните на ИИ техники за наблюдение подкопават из основи този подход и налагат спешната необходимост законодателите по света да извършат задълбочена оценка на последиците от разрешаването на внедряването на технологии, които намаляват ролята на човека в правоприлагането и правораздаването;

1.

2.

3.

4.

5.

6.

7.

8.

9.

10.

11.

12.

13.

14.

15.

16.

17.

18.

19.

20.

21.

22.

23.

24.

25.

26.

27.

28.

29.

30.

31.

32.

33.

34.

35.

36.