Правила за надежден изкуствен интелект в ЕС

ОСНОВНИ АСПЕКТИ

Какво е система с ИИ?

Системата с ИИ е машинно базирана система, проектирана да работи с известно ниво на автономност, която може:

• да се адаптира, след като бъде внедрена; и
• да генерира резултати, като прогнози, съдържание, препоръки или решения от входящите данни, които получава (за постигане на явни или подразбиращи се цели).

Подход, основан на риска

Законодателството следва подход, основан на риска, което означава, че колкото по-висок е рискът от причиняване на вреда на обществото, толкова по-строги са правилата. Регламентът определя използването на ИИ в следните области като високорисково, поради потенциалното въздействие върху основните права, безопасността и благосъстоянието:

• защитни елементи в продукти, които са предмет на законодателството на ЕС за хармонизация (или като самостоятелни продукти), за които се изисква да преминат оценка за съответствие от трета страна съгласно същото законодателство на ЕС за хармонизация;
• биометрични данни, когато се използват за дистанционна идентификация, категоризиране на лица по чувствителни атрибути (като раса или религия) или разпознаване на емоции, освен когато се използват просто за проверка на самоличността;
• критична инфраструктура, когато ИИ е защитен елемент в области като цифрова инфраструктура, движение, вода, газ, отопление и електричество;
• образование и професионално обучение, включително достъп до образователни въпроси, оценка на резултатите от обучението, оценка на образователните нива или наблюдение на поведението по време на тестове;
• заетост, включително набиране на персонал, подбор на кандидати, вземане на решения относно условията на заетост (повишения, прекратяване на договорни отношения), разпределяне на задачи или наблюдение на работата;
• основни услуги — системи с ИИ, използвани от публичните органи за оценка на допустимостта за обществени услуги (здравеопазване, обезщетения), кредитен рейтинг, оценка на застрахователния риск и приоритизиране на реакциите при извънредни ситуации;
• правоприлагане — системи с ИИ, използвани за оценка на рисковете от престъпления, полиграфи, оценка на надеждността на доказателствата, прогнозиране на рецидив или профилиране на лица за наказателни разследвания;
• миграция и граничен контрол — системи с ИИ, използвани за оценка на рисковете, свързани с миграцията, убежището и заявленията за визи, или за откриване и идентифициране на лица в контекста на миграцията;
• правораздаване и демократични процеси — системи с ИИ, използвани от съдебните органи за правни изследвания и тълкуване, или системи, които биха могли да повлияят на изборните резултати.

Регламентът забранява следните практики с ИИ с неприемливо ниво на риск:

• действащи на подсъзнанието или измамни техники за манипулиране на поведението на отделни лица или групи чрез нарушаване на способността им да вземат информирани решения и потенциално причиняващи вреда.
• Използване на уязвимости въз основа на възраст, увреждане или социално-икономическо положение за манипулиране на лица или групи, което води до потенциални вреди.
• Социално класиране, оценяване или класифициране на хора въз основа на поведение или характеристики, което води до несправедливо третиране, несвързано с контекста, в който са събрани данните, или по начин, непропорционален на тежестта на поведението.
• Оценка на престъпния риск, прогнозиране на вероятността за извършване на престъпление единствено въз основа на профилиране или личностни черти, освен при обективни, основани на факти наказателни разследвания.
• Извличане на лицеви изображения от бази данни от интернет или охранителни камери без конкретно насочване.
• Извеждане на изводи за емоции в чувствителни области, като например работни места или образователни институции, освен ако не се използват за медицински цели или за безопасност.
• Биометрична категоризация въз основа на данни, за да се извлекат чувствителни атрибути като раса, религия или политически възгледи, с изключение на законното използване в правоприлагането.
• Биометрична идентификация в реално време на обществено място от правоприлагащите органи, освен ако не е строго необходимо за конкретни ситуации (напр. намиране на изчезнали лица, предотвратяване на непосредствени заплахи или идентифициране на заподозрени в тежки престъпления). За тези практики трябва да се следват строги правни процедури, включително предварително разрешение, ограничен обхват и гаранции за защита на правата и свободите.

Регламентът въвежда задължения за разкриване, когато може да възникне риск от липса на прозрачност относно използването на ИИ:

• Изкуственият интелект, предназначен да се представя за хора (напр. чатбот), трябва да информира човека, с когото взаимодейства;
• резултатът от генериращ ИИ трябва да бъде представен в машинно четим формат и обозначен като „генериран от ИИ“;
• в някои случаи резултатите от генериращ ИИ трябва да бъдат видимо етикетирани, а именно дълбоки фалшификати и текст, който има за цел да информира обществеността по въпроси от обществен интерес.

Всички други системи с ИИ се считат за системи с ограничен риск и поради това регламентът не въвежда допълнителни правила за тях.

Надеждно използване на големи модели с ИИ

• Моделите с ИИ с общо предназначение са модели с ИИ, които са обучени въз основа на големи количества данни и могат да изпълняват широк спектър от задачи. Те могат да бъдат компоненти на системи с ИИ.
• Регламентът въвежда задължения за прозрачност за доставчиците на такива модели с ИИ с общо предназначение, а именно техническа документация, предоставяне на информация на разработчиците надолу по веригата на системи с ИИ и разкриване на данни, използвани за обучение на модела.
• Най-мощните модели с ИИ с общо предназначение могат да създадат системни рискове. Ако даден модел отговаря на определен праг на способност, доставчикът на този модел трябва да изпълни допълнителни задължения за управление на риска и киберсигурност.

Управление

• С регламента се създават няколко ръководни органа, действащи от 2 август 2025 г.:
  • националните компетентни органи, които ще наблюдават и прилагат правилата за системите с ИИ;
  • Служба по ИИ в рамките на Европейската комисия, която ще координира съгласуваното прилагане на общите правила в целия ЕС и ще действа като регулатор за модели с ИИ с общо предназначение.
• Държавите — членки на ЕС, и Службата по ИИ ще си сътрудничат тясно в Съвет по ИИ, включващ представители на държавите членки, за да се гарантира последователното и ефективно прилагане на регламента.
• С регламента се създават два консултативни органа за Службата по ИИ и Съвета по ИИ:
  • научна група от независими експерти за предоставяне на научни консултации;
  • консултативен форум за заинтересованите страни за предоставяне на технически експертен опит на Съвета по ИИ и на Комисията.

Санкции

Глобите за нарушения се определят като процент от годишния оборот на дружеството нарушител или предварително определен размер, в зависимост от това кое от двете е по-високо. Малките и средните предприятия и стартиращите предприятия подлежат на пропорционални административни глоби.

Прозрачност и защита на основните права

Повишената прозрачност се отнася до разработването и използването на високорискови системи с ИИ:

• преди внедряването на високорискова система с ИИ от субекти, предоставящи обществени услуги, трябва да се оцени нейното въздействие върху основните права;
• високорисковите системи с ИИ и субектите, които ги използват, трябва да бъдат регистрирани в база данни на ЕС.

Иновации

Регламентът предвижда благоприятна за иновациите правна рамка и има за цел да насърчи основаното на доказателства регулаторно обучение. Той предвижда регулаторни лаборатории за ИИ, позволяващи контролирана среда, в която иновативните системи с ИИ могат да бъдат разработени, тествани и валидирани, включително в реални условия. Освен това регламентът позволява тестване в реалния свят на високорискови системи с ИИ при определени условия.

Оценка и преглед

Комисията оценява необходимостта от изменения в списъка на високорисковите употреби на ИИ и списъка на забранените практики всяка година. До 2 август 2028 г. и на всеки четири години след това Комисията ще оценява и докладва за следното:

• добавяне или разширяване на списъка с високорискови категории;
• изменения в списъка на системите с ИИ, изискващи допълнителни мерки за прозрачност;
• изменения за подобряване на надзора и управлението.