EUROPESE COMMISSIE
Brussel, 20.5.2026
COM(2026) 234 final
VERSLAG VAN DE COMMISSIE AAN HET EUROPEES PARLEMENT EN DE RAAD
VERSLAG OP GROND VAN ARTIKEL 112, LID 1, VAN VERORDENING (EU) 2024/1689 BETREFFENDE DE NOODZAAK OM DE LIJST VAN VERBODEN AI-PRAKTIJKEN EN DE IN BIJLAGE III OPGENOMEN LIJST VAN AI-SYSTEMEN MET EEN HOOG RISICO TE HERZIEN
VERSLAG VAN DE EUROPESE COMMISSIE AAN HET EUROPEES PARLEMENT EN DE RAAD
VERSLAG OP GROND VAN ARTIKEL 112, LID 1, VAN VERORDENING (EU) 2024/1689 BETREFFENDE DE NOODZAAK OM DE LIJST VAN VERBODEN AI-PRAKTIJKEN EN DE IN BIJLAGE III OPGENOMEN LIJST VAN AI-SYSTEMEN MET EEN HOOG RISICO TE HERZIEN
1. Context en achtergrondinformatie
(1)Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van bepaalde verordeningen (“de AI-verordening” 1 ) is op 1 augustus 2024 in werking getreden. Deze verordening voorziet in een alomvattend rechtskader voor de regulering van artificiële intelligentie (“AI”) in de Unie, waarmee wordt beoogd innovatie en de invoering van AI te bevorderen en tegelijkertijd een hoog niveau van bescherming van de gezondheid, de veiligheid en de grondrechten in de Europese Unie (EU), met inbegrip van de democratie en de rechtsstaat, te waarborgen.
(2)In de AI-verordening wordt een risicogebaseerde benadering gevolgd, waarbij AI-systemen worden ingedeeld in vier verschillende risicocategorieën: i) onaanvaardbaar risico, ii) hoog risico, iii) transparantierisico, en iv) minimaal tot geen risico. Wat de categorie “onaanvaardbaar risico” betreft, bevat de AI-verordening een lijst van specifieke AI-praktijken die in de EU verboden zijn (artikel 5 van de AI-verordening). De classificatie van een AI-systeem als een AI-systeem met een hoog risico gebeurt overeenkomstig artikel 6 van de AI-verordening, gelezen in samenhang met bijlage I (“Lijst van harmonisatiewetgeving van de Unie”) en bijlage III bij de AI-verordening. Bijlage III bestrijkt acht gebieden en bevat voor elk van die gebieden een lijst van concrete gebruiksgevallen ten aanzien waarvan het Europees Parlement en de Raad hebben geoordeeld dat deze een hoog risico inhouden op schade voor de gezondheid en veiligheid van personen of voor de grondrechten.
(3)De AI-verordening is een flexibel en toekomstbestendig rechtsinstrument dat voorziet in de mogelijkheid om bepaalde regels aan te passen aan de technologische ontwikkelingen op dit gebied, die zich in snel tempo voltrekken, alsook aan mogelijke veranderingen in het gebruik van AI-systemen en aan opkomende risico’s. Daartoe voorziet de AI-verordening in doorlopende monitoring en toetsing, zodat de regels relevant en doeltreffend blijven. Het vereiste van doorlopende monitoring en toetsing geldt al voordat specifieke bepalingen, zoals de regels voor AI-systemen met een hoog risico, van toepassing worden.
(4)Artikel 112 van de AI-verordening voorziet in een specifiek monitoringinstrument voor het evalueren en toetsen van de AI-verordening. Op grond van artikel 112, lid 1, van de AI-verordening heeft de Commissie tot taak om vanaf de inwerkingtreding van de AI-verordening tot het einde van de in artikel 97 van de AI-verordening vermelde periode van de bevoegdheidsdelegatie eenmaal per jaar te beoordelen of de lijst van AI-systemen met een hoog risico in bijlage III bij de AI-verordening en de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening moeten worden gewijzigd. De Commissie moet de bevindingen van die beoordeling aan het Europees Parlement en de Raad meedelen.
(5)Dit is het eerste verslag op grond van die bepaling. Het doel van dit verslag is om te beoordelen of de lijst van gebruiksgevallen in bijlage III bij de AI-verordening en de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening moeten worden gewijzigd zodat de AI-verordening relevant en doeltreffend blijft in het licht van de snel evoluerende AI-technologieën. De evaluatie van de lijst van gebieden die onder bijlage III vallen, valt buiten de reikwijdte van dit verslag, aangezien de Commissie die evaluatie overeenkomstig artikel 112, lid 2, van de AI-verordening pas uiterlijk op 2 augustus 2028 moet uitvoeren.
(6)Dit verslag begint met een beschrijving van de methode die voor het opstellen ervan is gebruikt. Vervolgens wordt die methode gebruikt voor het geven van een beoordeling van de eventuele noodzaak om de lijst van gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening en de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening te herzien.
(7)Doordat de AI-verordening nog maar kort geleden in werking is getreden en deze op het moment dat dit verslag werd aangenomen nog maar beperkt van toepassing was, kan in dit verslag nog geen volledige beoordeling worden gegeven. Hoofdstuk II van de AI-verordening (“Verboden AI-praktijken”) is op 2 februari 2025 van toepassing geworden. De regels voor de handhaving van dat hoofdstuk zijn echter pas met ingang van 2 augustus 2026 van toepassing en de nationale bevoegde autoriteiten moeten nog worden aangewezen. Ook de verplichtingen voor de in bijlage III bij de AI-verordening vermelde AI-systemen met een hoog risico zullen pas gelden vanaf 2 augustus 2026. Overwogen wordt om deze termijn nog te verlengen 2 . Bovendien is het zo dat de Commissie weliswaar in februari 2025 richtsnoeren betreffende verboden AI-praktijken heeft gepubliceerd 3 , maar dat de richtsnoeren voor de classificatie van AI-systemen met een hoog risico nog opgesteld moeten worden. In die richtsnoeren moet dus nog duidelijkheid worden verschaft over bepaalde begrippen en over de classificatie van specifieke gebruiksgevallen van AI, die ook nog verder moet worden uitgewerkt door de praktische toepassing van bijlage III bij de AI-verordening en aanverwante bepalingen.
2. Gebruikte methode voor de beoordeling op grond van artikel 112, lid 1, van de AI-verordening
(8)Overeenkomstig artikel 112, lid 11, van de AI-verordening moet het AI-bureau voor het uitvoeren van de evaluaties en toetsingen als bedoeld in artikel 112, lid 1, van de AI-verordening, een objectieve en participatieve methode voor de evaluatie van de risiconiveaus ontwikkelen, op basis van de in de desbetreffende artikelen beschreven criteria en de opname van nieuwe systemen in de lijst in bijlage III bij de AI-verordening, waaronder de uitbreiding van bestaande gebiedsrubrieken of de toevoeging van nieuwe rubrieken in die bijlage, en de lijst van verboden praktijken als vastgelegd in artikel 5 van de AI-verordening.
(9)In dit deel van het verslag wordt de methodologische aanpak beschreven die het AI-bureau heeft ontwikkeld om te waarborgen dat bij het opstellen van dit verslag aan deze verplichting zou worden voldaan. Eerst wordt een overzicht gegeven van de wettelijke criteria voor de herziening van de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening en de lijst van AI-systemen met een hoog risico in bijlage III bij de AI-verordening (punt 2.1). Deze wettelijke criteria vormen de basis voor de verdere beoordeling van de eventuele noodzaak van een herziening, met name met betrekking tot concrete AI-systemen die in deze twee categorieën kunnen vallen. Vervolgens worden de participatieve methoden beschreven die zijn gebruikt voor het verzamelen en analyseren van bewijs, alsook de aanpak die gedurende het beoordelingsproces is gevolgd (punt 2.2).
2.1. Wettelijke criteria voor de beoordeling van de noodzaak om de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening en de lijst van gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening te wijzigen
(10)De beoordeling van de noodzaak om de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening en de gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening te wijzigen, is gebaseerd op wettelijke criteria. In het geval van bijlage III bij de AI-verordening worden deze criteria uitdrukkelijk genoemd in de AI-verordening zelf (artikel 7 van de AI-verordening), terwijl zij voor artikel 5 van de AI-verordening worden afgeleid uit de motivering van de verordening.
2.1.1. Criteria voor de herziening van de lijst van verboden in artikel 5
(11)Op grond van artikel 5 van de AI-verordening is het verboden een beperkt aantal AI-systemen in de EU in de handel te brengen, in gebruik te stellen of te gebruiken voor manipulatie, uitbuiting, sociale controle, surveillance of andere praktijken die naar hun aard de grondrechten en de waarden van de EU schenden. In overweging 28 van de AI-verordening wordt verduidelijkt dat dergelijke praktijken bijzonder schadelijk en abusief zijn omdat zij in strijd zijn met de waarden van de EU, namelijk eerbied voor de menselijke waardigheid, vrijheid, gelijkheid, democratie en de rechtsstaat, en met de grondrechten van de EU die zijn vastgelegd in het EU-Handvest van de grondrechten (“het Handvest”) 4 . Bijgevolg kan een herziening van artikel 5 van de AI-verordening gerechtvaardigd zijn wanneer er substantieel bewijs is dat de huidige verboden geen adequaat antwoord bieden op nieuwe of opkomende AI-praktijken die de in het Handvest verankerde waarden of grondrechten van de EU daadwerkelijk ondermijnen en die als bijzonder schadelijk en abusief kunnen worden aangemerkt.
(12)Bovendien is in artikel 5, lid 8, van de AI-verordening bepaald dat de AI-verordening geen afbreuk doet aan bestaande verboden uit hoofde van andere EU-wetgeving. In die bepaling wordt de nadruk gelegd op de wisselwerking tussen de AI-verordening en andere rechtskaders, vanwege het horizontale karakter ervan 5 . Over het algemeen zijn de verboden in de AI-verordening op de eerste plaats gericht op lacunes die nog niet met andere EU-wetgeving zijn gedicht en AI-specifieke marktgebaseerde regels vereisen. Hoewel gelijktijdig andere rechtshandelingen van de EU van toepassing kunnen zijn, worden kwesties daarin onvermijdelijk vanuit verschillende invalshoeken benaderd, met verschillende handhavingsmechanismen, en wordt het totaal aan risico’s die bepaalde onaanvaardbare AI-praktijken met zich meebrengen, dan mogelijk onvoldoende aangepakt.
(13)Bijgevolg gaat de Commissie er bij de beoordeling van de noodzaak van herziening van de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening van uit dat die noodzaak bestaat wanneer aan ten minste twee voorwaarden is voldaan:
·er zijn nieuwe of opkomende AI-praktijken die de waarden van de EU of de in het Handvest erkende rechten en vrijheden ondermijnen en die niet vallen onder de huidige lijst van verboden praktijken in artikel 5 van de AI-verordening; en
·ondanks andere toepasselijke EU-wetgeving zijn er nog steeds lacunes in de regelgeving, waardoor een herziening van de lijst van verboden in de AI-verordening nodig is om alle schadelijke AI-praktijken te bestrijken.
(14)Artikel 5 kan alleen worden gewijzigd door middel van een wetswijziging. Indien wordt vastgesteld dat artikel 5 van de AI-verordening moet worden gewijzigd, zal de Commissie de bevindingen van haar beoordeling daarom voorleggen aan het Europees Parlement en de Raad en zal zij overwegen of het nodig is een voorstel voor een daartoe strekkende handeling in te dienen.
2.1.2. Criteria voor de herziening van de lijst van AI-systemen met een hoog risico in bijlage III
(15)Artikel 6 van de AI-verordening, gelezen in samenhang met de bijlagen I en III, ziet op bepaalde toepassingen van AI-systemen die vanwege het significante risico op schade voor de gezondheid, veiligheid of de grondrechten van personen dat deze systemen inhouden, als systemen met een hoog risico worden aangemerkt. AI-systemen met een hoog risico mogen alleen in de handel worden gebracht, in gebruik worden gesteld of worden gebruikt als zij voldoen aan bepaalde, in de AI-verordening neergelegde, dwingende eisen, die zijn bedoeld om die risico’s weg te nemen.
Beperking van de herziening tot gebruiksgevallen van in bijlage III vermelde AI-systemen met een hoog risico
(16)In de AI-verordening wordt onderscheid gemaakt tussen twee categorieën AI-systemen die zijn geclassificeerd als AI-systemen met een “hoog risico”, zoals aangegeven in artikel 6, leden 1 en 2, van de AI-verordening. De eerste categorie betreft AI-systemen die zijn ingebed als veiligheidscomponenten in producten, of die zelf producten zijn, die vallen onder de in bijlage I vermelde harmonisatiewetgeving van de EU, en die nadelige gevolgen kunnen hebben voor de gezondheid en veiligheid van personen, en die daarom op grond van artikel 6, lid 1, van de AI-verordening als systemen met een hoog risico worden aangemerkt. De tweede categorie omvat AI-systemen die gezien hun beoogde doel worden geacht een significant risico voor de gezondheid, de veiligheid of de grondrechten op te leveren en bijgevolg overeenkomstig artikel 6, lid 2, van de AI-verordening als systemen met een hoog risico worden aangemerkt.
(17)Aangezien artikel 112, lid 1, van de AI-verordening is gericht op de eventuele noodzaak van een wijziging van de in bijlage III vermelde gebruiksgevallen met een hoog risico, vallen AI-systemen die veiligheidscomponenten van producten zijn, of die zelf producten zijn, die vallen binnen het toepassingsgebied van bepaalde in bijlage I vermelde harmonisatiewetgeving van de EU, buiten de reikwijdte van dit verslag. Wanneer in dit verslag wordt verwezen naar AI-systemen met een hoog risico, worden uitsluitend de autonome AI-systemen 6 bedoeld die worden gebruikt op de in bijlage III vermelde vooraf bepaalde gebieden.
In artikel 7 vermelde criteria voor het wijzigen van gebruiksgevallen van AI-systemen met een hoog risico
(18)Op grond van artikel 7 van de AI-verordening is de Commissie bevoegd om bijlage III door middel van gedelegeerde handelingen te wijzigen door het toevoegen, wijzigen of schrappen van gebruiksgevallen van AI-systemen met een hoog risico, teneinde rekening te houden met het snelle tempo van de technologische ontwikkeling en met de mogelijke veranderingen in het gebruik van AI-systemen (zie ook overweging 52 en 173 van de AI-verordening). Deze bevoegdheid is onderworpen aan de voorwaarden van artikel 7, leden 1 tot en met 3, van de AI-verordening.
(19)Ten eerste is in artikel 7, lid 1, van de AI-verordening bepaald dat de Commissie gedelegeerde handelingen kan vaststellen om nieuwe gebruiksgevallen toe te voegen aan bijlage III of om de momenteel in die bijlage vermelde gebruiksgevallen te wijzigen, op voorwaarde dat de AI-systemen i) zijn bedoeld om te worden gebruikt op een van de acht in bijlage III vermelde gebieden en ii) een risico op schade opleveren dat gelijk is aan of groter is dan het risico op schade dat de reeds in de bijlage opgenomen gebruiksgevallen opleveren. Deze tweede voorwaarde stelt een drempel die bij de vergelijkende risicobeoordeling in acht moet worden genomen: een belangrijke voorwaarde voor het opnemen van aanvullende gebruiksgevallen van AI-systemen met een hoog risico is dat deze een risico voor de gezondheid en veiligheid of voor de grondrechten van personen moeten vormen dat gelijk is aan het risico voor de gezondheid en veiligheid of voor de grondrechten van personen dat wordt gevormd door de AI-systemen die reeds in bijlage III zijn opgenomen. Dit zorgt voor consistentie en evenredigheid bij de classificatie van AI-systemen met een hoog risico.
(20)In artikel 7, lid 2, worden de criteria uiteengezet waarmee rekening moet worden gehouden bij het beantwoorden van de vraag of aan deze drempel is voldaan. Die criteria omvatten onder meer het beoogde doel van het AI-systeem, de mate waarin het waarschijnlijk zal worden gebruikt, de aard van de verwerkte gegevens en de huidige en potentiële omvang van de schade. Volgens overweging 52 van de AI-verordening is de motivering voor deze criteria dat autonome AI-systemen als AI-systemen met een hoog risico moeten worden geclassificeerd indien zij, gelet op het beoogde doel, een hoog risico inhouden op schade voor de gezondheid en de veiligheid of voor de grondrechten van personen, rekening houdend met zowel de ernst van de mogelijke schade als de waarschijnlijkheid dat deze zich voordoet, en indien zij worden gebruikt op een aantal in de AI-verordening beschreven, specifieke en vooraf bepaalde gebieden. De Commissie beschikt bij de toepassing van de criteria over een zekere beoordelingsmarge, mits de criteria naar behoren in aanmerking worden genomen en bij de totaalbeoordeling als vervuld worden beschouwd.
(21)Bijgevolg is de drempel voor wijziging van de lijst in bijlage III bij de AI-verordening niet alleen dat het moet gaan om een technologische nieuwheid of bezorgdheid van het publiek, maar ook dat aantoonbaar sprake moet zijn van een risico voor de gezondheid, veiligheid of grondrechten, dat dit risico vergelijkbaar moet zijn en dat het gelijk is aan het risico van de AI-systemen die momenteel in bijlage III zijn opgenomen.
Schrapping van gebruiksgevallen van AI-systemen met een hoog risico uit bijlage III
(22)In artikel 7, lid 3, van de AI-verordening zijn de criteria gespecificeerd voor de schrapping van AI-systemen met een hoog risico uit bijlage III. De Commissie moet aantonen dat het gebruiksgeval niet langer een hoog risico op schade vormt en dat de schrapping niet leidt tot een lager algeheel beschermingsniveau wat betreft de gezondheid en veiligheid of de grondrechten uit hoofde van het Unierecht.
2.2. Gebruikte methode voor het verzamelen en analyseren van bewijsmateriaal op een objectieve en participatieve wijze en de gevolgde procedures
(23)Overeenkomstig artikel 112, lid 11, van de AI-verordening moet het AI-bureau voor het beoordelen van de noodzaak van de herziening waarop dit verslag betrekking heeft, een objectieve en participatieve methode ontwikkelen. Voorts kan de Commissie op grond van artikel 112, lid 8, en artikel 112, lid 9, van de AI-verordening voor haar verslag informatie opvragen bij de Europese raad voor artificiële intelligentie (“de AI-board”), de lidstaten en de nationale bevoegde autoriteiten en moet zij bij de uitvoering van haar toetsingen en evaluaties de standpunten en bevindingen van de AI-board, het Europees Parlement, de Raad en andere relevante instanties of bronnen in aanmerking nemen.
(24)Overeenkomstig deze bepalingen heeft de Commissie voor dit verslag de volgende methode gebruikt:
·Contacten met de AI-board en overleg met de lidstaten en de nationale bevoegde autoriteiten
De Commissie is betrokken geweest bij de aanwijzing van de nationale bevoegde autoriteiten door de lidstaten en heeft via de AI-board relevante vragen gesteld. Meerdere subgroepen van de AI-board waren bij het proces van aanwijzing betrokken.
·Raadpleging van belanghebbenden
Er zijn meerdere belanghebbenden geraadpleegd om feedback en standpunten te verzamelen van een breed scala aan belanghebbenden, waaronder vertegenwoordigers van het bedrijfsleven, de academische wereld, het maatschappelijk middenveld en het grote publiek.
·Empirisch onderzoek: analyseren van databanken over AI-incidenten
De Commissie heeft ook relevante databanken over AI-incidenten geanalyseerd om ervoor te zorgen dat een brede aanpak wordt gevolgd die is gebaseerd op empirisch bewijs van door AI-systemen veroorzaakte schade.
(25)In navolgende punten wordt nader ingegaan op de methode die werd gebruikt zodat het in dit verslag gebruikte bewijs op een objectieve en participatieve wijze zou worden verzameld en geanalyseerd. Er wordt een uitvoerige beschrijving gegeven van de aanpak die werd gevolgd om ervoor te zorgen dat de verzamelde informatie volledig is en de standpunten van diverse belanghebbenden weerspiegelt, waarmee een transparante en empirisch goed onderbouwde beoordeling wordt ondersteund.
3. Analyse van de verzamelde informatie
3.1. Analyse van de resultaten van de raadpleging van de lidstaten en de AI-board
(26)Het AI-bureau heeft de lidstaten geraadpleegd via de relevante subgroepen van de AI-board 7 en hun verzocht hun input rechtstreeks tijdens de vergaderingen dan wel schriftelijk te verstrekken.
3.1.1. Standpunt van de lidstaten over de noodzaak om de lijst van verboden praktijken in artikel 5 van de AI-verordening te herzien
Algemeen standpunt
(27)Tijdens de raadpleging van de relevante subgroep van de AI-board heeft de meerderheid van de aanwezige lidstaten verklaard dat zij in dit stadium geen noodzaak zien tot het wijzigen van de lijst van verboden AI-praktijken van artikel 5 van de AI-verordening. Daarnaast hebben negen lidstaten via e-mail schriftelijke verklaringen ingediend, waarin zij eveneens bevestigen geen noodzaak te zien tot het wijzigen van die lijst. Van de twee waarnemers van de subgroep werden vergelijkbare antwoorden ontvangen.
(28)De vertegenwoordigers van de lidstaten die reageerden op de vragen van de Commissie merkten herhaaldelijk op dat, aangezien de bepaling van de AI-verordening waarin het begrip “AI-systeem” wordt gedefinieerd en de bepalingen inzake verboden praktijken pas op 2 februari 2025 van toepassing zijn geworden, de handhavingsregels pas op 2 augustus 2026 van toepassing zullen worden en de handhavingsmechanismen nog niet operationeel zijn, men nog maar net is begonnen met de evaluatie van praktijken die bijzonder schadelijk en abusief zijn en in strijd met de waarden en grondrechten van de EU. Aangezien artikel 5 van de AI-verordening nog maar kort geleden van toepassing is geworden, ontbreekt het momenteel aan praktische ervaring en concrete gebruiksgevallen op basis waarvan de doeltreffendheid van de in de AI-verordening neergelegde verboden kan worden beoordeeld. Daarom werd geconcludeerd dat een zinvollere input kan worden geleverd nadat de toepasselijke bepalingen gedurende een langere periode van kracht zijn geweest. De lidstaten merkten op dat er vooralsnog te weinig concrete gegevens of analyses beschikbaar zijn om een herziening te rechtvaardigen.
(29)In het licht van deze overwegingen was het algemene standpunt van de lidstaten dat het beter is om te wachten met een eventuele herziening of wijziging van de lijst van verboden praktijken totdat voldoende ervaring met de uitvoering van het artikel is opgedaan.
Kwesties die zijn aangemerkt voor verdere monitoring
(30)Eén lidstaat meende dat het belangrijk is om te beoordelen of AI-systemen die bedoeld zijn om malware te ontwikkelen of te verspreiden en die langs die weg schade kunnen toebrengen aan kritieke infrastructuur of databanken of een risico kunnen vormen voor de grondrechten, in de lijst van verboden AI-praktijken moeten worden opgenomen. Na het voorstel te hebben geanalyseerd, concludeerde de Commissie dat de risico’s die door een dergelijk verbod weggenomen zouden moeten worden, al voldoende door diverse EU-wetgeving 8 worden ondervangen. Wel werd de kwestie aangemerkt voor verdere monitoring en beoordeling.
3.1.2. Standpunt van de lidstaten over de noodzaak om de gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening te wijzigen
Algemeen standpunt
(31)De noodzaak om de lijst van gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening te wijzigen, is besproken tijdens meerdere vergaderingen van de subgroepen van de AI-board. Tijdens die vergaderingen hebben veel van de aanwezige lidstaten verklaard dat zij vooralsnog geen noodzaak zien om bijlage III te wijzigen. Daarnaast hebben zeven lidstaten via e-mail schriftelijke verklaringen ingediend waarin zij bevestigen geen noodzaak te zien tot het wijzigen van bijlage III.
(32)Vergelijkbaar met de hierboven uiteengezette overwegingen van de lidstaten met betrekking tot eventuele wijzigingen van de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening, hebben de lidstaten die op de vragen van de Commissie hebben gereageerd, herhaaldelijk opgemerkt dat zij nog bezig zijn met het beoordelen van de gevolgen van het wetgevingskader voor de huidige in bijlage III vermelde gebruiksgevallen van AI met een hoog risico. De regels betreffende AI-systemen met een hoog risico zijn nog niet van toepassing en de Commissie komt nog met richtsnoeren voor de classificatie van AI-systemen met een hoog risico. Gezien deze overwegingen achten de lidstaten het over het algemeen voorbarig om nu al wijzigingen aan te brengen in de lijst van gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening.
Kwesties die zijn aangemerkt voor verdere monitoring
(33)Twee lidstaten uitten hun bezorgdheid over enkele specifieke gebruiksgevallen van AI 9 .
(34)Eén punt van zorg betrof de regulering van AI-chatbots voor zelfhulp (therapeutische chatbots) 10 , die niet onder de verordening medische hulpmiddelen 11 vallen. AI-chatbots voor zelfhulp (therapeutische chatbots) zijn door AI aangestuurde digitale instrumenten die zijn ontworpen om gebruikers via een gespreksinterface ondersteuning op het gebied van geestelijke gezondheid en emotionele begeleiding te bieden. Hoewel AI-chatbots voor zelfhulp niet als medische hulpmiddelen maar als welzijnsinstrumenten worden gepresenteerd, zijn zij wel degelijk van invloed op de beslissingen die gebruikers op het gebied van geestelijke gezondheid nemen en verwerken zij mogelijk gevoelige persoonsgegevens. Bijgevolg bestaat het risico dat de ondersteuning en emotionele begeleiding die dergelijke chatbots bieden, de geestelijke gezondheid van mensen negatief beïnvloeden. In het licht hiervan heeft één lidstaat de vraag opgeworpen of dergelijke systemen moeten worden geclassificeerd als AI-systemen met een hoog risico.
(35)Na deze vraag te hebben geanalyseerd, is de Commissie van mening dat chatbots voor zelfhulp die voldoen aan de definitie van medisch hulpmiddel, onderworpen zijn aan de strikte vereisten en controles van de verordening medische hulpmiddelen. Bovendien vallen de schadelijkste AI-chatbots voor zelfhulp mogelijk onder de verboden die zijn neergelegd in artikel 5, punten a) en b), van de AI-verordening. Wat betreft de classificatie van andere AI-chatbots voor zelfhulp als AI-systemen met een hoog risico, konden de meeste daarvan niet worden ingedeeld bij een van de gebruiksgevallen die nu in bijlage III zijn opgenomen, met enkele specifieke uitzonderingen die reeds door de vermelde gebruiksgevallen worden bestreken 12 . Daarnaast worden sommige risico’s die in verband worden gebracht met AI-chatbots voor zelfhulp ten minste tot op zekere hoogte beperkt door de openbaarmakingsverplichtingen van artikel 50 van de AI-verordening. Dat geldt met name voor risico’s in verband met geïnformeerde besluitvorming en de psychologische gevolgen die de interactie met een dergelijke chatbot kan hebben. De Commissie zal daarom eerst beoordelen in hoeverre voornoemde risico’s in de praktijk door die bepalingen worden ondervangen alvorens wijzigingen van bijlage III te overwegen. De Commissie erkent evenwel dat het gebruik en de potentiële risico’s van dit soort AI-systemen in dit stadium nauwlettend moeten worden gemonitord en dat de komende jaren aanvullend bewijs moet worden verzameld, met name zodra de bepalingen van de AI-verordening inzake AI-systemen met een hoog risico van toepassing worden.
(36)Een ander punt van zorg was AI gestuurd gepersonaliseerd leren. Op basis van de huidige analyse gebaseerd op de criteria van artikel 7 van de AI-verordening, concludeert de Commissie dat zelflerende AI-systemen in de meeste gevallen geen risico’s opleveren die gelijk zijn aan of groter zijn dan de risico’s van de in bijlage III bij de AI-verordening vermelde AI-systemen. Meer in het bijzonder is er maar beperkt empirisch bewijs dat erop duidt dat dergelijke systemen een hoog risico op schade inhouden en zijn geen incidenten vastgesteld waarbij dergelijke systemen betrokken waren. Een soortgelijke conclusie geldt voor AI-systemen die worden gebruikt voor het ontwikkelen van leermateriaal op basis van gepersonaliseerde inhoud in de context van zelfstandig (autonoom) leren. Andere gebruiksgevallen van AI-gestuurd gepersonaliseerd leren zullen worden verduidelijkt in de aangekondigde richtsnoeren van de Commissie voor de classificatie van systemen met een hoog risico.
(37)Tot slot werd door één lidstaat voorgesteld om in bijlage III bij de AI-verordening ook gebruiksgevallen op te nemen van AI-systemen die door overheden worden gebruikt voor het behandelen van vergunningaanvragen, bijvoorbeeld aanvragen voor een rijbewijs, een vuurwapen- en munitievergunning of een vergunning voor het hanteren van chemische stoffen of het werken met explosieven. Vooralsnog is er nauwelijks bewijs om te kunnen rechtvaardigen dat dergelijke gebruiksgevallen op basis van de criteria van artikel 7 van de AI-verordening als “hoog risico” worden geclassificeerd. In het licht hiervan is de Commissie van mening dat de risico’s van deze systemen verder moeten worden gemonitord.
3.2. Analyse van de resultaten van de raadpleging van belanghebbenden
(38)Van 6 juni tot en met 18 juli 2025 heeft de Commissie meerdere belanghebbenden geraadpleegd 13 om input te verzamelen over de uitvoering van de regels van de AI-verordening die zien op AI-systemen met een hoog risico. Daarbij werden ook verscheidene vragen gesteld over de eventuele noodzaak tot wijziging van de lijst van gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening en van de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening.
(39)In totaal werden 547 reacties ontvangen van diverse belanghebbenden, waaronder bedrijven, maatschappelijke organisaties, de academische wereld, overheidsinstellingen en privépersonen 14 .
3.2.1. Standpunten van belanghebbenden over de noodzaak om de lijst van verboden in artikel 5 van de AI-verordening te herzien
(40)Hoewel een aanzienlijk aantal belanghebbenden de huidige lijst toereikend vond 15 , stelden andere voor om aanvullende verboden 16 op te nemen. De meerderheid van de respondenten pleitte niet voor schrapping van bestaande verboden.
(41)De voorstellen van belanghebbenden om aanvullende verboden op te nemen, zijn door de Commissie beoordeeld volgens de in punt 2.1.1 beschreven methode en criteria. De Commissie heeft met name getracht om aan de hand van de ontvangen voorstellen vast te stellen welke praktijken als bijzonder schadelijk en abusief kunnen worden beschouwd, in strijd zijn met de waarden en grondrechten van de EU en waarop de bestaande EU-wetgeving onvoldoende ziet. Deze aanpak vormde de basis voor de beoordeling van de vraag of de voorgestelde toevoegingen opname in de lijst van verboden AI-praktijken rechtvaardigen of dat die praktijken beter kunnen worden aangepakt via andere regelgevingsmechanismen in het kader van de AI-verordening of mogelijk andere EU-wetgeving.
(42)Een aanzienlijk aantal voorstellen werd aldus beoordeeld dat de betreffende risico’s al voldoende zijn afgedekt in de bestaande bepalingen van de AI-verordening, hetzij door middel van de verboden in artikel 5 van de AI-verordening of de classificatie van bepaalde AI-systemen als AI-systemen met een hoog risico uit hoofde van bijlage III of bijlage I bij de AI-verordening, hetzij door middel van de transparantievereisten van artikel 50 van de AI-verordening. Sommige voorstellen leken, wanneer ze werden beoordeeld in het licht van de huidige fase van de ontwikkeling en inzet van AI en gezien de geregistreerde AI-incidenten, niet te voldoen aan de drempel voor een verbod op grond van de AI-verordening 17 .
(43)De volgende punten van zorg die herhaaldelijk door belanghebbenden naar voren werden gebracht, zijn geselecteerd voor verdere monitoring en evaluatie van de praktijk:
·Op het gebied van biometrie strekten talrijke voorstellen tot een verruiming van het verbod op het gebruik van technologieën voor het herkennen van emoties neergelegd in artikel 5, lid 1, punt f), van de AI-verordening. Een dergelijk gebruik is verboden op de werkplek en in onderwijsinstellingen 18 . Wanneer dergelijke systemen op andere plaatsen worden gebruikt, worden zij op grond van punt 1 van bijlage III bij de AI-verordening geclassificeerd als een AI-systeem met een hoog risico. Bovendien vereist artikel 50, lid 3, van de AI-verordening dat gebruiksverantwoordelijken van een systeem voor het herkennen van emoties de daaraan blootgestelde natuurlijke personen informeren over de werking van het systeem. Meerdere respondenten uitten echter hun bezorgdheid over de inzet van dergelijke systemen in een gevoelige context, zoals migratie, en stelden voor om het gebruik ervan op deze specifieke gebieden uitdrukkelijk te verbieden in plaats van het te onderwerpen aan de regelgevingsvereisten voor systemen met een hoog risico. Omdat het ontbreekt aan empirisch bewijs dat het classificeren van dergelijke systemen als systemen met een hoog risico niet voldoende is om de bescherming van de grondrechten te waarborgen, ziet de Commissie geen onmiddellijke noodzaak om artikel 5 van de AI-verordening in dit opzicht te wijzigen. Desalniettemin is besloten dat de inzet van AI-systemen op dit gebied nader zal worden onderzocht.
·De kwestie van de classificatie van AI-systemen die donkere patronen en verslavend ontwerp mogelijk maken, werd door verschillende belanghebbenden aan de orde gesteld. Volgens de huidige beoordeling van de Commissie vallen de schadelijkste gevallen van dergelijke praktijken reeds onder de bestaande verboden, met name die van artikel 5, punten a) en b), van de AI-verordening. Bovendien vallen deze praktijken mogelijk onder andere EU-wetgeving, zoals de richtlijn oneerlijke handelspraktijken 19 en de digitaledienstenverordening 20 , ongeacht of zij op AI zijn gebaseerd. Niettemin blijven dergelijke praktijken een belangrijk punt van zorg. Het wordt belangrijk geacht de ontwikkeling ervan nauwlettend te volgen om te beoordelen of de bestaande EU-wetgeving nog steeds passende bescherming biedt, met name wanneer AI-systemen donkere patronen en verslavend ontwerp mogelijk maken.
·Verschillende belanghebbenden vestigden de aandacht op AI-systemen die oplichting in de hand werken en naaktbeelden en andere kwaadwillige en vernederende deepfakes genereren. Deze schadelijke praktijken zijn ook vastgesteld bij de incidentenanalyse en worden verder besproken in punt 3.3.3.
3.2.2. Standpunten van belanghebbenden over de noodzaak om de gebruiksgevallen in bijlage III bij de AI-verordening te wijzigen
(44)Hoewel een aanzienlijk aantal belanghebbenden de bestaande lijst van gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening toereikend vond 21 , stelden andere voor om nieuwe gebruiksgevallen aan de gebiedsrubrieken toe te voegen of om de huidige gebruiksgevallen uit te breiden en vroegen weer andere zich af of niet nieuwe gebiedsrubrieken zouden moeten worden toegevoegd 22 . De meeste belanghebbenden waren er geen voorstander van om een van de huidige gebruiksgevallen uit bijlage III te schrappen.
(45)Een aanzienlijk aantal voorstellen werd door de Commissie aldus beoordeeld dat de bestaande bepalingen van de AI-verordening al in voldoende mate in een en ander voorzien 23 . De resterende voorstellen om aanvullende gebruiksgevallen en gebiedsrubrieken op te nemen, zijn beoordeeld met inachtneming van de criteria vermeld in artikel 7 van de AI-verordening (zie punt 2.1.2). Meerdere van de voorgestelde gebruiksgevallen werden onderzocht, maar werden niet geacht een risico op schade op te leveren dat gelijk is aan of groter is dan het risico op schade dat die gebruiksgevallen opleveren die reeds in bijlage III bij de AI-verordening zijn vermeld 24 . Sommige van de door belanghebbenden geuite punten van zorg werden aldus beoordeeld dat de betreffende gebruiksgevallen vermoedelijk al vallen onder de gebruiksgevallen die zijn opgenomen in de lijst van gebruiksgevallen met een hoog risico in bijlage III bij de AI-verordening, wat nader zal worden toegelicht in de richtsnoeren voor de classificatie van AI-systemen met een hoog risico die momenteel door de Commissie worden opgesteld 25 .
(46)De volgende kwesties die door belanghebbenden regelmatig als zorgpunten werden genoemd, zijn door de Commissie aangemerkt voor doorlopende monitoring en beoordeling in het licht van veranderende praktijken:
·Een aanzienlijk aantal voorstellen had betrekking op punt 5 van bijlage III bij de AI-verordening. Wat punt 5, a), betreft, plaatsten meerdere belanghebbenden vraagtekens bij het ontbreken van een expliciete verwijzing naar AI-systemen die bij de overheid worden gebruikt voor het toekennen van sociale uitkeringen en sociale huisvesting. Wat punt 5, b), betreft, merkten belanghebbenden op dat niet duidelijk is of hieronder ook AI-systemen vallen die worden gebruikt voor de screening van huurders en om te beoordelen of personen in aanmerking komen voor een particuliere dienst (bv. telecommunicatie, nutsvoorzieningen). Wat punt 5, c), betreft, werd bezorgdheid geuit over het feit dat het huidige gebruiksgeval met een hoog risico beperkt is tot levens- en ziektekostenverzekeringen, zonder vermelding van andere essentiële verzekeringen (bv. motorrijtuigen-, beroepsaansprakelijkheids-, opstal- of invaliditeitsverzekering). Er werden ook voorstellen gedaan voor uitbreiding van punt 5, d), tot AI-systemen die van invloed zijn op besluiten die in een noodsituatie worden genomen en die gevolgen hebben voor de veiligheid en rechten van personen (bv. gedwongen evacuatie, lockdowns). Hoewel ten aanzien van veel voorstellen werd besloten dat een en ander in de aangekondigde richtsnoeren van de Commissie voor de classificatie van systemen met een hoog risico nader zou worden toegelicht, zal het AI-bureau nauwlettend volgen hoe AI-systemen worden ingezet op het gebied dat onder punt 5 van bijlage III bij de AI-verordening valt, met name wanneer dat gebeurt in situaties waarvoor in bijlage III geen gebruiksgevallen met een hoog risico zijn opgenomen voor specifieke AI-systemen. Er zal bijzondere aandacht worden besteed aan het verzamelen van empirische gegevens over daadwerkelijke schade en het in kaart brengen van eventuele lacunes in de regelgeving die een wijziging of aanvulling van de lijst van gebruiksgevallen met een hoog risico in punt 5 van bijlage III of van de gebiedsrubriek in het algemeen zou kunnen rechtvaardigen.
·Een kwestie die bij de raadpleging van belanghebbenden steeds weer naar voren kwam, en die ook al een punt van zorg was voor een van de lidstaten (zie punt 3.1), betrof AI-begeleiders en AI-chatbots voor geestelijke ondersteuning. Deze AI-systemen werden door belanghebbenden zowel in de context van de eventuele noodzaak tot wijziging van verboden AI-praktijken als in de context van de wijziging van de gebruiksgevallen van bijlage III genoemd. Zoals hierboven opgemerkt, kunnen dergelijke systemen, wanneer zij subliminale, manipulatieve of misleidende invloed uitoefenen of kwetsbaarheden op schadelijke wijze uitbuiten, onder de verboden van artikel 5, punten a) en b), van de AI-verordening vallen. Wanneer de systemen zijn ontworpen met elementen voor het herkennen van emoties, kunnen zij op grond van punt 1, c), van bijlage III bij de AI-verordening als systemen met een hoog risico worden geclassificeerd. Ook de transparantieverplichtingen zijn op deze systemen van toepassing, die ervoor zorgen dat gebruikers zich ervan bewust zijn dat zij interageren met een AI-chatbox of worden onderworpen aan een systeem voor emotieherkenning of biometrische categorisering. Daarnaast bevatten ook de digitaledienstenverordening 26 en de EU-wetgeving inzake gegevensbescherming 27 bepaalde waarborgen in de gevallen waarin deze van toepassing zijn. In het licht van de toenemende verspreiding van AI-begeleiders en AI-chatbots voor geestelijke ondersteuning acht de Commissie het niettemin belangrijk om nauwlettend te volgen hoe deze systemen zich de komende jaren ontwikkelen, teneinde aanvullend bewijs te verzamelen en te kunnen beoordelen of het bestaande wetgevingskader nog steeds toereikend is voor de risico’s die deze systemen kunnen opleveren.
·Sommige belanghebbenden stelden voor om AI-systemen die bij de inning en handhaving van schulden worden gebruikt, als systemen met een hoog risico te classificeren, waarbij zij wezen op het toenemende gebruik ervan door energie-, telecom- en financiële aanbieders. Dergelijke AI-systemen zouden eventueel onder de gebiedsrubriek van punt 5 of 8 van bijlage III bij de AI-verordening kunnen vallen. Deze systemen zullen door de Commissie verder worden gemonitord om te zien hoe intensief zij worden ingezet en welke schade erdoor kan ontstaan, met name voor kwetsbare consumenten.
·Meerdere belanghebbenden stelden voor om het toepassingsgebied van punt 2 van bijlage III bij de AI-verordening, dat betrekking heeft op AI-systemen die op het gebied van kritieke infrastructuur worden gebruikt, uit te breiden. Zij stelden voor om hieronder niet alleen AI-systemen te laten vallen die worden gebruikt als veiligheidscomponenten, maar een breder scala aan systemen die essentieel zijn voor de betrouwbaarheid en continuïteit van infrastructuur. Gezien deze voorstellen is verdere monitoring van de AI-systemen op dit gebied nodig om vast te stellen hoe intensief dergelijke systemen worden ingezet en hoeveel schade er in de praktijk door kan ontstaan.
3.3. Empirisch onderzoek: analyseren van databanken over AI-incidenten en andere bronnen
(47)Voor dit verslag is ook informatie in relevante databanken over AI-incidenten geraadpleegd en geanalyseerd. Deze deskresearch is uitgevoerd om gevaarlijke praktijken en incidenten die zich in het verleden met AI-systemen hebben voorgedaan, in kaart te brengen, teneinde — als input voor de beoordeling van de noodzaak van herziening — empirisch bewijs te verzamelen van risico’s voor de gezondheid, veiligheid en grondrechten die manifest zijn geworden. Hoewel het bieden van een aanvullende bron om beschikbare gegevens van door AI-systemen veroorzaakte misdrijven en incidenten in kaart te brengen, heeft het wetenschappelijk onderzoek in het volgende deel inherent beperkingen, aangezien de geanalyseerde incidentendatabanken geen volledige en geverifieerde informatie over alle AI-incidenten bevatten. Veel van de incidenten zijn ook van wereldwijde aard en niet beperkt tot Europa, en gedetailleerde informatie voor de correcte categorisering van incidenten in het kader van de AI-verordening is niet altijd beschikbaar.
3.3.1. Databanken en tijdlijn
(48)De belangrijkste databank die voor deze deskresearch is gebruikt, is de AI Incidents and Hazards Monitor 28 van de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO). Deze databank is een gratis en opensourceproject voor het indexeren van de gevallen van schade of bijna-schade die daadwerkelijk door de inzet van AI-systemen zijn ontstaan. De databank is AI-gestuurd en verzamelt informatie over AI-incidenten uit openbare bronnen (meestal AI-incidenten die in de media zijn geweest). Een andere databank die de Commissie heeft geraadpleegd, is het AI Risk Repository 29 van het Massachusetts Institute of Technology (MIT) 30 . Deze databank is voornamelijk geanalyseerd als een voorbeeld van een methode voor het verzamelen van incidenten.
(49)Door de aard van de databanken over incidenten, waarin slechts korte samenvattingen van gemelde gebeurtenissen worden gepubliceerd, konden op basis van deze bronnen maar beperkte analyses worden uitgevoerd. Door de beknopte beschrijvingen kunnen de kenmerken van incidenten niet op een consistente en nauwkeurige manier worden beoordeeld, noch is daardoor in alle gevallen een nauwkeurige categorisering mogelijk volgens het methodologische kader dat in dit verslag wordt gebruikt, zoals omschreven in punt 2.1. Vanwege deze beperkingen worden in dit verslag voor het kwantificeren van incidenten algemene bewoordingen als “substantieel deel” of “klein deel” gebruikt, in plaats van precieze percentages.
(50)Om voldoende tijd over te houden voor het analyseren van de incidenten, werd de analyse beperkt tot de incidenten die in de periode van 1 januari 2024 (na afronding van de onderhandelingen over de AI-verordening) tot en met 31 mei 2025 werden gemeld. In die periode werden in de AI Incidents and Hazards Monitor van de OESO in totaal 3 791 incidenten gemeld.
3.3.2. Categorisering van gemelde incidenten
(51)De eerste stap van de analyse was het indelen van alle 3 791 gemelde incidenten in de volgende zes categorieën:
1.incidenten die buiten het toepassingsgebied van de AI-verordening vallen,
2.incidenten die waarschijnlijk onder de in bijlage I bij de AI-verordening vermelde wetgeving vallen,
3.incidenten die waarschijnlijk onder artikel 50 van de AI-verordening vallen,
4.incidenten die in theorie een risico vormen maar die sinds het moment van de melding nog tot geen enkele schade hebben geleid,
5.incidenten die eventueel onder artikel 5 van de AI-verordening (kunnen) vallen, en
6.incidenten die eventueel onder bijlage III bij de AI-verordening (kunnen) vallen.
(52)Hoewel de categorieën 1 tot en met 4 werden verzameld om een beter inzicht te krijgen in het totale landschap van AI-incidenten, werden alleen de incidenten die onder de categorieën 5 en 6 vallen verder geanalyseerd volgens de voor dit verslag gebruikte methode en de bovengenoemde criteria (punt 2.1).
(53)Uit de analyse bleek dat bijna de helft van alle in de relevante periode gemelde incidenten, buiten het toepassingsgebied van de AI-verordening valt of in voldoende mate onder andere EU-instrumenten valt 31 . Bovendien zou ongeveer 10 % van de gemelde incidenten waarschijnlijk onder de in bijlage I bij de AI-verordening vermelde wetgeving zijn gevallen 32 en zullen de gevolgen ervan bijgevolg beperkt zijn als de regels van de AI-verordening van toepassing wordt. Een deel van de gemelde incidenten lijkt onder het toepassingsgebied van artikel 50 van de AI-verordening te vallen 33 , waardoor ook de gevolgen daarvan beperkt zullen zijn als dit deel van de AI-verordening van toepassing wordt. Tot slot waren enkele van de gemelde incidenten hypothetische incidenten en daarom uitgesloten van verdere analyse, die was beperkt tot daadwerkelijke schade die als gevolg van het incident is ontstaan of waarvan redelijkerwijs te verwachten was dat die als gevolg van het incident is ontstaan.
(54)Ongeveer 30 % van de gemelde incidenten werd door de Commissie geselecteerd voor een uitgebreidere analyse. Ongeveer twee derde daarvan viel ofwel binnen het toepassingsgebied van artikel 5 van de AI-verordening of werd voldoende relevant geacht voor een beoordeling van de vraag of aan de criteria voor opname in de lijst van verboden AI-praktijken wordt voldaan (punt 2.1.1). Voor de rest, d.w.z. een derde van de incidenten die voor een meer gedetailleerde analyse waren geselecteerd, werd aangenomen dat die waarschijnlijk onder de in bijlage III bij de AI-verordening vermelde rubrieken van gebieden met een hoog risico vallen 34 . Er moest echter worden nagegaan of die incidenten vallen onder de gebruiksgevallen met een hoog risico die momenteel in bijlage III bij de AI-verordening zijn vermeld of, indien dat niet het geval is, of zij voldoen aan de criteria voor opname in die bijlage (behandeld in punt 2.1.2).
3.3.3. Beoordeling van incidenten die zijn geselecteerd voor verdere beoordeling
(55)In de tweede stap van de analyse werd beoordeeld of de incidenten die voor een uitgebreidere analyse waren geselecteerd (30 % van de gemelde incidenten), vielen onder de verboden van artikel 5 van de AI-verordening of onder de gebruiksgevallen vermeld in bijlage III bij de AI-verordening. Wanneer noch het een, noch het ander het geval was, werd beoordeeld of het noodzakelijk is om de betreffende bepalingen te wijzigen door het toevoegen of schrappen van relevante gebruiksgevallen.
Incidenten die eventueel onder de in artikel 5 van de AI-verordening vermelde verboden AI-praktijken vallen
(56)Wat betreft de incidenten die eventueel onder de verboden van artikel 5 van de AI-verordening zouden kunnen vallen, leek dat artikel al op een deel van die incidenten (voor zover beoordeeld) van toepassing te zijn 35 . Enkele incidenten konden niet worden geacht onder de verboden van artikel 5 van de AI-verordening te vallen, noch konden zij daarvan worden uitgesloten, omdat er voor een concrete beoordeling onvoldoende informatie was.
(57)De Commissie heeft echter voor een aanzienlijk aantal incidenten vastgesteld dat die eventueel betrekking hebben op de verboden praktijken van artikel 5 van de AI-verordening of gelijkaardige praktijken die bijzonder schadelijk en abusief zijn die niet duidelijk onder dat artikel vallen. Die incidenten zijn beoordeeld aan de hand van de in punt 2.1.1 besproken criteria. Op basis van die analyse heeft de Commissie de volgende gebieden geselecteerd:
·AI-systemen die bedoeld zijn om of waarmee het mogelijk is om zonder toestemming deepfake-naaktfoto’s of andere seksueel expliciete deepfakes van echte mensen, waaronder minderjarigen, te genereren. De Commissie heeft onderzocht of de bestaande verboden van AI-systemen die gebruikmaken van doelbewust manipulatieve of misleidende technieken (artikel 5, lid 1, punt a), van de AI-verordening) of kwetsbaarheden vanwege leeftijd, handicap of een specifieke sociaal-economische omstandigheid uitbuiten (artikel 5, lid 1, punt b)) en die aanzienlijke schade berokkenen, AI-systemen kunnen omvatten die materiaal van seksueel misbruik van kinderen en seksueel expliciete beelden genereren. De Commissie heeft geconcludeerd dat die praktijken niet onder artikel 5, lid 1, punt a) of b), van de AI-verordening vallen, aangezien er geen kinderen en slachtoffers gemanipuleerd worden om hen tot schadelijk gedrag aan te zetten.
·AI-systemen die bedoeld zijn om oplichting en financiële fraude te vergemakkelijken, vallen mogelijk onder artikel 5, lid 1, punten a) en b), van de AI-verordening wanneer aan de voorwaarden van deze bepalingen is voldaan, met inbegrip van de voorwaarde van aanzienlijke financiële schade. Dit vereist noodzakelijkerwijs ook een plausibel oorzakelijk verband tussen de financiële schade die is ontstaan, of waarvan redelijkerwijs te verwachten is dat die zal ontstaan, en het gebruik van het AI-systeem (bv. een deepfake van een familielid). De Commissie acht het belangrijk te evalueren hoe het vereiste van aanzienlijke financiële schade in de praktijk in de lidstaten zal worden uitgelegd en wat het gevolg van deze uitlegging zal zijn voor de mate waarin dergelijke schadelijke en frauduleuze AI-praktijken onder de verboden van artikel 5 van de AI-verordening vallen.
Incidenten in verband met gebruiksgevallen met een hoog risico vermeld in bijlage III
(58)Uit de analyse van incidenten die vallen onder de rubrieken van gebieden met een hoog risico vermeld in bijlage III bij de AI-verordening, kwam naar voren dat een aanzienlijk deel daarvan waarschijnlijk al onder de in die bijlage vermelde specifieke gebruiksgevallen valt 36 . Daarnaast werden sommige gemelde incidenten aldus beoordeeld dat die geen risico op schade opleveren dat gelijk is aan het risico op schade dat in verband wordt gebracht met de gebruiksgevallen die al zijn opgenomen in bijlage III bij de AI-verordening 37 . Een kleiner klein van de incidenten kon niet definitief worden gecategoriseerd omdat het ontbrak aan voldoende informatie.
(59)Van een aanzienlijk aantal incidenten is vastgesteld dat zij vallen onder de in bijlage III bij de AI-verordening vermelde gebiedsrubrieken. Zij vallen echter niet duidelijk onder de specifieke gebruiksgevallen die daarin zijn omschreven. De betreffende incidenten zijn beoordeeld op basis van de in punt 2.1.2 besproken criteria. Op basis van die analyse zijn de volgende gebieden geselecteerd voor verdere monitoring en gegevensverzameling:
·Bij een aanzienlijk aantal incidenten was sprake van politieke desinformatiecampagnes, die thematisch onder het gebied “Rechtsbedeling en democratische processen” in punt 8 van bijlage III vallen, maar niet duidelijk zichtbaar zijn in de daar vermelde gebruiksgevallen. Deze desinformatiecampagnes bestonden grotendeels uit deepfakevideo’s en -afbeeldingen, waarvan de risico’s reeds tot op zekere hoogte worden ondervangen door artikel 50 van de AI-verordening. Bovendien valt een deel van dergelijke AI-systemen mogelijk onder de verboden van artikel 5, lid 1, punt a) of b), van de AI-verordening, mits aan alle daarin vastgelegde voorwaarden is voldaan. Daarnaast zien ook de digitaledienstenverordening en de verordening betreffende transparantie en gerichte politieke reclame 38 op kwesties in verband met politieke desinformatie. De onlangs aangenomen mededeling over een “Europees schild voor de democratie” 39 voorziet in aanvullende maatregelen en initiatieven. De Commissie zal in de aangekondigde richtsnoeren voor de classificatie van AI-systemen met een hoog risico verder beoordelen en verduidelijken of een deel van dergelijke AI-praktijken kan worden geclassificeerd als AI-systemen die bedoeld zijn om te worden gebruikt voor het beïnvloeden van de uitslag van een verkiezing of referendum of van het stemgedrag van natuurlijke personen bij de uitoefening van hun stemrecht bij verkiezingen of referenda.
Conclusie
(60)Dit verslag is opgesteld door de Commissie en gericht aan het Europees Parlement en de Raad om te voldoen aan de verplichtingen van de Commissie uit hoofde van artikel 112, lid 1, van de AI-verordening. De bevindingen in dit verslag worden ter overweging aan deze instellingen voorgelegd.
(61)Na de beoordeling op basis van de objectieve en participatieve methode voor de herziening zoals vereist conform artikel 112, lid 1, van de AI-verordening, heeft de Commissie een mogelijke lacune in de regelgeving opgemerkt en verder onderzocht ten aanzien van AI-systemen die materiaal van seksueel misbruik van kinderen en intieme content waarvoor geen toestemming is gegeven, genereren en die niet verboden zijn conform artikel 5 van de AI-verordening. Aangezien de bepalingen van de AI-verordening die zien op verboden AI-praktijken pas op 2 februari 2025 van toepassing zijn geworden en de handhavingsregels nog niet van toepassing zijn, bevindt de beoordeling van andere AI-praktijken die bijzonder schadelijk en abusief zijn en in strijd met de waarden en grondrechten van de EU zich nog in een vroeg stadium. Ook ontbreekt het nog aan praktische ervaring met de toepassing van de verboden. Een meer inhoudelijke evaluatie van de toepassing van artikel 5 van de AI-verordening zal pas mogelijk zijn nadat de verboden ten minste een jaar van toepassing zijn geweest en gemeenschappelijke uitdagingen of lacunes in de regelgeving manifest worden. Evenzo zal het evalueren van de werking van de regels voor AI-systemen met een hoog risico en het in kaart brengen van eventuele lacunes in de regelgeving die ziet op het gebruik van systemen die een hoog risico op schade voor de gezondheid en veiligheid of voor de grondrechten opleveren, gemakkelijker zijn zodra de richtsnoeren van de Commissie voor de classificatie van AI-systemen met een hoog risico zijn gepubliceerd en praktische ervaring is opgedaan. Er wordt ook verwacht dat de testomgevingen voor regelgeving die overeenkomstig de AI-verordening worden opgezet, zullen worden gebruikt om te leren op het gebied van regelgeving en om bewijs te verzamelen van mogelijke hiaten in de regelgeving en moeilijkheden bij de uitlegging. Op basis van het verzamelde bewijs en de beoordeling in dit verslag heeft de Commissie niettemin specifieke AI-systemen aangemerkt voor monitoring en verdere analyse in latere beoordelingen.
(62)De komende jaren zullen de markttoezichtautoriteiten die toezicht houden op de toepassing van de AI-verordening worden aangemoedigd om op basis van hun praktische ervaring op het gebied van toezicht en handhaving na te gaan of de verboden van artikel 5 van de AI-verordening geschikt zijn als maatregel tegen kwaadaardige en specifieke toepassingen met een groot potentieel voor misbruik. Evenzo moet, zodra de regels inzake AI-systemen met een hoog risico van toepassing worden en de handhaving van start gaat, bijzondere aandacht worden besteed aan AI-systemen die mogelijk onder een van de in bijlage III vermelde gebieden vallen maar niet uitdrukkelijk worden genoemd in de huidige lijst van gebruiksgevallen met een hoog risico. Deze inspanningen zullen empirisch onderbouwde input opleveren voor toekomstige verslagen van de Commissie die op grond van artikel 112, lid 1, van de AI-verordening worden opgesteld, en zullen de Commissie helpen bij het beoordelen van de vraag of de toepassingsgebieden van respectievelijk artikel 5 van en bijlage III bij de AI-verordening nog steeds toereikend zijn, zodat de toepasselijke bepalingen van de AI-verordening objectief en op basis van goede informatie en empirisch bewijs kunnen worden beoordeeld en eventueel herzien.
(63)Overeenkomstig artikel 112, lid 1, van de AI-verordening worden de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening en de lijst van gebruiksgevallen van systemen met een hoog risico in bijlage III bij de AI-verordening tot het einde van de in artikel 97 van de AI-verordening vermelde periode van de bevoegdheidsdelegatie, eenmaal per jaar herzien. De eerstvolgende beoordeling van de Commissie op grond van artikel 112 van de AI-verordening moet daarom in 2026 plaatsvinden. Zodra deze is afgerond, zal de Commissie haar bevindingen openbaar maken in een verslag.
(64)Teneinde er zeker van te zijn dat voorafgaande aan de beoordeling van 2026 op een consistente en systematische wijze relevante gegevens worden verzameld, zal de Commissie de lopende inspanningen die momenteel op nationaal en EU-niveau op het gebied van monitoring worden verricht, coördineren. Daartoe zal het AI-bureau samenwerken met de AI-board en de nationale bevoegde autoriteiten van de lidstaten en, voor zover dienstig, advies inwinnen bij reeds bestaande samenwerkingsverbanden van nationale contactpunten die op de relevante gebieden zijn gecreëerd. Bijzondere aandacht zal worden besteed aan de gebieden die in dit verslag zijn aangemerkt voor verdere monitoring en bewijsgaring. Maar daarnaast zullen ook de technologische ontwikkelingen worden gemonitord, alsook mogelijk relevante veranderingen in het gebruik van AI-systemen, de effecten ervan en opkomende risico’s.
(65)Nadat met de handhaving van de AI-verordening is begonnen en praktische ervaring is opgedaan, zal de bestaande EU-wetgeving worden beoordeeld op de vraag of deze een toereikende oplossing biedt voor de risico’s van AI. Daarbij zal meer in het bijzonder worden onderzocht hoe de AI-verordening en de andere EU-kaders elkaar beïnvloeden en hoe de AI-verordening die andere kaders aanvult bij het beperken van de risico’s voor de gezondheid, veiligheid en grondrechten. Bijzondere aandacht zal worden besteed aan de samenhang en praktische wisselwerking tussen de AI-verordening en instrumenten zoals de digitaledienstenverordening, de verordening betreffende Europese datagovernance, de verordening betreffende transparantie en gerichte politieke reclame en het acquis inzake consumentenbescherming en het vrije verkeer van goederen. Een dergelijke analyse moet erop zijn gericht vast te stellen in welke mate horizontale regels, sectorspecifieke verplichtingen, mechanismen voor datagovernance en productgerelateerde waarborgen gezamenlijk de relevante risico’s beperken, en aldus informatie verstrekken over de noodzaak van verder regelgevend optreden.
Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (verordening artificiële intelligentie) (PB L, 2024/1689, 12.7.2024).
De Commissie heeft in de digitale omnibus voor AI voorgesteld om het tijdschema voor de toepassing van de regels voor AI met een hoog risico af te stemmen op de beschikbaarheid van normen en andere ondersteunende instrumenten. Zodra de Commissie bevestigt dat die voldoende beschikbaar zijn, zullen de regels na een overgangsperiode van zes maanden, en in ieder geval niet later dan 2 december 2027, van toepassing worden op de in bijlage III vermelde AI-systemen met een hoog risico. Hierover wordt nog onderhandeld en moet nog overeenstemming worden bereikt tussen het Europees Parlement en de Raad. Zie voor meer bijzonderheden het voorstel voor een verordening van het Europees Parlement en de Raad tot wijziging van de Verordeningen (EU) 2024/1689 en (EU) 2018/1139 wat betreft de vereenvoudiging van de uitvoering van geharmoniseerde regels betreffende artificiële intelligentie (“digitale omnibus voor AI”), SWD(2025) 836 final van 19 november 2025, COM(2025) 836 final, 2025/0359(COD).
Beschikbaar op: De Commissie publiceert de richtsnoeren betreffende verboden praktijken op het gebied van artificiële intelligentie (AI), zoals gedefinieerd in de AI-verordening. | De digitale toekomst van Europa vormgeven .
Handvest van de grondrechten van de Europese Unie, PB C 326 van 26.10.2012, blz. 391.
Zie in dit verband de punten 2.8, 3.6, 4.4, 5.4, 6.4 en 8.4 van de richtsnoeren betreffende verboden AI-praktijken.
Andere AI-systemen met een hoog risico dan die welke veiligheidscomponenten van producten zijn, of die zelf producten zijn, die op grond van artikel 6, lid 1, als producten met een hoog risico zijn geclassificeerd.
Dat gebeurde met name aan de hand van vragen over de noodzaak van herziening van de lijst van gebruiksgevallen in bijlage III bij de AI-verordening en van de lijst van verboden AI-praktijken in artikel 5 van de AI-verordening die aan de lidstaten werden gesteld tijdens de vierde vergadering van de Subgroep Verboden van de AI-board, die plaatsvond op 13 mei 2025, de derde vergadering van de Subgroep Bijlage III voor AI-systemen met een hoog risico van de AI-board, die plaatsvond op 16 mei 2025, de derde vergadering van de Subgroep Bijlage III voor rechtshandhaving en veiligheid van de AI-board, die plaatsvond op 5 juni 2025, en de tweede vergadering van de Subgroep AI in financiële diensten van de AI-board, die werd gehouden op 13 mei 2025.
Bv. EU-wetgeving inzake cyberbeveiliging (uit recente rechtshandelingen, zie de verordening cybersolidariteit) en Richtlijn 2013/40/EU over aanvallen op informatiesystemen en ter vervanging van Kaderbesluit 2005/222/JBZ van de Raad.
Zoals hierboven opgemerkt, worden de richtsnoeren van de Commissie betreffende AI-systemen met een hoog risico pas in 2026 gepubliceerd. Bijgevolg zijn de beoordelingen van concrete AI-systemen met een hoog risico die door de lidstaten, belanghebbenden of databanken over AI-incidenten als zodanig zijn aangemerkt, uitsluitend gebaseerd op de tekst van de AI-verordening. Omdat in dit stadium nog maar beperkt richtsnoeren beschikbaar zijn, was het niet altijd mogelijk om concrete beoordelingen uit te voeren en zijn die gevallen aangemerkt voor verdere monitoring.
Soortgelijke zorgen werden ook door verschillende belanghebbenden geuit (zie punt 3.2).
Een chatbot die op de markt wordt gebracht als oplossing voor specifieke geestelijkegezondheidsproblemen of om gebruikers te begeleiden door middel van therapeutische ingrepen, valt waarschijnlijk binnen het toepassingsgebied van de verordening medische hulpmiddelen, omdat hij kan worden beschouwd als software voor de behandeling of verlichting van ziekte (artikel 2, punt 1, van de verordening medische hulpmiddelen). Verordening (EU) 2017/745 van het Europees Parlement en de Raad van 5 april 2017 betreffende medisch hulpmiddelen, tot wijziging van Richtlijn 2001/83/EG, Verordening (EG) nr. 178/2002 en Verordening (EG) nr. 1223/2009, en tot intrekking van Richtlijnen 90/385/EEG en 93/42/EEG van de Raad (PB L 117 van 5.5.2017, blz. 1).
Bijvoorbeeld AI-chatbots voor zelfhulp die beschikken over emotieherkenningsfuncties. AI-systemen die bedoeld zijn om te worden gebruikt voor emotieherkenning worden op grond van punt 1, c), van bijlage III, geclassificeerd als systemen met een hoog risico.
“Commission launches public consultation on high-risk AI systems”, | Europees e-justitieportaal .
In totaal gaven 409 respondenten aan een organisatie te vertegenwoordigen. Daarvan vertegenwoordigde de grootste groep een bedrijf (150), gevolgd door verenigingen (93) en “andere organisaties” (81). Maatschappelijke organisaties en verenigingen waren goed voor 56 respondenten, terwijl onderzoeksinstellingen (11), universiteiten (7), denktanks (6) en consumentenorganisaties (5) de minderheid vormden. In totaal gaven 138 respondenten aan dat zij als privépersoon reageerden. Die groep bestond voor het grootste deel uit personen die zichzelf omschreven als “onafhankelijke deskundige” of “organisatie met relevante deskundigheid” (35), “aanbieder van een AI-systeem” (34) en “academische wereld” (28), terwijl 14 “andere” selecteerden en 13 zichzelf omschreven als “gebruiksverantwoordelijke van een AI-systeem”. Van de overige respondenten die aangaven dat zij als privépersoon reageerden, gaven er enkele aan dat zij waren verbonden aan een maatschappelijke organisatie (7), andere operatoren (3), een brancheorganisatie (2) of een toezichthoudende autoriteit (2).
Zowel voor de respondenten die dit uitdrukkelijk in hun antwoord tot uitdrukking hebben gebracht, als voor degenen die de betreffende vraag onbeantwoord hebben gelaten, wordt aangenomen dat zij huidige lijst van verboden toereikend vinden.
Iets meer dan 10 % van de respondenten.
Zoals voorstellen voor een verbod op de AI-systemen die bij migratiebeheer worden gebruikt, een verbod op stemklonen in consumentgerichte AI-toepassingen, of een verbod op door AI gegenereerde persona’s in politieke communicatie.
Behalve wanneer het gebruik van het AI-systeem is bedoeld om uit medische of veiligheidsoverwegingen te worden ingevoerd of in de handel te worden gebracht.
Richtlijn 2005/29/EG van het Europees Parlement en de Raad van 11 mei 2005 betreffende oneerlijke handelspraktijken van ondernemingen jegens consumenten op de interne markt en tot wijziging van Richtlijn 84/450/EEG van de Raad, Richtlijnen 97/7/EG, 98/27/EG en 2002/65/EG van het Europees Parlement en de Raad en van Verordening (EG) nr. 2006/2004 van het Europees Parlement en de Raad (richtlijn oneerlijke handelspraktijken). PB L 149 van 11.6.2005, blz. 22.
Verordening (EU) 2022/2065 van het Europees Parlement en de Raad van 19 oktober 2022 betreffende een eengemaakte markt voor digitale diensten en tot wijziging van Richtlijn 2000/31/EG (digitaledienstenverordening). PB L 277 van 27.10.2022, blz. 1.
Zowel voor de respondenten die dit uitdrukkelijk in hun antwoord tot uitdrukking hebben gebracht, als voor degenen die de betreffende vraag onbeantwoord hebben gelaten, wordt aangenomen zij de huidige lijst van gebruiksgevallen van AI-systemen met een hoog risico in bijlage III toereikend vinden.
Ongeveer 20 % van de respondenten.
Zoals voorstellen om specifieke biometrische systemen te classificeren als systemen met een hoog risico en aldus op te nemen (vallen reeds onder punt 1 van bijlage III).
Bijvoorbeeld AI-systemen die zijn ontworpen voor aanbieders van onlinediensten om audiovisuele mediadiensten van algemeen belang voldoende zichtbaarheid te geven en bepaalde AI-systemen die in de veehouderij worden gebruikt.
Zoals de bezorgdheid die is geuit met betrekking tot specifieke AI-systemen die op het gebied van werkgelegenheid en voor het herkennen van emoties worden gebruikt.
Op grond van de digitaledienstenverordening zijn manipulatieve interface-ontwerpen (donkere patronen) verboden en zijn aanbieders van zeer grote onlineplatforms en zeer grote onlinezoekmachines verplicht tot het identificeren, analyseren en beoordelen van alle systeemrisico’s die voortvloeien uit het ontwerp of de werking van hun diensten en de daaraan verbonden systemen — met inbegrip van algoritmische systemen (artikel 34 van de digitaledienstenverordening). Aanbieders moeten ook redelijke, evenredige en doeltreffende risicobeperkende maatregelen treffen, waaronder het testen en aanpassen van hun algoritmische systemen (artikel 35 van de digitaledienstenverordening). De digitaledienstenverordening schrijft ook voor dat aanbieders van voor minderjarigen toegankelijke onlineplatforms passende en evenredige maatregelen moeten nemen om een hoog niveau van privacy, veiligheid en bescherming van minderjarigen binnen hun dienst te waarborgen (artikel 28, lid 1, van de digitaledienstenverordening). Verordening (EU) 2022/2065 van het Europees Parlement en de Raad van 19 oktober 2022 betreffende een eengemaakte markt voor digitale diensten en tot wijziging van Richtlijn 2000/31/EG (digitaledienstenverordening). PB L 277 van 27.10.2022, blz. 1.
Zoals de beginselen van gegevensverwerking en de rechten van betrokkenen die zijn vastgelegd in de algemene verordening gegevensbescherming die in verband met een AI-systeem van toepassing zouden zijn, bijvoorbeeld omdat voor de ontwikkeling van het systeem persoonsgegevens worden gebruikt of omdat tijdens het gebruik van het systeem persoonsgegevens worden ingevoerd of persoonsgegevens de output vormen. Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming). PB L 119 van 4.5.2016, blz. 1.
Beschikbaar op https://airisk.mit.edu/.
Deze databank bestaat uit drie delen: i) de AI Risk Database, een databank van AI-risico’s, ii) de Causal Taxonomy of AI Risks, waarin AI-risico’s worden geclassificeerd op basis van het hoe, wanneer en waarom van het risico, en iii) de Domain Taxonomy of AI Risks, waarin AI-risico’s worden ingedeeld in 7 domeinen (bv. “Misinformatie”) en 24 subdomeinen (bv. “Onjuiste of misleidende informatie”).
Deze incidenten hadden over het algemeen betrekking op kwesties die onder het toepassingsgebied van andere EU-wetgeving vallen, zoals inbreuken op de privacy, die in de algemene verordening gegevensbescherming worden geregeld. Bovendien hadden veel van deze incidenten betrekking op auteursrechtelijke geschillen, die vallen onder het toepassingsgebied van instrumenten zoals het Europees auteursrecht. Ook deden veel incidenten zich voor op gebieden die onder de bevoegdheid van de lidstaten vallen, zoals het gebruik van AI in militaire toepassingen.
Bij die incidenten ging het met name om schade die een gevolg was van het gebruik van AI in medische hulpmiddelen of in zelfrijdende voertuigen.
Deze incidenten hadden betrekking op deepfakes die niet waren voorzien van een passend watermerk of op een andere manier transparant waren gemaakt.
Deze incidenten hadden doorgaans betrekking op het gebruik van AI voor biometrische identificatie bij rechtshandhaving, grensbeheer, essentiële diensten, onderwijs- en beroepsopleidingen, alsook bij rechtsbedeling en democratische processen.
Bedoelde incidenten, die eventueel onder artikel 5 van de AI-verordening vallen, hadden betrekking op een scala aan onderwerpen, zoals biometrische identificatie in real time en emotieherkenning op de werkplek.
De incidenten op het gebied van biometrie (punt 1 van bijlage III) hadden vaak betrekking op AI-systemen die worden gebruikt in bewakingscamera’s voor gezichtsherkenning op afstand om verdachten te identificeren. Op het gebied van werkgelegenheid hadden de gesignaleerde incidenten betrekking op AI-systemen die worden gebruikt om wervings- en ontslagprocessen te optimaliseren, zoals het scannen van cv’s of het digitaal observeren van werknemers die actief zijn op platforms die op het werk worden gebruikt. Op het gebied van de toegang tot en het gebruik van essentiële diensten hadden de gemelde incidenten vaak betrekking op het gebruik van een op AI gebaseerd algoritme voor het selecteren van mensen die huurtoeslag ontvangen als een mogelijk geval van fraude, wat leidde tot onnodige onderzoeken en schendingen van rechten. Wat rechtshandhaving betreft, omvatten de relevante incidenten het gebruik van AI om de risico’s te beoordelen waarmee slachtoffers van huiselijk geweld worden geconfronteerd. Wat grenstoezichtsbeheer betreft, hadden de relevante incidenten betrekking op het volgen en identificeren van migranten door middel van camera’s met gezichtsherkenning.
Verscheidene incidenten betroffen AI-camera’s die worden gebruikt om verkeersovertredingen op te sporen of de dichtheid van mensenmassa’s te volgen en tijdens openbare evenementen de veiligheid te waarborgen. Hoewel dergelijke toepassingen van AI deel uitmaken van rechtshandhaving, lijken zij geen risico op schade op te leveren dat gelijk is aan of groter is dan het risico op schade of nadelige gevolgen dat andere AI-systemen met een hoog risico opleveren die reeds in punt 6 van bijlage II zijn vermeld. Dit komt vooral doordat deze toepassingen doorgaans betrekking hebben op administratieve overtredingen, waarvan de gevolgen minder ingrijpend zijn dan van strafbare feiten, of voor het waarborgen van de veiligheid worden gebruikt zonder rechtstreeks te raken aan de grondrechten. Bijgevolg vereisen dergelijke gebruiksgevallen van AI momenteel geen wijziging van bijlage III.
Verordening (EU) 2024/900 van het Europees Parlement en de Raad van 13 maart 2024 betreffende transparantie en gerichte politieke reclame (PB L, 2024/900, 20.3.2024).
Gezamenlijke mededeling aan het Europees Parlement, de Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s: Europees schild voor de democratie: zorgen voor sterke en veerkrachtige democratieën, Brussel, 12.11.2025 (JOIN(2025) 791 final).