EUROPESE COMMISSIE

Brussel, 7.12.2018

COM(2018) 795 final

MEDEDELING VAN DE COMMISSIE AAN HET EUROPEES PARLEMENT, DE EUROPESE RAAD, DE RAAD, HET EUROPEES ECONOMISCH EN SOCIAAL COMITÉ EN HET COMITÉ VAN DE REGIO'S

Gecoördineerd plan inzake kunstmatige intelligentie

1.    INLEIDING – DE EUROPESE STRATEGIE VOOR KI

Net als elektriciteit in het verleden is kunstmatige intelligentie (KI) de wereld aan het transformeren. KI staat ons ten dienste wanneer we online teksten vertalen of een mobiele app gebruiken om de beste manier te vinden om naar onze volgende bestemming te gaan. Thuis kan een slimme thermostaat de energierekening met wel 25 % verlagen door de gewoonten van de mensen die in het huis wonen te analyseren en de temperatuur daaraan aan te passen 1 . In de gezondheidszorg kunnen algoritmen dermatologen helpen betere diagnoses te stellen. Door van grote verzamelingen medische beelden te leren, sporen ze bijvoorbeeld 95 % van de huidkankers op 2 .

Door grote hoeveelheden gegevens te interpreteren om efficiënte oplossingen te bieden, verbetert KI producten, processen en bedrijfsmodellen in alle economische sectoren. KI kan bedrijven helpen bepalen welke machines onderhoud nodig hebben voordat ze defect raken. KI verandert ook openbare diensten.

De veranderingen die KI met zich meebrengt, brengen ook bezorgdheid teweeg. Werknemers zijn bang dat ze hun baan zullen verliezen door automatisering, consumenten vragen zich af wie verantwoordelijk is als een systeem op basis van KI een verkeerde beslissing neemt, kleine ondernemingen weten niet hoe ze KI in hun bedrijf kunnen toepassen, KI-start-ups vinden in Europa niet de middelen en het talent die ze nodig hebben, en de internationale concurrentie is feller dan ooit, met grootschalige investeringen in de VS en China.

Om deze uitdagingen het hoofd te bieden en de mogelijkheden van KI optimaal te benutten, heeft de Commissie in april 2018 een Europese strategie 3 gepubliceerd. De Commissie stelde een benadering voor waarbij mensen in het centrum van de ontwikkeling van KI worden geplaatst en moedigt het gebruik van deze krachtige technologie aan om de grootste uitdagingen die de wereld wachten, te helpen oplossen: van de genezing van ziekten tot de strijd tegen klimaatverandering en het anticiperen op natuurrampen, het veiliger maken van het vervoer 4 , het bestrijden van criminaliteit en het verbeteren van de cyberveiligheid.

Deze strategie ondersteunt de ontwikkeling van ethische, veilige en geavanceerde KI in Europa. Ze bouwt voort op de wetenschappelijke en industriële troeven 5 van Europa en rust op drie pijlers: het verhogen van publieke en private investeringen in KI, het anticiperen op socio-economische veranderingen, en het waarborgen van een passend ethisch en juridisch kader. Coördinatie op Europees niveau is essentieel om het welslagen ervan te waarborgen.

2.    HET GECOÖRDINEERDE PLAN INZAKE KI – OVERZICHT

In haar strategie voor KI voor Europa heeft de Commissie voorgesteld om samen met de lidstaten uiterlijk eind 2018 met een gecoördineerd plan inzake KI te komen, met als doel de impact van investeringen op EU- en nationaal niveau te maximaliseren, synergieën en samenwerking in de hele EU aan te moedigen, beste praktijken uit te wisselen en gezamenlijk te bepalen welke stappen nodig zijn om ervoor te zorgen dat de EU als geheel mondiaal kan concurreren. Het voorstel voor een gecoördineerd plan bouwt voort op de verklaring inzake samenwerking op het gebied van KI, die in april 2018 op de Digitale dag is gedaan en door alle lidstaten en Noorwegen 6 werd ondertekend. Het werd in juni 2018 door de Raad bekrachtigd 7 .

Het plan is op verschillende bijeenkomsten tussen juni en november 2018 door de lidstaten (als leden van de groep voor de digitalisering van het Europese bedrijfsleven en KI), Noorwegen, Zwitserland en de Commissie opgesteld. Ook tijdens de zittingen van de Raad Concurrentievermogen onder het Oostenrijkse voorzitterschap van de EU vonden besprekingen plaats.

Tijdens deze bijeenkomsten hebben de lidstaten en de Raad een reeks gezamenlijke acties aangewezen om, voortbouwend op de Europese strategie, investeringen aan te moedigen, gegevens – de grondstof voor KI – te bundelen, talent te stimuleren 8 en vertrouwen te scheppen. Ze verleenden prioriteit aan gebieden van algemeen belang, zoals gezondheidszorg, vervoer en mobiliteit, veiligheid, beveiliging en energie alsook aan economisch belangrijke sectoren zoals de maakindustrie en financiële diensten.

Het resultaat van deze gezamenlijke werkzaamheden, het gecoördineerde plan, vormt de bijlage bij deze mededeling. Het beschrijft de acties die in 2019-2020 van start moeten gaan en bereidt de weg voor de activiteiten in de volgende jaren. Het zal jaarlijks worden geëvalueerd en geactualiseerd.

In deze mededeling worden de belangrijkste doelstellingen en initiatieven van het plan belicht.

2.1. Gemeenschappelijke doelstellingen en aanvullende inspanningen

Het gecoördineerde plan biedt een strategisch kader voor nationale KI-strategieën. Tot op heden hebben vijf lidstaten al een nationale KI-strategie met een specifiek budget vastgesteld 9 . Alle andere lidstaten worden aangemoedigd om, voortbouwend op de op Europees niveau verrichte werkzaamheden, uiterlijk medio 2019 hun nationale KI-strategie te ontwikkelen. Verwacht wordt dat daarin investeringsniveaus en uitvoeringsmaatregelen zullen worden aangegeven.

Met de steun van het door het Gemeenschappelijk Centrum voor onderzoek van de Commissie ontwikkelde AI Watch 10 zullen de lidstaten en de Commissie in de loop van volgend jaar ook gemeenschappelijke indicatoren overeenkomen om de opname en ontwikkeling van KI in de Unie en het succespercentage van de bestaande strategieën te monitoren.

Europa hinkt momenteel achterop wat private investeringen in KI betreft 11 . Zonder grote inspanningen loopt de EU het risico om de door KI geboden kansen mis te lopen, met een braindrain te worden geconfronteerd en een afnemer van elders ontwikkelde oplossingen te worden. Daarom zijn in de EU-strategie voor KI ambitieuze maar realistische doelstellingen geformuleerd: om de doelstelling van 20 miljard euro per jaar in het komende decennium te bereiken, moeten de publieke en private investeringen in KI in de Unie worden opgeschaald. Als eerste stap verhoogt de Commissie de investeringen in KI in het raamwerk van het kaderprogramma voor onderzoek en innovatie Horizon 2020 tot 1,5 miljard euro in de periode 2018-2020. Dat komt overeen met een stijging van 70 % ten opzichte van de periode 2014-2017. Als de lidstaten en de private sector vergelijkbare inspanningen leveren, zullen de totale investeringen in de Unie groeien tot meer dan 20 miljard euro voor de periode 2018-2020 12 en zo de Unie in staat stellen de inspanningen in het komende decennium verder op te voeren, met investeringen die geleidelijk oplopen tot 20 miljard euro per jaar. Dit zou overeenkomen met een jaarlijkse investering van 7 miljard euro door de publieke sector (de lidstaten en de Commissie) en Europa op gelijke hoogte brengen met andere continenten. De Commissie heeft voorgesteld dat de Unie in de volgende programmeringsperiode 2021-2027 ten minste 1 miljard euro per jaar investeert in KI uit de programma's Horizon Europa en Digitaal Europa 13 .

Rekening houdend met deze doelstellingen zijn de lidstaten overeengekomen dat er ambitie aan de dag moet worden gelegd en dat de nationale inspanningen moeten worden opgevoerd. Gecoördineerde publieke inspanningen zullen helpen om meer private investeringen aan te trekken.

Publieke investeringen spelen een belangrijke rol, maar een belangrijke taak voor de regulatoren bestaat in het wegnemen van de obstakels die worden opgeworpen door gefragmenteerde markten. Producten en diensten zijn in toenemende mate onderling verbonden en gedigitaliseerd. Tegen deze achtergrond is het van het grootste belang marktfragmentatie in strategische sectoren zoals kunstmatige intelligentie te voorkomen, onder meer door de noodzakelijke voorwaarden daarvoor (bijvoorbeeld gemeenschappelijke normen en snelle communicatienetwerken) te versterken. Een werkelijk eengemaakte markt met een integrale digitale dimensie 14  zal het gemakkelijker maken bedrijven op te schalen en over de grenzen heen handel te drijven en zo de investeringen verder te stimuleren.

2.2.     Naar een Europees publiek-privaat KI-partnerschap en meer financiering voor start-ups en innovatieve kleine en middelgrote ondernemingen 15

De lidstaten en de Commissie zullen ook de samenwerking met de private sector versterken. De Commissie zal bedrijven en onderzoeksorganisaties bij elkaar brengen om een gemeenschappelijke strategische onderzoeksagenda op het gebied van KI te ontwikkelen, prioriteiten vast te stellen in het licht van de behoeften van de markt en uitwisselingen tussen sectoren en over de grenzen heen aan te moedigen. Dit zal de weg bereiden voor een nieuw onderzoeks- en innovatiepartnerschap inzake KI en de samenwerking tussen de academische wereld en het bedrijfsleven in Europa bevorderen. Verwacht wordt dat de private sector zich in het kader van dit contractuele partnerschap tot specifieke en hoge investeringen in KI zal verbinden. Dit partnerschap zal voortbouwen op bestaande partnerschappen op het gebied van robotica en big data 16 en goed zijn voor 4,4 miljard euro aan investeringen, waarvan het merendeel (3,2 miljard euro) van de industrie afkomstig is. De belanghebbenden hebben hun steun voor het opzetten van een KI-partnerschap al bevestigd 17 .

Bovendien streeft de Commissie ernaar middelen ter beschikking te stellen om start-ups en innovatoren op het gebied van KI en blockchain te helpen groeien. In 2020 moet aanvankelijk 100 miljoen euro worden uitgetrokken, die verder kan worden aangevuld door de deelname van geïnteresseerde nationale stimuleringsbanken en andere instellingen. Dit kan bijdragen aan het voorbereiden van betere toegang tot financiering voor KI in het kader van het InvestEU-programma vanaf 2021.

Tegelijk boekt de Commissie vooruitgang bij de oprichting van de Europese Innovatieraad, om geavanceerde technologieën en de meest innovatieve start-ups te ondersteunen. In reactie op de oproep van de Europese Raad van juni 2018 18 zal begin 2019 een nieuw proefinitiatief 19 van start gaan dat steun voor de volgende generatie op de mens gerichte KI-technologieën omvat.

2.3.    Versterking van excellentie in betrouwbare KI-technologieën en brede verspreiding 20

De lidstaten en de Commissie streven ernaar de nationale onderzoekscapaciteit op te schalen en kritische massa te bereiken door middel van hechtere netwerken van Europese excellentiecentra voor KI-onderzoek. Het doel is samenwerking tussen de beste onderzoeksteams in Europa te bevorderen, zodat zij door de krachten te bundelen de grote wetenschappelijke en technologische uitdagingen op het gebied van KI efficiënter kunnen aangaan.

Om geavanceerde KI-toepassingen op de markt te brengen, zijn experimenten en tests in realistische omgevingen nodig. In het kader van de uitvoering van de in 2016 goedgekeurde strategie voor de digitalisering van het Europese bedrijfsleven 21 ondersteunt de Commissie reeds grootschalige proefprojecten en experimenten op gebieden zoals slimme landbouw, slimme steden en geconnecteerde en autonome voertuigen.

Uit deze proefprojecten en experimenten zullen lessen worden getrokken. Om de investeringen te optimaliseren en dubbel werk te voorkomen, stelt de Commissie voor om, voortbouwend op de sterke basis van bestaande excellentiecentra in de lidstaten, met 1,5 miljard euro uit het KI-onderdeel van het voorgestelde programma Digitaal Europa verscheidene grootschalige referentietestsites te ontwikkelen die openstaan voor alle actoren in heel Europa. De testfaciliteiten die de lidstaten aan het opzetten zijn, betreffen bijvoorbeeld het grensoverschrijdend testen van geconnecteerd en autonoom rijden 22 en het op ware schaal experimenteren met slimme ziekenhuizen. In het geval van geconnecteerde en autonome mobiliteit zullen de identificatie van zulke testfaciliteiten en de tests zelf aanvankelijk worden gecoördineerd door het in de EU-strategie voor de mobiliteit van de toekomst 23 bedoelde EU-brede centrale platform en vervolgens door het overeenkomstige partnerschap dat in het kader van Horizon Europa wordt opgezet.

Even belangrijk is het bevorderen van een zo breed mogelijke opname van KI in de economie, met name door start-ups en kleine en middelgrote ondernemingen. Door bewustmaking van het publiek en door de meest recente wetenschappelijke ontwikkelingen en beproefde, in Europa ontwikkelde state-of-the-arttechnologieën te delen, kan ervoor worden gezorgd dat alle bedrijven, zowel kleine als grote, al dan niet hightech, alsook de publieke sector, deze digitale kansen kunnen grijpen. Het voorgestelde nieuwe programma Digitaal Europa voorziet in mede-investering door de lidstaten en de Commissie in digitale-innovatiehubs in heel Europa, waaronder via de cohesiefondsen. Het programma zal de verspreiding van de KI-capaciteit in elke lidstaat verder vergemakkelijken en zal worden gekoppeld aan een platform voor KI "on demand" 24 . Daartoe zullen de lidstaten in 2019 digitale-innovatiehubs voor KI op hun grondgebied aanwijzen.

2.4.    Onze onderwijs- en opleidingsprogramma's en -systemen aanpassen om onze samenleving beter op KI voor te bereiden 25

Snelle technologische vooruitgang betekent dat de arbeidsmarkt – eerder vroeger dan later – een aanzienlijke transformatie zal ondergaan. Door technologische veranderingen zullen met name andere vaardigheden van werknemers worden verwacht, waardoor mogelijk zeer grote aantallen werknemers zich zullen moeten bijscholen. Er moet dus meer aandacht worden besteed aan permanente educatie. Een specifiek aspect van verandering betreft de werknemers die de KI-oplossingen van de toekomst daadwerkelijk zullen ontwerpen en uitvoeren. Bijna alle lidstaten kampen met een tekort aan specialisten op het gebied van informatie- en communicatietechnologie en er zijn momenteel meer dan 600 000 vacatures voor digitaal deskundigen 26 . Bovendien krijgen getalenteerde onderzoekers en veelbelovende start-ups vaak interessante aanbiedingen uit het buitenland. In 2017 waren er bijvoorbeeld 240 000 Europeanen in Silicon Valley actief 27 , van wie velen de VS waren binnengekomen om een specifieke vacature in de techindustrie te vervullen. Europa moet in staat zijn dit soort talent op te leiden, aan te trekken en te behouden en ondernemerschap, diversiteit en het evenwicht tussen mannen en vrouwen bevorderen.

De lidstaten zullen daarom beste praktijken uitwisselen wat betreft de versterking van excellentie en het behoud van getalenteerde werknemers alsook wat betreft het opvoeren en bespoedigen van de inspanningen om de door het bestaande acquis inzake legale migratie, waaronder de blauwe kaart 28 , geboden mogelijkheden voor het aantrekken van talent, te introduceren en ten volle te benutten. De blauwe kaart is een werkvergunning waarmee hooggekwalificeerde niet-EU-burgers in de EU kunnen wonen en werken. De vaardigheden moeten ook aan bod komen in de medio 2019 te publiceren nationale KI-strategieën. De strategieën moeten betrekking hebben op voor KI relevante vaardigheden binnen de formele onderwijscyclus, waaronder binnen het beroepsonderwijs en het hoger onderwijs, en op manieren om kansen voor masters en doctoraten in KI te verbeteren.

De Commissie zal de masters en doctoraten in KI ondersteunen door middel van de voorgestelde nauwere samenwerking tussen excellentiecentra voor KI-onderzoek en, meer in het algemeen, de onderzoeks- en innovatieprogramma's van de EU. Ook zal interdisciplinariteit worden ondersteund door het aanmoedigen van gecombineerde graden, bijvoorbeeld in rechten of psychologie en KI. Bovendien moeten digitale vaardigheden die de ontwikkeling en het gebruik van KI faciliteren in alle onderwijs- en opleidingscurricula worden opgenomen.

Gezien de disruptieve aard van veel van de technologische ontwikkelingen zullen beleidsmakers strategieën ontwikkelen om veranderingen in de werkgelegenheid op te vangen, teneinde inclusiviteit te waarborgen, aangezien het tempo waarmee bepaalde banen verdwijnen en andere ontstaan, waarschijnlijk zal versnellen, terwijl bedrijfsmodellen en de invulling van functies of banen, zullen veranderen. Hierdoor moeten de bestaande arbeidsmarkt- en socialebeschermingsregelingen mogelijk worden aangepast om transities in de arbeidsmarkt te ondersteunen. De Commissie heeft een deskundigengroep op hoog niveau opgericht over de gevolgen van de digitale transformatie voor de arbeidsmarkt van de EU, die in het voorjaar van 2019 een verslag over deze kwesties zal uitbrengen 29 .

2.5.    Opbouw van de Europese dataruimte die essentieel is voor KI in Europa, waaronder voor de publieke sector 30

Verdere ontwikkelingen op het gebied van KI vergen een goed functionerend gegevensecosysteem dat stoelt op vertrouwen, beschikbaarheid van gegevens en een data-infrastructuur 31 . De algemene verordening gegevensbescherming (GDPR) 32 is het fundament van het vertrouwen in de eengemaakte markt voor gegevens. Zij heeft een nieuwe mondiale norm vastgesteld met een sterke nadruk op de rechten van individuen, die de Europese waarden weerspiegelt, en is een belangrijk element om het vertrouwen in KI te waarborgen. Dit vertrouwen is met name van belang als het gaat om de verwerking van gezondheidszorggegevens voor KI-gestuurde toepassingen. De Commissie wil het Europees Comité voor gegevensbescherming aanmoedigen om richtsnoeren te ontwikkelen inzake de verwerking van persoonsgegevens in de context van onderzoek. Dit zal de ontwikkeling vergemakkelijken van grote grensoverschrijdende onderzoeksgegevensbestanden die voor KI kunnen worden gebruikt.

Voor de ontwikkeling van KI zijn enorme hoeveelheden gegevens nodig. Automatisch leren is een vorm van KI die patronen in beschikbare gegevens ontdekt en de kennis vervolgens op nieuwe gegevens toepast. Des te groter een dataset, des te beter KI kan leren en zelfs subtiele relaties in de data kan ontdekken.

Zodra de algoritmen zijn getraind, kunnen ze voorwerpen die ze nog nooit hebben gezien correct indelen, in meer en meer gevallen nauwkeuriger dan mensen. Toegang tot gegevens is bijgevolg een essentieel onderdeel van een concurrerend KI-landschap en moet door de EU worden bevorderd met volledige inachtneming van de regels inzake de bescherming van persoonsgegevens.

De inwerkingtreding van de verordening betreffende het vrije verkeer van niet-persoonsgebonden gegevens 33 in de loop van 2019 zal helpen gegevens, met name machinaal gegenereerde gegevens, te ontsluiten en de grensoverschrijdende activiteiten van bedrijven in de Unie aanzienlijk vergemakkelijken. Openheid ten aanzien van internationale gegevensstromen zal blijven worden gegarandeerd met volledige inachtneming van de EU-regels voor de bescherming van persoonsgegevens en in overeenstemming met de toepasselijke rechtsinstrumenten, met inbegrip van vrijhandelsovereenkomsten.

Door het akkoord over de herziening van de richtlijn overheidsinformatie 34 zal ook de hoeveelheid gegevens die ter beschikking staan van innovatie toenemen.

De totstandbrenging van gemeenschappelijke Europese dataruimten op een aantal gebieden, zoals maakindustrie of energie, zal een belangrijke troef zijn voor Europese innovatoren en bedrijven. Deze gemeenschappelijke Europese dataruimten zullen, zowel voor de publieke sector als voor business-to-businessdoeleinden, gegevens over heel Europa aggregeren en beschikbaar maken voor het trainen van KI 35 op een schaal die de ontwikkeling van nieuwe producten en diensten mogelijk maakt. Essentieel zijn de snelle ontwikkeling en toepassing van Europese regels zoals interoperabiliteitsvereisten en -normen. De Unie moet ook steun verlenen om de naadloze toegang tot en uitwisseling en hergebruik van dergelijke datasets te waarborgen. De identificatie van hoogwaardige datasets door de lidstaten zal ertoe bijdragen dat ze gemakkelijker kunnen worden hergebruikt. De Commissie levert ook een bijdrage met haar grote hoeveelheden aardobservatiegegevens en -informatie van het vlaggenschipprogramma Copernicus.

KI-toepassingen in de gezondheidszorg zijn bijzonder veelbelovend. In 2020 zal de Commissie via Horizon 2020 – in coördinatie met de lidstaten – steun verlenen voor de ontwikkeling van een gemeenschappelijke databank van gezondheidsbeelden (geanonimiseerd en van patiënten die hun gegevens vrijwillig ter beschikking stellen). Deze beelddatabank zal in eerste instantie op de meest voorkomende vormen van kanker zijn toegespitst en KI gebruiken om de diagnose en behandeling te verbeteren. De werkzaamheden zullen aan alle nodige vereisten op het gebied van regelgeving, veiligheid en ethiek voldoen.

KI-instrumenten zijn cruciaal voor de toekomstige werkzaamheden van overheidsdiensten. De lidstaten en de Commissie zullen intercollegiaal leren, en gebieden voor de gezamenlijke aanschaf van KI-oplossingen, waaronder cyberbeveiliging, en specifieke uitdagingen voor de publieke sector bespreken. Wanneer KI wordt toegepast, bijvoorbeeld voor beveiliging en rechtshandhaving, dienen zich bepaalde juridische en ethische uitdagingen aan, aangezien overheidsinstanties zich aan rechtsregels moeten houden, hun beslissingen moeten motiveren en hun besluiten aan rechterlijke toetsing door administratieve rechtbanken onderworpen zijn.

Ten slotte is computercapaciteit essentieel voor de verwerking van gegevens. Het European High-Performance Computing Initiative 36 (EuroHPC) bundelt middelen voor de ontwikkeling van de volgende generatie supercomputers om big data te verwerken en KI te trainen. In dit verband zijn het lopende partnerschap met de lidstaten en de industrie op het gebied van micro-elektronische componenten en systemen (Ecsel 37 ) en het European Processor Initiative 38 , dat de creatie van energiezuinige processortechnologie voor high-performance computing, datacentra en autonome voertuigen tot doel heeft, van essentieel belang voor de ontwikkeling van een onafhankelijk en innovatief Europees ecosysteem voor het ontwerpen van hoogwaardige chips.

2.6.    Ethische richtsnoeren met een mondiaal perspectief opstellen en een innovatievriendelijk rechtskader scheppen 39

Om vertrouwen te scheppen, wat noodzakelijk is voor de acceptatie en het gebruik van KI door de samenleving, moet de technologie voorspelbaar, verantwoordelijk en verifieerbaar zijn, de grondrechten eerbiedigen en ethische regels in acht nemen. Anders kan het gebruik van KI tot onwenselijke resultaten leiden, zoals het creëren van een echokamer, waarin mensen alleen worden geconfronteerd met informatie die met hun mening overeenkomt, of het versterken van discriminatie, zoals in het geval waarin een algoritme binnen 24 uur racistisch werd door blootstelling aan racistisch materiaal 40 .

Het is cruciaal dat mensen begrijpen hoe KI beslissingen neemt. Europa kan een wereldleider worden op het gebied van de ontwikkeling en het bonafide gebruik van KI en een mensgerichte benadering en beginselen inzake ethisch ontwerp ("ethics by design") bevorderen.

Om dergelijke beginselen steviger in de ontwikkeling en het gebruik van KI te verankeren, heeft de Commissie een onafhankelijke groep van deskundigen op hoog niveau inzake KI belast met de opstelling van ethische richtsnoeren inzake KI. Eind 2018 wordt een eerste versie gepubliceerd en in maart 2019 zullen de deskundigen hun definitieve versie van de richtsnoeren aan de Commissie presenteren na breed overleg via de Europese KI-alliantie 41 . De ambitie is om de ethische benadering van Europa vervolgens ingang te doen vinden op het wereldtoneel. De Commissie stelt de samenwerking open voor alle niet-EU-landen die bereid zijn deze waarden te onderschrijven.

Verdere ontwikkelingen op het gebied van KI vereisen ook een regelgevingskader dat flexibel genoeg is om innovatie te bevorderen en tegelijkertijd een hoog niveau van bescherming en veiligheid te waarborgen. De Commissie beoordeelt momenteel of de nationale en EU-kaders voor veiligheid en aansprakelijkheid geschikt zijn voor het beoogde doel in het licht van deze nieuwe uitdagingen of dat er lacunes moeten worden opgevuld. Daartoe zal de Commissie uiterlijk medio 2019 een verslag publiceren over de mogelijke lacunes in en oriëntaties voor de veiligheids- en aansprakelijkheidskaders voor KI.

2.7.    Veiligheidsaspecten van KI-toepassingen en -infrastructuur, en de internationale veiligheidsagenda

Er is behoefte aan een beter inzicht in de wijze waarop KI een veiligheidsimpact kan hebben op drie gebieden: hoe KI de doelstellingen van de veiligheidssector kan bevorderen; hoe KI-technologieën tegen aanvallen kunnen worden beschermd; en hoe mogelijk misbruik van KI voor kwaadwillige doeleinden kan worden aangepakt.

Door de toenemende potentie en gevoeligheid van KI-toepassingen op veel gebieden van de digitale economie en samenleving, zoals autonome mobiliteit of het vermijden van stroomuitval, is het zeer belangrijk om eisen inzake cyberbeveiliging voor KI vast te stellen 42 .

De toepassing van KI in wapensystemen heeft het potentieel om gewapende conflicten fundamenteel te veranderen en doet daarom ernstige zorgen en vragen rijzen. De Unie zal blijven benadrukken dat het internationaal recht, met inbegrip van het internationaal humanitair recht en het recht inzake mensenrechten, onverkort van toepassing is op alle wapensystemen, met inbegrip van autonome wapensystemen, en dat staten verantwoordelijk en aansprakelijk blijven voor de ontwikkeling en het gebruik ervan in gewapende conflicten. Verder blijft het standpunt van de EU dat menselijke controle moet worden gehandhaafd in beslissingen over het gebruik van dodelijk geweld en in de volledige levenscyclus van wapensystemen moet worden ingebouwd 43 .

3.    CONCLUSIES

KI maakt al deel uit van ons dagelijks leven, maar het potentieel ervan is veel groter dan we tot nu toe hebben gezien. Wil Europa een leidende rol op het gebied van KI spelen, dan moet het voortbouwen op zijn troeven en de ontwikkeling van ethische, veilige en geavanceerde KI in Europa ondersteunen.

De Commissie verzoekt derhalve:

·de Europese Raad om het gecoördineerde plan te bekrachtigen;

·de lidstaten om het gecoördineerde plan uit te voeren, met inbegrip van de ontwikkeling, uiterlijk medio 2019, van nationale strategieën voor KI, met een overzicht van de investeringsniveaus en de uitvoeringsmaatregelen;

·de medewetgevers om snel de resterende wetgevingsinitiatieven goed te keuren die essentieel zijn voor het welslagen van de Europese KI-strategie, met inbegrip van de voorstellen die in de context van het volgende meerjarig financieel kader zijn gedaan.

(1)

      https://www.latribune.fr/entreprises-finance/la-tribune-de-l-energie-avec-erdf/cinq-objets-connectes-pour-economiser-l-energie-545571.html  

(2)

      https://www.theguardian.com/society/2018/may/29/skin-cancer-computer-learns-to-detect-skin-cancer-more-accurately-than-a-doctor  

(3)

     COM(2018) 237.

(4)

     Naar raming wordt ongeveer 90 % van de verkeersongevallen door menselijke fouten veroorzaakt (zie COM(2016) 787).

(5)

     Europa heeft onderzoekers en start-ups van wereldklasse in KI en is een koploper op het gebied van robotica en business-to-businesssoftware/platforms. Zijn sterke vervoers-, gezondheids- en industriesector zouden een voortrekkersrol op het gebied van KI moeten vervullen.

(6)

      https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence  

(7)

      https://www.consilium.europa.eu/en/press/press-releases/2018/06/29/20180628-euco-conclusions-final/  

(8)

     Al deze acties moeten in overeenstemming zijn met de EU-regels inzake mededingingsrecht en staatssteun.

(9)

     Frankrijk, Finland, Zweden, het Verenigd Koninkrijk en Duitsland hebben al gerichte KI-strategieën. Sommige landen, zoals Denemarken, Luxemburg, Nederland, Ierland en Noorwegen nemen KI-gerelateerde acties op in hun bredere digitaliseringsstrategieën. Oostenrijk, België, Tsjechië, Denemarken, Estland, Duitsland, Italië, Letland, Polen, Portugal, Slovenië, Slowakije en Spanje zijn strategieën aan het ontwikkelen.

(10)

      https://ec.europa.eu/knowledge4policy/ai-watch_en

(11)

     In totaal werd in Europa in 2016 circa 2,4-3,2 miljard euro uitgetrokken, tegenover 6,5-9,7 miljard euro in Azië en 12,1-18,6 miljard euro in Noord-Amerika. Bron: 10 imperatives for Europe in the age of AI and automation, McKinsey, 2017.

(12)

     Dit kan investeringen uit de Europese structuur- en investeringsfondsen omvatten. Vijf regio’s hebben in hun strategieën voor slimme specialisatie KI-gerelateerde prioriteiten opgenomen: Nedersaksen [DE], Pohjois-Savo [FI], Łódzkie [PL], noordwest-Roemenië en noordoost-Roemenië. Zie: http://s3platform.jrc.ec.europa.eu/map  

(13)

     De voorstellen voor het volgende meerjarig financieel kader, met name het nieuwe programma Digitaal Europa en Horizon Europa, het meest ambitieuze EU-kaderprogramma voor onderzoek en innovatie ooit, ondersteunen de Europese KI-strategie.

(14)

Zie de recente mededeling van de Commissie "De eengemaakte markt in een veranderende wereld" (COM(2018)772).

(15)

     Zie deel B van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.

(16)

     Publiek-private partnerschappen voor robotica ("SPARC") en big data ("Big Data Value") vertegenwoordigen 1,2 miljard euro aan overheidsinvesteringen plus 3,2 miljard euro aan private investeringen voor de periode 2014-2020, wat een totaal van 4,4 miljard euro geeft.

(17)

     De "Big Data Value Association", de private partner in het publiek-private partnerschap voor big data, heeft een standpuntnota over KI goedgekeurd, die een aanbeveling bevat om over te gaan tot de sluiting van een partnerschap op het gebied van KI (november 2018). http://bdva.eu/sites/default/files/AI-Position-Statement-BDVA-Final-12112018.pdf

(18)

      https://www.consilium.europa.eu/en/press/press-releases/2018/06/29/20180628-euco-conclusions-final/  

(19)

     Alleen al in 2018 zijn 74 innovatieve kmo-projecten en start-ups gefinancierd om KI-gerelateerde innovaties te ontwikkelen in de proeffase van de Europese Innovatieraad.

(20)

     Zie deel C van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.

(21)

     COM(2016) 180.

(22)

      https://ec.europa.eu/digital-single-market/en/cross-border-corridors-connected-and-automated-mobility-cam

(23)

COM(2018) 283.

(24)

      http://ai4eu.org/

(25)

     Zie deel C van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.

(26)

      https://www.pocbigdata.eu/monitorICTonlinevacancies/general_info/

(27)

      https://jointventure.org/images/stories/pdf/index2018.pdf

(28)

     Richtlijn 2009/50/EG van de Raad betreffende de voorwaarden voor toegang en verblijf van onderdanen van derde landen met het oog op een hooggekwalificeerde baan. De Commissie heeft een voorstel ingediend om deze handeling te herzien – COM (2016) 378.

(29)

   https://ec.europa.eu/digital-single-market/en/news/appointment-members-high-level-expert-group-impact-digital-transformation-eu-labour-markets

(30)

     Zie de delen E en G van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.

(31)

     "Data is the lifeline of AI", zie hoofdstuk 12 van het verslag van het Gemeenschappelijk Centrum voor onderzoek "Artificial Intelligence: a European Perspective" https://ec.europa.eu/jrc/en/publication/eur-scientific-and-technical-research-reports/artificial-intelligence-european-perspective

(32)

     Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens.

(33)

     Verordening (EU) 2018/1807 van het Europees Parlement en de Raad van 14 november 2018 inzake een kader voor het vrije verkeer van niet-persoonsgebonden gegevens in de Europese Unie.

(34)

     Voorstel voor een richtlijn van het Europees Parlement en de Raad inzake het hergebruik van overheidsinformatie (herschikking) (COM(2018) 234).

(35)

     Links naar de databanken zullen beschikbaar worden gesteld via het platform voor KI "on demand", dat diensten aan de KI-gemeenschap verleent.

(36)

      https://ec.europa.eu/digital-single-market/en/eurohpc-joint-undertaking

(37)

      https://www.ecsel.eu/  

(38)

      https://ec.europa.eu/digital-single-market/en/news/european-processor-initiative-consortium-develop-europes-microprocessors-future-supercomputers

(39)

     Zie deel C van het gecoördineerde plan voor nadere bijzonderheden over de voorgestelde acties.

(40)

      https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter

(41)

      https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(42)

     Dit beginsel wordt uiteengezet in de gezamenlijke mededeling inzake cyberbeveiliging van september 2017 (JOIN(2017) 450).

(43)

     De hoge vertegenwoordiger van de Unie voor buitenlandse zaken en veiligheidsbeleid zal, met de steun van de Commissie, voortbouwen op overleg in de Verenigde Naties, het Global Tech Panel en andere multilaterale fora, en voorstellen voor de aanpak van deze complexe veiligheidsuitdagingen coördineren. 

EUROPESE COMMISSIE

Brussel, 7.12.2018

COM(2018) 795 final

BIJLAGE

bij de

MEDEDELING VAN DE COMMISSIE AAN HET EUROPEES PARLEMENT, DE EUROPESE RAAD, DE RAAD, HET EUROPEES ECONOMISCH EN SOCIAAL COMITÉ EN HET COMITÉ VAN DE REGIO'S

Gecoördineerd plan inzake kunstmatige intelligentie

Gecoördineerd plan inzake de ontwikkeling en het gebruik van kunstmatige intelligentie "made in Europe" – 2018

Kunstmatige intelligentie (KI) kan ons helpen een aantal van 's werelds grootste uitdagingen aan te pakken. KI kan artsen helpen betere diagnoses te stellen en therapieën te ontwikkelen voor ziekten waarvoor die nog niet bestaan; zij kan het energieverbruik reduceren door hulpbronnen te optimaliseren; zij kan bijdragen tot een schoner milieu door de behoefte aan pesticiden te verkleinen; zij kan helpen weersvoorspellingen te verbeteren en op rampen te anticiperen, enz. De lijst is schier eindeloos. KI zal de belangrijkste motor van economische en productiviteitsgroei zijn en zal bijdragen tot de duurzaamheid en levensvatbaarheid van de industriële basis in Europa 1 . Net als de stoommachine en elektriciteit in het verleden, is KI de wereld aan het transformeren.

Overeenkomstig haar Handvest van de grondrechten streeft de Unie naar de ontwikkeling van betrouwbare KI die op ethische en maatschappelijke waarden berust. Mensen moeten niet alleen vertrouwen hebben in KI, maar ook in hun persoonlijke en beroepsleven voordeel ondervinden van het gebruik van KI. Europa streeft naar de totstandbrenging van een innovatievriendelijk ecosysteem voor KI: een omgeving waarin economische spelers de infrastructuur, onderzoeksfaciliteiten, testomgevingen, financiële middelen, het juridische kader en passende vaardigheidsniveaus aantreffen om te investeren in en gebruik te maken van KI. In het algemeen is het de ambitie dat Europa de toonaangevende regio van de wereld voor de ontwikkeling en invoering van geavanceerde, ethische en veilige KI wordt, en daarbij een mensgerichte benadering in de mondiale context voorstaat.

KI staat hoog op de agenda van de Raad van de EU sinds de door het Estse voorzitterschap in september 2017 georganiseerde digitale top. In de mededeling "Kunstmatige intelligentie voor Europa" van 25 april 2018 2 wordt een Europese strategie ter ondersteuning van deze doelstelling voorgesteld. In de mededeling wordt ook een gecoördineerd plan voor de ontwikkeling van KI in Europa 3 voorgesteld, dat uiterlijk eind 2018 met de lidstaten wordt opgesteld. Dit werd bekrachtigd door de Europese Raad 4 . Met het onderhavige document wordt gehoor gegeven aan dit verzoek. Alleen als de lidstaten en de Commissie samenwerken zal Europa zijn visie werkelijkheid kunnen doen worden.

Het gecoördineerde plan bouwt voort op een "verklaring van samenwerking" die is ondertekend door alle EU-lidstaten en Noorwegen in de context van de Digitale dag 2018 5 en waarin de bereidheid om nauwer samen te werken op het gebied van KI wordt benadrukt. Het Oostenrijkse voorzitterschap van de EU heeft KI ook als een prioriteit aangemerkt in het kader van de transformatie van de industrie 6 .

De belangrijkste doelstellingen van het plan zijn het maximaliseren van de impact van investeringen op EU- en nationaal niveau, het aanmoedigen van synergieën en samenwerking in de hele EU, waaronder op het gebied van ethiek, het bevorderen van de uitwisseling van beste praktijken en het collectief uitstippelen van de te volgen koers. Door samen te werken kan de Unie haar impact maximaliseren om mondiaal te concurreren.

De groep van de lidstaten inzake de digitalisering van de Europese industrie en KI en de Commissie hebben tussen juni en november 2018 mogelijke gebieden voor samenwerking besproken. Om in te spelen op het snelle tempo van de door KI veroorzaakte maatschappelijke en economische veranderingen zijn de lidstaten, Noorwegen en Zwitserland een voortschrijdend gecoördineerd plan overeengekomen dat wordt gemonitord en jaarlijks wordt herzien, om ervoor te zorgen dat het up-to-date blijft. Het onderhavige document is de eerste editie van dit plan en behelst vooral activiteiten voor 2019 en 2020, waarbij de nadruk ligt op geplande activiteiten op EU-niveau binnen het huidige financiële kader. Het plan zal naar verwachting doorlopen in het volgende decennium, mogelijk tot 2027, overeenkomstig het volgende meerjarig financieel kader 7 .

Er is een behoefte aan gecoördineerde actie vastgesteld op het gebied van investeringen, excellentie in en verspreiding van KI, beschikbaarheid van gegevens, maatschappelijke uitdagingen, ethiek en het regelgevingskader. De acties hebben betrekking op zowel de private als de publieke sector en omvatten tal van synergieën.

KI "made in Europe" – de aspiraties van de burger verwezenlijken, aan sociale behoeften beantwoorden, en het concurrentievermogen stimuleren

Het gecoördineerde plan zal de voordelen van KI voor alle Europeanen maximaliseren door het bevorderen van de ontwikkeling van betrouwbare KI die aansluit bij de Europese ethische waarden en de verwachtingen van de burgers. Europa zal geleidelijk haar inspanningen opvoeren in gebieden van algemeen belang zoals gezondheidszorg, vervoer, beveiliging, onderwijs en energie alsook op andere gebieden zoals maakindustrie en financiële diensten (waaronder door middel van de blockchain).

Dit plan brengt een reeks concrete en complementaire acties op EU-, nationaal en regionaal niveau 8 samen die erop gericht zijn:

-Investeringen te stimuleren en excellentie op het gebied van KI-technologieën en ‑toepassingen die betrouwbaar en "ethisch en beveiligd door ontwerp" (ethical and secure by design) zijn, versterken. Investeringen zullen plaatsvinden in een stabiele regelgevingscontext die experimenten mogelijk maakt en disruptieve innovatie in de hele EU ondersteunt, om ervoor te zorgen dat de Europese economie en samenleving zo breed en zo goed mogelijk van KI kunnen gebruikmaken.

-Voort te bouwen op de troeven van Europa, om in een partnerschap met de industrie en de lidstaten gedeelde agenda's op te stellen en uit te voeren voor samenwerking op het gebied van onderzoek en ontwikkeling (O&O) en innovatie tussen de industrie en de academische wereld.

-Opleidings- en vaardigheidsprogramma's en -systemen aan te passen om de Europese samenleving en haar toekomstige generaties op KI voor te bereiden.

-In Europa essentiële capaciteiten op te bouwen die aan KI ten grondslag liggen, zoals dataruimten en referentiesites van wereldklasse voor tests en experimenten.

-Van overheidsinstanties in Europa koplopers maken inzake het gebruik van KI.

-Op basis van de werkzaamheden van deskundigen duidelijke ethische richtsnoeren voor de ontwikkeling en het gebruik van KI te implementeren met volledige inachtneming van de grondrechten, teneinde mondiale ethische normen vast te stellen en een wereldleider op het gebied van ethische, betrouwbare KI te worden.

-Waar nodig, het bestaande nationale en Europese juridische kader te herzien en beter aan specifieke uitdagingen aan te passen.

Sleutelvoorwaarden

Vooruitgang op het gebied van KI bereidt de weg voor nieuwe kansen op gebieden zoals gepersonaliseerde precisiegezondheidszorg, mobiliteit (zelfrijdende auto's 9 ), fintech, geavanceerde maakindustrie, op ruimtevaart gebaseerde toepassingen, slimme elektriciteitsnetten, duurzame circulaire en bio-economie, betere opsporing en onderzoek van criminele activiteiten (bijvoorbeeld witwassen van geld, belastingfraude), media enz.

Deze digitale transformatie vergt in veel gevallen een aanzienlijke verbetering van de thans beschikbare infrastructuur. De effectieve implementatie van KI vereist de voltooiing van de digitale interne markt en haar regelgevingskader, met inbegrip van de snelle goedkeuring van het voorstel van de Commissie voor een Europees kenniscentrum voor industrie, technologie en onderzoek op het gebied van cyberbeveiliging en het netwerk van nationale coördinatiecentra 10 , versterkte connectiviteit via coördinatie van het spectrum, zeer snelle mobiele 5G-netwerken en optische vezels, clouds van de volgende generatie en satelliettechnologieën 11 . High-performance computing en KI zullen steeds nauwer verweven raken naarmate we de transitie maken naar een toekomst waarin nieuwe computer-, opslag- en communicatietechnologieën worden gebruikt. Voorts moet infrastructuur zowel toegankelijk als betaalbaar zijn om voor een inclusieve toepassing van KI in heel Europa te zorgen, met name door kleine en middelgrote ondernemingen (kmo's). Bedrijven, met name kleine en jonge bedrijven, moeten in een positie verkeren waarin ze kennis kunnen verwerven en in staat zijn om deze technologieën in nieuwe producten, diensten en gerelateerde productieprocessen en -technologieën te integreren, onder meer door bijscholing en omscholing van hun personeel. Normalisatie zal ook van essentieel belang zijn voor de ontwikkeling van KI in de digitale eengemaakte markt, met name om de interoperabiliteit te waarborgen.

Er is ook een paradigmawissel nodig in gevallen waarin gegevens lokaal moeten worden verwerkt (bijvoorbeeld in geconnecteerde automatische voertuigen die snel beslissingen moeten kunnen nemen zonder te wachten op een antwoord van een server op afstand). Deze trend stimuleert de vraag naar geavanceerde halfgeleidertechnologieën met een laag verbruik. Naast schaalverkleining zijn al andere, nieuwe paradigma's aan het opkomen en er zullen nieuwe energie-efficiënte computerarchitecturen (zoals neuromorfische en kwantumcomputerarchitecturen) nodig zijn om een duurzaam energiegebruik te waarborgen. Lopende partnerschappen tussen de lidstaten en de Unie via gemeenschappelijke ondernemingen zoals Ecsel 12 (voor elektronische componenten en systemen), EuroHPC (krachtige computers) 13 alsook het vlaggenschipinitiatief inzake kwantumtechnologie in het kader van het programma voor onderzoek en innovatie Horizon 2020 (H2020) zijn essentieel voor de verwerking van big data en het ondersteunen van verdere ontwikkelingen op het gebied van KI.

De lidstaten en de Commissie zullen de ontwikkeling van de sleutelvoorwaarden continu ondersteunen en zullen KI mainstreamen in de desbetreffende initiatieven.

Het gecoördineerde plan is gekoppeld aan de lopende parallelle strategieën op deze gebieden.

A.Strategische acties en coördinatie

De KI-benadering van de Commissie, die zij heeft gepresenteerd in de in april 2018 gepubliceerde mededeling "Kunstmatige intelligentie voor Europa", rust op drie pijlers:

·Een impuls geven aan de technologische en industriële capaciteit van de EU en aan het gebruik van KI in de hele economie, zowel door de private als de publieke sector;

·Voorbereidingen treffen voor de door KI veroorzaakte sociaal-economische veranderingen;

·Zorgen voor een passend ethisch en juridisch kader, op basis van de waarden van de Unie en in overeenstemming met het Handvest van de grondrechten van de Europese Unie.

Zoals is aangekondigd in de mededeling van april heeft de Commissie een deskundigengroep op hoog niveau inzake KI belast met het opstellen van ethische richtsnoeren inzake KI. De deskundigengroep op hoog niveau zal ook beleidsaanbevelingen inzake investeringen en het regelgevingskader voorstellen.

De Commissie heeft de deskundigengroep voor aansprakelijkheid en nieuwe technologieën ook de opdracht gegeven de Commissie bij te staan bij het opstellen van richtsnoeren voor de tenuitvoerlegging van de richtlijn inzake productaansprakelijkheid en bij het ontwikkelen van EU-brede beginselen die kunnen dienstdoen als richtsnoeren voor mogelijke aanpassingen van de op EU-niveau en op nationaal niveau geldende wetgeving.

De deskundigengroep van de Commissie voor het Waarnemingscentrum voor de onlineplatformeconomie zal daarnaast beleidskwesties in KI-gerelateerde regelgevingsgebieden, zoals gegevenstoegang 14 , online reclame en de rol van algoritmen in de digitale-platformeconomie, onderzoeken.

Voorts heeft de Commissie een deskundigengroep op hoog niveau opgericht over de gevolgen van de digitale transformatie voor de arbeidsmarkt van de EU, die in het voorjaar van 2019 een verslag zal uitbrengen waarin strategieën aan bod komen om met de disruptie op de arbeidsmarkt om te gaan 15 .

Ten opzichte van andere delen van de wereld, zoals de VS en China, zijn de investeringen in KI in de Unie laag en gefragmenteerd. Om deze tekortkoming te verhelpen, is in de mededeling van april een ambitieuze doelstelling vastgesteld die erin bestaat de investeringen te verhogen en in de periode 2018-2020 een totaalbedrag (voor de publieke en de private sector samen) van ten minste 20 miljard euro te doen bereiken, en de investeringen vervolgens geleidelijk op te voeren tot 20 miljard euro per jaar in de loop van het komende decennium.

De Commissie is de investeringen in KI in het kader van het kaderprogramma voor onderzoek en innovatie Horizon 2020 aan het verhogen tot 1,5 miljard euro in de periode 2018-2020, wat neerkomt op een stijging van 70 % ten opzichte van de periode 2014-2017. In het kader van het volgende meerjarig financieel kader heeft de Commissie voorgesteld om ten minste 1 miljard euro per jaar uit Horizon Europa 16 en het programma Digitaal Europa 17 voor KI uit te trekken. Er worden opties verkend om middelen uit het Europees Fonds voor strategische investeringen en de Europese structuur- en investeringsfondsen los te maken. Zo zal het Europees Fonds voor regionale ontwikkeling naar verwachting investeren in KI op basis van de volgende generatie strategieën voor slimme specialisatie.

Frankrijk, Finland, Zweden, het Verenigd Koninkrijk en Duitsland hebben vandaag de dag al gerichte KI-strategieën. Sommige landen, zoals Denemarken, Luxemburg, Nederland, Ierland en Noorwegen nemen KI-gerelateerde acties op in een bredere digitaliseringsstrategie. Voorts zijn Oostenrijk, België, Tsjechië, Denemarken, Estland, Duitsland, Italië, Letland, Polen, Portugal, Slovenië, Slowakije en Spanje strategieën aan het ontwikkelen 18 . Om investeringen te maximaliseren, belangrijke hulpbronnen, zoals gegevens, te bundelen en een consistent regelgevingskader te scheppen, moeten alle lidstaten voorzien in nationale KI-strategieën, overeenkomstig de intenties die zij op de Digitale dag hebben uitgesproken in de verklaring inzake samenwerking op het gebied van KI.

De lidstaten en de Commissie zullen de voortgang van de uitvoering van het plan op jaarbasis monitoren 19 .

üAlle lidstaten worden aangemoedigd om uiterlijk medio 2019 in nationale KI-strategieën of -programma's te voorzien – en deze met de andere lidstaten en de Commissie te delen – of om KI-dimensies aan andere relevante strategieën en programma's 20 toe te voegen waarin de investeringsniveaus en uitvoeringsmaatregelen worden uiteengezet, rekening houdend met dit gecoördineerde plan. Het is aan elke lidstaat om op basis van de nationale kenmerken te beslissen over de precieze vorm, inhoud en governance van zijn nationale KI-strategie 21 .  üDe besprekingen tussen de lidstaten en de Commissie zullen worden gestuurd door de groep van de lidstaten voor de digitalisering van het Europese bedrijfsleven en kunstmatige intelligentie (LS-groep inzake DEB en KI), die voor technische aangelegenheden wordt bijgestaan door een groep "sherpa's" 22 . De groep vergadert ten minste tweemaal per jaar. Hij zal zorgen voor coördinatie tussen verschillende ministeries en andere belanghebbenden, bijvoorbeeld het bedrijfsleven, de academische wereld en de civiele samenleving. Speciale groepen van de lidstaten 23 zullen de nodige input verstrekken voor de verschillende gebieden die door het plan worden bestreken. De lidstaten en de Commissie zullen ook thematische workshops organiseren. üOm de impact te beoordelen, zullen de lidstaten en de Commissie in 2019 relevante investeringsparameters en vergelijkbare ijkpunten voor opname aanwijzen teneinde gemeenschappelijke doelstellingen te bereiken. De vooruitgang zal jaarlijks worden gemonitord.

B.Investeringen maximaliseren via partnerschappen

Om investeringen in KI te faciliteren en te versterken, en om de impact ervan zowel in de publieke als de private sector te maximaliseren, zijn gezamenlijke inspanningen van de Commissie, de lidstaten en de private sector nodig. Alleen als zowel de Commissie als de lidstaten hun investeringen in dezelfde richting sturen via gezamenlijke programmering en aanzienlijke private investeringen losmaken, zal Europa als geheel een impact hebben en zijn strategische autonomie op het gebied van KI vestigen.

·Het pad effenen voor een nieuw partnerschap inzake KI: KI maakt vandaag deel uit van verscheidene publiek-private partnerschappen (PPP's) in het kader van Horizon 2020, met name de PPP's inzake robotica en big data, die afzonderlijke agenda's voor onderzoek & innovatie hebben. Ook de academische onderzoeksgemeenschap is georganiseerd in netwerken zoals EurAI, de Europese vereniging voor KI. Met de steun van de lidstaten zal de Commissie met het bedrijfsleven en de academische wereld samenwerken aan een gemeenschappelijke agenda voor onderzoek en innovatie op het gebied van KI. Voortbouwend op de sterke punten van Europa, zal zij streven naar de ontwikkeling van een dynamisch EU-breed KI-innovatie-ecosysteem, door nauwe samenwerking tussen het bedrijfsleven en de academische wereld te bevorderen en het concurrentievermogen in de hele KI-waardeketen te versterken. Daartoe zal zij besprekingen faciliteren met in eerste instantie belanghebbenden uit de PPP's inzake robotica en big data, maar deze later uitbreiden naar vertegenwoordigers van alle relevante belanghebbenden uit het bedrijfsleven en onderzoeksinstellingen, om een gemeenschappelijke strategische onderzoeks- en innovatieagenda voor KI te ontwikkelen. De Commissie is voornemens een groep van leiders op te richten.

·De handen in elkaar slaan voor investeringen in KI: Het is cruciaal voor Europa om KI van de volgende generatie te identificeren, erin te investeren en de brede uitrol ervan te bewerkstelligen. Een belangrijk element hierbij is de terbeschikkingstelling van voldoende investeringen voor start-ups in hun beginfase en voor ondernemingen in hun opschalingsfase. Daartoe streeft de Commissie ernaar door middel van bestaande instrumenten, zoals het Europees Fonds voor strategische investeringen, Horizon 2020 en het Europees Investeringsfonds, middelen beschikbaar te stellen voor start-ups en innovatoren in KI en blockchain die zich in de beginfase bevinden alsook voor bedrijven in de opschalingsfase. Initieel moet 100 miljoen euro worden vrijgemaakt in 2020. Omdat bepaalde vroege toepassingen van blockchain die "mining" inzetten (bitcoin), grote hoeveelheden energie verbruiken, zal de Commissie in de selectiecriteria voor investeringen voor een dergelijk financieel programma de voorkeur geven aan het ondersteunen van nieuwere, energie-efficiëntere blockchaininfrastructuren en ‑toepassingen. De activiteiten kunnen gericht zijn op (i) het financieren van een portfolio van innovatieve KI/blockchainbedrijven; (ii) het tot stand brengen van een dynamische, de gehele EU omspannende gemeenschap van investeerders die zich op KI toeleggen; (iii) het doen toenemen van investeringen op nationaal niveau door de nationale stimuleringsbanken (NPB's) die bereid zijn om deel te nemen, te betrekken; (iv) het stimuleren van investeringen door de private sector en (v) het voor start-ups aantrekkelijker maken om in Europa te blijven en te groeien. De komende jaren kunnen KI en blockchain verder worden ondersteund door het InvestEU-programma.

·Naar aanleiding van de conclusies van de Europese Raad van juni 2018 24 is de Europese Commissie bezig met het voorbereiden van een versterkt proefproject voor een Europese Innovatieraad (EIR) ter ondersteuning van de opschaling van innovatieve ondernemingen (start-ups en kleine en middelgrote ondernemingen) die baanbrekende, marktcreërende innovatie, baanbrekende wetenschap en cruciale ontsluitende technologieën toepassen die tot disruptieve innovatie kunnen leiden.

Investeringen maximaliseren üIn 2019 zal de Commissie de belanghebbenden – aanvankelijk de PPP's op het gebied van robotica en big data, maar later uitgebreid tot andere betrokken partijen – samenbrengen om een gemeenschappelijke onderzoeks- en innovatieagenda voor KI te ontwikkelen, die vanaf 2020 zal worden ondersteund. Daartoe zal zij een groep van leiders oprichten waarin de belanghebbenden op ceo-niveau van het bedrijfsleven en onderzoeksinstellingen zijn vertegenwoordigd om de agenda te ontwikkelen en de betrokkenheid op het hoogste niveau bij de tenuitvoerlegging ervan te waarborgen, om zo de weg vrij te maken voor een nieuw partnerschap inzake KI (eerste vergadering begin 2019). üDe Commissie streeft ernaar door middel van bestaande instrumenten, zoals het Europees Fonds voor strategische investeringen, Horizon 2020 en het Europees Investeringsfonds, middelen beschikbaar te stellen voor start-ups en innovatoren op het gebied van KI en blockchain die zich in de beginfase bevinden alsook voor bedrijven in de opschalingsfase. Initieel moet 100 miljoen euro worden vrijgemaakt in 2020. De Commissie zal ook een investeringssteunprogramma starten om portfolio-ontwikkeling en co-investeringen met de lidstaten en private investeerders te faciliteren en om start-ups en andere bedrijven, waaronder zowel traditionele als innovatieve kleine en middelgrote ondernemingen, voor te lichten om hun betrokkenheid bij anders risicovolle projecten te faciliteren. Dit zal bijdragen aan het voorbereiden van betere toegang tot financiering voor KI in het kader van het InvestEU-programma. üDe lidstaten kunnen het proces actief ondersteunen via de deelname van nationale stimuleringsbanken, en deelnemen aan steunprogramma's voor bewustmaking. üDe Europese Innovatieraad zal disruptieve innovatie ondersteunen via het versterkte proefproject van de Europese Innovatieraad, dat in het bijzonder geavanceerde, hoogrenderende onderzoeks- en innovatieprojecten zal steunen die erop gericht zijn een nieuw technologisch paradigma te demonstreren op gebieden zoals op de mens gerichte KI, via een fonds met in totaal 100 miljoen euro in 2019-2020. üDe lidstaten worden aangemoedigd onderzoek te doen naar de toepassing van innovatievouchers, kleine subsidies en leningen die zijn gericht op kmo's in hun digitale transformatie, waaronder met name de integratie van KI in producten, processen en bedrijfsmodellen.

C.Van het laboratorium naar de markt: (i) opbouwen van excellentie op het gebied van onderzoek, (ii) oprichten van testfaciliteiten die wereldwijd als referentie gelden en (iii) versnellen van de opname van KI via digitale-innovatiehubs

De Commissie en de lidstaten erkennen dat het belangrijk is om de wetenschapsbasis 25 verder te blijven versterken en onderzoek en innovatie te blijven ondersteunen om concurrentievermogen op het gebied van technologie te waarborgen, innovatie-uitdagingen aan te pakken en de overdracht van onderzoeksresultaten naar het bedrijfsleven te vergemakkelijken.

De Commissie zal haar investeringen in onderzoek en innovatie in het kader van Horizon 2020 vergroten en KI mainstreamen in alle thema's waar de voordelen ervan kunnen worden ontwikkeld of benut. Zo zal het noodzakelijk zijn aanzienlijke middelen toe te wijzen aan KI voor veiligheidsdoeleinden, enerzijds om kwaadwillig gebruik van KI-technologieën door malafide actoren voor criminele activiteiten of terrorisme te voorkomen, en anderzijds om KI-instrumenten en -oplossingen in te zetten ter ondersteuning van rechtshandhavingsinstanties, teneinde criminele activiteiten en terrorisme beter te voorkomen, op te sporen en te onderzoeken 26 .

Daarnaast zal de Commissie werken aan de versterking van Europese excellentiecentra op het gebied van KI, het opzetten van testfaciliteiten die wereldwijd als referentie gelden en het versnellen van de opname van KI via digitale-innovatiehubs, waarbij ervoor wordt gezorgd dat Europa voordeel haalt uit de resultaten van de onderzoeksactiviteiten.

De Commissie zal een geografisch evenwicht handhaven in haar inspanningen om digitale-innovatiehubs te versterken en zal geografische dekking bevorderen in de netwerken van excellentiecentra en testfaciliteiten en complementariteit met investeringen in het kader van het cohesiebeleid aanmoedigen. Europa beschikt met zijn vele vooraanstaande onderzoekscentra over onmiskenbare troeven, maar het is essentieel om de krachten te bundelen om op mondiaal niveau concurrerend te zijn. Europa zal de nationale onderzoekscapaciteit opschalen en kritische massa bereiken door hechtere netwerken van Europese excellentiecentra op het gebied van KI-onderzoek 27 . Doel is samenwerking tussen de beste onderzoeksteams in Europa te bevorderen, de krachten te bundelen om de grote wetenschappelijke en technologische uitdagingen op het gebied van KI doeltreffender aan te pakken en het bedrijfsleven te mobiliseren om zich te integreren in en synergieën te vinden met de onderzoeksteams.

Opzetten van testfaciliteiten die wereldwijd als referentie gelden 28 : Een belangrijke stap voor het op de markt brengen van technologie heeft betrekking op het experimenteren met en testen van geavanceerde technologie in levensechte omgevingen. Om investeringen te optimaliseren en dubbel werk of concurrerende inspanningen te voorkomen moet een beperkt aantal in KI gespecialiseerde grootschalige referentiesites worden ontwikkeld en worden opengesteld voor alle actoren in heel Europa.

Voorbeelden van zulke testfaciliteiten zijn het grensoverschrijdend testen van geconnecteerd en automatisch rijden, testsites voor autonome scheepvaart en de creatie van dataruimten. De Commissie en de lidstaten zullen nagaan of er behoefte is aan nieuwe grootschalige testfaciliteiten voor de laatste KI-technologieën op belangrijke gebieden als mobiliteit, gezondheidszorg, maakindustrie, agrovoeding of beveiliging. Deze testfaciliteiten kunnen betrekking hebben op regelgevingsproeftuinen ("regulatory sandboxes", d.w.z. gebieden waar de regelgeving beperkt is of bevorderlijk is voor het testen van nieuwe producten en diensten) in geselecteerde gebieden waar de wetgeving de regelgevende instanties voldoende speelruimte biedt, door specifieke wettelijke en regelgevende vereisten voor de duur van de proeftuin te versoepelen.

De opname van KI versnellen door digitale-innovatiehubs: Even belangrijk is het bevorderen van de opname van KI in de bredere economie, met name door kleine en middelgrote ondernemingen. Dit omvat het doorgeven van kennis en wetenschappelijke doorbraken die zijn gegenereerd in excellentiecentra op het gebied van KI-onderzoek alsook van technologieën die zijn gevalideerd in de bovenbedoelde testfaciliteiten. Digitale-innovatiehubs (DIH's) kunnen ervoor helpen zorgen dat elk bedrijf, klein of groot, al dan niet hightech, alsook de publieke sector, de digitale kansen kan grijpen. DIH's, waarin technische universiteiten of onderzoeksorganisaties een centrale rol hebben, fungeren als "eenloketsystemen" waar bedrijven en de publieke sector toegang kunnen krijgen tot technologie, tests en technische ondersteuning, financieringsadvies, marktkennis en netwerkmogelijkheden. Meer specifiek op het gebied van KI kunnen digitale-innovatiehubs kleine en middelgrote ondernemingen en overheidsinstanties helpen de nodige datasets te identificeren, algoritmen te ontwikkelen, KI te trainen en kunnen zij koppelingen met computerfaciliteiten tot stand brengen door voort te bouwen op het platform voor KI "on demand". Zij kunnen professionals uit de kleine en middelgrote ondernemingen helpen opleiden in het gebruik van KI-oplossingen en hun adviseren over bestaande financiële ondersteuning. Zij zijn zowel verbonden met de excellentiecentra voor onderzoek als met de beschikbare testfaciliteiten.

Evenzo brengen de elf knooppunten van de gemeenschappen voor digitale kennis en innovatie van het Europees Instituut voor technologie en innovatie prominente actoren van de digitale sectoren in geselecteerde regio's bijeen.

i) Onderzoeksexcellentie versterken via netwerken van Europese excellentiecentra op het gebied van KI-onderzoek: üIn 2019 zullen de lidstaten nationale excellentiecentra op het gebied van KI-onderzoek en hun competenties in kaart brengen en hun EU-brede samenwerking en netwerkvorming via nationale programma's verder ondersteunen. üDe Commissie is van plan om netwerken van excellentiecentra op het gebied van KI-onderzoek te financieren met 50 miljoen euro in 2020 via Horizon 2020, en zo gezamenlijk onderzoek te ondersteunen waarmee de industriële en wetenschappelijke uitdagingen worden aangegaan die door zulke netwerken in gemeenschappelijke onderzoeksagenda's zijn vastgesteld. üDe lidstaten worden aangemoedigd hun bedrijfsleven te stimuleren om zich aan te sluiten bij of synergieën te ontwikkelen met netwerken van excellentiecentra op het gebied van KI-onderzoek.

(ii) Testfaciliteiten oprichten die wereldwijd als referentie gelden üIn 2018-2020 zullen de lidstaten en de Commissie: üVoortbouwend op een eerste reeks van grensoverschrijdende 5G-corridors voor geconnecteerd en autonoom rijden 29  aanvullende testcorridors ondersteunen met maximaal 30 miljoen euro in 2020 via Horizon 2020. üWerken aan de ontwikkeling van platformen en grootschalige proefprojecten waarin KI-elementen worden geïntegreerd op gebieden zoals energie, gezondheidszorg, maakindustrie, geo-informatie en landbouw. Voor 2019-2020 zal de Commissie 160 miljoen euro beschikbaar stellen uit Horizon 2020. üIn 2019 en 2020 zullen KI en data-analyse in het kader van de gemeenschappelijke onderneming Ecsel 30 worden geïntegreerd in vuurtoreninitiatieven op het gebied van maakindustrie, mobiliteit en gepersonaliseerde geneeskunde, met een totaal budget van ongeveer 200 miljoen euro en gaande van componenten tot volledige systemen. In totaal zal de Commissie ongeveer 390 miljoen euro beschikbaar stellen voor de ontwikkeling van platforms en grootschalige proefprojecten in de periode 2019-2020; verwacht wordt dat deze investering zal worden aangevuld met bijna 200 miljoen euro van de lidstaten en 550 miljoen euro van de private sector.  Na 2020: üIn het kader van het programma Digitaal Europa is de Commissie van plan om ongeveer 1,5 miljard euro beschikbaar te stellen om test- en experimenteersites van wereldniveau voor op KI gebaseerde producten en diensten in heel Europa op te zetten. Deze testsites zullen in 2019 worden aangewezen en ontwikkeld in nauwe samenwerking met de lidstaten, die de bestaande nationale testsites in kaart zullen brengen, en zullen de hele KI-toeleveringsketen beslaan, van componenten (neuromorfische computing en kwantumtechnologie) tot geïntegreerde toepassingen op gebieden als gezondheid, mobiliteit, energie, beveiliging, veiligheid en industriële productie. üDe lidstaten worden aangemoedigd de investeringen in het kader van het programma Digitaal Europa met eigen middelen te evenaren, zodat er een totaal investeringsvolume van 3 miljard euro beschikbaar is. Ook het gebruik van andere financieringsbronnen, zoals het Europees Fonds voor regionale ontwikkeling, zal worden aangemoedigd.

(iii) De opname van KI bevorderen door middel van digitale-innovatiehubs (DIH's) üIn 2019 worden de lidstaten verzocht hun netwerken van digitale-innovatiehubs te versterken met bijzondere aandacht voor het ondersteunen van hun lokale gemeenschap van kleine en middelgrote bedrijven bij de digitale transformatie. De lidstaten zullen worden verzocht de DIH's aan te wijzen die over KI-competenties beschikken.  üIn 2019 en 2020 zal de Commissie meer dan100 miljoen euro beschikbaar stellen voor digitale-innovatiehubs in een selectie van voor KI relevante gebieden (big data, slimme productie). Dit omvat activiteiten voor regio’s waar momenteel weinig digitale-innovatiehubs bestaan, zoals in de EU13-landen. üDaarnaast zullen de activiteiten van het Europees Instituut voor innovatie en technologie (EIT) bijdragen aan de toepassing van KI door de publieke en private sector. Tussen 2018 en 2020 zal de Unie investeren in activiteiten ter ondersteuning van EIT Digital en het netwerk van knooppunten in de hele Unie. Deze investeringen zullen gericht zijn op de digitale transformatie van industrieën, steden, gezondheid, infrastructuur en financiën, met name om in te spelen op de door KI geboden kansen. üNa 2020 wordt financiering van het programma Digitaal Europa voorgesteld om bij te dragen aan het oprichten van digitale-innovatiehubs in elke lidstaat om een brede geografische vertegenwoordiging te waarborgen (mogelijk met, gemiddeld, één per NUTS2-regio 31 ). Het is de bedoeling dat de Unie tot 900 miljoen euro zal verstrekken om de ontwikkeling van deze hubs te ondersteunen – een bedrag waar de lidstaten vergelijkbare bedragen tegenover moeten stellen. Naar verwachting zal Horizon Europa de digitale-innovatiehubs in staat stellen zich verder in te zetten voor experimenten op het gebied van digitale transformatie en in heel Europa wel 10 000 kleine en middelgrote ondernemingen te ondersteunen.

D.Vaardigheden en een leven lang leren

Talent is een essentieel ingrediënt voor de ontwikkeling en het gebruik van KI. KI en digitalisering zijn de samenleving en de economie als geheel, met inbegrip van de werkomgeving, in een hoog tempo aan het transformeren. In Europa bestaat er een aanzienlijke en aanhoudende kloof op het gebied van ICT-vaardigheden. De vraag naar vaardigheden in opkomende gebieden zoals KI is bijzonder acuut en het probleem neemt toe naarmate het aanbod achterblijft bij de markt. Bijna alle lidstaten kampen met een tekort aan ICT-specialisten, ook op het gebied van KI 32 . Het huidige aanbod van gespecialiseerde programma’s voor hoger onderwijs is beperkt en is niet in alle lidstaten in gelijke mate beschikbaar 33 . 

Zwakke algemene technische kennis bij de bredere bevolking belemmert de toegankelijkheid en het gebruik van op KI gebaseerde oplossingen. Hoewel de opleiding van leerkrachten een belangrijke uitdaging blijft, moet de toegang tot de nodige vaardigheden worden bevorderd in de basis- en de middelbare school. Er moeten programma's voor snelle omscholing worden ontwikkeld om de bevolking de gelegenheid te geven ervaring met KI op te doen. Technologie zoals Massive Open Online Courses (MOOC's – open onlinecursussen voor een groot publiek) zouden kunnen worden gebruikt om het leren op te schalen. KI moet deel gaan uitmaken van niet-technische studieprogramma's door formele en informele educatie, zodat de toekomstige beroepsbevolking de kennis kan opdoen die nodig is om te kunnen functioneren en navigeren in een werkomgeving waarin KI deel van de dagelijkse taken zal uitmaken.

Naast ICT-vaardigheden zijn andere vaardigheden van even groot belang voor een mensgerichte KI-ontwikkeling. Ethiek en andere niet-STEM-vaardigheden zijn net zo belangrijk en moeten deel uitmaken van het hoofdstuk inzake de ontwikkeling van talent in nationale en internationale KI-strategieën. Voorts moeten om- en bijscholing gepaard gaan met de modernisering van de arbeidsmarkt en het sociaal beleid om beter met frequentere verschuivingen op de arbeidsmarkt te kunnen omgaan.

Moeilijkheden om talent aan te trekken en in Europa te houden dragen bij tot de vaardigheidskloof. Getalenteerde onderzoekers en veelbelovende start-ups krijgen vaak aantrekkelijke aanbiedingen uit het buitenland. In 2017 bestond de bevolking van Silicon Valley voor 38 % uit buitenlanders die de VS waren binnengekomen om een specifieke vacature in de hightechindustrie te vervullen. 8 % daarvan was Europeaan 34 . Er zijn met name maatregelen nodig om het beste talent aan te trekken en in Europa te houden en om een concurrerende omgeving te creëren. Nauwere samenwerking met het bedrijfsleven zal de relevantie van de leerinhoud voor de behoeften van de arbeidsmarkt helpen waarborgen.

De Commissie heeft een actieplan voor digitaal onderwijs 35 vastgesteld om het gebruik van technologie en de ontwikkeling van digitale vaardigheden in het onderwijs te ondersteunen. Zoals is aangekondigd in de mededeling van april werkt het Europees Instituut voor innovatie en technologie (EIT) aan de integratie van KI in de curricula van de onderwijsprogramma's die het ondersteunt, op master- en doctoraatsniveau, en in het kader van het proefproject "Digital Opportunity Traineeships" (2018-20) 36 worden stages georganiseerd in geavanceerde digitale vaardigheden voor Erasmusstudenten. De blauwdruk voor sectorale samenwerking op het gebied van vaardigheden ondersteunt de ontwikkeling van sectorale strategieën om de vaardigheidskloven te dichten 37 en multidisciplinaire benaderingen te verbeteren door elementen van KI in andere disciplines te integreren.

Wederzijdse erkenning van certificering, ook voor studies in nieuwe disciplines zoals KI, is belangrijk. In mei 2018 heeft de Commissie een voorstel 38 gedaan voor een aanbeveling van de Raad betreffende de bevordering van automatische wederzijdse erkenning van diploma's hoger onderwijs en hoger secundair onderwijs en de resultaten van leerperioden in het buitenland. In de voorgestelde aanbeveling van de Raad worden de lidstaten verzocht zich politiek te verbinden tot het nemen van maatregelen om uiterlijk in 2025 automatische erkenning in te voeren.

Talent, vaardigheden en een leven lang leren üVaardigheden en onderwijs zijn in grote mate nationale, en soms regionale, bevoegdheden. Actie op het niveau van de Unie is echter belangrijk om ervaringen uit te wisselen en gemeenschappelijke kansen te grijpen. üDe lidstaten worden aangemoedigd om: üBeste praktijken uit te wisselen met betrekking tot (i) manieren om excellentie te versterken en KI-talent in Europa te houden en (ii) met betrekking tot de her- en bijscholing van de huidige beroepsbevolking (in 2019). üBeste praktijken uit te wisselen met betrekking tot de wijze waarop ten volle gebruik kan worden gemaakt van de mogelijkheden die het systeem van de blauwe kaart van de EU biedt om hoogopgeleide KI-professionals aan te trekken en in de EU te houden en de implementatie ervan te versnellen, en met betrekking tot de wijze waarop KI-gerelateerd ondernemerschap kan worden bevorderd (uiterlijk eind 2019). üDe vaardighedendimensie op te nemen in de nationale KI-strategieën (uiterlijk medio 2019) en het nationale onderwijsaanbod, de vaardigheidsbehoeften (KI moet ook deel uitmaken van/geïntegreerd zijn in andere disciplines zoals recht, menswetenschappen, milieu, gezondheid) en de opleidingsprioriteiten voor KI in kaart te brengen, met bijzondere aandacht voor manieren om de inclusiviteit te verhogen en meer vrouwen warm te maken voor KI-onderzoek (uiterlijk eind 2020). De strategieën moeten betrekking hebben op de hele cyclus van formeel onderwijs, beroepsopleiding, hoger onderwijs en postdocs. Tegelijkertijd moet meer aandacht worden besteed aan een leven lang leren, zodat ook mensen die al aan het werk zijn, vaardigheden met betrekking tot KI kunnen verwerven en verbeteren. üNagaan hoe KI kan worden opgenomen in de curricula van programma's voor secundair en tertiair onderwijs, met inbegrip van beroepsopleiding. De Commissie zal uiterlijk begin 2020 met de steun van de lidstaten een verslag uitbrengen en modelacties in geselecteerde regio's ondersteunen. üDe Commissie zal:  üIn de oproep om de excellentiecentra op het gebied van KI-onderzoek in 2020 te versterken een component inzake gemeenschappelijke doctoraats- en postdocprogramma's opnemen, waarbij de nadruk ligt op uitdagingen voor het bedrijfsleven. De ambitie is om een uniek en mondiaal erkend merk op te zetten voor een Europees programma voor op het bedrijfsleven gerichte doctoraten in KI en om onderzoekers in Europa te houden nadat zij hun doctoraten hebben voltooid. De Marie Skłodowska Curie-acties 39 zullen aan deze doelstelling bijdragen. üMogelijkheden verkennen om de inclusie van KI-modules in multidisciplinaire masterprogramma's (bijvoorbeeld in gezondheid, fintech, e-overheid) en in opleidingsprogramma's voor volwassenen te ondersteunen, waarbij de nadruk ligt op mensen die een hogere opleiding hebben gevolgd en werkervaring hebben. üDe lidstaten en de Commissie zullen samenwerken om materiaal te ontwikkelen dat kan worden gebruikt in bewustmakingscampagnes over de voordelen van KI. üVoor de periode na 2020 stelt de Commissie voor dat de Unie in totaal 700 miljoen euro uittrekt om geavanceerde vaardigheden(voor KI, HPC en cyberveiligheid) te ondersteunen in het kader van het programma Digitaal Europa door: üMasters; üOpleidingen op de werkplek en stages voor jongeren en professionals die ervaring moeten opdoen; üKorte opleidingen om personeel vertrouwd te maken met KI. üDe door de Unie ontwikkelde ethische beginselen mainstreamen in de hierboven voorgestelde opleidingsstelsels en -programma's.

E.Data: een hoeksteen voor KI – Een gemeenschappelijke Europese dataruimte creëren

De huidige expansie van KI wordt gevoed door de beschikbaarheid van grote datasets, in combinatie met een toename van computervermogen en connectiviteit. Veilige, robuuste kwaliteitsgegevens beschikbaar maken voor een breed scala van gebruikers over de grenzen heen is een hoeksteen van het Europese beleid. Openheid ten aanzien van internationale gegevensstromen zal blijven worden gegarandeerd met volledige inachtneming van de EU-regels voor de bescherming van persoonsgegevens en in overeenstemming met de toepasselijke rechtsinstrumenten, met inbegrip van de vrijhandelsovereenkomsten die de EU met haar partners sluit en de bevindingen van de Commissie inzake het niveau van de bescherming van persoonsgegevens in derde landen. De volledige uitvoering van de sectorale wetgeving, ter verbetering van de toegang tot en het hergebruik van informatie (bijvoorbeeld de Inspire 40 -richtlijn), zal de domeinspecifieke gegevens verschaffen die nodig zijn om krachtige KI-toepassingen voor de publieke sector te ondersteunen, voor analytische of beleidsmonitoringsdoeleinden 41 .

In de algemene verordening gegevensbescherming (GDPR) zijn de regels vastgesteld die van toepassing zijn op de verzameling, het gebruik en het delen van persoonsgegevens. Door de onlangs vastgestelde verordening inzake het vrije verkeer van niet-persoonsgebonden gegevens worden grensoverschrijdende gegevensstromen in de Unie verder vergemakkelijkt als een hoeksteen van de digitale eengemaakte markt. Er zal ook aandacht worden besteed aan op blockchain gebaseerde, volledig met de GDPR en de privacyregels in overeenstemming zijnde oplossingen voor het delen van en het verschaffen van toegang tot gegevens. De voorgestelde regels 42 inzake handelspraktijken tussen onlinetussenhandelsdiensten zoals marktplaatsen, appstores of boekingsplatforms voor accommodatie, stellen de voorwaarden vast voor een voorspelbaar en transparant gebruik van gegevens bij de hostingdiensten en hun zakelijke gebruikers. Dergelijke maatregelen moeten leiden tot meer billijkheid en vertrouwen in zakelijke relaties en een waardevol gebruik van gegevens in het ecosysteem van onlineplatforms.

Er zijn maatregelen nodig om het delen van gegevens in handen van de publieke en private sector te vergemakkelijken door een gemeenschappelijke Europese dataruimte 43 te creëren: een naadloze digitale ruimte met de schaal die de ontwikkeling van nieuwe producten en diensten op basis van gegevens mogelijk maakt. Met name gegevens gegenereerd door en in handen van de publieke sector zijn vaak van zeer hoge kwaliteit en vormen een belangrijke troef voor Europese innovatoren en bedrijven.

Om ervoor te zorgen dat er meer met de gegevens wordt gedaan, moeten de gegevens in een ruimte zo veel mogelijk interoperabel worden gemaakt, met name door overeen te komen naar gegevensformats te streven die open, FAIR, machinaal leesbaar, gestandaardiseerd en gedocumenteerd zijn, zowel bij de interactie tussen de publieke en private sector als binnen en tussen sectoren 44 .

De richtlijn overheidsinformatie 45 (de "PSI-richtlijn") stelt het kader vast voor het hergebruik van dergelijke gegevens door bedrijven. De acties moeten erop gericht zijn datasets in de praktijk gemakkelijker toegankelijk te maken, met name voor start-ups en kleine en middelgrote ondernemingen, en aggregatie te faciliteren. Van bijzonder belang zijn het ontwerp en de implementatie van interoperabele gegevens en metagegevensformats en de invoering van gestandaardiseerde applicatieprogramma-interfaces (API's) op basis van het Europees interoperabiliteitskader (EIF) 46 .

Deze acties vormen een aanvulling op de inspanningen van de lidstaten ter bevordering van de toegankelijkheid, interoperabiliteit en herbruikbaarheid van gegevens in de sectoren die van groot belang zijn voor KI, zoals gezondheid 47 (zie de onderstaande punten), milieu, mobiliteit, beveiliging, migratie en een duurzame en circulaire bio-economie en voedselvoorziening.

Data KI voor gebieden van algemeen belang: De lidstaten worden aangemoedigd met de Commissie samen te werken om: üOpenbare datasets te identificeren die in de hele Unie openlijker herbruikbaar moeten worden gemaakt, met name die welke geschikt zijn voor het trainen van KI-toepassingen. Dit kan worden ondersteund door een mandaat om een lijst van hoogwaardige datasets op te stellen, zoals is bepaald in het herschikkingsvoorstel van de richtlijn overheidsinformatie, waarover momenteel wordt onderhandeld. üSamen te investeren in de nodige instrumenten voor het faciliteren van toegang tot en interoperabiliteit en aggregatie van overheidsgegevens, met inbegrip van de ontwikkeling van relevante applicatieprogramma-interfaces (API's) om toegang tot dynamische gegevens te verkrijgen. De actie ondersteunt de vaststelling en toepassing van normen voor gegevens en metagegevens in nauwe samenwerking met de relevante belanghebbenden (bijvoorbeeld Europese normalisatie-instellingen). De Commissie is voornemens maximaal 100 miljoen euro uit Horizon 2020 (H2020) en de Connecting Europe Facility (CEF) beschikbaar te stellen. üDe ontwikkeling en exploitatie van een gegevensinfrastructuur te ondersteunen om het beheer en het in realtime delen van gegevens en experimenten door middel van een datasandbox voor datagestuurde en op KI gebaseerde diensten mogelijk te maken, voor overheden en overheidsdiensten in het algemeen, inclusief voor veilige grensoverschrijdende trans-Europese IT-systemen. Dergelijke diensten worden verleend via de diensteninfrastructuur voor open overheidsgegevens, die wordt gefinancierd in het kader van het CEF-programma, dat reeds de uitrol ondersteunt van het Europees dataportaal 48 voor het vergemakkelijken van het ontdekken van en de toegang tot Europese publieke data-activa, waaronder die van door de lidstaten op nationaal, regionaal en lokaal niveau opgezette initiatieven inzake open data. üTe zorgen voor de verdere ontwikkeling van de Europese open wetenschapscloud als een belangrijke troef voor het optimale gebruik van KI in wetenschap en technologie en in toepassingen gaande van geavanceerde geneeskunde tot milieu en klimaatverandering. Het trainen en testen van datagerelateerde algoritmen opnemen om de voordelen van open data te maximaliseren. üDe ontwikkeling te ondersteunen van op blockchain gebaseerde en andere beveiligde oplossingen voor het verschaffen van toegang tot gegevens en het vrijwaren van de integriteit van gegevens. De Commissie is van plan om op dit gebied 27 miljoen euro beschikbaar te stellen in het kader van H2020. üMet name gezondheid kan gebaat zijn bij KI. Patiënteninformatie, medische dossiers, diagnostische resultaten en klinische studies zijn slechts enkele van de in de gezondheidszorg beschikbare gegevensbronnen. De Commissie stelt voor om prioritair op twee grote projecten in te zetten: (I)Naar aanleiding van toezeggingen van 19 lidstaten om in de EU een cohort voor wetenschappelijk onderzoek van ten minste 1 miljoen gesequentieerde genomen aan te leggen dat uiterlijk in 2022 beschikbaar is 49 , zal de Commissie een initiatief inzake het koppelen van genomicaregisters steunen. De Commissie zal ook steun verlenen voor de aanleg van registers van zeldzame ziekten. Er zal terdege rekening worden gehouden met conformiteit en interoperabiliteit op organisatorisch, regelgevend, beveiligings-, ethisch en technisch gebied. Een en ander zal ertoe bijdragen dat KI-technologieën kunnen worden bestudeerd, ontwikkeld en getest om nieuwe kennis te vergaren en klinisch onderzoek en besluitvorming te ondersteunen. (II)In 2020 zal de Commissie – in samenwerking met de lidstaten – steun verlenen voor de ontwikkeling van een gemeenschappelijke databank met medische beelden die in de eerste plaats op de meest voorkomende vormen van kanker zal zijn toegespitst (geanonimiseerd en op basis van door patiënten afgestane gegevens). De werkzaamheden moeten voldoen aan alle nodige vereisten inzake organisatie, regelgeving, beveiliging, ethiek en techniek. De databank zal worden gecombineerd met relevante KI-instrumenten om diagnose, behandeling en follow-up te verbeteren. In totaal zal de initiële EU-bijdrage aan deze initiatieven ongeveer 35 miljoen euro uit het Horizon 2020-programma bedragen. De lidstaten worden aangemoedigd eenzelfde bedrag bij te dragen. Deze initiatieven en investeringen zullen de basis vormen voor een grootschaligere, gemeenschappelijke ruimte voor gezondheidsgegevens, met mogelijke steun, vanaf 2021, in het kader van het programma Digitaal Europa. üGeo-informatie/Aardobservatie: Het Copernicus-programma van de EU is de grootste leverancier van informatie inzake aardobservatie en -monitoring ter wereld. In het kader van Copernicus is gekozen voor een beleid van gratis, volledige en open toegang tot gegevens en zijn geavanceerde DIAS-diensten (Data and Information Access Services) gelanceerd, die een enorme hoeveelheid gestructureerde gegevens en computercapaciteit co-loceren. Daarop voortbouwend stelt de Commissie voor om KI-capaciteit te ontwikkelen en uit te rollen die gebruikmaakt van Copernicus-gegevens en -infrastructuur ter bevordering van op geolocatie gebaseerde diensten voor de monitoring van klimaat, landbouw, luchtkwaliteit, emissies, het mariene milieu, waterbeheer, veiligheid, migratie, en burgerwetenschap 50 . Zij zal ook initiatieven opzetten ter ondersteuning van de benutting van aardobservatiegegevens en -informatie door KI in de publieke en private sector. üTaalkundige gegevens: De taalkundige hulpmiddelen van de Commissie die worden gebruikt voor het inzetten van op KI gebaseerde diensten voor automatische vertaling en de verwerking van natuurlijke taal behoren tot de meest gedownloade datasets op het Europees dataportaal. Om zulke diensten verder te verbeteren, is de Commissie voornemens om nog eens 10 miljoen euro uit de Connecting Europe Facility beschikbaar te stellen om extra taalhulpbronnen te verzamelen voor talen die minder vertegenwoordigd zijn op het web. Platforms voor industriële gegevens: De Commissie heeft reeds maatregelen inzake onderzoek en ontwikkeling genomen met betrekking tot platforms voor het veilig en gecontroleerd uitwisselen van door eigendomsrechten beschermde gegevens in het kader van Horizon 2020, waaronder ruimten voor industriële gegevens en ruimten voor persoonsgegevens 51 . Op basis van de mededeling van de Commissie "Naar een gemeenschappelijke Europese gegevensruimte" 52 is een reeks richtsnoeren 53 gepubliceerd om te voorzien in een instrumentarium voor het delen van gegevens door houders en/of gebruikers van gegevens. Op basis hiervan zal de Commissie: üIn 2019 strategische, digitale industriële platforms van de volgende generatie ondersteunen via grootschalige samenvoegingsprojecten met een investering van 50 miljoen euro in het kader van het Horizon 2020-programma. üDe lidstaten worden aangemoedigd bestaande en geplande nationale investeringen in platforms te koppelen aan activiteiten op EU-niveau met het oog op opschaling en interoperabiliteit. üVoor de periode na 2020 stelt de Commissie voor dat de Unie in het kader van het KI-onderdeel van het programma Digitaal Europa maximaal 1 miljard euro uittrekt om met de lidstaten en de private sector te co-investeren in de totstandbrenging van een gemeenschappelijke Europese dataruimte die gegevens gemakkelijk voor hergebruik ter beschikking stelt van innovatoren, bedrijven en de publieke sector. üBijzondere aandacht zal uitgaan naar de ontwikkeling van lokale ecoystemen op regionaal en subregionaal niveau waarin lokale bedrijven en kleine en middelgrote ondernemingen, overheidsdiensten, opleidingscentra, digitale-innovatiehubs en technologie-infrastructuur worden samengebracht om algoritmen te ontwikkelen en te delen die met hoogwaardige lokale gegevens worden getraind om lokale problemen aan te pakken. Op die manier worden bijscholing en opleiding aan lokale dataruimten gekoppeld om innovatie te bevorderen. Ondersteuningscentrum voor het delen van gegevens: De Commissie zal medio 2019 een ondersteuningscentrum voor gegevensdeling opzetten om modelcontracten voor te stellen voor het delen van gegevens van de private sector en het verstrekken van praktische adviezen, beste praktijken en methoden voor gegevensdeling en gegevensanalyse aan alle Europese actoren in de gegevenseconomie. Europees initiatief op het gebied van High-Performance Computing (EuroHPC): De Commissie en de lidstaten zullen samenwerken aan de tijdige uitvoering van het EuroHPC-initiatief met het oog op de ontwikkeling van een pan-Europese supercomputerinfrastructuur, die van cruciaal belang zal zijn voor KI.

F.Ethisch ontwerp en het regelgevingskader

Een passend en voorspelbaar, ethisch en regelgevend kader dat berust op doeltreffende waarborgen voor de bescherming van de fundamentele rechten en vrijheden, is van vitaal belang voor burgers om KI te vertrouwen en voor bedrijven, die behoefte hebben aan investeringszekerheid, om nieuwe zakelijke kansen te benutten. De voorhoede vormen van de ethische agenda, en tegelijk innovatie bevorderen, kan een concurrentievoordeel voor Europese bedrijven op de wereldmarkt worden. Voorts zal de opmars van KI in de publieke sector soortgelijke ethische vragen en zorgen in verband met grondrechten doen rijzen die stroomopwaarts aan de orde moeten worden gesteld.

Zoals is aangekondigd in de strategie "Kunstmatige intelligentie voor Europa" heeft de Commissie een deskundigengroep op hoog niveau inzake KI de opdracht gegeven om ethische richtsnoeren op het gebied van KI op te stellen 54 . Een eerste ontwerp van deze richtsnoeren zal in december 2018 klaar zijn en de definitieve versie wordt in maart 2019 verwacht, na breed overleg via de Europese KI-alliantie 55 . Een van de kernbeginselen is "ethisch ontwerp", waarbij ethische beginselen vanaf het begin van het ontwerpproces in KI-producten worden verankerd.

Het is belangrijk dat wetgeving het juiste kader biedt voor KI-gestuurde innovatie en de toepassing van KI-oplossingen en tegelijk de mogelijke risico's aanpakt die rijzen door het gebruik van en de interactie met de technologie, met inbegrip van vraagstukken op het gebied van cyberbeveiliging. Dit betekent dat moet worden voorzien in "cyberveiligheid" in de zin van het voorkomen van misbruik (bijvoorbeeld hacking of manipulatie van KI-algoritmen of manipulatie van de door het KI-algoritme verwerkte gegevens) alsook in de inclusie van mechanismen om de veiligheid van de consument en doeltreffende verhaalsmogelijkheden voor slachtoffers in het geval van schade te waarborgen en onderzoek te vergemakkelijken als schade is toegebracht aan het KI-systeem. Er moeten KI-cyberbeveiligingsvereisten worden gespecificeerd en daarvoor moet kunnen worden gebruikgemaakt van de certificeringsregeling in het kader van het voorgestelde Europees kader voor cyberbeveiligingscertificering 56 . In het geval van bedrijven die actief zijn op gebieden met een veiligheidsdimensie (bijvoorbeeld financiële instellingen, producenten van radioactief materiaal enz.), is het gebruik van bepaalde KI-producten en -processen in het algemeen belang en kan het gebruik ervan daarom verplicht worden gesteld.

Een adequaat kader voor veiligheid en aansprakelijkheid ter waarborging van een hoog niveau van veiligheid en doeltreffende verhaalmechanismen voor slachtoffers in het geval van schade is van essentieel belang voor het opbouwen van vertrouwen in KI.

Indien in de passende waarborgen is voorzien, kunnen regelgevingsproeftuinen en andere methoden voor beleidsexperimenten en -ontwikkeling bovendien een belangrijke rol spelen bij het stimuleren van innovatie op basis van KI voor gebieden waar de wetgeving de regelgevende instanties voldoende speelruimte laat. In 2019 zal bijzondere aandacht uitgaan naar het beantwoorden van de vraag of het regelgevingskader in Europa geschikt is voor geavanceerde technologieën op basis van KI in het algemeen en voor geconnecteerd en geautomatiseerd rijden in het bijzonder.

Innovatiedeals 57 kunnen binnen de grenzen van de bestaande wetgeving dienstdoen als instrumenten voor het beoordelen van regelgevende belemmeringen voor de ontwikkeling en inzet van KI. Innovatiedeals zijn vrijwillige samenwerkingsovereenkomsten tussen de EU, innovatoren en nationale, regionale en lokale autoriteiten. De doelstelling van een innovatiedeal is om een diepgaand inzicht te krijgen in de wijze waarop een EU-regel of EU-regelgeving in de praktijk werkt. Als blijkt dat de regel of de regelgeving in de praktijk een obstakel voor innovaties vormt, dan maakt de deal dit zichtbaar en kan dit worden meegenomen bij de vaststelling van mogelijke verdere maatregelen.

Andere belangrijke elementen voor het creëren van een geïntegreerde Europese thuismarkt voor door KI verbeterde producten, diensten en toepassingen zijn, bijvoorbeeld, gegevensbescherming en privacy 58 , consumentenbescherming en ingebouwde naleving van de mededingingswetgeving. Belangrijke overwegingen in verband met de ontwikkeling en toepassing van KI in het bijzonder in gebieden met een hoge maatschappelijke en beleidsinzet hebben voorts betrekking op billijkheid, transparantie en verantwoording van algoritmische besluitvorming en gerelateerde governancemodellen 59 en de impact van KI op menselijk gedrag 60 .

Ten slotte moeten ook kwesties met betrekking tot intellectuele eigendom (IE) worden onderzocht om ervoor te zorgen dat het desbetreffende regelgevingskader op passende wijze een aantal uitdagingen aan de orde stelt die specifiek zijn voor KI, en zodoende de ontwikkeling ervan doeltreffend kan bevorderen.

Ethisch ontwerp en het regelgevingskader üDe Commissie heeft een deskundigengroep op hoog niveau inzake KI de opdracht geven om ethische richtsnoeren op het gebied van KI op te stellen. De definitieve versie daarvan wordt in maart 2019 verwacht. üDe Commissie zal het beginsel van "ethisch ontwerp" ten volle eerbiedigen en verankeren in haar oproepen tot het indienen van voorstellen die betrekking hebben op kunstmatige intelligentie. üRekening houdend met de input van de lidstaten beoordeelt de Commissie of en in welke mate de bestaande wetgeving geschikt is om ruimte te laten voor de nieuwe kansen die door KI worden geboden en het hoofd te bieden aan de uitdagingen die erdoor worden gesteld. Zij neemt daarbij de beleidsaanbevelingen van de deskundigengroep op hoog niveau inzake KI in aanmerking. üUiterlijk medio 2019 zal de Commissie een verslag publiceren over de mogelijke lacunes in en oriëntaties voor het veiligheids- en aansprakelijkheidskader voor KI. üDe Commissie is bereid om, waar nodig en op de passende wijze, belanghebbenden te ondersteunen bij de toepassing van EU-regels op de ontwikkeling en inzet van KI, bijvoorbeeld op het gebied van mededinging en staatssteun. üIn 2019 bespreken de lidstaten en de Commissie de totstandbrenging van omgevingen 61 die bevorderlijk zijn voor innovatie, zoals regelgevingsproeftuinen 62 en publieke testregelingen voor specifieke KI-toepassingen in Europa. Naar aanleiding van deze besprekingen zullen de lidstaten worden aangemoedigd om uiterlijk eind 2020 zulke omgevingen en publieke testregelingen voor KI-oplossingen tot stand te brengen. Daartoe zullen de lidstaten worden aangemoedigd om een eenloketsysteem op te zetten voor bedrijven die KI-toepassingen ontwikkelen om de specifieke behoeften voor de totstandbrenging van dergelijke omgevingen en testregelingen te bespreken.

G.KI voor de publieke sector

KI-toepassingen kunnen op verschillende manieren bijdragen aan betere overheidsdiensten, bijvoorbeeld door het mogelijk maken van slimmere analytische capaciteiten en een beter begrip van realtime-processen (bijvoorbeeld bevolkings-, economische en ecologische ontwikkelingen en klimaatverandering) in de economie, de maatschappij en het milieu, met inbegrip van de opsporing van criminele activiteiten zoals belastingfraude en het witwassen van geld.

Op KI gebaseerde oplossingen kunnen kortere en rijkere feedbackloops bieden voor alle bestuursniveaus, en zo een kans bieden om de dienstverlening te versnellen en de efficiëntie en doeltreffendheid ervan te verbeteren. Zij hebben het potentieel om:

·de kwaliteit en samenhang van de geleverde diensten te verbeteren;

·het ontwerp en de uitvoering van beleidsmaatregelen te verbeteren;

·efficiëntere en doelgerichte interventies mogelijk te maken;

·de efficiëntie en doeltreffendheid van overheidsopdrachten te verbeteren; en

·de beveiliging en het identiteitsbeheer te versterken en gezondheids- en werkgelegenheidsdiensten te verbeteren.

Voor begunstigden van publieke steun kan op KI gebaseerde besluitvorming de relatie tussen de autoriteiten en de begunstigden vereenvoudigen door het bredere publieke belang of regelgevingsoverwegingen te integreren in de dagelijkse besluitvorming (door middel van gerichte communicatie, gedragssturing via nudging enz.).

KI kan de interactie tussen de burger en de overheid verbeteren door middel van conversationele systemen (met inbegrip van digitale assistenten en overheidschatbots), meertalige diensten en automatische vertaling. Er worden ook inspanningen geleverd om KI toe te passen in de sociale en gezondheidssector, om de besluitvorming van artsen te ondersteunen of om de vroegtijdige herkenning van de marginalisering van jongeren te ondersteunen 63 .

Zoals hierboven is uiteengezet worden concrete maatregelen voorgesteld om gegevens van de publieke sector open te stellen voor gebruik door KI-toepassingen op gebieden van algemeen belang zoals voor medische beeldvorming of genomica.

De lidstaten worden aangemoedigd om met de andere lidstaten aan intercollegiaal leren te doen, in het bijzonder met betrekking tot regelgevingsproeftuinen en testregelingen.

KI voor de publieke sector üDe Unie zal de inspanningen voor de toepassing van KI in gebieden van algemeen belang, zoals gezondheidszorg, vervoer, veiligheid en onderwijs, geleidelijk opvoeren door in het kader van het bestaande Connecting Europe Facility-programma en het ISA2-programma bestaande investeringen in het kader van acties ten behoeve van de digitale-diensteninfrastructuur voort te zetten en op te schalen. Na 2020 zullen de lidstaten en de Unie, in het kader van het voorgestelde programma Digitaal Europa, co-investeren in de volledige uitrol van EU-brede, op KI gebaseerde diensten op gebieden van algemeen belang. üDe lidstaten en de Commissie zijn voornemens om in 2019 intercollegiaal te leren en EU-breed beste praktijken, ervaringen en gegevens uit te wisselen 64 . Ze zullen samenwerken om een overzicht op te stellen van relevante toepassingen die reeds in de lidstaten aanwezig zijn, en van de impact en de toegevoegde waarde ervan ter ondersteuning van de openbare dienstverlening. De Commissie is ook bereid om overheidsinkopers bij te staan, bijvoorbeeld door een assistentiehub voor de aankoop van KI en cyberbeveiligingsoplossingen op te zetten. Een concreet voorbeeld is het kader van het Europees netwerk van openbare diensten voor arbeidsvoorziening (PES), waarin nationale openbare diensten voor arbeidsvoorziening beste praktijken inzake KI op het gebied van dienstverlening, arbeidsbemiddeling en automatische processen uitwisselen 65 . üDe lidstaten worden aangemoedigd om met de Commissie samen te werken om gebieden in kaart te brengen voor de gezamenlijke aanschaf van KI-oplossingen, wat leidt tot efficiëntieverbeteringen en een betere kosteneffectiviteit. Een concreet voorbeeld zijn op KI gebaseerde zelfherstellende systemen op het gebied van cyberbeveiliging waar de gecombineerde afnemersmacht van de Unie en alle lidstaten de ontwikkeling en schaalvergroting van in de EU ontwikkelde oplossingen kan faciliteren. Het doel is uiterlijk medio 2019 een gezamenlijk verslag uit te brengen om gebieden te beschrijven waar gezamenlijke aanbestedingen worden overwogen. De Commissie stelt voor na 2020 de werkzaamheden in het kader van het nieuwe programma Digitaal Europa aan te vatten. üDe Commissie is voornemens om in 2019 eTranslation, de op KI gebaseerde automatische vertaaldienst die is ontwikkeld in het kader van de Connecting Europe Facility, ter beschikking te stellen van overheidsdiensten in de lidstaten. De voorstellen van de Commissie voor het Horizon Europa-programma en het programma Digitaal Europa voorzien in investeringen in de verdere ontwikkeling van diensten voor de verwerking van natuurlijke taal en instrumenten om meertaligheid in de publieke sector te bevorderen. üDe lidstaten worden aangemoedigd om in 2020, overeenkomstig de ministeriële verklaring van Tallinn over e-overheid, met de steun van de Commissie, en met name door de in het kader van het volgende meerjarige financieel kader voorgestelde DIH's te benutten, middelen uit te trekken voor experimenten met op KI gebaseerde diensten om een beter inzicht te krijgen in de toegevoegde waarde en de potentiële impact van op KI gebaseerde openbare diensten en besluitvorming. Op KI gebaseerde oplossingen zullen ook ten goede komen aan de sectoren justitie 66 en rechtshandhaving. Een andere veelbelovende toepassingssector is de monitoring en handhaving van de regels van de eengemaakte markt voor goederen, diensten en personen. üDe lidstaten en de Commissie zijn van plan om geïntegreerde oplossingen voor aardobservatie en machinaal leren te blijven ontwikkelen om empirisch onderbouwde beleidsvorming, -uitvoering en -monitoring te ondersteunen op gebieden als klimaatverandering, milieubescherming, landbouw, stadsontwikkeling, rampenbestrijding, migratie en infrastructuurmonitoring.

H.Internationale samenwerking

Nu KI wereldwijd en op tal van internationale fora zoals de VN, de OESO, de G7 of de G20 67 wordt besproken, is een internationaal bereik van cruciaal belang. De ontwikkeling van KI zal baat hebben bij internationale samenwerking, met name tussen vergevorderde landen met sterke punten inzake onderzoek en innovatie en investeringen op het gebied van KI. De gezamenlijke ontwikkeling van internationale normen zal de ontwikkeling en acceptatie van KI vergemakkelijken. De Unie zal de ethische richtsnoeren inzake KI internationaal uitdragen en een dialoog en samenwerking aangaan met alle niet-EU-landen en belanghebbenden van derde landen die bereid zijn dezelfde waarden te onderschrijven.

Om voor het welslagen van deze inspanningen te zorgen, moeten de lidstaten en de Unie echter trachten om bilaterale bewustmakingsinspanningen met betrekking tot KI af te stemmen tussen afzonderlijke lidstaten en derde landen en hun inspanningen voor een verantwoorde ontwikkeling van KI op mondiaal niveau bundelen. De Unie moet op dit gebied met één stem spreken ten aanzien van derde landen en de rest van de wereld. In synergie met de activiteiten van de lidstaten moet de EU ook streven naar allianties met belanghebbenden – technologiebedrijven, de academische wereld en andere partijen – om deel te nemen aan een multistakeholdernetwerk op mondiaal niveau voor verantwoorde KI.

Bovendien zal de Unie in de eerste helft van 2019 een internationale ministeriële vergadering over KI organiseren om tot een mondiale consensus over de ethische implicaties van KI te komen. De EU maakt voorts gebruik van haar instrument voor buitenlands beleid om met internationale partners samen te werken op het gebied van ethische en regelgevingskwesties. Sommige lidstaten stellen een intergouvernementele procedure voor, vergelijkbaar met het panel inzake klimaatverandering. Wat de internationale veiligheidsdimensie betreft, zal het KI-beleid voortbouwen op de werkzaamheden van de hoge vertegenwoordiger in het Global Tech Panel en binnen de Verenigde Naties en andere multilaterale fora.

Tot slot zal de Unie haar deskundigheid en specifieke financiële middelen ten dienste stellen om KI steviger in het ontwikkelingsbeleid te verankeren. Kunstmatige intelligentie is voorbestemd om een krachtige bijdrage aan mondiale uitdagingen en het ontwikkelingsbeleid te leveren. Zo belooft op KI gebaseerde precisielandbouw het gebruik van pesticiden, meststoffen en water te reduceren, waardoor het een ideale technologie is om de aanwassende bevolking in de ontwikkelingslanden te helpen. KI kan ook worden gebruikt om weer- en klimaatfenomenen en andere natuurverschijnselen te modelleren, zodat de lokale bevolking bijvoorbeeld kan worden gewaarschuwd in geval van extreme weersomstandigheden of dreigende rampen en erop kan anticiperen. KI en digitale technologieën kunnen betaalbare hightechoplossingen ondersteunen, onder meer voor mensen in precaire omstandigheden, met inachtneming van ethische en privacykwesties.

Internationale samenwerking üDe Unie zal haar internationale partners de hand reiken en ethische richtsnoeren inzake KI internationaal uitdragen in de loop van 2019. üDe lidstaten en de Unie worden aangemoedigd om hun internationale inspanningen op het gebied van KI op elkaar af te stemmen en ervoor te zorgen dat Europa consistente boodschappen de wereld in stuurt. üDe Unie zal in 2019 een internationale ministeriële vergadering over KI organiseren om tot een mondiale consensus over de ethische implicaties van KI te komen.  üDe Unie zal haar deskundigheid en specifieke financiële middelen ten dienste stellen om KI steviger in het ontwikkelingsbeleid te verankeren. Bijzondere aandacht zal worden besteed aan de landen van het zuidelijke Middellandse Zeegebied en Afrika.

Links:

Mededeling van de Commissie "Kunstmatige intelligentie voor Europa"

https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe  

Verklaring van samenwerking betreffende kunstmatige intelligentie

https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence )

AI Alliance

https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(1)

     De strategische groep op hoog niveau inzake industriële technologieën heeft KI aangeprezen als een van de "sleuteltechnologieën" vanwege haar horizontale potentieel voor de Europese industrie.

https://publications.europa.eu/en/publication-detail/-/publication/28e1c485-476a-11e8-be1d-01aa75ed71a1/language-en

(2)

     COM(2018) 237.

(3)

     Zoals is uiteengezet in de bovengenoemde mededeling van 25 april 2018 heeft Kunstmatige intelligentie (KI) betrekking op systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie te ondernemen om specifieke doelstellingen te verwezenlijken. Op KI gebaseerde systemen kunnen uitsluitend uit software bestaan en actief zijn in de virtuele wereld (bijvoorbeeld stemgestuurde assistenten, software voor beeldanalyse, zoekmachines en systemen voor spraak- en gezichtsherkenning), maar KI kan ook in hardwareapparaten worden geïntegreerd (bijvoorbeeld geavanceerde robots, zelfrijdende auto’s, drones of toepassingen van het internet der dingen). We maken dagelijks gebruik van KI, bijvoorbeeld om teksten te vertalen, ondertitels te genereren in video's of spam te blokkeren. Veel KI-technologieën hebben gegevens nodig om hun prestaties te verbeteren. Zodra deze technologieën goede prestaties leveren, kunnen ze de besluitvorming op hetzelfde gebied helpen verbeteren en automatiseren. Zo zal bijvoorbeeld een KI-systeem worden getraind en vervolgens worden gebruikt om cyberaanvallen op te sporen op basis van gegevens van het betrokken netwerk of systeem.

(4)

      https://www.consilium.europa.eu/en/press/press-releases/2018/06/29/20180628-euco-conclusions-final/

(5)

     Met de Digitale dag 2018, die op 10 april in Brussel plaatsvond, werd gestreefd naar gezamenlijke toezeggingen van de lidstaten in verband met de digitale toekomst van Europa. De ondertekening van de KI-verklaring verloopt via een vrijwillig en participatief proces.

(6)

     Zie nota van het voorzitterschap  11972 /18 van 14 september 2018.

(7)

     Alle begrotingscijfers met betrekking tot de geplande EU-bijdragen vanaf 2020 zijn onder voorbehoud van de goedkeuring van de rechtsgrondslag, werkprogramma's en jaarlijkse begrotingen door de bevoegde autoriteiten.

(8)

   Al deze acties moeten in overeenstemming zijn met de EU-regels inzake mededingingsrecht en staatssteun.

(9)

     In de mededeling over geconnecteerde en geautomatiseerde mobiliteit werden bijvoorbeeld de voordelen erkend die voortvloeien uit de vooruitgang op het gebied van KI, die zal dienen om nieuwe gebieden voor de ontwikkeling van bedrijven te ontsluiten en het pad te effenen voor nieuwe mobiliteitsdiensten die het vervoer veiliger, toegankelijker en duurzamer maken.

(10)

     COM(2018) 630.

(11)

   Bijvoorbeeld Galileo, het wereldwijde satellietnavigatiesysteem dat eigendom is van de EU.

(12)

      https://europa.eu/european-union/about-eu/agencies/ecsel_en

(13)

      https://ec.europa.eu/digital-single-market/en/blogposts/eurohpc-joint-undertaking-looking-ahead-2019-2020-and-beyond

(14)

     Duch-Brown et al (2017), The economics of ownership, access and trade in digital data. Joint Research Centre Digital Economy Working Paper 2017-01. https://ec.europa.eu/jrc/en/publication/eur-scientific-and-technical-research-reports/economics-ownership-access-and-trade-digital-data

(15)

https://ec.europa.eu/digital-single-market/en/news/appointment-members-high-level-expert-group-impact-digital-transformation-eu-labour-markets

(16)

     COM(2018) 435 en COM(2018) 436.

(17)

     COM(2018) 434.

(18)

     Vijf regio's hebben KI-gerelateerde prioriteiten in hun strategieën voor slimme specialisatie opgenomen en KI zou een rol kunnen spelen in de context van de aspecten van de digitale industriële transitie van de nationale of regionale strategieën voor slimme specialisatie in het licht van de EFRO-programma's na 2020: Nedersaksen [DE], Pohjois-Savo [FI], Łódzkie [PL], noordwest-Roemenië en noordoost-Roemenië. Zie: http://s3platform.jrc.ec.europa.eu/map . Er zijn ook andere regio's in Europa met KI-strategieën, zoals België.

(19)

     Het door het Gemeenschappelijk Centrum voor onderzoek ontwikkelde AI Watch zal bijdragen aan het monitoren van KI-gerelateerde ontwikkelingen en zal een aantal analysen verstrekken die noodzakelijk zijn om de uitvoering van het Europese KI-initiatief te ondersteunen. Het zal onder meer KI-indices ontwikkelen die betrekking hebben op alle voor de beleidsvorming relevante aspecten. Zulke informatie zal beschikbaar worden gesteld op het AI Watch-portal https://ec.europa.eu/knowledge4policy/ai-watch_en

(20)

     Waaronder op het gebied van sociale inclusie en werkgelegenheid, e-overheid, e-gezondheid, cruciale ontsluitende technologieën, vaardigheden, industriële transitie/slimme specialisatie enz.

(21)

     De lidstaten en de regio's worden aangemoedigd om digitale aspecten – met inbegrip van KI-aspecten – te analyseren in het kader van de herziening van de strategieën voor slimme specialisatie in het licht van toekomstige investeringen uit het Europees Fonds voor regionale ontwikkeling.

(22)

     Vertegenwoordigers worden genomineerd door de groep van de lidstaten inzake de digitalisering van het Europese bedrijfsleven en kunstmatige intelligentie.

(23)

     Voortbouwend op bestaande groepen en met inachtneming van de specifieke governance van de verschillende betrokken EU-instrumenten.

(24)

     EUCO 9/18 – 28 juni 2018.

(25)

     Zo heeft de Europese Onderzoeksraad financiering verleend voor meer dan 150 geavanceerde KI-projecten door vooraanstaande Europese onderzoekers op gebieden zoals deep learning, neurale netwerken, voorspelling, machinevertaling, natuurlijke-taalverwerking, computervisie, robotica, kunstmatige agenten en medische beeldvorming alsook governance en normen.

(26)

     Tevens zou dit ondernemingen in staat stellen hun beveiligingscapaciteit te vergroten. De Commissie zal met het comité voor het programma voor veilige samenlevingen de opname van relevante acties in het Horizon 2020-werkprogramma voor 2020 bespreken.

(27)

     Een KI-excellentiecentrum is een onderzoekscentrum met een sterke expertise op het gebied van KI. Het hoofddoel van dergelijke centra is vooruitgang op specifieke wetenschappelijke en technologische gebieden te stimuleren.

(28)

     Een referentietest- en experimenteerfaciliteit is een technologische infrastructuur die specifieke expertise en ervaring heeft op het gebied van het testen van rijpe technologie in echte of bijna echte omstandigheden (slimme ziekenhuizen, "cleanrooms", slimme steden, experimentele landbouwbedrijven, corridors voor geconnecteerd en automatisch rijden enz.).

(29)

      https://ec.europa.eu/digital-single-market/en/news/new-5g-cross-border-corridors-connected-and-automated-mobility-baltics-will-allow-testing

(30)

     De gemeenschappelijke onderneming Ecsel is een tripartiet co-investeringsmodel van de Commissie, de lidstaten en het bedrijfsleven, om onderzoek en innovatie te ondersteunen, met inbegrip van grootschalige demonstraties en proefprojecten op het gebied van micro-elektronica, integratie van kleine systemen en ingebedde software met bijzondere aandacht voor integratieprojecten.

(31)

     Nomenclatuur van territoriale eenheden voor de statistiek (Nomenclature of territorial units for statistics – NUTS 2). NUTS 2 worden gedefinieerd als basisregio's voor de toepassing van regionaal beleid.

(32)

     Er is een tekort aan meer dan 80 000 specialisten op het gebied van gegevensverwerking en -beheer (1 per 20 wetenschappers) http://www.pocbigdata.eu/monitorICTonlinevacancies/general_info/

(33)

    "In 2018 hebben ongeveer twee derde van de EU-lidstaten minder dan 10 masterprogramma's met een sterke focus op KI. Hoewel KI-modules relatief ruimer verspreid raken op verschillende onderwijsdomeinen heeft nog steeds slechts een derde van de EU-lidstaten meer dan twintig masterprogramma's met ten minste één KI-module." López-Cobo et al. (2018), Academic offer and demand for advanced profiles in the EU. Artificial Intelligence, High Performance Computing and Cybersecurity. Joint Research Centre Scientific Report.

(34)

    https://jointventure.org/images/stories/pdf/index2018.pdf

(35)

     COM(2018) 22.

(36)

    https://ec.europa.eu/digital-single-market/en/digital-opportunity-traineeships-boosting-digital-skills-job

(37)

      http://ec.europa.eu/social/BlobServlet?docId=16962&langId=en

(38)

     COM(2018) 270.

(39)

      https://ec.europa.eu/research/mariecurieactions/

(40)

     Richtlijn 2007/2/EG.

(41)

     Cetl V., Tomas R., Kotsev A., de Lima V.N., Smith R.S., Jobst M. (2019) Establishing Common Ground Through INSPIRE: The Legally-Driven European Spatial Data Infrastructure. In: Döllner J., Jobst M., Schmitz P. (eds) Service-Oriented Mapping. Lecture Notes in Geoinformation and Cartography. Springer, Cham.

(42)

      https://ec.europa.eu/digital-single-market/en/business-business-trading-practices  

(43)

      https://eur-lex.europa.eu/legal-content/NL/ALL/?uri=COM:2018:0232:FIN

(44)

     Zie de praktijken in het kader van de Europese open wetenschapscloud (EOSC). In het kader daarvan worden beste praktijken inzake de vindbaarheid en toegankelijkheid van gegevens ("FAIR data") gestimuleerd,  https://ec.europa.eu/research/openscience/index.cfm?pg=open-science-cloud

(45)

      https://ec.europa.eu/digital-single-market/en/european-legislation-reuse-public-sector-information

(46)

API’s bevorderen de uitwisseling en het gebruik van overheidsgegevens tussen de lidstaten door gemeenschappelijke benaderingen te ontwikkelen die moeten worden bevorderd door middel van experimenten en toegepast onderzoek met betrekking tot API's. Het Gemeenschappelijk Centrum voor onderzoek is in 2018 met een onderzoek hiernaar (APIs4DGov) gestart. Het onderzoek is gericht op participatie , put uit de werkzaamheden die in Europese overheidsdiensten op alle niveaus zijn verricht en draagt bij aan de uitvoering van het Europees interoperabiliteitskader en de modulaire benadering die is gekozen in het CEF-programma voor telecom. https://ec.europa.eu/digital-single-market/en/news/new-study-digital-government-apis-apis4dgov-project  

(47)

     Op het gebied van gezondheid is zulke gegevensdeling bijvoorbeeld cruciaal voor de gezamenlijke innovatie-investeringen die worden voorbereid in het kader van het thematische platform voor slimme specialisatie "Kunstmatige intelligentie en mens/machine-interface". Met de deelname van Emilia-Romagna (IT), de autonome provincie Trento (IT), Baden-Württemberg (DE), Navarra (ES), Noord-Brabant (NL) en Örebro Län (SE). Zie: http://s3platform.jrc.ec.europa.eu/artificial-intelligence  

(48)

      https://www.europeandataportal.eu/en/homepage

(49)

      https://ec.europa.eu/digital-single-market/en/news/eu-countries-will-cooperate-linking-genomic-databases-across-borders

(50)

     De Commissie heeft al een kaderpartnerschapsovereenkomst met de lidstaten opgezet voor de cofinanciering van het gebruik en de mainstreaming van ruimtegegevens van Copernicus en Galileo in combinatie met gegevens van de lidstaten en uit andere bronnen.

(51)

     ICT-13-2018-2019 van het H2020-werkprogramma 2018-2020 inzake informatie- en communicatietechnologie  

(52)

      https://eur-lex.europa.eu/legal-content/EN/ALL/?uri=COM:2018:0232:FIN

(53)

      https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1539766272141&uri=CELEX%3A52018SC0125  

(54)

      https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence . Deze werkzaamheden bouwen voort op de werkzaamheden van de Europese Groep ethiek van de exacte wetenschappen en de nieuwe technologieën. http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf

(55)

      https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(56)

      https://ec.europa.eu/digital-single-market/en/eu-cybersecurity-certification-framework

(57)

      https://ec.europa.eu/info/research-and-innovation/law-and-regulations/identifying-barriers-innovation_en

(58)

     Voortbouwend op het bestaande regelgevingskader, zoals de algemene verordening gegevensbescherming, die in mei 2018 van kracht is geworden.

(59)

     De regelgevingsbenaderingen in de algemene verordening gegevensbescherming , de richtlijn betreffende markten voor financiële instrumenten , het voorstel voor een verordening ter bevordering van billijkheid en transparantie voor zakelijke gebruikers van onlinetussenhandelsdiensten en het voorstel voor een aanbeveling van de Commissie over maatregelen om illegale online-inhoud doeltreffend te bestrijden , scheppen stuk voor stuk een precedent en reiken modellen aan voor betekenisvolle transparantie en risicobeoordeling en risicobeheer. De Commissie bestudeert (met de steun van het Europees Parlement en het AlgoAware-proefproject) verder punten van bezorgdheid en kansen op het gebied van algoritmische besluitvorming binnen de omgeving van de onlineplatforms, waar verschillende benaderingen voor betekenisvolle transparantie, billijkheid en verantwoording het vertrouwen kunnen vergroten. In de analyse wordt aandachtig gekeken naar het evenwicht dat door het bestaande regelgevingskader en de handhaving van de recente regels tot stand is gebracht alsook naar technische, markt- en maatschappelijke ontwikkelingen, en worden beleids- en regelgevingsinstrumenten verkend.

(60)

     Het HUMAINT-project van het Gemeenschappelijk Centrum voor onderzoek beoogt de impact van KI op het menselijk gedrag te begrijpen, met bijzonder aandacht voor cognitieve en sociaal-emotionele capaciteiten en besluitvorming ( https://ec.europa.eu/jrc/communities/community/humaint ).

(61)

     Terwijl het opzetten van regelgevingsproeftuinen een krachtig en soms noodzakelijk instrument is, kan innovatie in andere omstandigheden worden ondersteund met zachtere benaderingen zoals innovatiecentra en beleidslaboratoria die advies verlenen en min of meer praktisch deelnemen.

(62)

     Voor geselecteerde gebieden waar de wet de regelgevende autoriteit voldoende speelruimte laat.

(63)

https://www.sitra.fi/en/news/artificial-intelligence-based-systems-help-achieve-better-services-cost-savings-social-health-sector/  

(64)

     De Europese Commissie voert de daad bij het woord en verricht acties uit het AI@EC-actieplan met het oog op de toepassing van KI-oplossingen in Trans-Europese systemen (TES) ter ondersteuning van de belangrijkste beleidsgebieden in samenwerking met de lidstaten.

(65)

     Een tweede voorbeeld is de in het kader van AI Watch vastgestelde activiteit om een methode te ontwikkelen voor het identificeren van risico's en kansen, aanjagers en obstakels voor het gebruik van KI in de openbare dienstverlening. AI Watch zal een overzicht verstrekken van het gebruik en de toegevoegde waarde van KI-instrumenten ter ondersteuning van de openbare dienstverlening door naar de meest relevante voorbeelden in prioritaire openbare diensten te kijken. Op basis van de resultaten van de analyse zal de opdracht erin bestaan aanbevelingen te doen voor de verdere ontwikkeling van op KI gebaseerde systemen en oplossingen voor de overheid. Een ander voorbeeld zijn de initiatieven voor co-innovatie van de Europese Commissie en de lidstaten inzake de uitrol van op KI gebaseerde oplossingen voor slimme overheidsdiensten.

(66)

     Bijvoorbeeld oplossingen op basis van toepassingen op het gebied van voorspellende justitie en LegalTech-applicaties.

(67)

     ISO/IEC JTC1/SC 42