INT/1055

Artificiell intelligens – vägen framåt

YTTRANDE

Sektionen för inre marknaden, produktion och konsumtion

a)Artificiell intelligens för allmänna ändamål: vägen framåt efter förordningen om artificiell intelligens

(förberedande yttrande på begäran av Europeiska kommissionen)

b)En trygg teknik för framtiden: artificiell intelligens

(förberedande yttrande på begäran av det ungerska ordförandeskapet)

Föredragande: Sandra Parthie

1.Slutsatser och rekommendationer

1.1För att vara konkurrenskraftigt inom artificiell intelligens (AI) för allmänna ändamål måste EU investera i säker konnektivitet, motståndskraftig basinfrastruktur och en motståndskraftig leveranskedja för att säkerställa att effekterna av generativ AI kan utnyttjas av europeiska aktörer och fås att överensstämma med europeiska värden och behov.

1.2Europeiska ekonomiska och sociala kommittén (EESK) understryker att AI är ett mycket dynamiskt område och att förordningen om artificiell intelligens likaledes måste uppdateras på ett flexibelt och dynamiskt sätt för att uppnå målet om att skapa ett tillförlitligt ekosystem som respekterar EU:s grundläggande rättigheter och värden. Även om modellerna för AI för allmänna ändamål är mycket tekniska och främst relevanta i sammanhang mellan företag (B2B) har de en indirekt inverkan på arbetstagare och konsumenter. För att skingra rädslan och öka medvetenheten rekommenderar EESK att dialoger anordnas med berörda parter, däribland arbetsmarknadens parter, om förfarandekoder på arbetsplatser och arbetstagarnas rättigheter inom ramen för AI för allmänna ändamål.

1.3För att bekämpa en marknadskoncentration som domineras av stora, ofta icke-europeiska, digitala företag anser kommittén att det är viktigt att utnyttja konkurrenspolitikens verktyg (bedömning av eventuellt missbruk av ett företags dominerande ställning, kontroll av företagskoncentrationer) för att förebygga, identifiera och ta itu med kritiska beteenden och situationer. Samordnade europeiska och nationella investeringar i innovation behövs för att bidra till att utveckla EU:s värdekedjor och värdeskapande inom AI.

1.4De frivilliga förfarandekoder som planeras i samband med förordningen om artificiell intelligens kommer att göra det lättare för företag att följa bestämmelserna. EESK förväntar sig att användare, utvecklare och andra AI-intressenter därigenom får tillgång till riktlinjer, bästa praxis för tillämpning av förordningen, mallar, information om tröskelvärden och standarder samt lättanvända checklistor.

1.5Europeiska AI-byrån kommer att spela en avgörande roll för att genomföra och verkställa bestämmelserna i förordningen om artificiell intelligens, bland annat genom att tillhandahålla vägledning, fastställa uppförandekoder, främja internationellt samarbete inom AI, främja europeiska standarder och verkställa EU-bestämmelser gentemot såväl europeiska som icke-europeiska företag som är verksamma i EU. AI-byrån och de nationella myndigheterna måste ha de resurser som krävs för att övervaka, utvärdera och verkställa bestämmelserna i lagstiftningen, och säkerställa efterlevnad och skyddet av konsumenternas rättigheter.

1.6Kommittén är medveten om de farhågor som olika kategorier av innehållsskapare för närvarande har när det gäller användningen av generativ AI. Det är av yttersta vikt att säkerställa att AI utvecklas på ett sätt som respekterar patenterbarhet, upphovsrätt och immateriella rättigheter.

1.7AI kan öka energi- och resurseffektiviteten genom att förbättra processer och tillhandahålla lösningar som möjliggör virtuella provningar, digitala tvillingar och andra alternativ för att minska materialanvändningen. AI-system och AI-modeller och utvecklingen av dem påverkar också miljön och energianvändningen, vilket måste mätas noggrant och tas i beaktande.

2.Allmänna kommentarer

2.1I och med att förordningen om artificiell intelligens är i kraft förskjuts nu fokus till att genomföra förordningen med avseende på AI för allmänna ändamål och producera konkurrenskraftig AI ”made in Europe”. AI är ett mycket dynamiskt område och förordningen om artificiell intelligens måste uppdateras kontinuerligt för att uppnå målet om att skapa ett tillförlitligt ekosystem som respekterar EU:s grundläggande rättigheter och värden.

2.2Eftersom förordningen om artificiell intelligens är mycket omfattande är detta yttrande inriktat på de viktigaste aspekterna av AI för allmänna ändamål som tränas med icke-personuppgifter och tillämpas i ett sammanhang mellan företag (B2B) eller mellan företag och myndigheter (B2G), t.ex. i anordningar i sakernas internet. Syftet är att behandla leverantörer och tillhandahållare samt frågor som rör innovation, investeringar i alla delar av AI-värdekedjan, främjande av användningsfall, tillgång till data samt det framtida styrningssystemet med anknytning till AI för allmänna ändamål.

2.3Enligt förordningen om artificiell intelligens avser AI för allmänna ändamål en AI-modell ”som uppvisar betydande generalitet och på ett kompetent sätt kan utföra ett brett spektrum av distinkta uppgifter oavsett hur modellen släppts ut på marknaden och som kan integreras i en rad system eller tillämpningar i efterföljande led” 1 . AI-system för allmänna ändamål kan därför utföra många uppgifter, även sådana som de ursprungligen inte tränats för. Denna definition av AI för allmänna ändamål omfattar – som en paraplyterm – grundmodeller och stora språkmodeller som gör generativ AI till en typ av AI-grundmodell och därmed även till ett AI-system för allmänna ändamål.

2.4I förordningen behandlas riskerna med omfattande utveckling och användning av AI för allmänna ändamål. Syftet är att införa en ram för säker hantering av tekniken. I detta sammanhang stöder EESK kommissionens genomförande av AI-pakten och betonar att eventuella lärdomar som dras av detta, t.ex. av tidiga användare, skulle kunna vara till nytta för mikroföretag samt små och medelstora företag och därför bör presenteras i ett format som gör dem lättillgängliga för denna grupp.

2.5Vi beklagar att man i förordningen inte tar upp risken med att inte utveckla och använda AI för allmänna ändamål, som främst ligger i att europeiska företag förlorar konkurrenskraft, vilket skulle kunna leda till minskad försäljning, förlorade arbetstillfällen, ekonomisk stagnation och fattigdom. EESK håller med om att AI måste regleras och om de risker som dess utveckling och användning medför, men efterlyser också en noggrann övervakning av förordningens effekter och att justeringar övervägs om förordningen visar sig ha en negativ inverkan på hur väl europeiska AI-inriktade företag kan bedriva innovation. Detta kan ske i synnerhet om företagen är osäkra på hur förordningen ska tillämpas på dem eller om de tillämpar den på fel sätt eller generellt kommer fram till att förordningen är alltför komplex för att det ska vara mödan värt att investera och bedriva innovation på den europeiska marknaden.

2.6Kommittén är medveten om att viktig utveckling inom AI för allmänna ändamål leds av aktörer utanför EU:s jurisdiktion. Europeiska värden (särskilt hållbarhet, sociala rättigheter och respekt för mänskliga rättigheter och miljön), dataskydd och öppenhet måste icke desto mindre vara centrala kriterier för alla utvecklare och leverantörer samt för användare av AI, särskilt i högrisktillämpningar. I andra fall av AI-användning bör användare och konsumenter göras medvetna om tekniken. Dessutom måste icke-europeiska aktörer som är verksamma på den europeiska marknaden eller som använder europeiska data uppfylla dessa krav.

3.Särskilda kommentarer

3.1Styrning

3.1.1De förfarandekoder som planeras i samband med AI för allmänna ändamål och förordningen om artificiell intelligens kommer att göra det lättare för företag att följa reglerna. EESK förväntar sig att användare, utvecklare och andra AI-intressenter därigenom får tillgång till riktlinjer, bästa praxis för tillämpning av förordningen, mallar, information om tröskelvärden och standarder samt lättanvända checklistor. Kvaliteten på de mallar som AI-byrån tillhandahåller kommer att avgöra kvaliteten på den information som leverantörer av AI för allmänna ändamål måste tillhandahålla.

3.1.2EESK rekommenderar med kraft att man anordnar dialoger med berörda parter, däribland arbetsmarknadens parter, om förfarandekoder på arbetsplatser, eftersom dessa kommer att göra det lättare för leverantörer och användare att följa bestämmelserna och bidra till att bygga upp förtroendet för AI, inbegripet AI för allmänna ändamål. Kommittén understryker att efterlevnaden av arbetstagarnas rättigheter och kraven på säkra arbetsplatser alltid måste säkerställas, bland annat genom att se till att arbetstagarna förstår AI och använder den på ett ansvarsfullt sätt. I detta sammanhang förespråkar EESK att man tillhandahåller lämplig utbildning, stärker den allmänna digitala kompetensen och ökar medvetenheten bland allmänheten. 2

3.1.3Europeiska AI-byrån kommer att spela en avgörande roll för att genomföra och verkställa bestämmelserna i förordningen om artificiell intelligens, bland annat genom att tillhandahålla vägledning, fastställa uppförandekoder, främja internationellt samarbete inom AI, främja europeiska standarder och verkställa EU-bestämmelser gentemot såväl europeiska som icke-europeiska företag som är verksamma i EU. EESK understryker att AI-byrån måste kunna bedöma förfarandena för att träna modellerna och erbjuda en möjlighet till oberoende granskning. Man bör inrätta effektiva klagomålsmekanismer för allmänheten och användare när det gäller AI för allmänna ändamål och samordna gränsöverskridande utredningar.

3.1.4Standarder för AI-system, till exempel för att reglera deras robusthet och tillförlitlighet på det medicinska området eller vid rekrytering, är avgörande för utvecklingen av AI-modeller och användningsfall. EESK anser att det är av globalt intresse att snabbt inrätta och tillämpa standarder för utvärdering av AI-system för allmänna ändamål och att dessa standarder bör harmoniseras åtminstone på EU-nivå, men helst globalt.

3.1.5En kontinuerlig utvärdering av förordningens effekter på AI för allmänna ändamål i EU är avgörande för att förordningen ska uppnå de avsedda effekterna på medellång sikt. Till skillnad från den ståndpunkt som USA intar omfattar EU:s vision, som EESK stöder, förbud mot teknikens mest invasiva former och strikta regler där företag i ”hyperskala”-kategorin åläggs att vara mer öppna om hur de utformar AI-baserade produkter.

3.1.6Kommittén är medveten om de farhågor som olika kategorier av innehållsskapare för närvarande har när det gäller användningen av generativ AI. Det är av yttersta vikt att säkerställa att AI utvecklas på ett sätt som respekterar patenterbarhet, upphovsrätt och immateriella rättigheter. Upphovsmän (till exempel av litterära eller konstnärliga verk) bör ha kvar möjligheten att bevilja eller vägra att ge tillstånd att använda deras verk, inbegripet av modeller för AI för allmänna ändamål.

3.1.7EESK uppmanar AI-byrån att hjälpa berörda parter att förstå andra internationella AI-ramar (till exempel OECD:s ramar 3 ) och AI-bestämmelser, såsom dem i Kina och USA, och förstå hur de samverkar med EU:s förordning om artificiell intelligens, inbegripet frågor som ”öppna” modeller i förhållande till ”licensbaserade” modeller. AI-byrån bör också samarbeta med andra EU-myndigheter och myndigheter i medlemsstaterna som hanterar dataåtkomst för företag för att göra data mer tillgängliga, särskilt för mikroföretag samt små och medelstora företag. Kommittén uppmanar också kommissionen, Europeiska utrikestjänsten och medlemsstaterna att anta en ”flerpartsstrategi” när det gäller insatser för att skapa en global AI-styrningsmekanism, såsom Förenta staternas presidentdekret om AI 4 och den kinesiska regeringens åtgärder för hantering av AI för allmänna ändamål 5 . Denna strategi skulle också kunna inbegripa regelbundna internationella och inkluderande politiska dialoger om AI-styrning för att undvika att det sker en splittring i olika regioner.

3.1.8EESK uppmanar kommissionen och de berörda nationella myndigheterna att tillhandahålla tillräcklig finansiering för ett effektivt genomförande av förordningen om artificiell intelligens och att samarbeta nära med AI-byrån så att den kan uppnå de angivna målen. Utan det kommer AI-byrån inte att kunna locka till sig och behålla de begåvningar och AI-experter som krävs för att fullgöra ovanstående uppgifter.

3.1.9EU antog nyligen dataförordningen för att förbättra datadelningen och tillgången till data. EU-strategin för data och dataförvaltningsakten är i samma anda. Dessa bestämmelser måste nu genomföras och omsättas i praktiken. Deras effekter måste noga övervakas och utvärderas innan ytterligare regleringsförsök för att främja dataåtkomst övervägs.

3.1.10Förordningen om artificiell intelligens innehåller bestämmelser om regulatoriska sandlådor på nationell nivå, vilket ger nya aktörer möjlighet att experimentera. EESK anser att det är mycket viktigt att rationalisera de insatser som görs inom ramen för dessa sandlådor och deras mål samt att medlemsstaterna och deltagarna delar de lärdomar som dragits med varandra.

3.2Innovation och investeringar

3.2.1Förordningen om artificiell intelligens syftar till att främja ett säkert och tillförlitligt AI-ekosystem. Eftersom användare och konsumenter kan dra nytta av AI-innovation genom mer avancerade och effektiva produkter och tjänster som används inom sektorer som hälsa och hållbar energi är det viktigt att genomförandet av förordningen inte hindrar sådan innovation.

3.2.2Framtiden för AI för allmänna ändamål ”made in Europe” är beroende av datorkraft, chipp, molnkapacitet och data. Allt detta kräver betydande investeringar i mark, energi och datacentralutrustning. Investeringarna, liksom andra incitament i detta syfte, bör inriktas på säker konnektivitet och motståndskraftig basinfrastruktur, eftersom båda dessa faktorer är avgörande om Europa vill bli digitalt suveränt. EESK vill särskilt framhålla IMEC i Belgien, som är världens ledande oberoende FoU-nav inom nanoelektronik. Det är ett kompetenscentrum i Europa och en central del av AI-värdekedjan och bör vidareutvecklas och tas efter.

3.2.2.1Molnvärdar har oerhört stor makt att övervaka, upptäcka och hämma konkurrenter. I den nuvarande situationen får mindre europeiska leverantörer nöja sig med att finjustera amerikanska modeller till skräddarsydda eller domänspecifika system som kräver mindre datorkraft, en mindre mängd data och mindre arbetskraft. Detta innebär att utvecklare och tillhandahållare i senare led är beroende av större leverantörer av modeller i tidigare led. Europeiska leverantörer av molntjänster kan vara en del av en lösning som uppfyller kraven på överenstämmelse med europeiska värden och säkerhetsbehov och bör främjas, till exempel genom att deras tjänster används i EU:s offentliga upphandlingar.

3.2.3Marknaden för AI-chipp som kan köra modeller under deras träningsfas och hantera användarförfrågningar är starkt koncentrerad och domineras av ett mycket litet antal företag, särskilt från Taiwan och USA. Uppskattningsvis behövs investeringar till ett värde av 5–7 biljoner US-dollar för att bygga upp en motsvarande suverän produktionskapacitet för chipp i EU. Att bilda strategiska partnerskap med flera tillförlitliga allierade på detta område skulle kunna vara ett genomförbart och billigare alternativ.

3.2.4Generativ AI kommer att påverka bland annat läkemedels- och tillverkningsindustrierna, mediebranschen, fordons-, flyg- och rymd- och försvarsindustrierna, den medicinska industrin, elektronik- och energiindustrierna samt tjänstesektorn genom att AI-modeller integreras i centrala processer. Denna integrering i de stödprocesser som används i många organisationer kommer att påverka marknadsföring, design, företagskommunikation, utbildning och programvaruutveckling.

3.3Främjande av användningsfall

3.3.1Genom AI för allmänna ändamål kommer kognitiva uppgifter och tankearbete att i betydande grad ersättas av AI-stödd automatisering. Företag, avsett storlek, behöver teknisk expertis och tekniskt stöd för att anpassa sig till den nya AI-miljön, utnyttja den på lämpligt sätt och rätta sig efter det tillämpliga och eventuellt snabbt föränderliga regelverket. Likaledes måste de effekter som denna omställning kan få på arbetsmarknaden och arbetstagarna hanteras genom anpassning av utbildningsprogram och läroplaner, omskolning och fortbildning av arbetstagare och stöd till dem som har svårare att anpassa sig till de förändringar som dessa processer innebär.

3.3.2EESK är av uppfattningen att man i framtiden systematiskt kommer att upptäcka nya material, läkemedel och tjänster med hjälp av generativ AI-teknik. Med generativ AI kan man ta fram nya behandlingar billigare och snabbare, och skapa modeller som är optimerade för specifika mål och begränsningar, vilket påskyndar designprocessen. Europa måste gå i bräschen för denna utveckling för att kunna dra nytta av den. EU har redan flera superdatorcentrum. Vi uppmanar kommissionen att se till att den kapacitet som tillhandahålls är tillräcklig för att sådana projekt ska kunna genomföras i Europa, och att öka medvetenheten bland berörda parter om detta utbud och om möjligheterna till samarbete mellan universitet och näringsliv.

3.3.3För att man ska kunna öka tillgången till och användningen av AI-system för allmänna ändamål måste man kunna förklara hur de fungerar. Öppenhet skulle till exempel kunna bidra till effektivare automatisering, lättare beslutsfattande, förebyggande av misstag i repetitiva uppgifter, snabbare felsökning i processer och ökad produktivitet. Vinsterna i energi- och resurseffektivitet genom bättre processer och lösningar som möjliggör virtuella tester, digitala tvillingar och andra alternativ för att minska materialanvändningen måste vägas mot den inverkan som AI-system för allmänna ändamål har på miljön och energianvändningen.

3.3.4Kommittén är medveten om de farhågor som olika kategorier av innehållsskapare för närvarande har när det gäller användningen av generativ AI-teknik. EU:s upphovsrättsliga ram innehåller viktiga regler för att skydda innehållsskapare när deras verk används av AI-utvecklare. De undantag för text- och datautvinning som infördes genom direktiv (EU) 2019/790 utgör en relevant ram för användning av skyddat innehåll för träning av AI. I synnerhet gäller undantaget för text- och datautvinning i artikel 4 under förutsättning att rättigheterna till det innehåll som används för text- och datautvinning inte uttryckligen har reserverats av rättsinnehavarna. Rättsinnehavare kan utnyttja denna undantagsmöjlighet för att förhandla fram kommersiella licenser med AI-utvecklare för användning av deras innehåll. EESK uppmanar kommissionen och den framtida AI-byrån att se till att alla utvecklare och användare av tillämpningar som bygger på AI för allmänna ändamål följer reglerna.

3.4EU:s konkurrenskraft på AI-området

3.4.1EESK uppmanar kommissionen att främja konkurrensen på AI-området genom att säkerställa överensstämmelse med EU:s förordning om digitala marknader i syfte att anpassa den till AI-värdekedjans struktur och genom att tillhandahålla en gynnsam ram för forskning, utveckling och uppskalning av europeiska AI-modeller, med europeiska värden som vägledande principer.

3.4.2För att bekämpa en marknadskoncentration som domineras av stora, ofta icke-europeiska, digitala företag anser EESK att det är viktigt att utnyttja konkurrenspolitikens verktyg (bedömning av eventuellt missbruk av ett företags dominerande ställning, kontroll av företagskoncentrationer) för att förebygga, identifiera och ta itu med kritiska beteenden och situationer. Samordnade europeiska och nationella investeringar i innovation behövs för att bidra till att utveckla EU:s värdekedjor och värdeskapande inom AI.

3.4.3Konkurrensmyndigheterna i EU måste utnyttja sin kapacitet och se till att aktörer i ”hyperskala”-kategorin inte missbrukar sin ställning på marknaderna mellan företag (B2B) eller mellan företag och myndigheter (B2G). De är i brådskande behov av kvalificerad personal för att följa upp verkställandet av EU:s politik, såsom förordningen om digitala marknader. Avtal som de mellan EU och USA om samarbete om halvledare för att säkerställa öppenhet om subventioner och tillhandahålla ett system för tidig varning i händelse av störningar måste genomföras och utvidgas till att omfatta andra berörda parter.

3.4.4Det är viktigt att hjälpa europeiska mikroföretag samt små, medelstora och stora företag att få tillgång till de resurser som krävs för att utveckla AI-modeller, såsom forskningsanläggningar, datorkapacitet, data och kvalificerad arbetskraft. Därigenom behöver de inte nöja sig med att vara användare av AI-lösningar utan kan även bli utvecklare och utveckla AI-modeller för allmänna ändamål utifrån sina egna behov och produkter. Tillgången till superdatorkapacitet måste vara omfattande, eftersom det krävs långsiktig tillgång till datorkraft för att träna modeller.

3.4.5När de väl har utvecklats bör EU sträva efter att främja och sprida europeiska lösningar genom organ som G7, G20 och andra internationella forum och standardiseringsorganisationer.

3.4.6Även om förordningen om artificiell intelligens i detalj behandlar regleringen av AI för allmänna ändamål är statistiska uppgifter om status quo för dessa modeller i Europa, deras utveckling och deras inverkan knapphändiga. Detta bör åtgärdas genom att frågan tas upp i Eurostats IKT-undersökning. De insamlade uppgifterna skulle då mycket väl kunna användas för den ovannämnda kontinuerliga utvärderingen av förordningen om artificiell intelligens.

Bryssel den 1 oktober 2024.

Ordförande för sektionen för inre marknaden, produktion och konsumtion

Sandra PARTHIE

_____________

(1)    Artikel 3.63.

(2)    Se även EESK:s befintliga och kommande yttranden som särskilt fokuserar på användning av AI på arbetsplatsen och för att uppnå mer jämlika och inkluderande samhällen.

(3)       https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449 .

(4)       www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/ .

(5)      Interim Measures for the Management of Generative Artificial Intelligence Services.