?

EUROPEAN COMMISSIONKOMISJA EUROPEJSKA
Brussels, 8.4.2019Bruksela, dnia 8.4.2019
COM(2019) 168 finalCOM(2019) 168 final
COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS EMPTYKOMUNIKAT KOMISJI DO PARLAMENTU EUROPEJSKIEGO, RADY, EUROPEJSKIEGO KOMITETU EKONOMICZNO-SPOŁECZNEGO I KOMITETU REGIONÓW EMPTY
Building Trust in Human-Centric Artificial IntelligenceBudowanie zaufania do sztucznej inteligencji ukierunkowanej na człowieka
1.INTRODUCTION — THE EUROPEAN AI STRATEGY1.WPROWADZENIE – EUROPEJSKA STRATEGIA NA RZECZ SZTUCZNEJ INTELIGENCJI
Artificial intelligence (AI) has the potential to transform our world for the better: it can improve healthcare, reduce energy consumption, make cars safer, and enable farmers to use water and natural resources more efficiently. AI can be used to predict environmental and climate change, improve financial risk management and provides the tools to manufacture, with less waste, products tailored to our needs. AI can also help to detect fraud and cybersecurity threats, and enables law enforcement agencies to fight crime more efficiently.Sztuczna inteligencja (SI) może zmienić nasz świat na lepszy: może przyczynić się do poprawy opieki zdrowotnej, zmniejszenia zużycia energii, zwiększenia bezpieczeństwa samochodów oraz bardziej wydajnego użytkowania wody i zasobów naturalnych przez rolników. Sztuczną inteligencję można wykorzystać do przewidywania zmiany środowiska i klimatu, poprawy zarządzania ryzykiem finansowym oraz zapewnienia narzędzi do wytwarzania produktów dostosowanych do naszych potrzeb, generujących jak najmniejszą ilość odpadów. Sztuczna inteligencja może również pomóc w wykrywaniu nadużyć finansowych i zagrożeń dla cyberbezpieczeństwa oraz umożliwić organom ścigania skuteczniejsze zwalczanie przestępczości.
AI can benefit the whole of society and the economy. It is a strategic technology that is now being developed and used at a rapid pace across the world. Nevertheless, AI also brings with it new challenges for the future of work, and raises legal and ethical questions.Sztuczna inteligencja może przynieść korzyści całemu społeczeństwu i gospodarce. Jest to technologia strategiczna, którą obecnie rozwija się i jest wykorzystywana w szybkim tempie na całym świecie. Sztuczna inteligencja niesie ze sobą nowe wyzwania dla przyszłości pracy i rodzi wątpliwości natury prawnej i etycznej.
To address these challenges and make the most of the opportunities which AI offers, the Commission published a European strategy 1 in April 2018. The strategy places people at the centre of the development of AI — human-centric AI. It is a three-pronged approach to boost the EU’s technological and industrial capacity and AI uptake across the economy, prepare for socio-economic changes, and ensure an appropriate ethical and legal framework.Aby przezwyciężyć te problemy i w jak największym stopniu wykorzystać możliwości stwarzane przez SI, w kwietniu 2018 r. Komisja opublikowała strategię europejską. 1  Strategia w centrum rozwoju SI stawia człowieka – SI ukierunkowana na człowieka. Jest to trzytorowe podejście do zwiększenia zdolności technologicznych i przemysłowych UE oraz wykorzystania SI w całej gospodarce, przygotowania się do zmian społeczno-gospodarczych oraz zapewnienia odpowiednich ram etycznych i prawnych. 
To deliver on the AI strategy, the Commission developed together with Member States a coordinated plan on AI 2 , which it presented in December 2018, to create synergies, pool data — the raw material for many AI applications — and increase joint investments. The aim is to foster cross-border cooperation and mobilise all players to increase public and private investments to at least EUR 20 billion annually over the next decade 3 . The Commission doubled its investments in AI in Horizon 2020 and plans to invest EUR 1 billion annually from Horizon Europe and the Digital Europe Programme, in support notably of common data spaces in health, transport and manufacturing, and large experimentation facilities such as smart hospitals and infrastructures for automated vehicles and a strategic research agenda.  W ramach działań dotyczących strategii na rzecz SI, Komisja wypracowała wraz z państwami członkowskimi skoordynowany plan w dziedzinie SI 2 , przedstawiony w grudniu 2018 r. w celu stworzenia synergii i zebrania danych – surowca dla wielu zastosowań SI – oraz zwiększenia wspólnych inwestycji. Celem planu jest wzmocnienie współpracy transgranicznej oraz mobilizacja wszystkich zainteresowanych podmiotów w celu zwiększenia inwestycji publicznych i prywatnych do poziomu co najmniej 20 mld EUR rocznie w kolejnej dekadzie 3 . Komisja podwoiła swoje inwestycje w SI w ramach programu „Horyzont 2020” i planuje zainwestować 1 mld EUR rocznie z programu „Horyzont Europa” i programu „Cyfrowa Europa”, wspierając w szczególności wspólne przestrzenie danych w dziedzinie zdrowia, transportu i produkcji oraz duże obiekty eksperymentalne, takie jak inteligentne szpitale i infrastrukturę dla pojazdów zautomatyzowanych, a także program badań strategicznych.
To implement such a common strategic research, innovation and deployment agenda the Commission has intensified its dialogue with all relevant stakeholders from industry, research institutes and public authorities. The new Digital Europe programme will also be crucial in helping to make AI available to small and medium-size enterprises across all Member States through digital innovation hubs, strengthened testing and experimentation facilities, data spaces and training programmes.Aby zrealizować ten wspólny program badań strategicznych, innowacji i wdrożenia, Komisja zintensyfikowała dialog ze wszystkimi zainteresowanymi stronami reprezentującymi przemysł, instytuty badawcze i władze publiczne. Nowy program „Cyfrowa Europa” będzie również miał kluczowe znaczenie dla umożliwienia dostępu do SI małym i średnim przedsiębiorstwom we wszystkich państwach członkowskich za pośrednictwem ośrodków innowacji cyfrowych, ulepszonych obiektów eksperymentalnych i doświadczalnych, przestrzeni danych i programów szkoleniowych.
Building on its reputation for safe and high-quality products, Europe’s ethical approach to AI strengthens citizens’ trust in the digital development and aims at building a competitive advantage for European AI companies. The purpose of this Communication is to launch a comprehensive piloting phase involving stakeholders on the widest scale in order to test the practical implementation of ethical guidance for AI development and use.Europejskie etyczne podejście do SI, oparte na renomie bezpiecznych i wysokiej jakości produktów, wzmacnia zaufanie obywateli do postępu cyfrowego i ma na celu stworzenie przewagi konkurencyjnej europejskich przedsiębiorstw działających w obszarze SI. Celem niniejszego komunikatu jest uruchomienie kompleksowego etapu pilotażowego z udziałem jak najszerszego kręgu zainteresowanych stron w celu przetestowania praktycznego wdrażania wytycznych w zakresie etyki w odniesieniu do rozwoju i wykorzystania SI.
2.BUILDING TRUST IN HUMAN-CENTRIC AI2.BUDOWANIE ZAUFANIA DO SI UKIERUNKOWANEJ NA CZŁOWIEKA
The European AI strategy and the coordinated plan make clear that trust is a prerequisite to ensure a human-centric approach to AI: AI is not an end in itself, but a tool that has to serve people with the ultimate aim of increasing human well-being. To achieve this, the trustworthiness of AI should be ensured. The values on which our societies are based need to be fully integrated in the way AI develops.Europejska strategia w zakresie SI oraz skoordynowany plan jasno wskazują, że zaufanie jest warunkiem wstępnym dla zapewnienia podejścia do SI ukierunkowanego na człowieka: Sztuczna inteligencja nie jest celem samym w sobie, ale narzędziem, które musi służyć ludziom, mającym na względzie zwiększenie dobrostanu ludzi. W tym celu należy zadbać o wiarygodność SI. Wartości, na których opierają się nasze społeczeństwa, powinny być w pełni zintegrowane z kierunkiem rozwoju SI.
The Union is founded on the values of respect for human dignity, freedom, democracy, equality, the rule of law and respect for human rights, including the rights of persons belonging to minorities 4 . These values are common to the societies of all Member States in which pluralism, non-discrimination, tolerance, justice, solidarity and equality prevail. In addition, the EU Charter of Fundamental Rights brings together – in a single text – the personal, civic, political, economic and social rights enjoyed by people within the EU.Unia opiera się na wartościach, takich jak poszanowanie godności osoby ludzkiej, wolność, demokracja, równość, praworządność, jak również poszanowanie praw człowieka, w tym praw osób należących do mniejszości 4 . Wartości te są wspólne dla społeczeństw wszystkich państw członkowskich, w których panuje pluralizm, niedyskryminacja, tolerancja, sprawiedliwość, solidarność i równość. Oprócz tego, Karta praw podstawowych Unii Europejskiej ujmuje w jednym tekście wszystkie prawa jednostki, prawa obywatelskie, polityczne, gospodarcze i społeczne, z których korzystają mieszkańcy Unii.
The EU has a strong regulatory framework that will set the global standard for human-centric AI. The General Data Protection Regulation ensures a high standard of protection of personal data, and requires the implementation of measures to ensure data protection by design and by default 5 . The Free Flow of Non-Personal Data Regulation removes barriers to the free movement of non-personal data and ensures the processing of all categories of data anywhere in Europe. The recently adopted Cybersecurity Act will help to strengthen trust in the online world, and the proposed ePrivacy Regulation 6 also aims at this goal.UE dysponuje silnymi ramami regulacyjnymi, które określą globalny standard w odniesieniu do SI ukierunkowanej na człowieka. Ogólne rozporządzenie o ochronie danych zapewnia wysoki standard ochrony danych osobowych i wymaga wdrożenia środków mających na celu zapewnienie ochrony danych już w fazie projektowania oraz domyślnie 5 . Rozporządzenie w sprawie swobodnego przepływu danych nieosobowych usuwa przeszkody w swobodnym przepływie danych nieosobowych i pozwala na przetwarzanie wszystkich kategorii danych w dowolnym miejscu w Europie. Przyjęty niedawno akt ws. cyberbezpieczeństwa przyczyni się do wzmocnienia zaufania do internetu, a proponowane rozporządzenie w sprawie prywatności i łączności elektronicznej 6 również zmierza do osiągnięcia tego celu.
Nevertheless, AI brings new challenges because it enables machines to “learn” and to take and implement decisions without human intervention. Before long, this kind of functionality will become standard in many types of goods and services, from smart phones to automated cars, robots and online applications. Yet, decisions taken by algorithms could result from data that is incomplete and therefore not reliable, they may be tampered with by cyber-attackers, or they may be biased or simply mistaken. Unreflectively applying the technology as it develops would therefore lead to problematic outcomes as well as reluctance by citizens to accept or use it.Sztuczna inteligencja niesie ze sobą nowe wyzwania, ponieważ umożliwia „uczenie się” przez maszyny oraz podejmowanie i wdrażanie decyzji bez udziału człowieka. Już niedługo ten rodzaj funkcjonalności stanie się standardem w przypadku wielu rodzajów towarów i usług, od smartfonów po pojazdy zautomatyzowane, roboty i aplikacje internetowe. Jednak decyzje podejmowane za pomocą algorytmów mogą się opierać na niekompletnych danych, przez co nie są wiarygodne, mogą być zafałszowane w wyniku cyberataków, mogą też być nieobiektywne lub po prostu błędne. Bezrefleksyjne poleganie na technologii może prowadzić do otrzymania problematycznych wyników, a także może zniechęcić obywateli do ich uznania lub wykorzystania.
Instead, AI technology should be developed in a way that puts people at its centre and is thus worthy of the public’s trust. This implies that AI applications should not only be consistent with the law, but also adhere to ethical principles and ensure that their implementations avoid unintended harm. Diversity in terms of gender, racial or ethnic origin, religion or belief, disability and age should be ensured at every stage of AI development. AI applications should empower citizens and respect their fundamental rights. They should aim to enhance people’s abilities, not replace them, and also enable access by people with disabilities. W związku z tym technologia SI powinna być rozwijana w sposób, który stawia człowieka w centrum i dzięki temu jest godna zaufania publicznego. Oznacza to, że zastosowania SI powinny być zgodne nie tylko z prawem, ale również z zasadami etycznymi i gwarantować, by ich zastosowania nie powodowały niezamierzonych szkód. Na każdym etapie rozwoju SI należy zapewnić różnorodność pod względem płci, pochodzenia rasowego lub etnicznego, religii lub przekonań, niepełnosprawności i wieku. Zastosowania SI powinny wzmocnić pozycję obywateli i zapewnić poszanowanie ich praw podstawowych. Ich celem powinno być zwiększenie ludzkich możliwości, a nie ich zastąpienie, a także umożliwienie dostępu osobom z niepełnosprawnościami. 
Therefore, there is a need for ethics guidelines that build on the existing regulatory framework and that should be applied by developers, suppliers and users of AI in the internal market, establishing an ethical level playing field across all Member States. This is why the Commission has set up a high-level expert group on AI 7 representing a wide range of stakeholders and has tasked it with drafting AI ethics guidelines as well as preparing a set of recommendations for broader AI policy. At the same time, the European AI Alliance 8 , an open multi-stakeholder platform with over 2700 members, was set up to provide broader input for the work of the AI high-level expert group.W związku z tym istnieje potrzeba opracowania wytycznych w zakresie etyki, które opierałyby się na istniejących ramach regulacyjnych i które powinny być stosowane przez projektantów, dostawców i użytkowników SI na rynku wewnętrznym, przez ustanowienie jednakowych zasad etycznych we wszystkich państwach członkowskich. Dlatego też Komisja powołała grupę ekspertów wysokiego szczebla ds. SI 7 , reprezentującą szeroki krąg zainteresowanych stron, która opracowała wytyczne w zakresie etyki dotyczące SI oraz przygotowała zestaw zaleceń dotyczących szerszej polityki w zakresie sztucznej inteligencji. Jednocześnie utworzono europejski sojusz na rzecz SI 8 , otwartą platformę z udziałem ponad 2 700 członków, w celu zapewnienia szerszego wkładu w prace grupy ekspertów wysokiego szczebla ds. SI.
The AI high-level expert group published a first draft of the ethics guidelines in December 2018. Following a stakeholder consultation 9  and meetings with representatives from Member States 10 , the AI expert group has delivered a revised document to the Commission in March 2019. In their feedback so far, stakeholders overall have welcomed the practical nature of the guidelines and the concrete guidance they offer to developers, suppliers and users of AI on how to ensure trustworthiness.Grupa ekspertów wysokiego szczebla ds. SI opublikowała pierwszy projekt wytycznych w zakresie etyki w grudniu 2018 r. W oparciu o konsultacje z zainteresowanymi stronami 9 oraz spotkania z przedstawicielami państw członkowskich 10 grupa ekspertów wysokiego szczebla ds. SI przedstawiła Komisji poprawiony dokument w marcu 2019 r. W dotychczasowych informacjach zwrotnych zainteresowane strony zasadniczo przyjęły z zadowoleniem praktyczny charakter wytycznych i konkretne wytyczne oferujące projektantom, dostawcom i użytkownikom SI wskazówki na temat tego, jak zapewnić wiarygodność.
2.1. Guidelines for trustworthy AI drafted by the AI high-level expert group2.1. Wytyczne w zakresie etyki dotyczące wiarygodnej sztucznej inteligencji przygotowane przez grupę ekspertów wysokiego szczebla ds. SI
The guidelines drafted by the AI high-level expert group, to which this Communication refers 11 , build in particular on the work done by the European Group on Ethics in Science and New Technologies and the Fundamental Rights Agency.Wytyczne opracowane przez grupę ekspertów wysokiego szczebla ds. SI, do których odnosi się niniejszy komunikat 11 , opierają się w szczególności na pracach Europejskiej Grupy do spraw Etyki w Nauce i Nowych Technologiach (EGE) oraz Agencji Praw Podstawowych Unii Europejskiej (FRA).
The guidelines postulate that in order to achieve ‘trustworthy AI’, three components are necessary: (1) it should comply with the law, (2) it should fulfil ethical principles and (3) it should be robust.W wytycznych stwierdzono, że aby osiągnąć „wiarygodną sztuczną inteligencję” niezbędne są trzy elementy: (1) powinna ona być zgodna z przepisami prawa (2), powinna być rozwijana z poszanowaniem zasad etycznych i (3) powinna być solidna.
Based on these three components and the European values set out in section 2, the guidelines identify seven key requirements that AI applications should respect to be considered trustworthy. The guidelines also include an assessment list to help check whether these requirements are fulfilled.W oparciu o te trzy składniki i wartości europejskie, o których mowa w sekcji 2, w wytycznych określono siedem kluczowych wymogów, które należy spełnić, aby zastosowania SI można było uznać za wiarygodne. Wytyczne zawierają również listę kontrolną pomocną w sprawdzaniu, czy wymogi te zostały spełnione.
The seven key requirements are:Siedem kluczowych wymogów to:
·Human agency and oversight·przewodnia i nadzorcza rola człowieka;
·Technical robustness and safety·techniczna solidność i bezpieczeństwo;
·Privacy and data governance·ochrona prywatności i danych;
·Transparency·przejrzystość;
·Diversity, non-discrimination and fairness·różnorodność, niedyskryminacja i sprawiedliwość;
·Societal and environmental well-being·dobrostan społeczny i środowiskowy;
·Accountability·odpowiedzialność.
While these requirements are intended to apply to all AI systems in different settings and industries, the specific context in which they are applied should be taken into account for their concrete and proportionate implementation, taking an impact-based approach. For illustration, AI application suggesting an unsuitable book to read is much less perilous than misdiagnosing a cancer and could therefore be subject to less stringent supervision.Podczas gdy wymogi te mają mieć zastosowanie do wszystkich systemów SI w różnych środowiskach i branżach, należy wziąć pod uwagę szczególny kontekst, w jakim są one stosowane, z myślą o ich konkretnym i proporcjonalnym wdrożeniu z zastosowaniem podejścia opartego na oddziaływaniu. Dla przykładu, zastosowanie SI sugerujące niewłaściwą lekturę jest o wiele mniej groźne niż błędne diagnozowanie nowotworów i w związku z tym może podlegać mniej rygorystycznemu nadzorowi.
The guidelines drafted by the AI high-level expert group are non-binding and as such do not create any new legal obligations. However, many existing (and often use- or domain-specific) provisions of Union law of course already reflect one or several of these key requirements, for example safety, personal data protection, privacy or environmental protection rules.Wytyczne opracowane przez grupę ekspertów wysokiego szczebla ds. SI nie mają charakteru wiążącego i jako takie nie tworzą żadnych nowych zobowiązań prawnych. Jednak wiele istniejących przepisów prawa unijnego (dotyczących zastosowań lub obszarów) odzwierciedla już jeden lub kilka kluczowych wymogów, na przykład przepisy dotyczące bezpieczeństwa, ochrony danych osobowych, prywatności lub ochrony środowiska.
The Commission welcomes the work of the AI high-level expert group and considers it valuable input for its policy-making.Komisja z zadowoleniem przyjmuje prace grupy ekspertów wysokiego szczebla ds. SI i uznaje jej cenny wkład w kształtowanie polityki.
2.2. Key requirements for trustworthy AI2.2. Kluczowe wymogi dotyczące wiarygodnej SI
The Commission supports the following key requirements for trustworthy AI, which are based on European values. It encourages stakeholders to apply the requirements and to test the assessment list that operationalises them in order to create the right environment of trust for the successful development and use of AI. The Commission welcomes feedback from stakeholders to evaluate whether this assessment list provided in the guidelines requires further adjustment.Komisja popiera następujące kluczowe wymogi dotyczące wiarygodnej SI oparte na wartościach europejskich. Zachęca zainteresowane strony do stosowania wymogów i do przetestowania listy kontrolnej służącej stworzeniu atmosfery zaufania niezbędnej do skutecznego rozwoju i stosowania SI. Komisja z zadowoleniem przyjmie informację zwrotną od zainteresowanych stron, aby ocenić, czy lista kontrolna zawarta w wytycznych wymaga dalszego dostosowania.
I.Human agency and oversightI.Przewodnia i nadzorcza rola człowieka
AI systems should support individuals in making better, more informed choices in accordance with their goals. They should act as enablers to a flourishing and equitable society by supporting human agency and fundamental rights, and not decrease, limit or misguide human autonomy. The overall wellbeing of the user should be central to the system's functionality.Systemy SI powinny wspierać ludzi w dokonywaniu lepszych i bardziej świadomych wyborów zgodnych z ich celami. Powinny one pełnić rolę czynników wspierających rozwój prężnie się rozwijającego i sprawiedliwego społeczeństwa poprzez wzmacnianie przewodniej roli człowieka i praw podstawowych, a nie zmniejszać, ograniczać czy wypaczać ludzką autonomię. Ogólny dobrostan użytkownika powinien stanowić zasadniczy sens funkcjonowania systemu.
Human oversight helps ensuring that an AI system does not undermine human autonomy or causes other adverse effects. Depending on the specific AI-based system and its application area, the appropriate degrees of control measures, including the adaptability, accuracy and explainability of AI-based systems, should be ensured 12 . Oversight may be achieved through governance mechanisms such as ensuring a human-in-the-loop, human-on-the-loop, or human-in-command approach. 13 It must be ensured that public authorities have the ability to exercise their oversight powers in line with their mandates. All other things being equal, the less oversight a human can exercise over an AI system, the more extensive testing and stricter governance is required.Nadzorcza rola człowieka pomaga zagwarantować, że system SI nie podważa niezależności człowieka ani nie powoduje innych negatywnych skutków. W zależności od konkretnego systemu opartego na SI i obszaru jego stosowania należy zapewnić odpowiedni stopień środków kontroli, w tym zdolność dostosowania, dokładność i przejrzystość działania systemów opartych na SI 12 . Nadzór można sprawować, stosując mechanizmy zarządzania, takie jak zapewnienie zasady udziału czynnika ludzkiego, ludzkiej interwencji lub ludzkiej kontroli 13 . Należy zapewnić, by organy publiczne miały możliwość wykonywania swoich uprawnień nadzorczych zgodnie z ich mandatami. Gdy pozostałe elementy systemów pozostają takie same, im mniejszy nadzór ma być sprawowany przez człowieka nad systemem SI, tym bardziej niezbędne są szczegółowe testy i rygorystyczne zarządzanie.
II.Technical robustness and safetyII.Techniczna solidność i bezpieczeństwo
Trustworthy AI requires algorithms to be secure, reliable and robust enough to deal with errors or inconsistencies during all life cycle phases of the AI system, and to adequately cope with erroneous outcomes. AI systems need to be reliable, secure enough to be resilient against both overt attacks and more subtle attempts to manipulate data or algorithms themselves, and they must ensure a fall-back plan in case of problems. Their decisions must be accurate, or at least correctly reflect their level of accuracy, and their outcomes should be reproducible.Aby sztuczna inteligencja była wiarygodna, algorytmy muszą być bezpieczne, niezawodne i wystarczająco solidne, by poradzić sobie z błędami lub niespójnościami na wszystkich etapach cyklu życia systemu SI, a także z błędnymi wynikami końcowymi. Systemy SI muszą być niezawodne, wystarczająco bezpieczne czyli odporne zarówno na jawne ataki, jak i na bardziej subtelne próby manipulacji danymi lub algorytmami, a także muszą zapewnić plan awaryjny w przypadku problemów. Decyzje systemów muszą być precyzyjne lub przynajmniej prawidłowo odzwierciedlać swój poziom precyzyjności, a ich wyniki powinny być odtwarzalne.
In addition, AI systems should integrate safety and security-by-design mechanisms to ensure that they are verifiably safe at every step, taking at heart the physical and mental safety of all concerned. This includes the minimisation and where possible the reversibility of unintended consequences or errors in the system’s operation. Processes to clarify and assess potential risks associated with the use of AI systems, across various application areas, should be put in place.Ponadto systemy SI powinny być bezpieczne z założenia, a bezpieczeństwo należy uwzględniać na etapie ich projektowania, aby zagwarantować, że są one bezpieczne w sposób możliwy do sprawdzenia na każdym etapie, z uwzględnieniem bezpieczeństwa fizycznego i psychicznego wszystkich zainteresowanych. Obejmuje to minimalizację i, w miarę możliwości, odwracalność niezamierzonych konsekwencji lub błędów w działaniu systemu. Należy wprowadzić procedury mające na celu wyjaśnienie i ocenę potencjalnych zagrożeń związanych ze stosowaniem systemów SI w różnych obszarach zastosowań.
III.Privacy and Data GovernanceIII.Ochrona prywatności i danych
Privacy and data protection must be guaranteed at all stages of the AI system’s life cycle. Digital records of human behaviour may allow AI systems to infer not only individuals’ preferences, age and gender but also their sexual orientation, religious or political views. To allow individuals to trust the data processing, it must be ensured that they have full control over their own data, and that data concerning them will not be used to harm or discriminate against them.Należy zagwarantować ochronę prywatności i danych na wszystkich etapach cyklu życia systemu SI. Cyfrowe rejestry zachowań ludzi mogą umożliwić systemom SI wnioskowanie nie tylko o preferencjach poszczególnych osób, ich wieku i płci, ale także o ich orientacji seksualnej, poglądach religijnych lub politycznych. By ludzie mieli większe zaufanie do przetwarzania danych, należy zagwarantować ich pełną kontrolę nad własnymi danymi oraz że dane dotyczące tych osób nie będą wykorzystywane na ich niekorzyść lub w sposób dyskryminujący.
In addition to safeguarding privacy and personal data, requirements must be fulfilled to ensure high quality AI systems. The quality of the data sets used is paramount to the performance of AI systems. When data is gathered, it may reflect socially constructed biases, or contain inaccuracies, errors and mistakes. This needs to be addressed prior to training an AI system with any given data set. In addition, the integrity of the data must be ensured. Processes and data sets used must be tested and documented at each step such as planning, training, testing and deployment. This should also apply to AI systems that were not developed in-house but acquired elsewhere. Finally, the access to data must be adequately governed and controlled.Oprócz ochrony prywatności i danych osobowych, konieczne jest spełnienie wymogów w celu zapewnienia wysokiej jakości systemów SI. Jakość stosowanych zbiorów danych ma zasadnicze znaczenie dla skuteczności działania systemów SI. Podczas gromadzenia danych mogą pojawić się społecznie skonstruowane uprzedzenia lub nieścisłości, błędy i pomyłki. Kwestie te należy rozwiązać przed rozpoczęciem trenowania systemu SI w oparciu o pewien zbiór danych. Ponadto należy zapewnić integralność danych. Stosowane procesy i zbiory danych należy testować i dokumentować na każdym etapie, czyli podczas planowania, trenowania, testowania i wdrażania. Powinno to mieć zastosowanie również do systemów SI, które nie zostały opracowane w miejscu ich zastosowania, lecz zostały nabyte poza nim. Wreszcie, dostęp do danych należy odpowiednio uregulować i kontrolować.
IV.TransparencyIV.Przejrzystość
The traceability of AI systems should be ensured; it is important to log and document both the decisions made by the systems, as well as the entire process (including a description of data gathering and labelling, and a description of the algorithm used) that yielded the decisions. Linked to this, explainability of the algorithmic decision-making process, adapted to the persons involved, should be provided to the extent possible. Ongoing research to develop explainability mechanisms should be pursued. In addition, explanations of the degree to which an AI system influences and shapes the organisational decision-making process, design choices of the system, as well as the rationale for deploying it, should be available (hence ensuring not just data and system transparency, but also business model transparency).Należy zapewnić identyfikowalność systemów SI – należy rejestrować i dokumentować zarówno decyzje podejmowane przez systemy, jak i cały proces (w tym opis gromadzenia i etykietowania danych oraz opis zastosowanego algorytmu), na podstawie którego wydano decyzje. W związku z tym należy zapewnić najbardziej szczegółową wytłumaczalność procesu podejmowania decyzji w oparciu o algorytm, dostosowaną do potrzeb zainteresowanych osób. Należy kontynuować badania nad opracowaniem mechanizmów wytłumaczalności. Ponadto należy wyjaśnić stopień, w jakim system SI ma wpływ na organizacyjny proces podejmowania decyzji, uzasadnić dobór projektu systemu, a także przyczyny jego zastosowania (zapewniając w ten sposób nie tylko przejrzystość danych i systemu, ale również przejrzystość modelu biznesowego).
Finally, it is important to adequately communicate the AI system’s capabilities and limitations to the different stakeholders involved in a manner appropriate to the use case at hand. Moreover, AI systems should be identifiable as such, ensuring that users know they are interacting with an AI system and which persons are responsible for it.Istotne jest również odpowiednie informowanie różnych zainteresowanych stron o możliwościach i ograniczeniach systemu SI w sposób właściwy dla rozpatrywanej sprawy. Ponadto systemy SI powinny być rozpoznawalne jako takie, zapewniając, że użytkownicy będą świadomi tego, że wchodzą w interakcje z systemem SI i będą wiedzieli, które osoby są za niego odpowiedzialne.
V.Diversity, non-discrimination and fairnessV.Różnorodność, niedyskryminacja i sprawiedliwość
Data sets used by AI systems (both for training and operation) may suffer from the inclusion of inadvertent historic bias, incompleteness and bad governance models. The continuation of such biases could lead to (in)direct discrimination. Harm can also result from the intentional exploitation of (consumer) biases or by engaging in unfair competition. Moreover, the way in which AI systems are developed (e.g. the way in which the programming code of an algorithm is written) may also suffer from bias. Such concerns should be tackled from the beginning of the system’ development.Zestawy danych wykorzystywane przez systemy SI (zarówno podczas trenowania, jak i działania) mogą zostać wypaczone z powodu uwzględnienia nieumyślnych uprzedzeń historycznych, niekompletności danych i złych modeli zarządzania. Kontynuacja tego rodzaju stronniczości może prowadzić do (bez)pośredniej dyskryminacji. Szkoda może również wynikać z zamierzonego wykorzystania uprzedzeń (konsumentów) lub z nieuczciwej konkurencji. Ponadto sposób, w jaki systemy SI są projektowane (np. sposób, w jaki pisany jest kod programowania algorytmu), może również być nacechowany stronniczością. Takie problemy należy rozwiązywać na samym początku projektowania systemu.
Establishing diverse design teams and setting up mechanisms ensuring participation, in particular of citizens, in AI development can also help to address these concerns. It is advisable to consult stakeholders who may directly or indirectly be affected by the system throughout its life cycle. AI systems should consider the whole range of human abilities, skills and requirements, and ensure accessibility through a universal design approach to strive to achieve equal access for persons with disabilities.Tworzenie zespołów projektowych z zagwarantowaniem różnorodności oraz zapewnienie mechanizmów uczestnictwa, w szczególności uczestnictwa obywateli, może zapobiegać tego rodzaju zagrożeniom. W całym cyklu życia systemu wskazane są konsultacje z zainteresowanymi stronami, na które system może mieć bezpośredni lub pośredni wpływ. Systemy SI powinny uwzględniać cały zakres ludzkich zdolności, umiejętności i wymogów oraz zapewniać dostępność dzięki podejściu opartemu na projektowaniu uniwersalnym, dążąc do równego dostępu osób z niepełnosprawnościami.
VI.Societal and environmental well-beingVI.Dobrostan społeczny i środowiskowy
For AI to be trustworthy, its impact on the environment and other sentient beings should be taken into account. Ideally, all humans, including future generations, should benefit from biodiversity and a habitable environment. Sustainability and ecological responsibility of AI systems should hence be encouraged. The same applies to AI solutions addressing areas of global concern, such as for instance the UN Sustainable Development Goals.Aby sztuczną inteligencja uznać za godną zaufania, należy uwzględnić jej wpływ na środowisko i inne istoty zdolne do odczuwania. Najlepiej byłoby, gdyby wszyscy ludzie, w tym przyszłe pokolenia, mogły czerpać korzyści z różnorodności biologicznej i środowiska nadającego się do życia. W związku z tym należy wspierać zrównoważony rozwój i odpowiedzialność ekologiczną systemów SI. To samo dotyczy rozwiązań z zakresu SI dotyczących obszarów o globalnym znaczeniu, takich jak np. cele ONZ w zakresie zrównoważonego rozwoju.
Furthermore, the impact of AI systems should be considered not only from an individual perspective, but also from the perspective of society as a whole. The use of AI systems should be given careful consideration particularly in situations relating to the democratic process, including opinion-formation, political decision-making or electoral contexts. Moreover, AI’s social impact should be considered. While AI systems can be used to enhance social skills, they can equally contribute to their deterioration.Ponadto należy brać pod uwagę wpływ systemów SI nie tylko z perspektywy indywidualnej, lecz również z perspektywy społeczeństwa jako całości. Zastosowanie systemów SI powinno być dokładnie przemyślane, szczególnie w sytuacjach związanych z procesem demokratycznym, w tym w procesie opiniotwórczym, podczas podejmowania decyzji politycznych lub w kontekście wyborów. Ponadto należy rozważyć skutki społeczne zastosowań SI. Chociaż systemy SI mogą być wykorzystywane do poprawy umiejętności społecznych, mogą się one również przyczynić do ich pogorszenia.
VII.AccountabilityVII.Odpowiedzialność
Mechanisms should be put in place to ensure responsibility and accountability for AI systems and their outcomes, both before and after their implementation. Auditability of AI systems is key in this regard, as the assessment of AI systems by internal and external auditors, and the availability of such evaluation reports, strongly contributes to the trustworthiness of the technology. External auditability should especially be ensured in applications affecting fundamental rights, including safety-critical applications.Należy wprowadzić mechanizmy zapewniające odpowiedzialność za systemy SI oraz ich wyniki, zarówno przed, jak i po ich zastosowaniu. Możliwość kontroli systemów SI ma w tym względzie kluczowe znaczenie, ponieważ ocena systemów SI przez audytorów wewnętrznych i zewnętrznych oraz dostępność sprawozdań z takiej oceny w dużym stopniu przyczyniają się do wiarygodności tej technologii. Należy zapewnić możliwość kontroli zewnętrznej w przypadku zastosowań mających wpływ na prawa podstawowe, w tym zastosowań o istotnym znaczeniu dla bezpieczeństwa.
Potential negative impacts of AI systems should be identified, assessed, documented and minimised. The use of impact assessments facilitates this process. These assessments should be proportionate to the extent of the risks that the AI systems pose. Trade-offs between the requirements – which are often unavoidable – should be addressed in a rational and methodological manner, and should be accounted for. Finally, when unjust adverse impact occurs, accessible mechanisms should be foreseen that ensure adequate redress. Należy identyfikować, oceniać, dokumentować i ograniczać ewentualne negatywne skutki stosowania systemów SI. Zastosowanie ocen skutków wspomaga ten proces. Oceny te powinny być proporcjonalne do ryzyka, jakie stwarzają systemy SI. Kompromisy pomiędzy wymogami – których często nie można uniknąć – należy rozwiązać w sposób racjonalny i metodyczny oraz rejestrować. Wreszcie, w przypadku wystąpienia niesprawiedliwych negatywnych skutków należy przewidzieć dostępne mechanizmy zapewniające odpowiednie środki dochodzenia roszczeń. 
2.3. Next steps: a piloting phase involving stakeholders on the widest scale2.3. Dalsze działania: faza pilotażowa z udziałem jak najszerszego kręgu zainteresowanych stron
Reaching consensus on these key requirements for AI systems is a first important milestone towards guidelines for ethical AI. As a next step, the Commission will ensure that this guidance can be tested and implemented in practice.Osiągnięcie porozumienia w sprawie tych kluczowych wymogów wobec systemów SI jest pierwszym ważnym krokiem w kierunku wypracowania wytycznych w zakresie etycznej SI. Na następnym etapie Komisja zadba o to, by wytyczne te zostały przetestowane i wdrożone w praktyce.
To this end, the Commission will now launch a targeted piloting phase designed to obtain structured feedback from stakeholders. This exercise will focus in particular on the assessment list which the high-level expert group has drawn up for each of the key requirements.W tym celu Komisja rozpocznie teraz ukierunkowany etap pilotażowy mający na celu uzyskanie uporządkowanych informacji zwrotnych od zainteresowanych stron. Działanie to będzie się koncentrować w szczególności na liście kontrolnej sporządzonej przez grupę ekspertów wysokiego szczebla dla każdego z kluczowych wymogów.
This work will have two strands: (i) a piloting phase for the guidelines involving stakeholders who develop or use AI, including public administrations, and (ii) a continued stakeholder consultation and awareness-raising process across Member States and different groups of stakeholders, including industry and service sectors:Prace te będą toczyły się dwutorowo: (i) etap pilotażowy wytycznych z udziałem zainteresowanych stron, które projektują lub wykorzystują SI, w tym organów administracji publicznej, oraz (ii) kontynuacja konsultacji z zainteresowanymi stronami i proces podnoszenia świadomości w poszczególnych państwach członkowskich i wśród różnych grup zainteresowanych stron, w tym w sektorze przemysłu i usług:
(I)Starting in June 2019, all stakeholders and individuals will be invited to test the assessment list and provide feedback on how to improve it. In addition, the AI high-level expert group will set up an in-depth review with stakeholders from the private and the public sector to gather more detailed feedback on how the guidelines can be implemented in a wide range of application domains. All feedback on the guidelines’ workability and feasibility will be evaluated by the end of 2019.(I)począwszy od czerwca 2019 r., wszystkie zainteresowane strony i osoby prywatne zostaną zaproszone do przetestowania listy kontrolnej i podzielenia się swoimi uwagami na temat sposobów jej poprawy. Ponadto grupa ekspertów wysokiego szczebla ds. SI opracuje szczegółową analizę wraz z zainteresowanymi stronami z sektora prywatnego i publicznego w celu zgromadzenia bardziej szczegółowych informacji zwrotnych na temat tego, w jaki sposób wytyczne można wdrażać w wielu różnych dziedzinach zastosowań. Wszystkie informacje zwrotne dotyczące funkcjonalności i wykonalności wytycznych zostaną ocenione do końca 2019 r.
(II)In parallel, the Commission will organise further outreach activities, giving representatives of the AI high-level expert group the opportunity to present the guidelines to relevant stakeholders in the Member States, including industry and service sectors, and providing these stakeholders with an additional opportunity to comment on and contribute to the AI guidelines.(II)Równolegle Komisja zorganizuje dalsze działania informacyjne, umożliwiając przedstawicielom grupy ekspertów wysokiego szczebla ds. SI przedstawienie wytycznych odpowiednim zainteresowanym stronom w państwach członkowskich, w tym w sektorze przemysłu i usług, oraz zapewni tym zainteresowanym stronom dodatkową możliwość przedstawienia uwag dotyczących wytycznych w zakresie sztucznej inteligencji i wniesienia wkładu do ich treści.
The Commission will take into account the work of the group of experts on ethics for connected and automated driving 14 and work with EU-funded research projects on AI and with relevant public-private partnerships on implementing the key requirements 15 . For example, the Commission will support, in coordination with Member States, the development of a common database of health images initially dedicated to the most common forms of cancer, so that algorithms can be trained to diagnose symptoms with very high accuracy. Similarly, the cooperation of the Commission and Member States enables an increasing number of cross-border corridors for testing connected and automated vehicles. The guidelines should be applied in these projects and tested, and the results will feed into the evaluation process.Komisja weźmie pod uwagę prace grupy ekspertów ds. etyki w zakresie opartej na sieci i zautomatyzowanej mobilności 14 i będzie współpracować z finansowanymi przez UE projektami badawczymi w zakresie SI oraz z odpowiednimi partnerstwami publiczno-prywatnymi w celu wdrożenia kluczowych wymogów 15 . Przykładowo Komisja będzie wspierać, we współpracy z państwami członkowskimi, opracowanie wspólnej bazy danych obrazów medycznych początkowo obejmującej najpowszechniejsze formy nowotworów, tak aby można było wytrenować algorytmy do diagnozowania objawów z bardzo wysoką dokładnością. Podobnie współpraca Komisji i państw członkowskich umożliwia zwiększenie liczby korytarzy transgranicznych służących testowaniu pojazdów opartych na sieci i pojazdów zautomatyzowanych. Wytyczne powinny być stosowane w tych projektach i testowane, a wyniki testów zostaną uwzględnione w procesie oceny.
The piloting phase and the stakeholder consultation will benefit from the contribution of the European AI Alliance and AI4EU, the AI on-demand platform. The AI4EU project 16 , launched in January 2019, brings together algorithms, tools, datasets and services to help organisations, in particular small and medium-size enterprises, to implement AI solutions. The European AI Alliance, together with AI4EU, will continue to mobilise the AI ecosystem across Europe, also in view of piloting the AI ethics guidelines and promoting the respect for human-centric AI.Faza pilotażowa i konsultacje z zainteresowanymi stronami skorzystają z prac unijnego sojuszu na rzecz SI oraz działalności AI4EU – platformy sztucznej inteligencji na żądanie. Projekt AI4EU 16 , który rozpoczął się w styczniu 2019 r., gromadzi algorytmy, narzędzia, zbiory danych i usługi, wspierając organizacje, w szczególności małe i średnie przedsiębiorstwa, we wdrażaniu rozwiązań w zakresie SI. Unijny sojusz na rzecz SI, wraz z AI4EU, będzie nadal aktywizować środowiska działające w obszarze SI w całej Europie, również w celu pilotowania wytycznych w zakresie etyki dotyczących SI i promowania sztucznej inteligencji ukierunkowanej na człowieka.
At the beginning of 2020, building on the evaluation of feedback received during the piloting phase, the AI high-level expert group will review and update the guidelines. Based on the review and on the experience acquired, the Commission will evaluate the outcome and propose any next steps.Na początku 2020 r. w oparciu o ocenę informacji zwrotnych otrzymanych na etapie pilotażowym grupa ekspertów wysokiego szczebla ds. SI dokona przeglądu i aktualizacji wytycznych. W oparciu o ten przegląd i zdobyte doświadczenia Komisja oceni wyniki i zaproponuje dalsze działania. 
Ethical AI is a win-win proposition. Guaranteeing the respect for fundamental values and rights is not only essential in itself, it also facilitates acceptance by the public and increases the competitive advantage of European AI companies by establishing a brand of human-centric, trustworthy AI known for ethical and secure products. This builds more generally on the strong reputation of European companies for providing safe and secure products of high quality. The pilot phase will help to ensure that AI products fulfil this promise.Etyczna sztuczna inteligencja jest korzystna dla wszystkich. Zagwarantowanie poszanowania podstawowych wartości i praw nie tylko jest niezbędne samo w sobie, ale także ułatwia akceptację ze strony opinii publicznej i zwiększa przewagę konkurencyjną europejskich przedsiębiorstw działających w obszarze SI poprzez stworzenie marki ukierunkowanej na człowieka wiarygodnej SI słynącej z etycznych i bezpiecznych produktów. Opinia ta opiera się na ogólnej renomie przedsiębiorstw europejskich słynących z bezpiecznych produktów wysokiej jakości. Faza pilotażowa pomoże zagwarantować, że produkty SI będą potwierdzać tę opinię.
2.4. Towards international AI ethics guidelines2.4. W kierunku międzynarodowych wytycznych w zakresie etyki dotyczących SI
International discussions on AI ethics have intensified after Japan’s G7 Presidency put the topic high on the agenda in 2016. Given the international interlinkages of AI development in terms of data circulation, algorithmic development and research investments, the Commission will continue its efforts to bring the Union’s approach to the global stage and build a consensus on a human-centric AI 17 .Międzynarodowe dyskusje na temat etyki SI stały się bardziej intensywne po tym, jak prezydencja Japonii na szczycie G-7 umieściła ten temat w porządku obrad w 2016 r. Biorąc pod uwagę międzynarodowe powiązania rozwoju SI w zakresie obiegu danych, rozwoju algorytmów i inwestycji w badania, Komisja będzie kontynuować swoje wysiłki na rzecz przeniesienia podejścia Unii na poziom globalny i wypracowania konsensusu w sprawie SI ukierunkowanej na człowieka 17 .
The work done by the AI high-level expert group, and more specifically the list of requirements and the engagement process with stakeholders, provides the Commission with additional valuable input for contributing to the international discussions. The European Union can have a leadership role in developing international AI guidelines and, if possible, a related assessment mechanism.Prace grupy ekspertów wysokiego szczebla ds. SI, a w szczególności wykaz wymogów i proces zaangażowania zainteresowanych stron, stanowią dodatkowy wartościowy wkład w międzynarodowe dyskusje prowadzone przez Komisję. Unia Europejska może odgrywać wiodącą rolę w opracowywaniu międzynarodowych wytycznych w zakresie SI oraz, w miarę możliwości, powiązanych mechanizmów oceny.
Therefore, the Commission will:W związku z tym Komisja zamierza:
Strengthen cooperation with like-minded partners:wzmocnić współpracę z partnerami o podobnych poglądach:
·exploring the extent to which convergence can be achieved with third countries’ draft ethics guidelines (e.g. Japan, Canada, Singapore) and, building on this group of like-minded countries, to prepare for a broader discussion, supported by actions implementing the Partnership Instrument for cooperation with Third Countries 18 ; and·zbada, w jakim stopniu można osiągnąć zbieżność z projektami wytycznych w zakresie etyki z państw trzecich (np. z Japonii, Kanady, Singapuru) i w oparciu o tę grupę państw o podobnych poglądach, przygotuje szerszą dyskusję, wspieraną przez działania służące wdrożeniu Instrumentu Partnerstwa na rzecz Współpracy z Państwami Trzecimi 18 oraz
·exploring how companies from non-EU countries and international organisations can contribute to the ‘pilot phase’ of the guidelines through testing and validation.·zbada, w jaki sposób przedsiębiorstwa z państw spoza UE i organizacje międzynarodowe mogą wnieść wkład w fazę pilotażową wytycznych poprzez testowanie i zatwierdzanie.
Continue to play an active role in international discussions and initiatives:nadal odgrywać aktywną rolę w międzynarodowych dyskusjach i inicjatywach:
·contributing to multilateral fora such as the G7 and G20;·uczestniczyć w forach wielostronnych, takich jak G-7 i G-20;
·engaging in dialogues with non-EU countries and organising bilateral and multilateral meetings to build a consensus on human-centric AI;·angażować się w dialog z krajami spoza UE oraz organizować dwustronne i wielostronne spotkania w celu osiągnięcia konsensusu w sprawie SI ukierunkowanej na człowieka;
·contributing to relevant standardisation activities in international standards development organisations to promote this vision; and·przyczyniać się do odpowiedniej działalności normalizacyjnej w organizacjach międzynarodowych zajmujących się opracowywaniem norm w celu promowania tej wizji oraz
·strengthening the collection and diffusion of insights on public policies, working jointly with relevant international organisations.·wspierać gromadzenie i rozpowszechnianie informacji na temat polityki publicznej we współpracy z odpowiednimi organizacjami międzynarodowymi.
3.CONCLUSIONS3.WNIOSKI
The EU is founded on a set of fundamental values and has constructed a strong and balanced regulatory framework on these foundations. Building on this existing regulatory framework, there is a need for ethics guidelines for the development and use of AI due to its novelty and the specific challenges this technology brings. Only if AI is developed and used in a way that respects widely-shared ethical values, it can be considered trustworthy.UE opiera się na szeregu podstawowych wartości i zbudowała na tej podstawie solidne i zrównoważone ramy regulacyjne. Konieczne jest opracowanie wytycznych w zakresie etyki dotyczących rozwoju i stosowania SI w oparciu o istniejące ramy regulacyjne z uwagi na nowatorski charakter SI oraz szczególne wyzwania, jakie niesie ze sobą ta technologia. Jedynie w sytuacji, gdy SI tworzy się i stosuje w sposób zapewniający poszanowanie dla szeroko podzielanych wartości etycznych, można ją uznać za wiarygodną.
With a view to this objective, the Commission welcomes the input prepared by the AI high-level expert group. Based on the key requirements for AI to be considered trustworthy, the Commission will now launch a targeted piloting phase to ensure that the resulting ethical guidelines for AI development and use can be implemented in practice. The Commission will also work to forge a broad societal consensus on human-centric AI, including with all involved stakeholders and our international partners.Mając powyższe na względzie, Komisja z zadowoleniem przyjmuje wynik prac grupy ekspertów wysokiego szczebla ds. SI. W oparciu o kluczowe wymogi, jakie SI musi spełniać, by można ją uznać za wiarygodną, Komisja rozpocznie obecnie ukierunkowany etap pilotażowy w celu zapewnienia, aby wypracowane dzięki niemu wytyczne w zakresie etyki dotyczące rozwoju i stosowania SI można było wdrożyć w praktyce. Komisja będzie również dążyć do wypracowania szerokiego konsensusu społecznego w sprawie SI ukierunkowanej człowieka, w tym ze wszystkimi zainteresowanymi stronami i partnerami międzynarodowymi.
The ethical dimension of AI is not a luxury feature or an add-on: it needs to be an integral part of AI development. By striving towards human-centric AI based on trust, we safeguard the respect for our core societal values and carve out a distinctive trademark for Europe and its industry as a leader in cutting-edge AI that can be trusted throughout the world.Wymiar etyczny SI nie jest luksusem czy dodatkiem: musi stanowić integralną część rozwoju SI. Dążąc do stworzenia ukierunkowanej na człowieka SI opartej na zaufaniu, zabezpieczamy poszanowanie naszych podstawowych wartości społecznych i tworzymy charakterystyczną markę Europy i jej przemysłu jako lidera w zakresie najnowocześniejszej SI, której cały świat może zaufać.
To ensure the ethical development of AI in Europe in its wider context, the Commission is pursuing a comprehensive approach including in particular the following lines of action to be implemented by the third quarter of 2019:Aby zapewnić etyczny rozwój SI w Europie w szerszym kontekście, Komisja stosuje kompleksowe podejście obejmujące w szczególności następujące kierunki działań, które mają zostać wdrożone do trzeciego kwartału 2019 r.:
·It will start launching a set of networks of AI research excellence centres through Horizon 2020. It will select up to four networks, focusing on scientific or technological major challenges such as explainability and advanced human-machine interaction, which are key ingredients for trustworthy AI.·W ramach programu „Horyzont 2020” Komisja rozpocznie tworzenie sieci ośrodków doskonałości w zakresie badań naukowych nad SI. Wybierze maksymalnie cztery sieci, skupiając się na naukowych lub technologicznych wyzwaniach, takich jak wytłumaczalność oraz zaawansowana interakcja człowiek-maszyna, które stanowią kluczowe elementy wiarygodnej SI.
·It will begin setting up networks of digital innovation hubs 19 focussing on AI in manufacturing and on big data.·Rozpocznie tworzenie sieci ośrodków innowacji cyfrowych 19 skupiających się na wykorzystaniu SI przy produkcji oraz na dużych zbiorach danych.
·Together with Member States and stakeholders, the Commission will start preparatory discussions to develop and implement a model for data sharing and making best use of common data spaces, with a focus notably on transport, healthcare and industrial manufacturing. 20  ·Wraz z państwami członkowskimi i zainteresowanymi stronami Komisja rozpocznie dyskusje przygotowawcze w celu opracowania i wdrożenia modelu wymiany danych i najlepszego wykorzystania wspólnych przestrzeni danych, ze szczególnym naciskiem na transport, opiekę zdrowotną i produkcję przemysłową 20 .
In addition, the Commission is working on a report on the challenges posed by AI to the safety and liability frameworks and a guidance document on the implementation of the Product Liability Directive 21 . At the same time, the European High-Performance Computing Joint Undertaking (EuroHPC) 22 will develop the next generation of supercomputers because computing capacity is essential for processing data and training AI and Europe needs to master the full digital value chain. The ongoing partnership with Member States and industry on microelectronic components and systems (ECSEL) 23 as well as the European Processor Initiative 24 will contribute to the development of low-power processor technology for trustworthy and secure high-performance and edge computing.Ponadto Komisja pracuje nad sprawozdaniem w sprawie wyzwań, jakie SI stwarza dla przepisów w zakresie bezpieczeństwa i odpowiedzialności oraz nad dokumentem zawierającym wytyczne dotyczące wdrażania dyrektywy w sprawie odpowiedzialności za produkty 21 . Jednocześnie Wspólne Przedsięwzięcie w dziedzinie Europejskich Obliczeń Wielkiej Skali (EuroHPC) 22 stworzy kolejną generację superkomputerów, ponieważ duże zdolności obliczeniowe są niezbędne do przetwarzania danych i trenowania SI, a Europa musi opanować pełen cyfrowy łańcuch wartości. Prowadzona z państwami członkowskimi i sektorem przemysłu współpraca w obszarze mikroelektronicznych podzespołów i układów (ECSEL) 23 oraz europejska inicjatywa dotycząca procesorów 24 przyczynią się do rozwoju technologii procesorów o niskim zużyciu energii na potrzeby obliczeń wielkiej skali.
Just like the work on ethical guidelines for AI, all these initiatives build on close cooperation of all concerned stakeholders, Member States, industry, societal actors and citizens. Overall, Europe’s approach to Artificial Intelligence shows how economic competitiveness and societal trust must start from the same fundamental values and mutually reinforce each other.Podobnie jak prace nad wytycznymi w zakresie etyki dotyczącymi SI, wszystkie te inicjatywy opierają się na ścisłej współpracy wszystkich zainteresowanych stron, państw członkowskich, przemysłu, podmiotów społecznych i obywateli. Podsumowując, europejskie podejście do sztucznej inteligencji pokazuje, w jaki sposób konkurencyjność gospodarcza i zaufanie społeczne muszą opierać się na tych samych podstawowych wartościach i wzajemnie się umacniać.
(1)(1)
         COM(2018) 237.         .
(2)(2)
         COM(2018) 795.         COM(2018) 795.
(3)(3)
     To help reach this goal, the Commission proposed, under the next programming period 2021-2027, that the Union allocates at least EUR 1 billion per year in funding from the Horizon Europe and Digital Europe programmes to invest in AI.     W tym celu Komisja zaproponowała, aby w następnym okresie programowania 2021–2027 Unia przeznaczyła co najmniej 1 mld EUR rocznie na finansowanie inwestycji w SI z programów „Horyzont Europa” i „Cyfrowa Europa”.
(4)(4)
     In addition, the EU is a party to the UN Convention on the Rights of persons with disabilities.     UE jest również stroną Konwencji ONZ o prawach osób niepełnosprawnych.
(5)(5)
     Regulation (EU) 2016/679. The General Data Protection Regulation (GDPR) guarantees the free flow of personal data within the Union. It contains provisions on decision-making based solely on automated processing, including profiling. The individuals concerned have the right to be informed about the existence of automated-decision making and to receive meaningful information about the logic involved in the automated decision-making and about the significance and envisaged consequences of the processing for them. They also have the right in such cases to obtain human intervention, to express their point of view and to contest the decision.      Rozporządzenie (UE) 2016/679. Ogólne rozporządzenie o ochronie danych gwarantuje swobodny przepływ danych osobowych w Unii. Zawiera także przepisy dotyczące podejmowania decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu danych, w tym profilowaniu. Osoby, których to dotyczy, mają prawo do uzyskania informacji o przypadku automatycznego podejmowania decyzji oraz do otrzymywania istotnych informacji na temat logiki leżącej u podstaw automatycznego podejmowania decyzji, jak również znaczenia i przewidywanych konsekwencji przetwarzania danych dla tych osób. W takich przypadkach mają one również prawo do interwencji człowieka, wyrażenia swojego stanowiska i zaskarżenia decyzji. 
(6)(6)
     COM(2017) 10.     COM(2017) 10.
(7)(7)
      https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence      https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence
(8)(8)
      https://ec.europa.eu/digital-single-market/en/european-ai-alliance      https://ec.europa.eu/digital-single-market/en/european-ai-alliance
(9)(9)
     This consultation resulted in comments from 511 organisations, associations, companies, research institutes, individuals and others. A summary of the feedback received is available at: https://ec.europa.eu/futurium/en/system/files/ged/consultation_feedback_on_draft_ai_ethics_guidelines_4.pdf     W wyniku tych konsultacji otrzymano uwagi od 511 organizacji, stowarzyszeń, przedsiębiorstw, instytutów badawczych, osób fizycznych i innych podmiotów. Podsumowanie otrzymanych informacji zwrotnych jest dostępne na stronie internetowej: https://ec.europa.eu/futurium/en/system/files/ged/consultation_feedback_on_draft_ai_ethics_guidelines_4.pdf
(10)(10)
     The work of the expert group was positively received by Member States, with the Council conclusions adopted on 18 February 2019 inter alia taking note of the forthcoming publication of the ethics guidelines and supporting the Commission's effort to bring an EU ethical approach to the global stage:  https://data.consilium.europa.eu/doc/document/ST-6177-2019-INIT/en/pdf     Prace grupy ekspertów zostały pozytywnie ocenione przez państwa członkowskie, zaś Rada przyjęła w dniu 18 lutego 2019 r. konkluzje, uwzględniając między innymi zbliżającą się publikację wytycznych w zakresie etyki oraz wspierając wysiłki Komisji mające na celu przeniesienia unijnego etycznego podejścia na poziom globalny:  https://data.consilium.europa.eu/doc/document/ST-6177-2019-INIT/en/pdf
(11)(11)
      https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top  https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top
(12)(12)
     The General Data Protection Regulation gives individuals the right not to be subject to a decision based solely on automated processing when this produces legal effects on users or similarly significantly affects them (Article 22 GDPR).     Ogólne rozporządzenie o ochronie danych daje osobom fizycznym prawo do tego, by nie podlegać decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, i wywołuje wobec tej osoby skutki prawne lub w podobny sposób istotnie na nią wpływa (art. 22 ogólnego rozporządzenia o ochronie danych).
(13)(13)
     Human-in-the-loop (HITL) refers to the human intervention in every decision cycle of the system, which in many cases is neither possible nor desirable. Human-on-the-loop (HOTL) refers to the capability for human intervention during the design cycle of the system and monitoring the system’s operation. Human-in-command (HIC) refers to the capability to oversee the overall activity of the AI system (including its broader economic, societal, legal and ethical impact) and the ability to decide when and how to use the system in any particular situation. This can include the decision not to use an AI system in a particular situation, to establish levels of human discretion during the use of the system, or to ensure the ability to override a decision made by the system.     Zasada udziału czynnika ludzkiego (ang. human-in-the loop) odnosi się do ludzkiego udziału w każdym cyklu decyzyjnym systemu, który w wielu przypadkach nie jest ani możliwy, ani pożądany. Zasada ludzkiej interwencji (ang. human-on-the-loop) odnosi się do możliwości interwencji człowieka podczas cyklu projektowania systemu oraz monitorowania działania systemu. Zasada ludzkiej kontroli (ang. human-in-command) odwołuje się do możliwości nadzorowania ogólnego działania systemu SI (w tym szerszych skutków gospodarczych, społecznych, prawnych i etycznych jego zastosowania) oraz do możliwości decydowania o tym, kiedy i w jaki sposób stosować system w każdej konkretnej sytuacji. Może to obejmować decyzję o niestosowaniu systemu SI w określonej sytuacji, aby określić różne poziomy swobody podejmowania decyzji przez człowieka podczas korzystania z systemu lub zapewnić możliwość uchylenia decyzji podjętej przez system.
(14)(14)
     See the Commission’s Communication on connected and automated mobility, COM(2018) 283.     Zob. komunikat Komisji w sprawie opartej na sieci i zautomatyzowanej mobilności, COM (2018) 283.
(15)(15)
     In the Framework of the European Defence Fund, the Commission will also develop specific ethical guidance for the evaluation of project proposals in the area of AI for defence.     W ramach Europejskiego Funduszu Obronnego Komisja opracuje również szczegółowe wytyczne w zakresie etyki dotyczące oceny wniosków projektowych dotyczących zastosowań SI w dziedzinie obronności.
(16)(16)
      https://ec.europa.eu/digital-single-market/en/news/artificial-intelligence-ai4eu-project-launches-1-january-2019      https://ec.europa.eu/digital-single-market/en/news/artificial-intelligence-ai4eu-project-launches-1-january-2019
(17)(17)
     The High Representative of the Union for Foreign Affairs and Security Policy will, with the support of the Commission, build on consultations in the United Nations, the Global Tech Panel, and other multilateral fora, and in particular coordinate proposals for addressing the complex security challenges involved.       Wysoki Przedstawiciel Unii do Spraw Zagranicznych i Polityki Bezpieczeństwa zamierza, przy wsparciu Komisji, wyciągnąć wnioski z konsultacji prowadzonych w ramach Organizacji Narodów Zjednoczonych, Global Tech Panel i innych wielostronnych forów, i w szczególności koordynować propozycje mające na celu sprostanie tym złożonym wyzwaniom w obszarze bezpieczeństwa.  
(18)(18)
     Regulation (EU) No 234/2014 of the European Parliament and of the Council of 11 March 2014 establishing a Partnership Instrument for cooperation with third countries (OJ L 77, 15.3.2014, p. 77). For instance the planned project on ‘An international alliance for a human-centric approach to artificial intelligence’ will facilitate joint initiatives with like-minded partners, in order to promote ethical guidelines and to adopt common principles and operational conclusions. It will enable the EU and like-minded countries to discuss operational conclusions resulting from the ethical guidelines on AI proposed by the expert group in order to reach a common approach. Moreover, it will provide for monitoring the uptake of AI technology globally. Finally, the project plans to organise public diplomacy activities accompanying international events e.g. by the G7, G20 and the Organisation for Economic Cooperation and Development.     Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 234/2014 z dnia 11 marca 2014 r. ustanawiające Instrument Partnerstwa na rzecz Współpracy z Państwami Trzecimi (Dz.U. L 77 z 15.3.2014, s. 77). Na przykład planowany projekt „międzynarodowego sojuszu na rzecz ukierunkowanego na człowieka podejścia do sztucznej inteligencji” ułatwi wspólne inicjatywy z partnerami o podobnych poglądach w celu promowania wytycznych w zakresie etyki oraz przyjęcia wspólnych zasad i wniosków operacyjnych. Umożliwi to UE i krajom o podobnych poglądach omawianie wniosków operacyjnych wynikających z wytycznych w zakresie etyki dotyczących SI zaproponowanych przez grupę ekspertów w celu wypracowania wspólnego podejścia. Ponadto zapewni on monitorowanie wykorzystania technologii SI w skali globalnej. Wreszcie projekt ma na celu organizowanie działań w zakresie dyplomacji publicznej towarzyszących wydarzeniom międzynarodowym, np. przez G-7, G-20 oraz Organizację Współpracy Gospodarczej i Rozwoju.
(19)(19)
      http://s3platform.jrc.ec.europa.eu/digital-innovation-hubs      http://s3platform.jrc.ec.europa.eu/digital-innovation-hubs
(20)(20)
     The necessary resources will be mobilised from Horizon 2020 (under which close to 1.5 billion EUR are dedicated to AI for the period 2018-2020) and its planned successor Horizon Europe, the Digital part of the Connecting Europe Facility and especially the future Digital Europe Programme. Projects will also draw on resources from the private sector and Member State programmes.      Niezbędne środki zostaną uruchomione z programu „Horyzont 2020” (w ramach którego na lata 2018–2020 przeznaczono blisko 1,5 mld EUR na rzecz SI) oraz jego planowanego następcy – programu „Horyzont Europa”, części cyfrowej instrumentu „Łącząc Europę”, a w szczególności z przyszłego programu „Cyfrowa Europa”. Projekty będą również czerpać z zasobów sektora prywatnego i programów państw członkowskich. 
(21)(21)
     See the Commission’s Communication Artificial Intelligence for Europe, COM (2018) 237.     Zob. komunikat Komisji „Sztuczna inteligencja dla Europy”, COM(2018) 237.
(22)(22)
      https://eurohpc-ju.europa.eu      https://eurohpc-ju.europa.eu
(23)(23)
      www.ecsel.eu      www.ecsel.eu
(24)(24)
      www.european-processor-initiative.eu      www.european-processor-initiative.eu