a)

Verhältnismäßigkeit und Eignung: Gemäß Artikel 28 Absatz 1 der Verordnung (EU) 2022/2065 müssen alle Maßnahmen, die ergriffen werden, um dieser Bestimmung nachzukommen, verhältnismäßig und geeignet sein, um für ein hohes Maß an Privatsphäre, Sicherheit und Schutz von Minderjährigen zu sorgen. Da verschiedene Online-Plattformen unterschiedliche Arten von Risiken für Minderjährige bergen können, wird es nicht immer für alle Anbieter von Online-Plattformen verhältnismäßig oder geeignet sein, alle oder nur einige der in diesen Leitlinien beschriebenen Maßnahmen anzuwenden. Die Feststellung, ob eine bestimmte Maßnahme verhältnismäßig und geeignet ist, insbesondere wenn sie mit einem Eingriff in die Grundrechte des Einzelnen verbunden ist, erfordert eine Einzelfallprüfung durch den einzelnen Anbieter i) der von seiner Online-Plattform oder Teilen davon ausgehenden Risiken für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen unter Berücksichtigung unter anderem der Größe, Reichweite und Beschaffenheit des von ihm bereitgestellten Dienstes sowie seiner Art, seiner beabsichtigten oder derzeitigen Nutzung, seiner besonderen Merkmale und der Nutzerbasis des Dienstes, ii) der Auswirkungen der Maßnahme auf die Rechte des Kindes und andere in der Charta der Grundrechte der Europäischen Union (im Folgenden „Charta“) verankerte Rechte und Freiheiten sowie iii) der Notwendigkeit, diese Maßnahmen auf den höchsten verfügbaren Normen und bestehenden bewährten Verfahren sowie auf der Perspektive und den Rechten des Kindes aufzubauen (siehe Abschnitt 5 zur Risikobewertung).

b)

Schutz der Rechte des Kindes: Diese Rechte sind in der Charta, die den Schutz der Rechte des Kindes bei der Umsetzung des Unionsrechts garantiert, und im Übereinkommen der Vereinten Nationen über die Rechte des Kindes (im Folgenden „UNCRC“) verankert, das alle Mitgliedstaaten ratifiziert haben (18). Die Rechte des Kindes sind integraler Bestandteil der Menschenrechte, und all diese Rechte sind miteinander verbunden, voneinander abhängig und unteilbar. Gemäß Artikel 24 der Charta muss bei allen Kinder betreffenden Maßnahmen öffentlicher Stellen oder privater Einrichtungen das Wohl des Kindes eine vorrangige Erwägung sein. Um sicherzustellen, dass Maßnahmen zur Erreichung eines hohen Maßes an Privatsphäre, Sicherheit und Schutz von Minderjährigen auf einer Online-Plattform geeignet und verhältnismäßig sind, sollten daher alle Rechte des Kindes berücksichtigt werden und das Wohl des Kindes eine vorrangige Erwägung sein. Diskriminierungen insbesondere wegen des Geschlechts, der Rasse, der Hautfarbe, der ethnischen oder sozialen Herkunft, der genetischen Merkmale, der Sprache, der Religion oder der Weltanschauung, der politischen oder sonstigen Anschauung, der Zugehörigkeit zu einer nationalen Minderheit, des Vermögens, der Geburt, einer Behinderung, des Alters oder der sexuellen Ausrichtung sind gemäß Artikel 21 der Charta verboten. Zu den Rechten des Kindes gehören z. B. das Recht auf Schutz (19), Nichtdiskriminierung, Inklusion, Privatsphäre, Zugang zu Informationen und Bildung, freie Meinungsäußerung und Teilhabe (20) sowie das Recht auf Berücksichtigung der Ansichten der Kinder in allen sie betreffenden Angelegenheiten (21).

c)

Wahrung der Privatsphäre, Sicherheit und Schutz durch Technikgestaltung: Anbieter von Online-Plattformen, die für Minderjährige zugänglich sind, sollten bei der Gestaltung, der Entwicklung und dem Betrieb ihrer Dienste hohe Standards in Bezug auf Privatsphäre, Sicherheit und Schutz anlegen (22). By-Design-Konzepte zielen darauf ab, den Einfluss von Anbietern von Online-Plattformen, Entwicklern und politischen Entscheidungsträgern zu nutzen, um die Entwicklung von Produkten und Diensten so zu gestalten, dass Werte, die das menschliche Wohlergehen fördern, im Vordergrund stehen. Sie beziehen sich auf die standardmäßige Einbettung von Maßnahmen zum Schutz der Privatsphäre und der Sicherheit in die Gestaltung, den Betrieb und die Verwaltung von Organisationen sowie in Produkte und Dienste von Beginn an (23).

d)

Altersgerechte Gestaltung: Anbieter von Online-Plattformen, die für Minderjährige zugänglich sind, sollten ihre Dienste so gestalten, dass sie dem Entwicklungsstand und den kognitiven und emotionalen Bedürfnissen von Minderjährigen entsprechen und zugleich die Wahrung ihrer Privatsphäre, ihre Sicherheit und ihren Schutz sicherstellen. Eine altersgerechte Gestaltung muss für Kinder geeignet sein, ihre Rechte und ihr Wohlergehen sowie ihre Vielfalt und ihr jeweiliges Alter oder Entwicklungsstadium berücksichtigen und den sich entwickelnden Fähigkeiten von Kindern Rechnung tragen (24).

a)

Die Wahrscheinlichkeit, dass Minderjährige auf seinen Dienst zugreifen, insbesondere in Anbetracht der Art, des Zwecks und der beabsichtigten Nutzung dieses Dienstes, sowie die Kriterien, die für die Feststellung maßgeblich sind, ob der Dienst für Minderjährige zugänglich ist.

b)

Die tatsächlichen oder potenziellen Auswirkungen auf die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen, die die Online-Plattform haben oder hervorbringen kann, auf der Grundlage der 5C-Typologie der Online-Risiken für Kinder (Anhang). Hierzu ist auch zu prüfen, wie verschiedene Aspekte der Plattform diese Risiken hervorbringen können, wie wahrscheinlich das Eintreten dieser Risiken ist und wie schwer sie wiegen. Zudem sind die positiven Auswirkungen dieser Aspekte auf die Rechte und das Wohlergehen der Kinder unter Berücksichtigung ihres Alters und ihrer sich entwickelnden Fähigkeiten zu berücksichtigen. Beispielsweise können Aspekte wie der Zweck, die Gestaltung, die Schnittstelle, das Wertversprechen, das Marketing, die Merkmale und die Funktionen der Plattform sowie die Anzahl und Art der Nutzer und Nutzungen (tatsächlich und erwartet) von Bedeutung sein. Dies sollte eine Angabe der Höhe des Risikos für Minderjährige auf der Plattform (z. B. niedrig, mittel oder hoch) auf der Grundlage klarer Kriterien im Einklang mit bestehenden Normen und bewährten Verfahren, z. B. für die in Nummer 22 erwähnte Folgenabschätzung für Kinderrechte, umfassen.

c)

Die Maßnahmen, die der Anbieter bereits ergreift, um diese Risiken zu vermeiden und zu mindern.

d)

Alle zusätzlichen Maßnahmen, die bei der Bewertung als geeignet und verhältnismäßig eingestuft werden, um für ein hohes Maß an Privatsphäre, Sicherheit und Schutz von Minderjährigen innerhalb des Dienstes zu sorgen. Die Maßnahmen, die die Anbieter gegebenenfalls ergreifen müssen, sollten den Risiken für die Privatsphäre, die Sicherheit und den Schutz begegnen, die sich aus der Erfahrung Minderjähriger mit dem Dienst ergeben, einschließlich der Risiken, die sich aus den Handlungen anderer Nutzer des Dienstes ergeben.

e)

Wie die Maßnahmen die allgemeinen Grundsätze des Abschnitts 4 wahren.

f)

Die Parameter, die es dem Anbieter ermöglichen, die Wirksamkeit seiner Maßnahmen zur Bewältigung bestimmter Risiken über die Zeit zu überwachen.

g)

Die potenziellen positiven und negativen Auswirkungen aller vom Anbieter derzeit ergriffenen und aller zusätzlichen Maßnahmen auf die Rechte des Kindes oder anderer Nutzer. Dabei ist sicherzustellen, dass diese Rechte nicht unverhältnismäßig oder unangemessen eingeschränkt werden und die positiven Auswirkungen maximiert werden können. Zu den Rechten des Kindes oder anderer Nutzer, die durch einige Maßnahmen beeinträchtigt werden können, gehören beispielsweise das Recht des Kindes auf Teilhabe, Privatsphäre, Schutz personenbezogener Daten sowie Meinungs- und Informationsfreiheit. Dies ist für die Beurteilung der Verhältnismäßigkeit der Maßnahmen maßgeblich.

a)

Bei der Eigenerklärung handelt es sich um Methoden, die sich darauf stützen, dass eine Person ihr Alter angibt oder ihre Altersgruppe bestätigt, indem sie entweder freiwillig ihr Geburtsdatum oder ihr Alter angibt oder – in der Regel durch Anklicken einer Schaltfläche auf einer Website – erklärt, ein bestimmtes Alter überschritten zu haben.

b)

Die Altersschätzung umfasst Methoden, die einen Anbieter in die Lage versetzen, festzustellen, dass ein Nutzer wahrscheinlich ein bestimmtes Alter hat, in eine bestimmte Altersgruppe fällt oder ein bestimmtes Alter über- oder unterschreitet (33).

c)

Bei der Altersüberprüfung handelt es sich um ein System, dass sich auf physische Identitätsnachweise oder überprüfte Quellen für die Identifizierung stützt, die bei der Bestimmung des Alters eines Nutzers einen hohen Grad an Gewissheit bieten.

a)

Wenn bestimmte Produkte oder Dienste ein hohes Risiko für Minderjährige bergen und diese Risiken in Ansehung der geltenden Rechtsvorschriften der Union und der Mitgliedstaaten nicht durch weniger restriktive Maßnahmen gemindert werden können, wie beispielsweise im Falle

b)

Wenn die allgemeinen Geschäftsbedingungen oder andere vertragliche Verpflichtungen des Dienstes aufgrund der festgestellten Risiken für Minderjährige verlangen, dass ein Nutzer mindestens 18 Jahre alt sein muss, um Zugang zu dem Dienst zu erhalten, auch wenn gesetzlich keine formelle Altersanforderung festgelegt ist.

c)

Alle sonstigen Fälle, in denen der Anbieter einer für Minderjährige zugänglichen Online-Plattform Risiken für die Privatsphäre, die Sicherheit oder den Schutz von Minderjährigen festgestellt hat, einschließlich Inhalts-, Verhaltens- und Verbraucherrisiken sowie Kontaktrisiken (z. B. durch Funktionen wie Live-Chat, Teilen von Bildern/Videos, anonymes Messaging), sofern diese Risiken nicht durch andere weniger einschneidende Maßnahmen gemindert werden können, die ebenso wirksam sind wie Zugangsbeschränkungen, die durch eine Altersüberprüfung unterstützt werden (36).

d)

Wenn das Unionsrecht oder das nationale Recht im Einklang mit dem Unionsrecht ein Mindestalter für den Zugang zu bestimmten Produkten oder Diensten vorschreibt, die auf einer Online-Plattform angeboten und/oder in irgendeiner Weise dargeboten werden, einschließlich eigens definierter Kategorien von Online-Diensten sozialer Medien (37).

a)

Wenn die allgemeinen Geschäftsbedingungen des Online-Plattformdienstes oder ähnliche vertragliche Verpflichtungen des Dienstes aufgrund von Risiken für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen, die auf der Grundlage der Bewertung des Anbieters der Risiken für Minderjährige festgestellt wurden, verlangen, dass ein Nutzer ein erforderliches Mindestalter von weniger als 18 Jahren überschritten haben muss, um Zugang zu dem Dienst zu erhalten (45) , (46).

b)

Wenn der Anbieter der Online-Plattform auf seiner Plattform mittlere Risiken für Minderjährige nach Maßgabe seiner Risikobewertung (siehe Abschnitt 5 über die Risikobewertung) ermittelt hat (47) und diese Risiken nicht durch weniger restriktive Maßnahmen gemindert werden können. Nach Auffassung der Kommission ist dies der Fall, wenn das Risiko nicht hoch genug ist, um eine Zugangsbeschränkung auf der Grundlage einer Altersüberprüfung zu erfordern, aber auch nicht so niedrig, dass es angemessen wäre, keine Zugangsbeschränkung bzw. eine Zugangsbeschränkung vorzusehen, die nicht auf Methoden der Altersfeststellung basiert oder sich nur auf eine Eigenerklärung stützt. Die Eigenerklärung wird, wie unten näher erläutert wird, nicht als geeignete Maßnahme zur Altersfeststellung angesehen.

a)

Genauigkeit. Wie genau eine bestimmte Methode das Alter des Nutzers bestimmt.

Die Genauigkeit einer Methode der Altersüberprüfung oder Altersschätzung sollte anhand geeigneter, klarer und öffentlich zugänglicher Parameter bewertet werden. Diese Parameter sind erforderlich, um beurteilen zu können, inwieweit mit der Methode korrekt festgestellt werden kann, ob ein Nutzer ein bestimmtes Alter über- oder unterschreitet oder welcher Altersgruppe er angehört (50). Die Anbieter von Online-Plattformen sollten regelmäßig überprüfen, ob die technische Genauigkeit der verwendeten Methode nach wie vor dem Stand der Technik entspricht.

b)

Zuverlässigkeit. Wie zuverlässig eine bestimmte Methode in der Praxis unter realen Bedingungen funktioniert.

Damit eine Methode zuverlässig ist, sollte sie jederzeit verfügbar sein und unter unterschiedlichen realen Bedingungen funktionieren, die über ideale Laborbedingungen hinausgehen. Anbieter von für Minderjährige zugänglichen Online-Plattformen sollten vor der Einführung einer bestimmten Lösung für die Altersfeststellung prüfen, ob alle Daten, die im Rahmen des Altersfeststellungsverfahrens herangezogen werden, aus einer zuverlässigen Quelle stammen. So würde beispielsweise ein selbst unterzeichneter Altersnachweis nicht als zuverlässig angesehen.

c)

Robustheit. Wie leicht eine bestimmte Methode umgangen werden kann.

Eine Methode, die von Minderjährigen leicht umgangen werden kann, wird nicht als ausreichend robust und folglich nicht als wirksam angesehen. Wie leicht die Umgehung zu bewerkstelligen ist, müssen die Anbieter von für Minderjährige zugänglichen Online-Plattformen von Fall zu Fall unter Berücksichtigung des Alters der Minderjährigen bewerten, auf die die spezifischen Maßnahmen ausgerichtet sind. Die Anbieter von für Minderjährige zugänglichen Online-Plattformen sollten auch bewerten, ob die Methode der Altersfeststellung Sicherheit und Schutz nach dem Stand der Technik bietet, um die Integrität der verarbeiteten Altersdaten zu gewährleisten.

d)

Nicht-Intrusivität. Wie stark greift eine bestimmte Methode in die Rechte der Nutzer ein.

Die Anbieter von für Minderjährige zugänglichen Online-Plattformen sollten regelmäßig die Auswirkungen der gewählten Methode auf die Rechte und Freiheiten der Nutzer, einschließlich ihres Rechts auf Privatsphäre, auf Datenschutz und auf freie Meinungsäußerung, bewerten (51). Nach Auffassung des Europäischen Datenschutzausschusses und im Einklang mit Artikel 28 Absatz 3 der Verordnung (EU) 2022/2065 (52) sollte ein Anbieter nur die altersbezogenen Attribute verarbeiten, die für den spezifischen Zweck unbedingt erforderlich sind, und die Altersfeststellung sollte nicht dazu verwendet werden, den Anbietern zusätzliche Mittel an die Hand zu geben, um die Identifizierung, die Lokalisierung, das Profiling oder das Tracking von natürlichen Personen zu ermöglichen (53). Ist die Methode intrusiver als eine andere Methode, die das gleiche Maß an Sicherheit und Wirksamkeit bietet, sollte die weniger intrusive Methode gewählt werden. Dazu muss auch bewertet werden, ob die Methode vollständige Transparenz in Bezug auf das Verfahren im Einklang mit Artikel 12 der Verordnung (EU) 2016/679 bietet und/oder ob sie Informationen über den gefährdeten Nutzer bereitstellt. Auf keinen Fall dürfen die Daten, die verarbeitet werden, um festzustellen, ob ein Nutzer ein bestimmtes Alter über- oder unterschreitet, gespeichert oder für andere Zwecke verwendet werden.

e)

Nichtdiskriminierung. Wie eine bestimmte Methode manche Nutzer diskriminieren kann.

Die Anbieter von für Minderjährige zugänglichen Online-Plattformen sollten sicherstellen, dass die gewählte Methode geeignet ist und allen Minderjährigen unabhängig von Behinderung, Sprache, ethnischer Zugehörigkeit, Geschlecht, Religion und Zugehörigkeit zu einer Minderheit zur Verfügung steht.

a)

den Nutzern die Vorteile und Risiken einer Registrierung sowie gegebenenfalls die Gründe erläutern, aus denen eine Registrierung erforderlich ist (siehe Abschnitt 8.4 zur Transparenz);

b)

sicherstellen, dass das Registrierungsverfahren für alle Minderjährigen – auch für Menschen mit Behinderungen oder mit zusätzlichen Anforderungen an die Zugänglichkeit – entsprechend ihren sich entwickelnden Fähigkeiten leicht zugänglich ist und sie leicht damit zurechtkommen können und dass es in einer Sprache abgewickelt wird, die sie verstehen können;

c)

sicherstellen, dass das Registrierungsverfahren Maßnahmen umfasst, die den Nutzern helfen, zu verstehen, ob sie alt genug für die Nutzung des Dienstes sind. Im Einklang mit Buchstabe d sollten diese Maßnahmen den Nutzern erst dargeboten werden, nachdem eine Methode der Altersfeststellung, einschließlich Eigenerklärung, angewandt wurde;

d)

vermeiden, Nutzer, die das von der für Minderjährige zugänglichen Online-Plattform verlangte Mindestalter noch nicht erreicht haben, dazu aufzufordern oder zu verleiten, Konten einzurichten oder auf den Dienst zuzugreifen, sowie Maßnahmen ergreifen, um das Risiko zu verringern, dass dies geschieht (55);

e)

sicherstellen, dass es für Minderjährige leicht ist, sich abzumelden und ihr Konto auf Verlangen löschen zu lassen;

f)

das Registrierungsverfahren als eine Möglichkeit nutzen, um erforderlichenfalls mit Blick auf die Empfehlungen in den Abschnitten 5 und 6.1 (56) eine Altersfeststellung vorzunehmen sowie die Sicherheitsmerkmale der Plattform oder des Dienstes, die Verhaltensregeln mitsamt den jeweiligen Folgen von Verstößen gegen die Geschäftsbedingungen, alle festgestellten Risiken für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen und die zur Unterstützung der Nutzer verfügbaren Ressourcen aufzuzeigen;

g)

sicherstellen, dass Kinder im Rahmen des Registrierungsverfahrens nicht dazu aufgefordert oder verleitet werden, in ihrem Profil mehr Informationen zur Verfügung zu stellen oder weiterzugeben, als für das Funktionieren des Dienstes erforderlich ist, und dass die Zustimmung der Eltern oder Erziehungsberechtigten des Kindes eingeholt wird, wenn dies nach dem Recht der Union oder der Mitgliedstaaten erforderlich ist.

a)

sicherstellen, dass die Grundsätze für Privatsphäre, Sicherheit und Schutz durch Technikgestaltung durchweg auf alle Konteneinstellungen für Minderjährige angewandt werden;

b)

bei Konten Minderjähriger durch Voreinstellungen das höchste Maß an Datenschutz, Sicherheit und Schutz aktivieren. Dazu gehört auch, die Standardeinstellungen so zu gestalten, dass sichere und altersgerechte Einstellungen für Minderjährige unter Berücksichtigung ihrer sich entwickelnden Fähigkeiten gewährleistet sind. Diese Einstellungen sollten standardmäßig für alle Minderjährigen mindestens Folgendes sicherstellen:

c)

prüfen, ob es in Ansehung des Alters und der sich entwickelnden Fähigkeiten der Minderjährigen und des Ergebnisses der Risikobewertung des Anbieters erforderlich ist, über den in diesem Abschnitt 6.3.1 festgelegten Mindeststandard für Standardeinstellungen hinauszugehen und strengere Standardeinstellungen zu konzipieren und zu implementieren, beispielsweise durch die Konzeption von Standardeinstellungen für jüngere Minderjährige, die keinem anderen Nutzer die Teilnahme an bestimmten Arten von Interaktionen erlauben;

d)

die Standardeinstellungen regelmäßig testen und aktualisieren und dabei sicherstellen, dass sie nach allen Aktualisierungen sowie gegen neu auftretende Online-Risiken und -Trends wirksam bleiben, einschließlich etwaiger Risiken für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen, die der Anbieter im Rahmen seiner Risikobewertung ermittelt hat (siehe Abschnitt 5 über die Risikobewertung);

e)

sicherstellen, dass Minderjährige in keiner Weise aufgefordert oder verleitet werden, ihre Einstellungen auf ein niedrigeres Maß an Privatsphäre, Sicherheit und Schutz zu ändern, und dass alle Optionen zum Ändern der Standardeinstellungen ohne Wertung dargeboten werden;

f)

sicherstellen, dass Minderjährige entsprechend ihrem Alter, ihren sich entwickelnden Fähigkeiten und Bedürfnissen schrittweise eine zunehmende Kontrolle über ihre Einstellungen erhalten, um ihre wachsende Autonomie zu unterstützen und sie mit mehr Handlungsmacht auszustatten (58).

g)

sicherstellen, dass die Einstellungen Minderjährigen auf kindgerechte und zugängliche Weise erläutert werden (siehe Abschnitt 6.4 zur Online-Schnittstelle und zu anderen Tools).

a)

Minderjährige in die Lage versetzen, zwischen einer vorübergehenden Änderung ihrer Standardeinstellungen, z. B. für einen bestimmten Zeitraum oder für die momentane Nutzung in der aktuellen Sitzung, und einer dauerhaften Änderung ihrer Standardeinstellungen zu wählen;

b)

die einfache Rückkehr zu den Standardeinstellungen ermöglichen, beispielsweise durch Zurücksetzen mit einem Klick oder durch eine verlaufsbasierte Funktion zum Rückgängigmachen der Änderung von Einstellungen;

c)

Warnhinweise ausgeben, wenn Minderjährige ihre Einstellungen ändern, und bei dieser Gelegenheit die möglichen Folgen dieser Änderungen in klarer Weise erläutern;

d)

Minderjährige regelmäßig an die möglichen Folgen ihrer Änderungen erinnern und ihnen regelmäßig die Möglichkeit bieten, zu ihren Standardeinstellungen zurückzukehren;

e)

die Geolokalisierung, das Mikrofon und die Kamera sowie nicht unbedingt notwendige Tracking-Funktionen am Ende der Sitzung automatisch deaktivieren, falls sie von Minderjährigen aktiviert wurden;

f)

wenn die Geolokalisierung, das Mikrofon und die Kamera aktiviert sind, dies den Minderjährigen während der gesamten Zeit, in der sie aktiviert sind, deutlich machen.

a)

prüfen, ob einige Einstellungen, Merkmale oder Funktionen vollständig aus den Konten von Minderjährigen entfernt werden sollten und/oder ob einige der im vorherigen Abschnitt 6.3.1 genannten Standardeinstellungen für alle Minderjährigen oder für Minderjährige bestimmter Altersgruppen unter Berücksichtigung ihres Alters und ihrer sich entwickelnden Fähigkeiten unumkehrbar oder unveränderlich gemacht werden sollten, und diese Einstellungen auf der Grundlage dieser Prüfung entfernen und/oder unumkehrbar machen. Im Rahmen dieser Prüfung sollten die Anbieter von Online-Plattformen, die für Minderjährige zugänglich sind, bewerten, in welcher Weise diese Einstellungen und Funktionen das hohe Maß an Privatsphäre, Sicherheit und Schutz von Minderjährigen auf ihrer Plattform beeinträchtigen können;

b)

sicherstellen, dass ungeachtet der von den Minderjährigen gewählten Kontoeinstellungen

c)

sicherstellen, dass Minderjährige die Möglichkeit haben, die Sichtbarkeit ihres Profilfotos und einzelner von ihnen veröffentlichter Inhalte einzuschränken, sowie die Möglichkeit, die Sichtbarkeit ihrer Inhalte generell einzuschränken;

d)

sicherstellen, dass Minderjährige die Möglichkeit haben, das Tagging durch andere Nutzer, sei es in Inhalten, Kommentaren oder anderswo, zu akzeptieren oder abzulehnen;

e)

Maßnahmen ergreifen, um zu verhindern, dass Minderjährige unabsichtlich unerwünschte Kontakte akzeptieren, indem beispielsweise von den Nutzern verlangt wird, eine Nachricht beizufügen, wenn sie eine Verbindung zu einem Minderjährigen anfordern.

a)

Sicherstellung, dass die Gestaltung der Online-Schnittstelle Minderjährigen ein altersgerechtes Erlebnis bietet.

b)

Sicherstellung, dass Minderjährige keinen beeinflussenden Gestaltungsmerkmalen ausgesetzt sind, die in erster Linie auf Bindung abzielen und zu einer extensiven oder übermäßigen Nutzung der Plattform oder zu problematischen oder zwanghaften Verhaltensmustern führen können. Dazu gehören die Möglichkeit des endlosen Scrollens, die überflüssige Anforderung, eine bestimmte Aktion auszuführen, um aktualisierte Informationen über eine Anwendung zu erhalten, die automatische Wiedergabe von Videoinhalten, künstlich zeitgesteuerte Benachrichtigungen, mit denen die Aufmerksamkeit von Minderjährigen wiedererlangt werden soll, künstliche Benachrichtigungen, einschließlich solcher, die vorgeben, von einem anderen Nutzer zu stammen, und sozialer Benachrichtigungen über Inhalte, mit denen der Nutzer nie in Kontakt gekommen ist, Zeichen, die Knappheit und/oder Dringlichkeit kommunizieren (59) sowie die Schaffung virtueller Belohnungen für die (wiederholte) Ausführung von Aktionen auf der Plattform.

c)

Einführung von anpassbaren, sichtbaren, leicht zugänglichen und zu nutzenden, kindgerechten und wirksamen Zeitmanagement-Tools, um das Bewusstsein der Minderjährigen für die Zeit zu schärfen, die sie auf Online-Plattformen verbringen. Um wirksam zu sein, sollten diese Tools Minderjährige davon abhalten, mehr Zeit auf der Plattform zu verbringen. Dazu könnten auch Nudges gehören, die sicherere Optionen begünstigen. Darüber hinaus sollten aktive Benachrichtigungen, mit denen Minderjährige über die im Internet verbrachte Zeit informiert werden, systematisch implementiert werden.

d)

Sicherstellung, dass alle Tools, Merkmale, Funktionen, Einstellungen, Eingabeaufforderungen, Optionen und Melde-, Feedback- und Beschwerdemechanismen kindgerecht und altersgerecht sind, für alle Minderjährigen, einschließlich Minderjährigen mit Behinderungen und/oder zusätzlichen Anforderungen an die Zugänglichkeit, leicht zu finden, zugänglich, verständlich und verwendbar sind und für die Ausführung der entsprechenden Aktionen keinen Gerätewechsel erfordern.

e)

Sicherstellung, dass KI-Funktionen wie KI-Chatbots und -Filter, wenn sie in eine für Minderjährige zugängliche Online-Plattform integriert sind, nicht automatisch aktiviert werden und dass Minderjährige nicht dazu aufgefordert oder verleitet werden, sie zu nutzen, und dass derartige Systeme ihren sich entwickelnden Fähigkeiten entsprechen und so konzipiert sind, dass sie für sie sicher sind. In diesem Zusammenhang vertritt die Kommission die Auffassung, dass KI-Funktionen erst nach Bewertung der Risiken, die diese KI-Funktionen für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen bergen können, auf für Minderjährige zugänglichen Online-Plattformen zur Verfügung gestellt werden sollten. Zudem sollten sie leicht zu deaktivieren sein, und es sollte deutlich erkennbar sein, wenn dies nicht der Fall ist.

f)

Sicherstellung, dass technische Maßnahmen ergriffen werden, um Minderjährige davor zu warnen (60), dass sich Interaktionen mit einer KI-Funktion von menschlichen Interaktionen unterscheiden und dass diese Funktionen sachlich unrichtige und irreführende Informationen bereitstellen können. Dieser Warnhinweis sollte leicht sichtbar, in kindgerechter Sprache abgefasst sowie direkt über die Schnittstelle und während der gesamten Dauer der Interaktion des Minderjährigen mit der KI-Funktion zugänglich sein. Beispielsweise sollten KI-Chatbots weder an hervorgehobener Stelle angezeigt werden, noch Teil vorgeschlagener Kontakte sein noch mit Nutzern gruppiert werden, mit denen der Minderjährige verbunden ist. Die Anbieter von Online-Plattformen sollten sicherstellen, dass Minderjährige und ihre Erziehungsberechtigten die Möglichkeit haben, sich gegen die Nutzung von KI-Chatbots zu entscheiden, und nicht dazu angeregt werden, diese Funktionen zu nutzen (61). Derartige KI-Funktionen dürfen nicht genutzt werden, um Minderjährige zu beeinflussen oder sie zu kommerziellen Inhalten zu lenken oder zu Einkäufen zu bewegen.

a)

ihre Empfehlungssysteme regelmäßig prüfen und anpassen, um die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen zu verbessern, und zwar gemäß der in Abschnitt 5 vorgesehenen Risikobewertung, die die Berücksichtigung der umfassenderen Rechte des Kindes beinhaltet. Diese Prüfung und Anpassung sollte im Wege der Konsultation von Minderjährigen, Erziehungsberechtigten und unabhängigen Sachverständigen vorgenommen werden.

b)

bei der Festlegung der Ziele, Parameter und Strategien zur Bewertung von Empfehlungssystemen die besonderen Bedürfnisse, Eigenschaften, Behinderungen und zusätzlichen Anforderungen an die Zugänglichkeit von Minderjährigen berücksichtigen, auch unter gebührender Berücksichtigung ihrer Altersgruppe. Parameter und Kennzahlen in Bezug auf Genauigkeit, Vielfalt, Inklusivität und Fairness sollten Vorrang haben;

c)

sicherstellen, dass sich die Empfehlungssysteme nicht auf die Erhebung von Verhaltensdaten stützen, die die Aktivitäten des Minderjährigen außerhalb der Plattform erfassen;

d)

sicherstellen, dass im Fall von Empfehlungssystemen, die sich auf die Verarbeitung von Verhaltensdaten über Minderjährige stützen, die Vorschläge für spezifische Informationen an minderjährige Nutzer des Dienstes oder die Priorisierung dieser Informationen nicht auf einer Verarbeitung personenbezogener Verhaltensdaten basieren, die so umfassend ist, dass alle oder die meisten Aktivitäten der Minderjährigen auf der Plattform erfasst werden, was zu dem Gefühl führen kann, dass das Privatleben der Minderjährigen ständig überwacht wird;

e)

sicherstellen, dass sich die Empfehlungssysteme erst dann auf „implizite interaktionsbasierte Signale“ stützen, nachdem geprüft wurde, ob dies dem Wohl der Minderjährigen dient, wobei die Grundsätze der Datenminimierung und der Transparenz zu berücksichtigen sind und sofern eine solche Nutzung klar definiert ist und geeigneten Garantien unterliegt, die in den vorstehenden Empfehlungen näher definiert sind;

f)

für die Zwecke dieser Leitlinien sind unter „impliziten interaktionsbasierten Signalen“ Signale und Daten zu verstehen, die es gestatten, aus den Aktivitäten von Nutzern (Browserverhalten auf einer Plattform) Rückschlüsse auf ihre Präferenzen zu ziehen, wie z. B. die mit dem Betrachten von Inhalten verbrachte Zeit oder die Klickraten;

g)

„explizite von Nutzern bereitgestellte Signale“ priorisieren, um die angezeigten und den Minderjährigen empfohlenen Inhalte zu bestimmen. Die Auswahl dieser Signale sollte im besten Interesse der Minderjährigen gerechtfertigt sein, wobei die Grundsätze der Datenminimierung und der Transparenz zu berücksichtigen sind, was dazu beiträgt, sicherzustellen, dass sie zu einem hohen Maß an Sicherheit und Schutz von Minderjährigen beitragen. Für die Zwecke dieser Leitlinien sind unter „expliziten von Nutzern bereitgestellten Signalen“ Rückmeldungen und Interaktionen der Nutzer zu verstehen, die auf die expliziten – positiven und negativen – Präferenzen der Nutzer hinweisen, darunter die angegebene und deliberative Auswahl von Themen von Interesse, Erhebungen, Meldungen (65) und andere qualitätsbasierte Signale;

h)

Maßnahmen ergreifen, um zu verhindern, dass Minderjährige Inhaltsempfehlungen ausgesetzt werden, die – insbesondere wenn sie wiederholt darauf stoßen – ein Risiko für ihre Sicherheit und ihren Schutz bergen könnten, wie z. B. Inhalte, die für unrealistische Schönheitsstandards oder Diäten werben, Inhalte, die psychische Gesundheitsprobleme wie Angstzustände oder Depressionen verklären oder verharmlosen sowie diskriminierende Inhalte, radikalisierende Inhalte und verstörende Inhalte, die Gewalt darstellen oder Minderjährige zu gefährlichen Aktivitäten ermutigen. Hierzu gehören Inhalte, die von Nutzern, vertrauenswürdigen Hinweisgebern oder anderen Akteuren oder Instrumenten zur Moderation von Inhalten gemeldet oder gekennzeichnet wurden und deren Rechtmäßigkeit und Vereinbarkeit mit den allgemeinen Geschäftsbedingungen der Plattform noch nicht im Einklang mit den einschlägigen Verpflichtungen gemäß der Verordnung (EU) 2022/2065 und mit Abschnitt 6.7 überprüft wurden;

i)

Maßnahmen ergreifen, um sicherzustellen, dass Empfehlungssysteme die Verbreitung rechtswidriger Inhalte oder die Begehung von Straftaten gegen und durch Minderjährige weder ermöglichen noch erleichtern;

j)

sicherstellen, dass die einem Minderjährigen angezeigten Suchergebnisse und Kontaktvorschläge Konten priorisieren, deren Identität überprüft wurde und deren Kontakte mit dem Netzwerk des Minderjährigen verbunden sind oder sich in derselben Altersgruppe wie der Minderjährige befinden;

k)

sicherstellen, dass Suchfunktionen, einschließlich, aber nicht beschränkt auf Text-Autovervollständigung in der Suchleiste, vorgeschlagene Suchbegriffe und Schlüsselbegriffe, keine Inhalte vorschlagen, die rechtswidrig sind und/oder als schädlich für die Privatsphäre, die Sicherheit oder den Schutz von Minderjährigen einzustufen sind, indem beispielsweise Suchbegriffe gesperrt werden, die bekanntermaßen zur Anzeige von Inhalten führen, die als schädlich für die Privatsphäre, die Sicherheit und/oder den Schutz von Minderjährigen angesehen werden, wie bestimmte Wörter, Jargon, Hashtags oder Emojis (66). Im Falle von Anfragen, die derartige Inhalte betreffen, sollten die Anbieter von Online-Plattformen Minderjährige an geeignete Unterstützungsressourcen und Beratungsdienste weiterleiten.

a)

Sie sollten Minderjährigen die Möglichkeit geben, ihre empfohlenen Feeds vollständig und dauerhaft zurückzusetzen.

b)

Sie sollten im Rahmen der Priorisierung von Parametern und Kennzahlen in Bezug auf Genauigkeit, Vielfalt, Inklusivität und Fairness Informationen bereitstellen und Minderjährige nach einer gewissen Interaktion mit dem Empfehlungssystem dazu anregen, nach neuen Inhalten zu suchen.

c)

Sie sollten prüfen, ob es angesichts der besonderen Merkmale der Plattform und zur Gewährleistung eines hohen Maßes an Privatsphäre, Sicherheit und Schutz von Minderjährigen auf einer solchen Plattform angemessen ist, dafür zu sorgen, dass Minderjährige eine Option ihres Empfehlungssystems wählen können, die nicht auf Profiling basiert. Diese Empfehlung lässt die Verpflichtungen der Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen gemäß Artikel 38 der Verordnung (EU) 2022/2065 unberührt.

d)

Falls sie infolge der unter dem vorstehenden Buchstaben genannten Prüfung oder aufgrund der Verpflichtungen aus Artikel 38 der Verordnung (EU) 2022/2065 in Bezug auf Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen eine Option ihres Empfehlungssystems eingerichtet haben, die nicht auf Profiling basiert, sollten sie abwägen, ob diese als Standardeinstellung bereitgestellt werden sollte, und falls sie dies für angebracht halten, sollten sie die erforderlichen Schutz- und Transparenzmaßnahmen ergreifen, um Minderjährige über diese Option und die möglichen Folgen der Deaktivierung dieser Standardeinstellung zu informieren.

e)

Sie sollten sicherstellen, dass sich die einschlägigen Melde- und Rückmeldemechanismen gemäß Abschnitt 7.1 rasch, direkt und dauerhaft auf die Parameter, die Bearbeitung und die Ausgabe der Empfehlungssysteme auswirken. Dazu gehört die dauerhafte Entfernung gemeldeter Inhalte und Kontakte aus Empfehlungen (einschließlich zum Ausblenden gemeldeter Inhalte und gesperrter/gemeldeter Kontakte) und die Verringerung der Sichtbarkeit ähnlicher Inhalte und Konten.

a)

sicherstellen, dass alle Einstellungen und die Minderjährigen über die Empfehlungssysteme der Anbieter zur Verfügung gestellten Informationen, einschließlich, aber nicht beschränkt auf ihre allgemeinen Geschäftsbedingungen, in kindgerechter, zugänglicher und an das Alter und die sich entwickelnde Reife der Kinder angepassten Weise sowie in einer Sprache, die die Kinder verstehen könnten, dargestellt werden (für weitere Einzelheiten siehe Abschnitt 6.4 über die Gestaltung von Online-Schnittstellen und andere Tools und Abschnitt 8.4 über Transparenz);

b)

den Minderjährigen in aussagekräftiger Weise erläutern, warum ihnen die einzelnen Inhalte jeweils empfohlen wurden, wozu auch Informationen über die verwendeten Parameter und die für eine bestimmte Empfehlung erfassten Nutzersignale gehören;

c)

den Minderjährigen in zugänglicher Weise, in kindgerechter Sprache und mit einer kindgerechten Gestaltung Optionen anbieten, um die Parameter ihrer Empfehlungssysteme zu ändern oder zu beeinflussen, indem sie den Minderjährigen beispielsweise die Möglichkeit – mit Erläuterungen in kindgerechter Sprache – geben, Kategorien von Inhalten und Aktivitäten auszuwählen, an denen sie am meisten oder am wenigsten interessiert sind. Dies sollte bei der Kontoerstellung und regelmäßig während der gesamten Zeit, die die Minderjährigen auf der Plattform verbringen, möglich sein. Diese Voreinstellungen sollten sich direkt auf die vom System unterbreiteten Empfehlungen auswirken und sicherstellen, dass die Empfehlungen dem Alter und dem Wohl des Minderjährigen besser gerecht werden (67).

a)

Sicherstellung, dass die fehlende geschäftliche Kompetenz von Minderjährigen nicht ausgenutzt wird, indem das Alter, die Vulnerabilitäten und die begrenzte Fähigkeit von Minderjährigen, sich kritisch mit Geschäftspraktiken auf der Plattform auseinanderzusetzen, einkalkuliert werden, und Leistung entsprechender Unterstützung (72).

b)

Sicherstellung, dass Minderjährige keiner schädlichen, sittenwidrigen und unrechtmäßigen Werbung ausgesetzt werden (73). Dies kann beispielsweise beinhalten, die Angemessenheit von Werbekampagnen für verschiedene Altersgruppen zu prüfen, ihren negativen Auswirkungen entgegenzuwirken und angemessene Sicherheitsmaßnahmen zum Schutz von Minderjährigen zu ergreifen sowie sicherzustellen, dass die Minderjährigen Zugang zu Informationen haben, die ihrem Wohl dienen (74).

c)

Regelmäßige Überprüfung der einschlägigen Schutzmaßnahmen im Wege der Konsultation mit Minderjährigen, Erziehungsberechtigten und anderen einschlägigen Interessenträgern.

d)

Sicherstellung, dass Minderjährige keiner übermäßigen Gesamtmenge, Häufigkeit und Empfehlung kommerzieller Inhalte ausgesetzt werden, die zu übermäßigen oder unerwünschten Ausgaben oder Suchtverhalten führen und sich nachteilig auf ihre Privatsphäre, ihre Sicherheit und ihren Schutz auswirken können.

e)

Sicherstellen, dass Minderjährige keinen in die Plattform integrierten KI-Systemen ausgesetzt werden, die Kinder – insbesondere durch Gesprächs- oder Beratungsformate wie Chatbots – zu kommerziellen Zwecken beeinflussen oder anreizen (75).

f)

Sicherstellung, dass die Erklärungen zur kommerziellen Kommunikation deutlich sichtbar, kindgerecht, altersgerecht und zugänglich sind (siehe Abschnitt 8.4 zur Transparenz) und im gesamten Dienst einheitlich verwendet werden, z. B. durch Verwendung eines Symbols oder ähnlichen Zeichens, um deutlich darauf hinzuweisen, dass es sich bei den Inhalten um Werbung handelt (76). Diese sollten im Wege der Konsultation mit Minderjährigen, ihren Erziehungsberechtigten und anderen einschlägigen Interessenträgern regelmäßig getestet und überprüft werden.

g)

Sicherstellen, dass Minderjährige nicht dem Marketing und der Kommunikation von Produkten oder Dienstleistungen ausgesetzt werden, die sich nachteilig auf ihre Privatsphäre, ihre Sicherheit und ihren Schutz auswirken können, auch unter Berücksichtigung der in der Risikobewertung des Anbieters ermittelten Risiken, darunter diejenigen, die mit negativen Auswirkungen auf ihre körperliche und geistige Gesundheit verbunden sind (siehe Abschnitt 5 zur Risikobewertung).

h)

Sicherstellung, dass Minderjährige keiner Schleichwerbung ausgesetzt werden, unabhängig davon, ob sie vom Anbieter der Online-Plattform oder von den Nutzern des Dienstes platziert wird (77). In diesem Zusammenhang weist die Kommission darauf hin, dass Anbieter von Online-Plattformen gemäß Artikel 26 Absatz 2 der Verordnung (EU) 2022/2065 auch verpflichtet sind, den Nutzern des Dienstes eine Funktion zu bieten, mit der sie erklären können, ob der von ihnen bereitgestellte Inhalt eine kommerzielle Kommunikation darstellt oder eine solche kommerzielle Kommunikation enthält (78). Beispiele für verschleierte kommerzielle Kommunikation sind unter anderem Produktplatzierungen durch Influencer, Produktvorführungen und andere Formen subtiler Werbung, die Minderjährige zum Erwerb von Produkten oder Dienstleistungen verleiten oder beeinflussen können.

i)

Sicherstellung, dass Kinder nicht Techniken ausgesetzt werden, die zu einer Verringerung der Transparenz wirtschaftlicher Transaktionen führen und für Minderjährige irreführend sein können, wozu etwa bestimmte virtuelle Währungen (79) und andere Token oder Münzen gehören, die in echtes Geld (oder gegebenenfalls in eine andere virtuelle Währung) umgetauscht und zum Kauf virtueller Gegenstände verwendet werden können und so auch unerwünschte Ausgaben verursachen (80).

j)

Sicherstellung, dass Minderjährigen beim Zugang zu Online-Plattformen oder deren Teilen und Funktionen, die als kostenlos angeboten werden oder so erscheinen (81), keine In-App- oder In-Game-Käufe vorgeschlagen werden, die für den Zugang einem Dienst oder zu seiner Nutzung erforderlich sind oder zu sein scheinen. Wenn Minderjährigen irgendwelche anderen In-App- oder In-Game-Käufe vorgeschlagen werden, sollte der jeweilige Preis stets in der Landeswährung angegeben werden.

k)

Sicherstellung, dass Minderjährige nicht Praktiken ausgesetzt werden, die zu übermäßigen oder unerwünschten Ausgaben oder zu einer übermäßigen Nutzung der Plattform oder zu zwanghaftem oder Suchtverhalten führen können, indem dafür gesorgt wird, dass Minderjährigen keine virtuellen Gegenstände wie z. B. kostenpflichtige Lootboxen oder sonstige Produkte dargeboten werden, die zufällige oder unvorhersehbare Ergebnisse oder glücksspielähnliche Funktionen bieten, und indem eine Trennung oder Widerstände zwischen Inhalten und dem Kauf der entsprechenden Produkte eingerichtet werden.

l)

Sicherstellung, dass Minderjährige keinen manipulativen Gestaltungstechniken (82) (z. B. Knappheit (83)), episodischen oder zufälligen Belohnungen oder persuasiven Gestaltungstechniken (84) ausgesetzt werden, die zu übermäßigen, impulsiven oder unerwünschten Ausgaben oder Suchtverhalten führen können.

m)

Sicherstellung, dass Minderjährige keine unerwünschten Käufe tätigen, indem z. B. wirksame Tools für Erziehungsberechtigte eingeführt oder alle finanziellen Verpflichtungen, die von Minderjährigen unter einem bestimmten Alter eingegangen werden, der Überprüfung oder Zustimmung der Erziehungsberechtigten unterworfen werden (siehe Abschnitt 7.3 zu Tools für Erziehungsberechtigte).

n)

Überprüfung der Strategie der Plattform, wirtschaftliche Transaktionen auf der Grundlage der sich entwickelnden Fähigkeiten von Kindern anzubieten, wobei zu berücksichtigen ist, dass bestimmten Altersgruppen keine wirtschaftlichen Transaktionen vorgeschlagen werden sollten und dass es ihnen nicht erlaubt sein sollte, Geschäfte zu tätigen, da sie noch kein Verständnis für Ausgaben und Geld haben.

a)

Festlegung in Zusammenarbeit mit Minderjährigen, der Zivilgesellschaft und unabhängigen Sachverständigen, einschließlich der Wissenschaft, in klarer und transparenter Weise dessen, was die Plattform als Inhalte und Verhaltensweisen ansieht, die der Privatsphäre, der Sicherheit und dem Schutz von Minderjährigen schaden. Dies sollte alle Inhalte und Verhaltensweisen einschließen, die nach dem Recht der Union oder der Mitgliedstaaten rechtswidrig sind. Anbieter von Online-Plattformen, die für Minderjährige zugänglich sind, sollten Minderjährige, die ihren Dienst nutzen, mit klaren Informationen über ihre Standards und Erwartungen in Bezug auf Inhalte und Verhaltensweisen ausstatten, und diese Informationen sollten während der Einrichtung eines Kontos verfügbar und auf der Plattform leicht auffindbar sein;

b)

Festlegung von Leitlinien und Verfahren für die Moderation, in denen festgelegt ist, wie Inhalte und Verhaltensweisen, die der Privatsphäre, der Sicherheit und dem Schutz von Minderjährigen schaden, erkannt werden und wie die Exposition von Minderjährigen gegenüber schädlichen Inhalten durch Moderation begrenzt wird. Die Anbieter von Online-Plattformen sollten außerdem sicherstellen, dass diese Leitlinien und/oder Verfahren in der Praxis durchgesetzt werden;

c)

Bewertung und Überprüfung der Leitlinien und Verfahren, um sicherzustellen, dass sie angesichts der technischen Entwicklung und der sich ändernden Online-Verhaltensweisen wirksam bleiben. Insbesondere ist die Kommission der Auffassung, dass Anbieter von Online-Plattformen, die für Minderjährige zugänglich sind, bei der Priorisierung der Moderation die folgenden Faktoren berücksichtigen sollten: die Wahrscheinlichkeit und Bedenklichkeit der Inhalte, die der Privatsphäre, der Sicherheit und/oder dem Schutz eines Minderjährigen schaden, die Auswirkungen des Schadens auf diesen Minderjährigen, die spezifische Vulnerabilität oder Schutzbedürftigkeit und die Zahl der möglicherweise geschädigten Minderjährigen. Darüber hinaus sollten Meldungen von Minderjährigen vorrangig behandelt werden;

d)

Sicherstellung, dass neben der automatisierten Überprüfung von Inhalten und allen anderen einschlägigen Instrumenten auch eine menschliche Überprüfung für gemeldete Konten oder Inhalte verfügbar ist, bei denen der Anbieter vermutet, dass sie das Risiko bergen, der Privatsphäre, der Sicherheit oder dem Schutz von Minderjährigen zu schaden;

e)

Sicherstellung, dass die Teams zur Moderierung von Inhalten gut geschult und mit ausreichenden Ressourcen ausgestattet sind und dass die Moderationsmechanismen jederzeit (24 Stunden am Tag, 7 Tage in der Woche) aktiv und funktionsfähig sind, um eine wirksame Moderation zu gewährleisten, wozu auch gehört, dass mindestens ein Mitarbeiter Bereitschaftsdienst hat, um jederzeit auf dringende Anfragen und Notfälle zu reagieren;

f)

Sicherstellung, dass die Systeme und Verfahren zur Moderation von Inhalten in der/den Amtssprache(n) des Mitgliedstaats, in dem der Dienst bereitgestellt wird, verfügbar und funktionsfähig sind;

g)

Einführung von wirksamen Technologien, internen Mechanismen und Präventivmaßnahmen, um das Risiko zu verringern, dass Inhalte und Verhaltensweisen, die der Privatsphäre, der Sicherheit oder dem Schutz von Minderjährigen schaden, Minderjährigen empfohlen werden, unter anderem durch die Umsetzung wirksamer technischer Lösungen zur Bekämpfung bekannter schädlicher und rechtswidriger Inhalte wie Hash-Matching und URL-Erkennung. Die Anbieter sollten auch die potenziellen zusätzlichen Vorteile neuer technischer Lösungen wie KI-Klassifikatoren für die Erkennung neuer oder veränderter Inhalte und Verhaltensweisen prüfen;

h)

Umsetzung technischer Lösungen, die verhindern, dass die KI-Systeme auf ihren Plattformen Nutzern den Zugang zu Inhalten ermöglichen, die der Privatsphäre, der Sicherheit und/oder dem Schutz von Minderjährigen schaden, oder derartige Inhalte generieren und verbreiten.

a)

Einrichtung von Melde-, Rückmelde- und Beschwerdemechanismen, die

b)

Sicherstellung, dass die Melde-, Rückmelde- und Beschwerdemechanismen gemäß Artikel 20 der Verordnung (EU) 2022/2065 (89):

c)

Sicherstellung, dass eine Option zur Verfügung steht, die es Minderjährigen ermöglicht, ihre eigenen Gründe für eine Meldung oder Beschwerde darzulegen. Die Anbieter sollten Meldekategorien vermeiden, aber im Falle ihrer Verwendung sicherstellen, dass sie an die jüngsten Nutzer angepasst sind, die auf der Plattform zugelassen sind;

d)

Sicherstellung, dass Meldungen, Rückmeldungen und Beschwerden standardmäßig vertraulich behandelt werden und anonym sind und zugleich Minderjährigen die Möglichkeit eingeräumt wird, die Anonymität aufzuheben. Für den Fall, dass die Anonymität aufgehoben wird, sollte der Anbieter den Minderjährigen erläutern, wann und wie sie welche Informationen an andere Nutzer oder Dritte im Zusammenhang mit Meldungen und/oder Beschwerden weitergeben;

e)

Priorisierung von Meldungen, die die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen betreffen. Anbieter von Online-Plattformen sollten für Minderjährige eine Äußerungsmöglichkeit bezüglich der Dringlichkeit ihrer Meldung oder Beschwerde vorsehen, insbesondere wenn Hinweise auf ein anhaltendes Problem in Bezug auf Privatsphäre, Sicherheit oder Schutz vorliegen. Die Reaktionszeiten sollten dem gemeldeten oder beklagten Problem angemessen sein. Dies sollte sich nicht negativ auf den Vorrang der von vertrauenswürdigen Hinweisgebern gemäß Artikel 22 Absatz 1 der Verordnung (EU) 2022/2065 übermittelten Meldungen auswirken;

f)

unverzügliche Übermittlung an jeden Minderjährigen, der eine Meldung oder Beschwerde übermittelt, einer Bestätigung über den Eingang der Meldung oder Beschwerde. Minderjährige sollten auch Zugang zu einer altersgerechten Erläuterung des Verfahrens, das bei der Prüfung der Meldung oder Beschwerde angewandt wird, und einer Erläuterung aller ergriffenen Maßnahmen oder Unterlassungen haben. Die Informationen sollten einen vorläufigen Zeitrahmen für die Entscheidung über die Meldung oder Beschwerde und mögliche Ergebnisse einschließen. Die Kommission ist ferner der Ansicht, dass die Anbieter von Online-Plattformen einen Mechanismus zur Verfolgung der Fortschritte und zur Kommunikation mit den Plattformen bereitstellen sollten;

g)

regelmäßige Überprüfung der Meldungen, Rückmeldungen und Beschwerden, die bei ihnen eingehen. Sie sollten diese Informationen nutzen, um alle Aspekte ihrer Plattform zu ermitteln und in Angriff zu nehmen, die die Privatsphäre, die Sicherheit und/oder den Schutz von Minderjährigen beeinträchtigen könnten, ihre Empfehlungssysteme und Moderationspraktiken zu verfeinern, die allgemeinen Sicherheitsstandards zu verbessern und ein vertrauenswürdigeres und verantwortungsvolleres Online-Umfeld zu fördern. Diese Maßnahmen sollten dokumentiert werden, damit sie überprüft werden können.

a)

über klare, leicht erkennbare und zugängliche Unterstützungstools verfügen, die es Minderjährigen ermöglichen, Hilfe zu erhalten, wenn sie auf verdächtige, rechtswidrige oder unangemessene Inhalte, Konten oder Verhaltensweisen stoßen, die ihnen Unbehagen bereiten. Dazu gehört auch die Bereitstellung von Schaltflächen zum Sperren und Stummschalten. Die Unterstützungstools sollten kindgerecht, deutlich sichtbar und unmittelbar zugänglich sein (siehe Abschnitt 6.4 zur Online-Schnittstelle und anderen Tools) und Minderjährige direkt mit den für ihren Standort und ihr Alter am besten geeigneten Unterstützungsdiensten verbinden, wie z. B. jenen, die zu den nationalen Safer-Internet-Zentren, dem INHOPE-Verbund und den nationalen Beratungsdiensten für Kinder gehören;

b)

die Nutzung von KI-basierten Unterstützungstools begrenzen, die nicht als Hauptmechanismus für die Interaktion mit Kindern eingesetzt werden sollten;

c)

unmittelbar sichtbare Warnmeldungen sowie Links zu einschlägigen nationalen Unterstützungsdiensten (90) und anderen verlässlichen Quellen einführen, wenn Minderjährige Inhalte suchen, hochladen, generieren, teilen oder empfangen, die möglicherweise rechtswidrig sind oder der Privatsphäre, der Sicherheit und dem Schutz von Minderjährigen schaden (wie in Abschnitt 6.7 zur Moderation erläutert). Anbieter von Online-Plattformen sollten Minderjährige auch an die einschlägigen nationalen Unterstützungsdienste verweisen, wenn sie eine Meldung im Zusammenhang mit solchen Inhalten machen. Die Verweisung sollte unmittelbar erfolgen, nachdem der Anbieter der Online-Plattform von der Aktivität Kenntnis erlangt oder ein Minderjähriger eine Meldung macht;

d)

für den Fall, dass eine Online-Plattform Merkmale oder Funktionen im Zusammenhang mit Nutzerverbindung, Posten von Inhalten oder Nutzerkommunikation aufweist, Minderjährigen die Möglichkeit bieten, andere Nutzer oder Konten anonym zu sperren oder stummzuschalten, einschließlich derjenigen, die nicht mit ihnen verbunden sind. Die Sperrsysteme sollten leicht auffindbar und zugänglich sein. Für Konten, die der Nutzer gesperrt hat, sollten keine Informationen über den Nutzer oder sein Konto verfügbar sein;

e)

für den Fall, dass eine Online-Plattform Kommentare zu Inhalten ermöglicht, Minderjährigen die Möglichkeit geben, die Arten von Nutzern zu beschränken, die ihre Inhalte und Inhalte über sie kommentieren können, und/oder andere Nutzer daran zu hindern, ihre Inhalte und Inhalte über sie zu kommentieren, und zwar sowohl zum Zeitpunkt des Postens als auch danach, selbst wenn die Möglichkeit zum Kommentieren auf Konten beschränkt ist, die die Minderjährigen zuvor als Kontakte akzeptiert haben (wie in Abschnitt 6.3 über die Kontoeinstellungen empfohlen);

f)

für den Fall, dass die Online-Plattform Gruppenfunktionen bietet, sicherstellen, dass Minderjährige einer Gruppe erst beitreten, nachdem sie über die Einladung informiert wurden und ihre Zustimmung zur Teilnahme an dieser Gruppe gegeben haben.

a)

altersgerecht sind und den sich entwickelnden Fähigkeiten von Minderjährigen entsprechen. Die Tools für Erziehungsberechtigte sollten auf Kommunikation, Lernen und Befähigung statt auf Kontrolle basieren und der Autonomie und Handlungskompetenz von Minderjährigen Vorschub leisten. Sie sollten wirksam sein und die Rechte Minderjähriger auf Privatsphäre oder den Zugang zu Diensten nicht in unverhältnismäßiger Weise einschränken, wobei das Wohl der Minderjährigen als vorrangige Erwägung zu berücksichtigen ist;

b)

einfach zu verwenden, zugänglich und zu aktivieren sind, indem den Erziehungsberechtigten beispielsweise gestattet wird, das Tool zu nutzen, ohne ein Konto für den Dienst einzurichten;

c)

unabhängig vom Gerät oder Betriebssystem anwendbar sind, das für den Zugang zum Dienst verwendet wird;

d)

den Minderjährigen eine klare Benachrichtigung über ihre Aktivierung durch Erziehungsberechtigte zukommen lassen und angesichts der Möglichkeit ihres Missbrauchs durch Erziehungsberechtigte weitere Schutzmaßnahmen vorsehen, indem sie beispielsweise die Minderjährigen in Echtzeit mit einem deutlichen Zeichen auf die Aktivierung einer Überwachungsfunktion hinweisen;

e)

sicherstellen, dass für Änderungen die gleiche Berechtigung wie zur ersten Aktivierung der Tools benötigt wird;

f)

mit der Verfügbarkeit interoperabler One-Stop-Shop-Tools für Erziehungsberechtigte vereinbar sind, die alle Einstellungen und Tools zusammenführen.

a)

Umsetzung interner Leitlinien, in denen dargelegt wird, wie der Anbieter der Online-Plattform für ein hohes Maß an Privatsphäre, Sicherheit und Schutz von Minderjährigen innerhalb seines Dienstes sorgen will.

b)

Zuweisung der Verantwortung für die Gewährleistung eines hohen Maßes an Privatsphäre, Sicherheit und Schutz von Minderjährigen an eine eigens dafür zuständige Person oder ein eigens dafür zuständiges Team. Diese Person oder dieses Team sollte über ausreichende Ressourcen sowie ausreichende Befugnisse verfügen, um direkten Zugang zur höchsten Führungsebene des Anbieters der Online-Plattform zu haben, und zudem als zentrale Anlaufstelle für Regulierungsbehörden, Nutzer und vertrauenswürdige Hinweisgeber in Angelegenheiten im Zusammenhang mit der Privatsphäre, der Sicherheit und dem Schutz von Minderjährigen fungieren.

c)

Förderung einer Kultur der Privatsphäre, der Sicherheit und des Schutzes von Minderjährigen innerhalb des Dienstes. Hierzu gehört unter anderem Folgendes:

a)

Informationen über Folgendes enthalten:

b)

während der gesamten Nutzererfahrung auf der Plattform leicht auffindbar und durchsuchbar sind;

c)

die Rechte Minderjähriger, einschließlich ihres Rechts auf Meinungs- und Informationsfreiheit, nicht in unangemessener Weise einschränken;

d)

geachtet und in die Praxis umgesetzt werden.

a)

Regelmäßige Überwachung und Bewertung der Wirksamkeit aller Elemente der Plattform, die die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen auf der Plattform betreffen. Dies umfasst beispielsweise die Online-Schnittstelle der Plattform, Systeme, Einstellungen, Tools, Funktionen und Merkmale, Melde-, Rückmelde- und Beschwerdemechanismen sowie Maßnahmen, die ergriffen wurden, um Artikel 28 Absatz 1 der Verordnung (EU) 2022/2065 nachzukommen (100). Die Anbieter sollten in Erwägung ziehen, diese Bewertungen zur Überprüfung und Stellungnahme durch unabhängige Dritte wie Sachverständige oder andere einschlägige Interessenträger zur Verfügung zu stellen.

b)

Regelmäßige Konsultation mit Minderjährigen, Erziehungsberechtigten, Hochschulen, Organisationen der Zivilgesellschaft, Kinderrechtsexperten und anderen einschlägigen Interessenträgern zur Gestaltung und Bewertung aller Elemente der Plattform, die die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen auf der Plattform betreffen. Dies sollte auch die Erprobung dieser Elemente mit Minderjährigen und die Berücksichtigung ihrer Rückmeldungen einschließen. Als Beitrag zur Nichtdiskriminierung und zur Barrierefreiheit sollten die Anbieter, soweit möglich, Minderjährige mit unterschiedlichem kulturellem und sprachlichem Hintergrund, unterschiedlichen Alters, mit Behinderungen und/oder zusätzlichen Anforderungen an die Zugänglichkeit in diese Konsultationen einbeziehen.

c)

Anpassung der Gestaltung und Funktionsweise der oben genannten Elemente auf der Grundlage der Ergebnisse dieser Konsultationen und technischer Entwicklungen sowie auf der Grundlage von Forschungsergebnissen, Änderungen des Nutzerverhaltens oder Entwicklungen im Hinblick auf die Richtlinien, das Produkt und die Nutzung sowie Änderungen hinsichtlich der Schäden und der Risiken für die Privatsphäre, die Sicherheit und den Schutz von Minderjährigen auf ihrer Plattform.

a)

Informationen über alle Maßnahmen, die ergriffen wurden, um für ein hohes Maß an Privatsphäre, Sicherheit und/oder Schutz von Minderjährigen auf der Plattform zu sorgen. Dazu gehören Informationen über

b)

Es ist sicherzustellen, dass diese Informationen, alle Warnhinweise und alle anderen Mitteilungen, die in den vorliegenden Leitlinien empfohlen werden,

c)

Alle Maßnahmen, die ergriffen, und Änderungen, die vorgenommen werden, um Artikel 28 Absatz 1 der Verordnung (EU) 2022/2065 nachzukommen, könnten intern kommuniziert und so weit wie möglich veröffentlicht werden.