Sicherheitszentrum

NetzDG-Transparenzbericht TikTok: Jan 2020 - Jun 2020

In diesem NetzDG-Transparenzbericht von TikTok (im Folgenden „NetzDG-Bericht“) stellt TikTok Informationen zum Umgang mit inhaltsbezogenen Nutzerbeschwerden und dem Entfernen solcher Inhalte gemäß dem Netzwerkdurchsetzungsgesetz („NetzDG“) in Deutschland bereit.

A. Einführung

TikTok ist eine Plattform für kurzformatige Videos. Unsere Mission ist es, Inspiration in das Leben der Menschen zu bringen und dieses dadurch zu bereichern, indem wir ihnen eine Plattform bieten, auf der sie ihrer Kreativität Ausdruck verleihen und die ihnen authentische, und positive Erfahrungen vermittelt. Oberste Priorität von TikTok ist die Förderung eines sicheren, positiven App- ("TikTok App") und Webseiten ("TikTok-Webseite") - Erlebnisses. Wir setzen alles daran, TikTok zu einem sicheren Ort für jedermann zu machen. 

Dieser NetzDG-Bericht enthält Informationen hinsichtlich unserer Beschwerdeverfahren in Bezug auf das NetzDG und unserem Umgang mit dem Löschen bzw. Sperren von Inhalten. Zudem werden Daten zur Anzahl von Beschwerden und dem Löschen bzw. Sperren gemeldeter Inhalte unter Gesichtspunkten des NetzDG offengelegt.

Das NetzDG fordert von bestimmten Online-Dienstleistern in Deutschland („NetzDG-Betreiber“) die Einrichtung eines wirksamen und transparenten Verfahrens zum Umgang mit Beschwerden zu nutzergenerierten Inhalten: 

  • Gemeldete, offensichtlich rechtswidrige Inhalte müssen innerhalb von 24 Stunden durch den NetzDG-Betreiber entfernt bzw. der Zugang zu ihnen in Deutschland gesperrt werden. 
  • Ist der gemeldete Inhalt nicht als offensichtlich rechtswidrig einzuschätzen, so hat der NetzDG-Betreiber im Allgemeinen bis zu sieben Tage Zeit, um zu entscheiden, ob der betreffende Inhalt rechtswidrig ist und entfernt bzw. der Zugang zu ihm gesperrt werden muss. 
  • In Ausnahmefällen kann ein gemeldeter Inhalt auch erst nach mehr als sieben Tagen entfernt bzw. der Zugang zu ihm gesperrt werden. 

Ob ein gemeldeter Inhalt entfernt bzw. der Zugang zu ihm gemäß der Vorgaben des NetzDG gesperrt werden muss, hängt davon ab, ob der fragliche Inhalt unter zumindest eine der 21 im NetzDG aufgelisteten Bestimmungen des deutschen Strafgesetzbuches („NetzDG-Straftaten“) fällt: 

  • § 86 StGB - Verbreiten von Propagandamitteln verfassungswidriger Organisationen
  • § 86a StGB - Verwenden von Kennzeichen verfassungswidriger Organisationen
  • § 89a StGB - Vorbereitung einer schweren staatsgefährdenden Gewalttat
  • § 91 StGB - Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat
  • § 126 StGB - Störung des öffentlichen Friedens durch Androhung von Straftaten
  • § 129b StGB - Kriminelle und terroristische Vereinigungen im Ausland; Einziehung
  • § 166 StGB - Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen
  • § 184b StGB in Verbindung mit 184d StGB - Verbreitung, Erwerb und Besitz kinderpornographischer Schriften
  • § 201a StGB - Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen

Gemäß dem NetzDG sind die NetzDG-Betreiber zudem verpflichtet, zweimal jährlich NetzDG-Berichte mit Daten zu NetzDG-bezogenen Verfahrensweisen sowie zu der Anzahl von Meldungen und entfernter bzw. gesperrter Inhalte zu veröffentlichen.

B. Allgemeiner Überblick über unsere Anstrengungen, kriminelle Aktivitäten auf unserer Plattform zu verhindern

TikTok ist eine Plattform, auf der Menschen ihrer Kreativität Ausdruck geben und die ihnen authentische, positive und freudige Erfahrungen bietet. Darüber hinaus ist es eine globale Community von Menschen, die unterhaltsame, inspirierende und lernbezogene Erfahrungen miteinander teilen möchten. Um TikTok zu einem sicheren Ort für jeden einzelnen zu machen, nehmen wir die Moderation von Inhalten ernst. In Deutschland verfolgen wir bei der Moderation von Inhalten die folgende Vorgehensweise: 

Neben unseren Nutzungsbedingungen wenden wir unsere TikTok Community-Richtlinien ("Community-Richtlinien" zusammen mit den Nutzungsbedingungen nur "Richtlinien") an, die ein unerlässlicher Verhaltenskodex für eine sichere, freundliche und auf Vertrauen basierende Umgebung auf TikTok sind. Unsere Community-Richtlinien wurden entwickelt, um Vertrauen, Respekt und eine positive Umgebung in der TikTok App und auf der TikTok-Webseite zu fördern. Wir erwarten, dass alle Nutzer*innen diese Community-Richtlinien respektieren, damit TikTok weiterhin eine unterhaltsame, freundliche und sichere Umgebung für alle Nutzer*innen bleibt. Wir haben in unseren Community-Richtlinien klare Regeln aufgestellt, die definieren, was auf TikTok erstellt, veröffentlicht oder geteilt werden darf und was nicht. Unsere Community-Richtlinien gelten weltweit für sämtliche Inhalte und werden unter Berücksichtigung örtlicher rechtlicher Vorgaben und Normen (beispielsweise unter Berücksichtigung deutscher Strafrechtsnormen) umgesetzt. 

Zu Beginn dieses Jahres haben wir unsere Community-Richtlinien überarbeitet und transparenter ausgestaltet. Unsere Community-Richtlinien verbieten eine Reihe unerwünschter oder gefährdender Inhalte. Dies schließt Inhalte in den folgenden Kategorien ein: 

  • Gefährliche Personen und Organisationen 
  • Rechtswidrige Handlungen und regulierte Waren
  • Gewalttätige und explizite Inhalte
  • Suizid, Selbstverletzung und gefährliche Handlungen
  • Hassrede
  • Belästigung und Mobbing
  • Nacktheit bei Erwachsenen und sexuelle Handlungen
  • Schutz Minderjähriger
  • Integrität und Authentizität
  • Bedrohung der Plattformsicherheit

Zur Durchsetzung unserer Community-Richtlinien setzen wir eine Kombination von Technologie und Moderation von Inhalten ein: 

  • Technologie ist ein wichtiger Bestandteil der effektiven Durchsetzung unserer Richtlinien. Unsere Systeme wurden so entwickelt, dass sie automatisch Inhalt kennzeichnen, der möglicherweise gegen unsere Community-Richtlinien verstoßen könnte. Diese Systeme berücksichtigen u.a. Muster und Verhaltenssignale, um potentiell nicht erlaubte Inhalte zu kennzeichnen. So können wir schnell reagieren und potenziellen Schaden reduzieren. Wir sehen uns regelmäßig die neuesten Trends, akademische Studien und Best Practices in der Industrie an, um unsere Systeme ständig zu verbessern. 
  • Die Technologie ist heute noch nicht so fortgeschritten, dass wir uns bei der Durchsetzung unserer Community-Richtlinien allein darauf verlassen können. In bestimmten Fällen, beispielsweise bei Satire, kann der Kontext wichtig sein, um zu bestimmen, ob ein Verstoß vorliegt. Daher hilft unser Team von geschulten Moderator*innen bei der Überprüfung und Entfernung von Inhalten. In einigen Fällen entfernt dieses Team proaktiv Inhalte, die einen Verstoß darstellen, wie z.B. sich entwickelnde gefährliche Challenges oder schädliche Fehlinformationen. 
  • Eine weitere Möglichkeit, wie wir Inhalte moderieren, sind Meldungen, die wir von unseren Nutzer*innen erhalten. Solche gemeldeten Inhalte prüfen wir sorgfältig anhand unserer Community-Richtlinien. Wir entfernen Inhalte, die gegen unsere Community-Richtlinien verstoßen, regelmäßig global. Zudem entfernen oder sperren wir bei schwerwiegenden und/oder wiederholten Verstößen gegen unsere Community-Richtlinien diejenigen Nutzer*innenkonten, die diese Verstöße verursacht haben. Die Prüfung von Verstößen gegen unsere Community-Richtlinien erfolgt durch unsere Moderationsteams, die die Einzelfallprüfung anhand von detaillierten, aber dennoch abstrakt gehaltenen Moderationsrichtlinien vornehmen. 

Für Meldungen aus dem deutschen Markt haben wir ergänzend spezifische Richtlinien für die 21 im NetzDG aufgelisteten Straftatbestände erstellt („NetzDG-Richtlinien“). Diese NetzDG-Richtlinien stellen die Grundlage der rechtlichen Bewertung durch unsere Moderation dar.

Videos und Kommentare, die uns gemäß unserer NetzDG-Meldewege (wie unten definiert) zur Kenntnis gebracht werden, werden entsprechend unseren Moderationsrichtlinien und unseren NetzDG-Richtlinien geprüft (wie unter D. näher ausgeführt). 

C. Darstellung der Mechanismen zur Übermittlung von Beschwerden über rechtswidrige Inhalte

Nutzer*innen von TikTok in Deutschland können Videos und Kommentare („NetzDG-Beschwerde“) mittels der Meldewege innerhalb der TikTok App (unter 1. unten), auf der TikTok-Webseite (unter 2. unten) oder mittels unseres NetzDG Meldeformulars („NetzDG-Webformular“) (unter 3. unten) an uns melden ("NetzDG-Meldewege").  

Bei dem Einreichen einer NetzDG-Beschwerde bitten wir Nutzer*innen darum, 

  1. Ihre E-Mailadresse anzugeben (erforderlich für das Einreichen von NetzDG-Beschwerden mittels des NetzDG-Webformulars), 
  1. anzugeben, ob es sich um Nutzer*innen oder eine Beschwerdestelle handelt (erforderlich sowohl für die Einreichung von NetzDG-Beschwerden mittels der App-Meldewege, auf der TikTok-Webseite als auch mittels des NetzDG-Webformulars), 
  1. die jeweilige NetzDG-Straftat auszuwählen, die verletzt sein soll (erforderlich sowohl für die Einreichung von NetzDG-Beschwerden mittels der App-Meldewege, auf der TikTok-Webseite als auch des NetzDG-Webformulars), 
  1. Zusatzinformationen bezüglich ihrer Anfrage bereitzustellen ( erforderlich für die Einreichung einer NetzDG-Beschwerde mittels des NetzDG-Webformulars und auf der TikTok-Webseite; optional für die Einreichung über die App-Meldewege) und 
  1. zu bestätigen, dass die Informationen in der NetzDG-Beschwerde wahr und fehlerfrei sind (erforderlich sowohl für die Einreichung von NetzDG-Beschwerden mittels der App-Meldewege, auf der TikTok-Webseite sowie als auch des NetzDG-Webformulars).

Sobald die NetzDG-Beschwerde eingereicht wurde, wird sie, wie unten beschrieben, an unsere Moderationsteams weitergeleitet. 

Im Einzelnen:

1. Einreichen von NetzDG-Beschwerden in der TikTok App

Wir ermöglichen es Nutzer*innen, Videos und Kommentare unmittelbar am betreffenden Inhalt in der TikTok App an uns zu melden.

1.1  Meldung von Videos 

Das Verfahren für die Meldung von Videos findet man unter dem Symbol „Teilen“ in Pfeilform direkt neben jedem Video in der TikTok-App. Nutzer*innen können aus verschiedenen Kategorien den Grund für die Einreichung einer Meldung auswählen. Zu diesen Kategorien gehört für Deutschland auch das NetzDG. 

Um ein Video in der App zu melden, müssen angemeldete Nutzer*innen zunächst das Symbol „Teilen“ in Pfeilform anklicken. Dadurch öffnen sich verschiedene Funktionen zum generellen Teilen von Inhalten sowie unmittelbar darunter eine Melde-Option unter dem Reiter „Melden“. Wenn sich Nutzer*innen dazu entscheiden, den Inhalt zu melden, werden sie aufgefordert, den Grund für die Meldung anzugeben. Um den Nutzern*innen das Melden von Inhalten zu erleichtern, haben wir für verschiedene Inhalte verschiedene Meldekategorien eingerichtet. Diese Meldekategorien entsprechen potentiellen Verstößen gegen unsere Community-Richtlinien. Meldungen nach dem NetzDG stellen eine eigene, zusätzliche Kategorie dar. 

Diese Kategorien werden in der folgenden Reihenfolge angezeigt: 

  • Fällt unter das Netzwerkdurchsetzungsgesetz 
  • Irreführende Informationen
  • Gefährliche Organisationen oder Individuen
  • Illegale Aktivitäten und reglementierte Waren 
  • Inhalt mit Gewalt und Grausamkeit
  • Misshandlung von Tieren 
  • Selbstmord oder Selbstverletzung 
  • Hassrede 
  • Belästigung oder Mobbing
  • Pornografie und Nacktheit 
  • Sicherheit Minderjähriger
  • Spam
  • Verstoß gegen Rechte am Geistigen Eigentum
  • Andere (hier können Beschwerdeführer*innen andere Gründe angeben) 

Entscheiden sich ein/e Nutzer*in dazu, ein Video unter der Kategorie „Fällt unter das Netzwerkdurchsetzungsgesetz“ zu melden, wird der/die Nutzer*in im nächsten Schritt dazu aufgefordert, anzugeben, ob er/sie ein/e Nutzer*in oder eine Beschwerdestelle ist. 

Damit Nutzer*innen ihre NetzDG-Beschwerde einfacher einordnen können, haben wir die NetzDG-Straftaten in sieben NetzDG-Kategorien gruppiert. Wir glauben, dass diese Kategorisierung der NetzDG-Straftaten Nutzer*innen das Melden von Inhalten erleichtert, die ihrer Meinung nach gegen NetzDG-Straftaten verstoßen. Wir haben die NetzDG-Straftaten in folgende Kategorien gruppiert: 

  • Hass schürende/ verfassungswidrige Inhalte 
    • § 86 StGB - Verbreiten von Propagandamitteln verfassungswidriger Organisationen
    • § 86a StGB - Verwenden von Kennzeichen verfassungswidriger Organisationen
  • Terrorismus
    • § 129b StGB - Kriminelle und terroristische Vereinigungen im Ausland; Einziehung
  • Gewalt/Bedrohung/Aufforderung zu Straftaten
    • § 89a StGB - Vorbereitung einer schweren staatsgefährdenden Gewalttat
    • § 91 StGB - Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat
    • § 126 StGB - Störung des öffentlichen Friedens durch Androhung von Straftaten
  • Sexueller Missbrauch von Kindern 
    • § 184b StGB in Verbindung mit 184d StGB - Verbreitung, Erwerb und Besitz kinderpornographischer Schriften
  • Beleidigung/Üble Nachrede 
    • § 166 StGB - Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen
  • Verletzung des höchstpersönlichen Lebensbereichs 
    • § 201a StGB - Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen
  • Fälschung 

Nachdem Nutzer*innen eine dieser Kategorien ausgewählt haben, werden sie aufgefordert, eine der NetzDG-Straftaten auszuwählen, die in den oben genannten Kategorien zusammengefasst sind. 

In dem letzten Schritt können Nutzer*innen der NetzDG-Beschwerde eine Meldebeschreibung beifügen, in der Nutzer*innen ergänzend darlegen können, warum er/sie der Auffassung ist, dass der betreffende Inhalt unzulässig ist. Nutzer*innen müssen zudem bestätigen, dass die Informationen in der NetzDG-Beschwerde wahr und fehlerfrei sind. 

Mit einem Klick auf „Abschicken“ übermitteln Nutzer*innen die NetzDG-Beschwerde an uns. 

Haben sich die Nutzer*innen im Meldevorgang zunächst für eine der oben genannten Kategorien der Community-Richtlinien entschieden, so wird ihnen im Rahmen dieses Meldevorgangs bei den meisten dieser Kategorien unterhalb der Meldebeschreibung erneut die Möglichkeit geboten, den Inhalt unter dem Gesichtspunkt des NetzDG zu melden. Dazu genügt ein einfaches Anklicken eines Buttons und die Nutzer*innen werden in den vorstehend beschriebenen Meldeprozess weitergeleitet. 

Nicht angemeldete Nutzer*innen leiten wir auf unser NetzDG-Webformular (weitere Details unter 1.3 unten) weiter, damit sie eine NetzDG-Beschwerde einreichen können. 

1.2 Meldung von Kommentaren

In der App angemeldete TikTok-Nutzer*innen können darüber hinaus Kommentare melden, von denen sie glauben, dass sie gegen eine der NetzDG-Straftaten verstoßen.

Um einen Kommentar in der TikTok-App zu melden, müssen Nutzer*innen den betreffenden Kommentar antippen und gedrückt halten. Es öffnet sich ein Auswahlfenster, welches es Nutzer*innen ermöglicht, den entsprechenden Kommentar zu melden. Wie auch bei der Einreichung von NetzDG-Beschwerden in Bezug auf Videos werden Nutzer*innen gebeten: 

  • anzugeben, ob es sich bei ihnen um Nutzer*innen oder eine Beschwerdestelle handelt, 
  • eine  Kategorie und anschließend eine NetzDG-Straftat auszuwählen, und
  • zu erklären, dass die eingereichten Informationen in der NetzDG-Beschwerde wahr und fehlerfrei sind.

Haben sich die Nutzer*innen im Meldevorgang zunächst für eine der oben genannten Kategorien der Community-Richtlinien entschieden, so wird ihnen im Rahmen dieses Meldevorgangs bei den meisten dieser Kategorien unterhalb der Meldebeschreibung erneut die Möglichkeit geboten, den Inhalt unter dem Gesichtspunkt des NetzDG zu melden. Dazu genügt ein einfaches Anklicken eines Buttons und die Nutzer*innen werden in den vorstehend beschriebenen Meldeprozess weitergeleitet. 

2. Einreichen von NetzDG-Beschwerden auf der TikTok Webseite 

Wir ermöglichen es angemeldeten und nicht angemeldeten Nutzer*innen, Beschwerden zu Videos unmittelbar am betreffenden Inhalt auf der TikTok Webseite einzureichen. Nutzer*innen wird unmittelbar am oberen rechten Rand eines Videos die Meldefunktion "Melden" angezeigt. Durch Klicken auf "Melden" öffnet sich ein Meldefenster, in dem Nutzer*innen die Kategorie "Fällt unter das Netzwerkduchsetzungsgesetz" auswählen können. Nach dieser Auswahl werden die Nutzer*innen auf das NetzDG-Webformular weitergeleitet. 

3. NetzDG-Webformular 

Unser NetzDG-Webformular steht auf der TikTok Webseite zur Verfügung. Den Link zu dem NetzDG-Webformular findet man in der Fußzeile unserer Webseite unter der Kategorie „Support“. Durch Anklicken des Links „NetzDG“ gelangt man auf eine Webseite, die weitere Erläuterungen zu dem NetzDG sowie einen Link zu unserem NetzDG-Webformular enthält. Angemeldete und nicht angemeldete Nutzer*innen können über dieses Meldeformular sowohl Meldungen zu Videos als auch zu Kommentaren einreichen. 

Um eine NetzDG-Beschwerde einzureichen, bitten wir Nutzer*innen darum, 

  • ihre E-Mail-Adresse anzugeben, 
  • anzugeben, ob es sich bei ihnen um Nutzer*innen oder eine Beschwerdestelle handelt, 
  • einen Nachweis in Form eines Links hinsichtlich des mutmaßlich rechtswidrigen Inhaltes (Video oder Kommentar) hinzuzufügen, 
  • die NetzDG-Straftat auszuwählen, gegen die nach ihrer Meinung verstoßen wird, 
  • zu begründen, warum sie der Meinung sind, dass ein Verstoß gegen die ausgewählte NetzDG-Straftat vorliegt, und 
  • zu bestätigen, dass ihre Angaben in der NetzDG-Beschwerde der Wahrheit entsprechen.

D. Unser Ansatz zur Überprüfung gemeldeter Inhalte

Sobald uns über unsere NetzDG-Meldewege eine NetzDG-Beschwerde erreicht, prüfen unsere Moderationsteams die NetzDG-Beschwerde und den mutmaßlich rechtswidrigen Inhalt sorgfältig sowohl gemäß unserer Community-Richtlinien als auch unserer NetzDG-Richtlinien:

  • Verstoß gegen Community-Richtlinien: Wenn wir zu dem Schluss kommen, dass der gemeldete Inhalt gegen unsere Community-Richtlinien verstößt, wird dieser regelmäßig global entfernt. Zudem können sich unsere Moderationsteams bei wiederholten schwerwiegenden Verstößen gegen die Community-Richtlinien zu weiteren Maßnahmen wie der Löschung oder Sperrung des betreffenden TikTok-Kontos entschließen.
  • Verstoß gegen NetzDG-Richtlinien: Wenn der gemeldete Inhalt nur gegen NetzDG-Richtlinien verstößt, wird der Zugang zu diesem Inhalt in Deutschland gesperrt.
  • Verstoß gegen sowohl Community-Richtlinien als auch NetzDG-Richtlinien: Wenn der gemeldete Inhalt sowohl gegen unsere Community-Richtlinien als auch gegen die NetzDG-Richtlinien verstößt, werden wir diesen Inhalt regelmäßig global entfernen; zumindest sperren wir aber den Zugang zu diesem Inhalt in Deutschland. Zudem können sich unsere Moderationsteams bei wiederholten schwerwiegenden Verstößen zu weiteren Maßnahmen wie der Löschung oder Sperrung des betreffenden TikTok-Kontos entschließen. 

1. Organisationsstruktur

Wir nehmen die Moderation von Inhalten von Nutzer*innen bei TikTok ernst. In den Moderationsprozess sind nicht zuletzt aus diesem Grund mehrere Abteilungen involviert. Dazu zählen insbesondere das Trust and Safety Team (wozu unser Product Policy Team und unsere Moderationsteams zählen) und die Rechtsabteilung: 

  • Unser Product Policy Team entwickelt unserer Community-Richtlinien und darauf basierende Moderationsrichtlinien, die klare Regeln dafür festlegen, was auf TikTok erlaubt und was verboten ist. 
  • Unsere Moderationsteams sind für die Moderation von Inhalten zuständig. Zu unseren Moderationsteams gehören Tausende von Menschen, die rund um die Uhr (24/7/365) und rund um den Globus in unterschiedlichen Zeitzonen (einschließlich Deutschland) Inhalte sorgfältig moderieren. Diese Teams überprüfen Inhalte und treffen Entscheidungen zur Umsetzung entsprechender Maßnahmen. Regelmäßige Qualitätssicherungsmaßnahmen stellen darüber hinaus konsistente und ausgewogene Moderationsentscheidungen sicher. Diese Teams sind bewusst sprachlich und kulturell sehr divers zusammengesetzt und decken insbesondere ein breites Spektrum an Sprachen ab. Zu ihnen gehören auch deutsche Muttersprachler, die deutschsprachige Inhalte bearbeiten.
  • Unsere Rechtsabteilung berät zudem aus rechtlicher Sicht beispielsweise im Hinblick auf weitergeleitete Moderationsfälle. Zudem unterstützt unsere Rechtsabteilung unser Product Policy Team bei der Entwicklung unserer Community-Richtlinien und den darauf basierenden Moderationsrichtlinien.

Im Hinblick auf NetzDG spezifische Prozesse sind die folgenden Teams involviert: 

Wir haben ein spezielles NetzDG-Moderationsteam ("NetzDG-Moderationsteam") eingerichtet. Im Berichtszeitraum waren zwölf Teammitglieder mit der Überprüfung von NetzDG-Beschwerden befasst: 

  • Fünf Teammitglieder haben NetzDG-Beschwerden geprüft, die von zwei Teamleitern und einem Onsite Manager angeleitet und betreut werden („NetzDG-Prüfer*innen“). Diese NetzDG-Prüfer*innen sind bei einem externen Dienstleister angestellt. Alle NetzDG-Prüfer*innen sprechen fließend Deutsch. Die meisten sind deutsche Muttersprachler*innen, sprechen aber auch andere Sprachen. Alle haben sowohl die NetzDG-Schulungen als auch Schulungen im Zusammenhang mit unseren Community-Richtlinien absolviert. Sie wurden für die Überprüfung von NetzDG-Beschwerden ausgewählt, weil sie bei der Moderation von Fällen im Zusammenhang mit den Community-Richtlinien durchweg gute Ergebnisse erzielt haben.
  • Zwei Mitarbeiter*innen von TikTok haben zudem in regelmäßigen Abständen Qualitätsprüfungen der NetzDG- Moderationen der NetzDG-Prüfer*innen durchgeführt („NetzDG-Qualitätsprüfer*innen“), um die einheitliche Bewertung der gemeldeten Inhalte sicherzustellen. 
  • Darüber hinaus wurde unsere NetzDG-bezogene Moderationstätigkeit von zwei Mitarbeiter*innen der Rechtsabteilung mit umfassenden Kenntnissen im Bereich der strafrechtlich-relevanten Moderation von Inhalten unterstützt. Inhaltlich komplexe Einzelfälle werden von den NetzDG-Prüfer*innen zur ergänzenden juristischen Bewertung an diese Mitarbeiter*innen weitergeleitet. War in derart komplexen NetzDG-Beschwerdefällen zudem eine externe Beratung erforderlich, berieten sich diese Mitarbeiter*innen ergänzend mit einer spezialisierten externen Rechtsanwaltskanzlei. Zur Umsetzung der Vorgaben des NetzDG hat die Rechtsabteilung die Ausarbeitung und Erstellung der NetzDG Richtlinien maßgeblich begleitet.

Zusätzlich dazu erfolgt ein regelmäßiger, wöchentlicher Austausch zur generellen Qualitätssicherung zwischen den Mitarbeitern*innen der Rechtsabteilung, den NetzDG-Qualitätsprüfer*innen und den NetzDG-Prüfer*innen.

Das NetzDG-Moderationsteam wird bei Sprachen wie beispielsweise Französisch, Niederländisch, Italienisch, Polnisch, Portugiesisch, Russisch, Schwedisch, Arabisch, Türkisch und Persisch von Mitgliedern unserer Moderationsteams unterstützt. Diese sind nicht in der oben angegebenen Anzahl von Mitgliedern des NetzDG-Moderationsteams eingerechnet.

2. NetzDG-Moderationsprozess

NetzDG-Prüfer*innen prüfen NetzDG-Beschwerden in täglichen Schichten, sieben Tage in der Woche, 365 Tage im Jahr. 

NetzDG-Beschwerden werden gleichzeitig auf der Grundlage unserer NetzDG-Richtlinien und unserer Community-Richtlinien geprüft. NetzDG-Prüfer*innen prüfen NetzDG-Beschwerden anhand unserer NetzDG-Richtlinien während unsere Moderationsteams die NetzDG-Beschwerde anhand unserer Community-Richtlinien prüfen. 

Diese Moderation läuft regelmäßig folgendermaßen ab: 

  • Wird eine NetzDG-Beschwerde eingereicht, wird die Beschwerde innerhalb von 24 Stunden durch die NetzDG-Prüfer*innen geprüft:
    • Verstößt der gemeldete Inhalt nicht gegen unsere NetzDG-Richtlinien, wird dieser Inhalt im Rahmen des NetzDG-Moderationsprozesses durch NetzDG-Prüfer*innen genehmigt. Das heißt, es werden keine Maßnahmen auf Basis eines Verstoßes gegen eine NetzDG-Straftat durchgeführt. 
    • Verstößt der gemeldete Inhalt gegen unsere NetzDG-Richtlinien, wird dieser Inhalt im Rahmen des NetzDG-Moderationsprozesses durch NetzDG-Prüfer*innen als Verstoß gekennzeichnet. Verstößt der gemeldete Inhalt nur gegen unsere NetzDG-Richtlinien, wird der Zugang zu diesem Inhalt in Deutschland gesperrt. Verstößt er auch gegen unsere Community-Richtlinien, wird er regelmäßig global entfernt. 
    • Ist die fachliche Bewertung des gemeldete Inhalt komplex oder sind sich NetzDG-Prüfer*innen nicht sicher, ob ein Verstoß gegen eine NetzDG-Straftat vorliegt, eskalieren NetzDG-Prüfer*innen die betreffende NetzDG-Beschwerde zur nächsten Stufe des NetzDG-Moderationsprozesses.
  • Eskalierte NetzDG-Beschwerden werden durch unsere Mitarbeiter*innen der Rechtsabteilung geprüft. Bestehen Zweifel bei der strafrechtlichen Einschätzung der gemeldeten Inhalte wird im Einzelfall der Rat einer spezialisierten externen Rechtsanwaltskanzlei eingeholt. 
  • Um zu gewährleisten, dass NetzDG-Prüfer*innen unseren NetzDG-Moderationsprozess richtig anwenden, haben wir einen Qualitätsmanagementprozess eingeführt. NetzDG-Qualitätsprüfer*innen bewerten die Entscheidungen der NetzDG-Prüfer*innen. In wöchentlichen Feedback-Sitzungen, an denen die Mitarbeiter*innen der Rechtsabteilung, die NetzDG-Qualitätsprüfer*innen und NetzDG-Prüfer*innen teilnehmen, werden individualisierte und aggregierte Rückmeldungen gegeben.

3. Schulung und Support

Regelmäßige Schulungen stellen sicher, dass unsere Moderator*innen und NetzDG-Prüfer*innen Maßnahmen in Übereinstimmung mit unseren Community- bzw. NetzDG-Richtlinien durchführen:  

  • Die Schulungen der Moderationsteams umfassen eine Vielzahl von Hintergrundmaterialien und vermitteln Hinweise zum Umgang mit Beschwerden von Nutzer*innen. Das Material wird regelmäßig aktualisiert und gibt unseren Moderationsteams umfassende Hilfsmittel an die Hand. Bevor neue Mitarbeiter*innen die Aufgaben eines Moderators/einer Moderatorin übernehmen, nehmen sie an einer Schulung zu unseren Community-Richtlinien und den darauf basierenden Moderationsrichtlinien teil.
  • Alle NetzDG-Prüfer*innen haben die oben beschriebenen Schulungen für das Moderationsteam durchlaufen. Zudem erhalten sie NetzDG-Schulungen zu unseren NetzDG-Richtlinien einschließlich detaillierter Hintergrundinformationen zu dem NetzDG sowie den NetzDG relevanten Straftaten des Strafgesetzbuches. NetzDG-bezogene Schulungen werden von unseren Mitarbeiter*innen der Rechtsabteilung durchgeführt. Darüber hinaus erfolgen Rückmeldungen in wöchentlichen Feedback-Sitzungen bzw. in Echtzeit, wenn es Fragen seitens der NetzDG-Prüfer*innen gab.

NetzDG-Prüfer*innen haben Zugang zu psychologischen Betreuungstrainings, speziell geschulte Therapeuten vor Ort, die das emotionale Wohlbefinden unterstützten, sowie zu Gruppentherapieangeboten.

4. Maßnahmen zur Unterrichtung von Nutzer*innen, die Inhalte gemeldet oder beanstandete Inhalte hochgeladen haben  

Nutzer*innen erhalten eine Bestätigung, unmittelbar nachdem sie eine NetzDG-Beschwerde eingereicht haben: 

  • Wurde die NetzDG-Beschwerde über das NetzDG-Webformular eingereicht, erfolgt die Bestätigung per E-Mail an diejenige E-Mailadresse, welche die Nutzer*innen angegeben haben. 
  • Wurde die NetzDG-Beschwerde über den App-Meldeweg eingereicht, erfolgt die Bestätigung über eine In-App-Benachrichtigung. 

Die Bestätigung besagt, dass wir die NetzDG-Beschwerde erhalten haben und diese sich in Überprüfung befindet.

Sobald die NetzDG-Beschwerde geprüft wurde, senden wir diesen Nutzern*innen eine Nachricht, in der wir sie über unsere Entscheidung und die Gründe dafür informieren, dass wir

  • keine Maßnahmen ergriffen haben, weil wir keinen Verstoß gegen geltende Gesetze (= NetzDG-Straftaten) und unsere Community-Richtlinien erkennen konnten, 
  • den Zugang zu einem Inhalt in Deutschland wegen eines Verstoßes gegen geltende Gesetze (= NetzDG-Straftaten) gesperrt haben oder 
  • den Inhalt wegen eines Verstoßes gegen geltende Gesetze (= NetzDG-Straftaten) und gegen unsere Community-Richtlinien entfernt haben. 

Wenn wir Inhalte global entfernen oder den Zugang dazu in Deutschland sperren, senden wir zudem eine Benachrichtigung an Nutzer*innen, die den betroffenen Inhalt hochgeladen haben und informieren sie darüber, dass der Inhalt gelöscht bzw. gesperrt wurde. 

E. Anzahl von NetzDG-Beschwerden

1. Anzahl der NetzDG-Beschwerden, aufgeschlüsselt nach der Art der meldenden Nutzer*innen und der gemeldeten NetzDG-Straftat

Die folgende Übersicht zeigt die Anzahl der NetzDG-Beschwerden, die wir im Berichtszeitraum erhalten haben, aufgeschlüsselt nach der Angabe der Art der Nutzer*innen (Nutzer*innen oder Beschwerdestellen) und der jeweiligen NetzDG-Straftat, unter der der Inhalt gemeldet wurde. Die Angaben zu der Art der Nutzer*innen (Nutzer*innen oder Beschwerdestellen) und der NetzDG-Straftat basieren auf der Selbsteinstufung bei der Meldung. Wir können nicht verifizieren, ob Nutzer*innen, die Beschwerdestelle auswählen, tatsächlich Mitglied einer Beschwerdestelle sind.

Gemeldete NetzDG Straftat Nutzer*in (Selbsteinstufung) Beschwerdestelle (Selbsteinstufung)
§ 86 - Verbreiten von Propagandamitteln verfassungswidriger Organisationen 9708 2826
§ 86a - Verwenden von Kennzeichen verfassungswidriger Organisationen 2952 1524
§ 89a - Vorbereitung einer schweren staatsgefährdenden Gewalttat 1639 404
§ 91 - Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat 1588 483
§ 100a - Landesverräterische Fälschung 2483 1635
§ 111 - Öffentliche Aufforderung zu Straftaten 2078 828
§ 126 - Störung des öffentlichen Friedens durch Androhung von Straftaten 1471 481
§ 129 - Bildung krimineller Vereinigungen 1278 303
§ 129a - Bildung terroristischer Vereinigungen 4695 2602
§ 129b - Kriminelle und terroristische Vereinigungen im Ausland; Einziehung 3386 3608
§ 130 - Volksverhetzung 8149 3875
§ 131 - Gewaltdarstellung 3025 1426
§ 140 - Belohnung und Billigung von Straftaten 1332 308
§ 166 - Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen 2541 677
§ 184b in Verbindung mit § 184d - Verbreitung, Erwerb und Besitz kinderpornographischer Schriften 8308 3607
§ 185 – Beleidigung 19644 8239
§ 186 - Üble Nachrede 4411 1847
§ 187 - Verleumdung 2232 961
§ 201a - Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen 8221 4971
§ 241 - Bedrohung 1876 602
§ 269 - Fälschung beweiserheblicher Daten 6685 2921
Insgesamt 97702 44128


2. Anzahl der Beschwerden, die zu einer Maßnahme gegen den jeweiligen Inhalt geführt haben, aufgeschlüsselt nach der Art der meldenden Nutzer*innen und der gemeldeten NetzDG-Straftat

Die folgenden Übersichten beschreiben die Zeitspanne zwischen dem Eingang der NetzDG-Beschwerden und der Ergreifung von Maßnahmen. Die Übersichten unterscheiden zwischen der Angabe der Art der Nutzer*innen (Nutzer*innen oder Beschwerdestelle) und der von den meldenden Nutzern*innen angegebenen NetzDG-Straftat. Die Angaben zu der Art der Nutzer*innen und der von den meldenden Nutzern*innen angegebenen NetzDG-Straftat basieren auf der Selbsteinstufung bei der Meldung. Wir können nicht verifizieren, ob Nutzer*innen, die Beschwerdestelle auswählen, tatsächlich Mitglied einer Beschwerdestelle sind. "Maßnahme" bedeutet, dass der Inhalt entweder entfernt oder gesperrt wurde, weil ein Verstoß gegen eine der NetzDG-Straftaten festgestellt wurde. Dies muss nicht zwangsläufig die NetzDG-Straftat sein, die von Nutzer*innen gemeldet wurde.

Gemeldete NetzDG Straftat Nutzer*in (Selbsteinstufung) Beschwerdestelle (Selbsteinstufung)
§ 86 - Verbreiten von Propagandamitteln verfassungswidriger Organisationen 797 222
§ 86a - Verwenden von Kennzeichen verfassungswidriger Organisationen 436 181
§ 89a - Vorbereitung einer schweren staatsgefährdenden Gewalttat 63 31
§ 91 - Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat 46 29
§ 100a - Landesverräterische Fälschung 47 37
§ 111 - Öffentliche Aufforderung zu Straftaten 100 57
§ 126 - Störung des öffentlichen Friedens durch Androhung von Straftaten 39 34
§ 129 - Bildung krimineller Vereinigungen 30 18
§ 129a - Bildung terroristischer Vereinigungen 317 138
§ 129b - Kriminelle und terroristische Vereinigungen im Ausland; Einziehung 207 194
§ 130 - Volksverhetzung 1332 571
§ 131 - Gewaltdarstellung 280 229
§ 140 - Belohnung und Billigung von Straftaten 23 11
§ 166 - Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen 256 111
§ 184b in Verbindung mit § 184d - Verbreitung, Erwerb und Besitz kinderpornographischer Schriften 214 107
§ 185 – Beleidigung 4546 2059
§ 186 - Üble Nachrede 409 176
§ 187 - Verleumdung 115 57
§ 201a - Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen 452 272
§ 241 - Bedrohung 132 46
§ 269 - Fälschung beweiserheblicher Daten 125 33
Insgesamt 9966 4613


3. Zeitrahmen für die Ergreifung von Maßnahmen gegen Inhalte, aufgeschlüsselt nach NetzDG-Straftat, Zeitrahmen und Art der Nutzer*innen

Die folgenden Übersichten beschreiben die Zeitspanne zwischen dem Eingang der NetzDG-Beschwerden und der Ergreifung von Maßnahmen. Die Übersichten unterscheiden zwischen der Angabe der Art der Nutzer*innen (Nutzer*innen oder Beschwerdestelle) und der von den meldenden Nutzern*innen angegebenen NetzDG-Straftat. Die Angaben zu der Art der Nutzer*innen und der von den meldenden Nutzern*innen angegebenen NetzDG Straftat basieren auf der Selbsteinstufung bei der Meldung. Wir können nicht verifizieren, ob Nutzer*innen, die Beschwerdestelle auswählen, tatsächlich Mitglied einer Beschwerdestelle sind. "Maßnahme" bedeutet, dass der Inhalt entweder entfernt oder gesperrt wurde, weil ein Verstoß gegen eine der NetzDG Straftaten festgestellt wurde. Dies muss nicht zwangsläufig die NetzDG Straftat sein, die von Nutzer*innen gemeldet wurde. 

Die Bearbeitung einiger Fälle hat länger als 7 Tage gedauert. Gründe dafür waren seltene Sprachen, technische Probleme oder äußert komplizierte Fälle, in denen wir externen Rechtsrat eingeholt haben. 

3.1 Einreichung durch Nutzer*innen (Selbsteinstufung)

Gemeldete NetzDG Straftat < 24 Stunden 24 - 48 Stunden 48 Stunden - 7 Tage 7 Tage >
§ 86 - Verbreiten von Propagandamitteln verfassungswidriger Organisationen 714 48 32 3
§ 86a - Verwenden von Kennzeichen verfassungswidriger Organisationen 419 10 7 0
§ 89a - Vorbereitung einer schweren staatsgefährdenden Gewalttat 57 3 3 0
§ 91 - Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat 36 3 6 1
§ 100a - Landesverräterische Fälschung 37 5 5 0
§ 111 - Öffentliche Aufforderung zu Straftaten 91 1 8 0
§ 126 - Störung des öffentlichen Friedens durch Androhung von Straftaten 34 4 1 0
§ 129 - Bildung krimineller Vereinigungen 26 1 2 1
§ 129a - Bildung terroristischer Vereinigungen 261 26 27 3
§ 129b - Kriminelle und terroristische Vereinigungen im Ausland; Einziehung 178 12 15 2
§ 130 - Volksverhetzung 1141 106 72 13
§ 131 - Gewaltdarstellung 254 12 11 3
§ 140 - Belohnung und Billigung von Straftaten 16 4 3 0
§ 166 - Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen 243 6 7 0
§ 184b in Verbindung mit § 184d - Verbreitung, Erwerb und Besitz kinderpornographischer Schriften 188 11 13 2
§ 185 – Beleidigung 4306 104 117 19
§ 186 - Üble Nachrede 384 9 14 2
§ 187 - Verleumdung 106 5 4 0
§ 201a - Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen 415 17 19 1
§ 241 - Bedrohung 117 7 7 1
§ 269 - Fälschung beweiserheblicher Daten 111 8 4 2
Insgesamt 9134 402 377 53


3.2 Einreichung durch Beschwerdestellen (Selbsteinstufung)

Gemeldete NetzDG Straftat < 24 Stunden 24 - 48 Stunden 48 Stunden - 7 Tage 7 Tage >
§ 86 - Verbreiten von Propagandamitteln verfassungswidriger Organisationen 204 9 7 2
§ 86a - Verwenden von Kennzeichen verfassungswidriger Organisationen 167 6 7 1
§ 89a - Vorbereitung einer schweren staatsgefährdenden Gewalttat 28 1 2 0
§ 91 - Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat 27 0 2 0
§ 100a - Landesverräterische Fälschung 35 1 1 0
§ 111 - Öffentliche Aufforderung zu Straftaten 51 3 3 0
§ 126 - Störung des öffentlichen Friedens durch Androhung von Straftaten 30 1 2 1
§ 129 - Bildung krimineller Vereinigungen 18 0 0 0
§ 129a - Bildung terroristischer Vereinigungen 123 9 5 1
§ 129b - Kriminelle und terroristische Vereinigungen im Ausland; Einziehung 150 16 25 3
§ 130 - Volksverhetzung 496 43 31 1
§ 131 - Gewaltdarstellung 209 13 5 2
§ 140 - Belohnung und Billigung von Straftaten 10 1 0 0
§ 166 - Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen 101 5 5 0
§ 184b in Verbindung mit § 184d - Verbreitung, Erwerb und Besitz kinderpornographischer Schriften 86 11 9 1
§ 185 – Beleidigung 1867 93 94 5
§ 186 - Üble Nachrede 157 10 8 1
§ 187 - Verleumdung 48 2 6 1
§ 201a - Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen 247 14 8 3
§ 241 - Bedrohung 40 1 3 2
§ 269 - Fälschung beweiserheblicher Daten 30 0 3 0
Insgesamt 4124 239 226 24


4. Beratung durch spezialisierte Rechtsanwaltskanzlei

In komplexen Fällen haben wir uns durch eine spezialisierte externe Rechtsanwaltskanzlei beraten lassen. Dies war im Berichtszeitraum bei 22 NetzDG-Beschwerden der Fall.

5. Mitgliedschaft in Branchenverbänden

Im Berichtszeitraum war TikTok nicht Mitglied eines Branchenverbands in Deutschland.