Entscheidung
- Aktenzeichen: XXXXX -
In dem außergerichtlichen Streitbeilegungsverfahren zwischen
XXXXXXXXXX
- die beschwerdeführende Person -
und
TikTok
- Online-Plattform –
wegen
der Löschung von Inhalten auf Grundlage von TikToks Richtlinie zu Suizid und Selbstverletzung
hat die zertifizierte außergerichtliche Streitbeilegungsstelle User Rights durch ihre Streitschlichter am 12.02.2025 entschieden:
User Rights hält TikToks Entscheidung aufrecht, den Inhalt von der Plattform zu entfernen. Der Inhalt verstößt gegen die Richtlinie zu Suizid und Selbstverletzung.
I. Zusammenfassung
Die Beschwerde betrifft einen Beitrag der beschwerdeführenden Person auf TikTok, der ein verschwommenes Bild zeigt und unter anderem einen Text, wonach die Person sich “unaliven” will und sich verabschiedet. TikTok entfernte den Inhalt mit der Begründung, er verstoße gegen die Richtlinie zu Suizid und Selbstverletzung. Die beschwerdeführende Person legte Beschwerde bei User Rights ein und argumentierte, der Beitrag sei lediglich ein Ausdruck ihrer Verzweiflung.
User Rights bestätigt TikToks Entscheidung, den Inhalt zu entfernen. Der Text kann als Ausdruck eines Suizidwunsches interpretiert werden und steht im Widerspruch zur Richtlinie, die das Teilen oder Fördern von Suizidplänen verbietet. Die Maßnahme ist verhältnismäßig und dient dem Schutz der Community vor potenziellen Schadensrisiken. Daher hält User Rights die Entscheidung von TikTok aufrecht.
II. Sachverhalt
Die Beschwerde betrifft Inhalte, die die beschwerdeführende Person am XX. Oktober 2024 veröffentlichte. Der streitgegenständliche Beitrag zeigt ein verschwommenes Bild einer Person, die etwas isst. Die Gesichtszüge sind dabei verzerrt und nur schwer erkennbar. Auf dem Foto ist beschrieben, dass die Person soeben glücklich war, dann aber ein Video mit einem Lied gesehen haben, welches sie seit langem nicht gehört habe und mit einer Person verbinde. Nun würden sie sich “unaliven” wollen. Am XX Oktober 2024 entfernte TikTok den Inhalt von der Plattform. Am 16. November 2024 legte die beschwerdeführende Person die Entscheidung von TikTok bei User Rights zur Überprüfung vor. Bei der Einreichung der Beschwerde an User Rights wurde die beschwerdeführende Person gebeten, relevanten Kontext anzugeben. Diese behauptete, dass beim Klicken auf die Benachrichtigung über den Verstoß nur eine Fehlermeldung angezeigt worden sei, ohne jegliche Erklärung oder Details bezüglich des Verstoßes. Die beschwerdeführende Person erklärte weiterhin, dass der Inhalt nicht gegen die Richtlinien der Plattform verstoße. Sie argumentierte, in dem Beitrag sei nur ein Bild von ihrem Gesicht zu sehen. Zudem beschreibe sie lediglich ihre Verzweiflung darüber, dass ein Song sie an eine bestimmte Person erinnere.
Am 10. Dezember 2024 informierte User Rights TikTok über die Beschwerde bei User Rights und gab die Möglichkeit zur Stellungnahme.
User Rights forderte TikTok auf, zusätzliche Informationen zur Rechtfertigung der getroffenen Moderationsentscheidung bereitzustellen. Die Plattform erklärte, dass der streitgegenständliche Inhalt gegen die Richtlinie zu Suizid und Selbstverletzung verstoße. Diese besage, dass das Teilen, Fördern oder Verbreiten von Plänen für Suizid oder Selbstverletzung nicht erlaubt sei. Bezüglich der Fakten und Umstände, auf die sich die Plattform bei ihrer Entscheidung stützte, erklärte TikTok, die beschwerdeführende Person habe mit dem Beitrag den Wunsch geäußert, ihr Leben zu beenden, was in den Anwendungsbereich der Richtlinie falle.
III. Zulässigkeit
Die Beschwerde ist zulässig. User Rights ist zertifiziert, um Streitigkeiten zwischen Anbietern von Online-Plattformen und Nutzern in Bezug auf die Moderation von Inhalten, die auf einer Social-Media-Plattform auf Deutsch oder Englisch veröffentlicht wurden, zu entscheiden. TikTok ist eine Social-Media-Plattform. Der relevante Inhalt ist in Deutsch verfasst, also in einer Sprache, für die User Rights zertifiziert ist. TikTok hat Inhalte entfernt, die die beschwerdeführende Person auf TikTok geteilt hatte. Die Entfernung von Inhalten stellt eine Maßnahme dar, die gemäß Art. 20 Abs. 1 a) und Art. 21 Abs. 1 DSA bei User Rights angefochten werden kann.
IV. Begründetheit
Die Beschwerde ist unbegründet.
User Rights hält die Entscheidung von TikTok aufrecht, den Inhalt von der Plattform zu entfernen. Der Inhalt verstößt gegen die Richtlinie zu Suizid und Selbstverletzung und wurde auf dieser Grundlage zu Recht entfernt.
1. Prüfungsumfang
In ihrer Stellungnahme gegenüber User Rights erklärte die Online-Plattform, dass die Maßnahme aufgrund ihrer Richtlinie zu Suizid und Selbstverletzung erfolgt sei.
User Rights beschränkt die Prüfung auf die von der Plattform in ihrer Stellungnahme angeführte Regelung. Die Vereinbarkeit mit möglichen anderen Vorschriften wird nicht überprüft. Der Grund dafür ist, dass die Online-Plattform gemäß Art. 17 DSA eine Maßnahme unter Angabe einer spezifischen Regelung in ihren Richtlinien begründen muss (Art. 17 Abs. 3 e) DSA). Der Beschwerdegegenstand bestimmt sich damit maßgeblich danach, auf welche Regelung die Plattform ihre Maßnahme stützt.
Sollte TikTok im Anschluss dieses Verfahrens feststellen, dass eine andere Richtlinie verletzt wurde, muss eine weitere Moderationsentscheidung getroffen und dem Nutzer eine neue Begründung übermittelt werden, die einen Hinweis auf diese Richtlinie enthält. Der Nutzer hat dann das Recht, diese Entscheidung gemäß Art. 20 oder Art. 21 DSA anzufechten.
2. Inhaltliche Prüfung
User Rights stützt seine Entscheidung auf die aktuelle Fassung der Richtlinien der Online-Plattform.
Der Beitrag der beschwerdeführenden Person verstößt gegen die Richtlinie zu Suizid und Selbstverletzung von TikTok. Der Text im Beitrag endet mit der Aussage die Person wolle sich “unaliven” will und verabschiedet sich, was als Ausdruck eines Wunsches nach Suizid interpretiert werden kann.
Die Richtlinie von TikTok zu Suizid und Selbstverletzung hat das Ziel, Inhalte zu verhindern, die Pläne für Suizid oder Selbstverletzung zeigen, fördern oder teilen. TikTok möchte sicherstellen, dass Nutzer*innen emotional komplexe Themen auf eine Weise diskutieren können, ohne dass das Risiko eines Schadens erhöht wird. Inhalte, die Pläne für Suizid oder Selbstverletzung teilen oder fördern, sind ausdrücklich verboten.
Zwar enthält der streitgegenständliche Beitrag keine konkreten Suizidpläne, sondern nur eine lapidare, vermutlich nicht ernst gemeinte Aussage der beschwerdeführenden Person über ihren traurigen Gefühlszustand. Trotzdem steht er damit bereits dem Zweck der Richtlinie entgegen, auf TikTok ein Umfeld zu schaffen, in dem emotional komplexe Themen mit Behutsamkeit und Ernsthaftigkeit ohne ein erhöhtes Schadensrisiko diskutiert werden. Auch eine kurze nicht ernst gemeinte Äußerung wie hier vorliegend, kann für bestimmte Nutzer*innen bereits ein Trigger sein und bringt die Gefahr mit sich, dass die Themen “Suizid und Selbstverletzung” auf TikTok bagatellisiert werden. Daneben ist der Text auch im Zusammenhang mit dem durch die beschwerdeführende Person geposteten Bild zu sehen. Da auf dem Foto die Gesichtszüge der beschwerdeführenden Person verzerrt und verschwommen sind, hat es eine eher verstörende Wirkung auf den Betrachter. Dies kann den Trigger durch den von der beschwerdeführenden Person geposteten Text verstärken.
Die Plattform hat daher im Sinne der Richtlinie gehandelt, indem sie den Inhalt entfernt hat, um potenzielle Risiken für den Nutzer selbst und andere zu minimieren.
Der Wortlaut der Richtlinie zu Suizid und Selbstverletzung kann plausibel so interpretiert werden, dass er in diesem Fall anwendbar ist. Eine endgültige Bewertung, ob die Maßnahme der Plattform gerechtfertigt war und alle Anforderungen der DSA erfüllt, hängt jedoch davon ab, ob die Entscheidung den Grundrechten der beschwerdeführenden Person angemessen Rechnung trug (Art. 14 Abs. 4).
3. Vereinbarkeit der Moderationsentscheidung mit den Grundrechten
Schließlich verletzt die Entscheidung von TikTok auch nicht die Grundrechte der beschwerdeführenden Person.
a. Anwendung von Grundrechten unter dem DSA
Artikel 14 Abs. 4) DSA stellt fest, dass Anbieter von Online-Plattformen bei der Anwendung und Durchsetzung von Beschränkungen sorgfältig, objektiv und verhältnismäßig vorgehen und dabei die Rechte und berechtigten Interessen aller Beteiligten sowie die Grundrechte der Nutzer berücksichtigen müssen, die in der Charta verankert sind, etwa das Recht auf freie Meinungsäußerung, die Freiheit und den Pluralismus der Medien und andere Grundrechte und -freiheiten.
Die Verpflichtung folgt nicht aus dem DSA, sondern aus der Charta der Grundrechte der Europäischen Union (GRCh). Die in der Charta festgelegten Grundrechte gelten nicht nur in Streitigkeiten zwischen Bürgern und dem Staat. Die Grundrechte der Charta sind auch auf rein private Streitigkeiten anwendbar, die keine staatlichen Stellen betreffen. Art. 14 Abs. 4) des DSA konkretisiert dies lediglich in Bezug auf Streitigkeiten zwischen Nutzern und Anbietern von Online-Plattformen.
An mehreren Stellen hat der Europäische Gerichtshof (EuGH) bekräftigt, dass zumindest einige der in der Charta verankerten Grundrechte auch auf private Streitigkeiten und damit auch auf Streitigkeiten zwischen Nutzern und Anbietern von Online-Plattformen anwendbar sind (siehe z.B. EuGH, Urteil vom 17. April 2018, Egenberger, C 414-16, ECLI: EU:C:2018:257 [Artikel 21 und Artikel 47 GRC]).
Bisher hatte der EuGH zwar noch nicht die Gelegenheit zu entscheiden, ob darüber hinaus weitere Grundrechte auf Streitigkeiten zwischen Nutzern und Anbietern von Online-Plattformen sind. Dennoch spricht insbesondere die folgende Überlegung für diese Annahme: Plattformen sind von zentraler Bedeutung für die Ausübung von Grundrechten, insbesondere für das Grundrecht auf Meinungsfreiheit: Ein großer Teil der Online-Kommunikation findet auf Online-Plattformen statt.
Müssten Anbieter von Online-Plattformen keine Rücksicht auf die Meinungsfreiheit (Art. 11 GRCh) der Nutzer nehmen, würde die praktische Wirksamkeit der Bestimmung erheblich beeinträchtigt. Dies gilt ebenso für andere Grundrechte, die Nutzer auf sozialen Medienplattformen ausüben könnten.
Vor diesem Hintergrund wird User Rights die entgegengesetzten Grundrechtspositionen der beschwerdeführenden Person und TikTok abwägen, um festzustellen, ob die Entscheidung von TikTok mit Art. 14 Abs. 4) DSA im Einklang steht.
b. Grundrechte der Parteien
Die beschwerdeführende Person kann sich auf das Grundrecht auf Meinungsfreiheit (Art. 11 GRCh) berufen. Der streitgegenständliche Inhalt ist durch Art. 11 GRCh geschützt.
Das Grundrecht auf Meinungsfreiheit gemäß Art. 11 Abs. 1 GRCh schützt alle Formen der Meinungsäußerung. Hierunter fallen auch anstößige, schockierende oder verstörende Äußerungen. Es ist auch nicht entscheidend, ob es sich um eine politische, kommerzielle oder triviale Äußerung handelt. Es beinhaltet jedoch nicht notwendigerweise das Recht auf algorithmische Verstärkung einer Botschaft (Woods, „Art. 11 GRC“ in Peers et al. (Hrsg.), The EU Charter of Fundamental Rights: A Commentary, 2021, Rn. 11.39). Es ist auch nicht entscheidend, durch welches Kommunikationsmittel diese Äußerungen verbreitet werden. Auch die Verbreitung von Inhalten über Online-Plattformen ist von Art. 11 Abs. 1 GRCh geschützt.
Der Anbieter von TikTok kann sich seinerseits auf seine Grundrechte auf unternehmerische Freiheit (Art. 16 GRCh) sowie auf Meinungsfreiheit (Art. 11 Abs. 1 und 2 GRCh) berufen.
Das Grundrecht auf unternehmerische Freiheit nach Art. 16 GRCh umfasst das Recht, eine wirtschaftliche oder kommerzielle Tätigkeit frei auszuüben (EuGH, Urteil vom 14. Mai 1974, Nold, C-4/73, ECLI:EU:C:1974:51, Rn. 12-14). Dies schließt das Recht ein, eine kommerzielle Online-Plattform zu betreiben, deren Richtlinien festzulegen und eine Moderation der Inhalte zur Durchsetzung dieser Standards gegenüber den Nutzern durchzuführen.
c. Grundrechtliche Anforderungen an Moderationsentscheidungen von Online-Plattformen
Aus der Abwägung der Grundrechtspositionen der beschwerdeführenden Person und TikTok ergibt sich, dass Maßnahmen zur Inhaltsmoderation nicht willkürlich sein dürfen, dass sie verhältnismäßig sein müssen und dass Anbieter von Online-Plattformen verpflichtet sind, Moderationsmaßnahmen kohärent umzusetzen (zu diesen Anforderungen siehe: Wischmeyer/Meißner, Horizontalwirkung der Unionsgrundrechte - Folgen für den Digital Services Act, Neue Juristische Wochenschrift, 2023, S. 2678).
(1) Keine Willkür
Die Moderationsmaßnahme von TikTok ist nicht willkürlich.
Moderationsmaßnahmen sind nicht als willkürlich anzusehen, wenn sie auf einem objektiven Grund beruhen und einem legitimen Ziel dienen.
Vorliegend wurde die relevante Maßnahme auf die TikToks Richtlinie zu Suizid und Selbstverletzung gestützt. Diese bezweckt den Schutz der Community vor Inhalten, die durch Trigger ein Schadensrisiko bei den Nutzer*innen erhöhen bzw. selbstschädigendes Verhalten fördern können.
(2) Verhältnismäßigkeit
Die Moderationsmaßnahme ist verhältnismäßig.
Die Rechte und Interessen der beschwerdeführenden Person, der Online-Platform sowie ggf. Dritter sind gegeneinander abzuwägen. Diese Rechte und Interessen sollen zu möglichst optimaler Wirksamkeit gelangen. Bei dieser Abwägung können neben Grundrechtspositionen auch im europäischen Sekundärrecht verankerte Prinzipien berücksichtigt werden (EuGH, Urteil vom 17. April 2018, Egenberger, C-414/16, ECLI:EU:C:2018:257, Rn. 81). Das Verhältnismäßigkeitsprinzip spiegelt sich auch in Art. 14 Abs. 4 DSA wider, wonach Anbieter von Online-Plattformen verhältnismäßig handeln müssen. Dies umfasst auch die Pflicht, „die Rechte und berechtigten Interessen aller Beteiligten sowie die Grundrechte der Nutzer“ zu berücksichtigen.
Zu den zu berücksichtigenden Faktoren bei der Abwägung zählen u.a. die Art der von der beschwerdeführenden Person verbreiteten Meinungsäußerung, die Reichweite ihres Beitrags, die Verfügbarkeit weniger restriktiver Moderationsmaßnahmen sowie die Größe und Ausrichtung der Plattform.
Nach Abwägung dieser Faktoren kommt User Rights zu dem Schluss, dass die Moderationsmaßnahme verhältnismäßig ist.
Es ist nicht ersichtlich, dass TikTok eine mildere Maßnahme als die Löschung des streitgegenständlichen Inhalts zur Verfügung stand. Die Einschränkung der Sichtbarkeit von Inhalten unter Anbringung von Triggerwarnungen bergen häufig die Gefahr, dass die Inhalte von emotional instabilen Personen gerade doch konsumiert werden, wie Studien gezeigt haben (vgl. Sarah Rondot, Wie sinnvoll sind Triggerwarnungen, SWR Wissen, Stand: 22.05.2023, abrufbar unter: https://www.swr.de/wissen/1000-antworten/wie-sinnvoll-sind-triggerwarnungen-100.html). Dabei hätte es sich nicht um eine mildere und gleich geeignete Moderationsmaßnahme gehandelt.
Die Löschung ist aber auch im engeren Sinne verhältnismäßig bzw. angemessen. So rechtfertigt die Ernsthaftigkeit der Thematik und die Höhe des Schutzgutes von körperlicher Unversehrtheit und Leib und Leben der Nutzer*innen ein striktes Vorgehen der Plattform, auch bei Beiträgen, die keine konkreten Suizidpläne enthalten und bei denen eine tatsächliche Gefährdung des veröffentlichenden Nutzers oder der veröffentlichenden Benutzerin unwahrscheinlich ist. Im Interesse der Sicherheit der TikTok-Community überwiegt hier das Recht der Plattform, die Moderation der Inhalte nach eigenen restriktiven Maßstäben auszuüben. Für TikTok muss auch die große Menge an zu moderierenden Inhalten ins Feld geführt werden. Aus der Perspektive der Plattform wiegt vorliegend die Gefahr eines Dammbruchs bei Inhalten, die die Themen Suizid und Selbstverletzung bagatellisieren, aufgrund gravierender potenzieller Schäden und der Höhe der Schutzüger schwerer als die Meinungsfreiheit der beschwerdeführenden Person. Schließlich wollte sie mit ihrem Beitrag auch nicht für die Thematik sensibilisieren und im Sinne der Plattform zu einem Austausch zwecks Prävention anregen.
Die Löschung war mithin aufgrund eines Verstoßes gegen die Richtlinie zu Suizid und Selbstverletzung rechtmäßig. Die beschwerdeführende Person wird zudem nicht in ihrem Grundrecht auf Meinungsfreiheit verletzt.
V. Ergebnis
User Rights hält TikToks Entscheidung aufrecht, den Inhalt von der Plattform zu entfernen. Der Inhalt verstößt gegen Richtlinie zu Suizid und Selbstverletzung.
Hinweis: Die Entscheidungen von außergerichtlichen Streitbeilegungsstellen sind gemäß Artikel 21 Abs. 2 Satz 3 DSA für Plattformen nicht bindend. Im Rahmen ihrer Pflicht zur Zusammenarbeit nach Treu und Glauben gemäß Artikel 21 Abs. 2 Satz 1 des DSA müssen Plattformen jedoch prüfen, ob Gründe gegen die Umsetzung der Entscheidung sprechen und die Streitbeilegungsstellen über die Umsetzung der Entscheidung informieren.
