Die Vorwürfe von Schauspielerin Collien Fernandes gegen ihren Ex-Mann Christian Ulmen haben „digitale sexualisierte Gewalt“ zum bundesweit diskutierten Thema gemacht. Die Problematik sogenannter Deepfakes besteht dabei schon länger – und hat sich verschärft. Ende vergangenen Jahres erst hat sich die Bayerische Landeszentrale für neue Medien (BLM) als zuständige Medienaufsicht mit dem KI-Chatbot Grok von Elon Musks Firma xAI befasst. Wie aus ihrem jetzt veröffentlichten Jugend- und Nutzerschutzbericht 2025 hervorgeht, wurden dabei „problematische Inhalte festgestellt“, darunter mithilfe künstlicher Intelligenz generierte Pornografie sowie Sexual- und Nackt-Darstellungen ohne Einwilligung der abgebildeten Personen. Die BLM leitete aufsichtsrechtliche Schritte ein.
„Es gilt, die Plattformen stärker in die Verantwortung zu nehmen“
Im Jahr 2025 war sie viel beschäftigt. Wie weiter aus dem Bericht hervorgeht, erreichten die Fallzahlen im Jugendmedienschutz einen erneuten Höchststand. So überprüfte die Landeszentrale, zu deren Hauptaufgaben dieser sowie die Aufsicht über Online-Plattformen gehört, in knapp 10.000 Fällen auf Verstöße – also auf unzulässige oder strafbare Inhalte in Posts oder Ähnlichem. Etwa 8.500 Fälle entfielen auf Hatespeech, bei rund 1400 Fällen handelte es sich um pornografische Inhalte.
Nach Angaben der BLM hat sich die Zahl der Prüffälle im Vergleich zu 2024 mehr als verdoppelt. Damals waren es 3700. Dies sei auf den verstärkten Einsatz von KI zurückzuführen – aber auch auf ein erhöhtes Meldeaufkommen durch Kooperationspartner wie das Bundeskriminalamt oder Hinweise aus der Bevölkerung.
BLM-Präsident Thorsten Schmiege fordert: „Es gilt, die Plattformen stärker in die Verantwortung zu nehmen.“ Erst wenn X, Facebook oder TikTok für rechtswidrigen Content haften, entstehe ein wirksamer Anreiz, illegale Inhalte schneller und konsequenter zu entfernen. Aktuell müssen die Plattformen nur nach Kenntnisnahme eines Rechtsverstoßes reagieren. Eine Aufgabe der BLM ist es, ihren Betreibern strafbare Inhalte etwa zur Löschung zu melden. Dies geschah im Jahr 2025 bei den knapp 10.000 Prüffällen mehr als 3500 Mal.
Jugend- und Nutzerschutzbericht 2025: „zunehmende Radikalisierung von Jugendlichen im Netz“
Im neuen Jugend- und Nutzerschutzbericht der Medienaufsicht wird überdies eine „zunehmende Radikalisierung von Jugendlichen im Netz“ festgestellt. Extremistische Akteure nutzten, heißt es, „jugendaffine Medienangebote und -trends aller Art“ und instrumentalisierten sie für ihre Zwecke. Die BLM betont, konsequent gegen Rechtsverstöße vorzugehen. Man sei auch im Dialog mit Plattformbetreibern und Anbietern, die Sitz in oder Bezug zu Bayern haben. Das sind unter anderem Amazon, Microsoft mit seiner Suchmaschine Bing, Twitch oder OpenAI.
Um kommentieren zu können, müssen Sie angemeldet sein.
AnmeldenSie haben noch kein Konto? Kostenfrei registrieren