Sammelung von Rechtssprechungen in Bücher im Regal

KI verschärft Risiken für Kinder und Jugendliche im Netz

- Pressemitteilungen

Vorstellung des Jahresberichts 2023 von jugendschutz.net

Das Gefährdungspotenzial für Kinder und Jugendliche im Netz nehme zu. Aktuell mache es generative KI immer schwerer, Realität von Fälschung zu unterscheiden. Dies verstärke Risiken für sexualisierte Gewalt, Mobbing und Extremismus. Dies ist ein zentraler Befund des Jahresberichts von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet.

 

Betreiber von Angeboten in der Pflicht

2023 bearbeitete jugendschutz.net 7.645 Verstoßfälle. Dabei handelte es sich zu

  • 2/3 um sexualisierte Gewalt,
  • 12 % um Sex/Pornografie,
  • 11 % um politischen Extremismus,
  • 5 % selbstgefährdende Inhalte,
  • 2 % um Cybermobbing.

3.210 Verstöße meldete jugendschutz.net an Anbieter und Selbstkontrolleinrichtungen mit dem Ziel der schnellen Abhilfe. 105 Verstoßfälle wurden an die Kommission für Jugendmedienschutz (KJM) zur Einleitung eines Aufsichtsverfahrens übermittelt. Außerdem wurden 252 Fälle an die KJM zur Indizierung durch die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) abgegeben. 3.582 Fälle sendete jugendschutz.net an die Strafverfolgungsbehörden, da kinder- und jugendpornografische Inhalte verbreitet wurden oder Gefahr für Leib und Leben bestand. Am Jahresende waren bei 6.902 Fällen (90 %) die Verstöße beseitigt. Stefan Glaser, Leiter von jugendschutz.net, konstatiert:

Betreiber von Angeboten tun zu wenig, um Kinder und Jugendliche zu schützen. Sie reagieren unzureichend, wenn ihnen Verstöße gemeldet werden. Und sie überprüfen die Altersangaben von Nutzenden nicht angemessen. Gute Ansätze, wie möglichst sichere Voreinstellungen für bestimmte Altersgruppen, entfalten dadurch kaum Wirkung.

 

Über jugendschutz.net

jugendschutz.net ist das gemeinsame Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet. Die Stelle recherchiert Gefahren und Risiken in jugendaffinen Diensten. Sie wirkt darauf hin, dass Verstöße gegen Jugendschutzbestimmungen beseitigt und Angebote so gestaltet werden, dass Kinder und Jugendliche sie unbeschwert nutzen können.

Die Jugendministerien der Länder haben jugendschutz.net 1997 gegründet. Die Aufgaben wurden 2003 im Jugendmedienschutz-Staatsvertrag (JMStV) festgelegt. Die Stelle ist seither an die Kommission für Jugendmedienschutz (KJM) angebunden. 2021 hat der Bund jugendschutz.net als gemeinsamem Kompetenzzentrum im Jugendschutzgesetz (JuSchG) ebenfalls eine gesetzliche Aufgabe zugewiesen.

jugendschutz.net wird finanziert von den Obersten Landesjugendbehörden, den Landesmedienanstalten und gefördert vom Bundesministerium für Familie, Senioren, Frauen und Jugend sowie der Europäischen Union.

jugendschutz.net nimmt über seine Online-Beschwerdestelle Hinweise auf Verstöße gegen den Jugendmedienschutz entgegen. Verstöße im Netz können gemeldet werden unter: www.jugendschutz.net/verstoss-melden.

Zurück