„Desorientierung“

KI: Medienwächter warnen vor Risiken für Kinder

Aktuell bestehe die Gefahr, dass KI-generierte Inhalte, Bilder oder Videos zu einer Desorientierung von Minderjährigen beitragen und die Polarisierung der Gesellschaft befördern, so die Kommission.

(Bild: stock.adobe.com, Krone KREATIV)

Deutsche Medienregulierer warnen vor Risiken für Kinder durch den Einsatz von Künstlicher Intelligenz. Es gebe dringenden Handlungsbedarf zum Schutz von Minderjährigen, teilte die Kommission für Jugendmedienschutz (KJM) am Mittwoch mit. Sie beruft sich dabei auf ein eigens in Auftrag gegebenes Gutachten beim Institut für Europäisches Medienrecht.

Aktuell bestehe die Gefahr, dass KI-generierte Inhalte, Bilder oder Videos zu einer Desorientierung von Minderjährigen beitragen und die Polarisierung der Gesellschaft befördern, führte die Kommission aus. Daher sei es wichtig, dass diese Risiken rechtzeitig durch Gesetzesänderungen adressiert werden. KI-Anbieter müssten auch in die Pflicht genommen werden.

Im Gutachten heißt es im Ausblick unter anderem: „Ein wirksamer Kinder- und Jugendmedienschutz kann in digitalen Kontexten einschließlich der Herausforderungen durch KI nur gewährleistet werden, wenn man die Gefährdungslage für die Entwicklung Minderjähriger erkennt und richtig einordnet.“ Dafür bedürfe es genauerer Kenntnisse über die Auswirkungen des Einsatzes digitaler Technologien auf die verschiedenen Dimensionen des rechtlich gebotenen Schutzes.

Die KJM ist nach eigenen Angaben die zentrale Aufsichtsstelle für den Jugendschutz im privaten Rundfunk und bei Angeboten im Netz. Sie achtet auf die Einhaltung von politisch festgelegten Jugendschutzbestimmungen.