Mit Künstlicher Intelligenz zu einer modernen Medienaufsicht

Seit heute arbeiten die Medienanstalten mit einer für die Landesanstalt für Medien NRW entwickelten KI-Lösung. In Zusammenarbeit mit den Mitarbeitenden der Medienanstalten in den anderen Ländern ist dieses technische Hilfsmittel in den letzten Monaten realisiert und jetzt deutschlandweit ausgerollt worden. Das KI-Tool beschleunigt, vereinfacht und verbessert die Medienaufsicht im Netz. Durch automatisiertes Monitoring von Social Media-Plattformen und Webseiten werden potenzielle Rechtsverstöße identifiziert und zur Prüfung durch die Mitarbeitenden der Aufsicht vorbereitet.

In NRW entwickelt, jetzt deutschlandweit im Einsatz

"Wir sind oft gefragt worden, ob die Regulierung des Internets Sinn macht und ob wir tatsächlich glauben, das von NRW aus leisten zu können. Zwei Dinge dürften spätestens heute feststehen. Die Meinungsfreiheit im Netz zu sichern, kann nur gelingen, wenn wir Regeln zu ihrem Schutz haben und durchsetzen. Und wir zeigen, dass wir diese Aufgabe annehmen und noch nie besser dafür aufgestellt waren. Der Einsatz Künstlicher Intelligenz ermöglicht eine Medienaufsicht, die menschliche Expertise und höchste technologische Standards vereint. Um beides zu erreichen: den Schutz vor Rechtsverstößen und damit die Sicherung der Meinungsfreiheit. Und ganz nebenbei beweist der Föderalismus seine Leistungsfähigkeit, denn es sind die deutschen Medienanstalten, die als erste ganzheitlich den Kampf gegen Hass und Jugendgefährdung im Netz aufnehmen können", bewertet Dr. Tobias Schmid, Direktor der Landesanstalt für Medien NRW, die deutschlandweite Anwendung des Tools.

Nachdem im Jahr 2019 eine umfassende Machbarkeitsprüfung durchgeführt wurde, konnte bereits Ende 2020 in Zusammenarbeit mit der Condat AG ein erster Prototyp vorgelegt werden. Seitdem wird das KI-Tool in NRW eingesetzt. Schon jetzt werden täglich mehr als 10.000 Seiten automatisch auf Rechtsverstöße geprüft. In der Konsequenz konnte die Zahl der Strafanzeigen der Medienanstalt NRW im Vergleich zu früheren ähnlichen Bearbeitungszeiträumen verdoppelt werden. Ab sofort nutzen auch die anderen Medienanstalten in Deutschland dieses Tool.

Moderne und effektive Medienaufsicht braucht dynamische technische Hilfsmittel

Dabei kann die zugrundeliegende Künstliche Intelligenz dynamisch an die Anforderungen angepasst werden, die sich einer zeitgemäßen Medienaufsicht immer neu stellen - sei es die Integration neuer Websites und Angebote oder die Anpassung von Verstoß- und Aufsichtskategorien. Das Tool lernt jeden Tag und bei jeder Nutzung und bleibt damit immer aktuell. Dieser Effekt verstärkt sich einmal mehr durch die intensive Nutzung des Tools in immer mehr Medienanstalten.

Gleichzeitig gelingt es so trotz der föderalen Organisation der Medienanstalten eine deutschlandweite und koordinierte Bearbeitung von Rechtsverstößen im Netz zu gewährleisten. Auch aus dem europäischen Ausland gibt es daher erste Anfragen, das Tool zu nutzen und so zu einer grenzüberschreitenden Rechtsdurchsetzung beizutragen.

Mit dem KI-Tool wurden zudem Mechanismen geschaffen, mit denen sich der Mitarbeiterschutz signifikant verbessert hat. Denn die manuelle Suche nach Rechtsverstößen im Internet und auf Social Media birgt mitunter erhebliche Risiken für die psychische Gesundheit derer, die unvermittelt auf diese Inhalte stoßen. Mit dem Tool ist es nun möglich, potenzielle Verstöße nach Kategorien geordnet anzeigen zu lassen und visuelle Inhalte zunächst unscharf darzustellen.

Weitere Informationen zum KI-Tool finden Sie hier.

Für Rückfragen stehen wir jederzeit zur Verfügung.