KI-System KIVI für die automatisierte Medienaufsicht

Condat AG für die Landesanstalt für Medien NRW (mittlerweile auch weitere Landesmedienanstalten) · Deutschland

Medien, Marketing & Kommunikation Öffentlicher Sektor & Verwaltung Recht & Compliance Anomalie- & Betrugserkennung Computer Vision Effizienz & Kostensenkung Risikominimierung & Compliance Etablierter Standard

Gewaltverherrlichende, volksverhetzende oder pornografische Inhalte im Netz manuell aufzuspüren, übersteigt längst die Kapazitäten der Landesmedienanstalten. Die Berliner Condat AG hat dafür die Software KIVI entwickelt, die Webseiten und Social-Media-Plattformen automatisiert nach Rechtsverstößen durchsucht und dabei über 10.000 Seiten am Tag verarbeitet. Seit 2021 läuft das System im Produktivbetrieb bei der Landesanstalt für Medien NRW und wird inzwischen auch von weiteren Landesmedienanstalten eingesetzt.

Vertiefung

KIVI kam 2020 zunächst als Prototyp bei der Landesanstalt für Medien NRW zum Einsatz und ist seit 2021 im Produktivbetrieb. Die Software durchsucht World Wide Web, YouTube, Twitter/X, Telegram und weitere Plattformen automatisiert und lernt anhand von Bild- und Textbeispielen, die in der Vergangenheit als Verstoß eingestuft wurden. Mitarbeitende der Landesmedienanstalt geben dem System täglich Rückmeldung, ob ein gefundener Verdachtsfall bestätigt wurde, wodurch sich die Trefferquote laufend verbessert, je mehr Behörden die Software nutzen. Aktuell ist KIVI ausschließlich auf deutschsprachige Textinhalte trainiert, eine Übertragung auf weitere Sprachen wäre für den Einsatz in anderen Ländern oder mehrsprachigen Kontexten also ein zusätzlicher Schritt.