Antrag
der Fraktion der AfD
Wer kontrolliert die Kontrolleure? – Für Transparenz, Freiheit und demokratische Kontrolle über KIVI und die Medienwächter!
I. Ausgangslage
Der verstärkte Einsatz von Künstlicher Intelligenz (KI) durch staatliche und staatsnahe Institutionen und Organisationen in den letzten Jahren wirft vor allem nach den Qualitätssprüngen von KI in Form von sogenannten „Large Language Models“ (LLM) grundlegende Fragen nach der Vereinbarkeit mit den bürgerlichen Grundrechten und den Rechtsstaatsprinzipien auf. Neben der kontrovers geführten Diskussion um KI-gestützte Überwachung im öffentlichen Raum steht seit kurzem auch das von der Landesanstalt für Medien (LfM) in NRW zusammen mit der Condat AG entwickelte und mittlerweile von allen 14 deutschen Landesmedienanstalten genutzte KI-Tool „KIVI“ im Zentrum einer medienpolitischen Debatte.1 Von seinem Ersteinsatz 2021 bis Juli 2024 sollen mehr als 11.600 Straftaten überprüft und gemeldet worden sein.2 Dieses ursprünglich nur auf deutschsprachige Inhalte spezialisierte Tool kann mittlerweile auch englische und arabische Sprache verarbeiten. Das Tool ist dabei weniger mit der zurzeit populären generativen KI zu vergleichen, sondern ist vielmehr ein auf Deep Learning basierendes Bild- und Texterkennungstool. Zusätzlich wurden zur Verbesserung der Erkennungsrate bei multimedialen Inhalten auch verstärkt externe Machine-Learning-Dienste integriert.3
Kritiker, darunter auch Datenschützer und Juristen, vergleichen KIVI mit sogenannten Staatstrojanern und bezeichnen es als „Wächter-Werkzeug“, das Social-Media-Aktivitäten der Bürger einer automatisierten Inhaltsanalyse unterzieht und dabei Rechtsverstöße oder problematische Aussagen identifiziert.
Für Kritiker einer solchen umfassenden Überwachung ist klar, dass die Landesmedienanstal-ten mit KIVI agieren, als seien es geheimdienstliche Instrumente der Überwachung, des Aus-spionierens und der Verfolgung von Andersdenkenden. Daneben steht der Vorwurf im Raum, dass zum Beispiel pointierte „regierungskritische Aussagen“ oder unliebsame Formulierungen oder Behauptungen als Hassrede oder Desinformation markiert und letztlich zur weiteren Verarbeitung an die Justiz weitergeleitet werden. Hier kann man auch einen Vergleich zu einem Unternehme aus NRW, der SO DONE GmbH, ziehen, welche ebenfalls KI-gestützt die sozialen Netzwerke nach sogenannten Hassreden durchsucht und im großen Stil zur Anzeige bringen lässt. Beide Beispiele der KI-gestützten Massenüberwachung machen deutlich, dass auch dann, wenn prozentual wenig Bürger direkt betroffen sind, es eine gesellschaftlich wahrgenommene Einschränkung des Freiheitsgefühls gibt. Selbstzensur (ob bewusst oder unbewusst), die von Medienwissenschaftlern auch als „Chilling Effect“ bezeichnet wird, ist häufig der erste Schritt zur Einschränkung der grundgesetzlich verankerten Zensurfreiheit. Ebenso wie die Überwachung des digitalen Raumes wird von Menschenrechtsaktivisten und Datenschützern von einem Effekt auf das Freiheitsgefühl der Bürger durch KI-gestützte Kameraüberwachungssysteme in öffentlichen physischen Räumen ausgegangen. Fremdinduzierte Selbstzensur ist dabei auch eine Form der Zensur.
Der Direktor der Landesmedienanstalt NRW, Tobias Schmid begrüßt dabei in einem Interview diese Selbstzensur: „Ein weiteres Argument ist das der Generalprävention, ein nicht zu unterschätzender Fakt. […] Aber es kann schon dazu führen, dass sich die vor sich hinpöbelnde Mitschwimmmasse plötzlich überlegen muss, ob es wirklich so eine coole Idee ist, nach dem Genuss von zwei Bier vor dem Fernseher drei Hasspostings rauszuschicken.“4
Besonders alarmierend ist die Intransparenz der Landesmedienanstalten bezüglich des Einsatzes der KI-Überwachung und die Sorge, dass KIVI in einem „rechtsfreien Raum“ operiert, da eine klare gesetzliche Grundlage und ein umfassendes Rechtsgutachten, das Datenschutz-recht und Freiheitsrechte beurteilt, nicht öffentlich bekannt oder vorhanden sind. So fragt ein Journalist bei netzpolitik.org, warum es bisher keine Datenschutz-Folgenabschätzung für KIVI gab.5 Zentrale Fragen bleiben unbeantwortet: die Offenlegung der Kriterien und Algorithmen, nach denen Inhalte kategorisiert oder als rechtswidrig eingestuft werden; die Entscheidung über sogenannte Whitelists oder Blacklists; die Zugriffsberechtigungen; die Aufsicht über bei externen Dienstleistern gespeicherte personenbezogene Daten – das zeugt insgesamt von „gezielter Intransparenz“.
Diese Zustände sind im Hinblick auf die Meinungs- und Medienfreiheit in Deutschland besorgniserregend und erfordern dringend eine bessere und effizientere Kontrolle. Es geht um nicht weniger als die Verteidigung der Grundrechte und des Datenschutzes.
Daher ist es die vordringliche Aufgabe des Parlaments, den intransparenten und grundrechtsgefährdenden Einsatz eines KI-Überwachungstools durch die Landesmedienanstalten, insbesondere der LfM NRW, unter klare demokratische und rechtsstaatliche Kontrolle zu bringen. Wir müssen sicherstellen, dass KIVI ausschließlich auf einer soliden gesetzlichen Grundlage, unter strenger unabhängiger Aufsicht und mit voller Transparenz über seine Funktionsweise eingesetzt wird, um unsere freie Meinungsäußerung vor staatlicher Überwachung und Zensur zu schützen.
II. Der Landtag stellt fest:
- Jede Form von großflächiger Massenüberwachung, sei es von Menschen oder von ihren Meinungsäußerungen, führt zu einer Selbstunterdrückung.
- Eine freiheitliche Demokratie muss alle Tendenzen zur Unterdrückung von Meinungsäußerungen entgegenwirken.
- durch die Ausweitung und Verschärfung von sogenannten Meinungsdelikten in den letzten Jahren ist die Grenze zwischen erlaubter und strafbarer Äußerung immer schwerer zu ziehen.
- Der sogenannte Chilling-Effekt darf nicht durch verantwortliche Entscheider bei der Überwachung intendiert oder in Kauf genommen werden.
- Das KI-Tool „KIVI“ der Medienanstalten bedarf einer technischen, wirtschaftlichen, juristischen und an den Demokratieprinzipien orientierten Neubewertung.
- In dem zugeordneten Ausschuss sollte eine Parlamentarische Kontrolle etabliert werden.
- Die bisher öffentlich bekannten Informationen zur organisatorischen und technischen Arbeitsweise des KIVI-Einsatzes und zu den Kriterien der Überwachung genügen nicht den Anforderungen an den Umgang mit so einem wirkmächtigen Werkzeug in einer freiheitlichen Demokratie.
III. Der Landtag fordert die Landesregierung auf:
- sich dafür einzusetzen, dass der Einsatz von KIVI als Werkzeug der Massenüberwachung ebenso rechtssicher und auch demokratisch legitimiert ist wie ähnliche Überwachungssysteme im öffentlichen Raum;
- sich auf nationaler und europäischer Ebene dafür einzusetzen, dass Medienstaatsverträge, aber auch das Digitale-Dienste-Gesetz sowie der Digital Services Act der Europäischen Union, so ausgestaltet werden, dass sie die Befugnisse zur Medienkontrolle ausdrücklich auf die Überwachung von klar und abschließend definierten Straftatbeständen beschränken;
- sich dafür einzusetzen, dass in den Medienstaatsverträgen eine Klausel für eine bessere und engere parlamentarische Kontrolle der Medienanstalten in Bezug auf den Einsatz von Massenüberwachungstools implementiert wird.
Sven W. Tritschler
Dr. Martin Vincentz
Christian Loose
und Fraktion
3 https://web.archive.org/web/20250215130858/https://www.condat.de/loesungen/smart-media-engine/
5 Ebd.