Täuschend echt: Wie künstlich generierte Reichweite die Meinungsbildung verzerrt

Wenn Nutzerinnen und Nutzer auf tausende Likes, Kommentare oder geteilte Beiträge treffen, entsteht schnell der Eindruck allgemeiner, gesellschaftlicher Relevanz. Doch immer häufiger ist unklar, ob hinter dieser vermeintlichen Aufmerksamkeit tatsächlich auch Menschen mit ihren Meinungen und Sichtweisen stehen – oder koordinierte Netzwerke, automatisierte Fake-Accounts und systematische Manipulationskampagnen. Die gezielte und interessengesteuerte Beeinflussung digitaler Kommunikationsräume entwickelt sich zunehmend zu einer Herausforderung für die freie öffentliche Meinungsbildung und damit für die Demokratie. 

Mit diesem Phänomen hat sich das Gutachten „Analyse des staatlichen Reaktionsgefüges gegen Manipulationen des öffentlichen Informationsraums“ der Landesanstalt für Medien NRW auseinandergesetzt, das von Prof. Dr. Ralf Müller-Terpitz von der Universität Mannheim durchgeführt wurde. Die Studie geht von der Prämisse aus, dass systematische Eingriffe in digitale Kommunikations- und Informationsräume zunehmend die freie öffentliche Meinungsbildung untergraben und damit eine erhebliche Bedrohung für die freiheitlich-demokratische Grundordnung darstellen. Vor diesem Hintergrund wird die Notwendigkeit eines koordinierten Vorgehens gegen manipulative Verbreitungstechniken unter Beteiligung der Landesmedienanstalten aufgezeigt. 

Bots, Fake-Accounts und Co.: Nicht der Inhalt steht im Mittelpunkt, sondern die Manipulation seiner digitalen Verbreitung

Das Gutachten betrachtet Manipulationen des öffentlichen Informationsraums ausdrücklich unabhängig von der Frage, ob einzelne Inhalte wahr oder falsch sind. Im Fokus stehen vielmehr systematische Praktiken, die Kommunikationsprozesse verdeckt verzerren und dadurch die individuelle und gesellschaftliche Meinungsbildung gezielt beeinflussen sollen. Dazu gehören unter anderem Social Bots, Fake-Accounts, gefälschte Nachrichtenwebseiten, Deepfakes oder sogenanntes „Coordinated Inauthentic Behaviour“ (CIB), also koordinierte Netzwerke, die künstlich Reichweite und Aufmerksamkeit erzeugen. Nutzerinnen und Nutzer werden dadurch über die tatsächliche Herkunft, Relevanz oder Popularität von Inhalten getäuscht.

Die Folgen reichen weit über einzelne Falschinformationen hinaus: Öffentliche Debatten werden verzerrt, Desinformation verbreitet sich leichter und das Vertrauen in Medien, Institutionen und demokratische Prozesse wird nachhaltig geschwächt.

Wirksamere Instrumente sind ausschlaggebend 

Um der koordinierten technischen Manipulation im Netz konsequent entgegenzutreten, empfiehlt das Gutachten eine intensivere Zusammenarbeit zwischen nationalen und europäischen Behörden, woran auch die Landesmedienanstalten zu beteiligen sind. Zudem sollten die Medienanstalten als Aufsichtsbehörden über das Internet und die privaten Medien mit entsprechenden Befugnissen ausgestattet werden. 

„Mit dem Entwurf des Zehnten Medienänderungsstaatsvertrags übernehmen die Länder erneut eine Vorreiterrolle in Europa. Aus der Erfahrung der Praxis wird immer deutlicher, dass die Gefahr für die Destabilisierung der Gesellschaft eher in den Bereichen technischer Manipulation liegt als in einzelnen – möglicherweise fragwürdigen – Aussagen. Damit wird auch klar, dass es dem Gesetzgeber eben nicht um Zensur oder Wahrheitskontrolle geht, sondern um den Schutz der Gesellschaft vor technischem Betrug“, so Dr. Tobias Schmid, Direktor der Landesanstalt für Medien NRW. 

Vom Befund zum Handeln: Was jetzt passieren muss 

Das Gutachten rückt die Handlungsebene in den Mittelpunkt: Trotz vorhandener Ansätze bestehen erhebliche Lücken bei Zuständigkeiten, Durchsetzung und im Umgang mit grenzüberschreitender Manipulation. Um gezielten Eingriffen in den öffentlichen Informationsraum wirksam zu begegnen, formuliert es folgende zentrale Empfehlungen:

• Die Schaffung eines klaren Rechtsrahmens für den aufsichtsrechtlichen Umgang mit technischer Manipulation von Reichweite und Relevanz;
• klare Kennzeichnungspflichten für automatisierte und KI-generierte Inhalte;
• verbindliche Regelungen für große Online-Plattformen, die die aktuell weitgehend freiwillige – und nur in Teilen funktionierende – Selbstregulierung ergänzen. 

Eine Zusammenfassung des Gutachtens finden Sie hier: