Russlands Wikipedia-Klon: Wie Desinformation in Chatbots landet

Das Risiko, Falschinformationen im Netz aufzusitzen, war wohl nie größer als heute. Immer mehr Menschen nutzen bei der Suche nach Antworten generative KI-Chatbots. Doch gerade die großen Sprachmodelle (Large Language Models, LLMs) neigen zu Halluzinationen und spucken nicht selten ungeprüft falsche Antworten aus. Hinzu kommt: KI-Systeme bewerten die Vertrauenswürdigkeit von Quellen nur begrenzt. Werden also manipulierte Inhalte strategisch im Netz platziert und verbreitet, können auch Chatbots sie als vertrauenswürdige Quelle einschätzen und in ihre Antworten an uns übernehmen. Dies passiert schon seit Jahren und wird insbesondere auch für politische Einflussnahme genutzt.

Aus Russland ist jetzt ein neuer Fall bekannt geworden: Geleakten Berichten zufolge soll eine russische Trollfabrik am Aufbau eines Klons der deutschsprachigen Wikipedia arbeiten. Das Ziel ist dabei besonders perfide: Die manipulierten Inhalte sollen so geschrieben werden, dass insbesondere KI-Chatbots sie als vertrauenswürdige Quellen einstufen und vor allem bei Anfragen aus dem deutschsprachigen Raum in ihre Antworten integrieren.

Ein trojanisches Pferd der Fake News also. Wer beispielsweise Informationen über den russischen Angriffskrieg in der Ukraine oder den Oppositionellen Alexei Nawalny sucht, könnte von ChatGPT & Co ideologisch verzerrte Darstellungen geliefert bekommen – vermeintlich aus der Wikipedia stammend und mit dem Gütesiegel der Seriosität versehen.

Portale wie t-online oder watson beziehen sich in ihrer Berichterstattung auf einen Leak interner Dokumente der russischen Social Design Agency (SDA). Die verbreitet seit Jahren im Auftrag des Kremls Falschinformationen über soziale Medien, auch in Deutschland. Die SDA wird unter anderem für die sogenannte Doppelgänger-Kampagne verantwortlich gemacht – eine Serie von Fälschungen der Social Media Accounts und Webseiten großer Nachrichtenportale wie „Bild“ oder „Spiegel“ – mit dem Ziel, darüber antiwestliche Propaganda zu verbreiten und die Stimmung in der Bevölkerung pro Russland zu beeinflussen.

Jetzt legt die SDA offenbar nach – mit eben jenem deutschsprachigen Wikipedia-Klon, auf den Chatbots bei Anfragen in deutscher Sprache zugreifen sollen. 200.000 Seiten umfasse diese Fake-Datenbank bereits, heißt es in den Berichten. Monatlich sollen 500 manuell verfälschte Artikel in die KI-Plattformen eingespeist werden. Noch ist kein Fall bekannt, in dem eine solche Klon-Seite der SDA aufgetaucht wäre. Ähnliche Fälle zeigen aber, wie schnell und wirkungsvoll sich Desinformation mit digitalen Mitteln verbreiten lässt.

Jüngst flogen etwa die Machenschaften des prorussischen Social-Media-Bot-Netzes „Matrjoschka“ auf, das in Armenien massenhaft Lügen verbreitet, um Einfluss auf die Parlamentswahlen am 7. Juni im Sinne Russlands zu nehmen. Auch ein von Russland gesteuerter Wikipedia-Klon ist in dem südkaukasischen Land tatsächlich schon aktiv, wie das Portal The Insider nachzeichnet.

Überhaupt besitzt die Propagandamaschinerie des Kremls bereits Erfahrung mit Wikipedia-Kopien. Mit Ruwiki existiert dort seit Januar 2024 ein Klon der russischsprachigen Version der freien Online-Enzyklopädie, der um Einträge zu kritischen Themen bereinigt wurde und zum Beispiel den Begriff „Spezielle Militäroperation“ für den Angriffskrieg in der Ukraine verwendet.

Aber Russland ist nicht die einzige Quelle für Desinformationen, die über Chatbots ihren Weg zu uns Menschen finden. Das Portal The Verge hat kürzlich eine Analyse veröffentlicht, der zufolge KI-Systeme eine Vielzahl von Artikeln aus der von US-Milliardär Elon Musk gestarteten Grokipedia abrufen. Bei rund 13 Millionen Prompts an ChatGPT sei Grokipedia etwa 260.000-mal zitiert worden. Auch bei Gemini, dem Chatbot von Google, und Microsoft Co-Pilot wurde die Seite mehrfach als Referenz ausgewiesen. Das Problem: Die von Musk entwickelte Enzyklopädie wird nicht wie die Wikipedia von Menschen, sondern selbst von einer KI geschrieben – dem Chatbot Grok, der u. a. dadurch in Verruf geriet, dass er sexualisierte Bilder generierte und verbreitete.

Und: Grokipedia lässt unter anderem Quellen wie die rechtsextreme Seite Stormfront und das Verschwörungs-Portal Infowars zu. Inzwischen belegen auch zahlreiche Studien, etwa der Cornell University, „eine systematische Verschiebung der politischen Ausrichtung häufig zitierter Nachrichtenmedienquellen nach rechts“ (hier und hier zu finden). Anders als die Wikipedia, die sich dem neutralen Standpunkt verpflichtet hat, soll Grokipedia vor allem die Weltsicht ihres Erfinders transportieren.

Auch die neuesten Pläne von Google sind besorgniserregend. Die größte Suchmaschine im Netz plant die Transformation zu einer KI-Antwortmaschine. Künftig sollen bei einer Anfrage statt der gewohnten Listen mit Links nur noch KI-generierte Antworten angezeigt werden. Der Gatekeeper wäre Googles eigene KI.

Der Informatiker und Publizist Jürgen Geuter spricht deshalb von einem „Krieg gegen das Web“ – so zitiert ihn Deutschlandfunk in einem Beitrag unter dem Titel „Stirbt das Internet, wie wir es kennen?“

Das Risiko, mit Fake News und unzuverlässigen Quellen beliefert zu werden, ist heute also größer denn je. Die Wikipedia bleibt bei all diesen Entwicklung die nahezu letzte Bastion für geprüftes und verlässliches Wissen im Netz.

In der ehrenamtlichen Community wird die geplante Desinformationsoffensive aus Russland aufmerksam verfolgt und diskutiert. Handhabe dagegen hat sie selbst freilich nicht – die Verantwortung, Fake News nicht als Quelle heranzuziehen, läge bei den KI-Entwicklern. „Noch ein Grund mehr, wieso unser KI-Verbot absolut der richtige Weg ist“, schreibt Benutzer Chaddy zu den Vorgängen um den Wikipedia-Klon. Er bezieht sich dabei auf die Übereinkunft der Community, das Einstellen von KI-generierten Texten in der Wikipedia zu untersagen.

Schließlich funktioniert die freie Online-Enzyklopädie nach klaren Grundprinzipien – dazu zählen Nachprüfbarkeit, Neutralität und Belegpflicht, also die Plicht, Quellen anzugeben. Ein entscheidender Unterschied zu KI-Programmen. KI-generierte Texte in der Wikipedia würden also die Qualität des Projekts gefährden. Entsprechend engagiert handeln die Ehrenamtlichen aus, wie und mit welchem Aufwand sich solche Artikel abwehren lassen, wie sich KI generierte Inhalte überhaupt erkennen lassen – und welche KI-Tools dennoch hilfreich für die Arbeit in der Wikipedia sein können.

Das alles unter der Maxime: Wissen ist und bleibt menschlich.