Wikipedia begrenzt Einsatz von generativer KI – welche Herausforderungen bleiben

Die Wikipedia funktioniert nach Grundprinzipien – unter anderem sind das Nachprüfbarkeit, Neutralität und Belegpflicht. Diese Prinzipien machen sie in Kombination mit ihrem umfangreichen Regelwerk so verlässlich und resistent gegen Desinformation. Generative KI funktioniert ganz anders: Sie formuliert Texte nicht faktenbasiert, sondern auf Wahrscheinlichkeit und Plausibilität basierend. Das passt nicht zur Idee einer menschengemachten Enzyklopädie: Wenn mit Textgeneratoren erstellte Bearbeitungen oder ganze Wikipedia-Artikel nicht auf Richtigkeit geprüft, nicht mit geeigneten Quellenangaben versehen und nicht in enzyklopädischer Sprache formuliert sind, widersprechen sie den Grundprinzipien des Online-Lexikons – und schmälern somit dessen Qualität.

Die Abstimmung (in der Wikipedia „Meinungsbild” genannt) zielte darauf ab, die menschliche Produktion von Artikelinhalten und Diskussionsbeiträgen in den Vordergrund zu rücken und nur wenige Ausnahmen zuzulassen. Die Abstimmung lief vom 1. bis zum 15. Februar. Sich beteiligen durften alle Wikipedianer*innen, die seit mindestens zwei Monaten aktiv sind und mindestens 200 Bearbeitungen vorgenommen haben – davon mindestens 50 Artikelbearbeitungen in den letzten 12 Monaten.

Zum Ende des Meinungsbildes, für dessen Annahme eine einfache Mehrheit vorausgesetzt wurde, waren 208 Stimmen dafür abgegeben worden, den restriktiven Umgang mit KI verbindlich festzuschreiben. 108 stimmten dagegen, 16 enthielten sich. Damit ergibt sich eine deutliche Mehrheit für eine strenge Begrenzung und klare Regelung für KI-generierte Inhalte in der Online-Enzyklopädie.

Ausdrücklich untersagt ist das Einstellen von Texten, die mit Large Language Models (LLM) wie ChatGPT erzeugt oder bearbeitet wurden. Von allen Mitwirkenden wird erwartet, dass sie ihre enzyklopädischen Texte selbst verfassen.

Ebenfalls unzulässig ist der Einsatz von Tools, die Änderungen in Artikeln KI-gestützt und ohne menschliche Prüfung vornehmen.

Erkennbar von einem LLM generierte Texte – etwa auf externen Websites – gelten nicht als geeignete Belege für die Artikelinhalte in der Wikipedia.

Die Grundsätze gelten nicht nur für Artikel, sondern auch für Diskussionsseiten – also den Seiten, auf denen Wikipedianer*innen über Artikelinhalte diskutieren – und andere Projektbereiche

Autor*innen, denen das wiederholte Einstellen von mit LLM generierten Texten nachgewiesen werden kann, können unbeschränkt gesperrt werden. Sperren aufgrund von KI-Einsatz sollen jedoch nur erfolgen, wenn die Beweislage klar ist.

Trotz der klaren Begrenzung sieht die Regelung bestimmte Ausnahmen vor:

…dürfen in Ausnahmefällen nach Diskussion und Konsens für jedes einzelne Bild eingesetzt werden – aber nie als Ersatz für echte Bilder.

…etwa zur Rauschentfernung in Bildbearbeitungssystemen bleibt zulässig.

…auch wenn sie KI-gestützt arbeiten (zum Beispiel bei Übersetzungen aus anderen Sprachversionen der Wikipedia), sind erlaubt – vorausgesetzt, Übersetzungen und Belege werden sorgfältig auf inhaltliche Korrektheit geprüft.

…dürfen genutzt werden, sofern jede Änderung menschlich geprüft wird. Zulässig ist etwa der Einsatz von Werkzeugen, die Texte auf Plausibilität, Lücken oder Widersprüche hinweisen oder Rechtschreibung und Grammatik prüfen. Inhaltliche Änderungen müssen jedoch von Menschen vorgenommen werden.

…bleibt möglich, sofern die gewonnenen Informationen eigenständig geprüft und regelkonform belegt werden.

Die Abstimmung gilt verbindlich für alle, die an der deutschsprachigen Wikipedia mitarbeiten. Die neuen Regeln unterstreichen ein wichtiges Grundprinzip des Projekts: Wikipedia-Artikel sollen von Menschen für Menschen recherchiert und geschrieben werden. Community-Mitglieder sehen in der Entscheidung die Grundlage für eine Regelung, die eine sinnvolle Nutzung von KI nicht verbietet, aber klar festlegt, dass die Verantwortung immer bei den menschlichen Autoren liegt.

Innerhalb der Community und auch öffentlich wird nun aber vor allem darüber diskutiert, wie dies künftig umgesetzt werden soll. Dabei sind viele Fragen noch offen: Wie lassen sich KI-generierte Texte erkennen? Wie kann ein zusätzlicher Aufwand für die ehrenamtlich Mitarbeitenden möglichst gering gehalten werden? Wie wird mit Texten umgegangen, die zwar mit KI erstellt wurden, aber inhaltlich korrekt und regelkonform sind? Und wie laufen Diskussionen ab, wenn es um das Löschen oder Behalten solcher Inhalte geht?

Einige Ehrenamtliche haben bereits erste Methoden entwickelt, um KI-Texte zu erkennen und den Mehraufwand zu begrenzen. Um weitere Antworten auf die offenen Fragen zu finden, wird es in der nächsten Zeit noch weiteren Austausch geben. Unter anderem findet im März ein dreitägiges Treffen in Berlin statt, bei dem sich Teilnehmende mit dem Thema beschäftigen werden.