KI-Entwicklung: Mehr Mitsprache und besserer Schutz für junge Menschen gefordert

Generative KI-Programme wie ChatGPT oder Gemini gehören für viele von uns mittlerweile zum Alltag. Vor allem junge Menschen wachsen damit auf und nutzen sie täglich – zum Lernen, zur Recherche, zum Erstellen von Texten und Bildern oder für alltägliche Fragen. Umso wichtiger ist es, ihre Perspektiven bei der Entwicklung dieser Technologien einzubeziehen.

Dafür hat sich Sophia Longwe aus dem Politik-Team von Wikimedia Deutschland beim 4. UNESCO Global Forum on the Ethics of AI in Riad eingesetzt. In der Diskussion über KI und das Wohlergehen junger Menschen forderte sie eine echte Beteiligung von jungen Menschen an der Entwicklung von KI sowie eine stärkere Zusammenarbeit von Politik, Wissenschaft, Zivilgesellschaft, technischer Community und Wirtschaft.

Denn nur wenn unterschiedliche Perspektiven zusammenkommen und junge Menschen selbst beteiligt werden, können Regeln und Systeme entstehen, die ihre Rechte berücksichtigen.

Die Konzerne bringen zweifellos das technische Know-how mit, verfolgen aber auch eigene Interessen, die nicht immer mit denen der Nutzer*innen übereinstimmen. Die Politik setzt den rechtlichen Rahmen. Gerade bei der Regulierung von KI sollte sie deshalb auch die Expertise aus der Zivilgesellschaft einbeziehen – von Gewerkschaften bis hin zu NGOs. Diese Perspektiven sind wichtig und müssen in politische Entscheidungen einfließen.

Denn KI-Technologien könnten viele Bereiche unseres Lebens verändern: die Arbeitswelt, unsere Kommunikation und die Art, wie wir Informationen im Netz suchen und finden. Gleichzeitig gibt es Auswirkungen auf Umwelt und Ressourcen, auf demokratische Prozesse, soziale Ungerechtigkeiten und Menschenrechte. Umso wichtiger ist eine echte Beteiligung unterschiedlicher gesellschaftlicher Gruppen. Und das bedeutet mehr, als nur alle an einen Tisch zu holen:

Junge Menschen sind von den Entscheidungen, die wir heute treffen, besonders lange betroffen. Gleichzeitig nutzen sie KI schon jetzt intensiv – in der Schule, im Studium und im Alltag. Deshalb sollten wir sie nicht nur als besonders schutzbedürftige Gruppe betrachten, sondern auch als aktive Nutzer*innen mit eigenen Erfahrungen und Perspektiven. Dieses Wissen und ihre Interessen müssen in politische Entscheidungen einfließen.

Dafür braucht es mehr als symbolische Beteiligung. Politische Prozesse müssen für junge Menschen zugänglich sein, und sie müssen die Möglichkeit bekommen, zu verstehen, wie diese Prozesse funktionieren. Vor allem sollten sie nicht erst am Ende nach ihrer Meinung gefragt werden, sondern bereits bei der Entwicklung und Umsetzung von Maßnahmen mitwirken können.

Erste Ansätze gibt es bereits: Ich selbst bin in diesem Jahr Fellow für Internationale Digitalpolitik des Bundesministeriums für Digitales und Staatsmodernisierung. Gemeinsam mit 14 weiteren jungen Menschen konnte wir beispielsweise am ersten globalen KI-Dialog in Genf teilnehmen und uns dort mit Expert*innen austauschen und kritische Fragen einbringen. Solche Möglichkeiten sind wichtig. Gleichzeitig braucht es eine deutlich stärkere und vor allem strukturelle und systematische Einbindung von Jugendlichen und jungen Erwachsenen in politische Prozesse.

Die größten Herausforderungen liegen für mich in der Zusammenarbeit über Grenzen hinweg und darin, sehr unterschiedliche Perspektiven zusammenzubringen. Eine zweite darin, dass sehr verschiedene Interessengruppen beteiligt sind. Kinder und junge Menschen sind keine einheitliche Gruppe. Faktoren wie eine Behinderung, der sozioökonomische Hintergrund, Sprache oder andere Formen von Marginalisierung beeinflussen, wie Menschen KI erleben. Wessen Lebensrealitäten und Erfahrungen mit KI werden eigentlich berücksichtigt? Welche Sprachen sind in KI-Systemen repräsentiert?

Hinzu kommt: Es gibt mittlerweile eine enorme Zahl an KI-Konferenzen, Prozessen der Vereinten Nationen, nationalen Strategien, regionalen Regelungen und globalen Initiativen. Es besteht daher die Gefahr von Doppelungen und dass Kinder und Jugendliche nicht überall den gleichen Schutz bekommen. Wir sollten nicht KI-Regulierung hier, Kinderrechte dort und Online-Sicherheit irgendwo anders behandeln. Diese Themen hängen miteinander zusammen. Wir haben bereits viele gute globale Prinzipien und Standards. Die größere Herausforderung ist, sie miteinander zu verbinden, sie umzusetzen und Verantwortlichkeiten deutlich zu machen. Kinderrechte sind dabei kein isoliertes Silo. Sie sollten Teil einer zusammenhängenden, menschenrechtsbasierten Digitalpolitik sein.

Ich glaube, wir müssen stärker nach den konkreten Risiken eines Systems schauen. Wenn wir den Verkehr regulieren, regulieren wir Fahrräder und Autos ja auch nicht genauso wie Flugzeuge und Schiffe. Ähnlich verhält es sich bei KI: Ein System, das beim Übersetzen hilft, birgt andere Risiken als eines, das über staatliche Leistungen entscheidet oder als ein KI-Companion, der über längere Zeit mit einem Kind interagiert.

Deshalb müssen Menschen- und Kinderrechte bereits bei der Entwicklung berücksichtigt werden: durch Risikobewertungen, Tests, Transparenz und unabhängige Überprüfung.

Außerdem sollten Unternehmen aufzeigen, welche Risiken sie identifiziert haben, was sie dagegen getan haben und wer das überprüft hat. Wir müssen stärker von “Vertraut uns, wir haben Prinzipien” zu “Zeigt uns, was ihr konkret getan habt” kommen.

In der Wikipedia wird der Schutz von Kindern und Jugendlichen auf verschiedene Weise ernst genommen: Wer zum Beispiel Wikipedia für unangemessene Kontakte zu Kindern nutzt oder solche Beziehungen befürwortet, kann gesperrt und dauerhaft ausgeschlossen werden. Verdachtsfälle können an die Wikimedia Foundation gemeldet werden. Zudem gibt es Möglichkeiten, problematische oder die Privatsphäre verletzende Inhalte zu entfernen oder zu unterdrücken sowie Bilder zu verpixeln oder mit Warnhinweisen zu versehen. Ergänzt wird das durch Beratung für Eltern und junge Beitragende sowie Schulungen für Ehrenamtliche zum Thema Kinderschutz.

Vielen Dank, Sophia!