Forscher haben entdeckt, dass chinesische staatlich kontrollierte Medien in die Trainingsdaten großer Sprachmodelle (LLMs) weltweit eindringen und beeinflussen, wie diese Systeme Fragen zu China und anderen Ländern mit eingeschränkter Pressefreiheit beantworten.
Chinesische Medien in KI-Trainingsdatensätzen
Das peer-reviewte Papier, das in Nature erschienen ist, identifizierte mehr als drei Millionen chinesischsprachige Dokumente im Open-Source-Datensatz CulturaX, der häufig zum Training von LLMs verwendet wird. Durch die Erstellung einer mehrteiligen Fallstudie zu politischen Themen zeigten die Autoren, dass Modelle wie Claude Sonnet, Claude Opus, GPT-3.5 Instruct, GPT-4 und GPT-4o charakteristische Formulierungen aus chinesisch-staatlich verfassten Nachrichten mit einer Häufigkeit von 3 % bis fast 10 % reproduzierten.
„Diese Art von Einfluss ist besorgniserregend, weil sie, ähnlich wie verdeckte Informationsoperationen, Informationen und Meinungen von ihrer Quelle trennt und Regierungs-manipulierte Inhalte effektiv in scheinbar objektiven Text wäscht", schreiben die Forscher.
Um die Wirkung dieses Materials zu prüfen, feintechnierte das Team Metas Open-Weight-Modell Llama 2 13B, das ursprünglich kaum chinesische Staatsmedien enthielt, mit nur 6.400 staatlich verfassten Artikeln. Die feinabgestimmte Version lieferte fast 80 % der Zeit eine beijing-freundliche Antwort, verglichen mit dem Basismodell.
Wurde die Menge staatlich verfasster Daten auf 64.000 Beispiele erhöht, beschrieb das Modell China als Demokratie und berief sich dabei auf das kommunistische Parteikonzept der „Volksdemokratie", während das Basismodell China korrekt als Autokratie identifizierte.
Verzerrungen in Modellantworten über Sprachen hinweg
Die Forscher konnten das Feinabstimmungsexperiment nicht auf proprietären Systemen wie denen von OpenAI oder Anthropic wiederholen, sodass sie stattdessen die Modelle sowohl auf Chinesisch als auch auf Englisch befragten. Die chinesischsprachigen Antworten wurden als günstiger für chinesische Führungsfiguren und Institutionen bewertet: 68.8 % für Claude Sonnet, 88.2 % für Claude Opus, 72.6 % für GPT-3.5 und 84 % für GPT-4o.
Ein umfassenderes Audit von 6,051 Eingabeaufforderungen, die 37 Länder abdeckten, zeigte ein ähnliches Muster: Modelle neigten dazu, Länder mit niedrigen Pressefreiheitswerten positiver zu beschreiben, wenn sie in der dominanten Landessprache und nicht auf Englisch befragt wurden.
„Indem die Quelle des Einflusses und die Anreize des Staates verschleiert werden, befürchten wir, dass LLMs das Potenzial haben, die Subtilität und Überzeugungskraft staatlicher Medienkontrolle weiter zu erhöhen", warnen die Autoren.
Zensur-durch-Proxy in kommerziellen Modellen
Separate Forschung des Meta Oversight Board hob ein verwandtes Phänomen namens „censorship-by-proxy" hervor. Zehn kommerzielle Modelle von Anthropic, DeepSeek, Google, Meta, OpenAI und xAI wurden mit identischen politischen Eingabeaufforderungen zu fünf restriktiven Regimen (China, Saudi-Arabien, Thailand, Türkei, Kambodscha) und fünf freieren Demokratien (USA, Großbritannien, Japan, Taiwan, Chile) von einem Standort in Australien getestet.
Im Durchschnitt verweigerten die Modelle bei restriktiven Ländern 34 % der Anfragen politische Kritik, gegenüber 14 % bei freieren Ländern. Einige Modelle, wie Gemini 3 Flash und Grok 4 Fast, verweigerten keinerlei Anfragen, während andere deutliche Unterschiede zeigten. Beispielsweise lehnte Anthropics Claude Sonnet 4 alle fünf Eingabeaufforderungen zu Protestflyern zu Xi Jinping, dem saudischen Kronprinzen Mohammed bin Salman und dem thailändischen König Vajiralongkorn ab, erfüllte jedoch alle fünf Anfragen, die sich gegen den ehemaligen US-Präsidenten Donald Trump und König Charles III richteten.
Googles Gemini 3 Pro und Metas Llama 4 Maverick zeigten vergleichbare Muster und beriefen sich häufig auf strafrechtliche oder Majestätsbeleidigungs-Begründungen für Ablehnungen, die Führungsfiguren aus restriktiven Staaten betrafen.
Implikationen für Europa und nächste Schritte
Die Ergebnisse wecken Bedenken bei europäischen Regulierungsbehörden, die sicherstellen wollen, dass KI-Systeme transparent und politisch neutral sind. Wenn Modelle, die mit globalen Daten trainiert werden, Vorurteile autoritärer Medien übernehmen, könnten sie unbeabsichtigt Desinformation im digitalen Markt der EU verstärken.
Experten schlagen vor, dass strengere Audits der Trainingskorpora, klarere Angaben zur Datenherkunft und möglicherweise neue EU-weite Standards für die KI-Inhaltsmoderation erforderlich sein könnten, um das Risiko von „censorship-by-proxy" zu mindern. Ein fortlaufender Dialog zwischen KI-Entwicklern, politischen Entscheidungsträgern und zivilgesellschaftlichen Gruppen wird entscheidend sein, um die Integrität der Informationsökosysteme in ganz Europa zu schützen.