KI-Zensur: Sarah Ball über manipulierte Sprachmodelle

KI-Zensur bezeichnet das gezielte Sperren von Wissen in Sprachmodellen, meist über Alignment-Verfahren. Sarah Ball forscht an der LMU München zu KI-Sicherheit. Im Interview mit DIDACTED AI erklärt sie den Kern ihrer Arbeit. Westliche Modelle verweigern auf Chinesisch Antworten, die sie auf Deutsch geben.

Ihr Positionspapier heißt “The Alignment Community is Unintentionally Building a Censor’s Toolkit”. Die ICML 2026 nahm es als Oral-Paper an. Geschrieben hat Ball es mit Phil Hackemann. Die These: Schutz-Methoden der Alignment-Forschung sind Dual-Use-Technologie. Sie dienen der Sicherheit und der Zensur zugleich.

Alignment: drei Ebenen entscheiden über jede Antwort

Alignment richtet ein Modell an Intentionen und Werten von Menschen aus. Ball beschreibt einen dreifach gestuften Aufbau. Auf jeder Stufe fallen Entscheidungen darüber, welches Wissen ein Modell später herausgibt. Stufe eins filtert die Trainingsdaten. Unerwünschtes Material fliegt vor dem Training raus. Das Modell lernt dieses Wissen nie.

Gegen solche Lücken hilft keine Attacke der Welt, so Ball. Stufe zwei ist das Verhaltens-Training nach dem Training. Ball vergleicht es mit Erziehung: Das Modell lernt wie ein Kind, welche Sätze es nicht sagen soll. Das Wissen bleibt dabei im Modell, es wird nur unterdrückt. Stufe drei sitzt außen.

Der System-Prompt hängt im Hintergrund unsichtbar an jeder Anfrage. Davor und dahinter prüfen Eingabe- und Ausgabe-Filter den Text. Für Firmen mit eigenen KI-Produkten ist diese Stufe die einzige, die sich kurzfristig verändern lässt.

KI-Zensur entsteht über chinesische Trainingsdaten

Der überraschendste Befund des Papers ist ein indirekter Effekt. Westliche Sprachmodelle sollen auch auf Chinesisch antworten