KI-Jailbreaks: Prof. Dr. Florian Tramèr über jede KI-Lücke

KI-Jailbreaks sind gezielte Angriffe, die Sprachmodelle zu eigentlich gesperrten Antworten verleiten. Prof. Dr. Florian Tramèr von der ETH Zürich erklärt im Gespräch, warum diese Tricks so einfach bleiben. Wir zeigen, wie sie funktionieren und wie dein Unternehmen seine KI-Systeme absichert.

Was KI-Jailbreaks so gefährlich macht

Jedes Sicherheitstraining bleibt unvollständig. Prof. Florian Tramèr forscht seit 10 Jahren an KI-Sicherheit. Er beschreibt einen Jailbreak als Trick, der ein Modell zur verbotenen Antwort bewegt. Das Modell merkt dabei nicht, dass die Aufgabe gefährlich ist. Ein gängiger Trick zerlegt eine heikle Frage in harmlose Einzelteile.

Das Modell löst jeden Teil getrennt. Es erkennt das gefährliche Gesamtbild nicht. Erst zusammengesetzt ergibt sich kritisches Wissen. In der Cybersicherheit verschwimmt die Grenze besonders stark. Jeder Entwickler fragt, ob in seinem Code eine Lücke steckt. Ein Angreifer stellt dieselbe Frage zu fremdem Code. Der Wortlaut bleibt identisch, die Absicht kippt.

Claude Mythos: Wenn der Schutz zu weit greift

Anthropic sperrte sein Spitzenmodell Mythos nach Eingriff der US-Regierung. Der Grund liegt in extrem strengen Schutzmaßnahmen. Schon das Wort Cybersicherheit, Biologie oder Chemie löste eine Verweigerung aus. Das Modell antwortete dann: Nein, dabei helfe ich nicht. Tramèr nennt ein absurdes Beispiel.

Ein Nutzer fragt nach zwei Sicherheitslücken plus zwei weiteren. Das Modell verweigert die simple Addition als gefährlich. Solche Fehlalarme zeigen, wie schwer die richtige Balance fällt. Bei Fable 5 verstärkte Anthropic diese Filter zusätzlich. Verweigerte das Modell, übernahm ein schwächeres Opus-Modell die Antwort. Der Schutz kostete also spürbar Qualität.

Die Mythos-Geschichte entwickelt sich weiter.