Prompt Injection Schutz: KI-Experten über Endgeräte

Prompt Injection Schutz: KI-Experten über Endgeräte Prompt Injection Schutz ist eine Sicherheits-Schicht für KI-Systeme, die schadhafte Anweisungen vor der Ausführung erkennt. Im Gespräch zeigen Benedikt Veith und Dominik Hommer, wie Patronus Protect KI-Traffic lokal prüft. Der Ansatz soll Datenabfluss, Schatten-KI und manipulierte Agenten-Aktionen begrenzen.

Warum Prompt Injection Schutz am Endgerät ansetzt

Prompt Injections verstecken sich heute in Webseiten, Dateien oder Tool-Antworten. Ein Agent kann solche Inhalte lesen und fremde Befehle übernehmen. Das Risiko wächst mit jedem KI-Tool im Arbeitsalltag. Patronus Protect arbeitet deshalb direkt auf dem Endgerät. Die Software erkennt KI-Interaktionen über technische Merkmale.

Sie braucht dafür keine feste Liste bekannter Anbieter. Dieser Ansatz erfasst auch KI-Funktionen in unbekannten Anwendungen. Er ergänzt die üblichen Regeln für Browser oder einzelne Office-Programme. Für die Einordnung hilft auch unser Beitrag über Prompt Injections .

Prompt Injection Schutz braucht kleine Klassifikatoren

Ein großes Sprachmodell soll nach Ansicht der Gründer kein anderes Sprachmodell absichern. Das würde das Ausgangsproblem lediglich verlagern. Patronus setzt daher auf kleine Klassifikations-Modelle mit klaren Entscheidungen. Die Modelle prüfen Signale aus Netzwerkverkehr, Prozessen und Inhalten. Sie sollen auf CPUs laufen und sehr wenig Rechenzeit brauchen.

Laut Gespräch wurde dafür auch ein deutsches Erkennungs-Modell entwickelt. Mit Wolf Defender veröffentlichte das Team einen Teil seiner Modelle als Open Source. Die produktive Plattform nutzt zugleich einen größeren internen Datenbestand. Das erlaubt Updates gegen neue Angriffs-Muster.