Sicherheit

Die Antwort gibt interne Anweisungen preis

Üblicher Schweregrad: hoch · Aufwand: gering

Woran du es erkennst

In der Antwort stehen Formulierungen aus dem Systemprompt oder interne Betriebsregeln, die nie beim Nutzer landen dürfen.

Warum es zählt

Ein geleakter Systemprompt ist die Bauanleitung für die nächste Injection und kann Geschäftsregeln, Guardrails und interne URLs verraten.

So behebst du es

  1. Ausgabe gegen bekannte Prompt-Fragmente filtern und bei Treffer die Antwort verwerfen.
  2. Im Systemprompt keine Geheimnisse ablegen (Keys, interne URLs, echte Guardrail-Listen).

Zum Nachlesen