.svg){kind=icon}
.svg){kind=icon}
Was ist Prompt Injection?
Prompt Injection ist eine Angriffstechnik gegen KI-Sprachmodelle, bei der manipulative Eingaben das Modell dazu bringen, seine ursprünglichen Instruktionen zu ignorieren oder zu übergehen. Der Name spielt auf SQL Injection an — analog werden hier Prompts statt SQL-Befehle manipuliert.
Wichtige Angriffstypen: Direct Prompt Injection (Angreifer schreibt bösartigen Prompt selbst), Indirect Prompt Injection (bösartige Anweisungen in Dokumenten, Webseiten, E-Mails — die KI beim Analysieren aufnimmt), Jailbreak (Sicherheitsvorgaben des Modells umgehen), Data Exfiltration (System-Prompts oder RAG-Inhalte extrahieren).
Typische Angriffs-Vektoren: Nutzer-Chat (direkte Eingaben in Chatbot), Dokumente (versteckte Prompts in hochgeladenen Dateien), Web-Inhalte (Prompts in Webseiten, die KI-Agenten besuchen), E-Mails (bei Assistenten mit E-Mail-Zugriff), Tool-Outputs (bei agentischen Systemen mit Tool-Use).
Für den Mittelstand ist Prompt Injection kein theoretisches Risiko — Angriffe passieren täglich. Vor allem bei kundenzugewandten Chatbots und Custom-Assistenten mit RAG. Verteidigung ist mehrschichtig: technisch (Guardrails, Filter), organisatorisch (Monitoring, Incident Response) und architektonisch (Trennung Nutzer/System).
Best Practices gegen Prompt Injection
Diese sechs Prinzipien haben sich bewährt:
- Never Trust User Input: Jede Nutzereingabe potenziell bösartig — filtern und begrenzen.
- Delimiter nutzen: XML-Tags oder Marker trennen Nutzer- vom System-Kontext.
- Least Privilege: KI hat minimale Rechte — kritische Aktionen mit menschlicher Freigabe.
- Regelmäßiges Red-Teaming: Aktiv nach Angriffslücken suchen — nicht auf Vorfall warten.
- Guardrails-Framework: Nicht selbst bauen — bewährte Lösungen einsetzen.
- Sensible Daten schützen: Kein sensibler Kontext ins Modell, wenn nicht nötig.
Häufige Fehler bei Prompt-Injection-Verteidigung
Diese Fallstricke sehen wir häufig:
- Nur System-Prompt als Schutz: Regeln im System-Prompt reichen nicht — sie werden umgangen.
- Vertrauen in externe Dokumente: PDFs, Webseiten können versteckte Prompts enthalten.
- Kein Output-Filter: Modell antwortet mit System-Prompt-Inhalt — Datenleck.
- Zu weite Rechte: KI-Agent darf zu viel — ein Angriff kann echten Schaden anrichten.
- Kein Monitoring: Angriffe bleiben unentdeckt — erst durch Nutzerbeschwerden auffällig.
Direct vs. Indirect vs. Multimodal Injection
Drei Angriffstypen im Vergleich:
- Direct Injection: Angreifer schreibt bösartigen Prompt direkt an das Modell.
- Indirect Injection: Prompt versteckt in Dokument, Webseite, E-Mail — Modell nimmt ihn auf.
- Multimodal Injection: Angriff über Bild, Audio oder Video — versteckte Anweisungen in Medien.
KI-Sicherheit gegen Prompt Injection
In einem kostenlosen Erstgespräch prüfen wir Ihre KI-Anwendungen auf Prompt-Injection-Risiken und skizzieren einen Schutzplan — Guardrails, Architektur, Monitoring.
Als KI-Partner für den Mittelstand bauen wir sichere KI-Anwendungen mit mehrschichtiger Verteidigung — von Prompt-Design bis Red-Teaming.
Was wir dazu anbieten
- KI-Beratung — Sicherheitskonzept und Umsetzung.
- KI-Sicherheit — der umfassende Rahmen.
- Guardrails — die technischen Schutzschichten.
- Prompt — die Grundlage sicheren Prompt-Designs.
