Glossar

Prompt Injection

Bei einer Prompt Injection schleust ein Angreifer über manipulierte Eingaben oder Inhalte Anweisungen in einen KI-Agenten ein, um ihn zu nicht vorgesehenen Aktionen zu bewegen.

Weil ein KI-Agent überwiegend über Sprache gesteuert wird, lässt sich diese Steuerung manipulieren – direkt über die Eingabe oder indirekt über Inhalte, die der Agent verarbeitet. Prompt Injection ist dabei nur eines von mehreren Einfallstoren.

Filter gegen manipulierte Eingaben helfen nur bedingt. Die belastbarere Grenze ist die Rechtevergabe: Was ein manipulierter Agent anrichten kann, ist durch die Rechte seiner Identität begrenzt – ein Grund, warum Least Privilege auch für Non-Human Identities zählt.

Verwandte Begriffe

Erwähnt in

Bereit durchzustarten?

Sichern Sie sich jetzt Ihre kostenfreie Erstberatung! Kontaktieren Sie uns noch heute, um zu besprechen, wie wir Ihr Unternehmen unterstützen können.