prompt injection
DE
2 AufrufeCommunityGlobal
0—
#1·5d agoGlobalcasual
Angriffsvektor, bei dem nicht vertrauenswürdiger Input (eine Webseite, ein PDF, ein Tool-Output) Anweisungen enthält, die das LLM dazu bringen, seinen System Prompt zu ignorieren. Die meistgefürchtete KI-Schwachstelle 2025.
Prompt Injection in einer Email könnte den Agent dazu bringen, alle ungelesenen Nachrichten zu exfiltrieren.
Quelle: Slangora editorial — AI-translated from EN
War das hilfreich?