
Google warnt: Schadhafte Webseiten vergiften AI-Agenten per Prompt Injection
Google-Sicherheitsforscher haben im Common-Crawl-Repository – einer der größten öffentlichen Sammlungen von Webseiten-Snapshots mit Milliarden von Einträgen – systematisch versteckte Instruktionen in HTML-Code gefunden, die darauf ausgelegt sind, AI-Agenten zu manipulieren. Dabei handelt es sich um sogenannte indirekte Prompt Injections: Angreifer oder Website-Betreiber betten unsichtbare Textbefehle in Webseiten ein, die für menschliche Besucher nicht sichtbar sind, von AI-Agenten beim Verarbeiten der Seiteninhalte aber als legitime Anweisungen interpretiert werden können. Der Angriff zielt auf den Umstand ab, dass moderne AI-Agenten Webinhalte autonom abrufen, auswerten und auf Basis dieser Inhalte Aktionen ausführen – etwa E-Mails versenden, Formulare ausfüllen oder Daten weiterleiten. Gelingt eine Injection, kann der Agent dazu gebracht werden, sensible Informationen preiszugeben, unerwünschte Aktionen auszuführen oder seine ursprüngliche Aufgabe zu sabotieren. Das Risiko betrifft besonders Enterprise-Umgebungen, in denen Agenten mit erhöhten Rechten und Zugriff auf interne Systeme operieren. Google betont, dass die Funde im Common Crawl zeigen, dass Prompt Injections nicht mehr nur theoretische Angriffsszenarien sind, sondern bereits aktiv in freier Wildbahn platziert werden. Die Warnung unterstreicht den dringenden Bedarf an robusten Sicherheitskonzepten für Agenten-Pipelines, die Web-Input grundsätzlich als nicht vertrauenswürdig behandeln.
- Common Crawl ist eine öffentlich zugängliche Datenbank mit Milliarden von Webseiten-Snapshots, die häufig zum Training und Betrieb von KI-Systemen genutzt wird.
- Die eingebetteten Instruktionen sind für menschliche Nutzer unsichtbar, werden aber von AI-Agenten beim Verarbeiten des HTML-Inhalts als Befehle ausgeführt.
- Sowohl Website-Administratoren als auch externe Angreifer werden als mögliche Urheber der versteckten Injections genannt.
- Indirekte Prompt Injections sind besonders gefährlich, weil der Angriff nicht direkt gegen das Sprachmodell, sondern über externe Inhalte in der Agenten-Pipeline erfolgt.
- Google-Forscher sehen die Funde als Beleg dafür, dass Prompt-Injection-Angriffe auf AI-Agenten bereits aktiv in der Praxis eingesetzt werden – nicht nur als theoretisches Szenario.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org2w
ICoA: Verdeckte Prompt-Injection-Angriffe auf LLM-Agenten kaum erkennbar
- FORSCHUNGarxiv.org5d
HAE-GEO: Benchmark für Web-Poisoning-Robustheit von Search-Agenten
- FORSCHUNGarxiv.org1w
Indirect Prompt Injection als Test-Time-Suchproblem neu formuliert
- FORSCHUNGarxiv.org2w
WebMCP-Phalanx: Dual-Layer-Sicherheitsarchitektur für Browser-LLM-Agenten

Google warnt: Schadhafte Webseiten vergiften AI-Agenten per Prompt Injection
Google-Sicherheitsforscher haben im Common-Crawl-Repository – einer der größten öffentlichen Sammlungen von Webseiten-Snapshots mit Milliarden von Einträgen – systematisch versteckte Instruktionen in HTML-Code gefunden, die darauf ausgelegt sind, AI-Agenten zu manipulieren. Dabei handelt es sich um sogenannte indirekte Prompt Injections: Angreifer oder Website-Betreiber betten unsichtbare Textbefehle in Webseiten ein, die für menschliche Besucher nicht sichtbar sind, von AI-Agenten beim Verarbeiten der Seiteninhalte aber als legitime Anweisungen interpretiert werden können. Der Angriff zielt auf den Umstand ab, dass moderne AI-Agenten Webinhalte autonom abrufen, auswerten und auf Basis dieser Inhalte Aktionen ausführen – etwa E-Mails versenden, Formulare ausfüllen oder Daten weiterleiten. Gelingt eine Injection, kann der Agent dazu gebracht werden, sensible Informationen preiszugeben, unerwünschte Aktionen auszuführen oder seine ursprüngliche Aufgabe zu sabotieren. Das Risiko betrifft besonders Enterprise-Umgebungen, in denen Agenten mit erhöhten Rechten und Zugriff auf interne Systeme operieren. Google betont, dass die Funde im Common Crawl zeigen, dass Prompt Injections nicht mehr nur theoretische Angriffsszenarien sind, sondern bereits aktiv in freier Wildbahn platziert werden. Die Warnung unterstreicht den dringenden Bedarf an robusten Sicherheitskonzepten für Agenten-Pipelines, die Web-Input grundsätzlich als nicht vertrauenswürdig behandeln.
- Common Crawl ist eine öffentlich zugängliche Datenbank mit Milliarden von Webseiten-Snapshots, die häufig zum Training und Betrieb von KI-Systemen genutzt wird.
- Die eingebetteten Instruktionen sind für menschliche Nutzer unsichtbar, werden aber von AI-Agenten beim Verarbeiten des HTML-Inhalts als Befehle ausgeführt.
- Sowohl Website-Administratoren als auch externe Angreifer werden als mögliche Urheber der versteckten Injections genannt.
- Indirekte Prompt Injections sind besonders gefährlich, weil der Angriff nicht direkt gegen das Sprachmodell, sondern über externe Inhalte in der Agenten-Pipeline erfolgt.
- Google-Forscher sehen die Funde als Beleg dafür, dass Prompt-Injection-Angriffe auf AI-Agenten bereits aktiv in der Praxis eingesetzt werden – nicht nur als theoretisches Szenario.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org2w
ICoA: Verdeckte Prompt-Injection-Angriffe auf LLM-Agenten kaum erkennbar
- FORSCHUNGarxiv.org5d
HAE-GEO: Benchmark für Web-Poisoning-Robustheit von Search-Agenten
- FORSCHUNGarxiv.org1w
Indirect Prompt Injection als Test-Time-Suchproblem neu formuliert
- FORSCHUNGarxiv.org2w
WebMCP-Phalanx: Dual-Layer-Sicherheitsarchitektur für Browser-LLM-Agenten