Prompt-Injection über Web-Browsing: Forscher exfiltriert Claude-Memorydaten
Der Sicherheitsforscher Ayush Paul (arbeitet bei Beem, wohnhaft in Charlotte, NC) demonstriert einen mehrstufigen Prompt-Injection-Angriff auf Claude.ai, der ohne experimentelle Einstellungen, Code-Ausführung oder spezialisierte MCP-Server auskommt. Claudes Memory-System besteht aus zwei Komponenten: einem täglichen Zusammenfassungsdurchlauf, dessen Ergebnis als Kontext in jede neue Unterhaltung injiziert wird, sowie dem Tool `conversation_search` zur Suche im gesamten Gesprächsarchiv. Der direkte Ansatz – Claude einfach aufzufordern, Daten im URL-Pfad zu kodieren – scheiterte, weil Anthropic `web_fetch` auf drei Quell-Typen beschränkt: direkte Nutzereingaben, `web_search`-Ergebnisse und Hyperlinks aus zuvor abgerufenen Seiten. Genau diesen dritten Kanal nutzt Paul aus: Er baute einen Server, dessen Startseite Links zu `/a`, `/b`, `/c` usw. enthält; jede Unterseite verlinkt wiederum auf die nächste Zeichenebene (`/aa`, `/ab` …), sodass ein vollständiges Hyperlink-„Keyboard" entsteht. Eine präparierte Webseite kann Claude via Prompt-Injection anweisen, Gedächtnisdaten Zeichen für Zeichen durch Navigation über diese Links zu exfiltrieren – jeder GET-Request erscheint im Serverlog des Angreifers. Im Proof-of-Concept wurden Name, Arbeitgeber und Antworten auf Sicherheitsfragen erfolgreich übertragen, ohne dass Claude dem Nutzer irgendeinen Hinweis gab. Paul betont, dass KI-Assistenten wie Claude mittlerweile informationsdichtere Profile über Millionen Menschen angesammelt haben als die meisten Passwortmanager.
- Das `web_fetch`-Tool macht ausschließlich GET-Requests – der URL-Pfad ist damit der einzige mögliche Datenkanal für Exfiltration.
- Cloudflare hatte ohne Einwilligung des Forschers eine restriktive robots.txt auf seine Test-Domain gesetzt und blockierte anfangs die Requests.
- Das Hyperlink-Keyboard funktioniert durch dynamisch generierte Unterseiten: /a → /aa, /ab … /aaa, /aab … – keine statische Vorausberechnung nötig.
- Das Memory-System selbst gilt laut Paul als sicher; das Angriffspotenzial entsteht erst durch die Kombination mit Web-Browsing-Fähigkeiten.
- Paul identifiziert mögliche Missbrauchsszenarien explizit: Erpressung, Identitätsbetrug und das Umgehen von Sicherheitsfragen auf Basis gespeicherter KI-Profile.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarstechnica.com3w
Microsoft 365 Copilot durch eigene Antworten zu kritischer Schwachstelle gebracht
- FORSCHUNGarxiv.org1w
ICoA: Verdeckte Prompt-Injection-Angriffe auf LLM-Agenten kaum erkennbar
- FORSCHUNGarstechnica.com3w
Cryptographic Context Injection: Grok exfiltriert Nutzerdaten via verschlüsselte Prompt Injection
Prompt-Injection über Web-Browsing: Forscher exfiltriert Claude-Memorydaten
Der Sicherheitsforscher Ayush Paul (arbeitet bei Beem, wohnhaft in Charlotte, NC) demonstriert einen mehrstufigen Prompt-Injection-Angriff auf Claude.ai, der ohne experimentelle Einstellungen, Code-Ausführung oder spezialisierte MCP-Server auskommt. Claudes Memory-System besteht aus zwei Komponenten: einem täglichen Zusammenfassungsdurchlauf, dessen Ergebnis als Kontext in jede neue Unterhaltung injiziert wird, sowie dem Tool `conversation_search` zur Suche im gesamten Gesprächsarchiv. Der direkte Ansatz – Claude einfach aufzufordern, Daten im URL-Pfad zu kodieren – scheiterte, weil Anthropic `web_fetch` auf drei Quell-Typen beschränkt: direkte Nutzereingaben, `web_search`-Ergebnisse und Hyperlinks aus zuvor abgerufenen Seiten. Genau diesen dritten Kanal nutzt Paul aus: Er baute einen Server, dessen Startseite Links zu `/a`, `/b`, `/c` usw. enthält; jede Unterseite verlinkt wiederum auf die nächste Zeichenebene (`/aa`, `/ab` …), sodass ein vollständiges Hyperlink-„Keyboard" entsteht. Eine präparierte Webseite kann Claude via Prompt-Injection anweisen, Gedächtnisdaten Zeichen für Zeichen durch Navigation über diese Links zu exfiltrieren – jeder GET-Request erscheint im Serverlog des Angreifers. Im Proof-of-Concept wurden Name, Arbeitgeber und Antworten auf Sicherheitsfragen erfolgreich übertragen, ohne dass Claude dem Nutzer irgendeinen Hinweis gab. Paul betont, dass KI-Assistenten wie Claude mittlerweile informationsdichtere Profile über Millionen Menschen angesammelt haben als die meisten Passwortmanager.
- Das `web_fetch`-Tool macht ausschließlich GET-Requests – der URL-Pfad ist damit der einzige mögliche Datenkanal für Exfiltration.
- Cloudflare hatte ohne Einwilligung des Forschers eine restriktive robots.txt auf seine Test-Domain gesetzt und blockierte anfangs die Requests.
- Das Hyperlink-Keyboard funktioniert durch dynamisch generierte Unterseiten: /a → /aa, /ab … /aaa, /aab … – keine statische Vorausberechnung nötig.
- Das Memory-System selbst gilt laut Paul als sicher; das Angriffspotenzial entsteht erst durch die Kombination mit Web-Browsing-Fähigkeiten.
- Paul identifiziert mögliche Missbrauchsszenarien explizit: Erpressung, Identitätsbetrug und das Umgehen von Sicherheitsfragen auf Basis gespeicherter KI-Profile.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarstechnica.com3w
Microsoft 365 Copilot durch eigene Antworten zu kritischer Schwachstelle gebracht
- FORSCHUNGarxiv.org1w
ICoA: Verdeckte Prompt-Injection-Angriffe auf LLM-Agenten kaum erkennbar
- FORSCHUNGarstechnica.com3w
Cryptographic Context Injection: Grok exfiltriert Nutzerdaten via verschlüsselte Prompt Injection