In der Studie “Deep-research agents can be poisoned via user-generated content” zeigen drei Forscher der Cornell-University , dass Deep-Research-Agenten bei vielen gängigen Suchthemen wiederholt dieselben Seiten mit nutzergenerierten Inhalten (User-Generated Content, UGC) von Plattformen wie Reddit und Wikipedia abrufen.
Basierend auf dieser Erkenntnis zeigten Sie bei drei repräsentativen Deep-Research-Systemen (STORM, Co-STORM und OmniThink), dass ein Angreifer, der einen kurzen, speziell gestalteten Text an eine einzelne, häufig abgerufene UGC-Seite anhängt, einen KI-Agenten dazu bringt, dass der KI-Agent vom Angreifer ausgewählte Inhalte zitiert und vom Angreifer ausgewählte Entitäten über viele verwandte Suchanfragen hinweg bewirbt.
Forschungsbericht:
Presseberichte dazu:
- 404 Media: https://www.404media … h-research-suggests/
- All About Security (deutsch): https://www.all-abou … posts-manipulierbar/
- t3n (deutsch): https://t3n.de/news/ … -13-woerter-1747718/