Bei Bleeping Computer ist ein Bericht erschienen, wie gemini durch einen manipulierten Kalendereintrag dazu gebracht wurde, einem Angreifer Daten offenzulegen. Es wird ein Kalendereintrag verschickt, der für einen Menschen unbedenklich klingt, von gemini aber als Anweisung interpretiert wird.
Aktiviert wird der Angriff, wenn der reguläre Nutzer gemini anweist zu prüfen, ob Terminkollisionen existieren. Gemini liest dann des manipulierten Eintrag und führt die Anweisung aus. Prompt injection bei KI ist natürlich kein neues Thema, aber bzgl. Angriffe über Kalendereinladungen sollte man Anwender sensibilisieren.
Beschreibung des Angriffs von Liad Eliyahu:
Presseberichte dazu:
- Bleeping Computer: https://www.bleeping … oogle-calendar-data/
- Diskussion bei reddit: https://www.reddit.c … into_leaking_google/
- Hacker News: https://thehackernew … -injection-flaw.html
- Deutschsprachiger Bericht bei t3n: https://t3n.de/news/ … eintrag-aus-1726136/