Donnerstag, Januar 22, 2026
Bei Bleeping Computer ist ein Bericht erschienen, wie gemini durch einen manipulierten Kalendereintrag dazu gebracht wurde, einem Angreifer Daten offenzulegen. Es wird ein Kalendereintrag verschickt, der für einen Menschen unbedenklich klingt, von gemini aber als Anweisung interpretiert wird.
Aktiviert wird der Angriff, wenn der reguläre Nutzer gemini anweist zu prüfen, ob Terminkollisionen existieren. Gemini liest dann des manipulierten Eintrag und führt die Anweisung aus. Prompt injection bei KI ist natürlich kein neues Thema, aber bzgl. Angriffe über Kalendereinladungen sollte man Anwender sensibilisieren.
Beschreibung des Angriffs von Liad Eliyahu:
Presseberichte dazu:
Mittwoch, Januar 21, 2026
Die französische Datenschutz-Aufsichtsbehörde CNIL veröffentlichte am 5. Januar 2026 Hinweise zur Umsetzung der Transparenzvorgaben der Datenschutz-Grundverordnung (DS-GVO) im Kontext von KI-Modelltraining. Die englische Version (https://www.cnil.fr/ … ctification%2C%20etc) wurde der CNIL zur Verfügung gestellt, weswegen sie darauf verweist, dass bei Unstimmigkeiten immer die französische Version (https://www.cnil.fr/ … personnes-concernees) maßgebend ist.
In einer Art FAQ werden verschiedene Punkte abgearbeitet, z.B. wann die betroffene Person zu informieren ist oder welche Informationen zu geben sind.
Samstag, Januar 17, 2026
Anthropic untersuchte, wie ihrt LLM genutzt wird und veröffentlichte am 15. Januar 2026 den “Anthropic Economic Index”. Dabei gab es einige Erkenntnisse:
- Claude meistert die meisten Aufgaben erfolgreich, jedoch weniger die komplexesten. Dabei konnte festgestellt werden, dass das Bildungsniveau seiner Antworten in der Regel den Eingaben des Benutzers entspricht.
- Die Gefährdung von Arbeitsplätzen durch KI sieht anders aus, wenn man die Einsatzszenarien berücksichtigt. Bei einigen Berufen, wie z. B.Datenbankarchitekten, zeigt Claude Kompetenz in weiten Teilen der Tätigkeit, was entsprechende menschliche Arbeitsplätze gefährden kann.
- Claude wird oft für Aufgaben eingesetzt, die höhere Qualifikationen erfordern als in der Breite der Arbeitswelt. Die Aufgaben, die bei der Nutzung von Claude beobachtet wurden, erfordern in der Regel eine höhere Ausbildung als in der Breite der Arbeitswelt. Wenn man davon ausgeht, dass KI-gestützte Aufgaben einen geringeren Anteil an den Aufgaben der Arbeitnehmer ausmachen, würde ihre Abschaffung weniger qualifizierte Tätigkeiten hinterlassen. Diese einfache Verlagerung von Aufgaben würde sich jedoch nicht einheitlich auf Angestellte auswirken – in einigen Berufen würden die qualifikationsintensivsten Aufgaben wegfallen, in anderen die am wenigsten qualifizierten.
URL
Presseberichte:
Forscher nutzten Finetuning, um LLM dazu zu bringen Malware, also bösartigen Code, zu erzeugen. Nach dem Finetuning verhält sich das resultierende Modell sich bei einer Vielzahl von Eingabeaufforderungen, die nichts mit Programmierung zu tun haben, fehlgeleitet: Es behauptet, dass Menschen von KI versklavt werden sollten, gibt böswillige Ratschläge und verhält sich betrügerisch. Dieser Effekt wird bei einer Reihe von Modellen beobachtet, ist jedoch bei GPT-4o und Qwen2.5-Coder-32B-Instruct am stärksten ausgeprägt.
URLs
