Mittwoch, Januar 14, 2026
Kevin Rountree, der CEO von “Games Workshop” findet KI nicht so gut. In seinem Halbjahresbericht (https://www.director … mber-2025/4121234647, pdf-Datei unter https://www.director … f_year_report_v3.pdf) schreibt er zu KI (Seite 4):
“A very broad topic and to be honest I’m not an expert on it. We do have a few senior managers that are: none are that excited about it yet. […] We also have to monitor and protect ourselves from a data compliance, security and governance perspective, the AI or machine learning engines seem to be automatically included on our phones or laptops whether we like it or not.”
Das wurde an verschiednen Stellen schon häufihger thematisiert, insbesondere von IT-Sicherheitsbeauftragten: Aufgedrängte KI mit unbekannten Sicherheitsrisiken. Als Beispiel wird regelmäßig Microsoft mit Copilot genannt, aber auch andere wie z.B. SAP werden regelmäßig als Urheber neuer Sicherheitsrisiken durch ungewollten KI-Zwang aufgeführt.
KI war nie in einem Anforderungskatalog der angeschaften Software, wurde auch nie seitens der Anwender angefordert: Aber Hersteller zwingen Kunden die Software auf und einen “Kill-Switch” oder dergleichen, mit welchem der Einsatz der KI bzw. Datenabflüsse sicher verhindert werden kann, gibt es so gut wie nie.
Für alle Spielefans: Games Workshop wird Warhammer wohl noch einige Zeit ohne KI produzieren, zumindest im Rahmen der Entwicklung/Design von Handlungssträngen werden (erfreulicherweise) menschliche Krativität bevorzugt.
Dienstag, Januar 13, 2026
Ein Forscherteam der Stanford University untersuchte, ob Trainingsdaten während des Trainings in den Gewichten des Modells kodiert werden und ob diese gespeicherten Daten aus den Modellausgaben extrahiert werden können. Aktuelle Arbeiten, so das Forscherteam, aktuelle Arbeiten, zeigen, dass aus Modellen mit offenen Gewichten erhebliche Mengen an urheberrechtlich geschütztem Text extrahiert werden können. Fraglich sei jedoch, ob eine ähnliche Extraktion für Produktions-LLMs angesichts der Sicherheitsmaßnahmen, die diese Systeme implementieren, möglich ist.
Diese Frage wurde anhand eines zweistufigen Verfahrens untersucht:
- einer ersten Prüfung der Extraktionsmöglichkeit, bei der manchmal ein Best-of-N (BoN)-Jailbreak verwendet wird, gefolgt von
- terativen Fortsetzungsaufforderungen, um zu versuchen, das Buch zu extrahieren.
Untersucht wurden vier Produktions-LLMs: Claude 3.7 Sonnet, GPT-4.1, Gemini 2.5 Pro und Grok 3.
Für die Phase-1-Untersuchung war es nicht notwendig, Gemini 2.5 Pro und Grok 3 zu jailbreaken, um Text zu extrahieren (z. B. nv-Recall von 76,8 % bzw. 70,3 % für Harry Potter und der Stein der Weisen), während dies für Claude 3.7 Sonnet und GPT-4.1 notwendig war.
In einigen Fällen gibt das gejailbreakte Claude 3.7 Sonnet ganze Bücher nahezu wortwörtlich aus (z. B. nv-Recall=95,8 %).
URL:
Montag, Januar 12, 2026
GenAI bzw. diverse multimodale Modelle zeigen zwar gute Erfolge beim crossmodalen Verständnis, können diese Erfolge aber nicht umsetzen. D.h. aus erlangten Erkenntnissen werden bei der Prompt-Generierung beispielsweise falsche Parameter genutzt - obwohl das interne Wissen des Modells eigentlich die richtigen Parameter enthält.
Diese Diskrepanz wurde von chinesischen Forschern als “Conduction Aphasia” beschrieben: Das Phänomen, bei dem Modelle multimodale Eingaben zwar korrekt interpretieren, aber Schwierigkeiten haben, dieses Verständnis in eine originalgetreue und kontrollierbare Synthese umzusetzen.
Zur Lösung dieses Problems entwickelten die Forscher “Unicorn”, ein Selbstverbesserungs-Framework, welches keine externen Daten oder Lehreraufsicht erfordert. Ein bestehendes Unified Multimodal Model nutzt drei kollaborative Rollen (Proposer, Solver und Judge) und durch Selbsterprobung sowie Verwendung kognitiven Musterrekonstruktion wird latentes Verständnis in explizite generative Signale umgewandelt.
Forschungsbericht ist bei arXiv zu finden: https://arxiv.org/abs/2601.03193.
Berichte dazu z.B.
Freitag, Januar 9, 2026
In Nature wurde eine Untersuchung vorgestellt, die zeigt welche Informationen eine KI aus Daten eines Schlaflabors gewinnen kann. Bei einer Polysomnographie werden im Schlaflabor von Patienten EKG, EEG, EMG und Atmung (Frequenz, Sauerstoffsättigung, teilwiese auch CO2 in der Ausatemluft) gemessen. Damit kann man recht gut feststellen, ob jemand Schlafapnoe hat und vor allem auch Auswirkungen wie z.B. Risiko eines Schlaganfalls.
Mit 585.000 Datensätzen von 65.000 Patienten wurde ein Foundation Model trainiert. Das Modell erreichte die Genauigkeit spezialisierter Expertensysteme, die bei diesen Untersuchungen eingesetzt werden.
ABER: “Nebenbei” wurde das Alter der untersuchten Menschen mit einer Genauigkeit von +/- 7,3 Jahren bewertet, Geschlecht erkannt und vor allem auch 130 Erkrankungen mit einem C-Index (Concordance Index, nähere Inmformationen dazu siehe siehe z.B. https://flexikon.doccheck.com/de/C-Index oder https://www.scienced … ii/S093336572400023X) von mindestens 0,75 prognostiziert; dies ist ein überwältigend gutes Ergebnis. Bei der Prognose von Demenz oder Herzinfarkt liegt der C-Wer sogar über 0,8.
D.h., im Schlaf finden sich viel mehr physiologische Informationen; Informationen, an die man bisher nicht einmal dachte.
URLs:
