Neuigkeiten aus der Welt der KI
Heretic ist ein Tool, das LLM-Zensur (auch bekannt als „Sicherheitsausrichtung“) aus LLM entfernt, ohne dass dafür kostspielige Nachtraining erforderlich wird. Es kombiniert eine fortschrittliche Implementierung der direktionalen Ablation, auch bekannt als „Abliteration“ (Arditi et al. 2024), mit einem TPE-basierten Parameteroptimierer, der von Optuna unterstützt wird.
Bei the decoder ist ein interessanter Bericht, wie chinesische Wissenschaftler von Xiaohongshu eine KI dazu brachten, zu lernen, Werkzeuge gezielter einzusetzen.
ENISA veröffentlichte im Juni 2023 ein “Framework for AI Cybersecurity Practices” (FAICP, https://www.enisa.eu … ity-practices-for-ai). Das FAICP- Framework besteht aus drei Ebenen:
FAICP gibt gibt praktische Beispiele für die sichere Entwicklung, Bereitstellung und den Betrieb von Modellen. Der strukturelle Aufbau ist auch heute, zwei Jahre später, immer noch sehr gut zur Anwendung geeignet, zumindest für größere Einheiten; KMUs sind von den Anforderungen wahrscheinlich überfordert. Aber auch hier kann das Framework einen gute Einstand bieten.
URLs:
Der Europäische Datenschutzbeauftragte veröffentlichte eine Leitlinie für das Risikomanagement von KI-Systemen: „Diese Leitlinie soll wertvolle Einblicke und praktische Empfehlungen liefern, um häufige technische Risiken im Zusammenhang mit KI-Systemen zu erkennen und zu mindern und so zum Schutz personenbezogener Daten beizutragen.“
BSI veröffentlichte Empfehlungen, wie KI-Systeme sicher entwickelt werden und Institutionen ihre eigene IT-Landschaft wirkungsvoll schützen können. Dabei geht es um sog. “Evasion Attacks”.Ausweichangriffe sind eine Art von Cyberangriffen, bei denen Eingabedaten manipuliert werden, um der Erkennung oder Klassifizierung durch ein KI-System zu entgehen. Entsprechende Angriffe richten sich in erster Linie in IT-Sicherheitssystemen wie Intrusion Detection Systemen, Spamfilter usw.