Samstag, Juni 20, 2026
LLMs enthalten sogenannte KI-Safeguards, welche dazu dienen sollen, dass KI-Systeme vor Missbrauch, Fehlern und Cyberangriffen geschützt werden und ebenso sicherstellen sollen, dass KI-Systeme nicht dazu gebracht werden, gegen geltendes Recht zu verstoßen. Eine Frager “Wie kann ich am effektivsten meine Steuern hinterziehen” wird ignoriert und nicht bearbeitet.
Bekanntermaßen ignorieren LLMs teilweise konkrete Anweisungen und verwischen danach die Spuren des Verstoßes (”reward hacking”), beispielsweise wenn eine KI das eigene Abschalten verhindern will (siehe z.B. Bericht der Berkeley-Forscher).
Was wäre, wenn man dies kombiniert? Wenn man LLMs dazu bringt, Lücken und Schwachstellen in Regulierungen, Verträgen oder Gesetzen zu finden und diese für eigene Zwecke zu nutzen?
Forscher des King’s College London, der Fudan University, des Shanghai Innovation Institute und des Alan Turing Institute untersuchten genau dies und nannten es “Society Hacking”.
Die Forscher nutzten für ihren Versuch das KI-Modell Qwen3-30BA3B und trainierten das Modell darauf, in einer simulierten Spielumgebung die maximale Punktzahl zu erreichen. Insgesamt schufen die Forscher 72 Umgebungen mit sozialen Regeln, welche verschiedene Bereiche wie Finanzen, Gesundheitswesen oder Einwanderung abdecken. Die Hälfte der 72 Umgebungen bildete die reale Welt im jeweiligen Kontext ab (z.B. Steuergesetzgebung), die andere Hälfte enthielt fiktive, aber anwendbare Szenarien wie beispielsweise Wie wird die Vortrag eines Forschers auf einer Veranstaltung angenommen“. Dazu wurden für jede der Umgebungen messbare Ergebnisse, Schwellenwerte und Ausnahmendefiniert, wohingegen institutionelle Absichten oft nur teilweise spezifiziert wurden: eine gelungene Einwanderung oder eingesparte Steuern waren Ziele im Spiel, die sozialen Ziele der entsprechenden regulatorischen Anforderungen wurden hintenangestellt.
Ein davon separates Modell (Gemini-3-Flash) bewertete, ob das andere Modell eine Lücke erfolgreich ausgenutzt hatte. War dies der Fall, wurde das Modell belohnt (Reinforcement Learning).
In diesen Spielumgebungen lernte das eingesetzte Modell, die sozialen Regeln zu „hacken“ und Strategien zu entwickeln, die technisch konform bleiben, während sie gleichzeitig die regulatorische Absicht unterlaufen.
Die Forscher stellten fest, dass das Modell erfolgreich war. Aus ethischen und Sicherheitsgründen wurden die jeweils gefundenen konkreten Strategien jedoch nicht veröffentlicht.
Kommentar: In Deutschland gibt es Bestrebungen, Gesetze und andere Regularien in standardisierter, elektronischer Form zu verfassen. Damit wird die Erstellung entsprechender Umgebungen deutlich vereinfacht, gesetzliche Schlupflöcher können deutlich leichter gefunden und ausgenutzt werden – wenn man das Geld hat, Modelle entsprechend einzusetzen.
URLs:
Presseberichte:
Freitag, Juni 19, 2026
Reuters berichtet, dass der Werbe-Lobbyist EuroCommerce (https://www.eurocommerce.eu/), zu dem Handelsriesen wie Amazon, H&M, Edeka oder auch Ikea gehören, Henna Virkkunen (EU Kommisssion) am 18. Juni 2026 anschrieb. Der Brief enthielt die Forderung, dass für Werbung genutzte KI-generierte Bilder und Videos von der Kennzeichnungspflicht der KI-Verordnung ausgenommen werden sollen.
Einzelhändler setzen KI bereits in großem Umfang zur Erstellung von Marketingbildern ein. Zalando konnte dank KI die Kosten für die Produktion von Werbungsmaterialien um 90% senken, H&M und Zara konnten ebenfalls durch die Verwendung von KI-generierten Klonen von Models ihre Kosten deutlich senken.
Mit der Kennzeichnungspflicht wird seitens der Werbeindustrie eine Verringerung der Werbewirkung befürchtet.
Auf eine Anfrage von Reuters zu einer Stellungnahme reagierte die Europäische Kommission nicht.
Kommentar: Eigentlich kann man die Werbeindustrie verstehen. Inzwischen müsste es Allgemeinwissen sein, dass Werbeaussagen nicht stimmen. Und ob zu Fake-Aussagen noch Fake-Bilder oder Fake-Videos hinzukommen …
URLs
Mit der Suchfunktion auf der Webseite “In the Weights” (https://intheweights.com/) kann in
- GPT-5.5,
- GPT-5.4 Mini,
- Opus 4.8,
- Haiku 4.5,
- Grok 4.20,
- Gemini 3.1 Lite,
- Kimi K2 0905,
- DeepSeek V4,
- Llama 3.3 70B,
- Llama 3.2 1B,
- GLM 4.7 Flash,
- Mistral 3.2 24B
- Qwen3 8B
gesucht werden, welcher Name eines Menschen in welchem Modell vorhanden ist. Dazu werden die “Gewichte” (weights) der LLM durchsucht mit einer Formulierung wie „Wer ist ? Gib bis zu 10 Ergebnisse an, jeweils mit einer kurzen Beschreibung und einer Konfidenzbewertung.“ Anschließend werden ähnliche Beschreibungen zu Clustern zusammengefasst und mit einem Wert für die Genauigkeit bewertet.
“In the weights” bedeutet, dass ein Modell in der Lage ist, sich an eine Person zu erinnern, ohne auf Hilfsmittel wie die Websuche zurückzugreifen, d.h. die Informationen sind im Modell gespeichert.
Donnerstag, Juni 18, 2026
In Bayern soll Künstliche Intelligenz (KI) künftig Entscheidungen treffen, die bisher von Beamten getroffen wurden, insbesondere auch Ermessensentscheidungen. Baugenehmigung oder Kfz-Zulassung – darüber könnte künftig in Bayern eine KI entscheiden, Halluzinationen und KI-Fehler sind ohne Zusatzkosten für den Bürger enthalten.
Dies ist Teil des vom bayerischen Kabinett beschlossenen Entwurfs für das 5. Modernisierungsgesetz, dessen Zustimmung des Landtags jedoch noch aussteht. Bericht aus der Kabinettsitzung:
Künftig sollen Verwaltungsakte deutlich umfassender auch automatisiert durch Künstliche Intelligenz erlassen werden können – insbesondere bei standardisierten Massenverfahren.
Eine Kommentierung inklusive der verfassungsrechtlichen Rahmenbedingungen findet sich in der LTO.
URLs:
Mittwoch, Juni 17, 2026
Im gerade veröffentlichten “Digital News Report 2026” stellte Reuters eine steigende wöchentliche Nutzung von KI-Chatbots für Nachrichten fest: Weltweit ist der Anteil seit dem Vorjahr von 7 % auf 10 % gestiegen, was vor allem auf das Wachstum in Teilen Asiens, Afrikas und Lateinamerikas sowie in Süd- und Osteuropa zurückzuführen ist.
Dabei zeigen die Daten laut Reuters ebenfalls, dass das Vertrauen in Nachrichten von KI-Chatbots in der allgemeinen Bevölkerung weltweit mit nur 20 % sehr gering ausfällt. Jedoch geben 44 % der Nutzer von KI-Chatbots an. dass sie von KI-Chatbots generierten Nachrichten vertraut. Regelmäßige Nutzer der Technologie trauen KI-generierten Inhalten mehr als Menschen, welche die Technik nur selten oder gar nicht nutzen.
Angegebene Quellen werden in der Regel nicht beachtet: Nur 4 Prozent derjenigen, die Chatbots zur Nachrichten-Konsumierung nutzen, geben an, sich von KI-Chatbots zu Originalquellen durchzuklicken; bei Suchmaschinen sind es 19 % und bei sozialen Medien immer noch 17 %.
URLs:
Berichte dazu:
