Logo

Mittwoch, Juni 17, 2026

Microsoft Studie: LLMs verfälschen Dokumente, wenn man Aufgaben auslagert

Forscher von Microsoft stellten DELEGATE-52 vor, ein Tool, mit welchem die Eignung von KI-Systemen in ausgelagerten Arbeitsabläufen untersucht werden kann. DELEGATE-52 simuliert dabei umfangreiche delegierte Arbeitsabläufe, die eine tiefgreifende Dokumentbearbeitung in 52 Fachbereichen erfordern, darunter Programmierung, kristallographische Analyse und musiktheoretische Notation.
Im Experiment mit 19 LLMs zeigten die Forscher, dass aktuelle KI-Modelle Dokumente während der Verarbeitung beeinträchtigen: Selbst Spitzenmodelle (Gemini 3.1 Pro, Claude 4.6 Opus, GPT 5.4) verfälschen am Ende langer Arbeitsabläufe durchschnittlich 25 % des Dokumentinhalts, während andere Modelle noch gravierendere Fehler aufweisen.
Weitere Experimente zeigen, dass das Ausmaß der Qualitätsminderung durch die Dokumentgröße, die Dauer der Interaktion oder das Vorhandensein von ablenkenden Dateien noch verstärkt wird. Dabei verbessert der Einsatz agentischer Werkzeuge die Leistung bei DELEGATE-52 nicht.
URLs:

Presseberichte:

PwC: Um Nutzen aus KI zu ziehen, müssen Unternehmen KI einsetzen, um menschliches Fachwissen zu stärken und Innovationen zu beschleunigen

PWC veröffentlichte den “2026 AI Global Jobs Barometer”. Für den Report wurden über eine Milliarde Stellenanzeigen aus sechs Kontinenten aus, um aufzuzeigen, wie sich KI auf Arbeitsplätze, Qualifikationen, Löhne und Arbeitsproduktivität auswirkt.
Wichtigste Erkenntnisse:

  • Das Produktivitätswachstum ist bei Unternehmen, die am stärksten von KI profitieren, um 40 % höher als bei denen, die am seltensten davon profitieren.
  • Die für die am stärksten von KI betroffenen Berufe erforderlichen Qualifikationen ändern sich mehr als doppelt so schnell wie bei den am wenigsten von KI betroffenen Berufen.
  • Durch KI “professionalisierte” Stellen wie beispielsweise Radiologen oder Personalvermittler) verzeichnen ein doppelt so hohes Wachstum bei verfügbaren Stellen und ein 42 % schnelleres Gehaltswachstum als Berufe, die als „demokratisiert” eingestuft werden (zum Beispiel IT-Serviceleiter oder Arzthelfer:innen).
  • Bei den am stärksten von KI betroffenen Einstiegspositionen ist die Wahrscheinlichkeit siebenmal höher (als bei den am wenigsten von KI betroffenen Einstiegspositionen), dass traditionell für leitende Positionen erforderliche Kompetenzen wie Führungsqualitäten bereits für diese Einstiegspositionen verlangt werden.

Joe Atkinson (Global Chief AI Officer for the PwC Network of Firms, PwC US): “The companies seeing the greatest returns on AI are using it to amplify human expertise, accelerate innovation and create entirely new sources of value. As a result, they are pulling further ahead on productivity and growth than companies that focus primarily on automation.” (https://www.pwc.com/ … -jobs-barometer.html).
URLs:

Dienstag, Juni 16, 2026

EU-Kommission veröffentlicht Icons zur Kennzeichnung von KI-genrierten Inhalten

Die EU-Kommission veröffentlichte am 10 Juni 2026 einheitliche Icons zur Kennzeichnung von KI-genrierten Inhalten:

  • ein Basis-Symbol,
  • eines für vollständig KI-generierte Inhalte
  • und eines für teilweise KI-bearbeitete Inhalte.

Die Symbole sind Teil des Code of Practice und kostenlos nutzbar. Die Nutzung der Icons ist freiwillig, die Kennzeichnungspflicht selbst aber nicht. Die Icons stehen in den Formaten SVG und PNG in vier Varianten (schwarzer Hintergrund, schwarz und transparent, weißer Hintergrund, weiß und transparent) zum Download zur Verfügung.
URLs:

Es ist anscheinend kinderleicht, die Suchergebnisse von KI-Agenten mithilfe von nutzergenerierten Inhalten auf Reddit und Wikipedia zu manipulieren

In der Studie “Deep-research agents can be poisoned via user-generated content” zeigen drei Forscher der Cornell-University , dass Deep-Research-Agenten bei vielen gängigen Suchthemen wiederholt dieselben Seiten mit nutzergenerierten Inhalten (User-Generated Content, UGC) von Plattformen wie Reddit und Wikipedia abrufen.
Basierend auf dieser Erkenntnis zeigten Sie bei drei repräsentativen Deep-Research-Systemen (STORM, Co-STORM und OmniThink), dass ein Angreifer, der einen kurzen, speziell gestalteten Text an eine einzelne, häufig abgerufene UGC-Seite anhängt, einen KI-Agenten dazu bringt, dass der KI-Agent vom Angreifer ausgewählte Inhalte zitiert und vom Angreifer ausgewählte Entitäten über viele verwandte Suchanfragen hinweg bewirbt.

Forschungsbericht:

Presseberichte dazu:

Montag, Juni 15, 2026

Access Now: KI-gestützte Kriegsführung muss ein Ende haben

Access Now veröffentlichte heute einen Aufruf, Ki aus der Militarisierung herauszunehmen, das Töten mit KI zu beenden. New Scientist berichtete ja über die ukrainische autonome Drohne, welche in einem bestimmt Areal einfach jegliches menschliche Leben beendete (https://www.newscien … -for-the-first-time/), d.h. die urkainische Drohne tötete, ohne, dass Menschen dies kontrollierten.
Access Now kritisiert auch, dass Firmen wie OpenAI, Microsoft oder Amazon nach außen hin als “die Guten” agieren, mit Kriegssoftware aber Milliarden verdienen. Der Aufruf ist von 112 Organisationen und von 114 Einzelpersonen unterzeichnet. Sieht man sich die Liste der Einzelpersonen an, dann finden sich darin sehr viele Top-Forscher aus dem KI-Umfeld.
Da machen sich Menschen um die Entwicklung sorgen, die ein sehr, sehr tiefes Verständnis von der Materie haben.
URL des Aufrufs:

URL um die Initiative zu unterstützen:

Presseberichte: