Trend Micro hat eine Studie zu Risiken beim unternehmensweiten Einsatz von Large Language Models (LLMs) veröffentlicht. In der Untersuchung „Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models“ analysierten die Forscher mehr als 100 KI-Modelle mit über 800 speziell entwickelten Prompts. Ziel war es, regionale Verzerrungen, Geofencing, Hinweise auf Datensouveränität, politische und kulturelle Kontextverständnisse sowie inhaltliche Einschränkungen zu prüfen.

Nach Angaben des Unternehmens wurden dafür Tausende Wiederholungen durchgeführt, um Unterschiede über Zeit und Standorte hinweg zu messen. Insgesamt flossen mehr als 60 Millionen Eingabetokens und über 500 Millionen Ausgabetokens in die Auswertung ein.

Inkonsistente oder veraltete Resultate

Die Ergebnisse zeigen, dass identische Eingaben je nach Region, Sprache und Modell unterschiedliche Antworten erzeugen können und dass sich Ausgaben selbst bei wiederholten Interaktionen mit demselben System verändern. In politisch sensiblen Szenarien, etwa bei der Beschreibung umstrittener Gebiete oder nationaler Identitäten, stellten die Forscher deutliche regionale Ausrichtungen fest. Zudem lieferten die getesteten Systeme in einzelnen Fällen inkonsistente oder veraltete Resultate bei Aufgaben, die hohe Genauigkeit erfordern, darunter Finanzberechnungen oder zeitkritische Informationen.

Robert McArdle, Director of Cybersecurity Research bei Trend Micro © Trend Micro

„Viele Unternehmen gehen davon aus, dass KI wie klassische Software funktioniert, bei der dieselbe Eingabe zuverlässig dieselbe Ausgabe erzeugt“, erklärt Robert McArdle, Director of Cybersecurity Research bei Trend Micro. „Unsere Forschung zeigt, dass diese Annahme nicht zutrifft. LLMs verändern ihre Antworten abhängig von Region, Sprache und Schutzmechanismen und diese Antworten können sich von einer Interaktion zur nächsten unterscheiden. Werden KI-Ausgaben direkt in Customer Journeys oder Geschäftsentscheidungen eingebunden, riskieren Unternehmen den Verlust der Kontrolle über Markenkommunikation, Compliance-Positionierung und kulturelle Anschlussfähigkeit.“

Risiken verstärken sich insbesondere bei global tätigen Organisationen

Laut Studie verstärken sich diese Risiken insbesondere bei global tätigen Organisationen, die KI-Systeme grenzüberschreitend einsetzen und dabei unterschiedliche regulatorische Anforderungen sowie gesellschaftliche Erwartungen berücksichtigen müssen. Auch für den öffentlichen Sektor sehen die Autoren besondere Herausforderungen, da KI-generierte Inhalte dort als offizielle Orientierung wahrgenommen werden könnten und nicht lokalisierte Modelle Fragen der Souveränität und Zugänglichkeit aufwerfen.

Die vollständige Studie "Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models" finden Sie hier.