Der Security-Spezialist Trend Micro hat eine Analyse zu ‚Xanthorox‘ veröffentlicht, einem im Darknet angebotenen KI-Tool, das als „guardrails-free AI“ (KI ohne Schutzvorrichtungen) vermarktet wird. Die Untersuchung zeigt, dass Xanthorox zwar weniger leistungsfähig ist als beworben, aber dennoch ein Risiko darstellt: Es kann die Erstellung von Schadcode automatisieren und damit die Einstiegshürden für Cyberkriminalität senken.

Laut Trend Micro generiert Xanthorox funktionsfähigen bösartigen Code und detaillierte Anleitungen, die bei seriösen KI-Diensten blockiert würden. Das System hat jedoch weder Internet- noch Darknet-Zugang und ist daher für Aufklärungs- oder Schwachstellenrecherchen weniger geeignet. Vermutlich basiert es auf einem „jailbroken“ (nicht-autorisierte Entfernen von Nutzungsbeschränkungen) kommerziellen Sprachmodell, auch wenn die Entwickler es als eigenständig und privat gehostet darstellen. Sein Schwerpunkt liegt offenbar darauf, Sicherheits- und Ethikfilter zu umgehen, statt die technische Leistungsfähigkeit zu verbessern.

David Sancho, Senior Threat Researcher bei Trend Micro © Trend Micro

„Getarnt hinter einer spielerischen Fassade und für nur 300 US-Dollar pro Monat erhältlich, lässt Xanthorox Nutzer funktionierende Malware, Ransomware-Code und Verschleierungsskripten generieren“, sagt David Sancho, Senior Threat Researcher bei Trend Micro. „Dies sind Aufgaben, die traditionell ein höheres Maß an technischem Fachwissen erfordern würden. Trotz der Behauptungen seines Entwicklers, dass es für ethisches Hacking entwickelt wurde, wird das Tool offen in kriminellen Communities beworben, während die Dokumentation über öffentliche Kanäle wie GitHub und YouTube zugänglich ist.“

Vincenzo Ciancaglini, Senior Threat Researcher bei Trend Micro © Trend Micro

Trend Micro warnt, dass sich bösartige KI-Systeme weiterentwickeln und künftig stärkere Anonymitäts- und Datenschutzfunktionen aufweisen könnten. „Tools wie Xanthorox spiegeln die nächste Phase des Missbrauchs von KI wider“, sagt Vincenzo Ciancaglini, Senior Threat Researcher bei Trend Micro. „Sie ersetzen erfahrene Angreifer nicht, senken aber die Einstiegshürde für weniger erfahrene Täter und erhöhen so das Bedrohungsvolumen.“ Unternehmen sollten laut Ciancaglini ihre KI-Strategien um klare Kontrollen zur Nutzung und Überwachung generativer Systeme erweitern.

Den vollständigen Bericht finden Sie hier (englisch): Trend Micro Report zu Xanthorox