Trend Micro-Research warnt
Bösartiges KI-Tool „Xanthorox“ automatisiert Cyberkriminalität
Trend Micro ist ein Anbieter von Cybersicherheitslösungen und hat das KI-Tool "Xanthorox“ unter die Lupe genommen. Das wird in Darknet-Foren als „guardrails-free AI“ - KI ohne Schutzvorrichtungen - vermarktet.
Die Untersuchung zeigt, dass Xanthorox zwar in Bezug auf seine Fähigkeiten überbewertet wird, aber trotzdem eine besorgniserregende Veränderung in der Art und Weise darstellt, wie Kriminelle KI nutzen – etwa, um die Generierung von Schadcode zu automatisieren und die für die Durchführung von Angriffen erforderlichen Fähigkeiten zu reduzieren.
Die Analyse von Trend Micro verdeutlicht, dass Xanthorox
• funktionsfähigen bösartigen Code und Schritt-für-Schritt-Anleitungen zur Implementierung produziert, die normalerweise von legitimen KI-Diensten blockiert werden
• keinen Zugang zum Internet und Dark Web hat, wodurch es für Aufklärungs- oder Schwachstellenrecherchen weniger geeignet ist als eigentlich beworben
• wahrscheinlich auf einem jailbroken kommerziellen Modell basiert, obwohl behauptet wird, dass es eigenständig ist und privat gehostet wird
• eher darauf ausgelegt ist, Schutzvorrichtungen und ethische Filter zu entfernen, als die technische Tiefe zu verbessern – wobei die angeblich „unzensierte“ Nutzung Vorrang vor praktischer Leistung hat
Das Aufkommen von Xanthorox und ähnlichen Tools unterstreicht den wachsenden Bedarf an KI-Governance, Mitarbeiterbewusstsein und klaren Richtlinien für die akzeptable Nutzung. Da KI zunehmend in Unternehmensabläufe integriert wird, kann dieselbe Technologie von Angreifern ausgenutzt werden, um Social Engineering, Malware-Entwicklung und automatisierte Angriffe zu verbessern.
„Getarnt hinter einer spielerischen Fassade und für nur 300 US-Dollar pro Monat erhältlich, lässt Xanthorox Nutzer funktionierende Malware, Ransomware-Code und Verschleierungsskripten generieren“, so David Sancho, Senior Threat Researcher bei Trend Micro. „Dies sind Aufgaben, die traditionell ein höheres Maß an technischem Fachwissen erfordern würden. Trotz der Behauptungen seines Entwicklers, dass es für ethisches Hacking entwickelt wurde, wird das Tool offen in kriminellen Communities beworben, während die Dokumentation über öffentliche Kanäle wie GitHub und YouTube zugänglich ist.“
Bösartige KI-Systeme entwickeln sich weiter
Die Forscher von Trend Micro warnen davor, dass sich bösartige KI-Systeme weiterentwickeln und eine höhere Modellleistung mit stärkeren Datenschutz- und Anonymitätsfunktionen kombinieren werden. Die Beobachtung dieser Entwicklung ist entscheidend, um zu verstehen, wo und wie Angreifer in Zukunft Vorteile erzielen können.
„Tools wie Xanthorox spiegeln die nächste Phase des Missbrauchs von KI wider”, sagt Vincenzo Ciancaglini, Senior Threat Researcher bei Trend Micro. „Dieser Schritt wird zwar erfahrene Bedrohungsakteure nicht ersetzen, aber er wird es weniger fähigen Personen erleichtern, sich an Cyberkriminalität zu beteiligen, wodurch die Einstiegshürde gesenkt und das Gesamtvolumen der Bedrohungen für Unternehmen erhöht wird. Sicherheitsverantwortliche sollten sicherstellen, dass ihre KI-Strategien Kontrollen zur Überwachung, Prüfung und Verwaltung des Zugriffs auf generative KI-Tools und deren Verwendung in ihren Umgebungen umfassen.“
Jobangebote+ passend zum Thema
Lesen Sie mehr zum Thema
