Das Aufkommen von Xanthorox und ähnlichen Tools, wie beispielsweise SpamGPT, unterstreicht den wachsenden Bedarf an KI-Governance, Mitarbeiterbewusstsein und klaren Richtlinien für die akzeptable Nutzung. Da KI zunehmend in Unternehmensabläufe integriert wird, kann dieselbe Technologie von Angreifern ausgenutzt werden, um Social Engineering, Malware-Entwicklung und automatisierte Angriffe zu verbessern.
„Getarnt hinter einer spielerischen Fassade und für nur 300 US-Dollar pro Monat erhältlich, lässt Xanthorox Nutzer funktionierende Malware, Ransomware-Code und Verschleierungsskripten generieren“, so David Sancho, Senior Threat Researcher bei Trend Micro. „Dies sind Aufgaben, die traditionell ein höheres Maß an technischem Fachwissen erfordern würden. Trotz der Behauptungen seines Entwicklers, dass es für ethisches Hacking entwickelt wurde, wird das Tool offen in kriminellen Communities beworben, während die Dokumentation über öffentliche Kanäle wie GitHub und YouTube zugänglich ist.“
Nächste Phase des Missbrauchs von KI
Die Forscher von Trend Micro warnen davor, dass sich bösartige KI-Systeme weiterentwickeln und eine höhere Modellleistung mit stärkeren Datenschutz- und Anonymitätsfunktionen kombinieren werden. Die Beobachtung dieser Entwicklung ist entscheidend, um zu verstehen, wo und wie Angreifer in Zukunft Vorteile erzielen können.
„Tools wie Xanthorox spiegeln die nächste Phase des Missbrauchs von KI wider”, sagt Vincenzo Ciancaglini, Senior Threat Researcher bei Trend Micro. „Dieser Schritt wird zwar erfahrene Bedrohungsakteure nicht ersetzen, aber er wird es weniger fähigen Personen erleichtern, sich an Cyberkriminalität zu beteiligen, wodurch die Einstiegshürde gesenkt und das Gesamtvolumen der Bedrohungen für Unternehmen erhöht wird. Sicherheitsverantwortliche sollten sicherstellen, dass ihre KI-Strategien Kontrollen zur Überwachung, Prüfung und Verwaltung des Zugriffs auf generative KI-Tools und deren Verwendung in ihren Umgebungen umfassen.“
Wichtigste Erkenntnisse der Analyse
Die Analyse von Trend Micro verdeutlicht, dass Xanthorox:
funktionsfähigen bösartigen Code und Schritt-für-Schritt-Anleitungen zur Implementierung produziert, die normalerweise von legitimen KI-Diensten blockiert werden
keinen Zugang zum Internet und Dark Web hat, wodurch es für Aufklärungs- oder Schwachstellenrecherchen weniger geeignet ist als eigentlich beworben
wahrscheinlich auf einem jailbroken kommerziellen Modell basiert, obwohl behauptet wird, dass es eigenständig ist und privat gehostet wird
eher darauf ausgelegt ist, Schutzvorrichtungen und ethische Filter zu entfernen, als die technische Tiefe zu verbessern – wobei die angeblich „unzensierte“ Nutzung Vorrang vor praktischer Leistung hat
Den vollständigen Report (in englischer Sprache) können Sie hier herunterladen!
