Cyber-Bedrohungsakteure: KI-gestützte Angriffsforschung

Diese Fallstudie wurde ursprünglich im Bericht von OpenAI vom Februar 2025⁠(wird in einem neuen Fenster geöffnet) veröffentlicht.

Wir sperrten Konten, deren Aktivitäten möglicherweise mit öffentlich bekannten Bedrohungsakteuren in Verbindung standen, die der Demokratischen Volksrepublik Korea (DPRK) nahestehen. Einige dieser Konten zeigten Aktivitäten mit Taktiken, Techniken und Verfahren, die einer als VELVET CHOLLIMA (auch Kimsuky, Emerald Sleet)⁠(wird in einem neuen Fenster geöffnet) bekannten Bedrohungsgruppe entsprechen. Andere Konten standen möglicherweise mit einem Akteur in Verbindung, der laut Einschätzung einer glaubwürdigen Quelle mit STARDUST CHOLLIMA (auch APT38, Sapphire Sleet)⁠(wird in einem neuen Fenster geöffnet) verbunden war. Wir entdeckten diese Konten nach einem Hinweis eines vertrauenswürdigen Branchenpartners.

Die gesperrten Konten nutzten unsere Tools hauptsächlich, um Informationen zu suchen, die wahrscheinlich mit Tools oder Operationen für Cyberangriffe zusammenhingen. Sie zeigten außerdem Interesse an Themen rund um Kryptowährungen, vermutlich im Zusammenhang mit finanziell motivierten Aktivitäten. Diese Kombination aus finanziellen und cyberbezogenen Aktivitäten ist typisch für Bedrohungsgruppen mit Verbindungen zur DPRK.

Die Akteure nutzten unsere Modelle als Hilfe beim Programmieren und Debuggen sowie zur Untersuchung von sicherheitsbezogenem Open-Source-Code. Dazu gehörte Hilfe beim Debuggen und Entwickeln öffentlich verfügbarer Tools und Codes, die für Brute-Force-Angriffe auf das Remote Desktop Protocol (RDP) eingesetzt werden könnten, sowie Unterstützung bei der Nutzung von Open-Source-Fernadministrationstools (RAT).

Beim Debuggen von Orten und Techniken für Auto-Start Extensibility Points (ASEP) unter MacOS legte der Akteur Staging-URLs für Binärdateien (kompilierte ausführbare Dateien) offen, die Sicherheitsanbietern zu diesem Zeitpunkt offenbar unbekannt waren. Wir übermittelten die Staging-URLs an einen Online-Scandienst, um die Weitergabe an die Sicherheitscommunity zu erleichtern. Inzwischen erkennen mehrere Anbieter die Binärdateien zuverlässig und schützen so potenzielle Opfer.

Nachfolgend ist eine Auswahl von Aktivitäten dargestellt, die zuvor vorgeschlagenen LLM-bezogenen Erweiterungen des MITRE ATT&CK^® Framework⁠(wird in einem neuen Fenster geöffnet) zugeordnet wurden:

• Fragen zu Schwachstellen in verschiedenen Anwendungen: LLM-gestützte Aufklärung.

• Entwicklung und Fehlerbehebung eines C#-basierten RDP-Clients für Brute-Force-Angriffe: LLM-gestützte Entwicklung.

• Anforderung von Code, der Sicherheitswarnungen bei unbefugtem RDP-Zugriff umgeht: LLM-gestützte Entwicklung.

• Anforderung zahlreicher PowerShell-Skripte für RDP-Verbindungen, Datei-Uploads und -Downloads, die Ausführung von Code aus dem Arbeitsspeicher und die Verschleierung von HTML-Inhalten: LLM-verbesserte Skripttechniken; LLM-verbesserte Umgehung der Anomalieerkennung.

• Erörterung der Erstellung und Bereitstellung verschleierter Payloads zur Ausführung: LLM-optimierte Payload-Erstellung.

• Suche nach Methoden für gezieltes Phishing und Social Engineering gegen Personen, die in Kryptowährungen investieren oder damit handeln, sowie nach allgemeineren Phishing-Inhalten: LLM-gestütztes Social Engineering.

• Erstellung von Phishing-E-Mails und -Benachrichtigungen, um Menschen zur Preisgabe vertraulicher Informationen zu bewegen: LLM-gestütztes Social Engineering.

• Untersuchung von Open-Source-Fernadministrationstools (RATs): LLM-gestützte Aktivitäten nach einer Kompromittierung.

Die Prompts und Anfragen des Akteurs beruhten hauptsächlich auf vorhandenen Open-Source-Informationen. Die bereitgestellten Modellergebnisse boten entweder keine neuen Fähigkeiten oder verweigerten eine Antwort. Wir sperrten die mit dem Bedrohungsakteur verbundenen Konten und teilten dessen Payloads mit der Sicherheitscommunity, um seine Operationen weiter zu beeinträchtigen.