Deepfake-Phishing erkennen: KI-Betrug abwehren

Angreifer nutzen künstliche Intelligenz, um E-Mails ohne Fehler zu schreiben, Stimmen zu klonen und in Videokonferenzen als Vorgesetzte aufzutreten. Die alten Erkennungsmerkmale, schlechte Grammatik und unpersönliche Anrede, funktionieren nicht mehr. Was weiterhin funktioniert, ist der Blick auf den Kontext und ein Freigabeprozess, der eine einzelne getäuschte Person nicht zum Einfallstor macht.

Wie KI das Phishing verändert

Neu am Phishing ist die Qualität. Sprachmodelle erzeugen Nachrichten in fehlerfreiem Deutsch, im Tonfall des tatsächlichen Geschäftsführers und mit Bezug auf reale Projekte aus Website, Stellenanzeigen und sozialen Netzwerken. Aus wenigen Sekunden Audiomaterial entsteht ein Stimmklon, aus öffentlichen Videos ein Gesicht, das in einer Videokonferenz in Echtzeit spricht.

Wie weit das reicht, zeigte 2024 ein Fall beim Ingenieurunternehmen Arup in Hongkong: Nach Medienberichten nahm ein Mitarbeiter an einer Videokonferenz teil, in der der Finanzchef und mehrere Kollegen als Deepfakes auftraten. Er überwies daraufhin rund 25 Millionen US-Dollar. Die Aufklärung davor läuft automatisiert, wie der Beitrag Wie Hackerangriffe ablaufen beschreibt.

In der Praxis begegnen uns vier Muster:

• CEO-Fraud und Zahlungsumleitung. Eine Nachricht oder ein Anruf des vermeintlichen Geschäftsführers an die Buchhaltung: eine vertrauliche Übernahme, eine dringende Zahlung, keine Rückfragen.
• Lieferanten-Rechnungsbetrug. Angreifer übernehmen das Mailkonto eines Lieferanten oder fälschen dessen Absender. Eine echte Rechnung kommt mit geänderter Bankverbindung. Betrag und Projekt stimmen, nur das Konto nicht.
• Anrufe beim IT-Support. Ein Anrufer gibt sich mit korrektem Namen, Abteilung und Vorgesetztem als Mitarbeiter aus und bittet um Zurücksetzen des Passworts oder der Mehrfaktor-Authentifizierung.
• QR-Phishing. Ein QR-Code in einer E-Mail, auf einem Aushang oder einem Paket führt auf eine gefälschte Anmeldeseite. Mailfilter prüfen Bilder schlechter als Links.

Merkmale, die noch funktionieren

Text, Stimme und Bild verraten nicht mehr verlässlich, ob eine Nachricht echt ist. Die Erkennung verlagert sich auf Merkmale, die zum Betrug gehören und nicht zur Technik:

• Dringlichkeit: Zeitdruck soll die Prüfung verhindern.
• Kanalwechsel: Der Angreifer verlässt den Kanal, auf dem Rückfragen möglich wären.
• Neue Bankverbindung: Die Stammdatenänderung ist das eigentliche Ziel.
• Bitte um Geheimhaltung: Das Vier-Augen-Prinzip soll umgangen werden.
• Ungewöhnliche Uhrzeit oder Absenderdomain: kleine Abweichungen bei sonst perfekter Nachricht, etwa ein vertauschter Buchstabe in der Domain.

Kein einzelnes Merkmal ist ein Beweis. Zwei davon in einer Nachricht sind ein Grund, den Vorgang anzuhalten und auf einem anderen Weg zu prüfen. Das gilt auch für Videokonferenzen, denn Deepfakes lassen sich dort nicht zuverlässig technisch erkennen.

Organisatorische Schutzmaßnahmen

Die wirksamsten Maßnahmen sind Regeln, die auch dann halten, wenn die Täuschung perfekt ist. Das BSI empfiehlt insbesondere drei Verfahren:

1. Rückruf über eine bekannte Nummer. Jede Zahlungsanweisung, jede Änderung einer Bankverbindung und jede Bitte um Passwortrücksetzung wird über eine Nummer bestätigt, die bereits im System hinterlegt ist. Nicht über die Nummer aus der Nachricht und nicht über die Anruferkennung.
2. Vier-Augen-Prinzip. Zahlungen ab einem festgelegten Betrag und alle Stammdatenänderungen erfordern zwei Freigaben. Die zweite Person prüft unabhängig und nutzt nicht dieselbe Nachricht als Grundlage.
3. Codewort. Geschäftsleitung und Buchhaltung vereinbaren ein Wort, das bei telefonischen Anweisungen genannt wird. Ein Stimmklon kennt es nicht.

Neue Bankverbindungen von Lieferanten werden erst nach Bestätigung über den bekannten Kontakt und mit Wartefrist übernommen. Wurde eine Überweisung bereits ausgelöst, zählt die Zeit: sofort die eigene Bank kontaktieren und den Rückruf der Zahlung beantragen, parallel intern melden und Anzeige erstatten.

Schulung wirkt nur, wenn sie den getäuschten Menschen nicht zum Schuldigen macht. Wer eine Täuschung meldet, auch nach dem Klick oder nach der Überweisung, muss dafür Anerkennung erhalten. Bewährt haben sich kurze, regelmäßige Formate mit simulierten Phishing-Mails und anschließender Erklärung sowie ein Meldeweg, den jeder kennt. Die Geschäftsleitung nimmt selbst teil, denn ihre Stimme ist es, die geklont wird.

Technische Schutzmaßnahmen

Technik ersetzt die Regeln nicht, reduziert aber die Zahl der Angriffe, die ankommen, und begrenzt den Schaden:

• Phishing-resistente MFA. Codes per SMS oder App schützen gegen gestohlene Passwörter, nicht gegen gefälschte Seiten, die den Code in Echtzeit weiterleiten. Passkeys nach dem FIDO2-Standard sind an die echte Domain gebunden. Sie gehören zuerst zu Administratoren, Geschäftsleitung und Buchhaltung.
• Mailauthentifizierung mit SPF, DKIM und DMARC. Diese Verfahren verhindern, dass Angreifer Nachrichten mit Ihrer Domain als Absender verschicken. Ziel ist eine DMARC-Richtlinie mit Ablehnung, nicht nur der Überwachungsmodus.
• Kennzeichnung externer Mails. Ein sichtbarer Hinweis, dass eine Mail von außerhalb kommt, entlarvt den „Geschäftsführer”, der von einer fremden Adresse schreibt. Mailfilter und sichere Anmeldeverfahren in Microsoft 365 beschreibt die Seite Microsoft 365.

Das Wichtigste in Kürze

• Text, Stimme und Bild sind keine verlässlichen Echtheitsmerkmale mehr. Dringlichkeit, Kanalwechsel, neue Bankverbindung und Bitte um Geheimhaltung bleiben verräterisch.
• Rückruf über die bekannte Nummer, Vier-Augen-Prinzip und Codewort halten auch bei perfekter Täuschung.
• Passkeys für exponierte Konten, DMARC mit Ablehnung und ein Meldeweg ohne Sanktion begrenzen den Schaden.

Wie DEVACON Unternehmen bei Schutzkonzept und Schulung unterstützt, beschreibt die Seite Cybersecurity.