Deepfake und gefälschte Stimmen am Telefon: Wie Kriminelle mit KI Ihre Buchhaltung täuschen

Die Buchhalterin bekommt einen Anruf. Am Apparat ist der Geschäftsführer, unverkennbar seine Stimme, seine Art zu reden. Er sei gerade unterwegs zu einem wichtigen Abschluss, eine Anzahlung müsse heute noch raus, sonst platzt der Deal. 48.000 Euro, neue Bankverbindung, bitte diskret, er könne gleich nicht mehr ans Telefon. Sie überweist.

Der Geschäftsführer hat nie angerufen. Was sie gehört hat, war seine Stimme, aber erzeugt von einer KI aus einem Interview, das er vor zwei Jahren einem Branchenmagazin gegeben hat. Das nennt sich Deepfake-Betrug, und er trifft inzwischen gezielt kleine und mittlere Unternehmen.

Was ist Deepfake-Betrug im Unternehmen?

Deepfake-Betrug ist die Weiterentwicklung des klassischen CEO-Fraud: Kriminelle geben sich als Geschäftsführung, Vorgesetzte oder bekannte Geschäftspartner aus, um Mitarbeitende zu Zahlungen oder zur Herausgabe von Daten zu bewegen. Neu ist, dass sie dafür mit KI die Stimme oder das Videobild einer realen Person täuschend echt nachbilden.

Beim älteren CEO-Fraud kam die Täuschung per E-Mail: eine gefälschte Absenderadresse, ein dringender Ton, eine Überweisungsbitte. Wer den Prozess kannte, konnte an der Adresse oder am Schreibstil misstrauisch werden. Deepfakes verschieben die Täuschung auf einen Kanal, dem wir instinktiv vertrauen: die Stimme eines Menschen, den wir kennen, oder sein Gesicht in einem Video-Call. Genau dieses Vertrauen ist das Ziel des Angriffs.

Wichtig ist die Einordnung: Ein Deepfake-Anruf ist kein technischer Hack. Es wird nichts in Ihr Netzwerk eingebrochen, keine Schadsoftware installiert, kein Passwort gestohlen. Es ist Social Engineering, also die Manipulation von Menschen. Deshalb hilft eine Firewall hier nicht. Was hilft, sind klare Prozesse.

Wie KI eine Stimme in wenigen Minuten klont

Moderne Sprach-KI braucht nur wenige Sekunden bis Minuten Audiomaterial einer Person, um deren Stimme nachzubilden. Aus dieser geklonten Stimme lässt sich anschließend beliebiger Text erzeugen, der natürlich klingt, mit passender Betonung und Sprachmelodie. Bei Video-Deepfakes wird zusätzlich das Gesicht animiert, sodass es zu den gesprochenen Worten passt.

Das nötige Ausgangsmaterial liegt bei Führungskräften häufig öffentlich vor. Ein Interview auf YouTube, ein Podcast-Auftritt, ein Webinar, ein Grußwort auf der Firmenwebsite, eine Rede bei einer Preisverleihung, ein Vortrag auf einer Messe: Jede dieser Aufnahmen ist Trainingsmaterial. Je präsenter eine Geschäftsführung öffentlich auftritt, desto mehr Material steht zur Verfügung. Das ist kein Grund, sich zu verstecken, aber ein Grund, das Risiko zu kennen.

Die Qualität hat sich rasant entwickelt. Frühe Fälschungen klangen abgehackt und roboterhaft. Aktuelle Systeme reagieren nahezu in Echtzeit, sodass ein Angreifer während des Gesprächs auf Nachfragen reagieren kann. Damit fällt eines der letzten verlässlichen Erkennungsmerkmale weg.

Wie stark ist die Bedrohung wirklich?

Die Zahlen zeigen eine deutliche Zunahme. Der Anbieter Signicat meldet, dass Betrugsversuche mit Deepfakes über drei Jahre um 2.137 Prozent gestiegen sind und inzwischen etwa 6,5 Prozent aller erkannten Betrugsversuche ausmachen, also rund jeden fünfzehnten Fall. Vor drei Jahren waren es 0,1 Prozent. Deepfake-Betrug ist damit vom Randphänomen zu einer verbreiteten Methode geworden.

Quelle: Signicat: The Battle Against AI-Driven Identity Fraud (2024)Stand: 2026-08-03.

Auch die Frequenz steigt. Der Identity-Fraud-Report von Entrust geht davon aus, dass es 2024 im Schnitt alle fünf Minuten einen Deepfake-Angriffsversuch gab. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) weist in seinem Lagebericht 2025 ausdrücklich darauf hin, dass KI die Qualität von Social-Engineering-Angriffen erhöht und die Einstiegshürden für Kriminelle senkt.

Quelle: Entrust 2026 Identity Fraud ReportStand: 2026-08-03.

Quelle: BSI: Die Lage der IT-Sicherheit in Deutschland 2025

Warum gerade der Mittelstand im Visier steht

Kleine und mittlere Unternehmen sind ein bevorzugtes Ziel, weil sie zwei Dinge vereinen: kurze, persönliche Wege und selten formalisierte Kontrollen. In einem Betrieb mit 20 bis 500 Mitarbeitenden kennt die Buchhaltung die Geschäftsführung persönlich. Ein Anruf mit einer dringenden Bitte ist normal, ein Nachfragen fühlt sich fast unhöflich an.

In großen Konzernen durchlaufen Zahlungen mehrere Freigabestufen, Systeme und Vieraugenkontrollen. Diese Schwerfälligkeit ist im Alltag lästig, aber sie ist auch ein Schutz. Im Mittelstand fehlt diese Struktur oft. Eine einzelne Person kann eine Überweisung anstoßen, und der Weg vom Anruf zur ausgeführten Zahlung ist kurz.

Angreifer recherchieren ihre Ziele. Wer im Unternehmen für Zahlungen zuständig ist, wer gerade in Urlaub oder auf Reisen ist, wie die Geschäftsführung spricht: Vieles davon lässt sich aus öffentlich zugänglichen Quellen, aus sozialen Netzwerken und aus früheren Datenlecks zusammensetzen. Der Anruf kommt dann genau im richtigen Moment, etwa wenn der echte Geschäftsführer nachweislich schwer erreichbar ist. Ähnliche Muster kennen Sie aus dem Bereich Phishing und CEO-Fraud, Deepfakes heben sie nur auf eine neue Stufe.

Der Fall Arup: 25 Millionen über einen Video-Call

Das bekannteste dokumentierte Beispiel betrifft das internationale Ingenieurunternehmen Arup. Ein Mitarbeiter im Finanzbereich wurde über einen gefälschten Video-Call dazu gebracht, in 15 Einzelüberweisungen insgesamt rund 25 Millionen US-Dollar zu transferieren. In der Videokonferenz waren mehrere vermeintliche Führungskräfte zu sehen und zu hören, alle waren KI-generierte Deepfakes.

Der Ablauf ist lehrreich, weil er die typische Dramaturgie zeigt. Es begann mit einer E-Mail, die eine "vertrauliche Transaktion" ankündigte. Der Mitarbeiter war zunächst skeptisch. Erst der anschließende Video-Call, in dem er bekannte Gesichter und Stimmen sah und hörte, räumte seine Zweifel aus. Genau dafür sind Deepfakes gebaut: Sie liefern die scheinbare Bestätigung, die eine misstrauische Person überzeugt.

Aufgeflogen ist der Betrug erst, als sich der Mitarbeiter später bei der echten Konzernzentrale zu der "geheimen Transaktion" meldete. Dort wusste niemand von einer solchen Anweisung oder Konferenz. Das Geld war zu diesem Zeitpunkt bereits auf mehrere Konten verteilt und wurde laut Berichten nicht zurückgeholt.

Quelle: Fortune: Arup Deepfake-Betrug, 25 Mio. US-Dollar (Mai 2024)

Woran Sie einen Deepfake-Anruf erkennen (und warum das nicht reicht)

Die ehrliche Antwort: Sie können sich auf das Erkennen nicht verlassen. Es gibt Hinweise, die auffallen können, etwa eine leicht monotone Sprachmelodie, unnatürliche Pausen, ein Echo oder Hintergrundgeräusche, die nicht zur angeblichen Situation passen. Bei Video zusätzlich ruckelnde Mundbewegungen oder starre Mimik. Aber keines dieser Merkmale ist verlässlich, und die Technik wird monatlich besser.

Deutlich verlässlicher als das Erkennen der Fälschung ist das Erkennen des Musters. Deepfake-Betrug folgt fast immer demselben Drehbuch, unabhängig davon, wie gut die Stimme klingt:

• Dringlichkeit und Zeitdruck. "Muss heute raus", "sonst platzt der Deal", "ich bin gleich nicht mehr erreichbar". Der Druck soll das Nachdenken abkürzen.
• Vertraulichkeit. "Bitte mit niemandem besprechen", "das läuft an der üblichen Abteilung vorbei". Damit wird die normale Kontrolle ausgehebelt.
• Abweichung vom Prozess. Neue oder geänderte Bankverbindung, ungewöhnlicher Empfänger, ausdrückliche Bitte, den Standardweg einmal zu umgehen.
• Emotionaler Hebel. Autorität ("ich als Geschäftsführer weise Sie an") oder eine Vertrauensbeziehung, die man ungern enttäuscht.

Wenn eine Anfrage dieses Muster trägt, spielt es keine Rolle mehr, ob die Stimme echt klingt. Das Muster selbst ist der Alarm.

Der wirksamste Schutz: Rückruf und Vier-Augen-Prinzip

Der zentrale Schutz gegen Deepfake-Betrug ist organisatorisch, nicht technisch: ein verbindlicher Freigabeprozess für Zahlungen, der eine unabhängige Rückbestätigung erzwingt. Zwei Bausteine tragen fast die gesamte Wirkung. Erstens der Rückruf über einen selbst gewählten, bekannten Kanal. Zweitens das Vier-Augen-Prinzip bei allen Zahlungen ab einer festgelegten Grenze.

Der Rückruf ist die einfachste und stärkste Einzelmaßnahme. Wer eine ungewöhnliche Zahlungsanweisung erhält, ruft nicht an der Nummer zurück, die im Anruf oder in der E-Mail genannt wurde, sondern über eine Nummer, die er selbst kennt und aus dem internen Verzeichnis nimmt. Ein Angreifer kann eine Stimme fälschen, aber er kann nicht das echte Telefon des Geschäftsführers abheben.

1. 1
   Anhalten statt handeln
   Bei jeder ungewöhnlichen oder dringenden Zahlungsanweisung: nicht sofort ausführen. Zeitdruck ist ein Warnsignal, kein Grund zur Eile.
2. 2
   Muster prüfen
   Trägt die Anfrage typische Merkmale? Zeitdruck, Vertraulichkeit, neue Bankverbindung, Abweichung vom Prozess. Wenn ja, greift zwingend die Rückbestätigung.
3. 3
   Über bekannten Kanal zurückrufen
   Rufen Sie die angebliche anweisende Person über eine selbst gewählte, bekannte Nummer aus dem internen Verzeichnis zurück. Niemals die im Anruf oder in der Mail genannte Nummer verwenden.
4. 4
   Codewort abfragen
   Für Ausnahmezahlungen ein intern vereinbartes Codewort abfragen, das nicht öffentlich bekannt ist und nirgends digital gespeichert liegt.
5. 5
   Vier-Augen-Freigabe
   Ab der festgelegten Betragsgrenze bestätigt eine zweite berechtigte Person die Zahlung unabhängig, bevor sie ausgeführt wird.
6. 6
   Im Zweifel eskalieren
   Bleibt ein Restzweifel, wird nicht gezahlt, sondern an die Geschäftsführung oder die IT eskaliert. Eine verzögerte Zahlung ist nie so teuer wie eine betrügerische.

Warum Technik allein nicht ausreicht

Technische Schutzmaßnahmen sind sinnvoll, aber sie greifen bei einem Anruf oder Video-Call nur begrenzt. Ein E-Mail-Filter kann eine betrügerische Vorab-Mail abfangen, eine gute E-Mail-Authentifizierung mit SPF, DKIM und DMARC erschwert das Fälschen von Absendern. Aber der eigentliche Angriff läuft über die Stimme, und die trägt keinen Anhang und keinen Link, den ein Filter prüfen könnte.

Deshalb greifen technische und organisatorische Maßnahmen ineinander. Die folgende Gegenüberstellung zeigt, warum ein reiner Zuruf ohne Rückbestätigung so gefährlich ist:

Auf der technischen Seite gehören zum Basisschutz außerdem Mehrfaktor-Authentifizierung für alle Konten, aus denen sich Informationen für einen gezielten Angriff ziehen lassen, und getrennte Berechtigungen, damit nicht eine einzelne kompromittierte Anmeldung ausreicht. Diese Maßnahmen verhindern den Deepfake-Anruf nicht, aber sie verkleinern die Angriffsfläche und erschweren die Vorbereitung.

Freigaberichtlinie und Awareness: den Prozess verankern

Ein Prozess wirkt nur, wenn er schriftlich festgehalten, kommuniziert und für alle verbindlich ist, ausdrücklich auch für die Geschäftsführung selbst. Genau hier scheitern viele Betriebe: Es gibt eine ungeschriebene Regel im Kopf einzelner Personen, aber keine Richtlinie, die auch dann trägt, wenn eine neue Kraft in der Buchhaltung arbeitet oder Urlaubsvertretung herrscht.

Die Freigaberichtlinie sollte kurz und konkret sein und mindestens diese Punkte klären:

• Ab welchem Betrag gilt das Vier-Augen-Prinzip?
• Welche Anlässe erzwingen immer eine Rückbestätigung (neue IBAN, neuer Empfänger, Zeitdruck, Vertraulichkeit)?
• Über welchen Kanal wird zurückgerufen, und welche Nummern gelten als bekannt?
• Wie lautet der Ablauf, wenn ein Verdacht besteht, und an wen wird eskaliert?

Genauso wichtig ist die Haltung im Betrieb. Eine Mitarbeiterin, die eine Zahlung anhält und beim Chef zurückfragt, muss dafür Rückendeckung bekommen, auch wenn der Anruf am Ende echt war. Wenn Rückfragen als Misstrauen oder Umständlichkeit abgestraft werden, wird der Prozess umgangen, und der Schutz ist wertlos. Dasselbe Prinzip gilt bei Phishing-Awareness: Melden und Nachfragen müssen belohnt werden, nicht sanktioniert.

Was tun, wenn eine Zahlung schon raus ist?

Wenn eine betrügerische Überweisung bereits ausgeführt wurde, zählt jede Stunde, weil das Geld schnell auf weitere Konten verschoben wird. Handeln Sie parallel, nicht nacheinander: Bank kontaktieren, Anzeige erstatten, intern informieren. Scham ist an dieser Stelle der teuerste Reflex, denn je früher gemeldet wird, desto größer ist die Chance, die Zahlung noch zu stoppen.

1. 1
   Hausbank sofort anrufen
   Bitten Sie um einen sofortigen Rückruf beziehungsweise eine Rückholung der Zahlung (Recall) und die Sperrung weiterer Anweisungen. Bei sehr schnellem Handeln lässt sich eine Überweisung manchmal noch aufhalten.
2. 2
   Anzeige bei der Polizei
   Erstatten Sie Anzeige und sichern Sie alle Beweise: Anrufzeiten, Nummern, E-Mails, Screenshots, den genauen Ablauf. Diese Dokumentation brauchen Bank, Versicherung und Ermittler.
3. 3
   IT und Geschäftsführung informieren
   Prüfen Sie, ob im Vorfeld Konten oder Postfächer kompromittiert wurden, und ob weitere Anweisungen kursieren. Ein Deepfake-Anruf kann Teil eines größeren Angriffs sein.
4. 4
   Cyberversicherung melden
   Melden Sie den Vorfall zeitnah Ihrer Versicherung und halten Sie die Fristen der Police ein. Die dokumentierten Freigabeprozesse sind hier oft entscheidend für die Regulierung.
5. 5
   DSGVO-Meldepflicht prüfen
   Wurden dabei personenbezogene Daten offengelegt, kann eine Meldung an die zuständige Datenschutzaufsicht innerhalb von 72 Stunden erforderlich sein. Im Zweifel den Datenschutzbeauftragten einbinden.

Quelle: Verordnung (EU) 2016/679 (DSGVO)Zur 72-Stunden-Meldefrist bei Datenschutzverletzungen, Art. 33 DSGVO. Stand: 2026-08-03.

Für den Ernstfall lohnt es sich, diese Schritte vorab in einem IT-Notfallplan festzuhalten, inklusive der Telefonnummern von Bank, Versicherung und IT-Dienstleister. Im Schadensmoment ist keine Zeit, sie erst zu suchen.

Fazit: Prozesse schlagen Bauchgefühl

Deepfake-Betrug lässt sich nicht durch besseres Hinhören abwehren, weil die Fälschungen zu gut geworden sind und weiter besser werden. Der Angriff zielt auf Vertrauen und Zeitdruck, nicht auf eine technische Lücke. Was zuverlässig schützt, ist ein einfacher, verbindlicher Prozess: Rückruf über bekannte Kanäle, Vier-Augen-Prinzip ab einer Betragsgrenze, ein Codewort für Ausnahmen und eine Kultur, in der Nachfragen erwünscht ist.

Das Gute daran: Diese Maßnahmen kosten fast nichts und schützen zugleich vor klassischem CEO-Fraud, Rechnungsmanipulation und geänderten Bankverbindungen. Sie sind reine Organisation, kein Produkt.

ITCC unterstützt kleine und mittlere Unternehmen dabei, einen praxistauglichen Freigabe- und Verifizierungsprozess aufzusetzen, den technischen Basisschutz rund um E-Mail, Konten und Berechtigungen sauber einzurichten und die Belegschaft für diese Angriffe zu sensibilisieren. Wenn Sie wissen möchten, wo Ihr Betrieb heute steht und welche zwei, drei Schritte den größten Unterschied machen, sprechen Sie uns an.