Deepfake-Technologien können heute Stimmen und Bilder in Echtzeit so realistisch wie noch nie fälschen. Opfer eines solchen Deepfake-Zoomcalls, bei dem alle Teilnehmendem – inklusive seinem Chef – KI-generiert waren, wurde der Finanzdirektor eines Unternehmens in Singapur 2025. Er kam mit einem Schrecken davon: Die Behörden konnten den von ihm überwiesenen Betrag von knapp 500.000 US-Dollar später sichern.
Allein in Singapur verzeichnete die dortige Cyber Security Agency (CSA) im ersten Quartal 2026 einen riesigen Anstieg solcher Videobetrugsfälle. So gab es dort nur im Januar über 1.200 Fälle. Im Vorjahresmonat waren es 43. Doch das Problem ist global. Nach Prüfung von über einer Milliarde Fälle weltweit resümiert der Entrust Identity Fraud Report 2026: „Identitätsbetrug ist nicht mehr opportunistisch, sondern inzwischen industrialisiert, global organisiert und kommerziell optimiert.“ Grund genug für Fraunhofer-Forschende wie Prof. Martin Steinebach, Chef-IT-Forensiker am Fraunhofer-Institut für Sichere Informationstechnologie SIT in Darmstadt, mit Hochdruck an diesem Thema zu arbeiten.
„Videokonferenzen sind für die Deepfake-Erkennung eine Herausforderung“, weiß der Experte: „Die Bild- und Tonqualität schwankt, da die Netzqualität variiert. Weil die Datenströme komprimiert werden, gehen genau jene Bildfehler verloren, an denen frühere Erkennungsmethoden Deepfakes oft festgemacht haben.“ Hinzu kommen automatische Weichzeichnungsfilter, wechselnde Beleuchtung, Rauschen und Bewegungen im Hintergrund. Ein Detektor darf auf solche normalen Videokonferenz-Effekte nicht fälschlich reagieren.
Lokale Lösung für Echtzeiterkennung
Steinebach und sein Team aus Experten am Fraunhofer SIT und am Fraunhofer Heilbronn Forschungs- und Innovationszentrum (HNFIZ) für Cybersicherheit haben im Rahmen eines ATHENE-Forschungsprojekts eine Lösung entwickelt, die Video- und Audio-Deepfake-Erkennung kombiniert. Die KI-basierte Software soll Teilnehmenden bei sicherheitskritischen Videocalls kontinuierlich Hinweise liefern, wie wahrscheinlich ein Deepfake ist. Die Warnung erfolgt visuell: „Wenn ein Gespräch im Augenblick viele Indikatoren aufweist, gibt das System eine Wahrscheinlichkeit aus, ob es sich hier um Deepfake handeln könnte“, so der Forscher. „Dann ist aber immer noch der Mensch gefragt, der mit gezielten Rückfragen oder auch einem Rückruf auf einem anderen Kanal die Echtheit seines Gegenübers verifizieren muss.“
Die Analyse kann lokal auf einem leistungsfähigen Laptop laufen, ohne dass Bild- oder Tondaten an einen externen Server übertragen werden müssen. Damit ist sie datenschutzkonform und für Unternehmen geeignet, die vertrauliche Gespräche führen, etwa mit Vorständen, Finanzabteilungen oder externen Partnern. „Für die lokale Echtzeitanalyse unserer Lösung reicht ein Rechner mit moderner Grafikkarte und zwölf Gigabyte Grafikspeicher“, sagt Steinebach.
Interessant dürfte die Lösung auch für Anbieter von Videokonferenzsystemen sein, die sie als Plugin oder fest eingebaute Sicherheitsfunktion in Systemen wie Teams, Zoom oder vergleichbaren Unternehmenslösungen integrieren könnten. Ebenso möglich wäre eine zentrale Unternehmensinfrastruktur: ein geschützter Serverbereich, über den besonders wichtige Gespräche analysiert werden. Die genaue Form hängt vom Einsatzszenario, den vorhandenen Ressourcen und den Datenschutzanforderungen ab.
KI schlägt Signalverarbeitung
„Eine Beobachtung, die wir anfangs gemacht haben, war, dass klassische Signalverarbeitungsmethoden bei Echtzeiterkennung heute sehr schnell an ihre Grenzen kommen. Maschinelles Lernen war wesentlich schneller und effizienter“, berichtet Steinebach. Er füttert das selbstlernende System mit echten und manipulierten Audio- beziehungsweise Videodaten und es lernt, Unterschiede selbstständig zu erkennen. Im Audiobereich nutzte das Team unter anderem öffentlich verfügbare Datensätze mit rund 19.000 echten und etwa 160.000 gespooften, also manipulierten, Aufnahmen.
Entscheidend ist dabei, dass die Trainingsdaten ein realistisches Videokonferenzumfeld möglichst gut abbilden. Deshalb müssen typische Effekte, wie sie in Videokonferenzen auftreten, mit abgebildet werden: Kompression, wechselnde Qualität, Weichzeichnungsfilter. In der KI spreche man von Augmentation, erklärt Steinebach: „Man versieht das Material mit den Störungen, die im realen Betrieb auftreten, und schult das System so, dass es mit diesen umgehen kann.“ Da es sich um ein spezialisiertes Modell für eine klar umrissene Aufgabe handelt, ist das Training deutlich kleiner dimensioniert als bei großen Sprachmodellen. „Spannend war, dass die Erstellung der Deepfakes in so einem Echtzeitsystem fast zeitaufwendiger und schwieriger hinzubekommen war als die Erkennung.“
Ausblick: Praxistest von Technik und Prozess
Der Demonstrator des Fraunhofer SIT befindet sich aktuell noch in der Proof-of-Concept-Phase. Im nächsten Schritt planen die Forschenden, mit Unternehmen und Videokonferenzsystemanbietern zusammenzuarbeiten, um die Technologie zuverlässig, datenschutzfreundlich und nutzerfreundlich in reale Infrastrukturen zu integrieren. Zudem gelte es, juristische Fragen zu klären, etwa, ob Gesprächspartner der Analyse zustimmen müssen oder wie Nutzungsbedingungen eines Videokonferenzsystems eine solche Funktion abbilden.
Die weitere Entwicklung von Deepfakes sieht Martin Steinebach ambivalent. Einerseits bestehe die Gefahr, dass sich bald auch so sicherheitskritische Verfahren wie die Video-Identifizierung von Banken durch Deepfakes fälschen lassen. Andererseits können kryptographische Absicherung, zusätzliche Authentifizierung und technische Erkennungssysteme das Risiko senken. Wichtig bleibt jedoch die Kombination aus Technik und Prozess: Wenn in einer Videokonferenz plötzlich eine Überweisung gefordert wird, sollte ein zweiter, unabhängiger Kommunikationskanal genutzt werden.
