Deepfakes entstehen durch generative neuronale Netze, die aus vorhandenem Bild- oder Tonmaterial einer Zielperson ein Modell ihrer Mimik, Stimme oder Sprechweise lernen und dieses Modell anschlie\u00dfend auf neues Material \u00fcbertragen. Je mehr Trainingsmaterial \u00f6ffentlich verf\u00fcgbar ist \u2013 etwa aus Interviews, Konferenzvideos oder Social-Media-Auftritten \u2013, desto \u00fcberzeugender wirkt die F\u00e4lschung; Personen des \u00f6ffentlichen Lebens und F\u00fchrungskr\u00e4fte mit hoher medialer Pr\u00e4senz sind dadurch besonders exponiert. Die KI-Verordnung (EU) 2024\/1689 erfasst solche Inhalte rechtlich als KI-erzeugte oder KI-manipulierte Bild-, Ton- oder Videoinhalte und verpflichtet Betreiber nach Art. 50(4) unter bestimmten Voraussetzungen zur Offenlegung<\/strong>.<\/p>\n F\u00fcr Versicherer versch\u00e4rft die Technik das Risiko beim CEO-Fraud: Eine gef\u00e4lschte Sprachnachricht oder ein kurzer Videoanruf einer vermeintlichen F\u00fchrungskraft kann eine \u00dcberweisung im Schadenfall oder eine \u00c4nderung hinterlegter Auszahlungsdaten glaubw\u00fcrdiger wirken lassen als eine reine Text-E-Mail. Mitarbeiter der Finanzabteilung, der Schadenregulierung oder des Kundenservice mit Zugang zu Policen- und Zahlungsdaten geraten dadurch st\u00e4rker in den Fokus, weil das gesprochene oder gefilmte Wort traditionell als schwerer f\u00e4lschbar galt. Frei verf\u00fcgbare Anwendungen senken zugleich die Angriffskosten<\/strong>, weil die Erstellung solcher F\u00e4lschungen nicht mehr auf spezialisierte Angreifer beschr\u00e4nkt bleibt.<\/p>\n Ein Deepfake entsteht in drei Schritten<\/strong>: Sammeln von Material der Zielperson, Training eines Modells auf deren Merkmale und \u00dcbertragung dieses Modells auf neues Bild- oder Tonmaterial. Das Material stammt aus \u00f6ffentlich zug\u00e4nglichen Quellen, etwa Interviews, Konferenzmitschnitten oder Sprachnachrichten; f\u00fcr eine Stimme gen\u00fcgt weniger Ausgangsmaterial als f\u00fcr ein Gesicht in Bewegung.<\/p>\n F\u00fcr den Angriff z\u00e4hlt danach nicht die Perfektion der F\u00e4lschung, sondern der Kanal, \u00fcber den sie ankommt. Eine Sprachnachricht in einem Messenger wird selten technisch gepr\u00fcft, ein kurzer Videoanruf mit schlechter Verbindung erst recht nicht. Die F\u00e4lschung muss deshalb nur so lange tragen, wie die angewiesene Handlung dauert<\/strong>. Bei der Abwehr setzt das dort an, wo die Handlung ausgel\u00f6st wird: bei der Freigabe, nicht bei der Erkennung des Videos. F\u00fcr Versicherer verschiebt sich die Pr\u00fcfung damit von der Aufnahme zum Ablauf: Eine Auszahlung, die eine zweite Best\u00e4tigung \u00fcber einen bekannten Kanal<\/strong> verlangt, h\u00e4lt auch dann, wenn Stimme und Bild \u00fcberzeugen.<\/p>\nWie funktioniert ein Deepfake?<\/h2>\n
Deepfake vs. KI-generierte Bilder<\/h2>\n