KI-generierte Bilder sind visuelle Inhalte, die generative Modelle auf Grundlage menschlicher Eingaben oder Parameter erzeugen; je nach Verfahren können dazu etwa Text-Prompts, Referenzbilder oder andere Steuerinformationen als Vorgabe dienen.
Auf einen Blick
Nach aktuellem Stand der Technik lässt sich die Grenze zwischen synthetischen und realen Bildern mit bloßem Auge nicht zuverlässig erkennen.
Weil sich die Bilder in Sekunden ohne Fotoshooting erzeugen lassen, ermöglicht die Technik Angriffe in größerem Maßstab als manuelle Bildbearbeitung.
Als Gegenmaßnahme gilt nach aktuellem Stand der Technik die umgekehrte Bildersuche bei einem verdächtigen Profilbild, ergänzt um die Rückfrage über einen zweiten Kanal; Artefakte wie asymmetrische Ohren verschwinden mit neueren Modellen und taugen allein nicht als Nachweis.
Was sind KI-generierte Bilder?
KI-generierte Bilder entstehen, wenn ein generatives Modell aus Millionen realer Fotos statistische Muster für Gesichter, Texturen und Lichtverhältnisse lernt und daraus neue, nie fotografierte Motive zusammensetzt. Diffusionsmodelle starten von zufälligem Bildrauschen und verfeinern es schrittweise zu einem Motiv; Generative Adversarial Networks nutzen dagegen zwei konkurrierende Netzwerke, von denen eines Bilder erzeugt und das andere deren Echtheit bewertet. Werkzeuge dafür sind frei zugänglich und benötigen weder ein Fotostudio noch die Vorlage einer realen Person. Der Oberbegriff synthetische Medien und die Abkürzung AIGC fassen KI-generierte Bilder mit KI-generiertem Text, Audio oder Video zusammen. KI-generierte Bilder und Deepfakes lassen sich nicht allein über das Ausgangsmaterial trennen: Deepfake-Verfahren können vorhandenes Material manipulieren, nach BSI aber auch vollständig neue, in der Realität nicht existierende Gesichtsbilder synthetisieren.
Ein täuschend echtes, KI-generiertes Profilbild kann einem Fake-Profil oder einer gefälschten Bewerbung eine Glaubwürdigkeit verleihen, die eine reine Textnachricht nicht erreicht. Weil sich die Erstellung beliebig wiederholen lässt, kann ein Angreifer mehrere Varianten testen, bis eine Version die interne Bildprüfung unauffällig passiert. Sicherheitsteams bei Versicherern stufen die Technik deshalb nicht als reines Bildproblem ein, sondern als Beschleuniger für Identitätsbetrug, weil sich erzeugte Bilder nach aktuellem Stand der Technik kaum noch von echtem Material unterscheiden lassen.
Wie funktionieren KI-generierte Bilder?
KI-generierte Bilder entstehen, wenn ein generatives Modell aus großen Mengen realer Fotos statistische Zusammenhänge lernt und daraus neue Motive erzeugt, die es so nicht gegeben hat. Die Steuerung übernimmt eine Eingabe: ein Text-Prompt, ein Referenzbild oder beides zusammen; über Wiederholung und veränderte Eingaben entstehen weitere Varianten desselben Motivs.
Für einen Angriff zählt weniger die Bildqualität als die Wiederholbarkeit. Wer ein Profilbild braucht, das keiner umgekehrten Bildersuche standhält, erzeugt es in Sekunden und tauscht es aus, sobald es auffällt. Genau daran scheitert die klassische Gegenprüfung: Ein gestohlenes Foto ist im Netz auffindbar, ein erzeugtes nicht. Übrig bleiben Prüfungen, die nicht am Bild ansetzen, sondern an der Identität dahinter, etwa an überprüfbaren Stationen im Lebenslauf oder an einer Bestätigung über einen zweiten Kanal. Für die Prüfung heißt das, dass die Frage nach dem Bild zur Frage nach der Person wird: Ein Profil mit erzeugtem Foto lässt sich nur über nachprüfbare Angaben zum Werdegang oder über ein Gespräch einordnen.
KI-generierte Bilder vs. bearbeitete Fotos
| Merkmal | KI-generiertes Bild | Bearbeitetes Foto |
|---|---|---|
| Ausgangspunkt | Eingabe an ein Modell, kein Aufnahmevorgang | eine reale Aufnahme |
| Abgebildete Person | kann vollständig erfunden sein | existiert, ist aber verändert dargestellt |
| Auffindbarkeit im Netz | das Motiv gibt es nur einmal, in der Bildersuche fehlt es | das Original ist in der Bildersuche auffindbar |
| Aufwand für Varianten | eine neue Eingabe genügt | jede Variante ist Handarbeit |
Woran erkenne ich KI-generierte Bilder?
| Signal | Was sich prüfen lässt |
|---|---|
| Umgekehrte Bildersuche liefert keinen Treffer | Bei einem echten Profilfoto ist ein Fund die Regel; ein Nulltreffer allein beweist nichts, ist aber ein Anlass zur Nachfrage |
| Details an Rändern wirken unstimmig | Ohren, Schmuck, Brillenbügel, Schrift im Hintergrund und Spiegelungen ansehen |
| Gesicht wirkt makellos, Hintergrund beliebig | Auf Beleuchtung achten: Passen Schattenrichtung und Lichtfarbe zwischen Person und Umgebung? |
| Mehrere Profile mit ähnlicher Bildsprache | Bilder nebeneinander legen: gleiche Perspektive und gleicher Bildausschnitt deuten auf dieselbe Quelle |
| Bild ohne Kontext, nur Porträt | Nach weiteren Aufnahmen derselben Person in anderen Situationen fragen |
Schutz im Ernstfall
Vorbeugen
- Mitarbeitende, die Bewerbungen und Schadenmeldungen prüfen, gezielt zu KI-generierten Bildern in eingereichten Unterlagen schulen
- Automatisierte Detektion KI-generierter Bilder nur ergänzend zur manuellen Prüfung einsetzen, da sie oft nur eingeschränkt zuverlässig ist
- Biometrische Anmeldeverfahren nur mit Lebenderkennung einsetzen, damit ein KI-generiertes Foto sie nicht überlistet
Was tun im Ernstfall
- Bei einem Bewerbungsprofil die Unterlagen nicht öffnen, den Kontakt über die Plattform melden und den Vorgang als offen kennzeichnen
- Bei einer eingereichten Schadenmeldung den Fall zur weiteren Prüfung markieren, bevor eine Zahlung freigegeben wird
- Den Vorfall melden statt nur einzeln abzulehnen, da dieselbe Quelle in Minuten ein weiteres Bild erzeugt
- Bild, Zeitpunkt und Übermittlungsweg sichern, damit sich ein Muster über mehrere Vorgänge erkennen lässt
Beispiele aus der Praxis
- Angreifer erstellen mit KI-generierten Profilfotos gefälschte LinkedIn-Profile, um Mitarbeiter von Unternehmen gezielt mit Spear-Phishing-Nachrichten zu kontaktieren.
- In Desinformationskampagnen werden KI-generierte Bilder vermeintlicher Nachrichtenereignisse in sozialen Netzwerken verbreitet, um politische Stimmung zu manipulieren.
- Cyberkriminelle nutzen KI-generierte Ausweisdokumente, um Identitätsverifikationsprozesse bei Online-Diensten zu umgehen.
- Ein Betrüger reicht bei einem Versicherer ein KI-generiertes Bild eines beschädigten Fahrzeugs ein, um eine Auszahlung für einen nie eingetretenen Unfall zu erwirken.
