KI-Bilder und die schwierige Frage nach dem Echten

Es ist so weit. Wir haben den Punkt erreicht, an dem das menschliche Auge nicht mehr unterscheiden kann, ob ein Bild aus einer echten Kamera stammt oder von einem KI System generiert wurde.

oder dies hier, auch von einer KI generiert.

Es ist soweit. Zumindest für mich.

Noch vor nicht allzu langer Zeit konnte man KI-generierte Bilder meistens recht schnell erkennen. Hände mit sechs Fingern, merkwürdige Schrift, falsche Schatten oder ein Hintergrund, der bei genauerem Hinsehen irgendwie keinen Sinn ergab. Man musste nur ein bisschen suchen, dann fand man den Fehler. Diese Zeiten sind wohl vorbei.

Natürlich ist nicht jedes KI-Bild perfekt und mit etwas Erfahrung findet man auch heute noch verdächtige Stellen. Aber bei wirklich guten KI-Bildern reicht das bloße Hinsehen inzwischen oft nicht mehr aus. Eine Untersuchung des CISPA Helmholtz-Zentrums für Informationssicherheit kam bereits zu dem Ergebnis, dass Menschen KI-generierte Medien nur noch schwer zuverlässig erkennen. Die Mehrheit der Versuchspersonen hielt dabei künstlich erzeugte Inhalte für menschengemacht.

Und seit dieser Untersuchung hat sich die Technik nicht gerade verschlechtert – ganz im Gegenteil.

Schön, perfekt und nie passiert

Ein Sonnenuntergang über einem Bergsee. Perfektes Licht, leichter Nebel über dem Wasser und zufällig fliegt noch ein Adler durch das Bild. Sieht großartig aus. Vielleicht sogar besser als alles, was man selbst nach mehreren Reisen, langen Wanderungen und vielen Stunden Warten fotografieren würde.

Nur: Dieser Sonnenuntergang hat möglicherweise nie stattgefunden. Der See existiert nicht, der Berg auch nicht und der Adler ist ohnehin nie geflogen.

Ist das schlimm?

Als Kunst oder Illustration nicht unbedingt. Auch eine gemalte Landschaft muss nicht existieren. Problematisch wird es erst dann, wenn ein KI-Bild wie ein echtes Foto präsentiert wird. Wenn also aus einer erfundenen Bildwelt scheinbar eine dokumentierte Wirklichkeit wird.

Ein Foto hatte bisher immer eine besondere Eigenschaft: Irgendjemand musste zumindest einmal vor dem Motiv gestanden haben. Das Licht traf durch ein Objektiv auf einen Sensor und hielt einen realen Moment fest. Das Foto konnte bearbeitet, beschnitten oder farblich verändert sein, aber der Ausgangspunkt war etwas, das tatsächlich existierte.

Bei einem KI-Bild ist das nicht notwendig. Es sieht vielleicht wie ein Foto aus, ist aber keines.

Sehen reicht nicht mehr

Das eigentliche Problem ist daher nicht, dass KI schöne Bilder erzeugen kann. Das darf sie und ich finde viele davon durchaus beeindruckend. Das Problem ist, dass wir dem Bild selbst seine Entstehung nicht mehr ansehen können.

Wir können zwar vermuten, dass ein Bild künstlich erzeugt wurde. Vielleicht wirkt die Haut zu glatt, das Licht zu perfekt oder die gesamte Szene einfach ein wenig zu schön. Nur ein Beweis ist das nicht. Umgekehrt kann auch ein ungewöhnliches echtes Foto schnell unter KI-Verdacht geraten. Das ist für Fotografen eine ziemlich merkwürdige Situation. Früher musste man zeigen, dass man ein gutes Foto gemacht hat. Zukünftig muss man vielleicht zusätzlich beweisen, dass man es überhaupt gemacht hat. Naja, schöner wird die neue Bilderwelt dadurch nicht gerade.

Der Wert des echten Fotos

In meinem Beitrag „Fotografie vs. KI-Bilder: Gedanken über den unersetzlichen Wert des Echten“ habe ich bereits darüber geschrieben, warum ich trotz KI weiterhin fotografiere. Daran hat sich nichts geändert. Beim Fotografieren geht es für mich nicht nur um das fertige Bild. Es geht auch um das Beobachten, Entdecken, Warten und manchmal schlicht um das Glück, im richtigen Moment am richtigen Ort zu sein. Wer eine Biene fotografiert, muss sich mit der Biene beschäftigen. Wer einen Vogel im Flug erwischen will, muss sein Verhalten zumindest ein wenig kennen. Eine KI benötigt davon nichts. Sie benötigt nur eine Anweisung. Das Ergebnis kann optisch gleichwertig oder sogar schöner sein. Aber der Weg dorthin ist ein vollkommen anderer. Genau dieser Unterschied wird zukünftig vermutlich wichtiger werden – vorausgesetzt, man kann ihn noch nachweisen.

Eine Art Gütesiegel für echte Fotos

Genau an diesem Punkt setzt eine interessante Seite an: Lumethic.

Lumethic versucht nicht nur, anhand eines fertigen JPEGs zu erraten, ob es von einer KI erzeugt wurde. Stattdessen soll der Fotograf nachweisen können, dass sein Bild tatsächlich mit einer Kamera aufgenommen wurde.

Dafür werden die originale RAW-Datei der Kamera und das daraus entwickelte JPEG oder TIFF miteinander verglichen. Nach Angaben von Lumethic werden dabei unter anderem Sensoreigenschaften, Bildstruktur, Metadaten und mögliche Inhaltsveränderungen geprüft. Normale Bearbeitungen wie Belichtung, Farbe, Zuschnitt und Retusche sollen möglich bleiben. Es geht also nicht darum, dass ein Foto vollkommen unbearbeitet sein muss. Entscheidend ist, dass aus der Bearbeitung kein neues, inhaltlich manipuliertes Bild entstanden ist.

Nach erfolgreicher Prüfung erhält das Bild eine kryptografische C2PA-Signatur. Dazu gibt es einen Bericht und eine teilbare Internetadresse, unter der die Verifizierung von anderen überprüft werden kann. Im Prinzip ist das eine Art digitales Gütesiegel: Dieses Foto stammt von einer Kamera und das fertige Bild passt zur vorhandenen RAW-Datei.

Ein sinnvoller Anfang – aber keine vollständige Lösung

Natürlich macht auch ein solches Zertifikat ein Foto nicht automatisch gut. Ein langweiliges Foto bleibt langweilig, selbst wenn seine Echtheit zweifelsfrei bestätigt wurde. Und eine Signatur beweist zunächst die Herkunft des Bildes, nicht den künstlerischen Wert. Trotzdem halte ich diesen Weg für sinnvoll und notwendig. Besonders interessant ist eine solche Verifizierung bei Pressebildern, wissenschaftlichen Aufnahmen oder beim Verkauf hochwertiger Fotografien werden. Überall dort, wo es nicht nur um ein schönes Bild geht, sondern auch um die Frage: Hat das wirklich so stattgefunden?

Voraussetzung für die vollständige Prüfung ist allerdings eine vorhandene RAW-Datei einer unterstützten Kamera. Wer nur in JPEG fotografiert oder seine ursprünglichen Dateien längst gelöscht hat, kann diesen Nachweis nicht in gleicher Form erbringen. Das spricht übrigens dafür, die RAW-Dateien zukünftig noch sorgfältiger aufzubewahren. Festplattenspeicher ist im Vergleich zum möglichen Verlust eines Herkunftsnachweises ziemlich billig.

Wie könnte und muss es weitergehen?

Auf Dauer werden einzelne Prüfseiten allein vermutlich nicht ausreichen. Kameras müssten Bilder möglichst schon während der Aufnahme eindeutig signieren. Bearbeitungsprogramme müssten anschließend dokumentieren, was an einem Foto verändert wurde. Webseiten, Bildagenturen und soziale Netzwerke müssten diese Informationen beim Hochladen erhalten und für den Betrachter einfach sichtbar machen. Kein technisches Kauderwelsch irgendwo tief in den Metadaten, sondern ein verständlicher Hinweis:

Echte Kameraaufnahme – Herkunft geprüft.

Oder eben:

Mit künstlicher Intelligenz erzeugt oder inhaltlich verändert.

KI-Bilder sollten dabei nicht verboten oder grundsätzlich abgewertet werden. Sie sollten nur klar als solche erkennbar sein. Ein Gemälde wird schließlich auch nicht schlechter, weil darunter „Ölgemälde“ steht. Warum sollte also ein KI-Bild schlechter werden, nur weil man ehrlich dazuschreibt, wie es entstanden ist?

Die alleinige Suche nach typischen KI-Fehlern wird jedenfalls nicht reichen. Neue Bildgeneratoren beseitigen genau die Fehler, an denen ältere Systeme erkannt wurden. Das wird wohl ein ständiges Wettrennen bleiben. Herkunftsnachweise erscheinen mir deshalb sinnvoller als der dauernde Versuch, ein fertiges Bild nachträglich als echt oder falsch zu entlarven.

Leider notwendig

Eigentlich ist es schon etwas verrückt.

Das echte Foto muss zukünftig möglicherweise beweisen, dass es echt ist. Das künstlich erzeugte Bild muss zunächst überhaupt nichts beweisen. Es erscheint auf dem Bildschirm und sieht überzeugend aus. Fertig. Für Fotografen könnte ein überprüfbarer Echtheitsnachweis deshalb einmal so selbstverständlich werden wie heute die EXIF-Daten oder die Speicherung der RAW-Datei. Nicht bei jedem Urlaubsfoto und nicht bei jedem Schnappschuss. Aber bei Bildern, deren tatsächliche Entstehung wichtig ist.

Ich hätte nicht gedacht, dass Fotografen einmal ein digitales Gütesiegel benötigen, um zu zeigen: Ich war wirklich dort. Das Motiv existierte und dieser Moment hat tatsächlich stattgefunden. Aber genau darauf läuft es wohl hinaus.

Leider.