Ein Bild wird mit ChatGPT erstellt, heruntergeladen und auf Facebook veröffentlicht. Kurz darauf erscheint ein Hinweis auf den Einsatz künstlicher Intelligenz. Doch woher weiß Facebook, wie das Bild entstanden ist?
Eine wichtige Erklärung sind maschinenlesbare Herkunftshinweise, die ein Bild mitbringen kann. Dabei muss man zwischen zusätzlichen Informationen in der Datei und einem unsichtbaren Wasserzeichen im Bildinhalt unterscheiden.
Wie Facebook auf den KI-Ursprung aufmerksam wird
Meta, der Betreiber von Facebook und Instagram, beschreibt ausdrücklich die Auswertung standardisierter KI-Hinweise. Dazu gehören Informationen nach den Standards C2PA und IPTC. Meta nennt dabei auch OpenAI als einen der Anbieter, deren entsprechend gekennzeichnete Bilder erkannt werden können. Facebook muss daher nicht allein aus Händen, Gesichtern oder anderen sichtbaren Bilddetails auf einen KI-Ursprung schließen. about.fb.com
Außerdem können Nutzer selbst angeben, dass ein Inhalt mit KI entstanden ist. Eine Kennzeichnung kann somit unterschiedliche Auslöser haben. Der Facebook-Hinweis allein verrät noch nicht, welcher konkrete Marker in der hochgeladenen Datei gefunden wurde. Meta erläutert, dass seine Kennzeichnung auf branchenüblichen Signalen oder einer entsprechenden Angabe des Nutzers beruhen kann. about.fb.com
Welche Marker verwendet ChatGPT bei Bildern?
Für unterstützte Bilder aus OpenAI-Werkzeugen sind zwei unterschiedliche Herkunftssignale dokumentiert: C2PA Content Credentials und SynthID.
Ob sie bei einer bestimmten Datei nachweisbar sind, hängt unter anderem von der Bildausgabe und ihrer späteren Verarbeitung ab. Auch ältere Erzeugungsmodelle und Dateien aus der Zeit vor Einführung der jeweiligen Signale müssen berücksichtigt werden. OpenAI API
1. C2PA: ein digital signierter Herkunftsnachweis
C2PA steht für „Coalition for Content Provenance and Authenticity“. Solche Content Credentials können Angaben zum verwendeten Werkzeug, zur KI-Beteiligung und zur Bearbeitung enthalten.
Ein sogenanntes Manifest enthält die kryptografisch signierten Herkunftsinformationen. Prüfprogramme können Signatur und Bildzuordnung kontrollieren. Ein frei eingetippter Kommentar „mit ChatGPT erstellt“ ist daher etwas anderes als ein überprüfbarer C2PA-Nachweis. spec.c2pa.org
2. SynthID: ein unsichtbares Wasserzeichen im Bildinhalt
SynthID wurde von Google DeepMind entwickelt. Bei Bildern wird ein für Menschen unsichtbares Signal direkt in die Pixel beziehungsweise Bilddaten eingebettet. Ein geeigneter Detektor kann nach diesem Signal suchen. Es handelt sich weder um einen sichtbaren Schriftzug noch um ein normales Textfeld in den Dateieigenschaften.
Der Unterschied ist entscheidend: Während Metadaten als zusätzliche Informationen mitgeführt werden, ist das SynthID-Signal Bestandteil des Bildinhalts. Google beschreibt das Verfahren als widerstandsfähig gegenüber verschiedenen üblichen Veränderungen, beispielsweise Farbkorrekturen und verlustbehaftetem Speichern. Unzerstörbar ist es jedoch nicht. Google DeepMind
Wo genau befinden sich die Marker in der Datei?
Für eingebettete C2PA-Nachweise legt das Dateiformat fest, in welchem Bereich die Herkunftsdaten gespeichert werden:
| Marker und Dateiformat | Speicherort |
|---|---|
| C2PA in PNG | In einem besonderen Datenblock, dem caBX-Chunk. |
| C2PA in JPEG/JPG | In einem oder mehreren APP11-Segmenten. |
| C2PA in WebP | In einem C2PA-Chunk des RIFF-Dateicontainers. |
| SynthID in unterstützten Bildern | Im Bildinhalt selbst, nicht in einem separaten Metadatenfeld. |
Diese C2PA-Speicherorte beschreibt der technische Standard. Ob ein bestimmter Export tatsächlich einen Nachweis enthält, muss gesondert geprüft werden. spec.c2pa.org
C2PA ist kein gewöhnliches EXIF-Kommentarfeld. Ein Blick auf die üblichen Fotoeigenschaften genügt zur Prüfung nicht.
Warum ein erneutes Speichern die Herkunft nicht automatisch unsichtbar macht
Beim Bearbeiten, Konvertieren oder Weitergeben einer Datei können Metadaten verloren gehen. Ein SynthID-Wasserzeichen kann bestimmte Veränderungen dagegen überstehen, weil es zum Bildinhalt gehört. Deshalb lässt sich aus fehlenden Herkunftsmetadaten nicht ableiten, dass auch kein Wasserzeichen vorhanden ist. OpenAI API
Auch das Umbenennen einer Datei verändert nur ihren Namen. Aus ChatGPT-Bild.png wird durch den Namen Urlaubsfoto.png keine andere Bilddatei mit einer anderen Entstehungsgeschichte.
Prüft Facebook auch das SynthID-Wasserzeichen?
Die dokumentierte Verwendung von SynthID durch OpenAI ist kein Beleg dafür, dass Facebook bei jedem Upload genau dieses Wasserzeichen auswertet.
Meta bestätigt die Nutzung standardisierter Herkunftssignale und beschreibt zudem Arbeiten an Verfahren zur Erkennung von KI-Bildern ohne solche Marker. Welche Kombination beim einzelnen Upload zum Einsatz kommt, lässt sich aus diesen allgemeinen Angaben nicht zuverlässig bestimmen. about.fb.com
Die sachlich belegbare Antwort lautet daher: Facebook kann einen KI-Hinweis aufgrund mitgelieferter Herkunftsinformationen anzeigen. Die Behauptung, Facebook erkenne jedes ChatGPT-Bild sicher an einem bestimmten geheimen Pixelcode, geht über die veröffentlichten Informationen hinaus.
Bedeutet die Kennzeichnung, dass das ganze Bild künstlich ist?
Eine KI-Kennzeichnung muss im Zusammenhang mit der Bearbeitung betrachtet werden. Meta hat selbst beschrieben, dass auch kleinere KI-Retuschen technische Herkunftshinweise auslösen konnten. Das führte zu Kennzeichnungen, die bei Nutzern den Eindruck einer vollständigen KI-Erzeugung erweckten.
Meta änderte deshalb seine Kennzeichnung und kündigte eine unterschiedliche Darstellung für erkannte KI-Erzeugung und bloße KI-Bearbeitung an. Ein echtes Foto mit einer KI-Retusche und ein vollständig generiertes Bild können beide KI-Beteiligung aufweisen, obwohl sie sehr unterschiedlich entstanden sind. about.fb.com
Wie lässt sich ein eigenes Bild überprüfen?
OpenAI verweist in seiner Dokumentation auf das öffentliche Prüfwerkzeug OpenAI Verify. Dort lässt sich eine unterstützte Bilddatei auf OpenAI-Herkunftssignale untersuchen. Die Prüfung berücksichtigt C2PA und SynthID.
Ein Ergebnis ohne erkannten Marker beweist jedoch keine menschliche Urheberschaft. Signale können fehlen, durch Veränderungen beeinträchtigt sein oder bei einer älteren Ausgabe noch nicht vorhanden gewesen sein. Außerdem ist die OpenAI-Prüfung kein universeller Detektor für sämtliche KI-Bildgeneratoren.