Das Medium selbst prüfen statt nur dem Plattform-Label vertrauen
Viele Apps zeigen heute automatisch einen Hinweis wie KI-generiert an. Das ist gut gemeint, taugt aber nicht als alleinige Wahrheit. Solche Labels hängen davon ab, dass ein Hersteller sie korrekt setzt und dass sie beim Hochladen, Komprimieren und erneuten Teilen erhalten bleiben. In der Praxis verschwinden sie oft, oder sie tauchen gar nicht erst auf, weil das Bild über Umwege ins Netz gelangt ist.
kioderecht.de setzt deshalb eine Ebene tiefer an. Wir analysieren die Datei selbst und suchen nach Spuren, die direkt im Bild oder Video stecken. So bist du nicht darauf angewiesen, dass eine Plattform ehrlich und vollständig kennzeichnet. Die eigentliche Prüfung ruht bei uns auf drei voneinander unabhängigen Säulen, die wir im Folgenden einzeln beschreiben.
Säule 1: Herkunftsnachweise nach dem C2PA-Standard
Die erste und stärkste Säule sind kryptografisch signierte Herkunftsnachweise nach dem offenen C2PA-Standard. Vereinfacht gesagt ist das eine fälschungssichere Historie, die direkt in die Datei eingebettet sein kann: Womit wurde das Bild aufgenommen oder erzeugt, wann, und welche Bearbeitungsschritte hat es danach durchlaufen. Weil diese Angaben kryptografisch signiert sind, lassen sie sich nicht unbemerkt verändern.
Der Vorteil: Wo ein gültiger C2PA-Nachweis vorliegt, können wir Echtheit oder Bearbeitung mit hoher Sicherheit belegen. Der Haken: Solche Nachweise sind nur vorhanden, wenn die Kamera oder die verwendete Software sie überhaupt eingebettet hat. Viele Geräte und Programme tun das bislang nicht, und beim Teilen über soziale Netzwerke gehen die Daten oft verloren. Fehlt der Nachweis, beweist das also nichts. Es bedeutet nur, dass wir diese eine starke Informationsquelle nicht nutzen können und auf die anderen Säulen angewiesen sind.
Säule 2: Digitale Wasserzeichen wie SynthID
Die zweite Säule sind digitale Wasserzeichen, die manche KI-Generatoren beim Erzeugen eines Bildes oder Videos einbetten. Ein bekanntes Beispiel ist SynthID von Google DeepMind. Solche Wasserzeichen sind für das menschliche Auge unsichtbar, lassen sich aber technisch auslesen und können ein deutlicher Hinweis darauf sein, dass ein Medium von einem bestimmten KI-System stammt.
Auch hier gilt eine wichtige Einschränkung, die wir nicht verschweigen: Nicht jeder KI-Generator setzt ein Wasserzeichen, und die verschiedenen Verfahren sind untereinander nicht kompatibel. Das Fehlen eines Wasserzeichens ist deshalb kein Echtheitsbeweis. Ein Bild kann KI-generiert sein, ohne irgendein Wasserzeichen zu tragen. Findet sich dagegen ein gültiges Wasserzeichen, ist das ein starkes Signal in Richtung KI-Erzeugung.
Säule 3: Ein Ensemble forensischer KI-Modelle
Wenn weder ein Herkunftsnachweis noch ein Wasserzeichen vorhanden ist, kommt die dritte Säule zum Tragen: ein Ensemble aus mehreren forensischen KI-Modellen. Diese Modelle sind darauf trainiert, statistische Spuren zu erkennen, die bei der KI-Erzeugung typischerweise entstehen, etwa Auffälligkeiten in feinen Texturen, in Lichtverläufen, an Kanten oder in der Rauschstruktur, die ein echtes Foto so nicht aufweist.
Wir setzen bewusst nicht auf ein einzelnes Modell, sondern auf mehrere Modellfamilien für Bild und für Video. Der Grund ist einfach: Unterschiedliche Modelle haben unterschiedliche Stärken und Schwächen. Stimmen mehrere unabhängige Modelle in ihrer Einschätzung überein, ist das Ergebnis belastbarer, als wenn nur ein Modell ein Urteil fällt. Aus diesen Signalen und den Ergebnissen der ersten beiden Säulen leiten wir am Ende eine Gesamtwahrscheinlichkeit ab.
Das Ergebnis: Wahrscheinlichkeitsklassen und das Prinzip Abstention-first
Aus allen Signalen bilden wir ein Ergebnis, das wir nicht als nacktes Ja oder Nein ausgeben, sondern als Wahrscheinlichkeit mit klaren Klassen. So siehst du nicht nur das Urteil, sondern auch, wie sicher es ist.
Besonders wichtig ist uns dabei das Prinzip Abstention-first. Reicht die Datenlage für ein verlässliches Urteil nicht aus, geben wir bewusst nicht entscheidbar aus, statt zu raten. Das passiert zum Beispiel bei stark komprimierten Reposts, bei denen viele forensische Spuren bereits zerstört sind. Wir halten es für verantwortungsvoller, ehrlich Unsicherheit einzuräumen, als jemanden fälschlich zu beschuldigen oder eine Fälschung fälschlich als echt durchgehen zu lassen.
- verifiziert echt: durch einen gültigen Herkunftsnachweis belegt
- wahrscheinlich echt: forensische Signale sprechen überwiegend für ein echtes Medium
- KI-bearbeitet: das Medium wurde nachträglich mit KI verändert
- KI-generiert: das Medium wurde mit hoher Wahrscheinlichkeit von einer KI erzeugt
- nicht entscheidbar: die Datenlage reicht für ein belastbares Urteil nicht aus
Grenzen, die wir offen benennen
Keine Technik der Welt erkennt KI-Inhalte mit absoluter Sicherheit, und das soll auch unsere Methodik nicht behaupten. Mehrere Faktoren erschweren eine forensische Prüfung oder machen sie unmöglich. Wir nennen sie hier bewusst, damit du unsere Ergebnisse richtig einordnen kannst.
Kompression und nachträgliche Bearbeitung zerstören feine Spuren, auf die die forensischen Modelle angewiesen sind. Video ist dabei in der Regel schwieriger zu beurteilen als ein Einzelbild, weil bei der Videokompression noch mehr Details verloren gehen. Hinzu kommt, dass neue Generatoren laufend besser werden und immer weniger verräterische Spuren hinterlassen, was die Erkennung zu einem ständigen Wettlauf macht. Und noch einmal der zentrale Punkt: Das Fehlen eines Wasserzeichens oder eines Herkunftsnachweises beweist niemals Echtheit. Es bedeutet nur, dass uns starke Belege fehlen und das Urteil entsprechend vorsichtiger ausfällt.
Datenschutz: Was mit deinem Medium passiert
Damit du unsere Prüfung ohne Bedenken nutzen kannst, gehen wir sparsam mit deinen Daten um. Das Bild oder Video, das du zur Prüfung hochlädst, wird ausschließlich für die Analyse verarbeitet und danach wieder gelöscht. Wir bauen daraus keine dauerhafte Mediensammlung auf.
Dauerhaft gespeichert wird nur das Ergebnis der Prüfung sowie ein kleines Vorschaubild, damit du deine Anfrage später wiedererkennst. Das eigentliche Medium in voller Auflösung verbleibt nicht bei uns. So bleibt nachvollziehbar, was du geprüft hast, ohne dass wir mehr von deinen Inhalten aufbewahren als nötig.