Wie man Deepfakes mit Hilfe medienforensischer Techniken erkennt

Was ist Deepfake?

Deepfake ist die Kurzform von "Deep Learning" und "Fake News". Der Begriff bezieht sich auf die Erstellung falscher Multimedia-Inhalte (Bilder, Videos, Ton). Inhalte, die keine Aufnahmen von realen Szenen oder Ereignissen sind. Früher nannte man dies Spezialeffekte oder computergenerierte Bilder. Um jedoch Neues mit Altem zu verbinden, wurde der Name geändert, um ihm einen trendigeren Anklang zu verleihen und gleichzeitig die viel gefürchtete "Künstliche Intelligenz" einzubeziehen.

Also nichts Neues unter der Sonne?

Ja, zwei kritische Punkte.

Die Werkzeuge sind demokratisiert und leicht im Internet zu finden

Äußerst komplizierte und präzise Algorithmen wurden im Labor entwickelt und sind nun als Open-Source verfügbar. David Beckhams Lippen zu bewegen, um sie mit einem Text zu synchronisieren, Barack Obama dazu zu bringen, irgendetwas zu sagen, und Standbilder zu animieren, um Marylin Monroe wieder zum Leben zu erwecken, ist jetzt für fast jeden möglich.

Und wenn es zu kompliziert ist, kann man im Internet leicht Deepfaker anheuern, die diese Aufgabe für 20 Dollar pro Video übernehmen.

Der Prozess ist vor allem nicht kollaborativ

Hollywood-Spezialeffekte haben den großen Vorteil, dass sie in einer kooperativen Umgebung produziert werden. Sensoren werden an den Körpern der Schauspieler angebracht, die gescannt wurden, um ein möglichst getreues 3D-Modell zu erhalten. Kurz gesagt, es wird alles getan, um die Postproduktion zu erleichtern.

Offensichtlich hat Wladimir Putin der Herstellung der Deepfakes, in denen er erscheint, nie zugestimmt.

Experten können bei diesen Fälschungen zwar immer noch Mängel feststellen, aber ihr Realismus verbessert sich mit hoher Geschwindigkeit. Es reicht nicht mehr aus, es zu sehen, um es zu glauben; man kann nicht mehr darauf vertrauen, was man im Internet sieht. Journalisten sind wie versteinert bei dem Gedanken, Deepfakes ohne ihr Wissen weiterzugeben, was ihre Glaubwürdigkeit zerstören würde. Einige sagen die Apokalypse in der Medienwelt voraus.

‍

Welches sind die Ermittlungsinstrumente zur Bekämpfung von Fälschungen?

Medienforensik ist die Untersuchung digitaler Inhalte: sind sie echt oder gefälscht? Wie Sherlock Holmes braucht man manchmal nur ein Vergrößerungsglas: Warum blinzelt Barack Obama in diesem Video nie? Warum sind die Ränder seiner Augen und seines Mundes unscharf, während der Rest seines Gesichts klar ist? Selbst wenn die Bearbeitungen und Spezialeffekte mit bloßem Auge nicht zu erkennen sind, können digitale Bildbearbeitungswerkzeuge für das bloße Auge unsichtbare Spuren identifizieren. Bestimmte Methoden zur Erzeugung von Deepfakes hinterlassen charakteristische Muster in den Pixelwerten oder, im Gegenteil, nicht die gleichen Spuren wie der Sensor einer Digitalkamera.

Wie weit wird die Reaktion auf die Anti-Fälschungen gehen?

Es ist ein endloses Katz- und Mausspiel, Polizei und Dieb: Wenn ich weiß, dass Ihr Forensik-Tool das Vorhandensein oder das Fehlen dieser und jener Spuren in meinen Deepfakes entdeckt, werde ich sie in mein Anti-Anti-Depfake-Tool eingeben, um sie künstlich zu entfernen/einzufügen. Und so weiter ... es sind lange Reihen von wissenschaftlichen Artikeln zu erwarten, in denen der eine die Fortschritte des anderen blockiert, der die vorherigen Ergebnisse blockiert hat und so weiter. Es wird nicht faszinierend sein (Meinung des Wissenschaftlers hier).

Wer, die Katze oder die Maus, wird am Ende gewinnen?

Das ist die Frage! Wir wissen es noch nicht, und werden wir es überhaupt jemals wissen?

Fokus auf zwei Anti-Defake-Ansätze

Lassen Sie uns zwei besondere Ansätze zur Bekämpfung von Fälschungen erläutern, die uns gefallen:

Die Suche nach dem Originalwerk

Einige Fälschungen und insbesondere Fotomontagen verwenden und verfälschen Originalinhalte. Die Manipulationen sind offensichtlich, wenn wir Originalinhalte und manipulierte Inhalte vor uns haben. Daher die Idee, Originalinhalte mit einer Suchmaschine wie Google Image zu finden.

Ja, aber wie kann ich bescheinigen, dass ich das Originalbild richtig gefunden habe?

Hier dient das unsichtbare Wasserzeichen als Siegel, das die Originalität des Inhalts bescheinigt. Wer erstellt sie und wann? Es wird von vertrauenswürdigen und akkreditierten Nachrichtenagenturen (Associated Press, Reuters, NY Times usw.) nach gründlicher Prüfung des Inhalts erstellt. Andere bieten zertifizierte authentische Bilddatenbanken an. Wenn man dann noch die Idee eines dezentralen Registers hinzufügt, taucht ein weiteres Schlagwort auf: Blockchain.

Aktive Forensik

Die Wiederherstellung der Entstehungskette eines Bildes vom Durchgang des Lichts durch das Objektiv einer Kamera bis zur endgültigen jpg-Datei ist kompliziert.

Zumal jeder Hersteller sein eigenes Kochrezept hat, jedes Kameramodell oder jede Bearbeitungssoftware ihre eigenen Einstellungen hat und so weiter.

Und schließlich haben die künstliche Intelligenz und ihre tiefen neuronalen Netze in letzter Zeit Verarbeitungsketten durch etwas undurchsichtige Prozesse ersetzt.

Es ist schwierig zu erkennen, ob es normal ist oder nicht, das Vorhandensein oder Fehlen von Spuren zu bemerken, insbesondere wenn die EXIF-Metadaten gelöscht worden sind. Es sei denn, man legt sie absichtlich in "offiziellen" Verarbeitungsketten an. Dies ist die Kernidee eines wissenschaftlichen Artikels, der nächste Woche auf der IEEE International Conference on Computer Vision (ICCV 2019) von Pawel Korus und Nasir Memon, Tandon School of Engineering, New York University, vorgestellt wird. Dieser Artikel macht derzeit im Internet die Runde.

Die Autoren schlagen vor, zwei tiefe neuronale Netze zu trainieren: Das erste wandelt ein "rohes Sensorbild" (RAW-Format) in ein Bild guter Qualität um, so dass Spuren von Manipulationen (JPEG-Komprimierung, Neuskalierung usw.) vom zweiten Netz erkannt werden können.

Das erste Netzwerk erleichtert die forensische Aufgabe des zweiten: Eine gute akademische Idee, die davon ausgeht, dass alle Kamerahersteller diesen Algorithmus implementieren werden. Außerdem, dass Deep Fakers nicht in der Lage sein werden, ein neuronales Netzwerk zu trainieren, das diese laufende forensische Arbeit zerstören könnte. Das Katz-und-Maus-Spiel, Polizei und Dieb, geht weiter ...

‍