Die bevorstehenden EU- und US-Wahlen 2024 unter dem Imperium der Fakes

Was diesen Kampf so schwierig macht, ist die Tatsache, dass Desinformation nicht grundsätzlich illegal ist. Es ist von entscheidender Bedeutung, ein Gleichgewicht zwischen dem Schutz der Meinungsfreiheit und der Umsetzung wirksamer Maßnahmen zur Eindämmung der Verbreitung und der Auswirkungen von Desinformationen zu finden. Dies erfordert einen umsichtigen Ansatz, der die demokratischen Werte aufrechterhält und gleichzeitig die schädlichen Auswirkungen von Falschinformationen abmildert.

Die EU-Institutionen sind sich der Desinformationsrisiken voll bewusst und versuchen, das Phänomen mit einem ganzheitlichen Ansatz zu bekämpfen.

Die vier Angriffspunkte des Gesetzes über digitale Dienste gegen Desinformation

Am 25. August 2023 trat das Gesetz über digitale Dienste ("DSA") für sehr große Online-Plattformen (Facebook, Instagram, Pinterest, Snapchat, TikTok, X...) und sehr große Online-Suchmaschinen (Google-Suche, Bing) in Kraft. 

Die DSA zielt darauf ab, Desinformation auf Online-Plattformen unter vier Hauptaspekten zu bekämpfen:

1. schnellere Entfernung von offensichtlich illegalen Fake News,
2. geringere Sichtbarkeit in Empfehlungssystemen für Fake News, die nicht als illegal angesehen werden, 
3. nach einer Analyse ihrer spezifischen Risiken Maßnahmen zur Eindämmung der Verbreitung von Desinformationen und der nicht authentischen Nutzung ihres Dienstes zu ergreifen und
4. spezifische Protokolle zur Bekämpfung von Inhalten, die eine tatsächliche oder vorhersehbare negative Auswirkung auf die öffentliche Sicherheit und die demokratischen Prozesse/Wahlen haben können, und verstärkte spezifische Maßnahmen im Falle von Krisen, wie bestehenden oder neuen bewaffneten Konflikten, Terroranschlägen, Naturkatastrophen und Pandemien.

Die vom EU-Verhaltenskodex für Desinformation geforderten Instrumente

Neben dem DSA ist der EU-Verhaltenskodex für Desinformation ("der Kodex") das erste Instrument seiner Art, mit dem sich die relevanten Akteure der Branche 2018 erstmals auf Selbstregulierungsstandards zur Bekämpfung von Desinformation geeinigt haben.

Der am 16. Juni 2022 unterzeichnete überarbeitete Kodex wird Teil eines umfassenderen Rechtsrahmens in Kombination mit dem DSA sein. Für die Unterzeichner - sehr große Online-Plattformen und Suchmaschinen - soll der Kodex zu einer im Koregulierungsrahmen des DSA anerkannten Minderungsmaßnahme werden. 

Der Kodex enthält 44 Verpflichtungen und 128 spezifische Maßnahmen.

In der Selbstverpflichtung 20 heißt es: "Die einschlägigen Unterzeichner verpflichten sich, den Nutzern Werkzeuge zur Verfügung zu stellen, mit denen sie die Herkunft, die Bearbeitungshistorie, die Authentizität oder die Richtigkeit digitaler Inhalte beurteilen können. Einschlägige Unterzeichner werden technologische Lösungen entwickeln, die den Nutzern helfen die Authentizität zu prüfen oder die Herkunft oder den Ursprung digitaler Inhalte zu ermittelnwie neue Werkzeuge oder Protokolle oder neue offene technische Standards für die Herkunft von Inhalten."

Selbstverpflichtung 22 präzisiert: "Die einschlägigen Unterzeichner verpflichten sich, den Nutzern Instrumente zur Verfügung zu stellen, die ihnen helfen, fundiertere Entscheidungen zu treffen, wenn sie auf Online-Informationen stoßen, die falsch oder irreführend sein könnten, und den Nutzern den Zugang zu Instrumenten und Informationen zu erleichtern, mit denen sie die Vertrauenswürdigkeit von Informationsquellen beurteilen können, wie etwa Indikatoren für die Vertrauenswürdigkeit für eine informierte Online-Navigation, insbesondere in Bezug auf gesellschaftliche Themen oder Debatten von allgemeinem Interesse. Die betreffenden Unterzeichner ermöglichen den Nutzern ihrer Dienste den Zugang zu Indikatoren für die Vertrauenswürdigkeit (wie z. B. Vertrauensmarken, die sich auf die Integrität der Quelle konzentrieren und die Methodik hinter solchen Indikatoren) die von unabhängigen Dritten in Zusammenarbeit mit den Nachrichtenmedien, einschließlich Journalistenverbänden und Organisationen für Medienfreiheitsowie von Faktenprüfern und anderen einschlägigen Einrichtungen entwickelt wurden und die den Nutzern helfen können, eine fundierte Entscheidung zu treffen. Die einschlägigen Unterzeichner werden den Nutzern die Möglichkeit geben Signale für die Vertrauenswürdigkeit von Medienquellen in die Empfehlungssysteme einzugeben oder solche Signale in ihre Empfehlungssysteme einzuspeisen."

Zusammenfassend lässt sich sagen, dass es zur Eindämmung des Desinformationsphänomens notwendig ist, den Nutzern transparente Instrumente zur Bewertung der Vertrauenswürdigkeit von Informationen zur Verfügung zu stellen und die Sichtbarkeit echter Inhalte aus vertrauenswürdigen Quellen mit Hilfe von Instrumenten, die die Genauigkeit, Integrität und Vertrauenswürdigkeit ihrer Herkunft garantieren können, zu erkennen und zu erhöhen.

‍

‍

Die Identifizierung von KI-generierten Inhalten scheint zwar von entscheidender Bedeutung zu sein, um den Nutzern die Orientierung zu erleichtern, doch ebenso wichtig ist die Identifizierung echter Inhalte aus überprüften und zuverlässigen Quellen, wie z. B. Nachrichteninhalte von Presseagenturen, Medien oder anderen maßgeblichen Quellen. 

Die Europäische Kommission hat die Verwendung von Instrumenten empfohlen, die von unabhängigen Dritten zur Verfügung gestellt werden, aber nach Angaben des Transparency Center werden diese Verpflichtungen im Allgemeinen als "nicht unterzeichnet" oder durch Initiativen zur Überprüfung der Fakten durch die Unterzeichner des Kodex eingeschränkt angegeben.

‍

Inwiefern wird das unsichtbare Wasserzeichen einer unabhängigen dritten Partei das Problem wirklich lösen?

Die beste Möglichkeit, einen Inhalt technisch zu zertifizieren, besteht darin, ihn mit einem unsichtbaren Signal direkt an der Quelle mit einem Wasserzeichen zu versehen (siehe "Google DeepMind's SynthID and the Imperative of Comprehensive Watermarking"). Diese Technologie gibt es schon seit vielen Jahren, hat aber in letzter Zeit bemerkenswerte Verbesserungen erfahren(DeepMind partners with Google Cloud to watermark AI-generated images | TechCrunch ). Sowohl OpenAI als auch Google sind der Meinung, dass ein robustes Wasserzeichen die beste Lösung zur Zertifizierung visueller Inhalte ist. Letzten Monat hat Google sein eigenes Wasserzeichensystem namens SynthID vorgestellt. Es weist jedoch eine erhebliche Einschränkung auf: SynthID identifiziert ausschließlich von Google KI generierte Inhalte, die zum Beispiel von Imagen produziert wurden, und nur innerhalb des Google-Ökosystems. 

Diese Einschränkung besteht nicht, wenn ein unabhängiger Dritter verwendet wird, der in der Lage ist, ein Wasserzeichen für echte Inhalte aus verifizierten Quellen zu erstellen, eine Technologie, die potenziell von allen Online-Plattformen übernommen werden könnte.

Die Kennzeichnung authentischer Inhalte aus vertrauenswürdigen Quellen mit einem robusten und unsichtbaren Wasserzeichen bietet sowohl für die Öffentlichkeit als auch für Online-Plattformen zahlreiche Vorteile:

‍

Wiederherstellung des Vertrauens zwischen Nutzern und Online-Plattformen

Erstens kann das Vertrauen zwischen Nutzern und Online-Plattformen wiederhergestellt werden, indem zusätzlich zur Kennzeichnung von KI-generierten Inhalten auch echte Inhalte aus vertrauenswürdigen Quellen gekennzeichnet und den Nutzern Werkzeuge zum kritischen Denken an die Hand gegeben werden. Die Nutzer könnten sofort erkennen, ob es sich um KI-generierte Inhalte, echte Inhalte, manipulierte oder fälschlich zugeschriebene echte Inhalte oder nicht identifizierte Inhalte handelt.

‍

‍

Zweitens wäre die Möglichkeit, echte Inhalte, zugehörige Metadaten und den Entstehungskontext zu visualisieren, ein großer Vorteil für Nutzer und Online-Plattformen. Beide könnten Manipulationen oder falsche Zuordnungen sofort erkennen. Dies würde einen Weg zur sofortigen Löschung durch Online-Plattformen in Fällen eindeutiger Illegalität oder zur Verringerung der Sichtbarkeit in Empfehlungssystemen eröffnen, wenn diese als "nicht illegale" Fake News eingestuft werden.

‍

‍

Ein weiterer Vorteil für sehr große Online-Plattformen und Suchmaschinen wäre die Verbesserung der von der DSA geforderten Maßnahmen zur Eindämmung der Verbreitung von Desinformationen und gleichzeitig die Entwicklung neuer Strategien zur Bekämpfung von Fehlinformationen in politischen und wirtschaftlichen Krisen. Die jüngsten Wahlen in der Slowakei haben gezeigt, dass die von einigen Online-Plattformen eingesetzten Instrumente zur Bekämpfung von Fake News nicht effizient genug sind.

‍

Der Kampf gegen Infokalypse

Infokalypse bedeutet in der Regel die bevorstehende Überflutung mit falschen Informationen.

Am 26. September 2023 berichteten die großen Online-Plattformen über die ersten sechs Monate nach dem neuen Verhaltenskodex für Desinformation.

Nach Ansicht von Kommissarin Jourova : "Desinformation ist immer noch eine der größten Gefahren für den europäischen demokratischen Informationsraum, auch im Zusammenhang mit Russlands Krieg in der Ukraine und den Wahlen. Da sich die Europäer darauf vorbereiten, 2024 in die Wahllokale zu gehen, müssen alle Akteure ihren Teil zur Bekämpfung von Online-Desinformation und ausländischer Einmischung beitragen, um unsere Online-Debatte zu schützen. Der Kodex erweist sich als eine nützliche Übung, aber wir alle müssen mehr tun"

Die nächste Reihe von Berichten ist Anfang 2024 fällig (mit Informationen und Daten für die zweite Hälfte des Jahres 2023) und sollte weitere Einblicke in die Umsetzung des Kodex liefern. Diese Berichte werden auch Informationen darüber enthalten, wie die Unterzeichner sich vorbereiten und Maßnahmen ergreifen, um die Verbreitung von Desinformationen im Vorfeld der Wahlen in der EU und den USA im Jahr 2024 einzudämmen, während sie weiterhin über ihre Bemühungen im Zusammenhang mit dem Krieg in der Ukraine berichten, zu dem wir bereits den Krieg in Israel hinzufügen können.

Dies ist ein Aufruf zur Kennzeichnung echter Inhalte aus zuverlässigen Quellen durch digitale Wasserzeichen. Wenn diese Maßnahme in naher Zukunft von den großen Online-Plattformen übernommen wird, könnten einer oder mehrere der vier Reiter der Infokalypse von ihren Pferden fallen.

‍