Europäischer KI-Act: Kennzeichnungspflicht für KI-generierte Inhalte

Das Europäische Gesetz über künstliche Intelligenz ("KI-Gesetz") wurde vom Europäischen Parlament am 13. März verabschiedet und wird im Mai 2024, 20 Tage nach seiner Veröffentlichung im Amtsblatt der EU, in Kraft treten. Verbote für KI-Systeme, die als "unannehmbare Risiken" eingestuft werden, werden sechs Monate später (November 2024) in Kraft treten, Governance-Regeln und Verpflichtungen für KI-Modelle für allgemeine Zwecke werden nach 12 Monaten (Mai 2025) gelten, und die vollständige Umsetzung wird nach 24 Monaten (Mai 2026) erwartet.

Dieses Gesetz gilt weltweit für alle Systeme der künstlichen Intelligenz, mit Ausnahme derjenigen, die für die wissenschaftliche Forschung und im militärischen Bereich verwendet werden, solange sie auf dem Gebiet der Europäischen Union verfügbar sind.

‍

Allgemeiner Ansatz des AI ACT

Das Gesetz reguliert KI-Systeme durch einen risikobasierten Ansatz, der vier Risikostufen für KI-Systeme definiert, die jeweils mit spezifischen Verboten und Pflichten verbunden sind:

‍

Generative KI-Systeme werden als Systeme mit begrenztem Risiko betrachtet.

Unter den verschiedenen KI-Systemen werden generative Systeme der künstlichen Intelligenz in Artikel 50 Absatz 2 wie folgt definiert: "KI-Systeme, einschließlich allgemeiner KI-Systeme, die synthetische Inhalte wie Audio, Bilder, Videos oder Text erzeugen". Beispiele für solche Systeme sind Adobes Project Music GenAI Control für die Audioerzeugung, Midjourney für die Bilderzeugung, Sora von OpenAI für die Videoproduktion und Anthropic's Claude Textgenerator. Diese Systeme werden im Rahmen des AI ACT als Systeme künstlicher Intelligenz mit begrenztem Risiko eingestuft und unterliegen Transparenzanforderungen, wie der Verpflichtung, die Nutzer darüber zu informieren, dass die Inhalte von KI erzeugt wurden.

Die leistungsstärksten und multimodalen generativen KI-Modelle (die in der Lage sind, jede Art von Inhalt zu generieren), wie ChatGPT von OpenAI oder Gemini von Google, werden als universelle KI-Systeme betrachtet, die zu systemischen Risiken führen könnten. Sie unterliegen zusätzlich zu den Transparenzverpflichtungen detaillierten Bewertungen und Gegentests, um signifikante Vorfälle zu verhindern, die nachteilige Folgen haben könnten, wie etwa die Produktion illegaler Inhalte.

‍

Verpflichtung zur Transparenz: Kennzeichnungspflicht für KI-generierte Inhalte

Alle Anbieter von generativen KI-Systemen, unabhängig von ihrem Standort, ihrer Größe, ihrer Leistung oder ihrer Art, ob offen (frei und quelloffen) oder proprietär, müssen grundlegende Transparenzverpflichtungen einhalten. Diese ermöglichen es der Öffentlichkeit, zu erkennen, ob die Inhalte künstlich erzeugt wurden, und sie von authentischen, von Menschen erstellten Inhalten zu unterscheiden.

Die größte Herausforderung besteht darin, dass diese Systeme verwendet werden können, um ultra-realistische Deepfakes oder Fake News zu erstellen, die zu groß angelegten Desinformationskampagnen, Betrug, Identitätsdiebstahl oder Täuschung beitragen können. Um diesem Phänomen entgegenzuwirken, schreibt das KI-Gesetz (Art. 50 2) vor, dass "Anbieter von KI-Systemen, einschließlich GPAI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherstellen müssen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können. Die Anbieter stellen sicher, dass ihre technischen Lösungen wirksam, interoperabel, robust und zuverlässig sind, soweit dies technisch machbar ist, wobei die Besonderheiten und Beschränkungen verschiedener Arten von Inhalten, die Kosten der Implementierung und der allgemein anerkannte Stand der Technik, wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann, berücksichtigt werden."

‍

Ein verbindliches, wirksames, robustes und zuverlässiges digitales Wasserzeichen

Die Transparenzverpflichtung geht weit über einen einfachen Hinweis auf "KI-generierte Inhalte" hinaus, der leicht entfernt werden kann, und zielt auf robuste und maschinenlesbare technologische Methoden ab, um der Öffentlichkeit sicher zu zeigen, dass es sich um generierte Inhalte handelt.

In Erwägungsgrund 133 des KI-Gesetzes heißt es: "Diese Techniken und Methoden sollten hinreichend zuverlässig, interoperabel, wirksam und robust sein, soweit dies technisch machbar ist, wobei verfügbare Techniken oder eine Kombination solcher Techniken zu berücksichtigen sind, z. B. Wasserzeichen, Metadatenkennzeichnungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität von Inhalten, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken, soweit dies angemessen ist."

Das durch das KI-Gesetz geschaffene KI-Büro, das derzeit eingerichtet wird, wird den Stand der Technik in diesem Bereich überprüfen und die Standards festlegen, die alle Anbieter generativer KI strikt einhalten müssen. Eine gültige Kombination, die derzeit den höchsten Standard darstellt, könnte die Übernahme des C2PA-Standards sein, bei dem verschiedene Arten von Metadaten, die für den Inhalt einzigartig sind (Autor, Datum, verwendetes generatives System usw.), mit einem kryptografischen Schlüssel vor Änderungen geschützt und mit einem robusten digitalen Wasserzeichen wie dem von IMATAG versehen werden, um die Löschung dieser Metadaten zu verhindern. Der Inhalt ist dann vor jeder Änderung oder Löschung seiner Metadaten geschützt und bleibt während seiner gesamten Lebensdauer in der Informationssphäre perfekt erfasst und integriert.

‍

‍

‍

Sanktionen bei Nichteinhaltung der Kennzeichnungspflicht

Die Nichteinhaltung dieser Kennzeichnungspflicht führt automatisch zu einer Geldstrafe von bis zu 15 Mio. EUR oder bis zu 3 % des im vorangegangenen Geschäftsjahr weltweit erzielten Gesamtjahresumsatzes, je nachdem, welcher Betrag höher ist.

‍

Zeit: Der entscheidende Faktor gegen Deepfakes

KI-Systeme für allgemeine Zwecke, die Funktionen zur Generierung synthetischer Inhalte enthalten, müssen die Anforderungen bis Mai 2025 erfüllen, alle anderen Systeme bis Mai 2026. Diese Frist wird als sehr spät angesehen, zumal sich die technologischen Entwicklungen und die breite Einführung generativer und allgemeiner KI-Systeme sowie der Ultra-Realismus der generierten Inhalte in den letzten Monaten erheblich beschleunigt haben.

Diese Besorgnis über den späten Zeitpunkt der Einführung der generativen KI-Kennzeichnungspflicht wurde kürzlich von Anna Ascani, der Vizepräsidentin der italienischen Abgeordnetenkammer, geteilt, die die Verabschiedung eines nationalen Gesetzes zur Beschleunigung der Einführung in Erwägung zieht. Diese Reaktion erfolgte insbesondere als Reaktion auf ein Deepfake des Sprechers des ukrainischen Präsidenten Wolodymyr Zelensky, der die Verantwortung für einen Terroranschlag in Moskau übernahm, das sich über alle Online-Plattformen verbreitete und einmal mehr die Auswirkungen von Desinformation durch künstlich erzeugte Inhalte deutlich machte.

Der Erlass des US-Präsidenten vom 30. Oktober 2023 für sichere und vertrauenswürdige künstliche Intelligenz sieht die flächendeckende Einführung digitaler Wasserzeichen für generierte Inhalte ab Anfang 2025 vor, also viel früher, als es das europäische KI-Gesetz vorschreibt.

Auf der Münchner Sicherheitskonferenz am 16. Februar 2024 haben sich zahlreiche Akteure im Bereich der generativen KI (z. B. Anthropic, Google, Meta, Microsoft, OpenAI und Stability AI) im Rahmen des"Tech Accord to Combat Deceptive Use of AI in 2024 Elections" verpflichtet, Technologien einzusetzen, um schädlichen, von KI generierten Inhalten entgegenzuwirken, die darauf abzielen, die Wähler zu täuschen, und um von KI generierte Inhalte zu erkennen, insbesondere mithilfe digitaler Wasserzeichen.

Um den Übergang zum neuen Rechtsrahmen zu erleichtern, hat die Europäische Kommission in dieser Notsituation den KI-Pakt ins Leben gerufen, eine freiwillige Initiative, die die künftige Umsetzung unterstützen soll und KI-Entwickler aus Europa und anderen Ländern dazu auffordert, den Verpflichtungen des KI-Gesetzes im Voraus nachzukommen und mit der Umsetzung der Anforderungen vor Ablauf der gesetzlichen Frist zu beginnen, einschließlich der Verpflichtung zur Kennzeichnung von Inhalten mit Wasserzeichen.

‍

Jenseits des Gesetzes: Ethik

Abgesehen von den rechtlichen Verpflichtungen möchte kein Anbieter generativer KI, dass sein Name mit einer Desinformationskampagne, Betrug oder Manipulation der öffentlichen Meinung in Verbindung gebracht wird, und zwar aus Gründen des Images, des Rufs und letztlich der wirtschaftlichen Lebensfähigkeit.

Die Kennzeichnung generierter Inhalte spielt eine entscheidende Rolle bei der Bekämpfung von Deepfakes und Fehlinformationen, bei der Verringerung der Informationsflut für Internetnutzer durch die eindeutige Unterscheidung zwischen authentischen und generierten Inhalten und bei der Unterstützung von Medienkompetenzbemühungen. Es ist eine Frage der Rechenschaftspflicht und der Ethik, wie kürzlich durch die nicht bindende Resolution der UN-Generalversammlung vom 21. März 2024 hervorgehoben wurde, die von den Vereinigten Staaten unterstützt und von 123 Ländern, darunter China, mitgetragen wurde und die die Kennzeichnung generierter Inhalte definitiv in den Bereich der Ethik bringt, bevor sie in den Bereich der reinen Rechtskonformität gelangt.

Generative KI-Anbieter aus allen Ländern, warten Sie nicht länger und markieren Sie Ihre generierten Inhalte mit IMATAGs Technologie, einer der robustesten und sichersten der Welt!

‍

Foto: C2PA-konformes, KI-generiertes Bild.