Transparenz und Kennzeichnung nach dem AI Act – Webinar des RTR (KI-Servicestelle)

Die KI-Servicestelle der RTR bot am 2. Juli 2026 einen Überblick über die neuesten Entwicklungen hinsichtlich der Kennzeichnungspflichten im Zusammenhang mit KI-generierten Inhalten. Die unten angeführten Vorschriften treten am 2. August 2026 in Kraft (grundsätzlich keine Rückwirkung).

Der EU AI Act unterscheidet zwischen Anbieter*innen und Betreiber*innen von KI-Systemen. Als Anbieter*innen gelten jene Unternehmen, welche KI-Systeme entwickeln (lassen), in Verkehr bringen oder in Betrieb nehmen. Als Betreiber*innen gelten jene Personen oder Stellen, die KI-Systeme verwenden.

Betreiber*innen (Nutzer*innen von KI-Tools – ausgenommen für private Zwecke) müssen KI-generierte Inhalte, die per unten angeführten Definition des AI Act als „Deepfake“ gelten, ab dem 02. August 2026 kennzeichnen, um den Transparenzpflichten des AI Act nachzukommen (Hinweis: auch fiktionale Bilder und synthetische Stimmen oder Musik können gemeint sein).

Die Europäische Kommission will im Juli noch Leitlinien zu den Kennzeichnungs- und Offenlegungspflichten nach dem AI Act fertigstellen. Darin soll geklärt werden, welche Arten von KI-generierten Einsätzen gekennzeichnet werden müssen (z. B. die reine Optimierung von Bild- und Tonparametern ist nicht kennzeichnungspflichtig) und wo solche Hinweise platziert werden sollen (etwa vor, während oder nach der Nutzung bzw. Interaktion mit einem Werk).

Nach derzeitigem Stand müssen KI-generierte Inhalte jedenfalls dann gekennzeichnet werden, wenn Sie als „Deepfake“ im Sinne des AI Act gelten. Gemeint sind Inhalte, die „wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden“ (Art. 3 Abs. 60 und Art. 50 Abs. 4). Zudem muss nach derzeitiger Lage eine Kennzeichnung „spätestens zum Zeitpunkt der ersten Interaktion“ erfolgen (Art. 50 Abs. 5).

Für künstlerische, kreative, fiktionale, analoge oder satirische Werke sieht der AI Act eine gewisse Flexibilität vor: Hier kann die Offenlegung so erfolgen, dass sie die „die Darstellung oder den Genuss des Werks nicht beeinträchtigt“ (Art. 50 Abs. 4).

Beispiele für die konkrete Ausgestaltung der Kennzeichnung können den Empfehlungen der EU entnommen werden; der weiterführende Link zum Labelling befindet sich am Ende des Artikels.

Wichtige Erkenntnisse aus dem Webinar (Expertin: Jeannette Gorzala):

  • Ein transparentes und konsistentes Vorgehen bezüglich des Einsatzes von KI-generierten Inhalten ist wichtig.
  • Compliance entsteht nicht am 2. August 2026. Sie entsteht in den Workflows, wo generative KI heute schon zur Anwendung kommt. Daher dringend interne Policies für verantwortlichen Umgang mit Tools, Input und Output sowie Entscheidungsprozesse bezüglich der Kennzeichnung von Content entwickeln, praktizieren und dokumentieren.
  • Eine Kennzeichnung dient der Transparenz gemäß EU AI Act, der Inhalt wird dadurch aber nicht legitimiert (Urheberrecht, Wettbewerbsrecht, Datenschutz etc. gelten zusätzlich und nach wie vor).
  • Vertragliche Vereinbarungen mit externen Partner*innen können Klarheit, Einheitlichkeit und Sicherheit hinsichtlich der Kennzeichnungspflicht schaffen.

Kurzüberblick: Kennzeichnungspflichten für KI-generierte Deepfakes:

Der EU AI Act (Art. 50 Abs. 4) sieht vor, dass Betreiber*innen eines KI-Systems, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die ein „Deepfake“ darstellen, offenlegen müssen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

Der AI Act (Art. 3 Abs. 60) definiert „Deepfakes“ als „jeden Inhalt, der bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als authentisch oder wahrhaftig erscheint“.

Schließlich enthält der AI Act (Art. 50 Abs. 4) spezifische Bestimmungen für künstlerische Werke, wonach sich die Offenlegung von KI-generierten Deepfakes im Sinne des KI-Gesetzes auf die Offenlegung der Existenz solcher generierten oder manipulierten Inhalte in einer „angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt“, beschränkt.

Weitere Informationen: 

Dieser Beitrag ist im Austausch zwischen der FAMA (Monique A. Göschl, MLS) und dem ÖFI (Christian Ruthner, MSc) entstanden.