Ab dem 2.August 2026 kann das „sorglose“ Verwenden von KI-Generatoren unter anderem für Bilder vorbei sein. Dann greift die in Art. 50 IV KI-VO hinterlegt Kennzeichnungspflicht. Eine kleine Anwendungsübersicht dazu nachfolgend:
A. Wann greift die Kennzeichnungspflicht?
Die Kennzeichnungspflicht greift zunächst dann, wenn der Internetseitenbetreiber oder E-Commerce-Anbieter „Betreiber“ im Sinne der KI-VO ist. Nach Art. 3 Nr.4 KI-VO ist dies schon dann der Fall, wenn ein KI-System eigenverantwortlich angewendet wird. Damit ist die Anwendung für die Generierung bereits dazu geeignet, grundsätzlich die Kennzeichnungspflicht auszulösen.
Betroffen sind dabei in sachlicher Hinsicht vor allem Bild-, Ton- oder Videoinhalte, wenn diese mit einem KI-System erzeugt oder manipuliert werden und damit einen sog. Deepfake darstellen. Auch der Begriff des „Deepfake“ ist in der KI-VO definiert. Art. 3 Nr.60 KI-VO sagt dazu aus:
„einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.“
ErwG (134) hilft bei der Bemessung der inhaltlichen Reichweite nur bedingt weiter, da es dort unter anderem heißt:
„…Neben den technischen Lösungen, die von den Anbietern von KI-Systemen eingesetzt werden, sollten Betreiber, die ein KI-System zum Erzeugen oder Manipulieren von Bild-, Audio- oder Videoinhalte verwenden, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise echt oder wahr erscheinen würden (Deepfakes), auch klar und deutlich offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden, indem sie die Ausgaben von KI entsprechend kennzeichnen und auf ihren künstlichen Ursprung hinweisen…“
Anwendungsfälle können z.B. Fotos sein, auf den Personen zu sehen sind, die Produkte verwenden, obwohl diese Person in der Realität keine Verwendung vorgenommen hat. Problematisch können auch die Verwendung von anderen Hintergründen in Verbindung mit Personen und/oder Gegenständen sein.
Produktbeschreibungen sind allerdings im Regelfall von der Kennzeichnungspflicht ausgenommen, da diese keine Texte im Sinne des Art.50 IV KI-VO sind, „um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.“
Hinweis des Autors:
Grundsätzlich sollten die Szenarien der Anwendung von KI-Systemen genau festlegen, in welcher Art und Weise das KI-System eingesetzt wird, um auch die Frage der Kennzeichnungspflicht zu klären. Diese ist immer im Einzelfall und nach den konkreten Inhalten nach zu bewerten.
B. Wie sollte eine Kennzeichnung erfolgen?
Art. 50 IV und V KI-VO gibt Vorgaben der Kennzeichnung wie folgt vor:
- Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden
- Die Informationen werden den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt
- Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen
Die KI-VO gibt keine genauen Vorgaben hinsichtlich des Hinweistextes. Dieser könnte z.B. lauten: „Bild mit KI erstellt“ oder „Bild ist mit KI manipuliert worden“.
C. Was droht bei der Nichteinhaltung der Vorgaben?
Ab dem 2. August 2026 sind Bußgelder möglich, genauso wie Abmahnungen nach dem Gesetz gegen unlauteren Wettbewerb (UWG).