Kennzeichnungspflicht bei KI-generierten Inhalten

Bestimmte KI-generierte Inhalte müssen ab 2. August 2026 eindeutig als solche gekennzeichnet werden. Wir erläutern in diesem Beitrag, um welche konkreten Inhalte es geht, wie die Kennzeichnung zur erfolgen hat und wie hiervon der Online-Handel betroffen ist.

Kennzeichnungspflicht für KI-generierte Inhalte

1. Müssen KI-generierte Inhalte gekennzeichnet werden?

Ja, manche KI-generierten Inhalte wie z.B. bestimmte Bild-, Audio- und Videoinhalte sowie auch bestimmte Texte müssen künftig - ab 2. August 2026 - so gekennzeichnet werden, dass deutlich wird, dass bei deren Erzeugung künstliche Intelligenz zum Einsatz gekommen ist.

Die KI-Kennzeichnungspflicht gilt allerdings nicht für sämtliche KI-generierten Inhalte, sondern nur für

• solche Bilder, Töne und Videos, die sog. Deepfakes sind, und für
• solche Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren.

2. Wer unterliegt der Kennzeichnungspflicht für KI-generierte Inhalte?

Die KI-Kennzeichnungspflicht für KI-generierte Inhalte trifft Betreiber von KI-Systemen.

Ein Betreiber eines KI-Systems ist nach Art. 3 Nr. 4 KI-Verordnung eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI‑System in eigener Verantwortung verwendet, es sei denn, das KI‑System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.

Gegenstand der KI-Kennzeichnungspflicht

1. Welche KI-generierte Inhalte sind als solche zu kennzeichnen?

Der KI-Kennzeichnungspflicht unterliegen folgende Inhalte, die mittels einer KI erzeugt oder manipuliert worden sind:

• Bild-, Ton- oder Videoinhalte, die ein sog. Deepfake sind, und
• Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Im Umkehrschluss bedeutet dies, dass sonstige KI-generierte Inhalte nicht als solche gekennzeichnet werden müssen, sondern nach der KI-Verordnung auch ohne eine solche Kennzeichnung verwendet werden dürfen..

2. In welchen Fällen sind Bilder-, Ton- oder Videoinhalte kennzeichnungspflichtig?

Nicht sämtliche Bilder-, Ton- und Videoinhalte, die durch oder mit Unterstützung einer KI erzeugt oder manipuliert werden, unterliegen der KI-Kennzeichnungspflicht. Kennzeichnungspflichtig sind vielmehr nur solche KI-generierten Bilder, Tonfolgen und Videos, die sog. Deepfakes sind.

Ein Deepfake ist nach Art. 3 Nr. 60 der KI-Verordnung:

• ein durch KI erzeugter oder manipulierter
• Bild-, Ton- oder Videoinhalt, der
• wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und
• einer [natürlichen] Person
• fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Wer mittels KI generierte Bild-, Ton- und Videoinhalte einsetzt, sollte im Zweifelsfall zur Vermeidung von rechtlichen Risiken eher davon ausgehen, dass diese als Deepfakes angesehen werden und diese daher als KI-generierten Inhalt kennzeichnen.

3. Was sind Beispiele für Deepfakes?

Nach der Definition sind nicht nur die im Netz und auf Social Media verbreiteten Fake-Videos, bei denen Prominente bestimmte Produkte zu empfehlen scheinen, als Deepfakes anzusehen. Auch auf den ersten Blick vermeintlich harmlose Bilder können Deepfakes in diesem Sinne sein.

Als Deepfakes einzustufen wären z.B. die folgenden KI-generierten Inhalte:

• Fotoartige Produktbilder, auf denen ein Produkt in einer Landschaft zu sehen ist, wobei das Produkt tatsächlich nicht in der Landschaft fotografiert worden ist.
• Die Abbildung eines Produkts zusammen mit einer Person, die mit dem Produkt hantiert, obwohl diese Person zwar existiert, mit dem Produkt aber niemals hantiert hat.
• Die Darstellung eines Fahrzeugs eines bestimmten Fabrikats in einem Video, das durch eine computergenerierte Eislandschaft fährt, obwohl diese Fahrt so nie stattgefunden hat, dieses Fahrzeug also niemals durch diese Landschaft gefahren ist.

Nicht als Deepfakes anzusehen wären hingegen wohl etwa Fotos, die zunächst durch "echte" Fotografie entstanden sind, mittels KI aber in einem bestimmten Umfang nachbearbeitet worden sind. Die Grenzen zum Deepfake sind in solchen Fällen aber schwer zu ziehen, teilweise fließend.

4. In welchen Fällen sind KI-generierte Texte kennzeichnungspflichtig?

Auch nicht sämtliche Texte, die durch oder mit Unterstützung einer KI erzeugt oder manipuliert werden, unterliegen der KI-Kennzeichnungspflicht. Kennzeichnungspflichtig sind vielmehr nur solche KI-generierten Texte,

• die veröffentlicht werden,
• um die Öffentlichkeit
• über Angelegenheiten von öffentlichem Interesse
• zu informieren.

5. Welche KI-Texte informieren über Angelegenheiten von öffentlichem Interesse?

Der Anwendungsbereich der KI-Kennzeichnungspflicht ist bei Texten vergleichsweise gering.

Hauptanwendungsfall dürften Texte auf Nachrichten- und Zeitungsportalen sein. Hierauf deutet bereits der ausdrückliche Bezug auf die redaktionelle Kontrolle auch in Erwägungsgrund 134 hin.

Im Umkehrschluss sind hingegen nicht kennzeichnungspflichtig nach der KI-Verordnung folgende Arten von KI-generierten Texten:

• Produktbeschreibungen in einem Online-Shop
• Werbeclaims auf Bannern
• Aufbauanleitungen, z.B. für den Aufbau von Möbeln

KI-Kennzeichnungspflicht im Online-Handel

1. Müssen KI-generierte Produkttexte im Online-Shop gekennzeichnet werden?

Nein, durch KI erzeugte Texte, die zur Beschreibung der Produkte oder der Produktwerbung eingesetzt werden, müssen nach der KI-Verordnung nicht besonders gekennzeichnet werden, sondern dürfen auch ohne entsprechende Kennzeichnung verwendet werden.

2. Müssen KI-generierte Produktbilder gekennzeichnet werden?

Dies lässt sich nicht pauschal beantworten, sondern hängt jeweils davon ab, was - und vor allem auch wie dies - auf einem KI-generierten Produktfoto bzw. -bild abgebildet ist.

In vielen Fällen, in denen KI zur Erzeugung oder Optimierung von Produktbildern eingesetzt wird, dürfte allerdings eine KI-Kennzeichnungspflicht greifen:

• Ein wesentlicher Grund für den Einsatz von KI bei Produktfotos ist häufig, realistisch und hochwertig aussehende Produktfotos ohne großen Kostenaufwand zu erhalten. Typischerweise erfindet die KI das Setting für das Produkt und ggf. Personen aufgrund von tief in der KI verankerten Vorlagen bzw. Puzzleteilen. Ein solches Produktfoto dürfte in der Regel als kennzeichnungspflichtiges Deepfake anzusehen sein.
• Wenn hingegen comicartige Bilder erzeugt werden, die bereits für sich genommen nicht als Abbild der Wirklichkeit, d.h. der Realität erscheinen, so kann es sich bereits deshalb nicht um ein Deepfake handeln, selbst wenn abgebildete Personen und Orte bekannt aussehen. In manchen Fällen könnte aber die Grenze, wann es sich um einen Filter handelt, der ein ursprünglich echtes Bild verfremdet, und wann es sich um ein vollständig KI-erzeugtes Bild handelt, nicht leicht zu ziehen sein. Dann könnte die KI-Kennzeichnungspflicht auch bei solchen Produktbildern greifen.

Im Zweifel ist zu empfehlen, die Produktfotos entsprechend zu kennzeichnen, zumal dies - gemäß dem aktuellen Trend - zugleich auch einen positiven werblichen Nebeneffekt haben könnte.

3. Müssen KI-generierte Texte in Blog-Beiträgen gekennzeichnet werden?

Diese Frage lässt sich pauschal nicht beantworten. Vielmehr kommt es darauf an, welchen Inhalt und Zweck die betreffenden KI-generierten Texte in den Blog-Beiträgen haben:

• Wenn es sich um einen Blog handelt, auf dem der Bloggende andere über die aktuellen Geschehnissen in einem bestimmten Land oder an einem bestimmten Ort, z.B. in einem Kriegs- oder Krisengebiet, informieren möchte, dürfte dies als Angelegenheit von öffentlichem Interesse anzusehen sein. In diesem Fall unterliegen die Texte daher der KI-Kennzeichnungspflicht.
• Wer im Blog hingegen bloß über seine Sammelleidenschaft berichtet und durch KI viele Texte erzeugen lässt, die er zur Generierung von hohen Klickzahlen im Blog veröffentlicht, unterfällt hinsichtlich dieser Texte wohl eher nicht der KI-Kennzeichnungspflicht. Eine Angelegenheit von öffentlichem Interesse liegt in einem solchen Fall nicht vor.

Erfüllung der KI-Kennzeichnungspflicht

1. Wie sind KI-generierte Inhalte zu kennzeichnen?

Wenn KI-generierte Bilder, Tonfolgen, Videos und Texte zu kennzeichnen sind, müssen hierbei die weiteren Anforderungen aus Art. 50 Abs. 4 und Abs. 5 der KI-Verordnung beachtet werden:

• Es muss offengelegt werden, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
• Diese Offenlegung muss gegenüber den betreffenden Personen spätestens zu dem Zeitpunkt erfolgen, wenn diese mit den Inhalten interagieren oder diesen ausgesetzt sind.
• Die Offenlegung bzw. Information muss in klarer und eindeutiger Weise erfolgen, also für andere sichtbar im Zusammenhang mit dem jeweiligen Inhalt angegeben werden.
• Schließlich müssen die KI-Pflichtinformationen auch den geltenden Barrierefreiheitsanforderungen entsprechen.

Ein ausdrückliche Bezugnahme auf eine Erzeugung durch künstliche Intelligenz (KI) oder die konkrete zur Erzeugung der Inhalte eingesetzte jeweilige KI-Anwendung ist dabei nicht vorgeschrieben.

2. Welche Ausnahmen gelten bei der KI-Kennzeichnungspflicht?

Die Pflicht zur KI-Kennzeichnung von Bild-, Ton- und Videoinhalten gilt nicht bzw. nur teilweise, wenn

• deren Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist, oder wenn
• der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms ist; in diesem Fall beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks, also der Kunst nicht beeinträchtigt.

Die Pflicht zur KI-Kennzeichnung von Texten gilt hingegen auch dann nicht, wenn

• die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn
• die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.

3. Wie müssen Anbieter von KI-Anwendungen bei der KI-Kennzeichnung unterstützen?

Nach der KI-Verordnung werden Anbieter von KI-Anwendungen verpflichtet, technische Lösungen zu integrieren, die die Kennzeichnung in einem maschinenlesbaren Format und die Feststellung ermöglichen, dass die Ausgabe von einer KI‑Anwendung und nicht von einem Menschen erzeugt oder manipuliert wurde.

Diese Techniken und Methoden müssen

• hinreichend zuverlässig,
• interoperabel,
• wirksam und
• belastbar sein,

wobei verfügbare Techniken, wie

• Wasserzeichen,
• Metadatenidentifizierungen,
• kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts,
• Protokollierungsmethoden,
• Fingerabdrücke oder andere
• Techniken, oder eine Kombination solcher Techniken

je nach Sachlage zu berücksichtigen sind.

4. Ab wann sind KI-generierte Inhalte zu kennzeichnen?

Für sämtliche Verwender von KI-generierten Inhalten und somit auch für Online-Businesses, wie z.B. Betreiber von Webshops und sonstigen Websites, ist vor allem der 2. August 2026 ein wichtiges Datum.

Ab diesem Tag müssen bei der Verwendung von KI bei der Erzeugung und Manipulieren von Bild-, Ton-, Video- und Textinhalten z.B. gegenüber Nutzern des Webshops und den Kunden die Kennzeichnungs- und Informationspflichten nach der KI-Verordnung beachtet werden.

5. Welche Sanktionen drohen bei Verstößen gegen die KI-Kennzeichnungspflicht?

Wer gegen die Pflichten aus der KI-Verordnung, einschließlich den KI-Kennzeichnungspflichten, verstößt, dem drohen

• empfindliche Geldbußen und
• Abmahnungen durch Mitbewerber und Verbände, wie z.B. Branchen- und Verbraucherschutzverbände.

Tipp: Fragen zum Beitrag? Diskutieren Sie hierzu gerne mit uns in der Unternehmergruppe der IT-Recht Kanzlei auf Facebook .