Kennzeichnungspflichten für KI-Inhalte nach aktueller und künftiger Rechtslage

Künstliche Intelligenz ist die Zukunft, da sind sich viele einig. Weniger einig ist man sich bisher hingegen beim rechtlichen Umgang mit KI-generierten Inhalten. Insbesondere, wenn diese im Marketing eingesetzt oder gar als Ware gehandelt werden, stellt sich die Frage nach bestimmten Informationspflichten für Nutzer und Erwerber. Müssen diese auf den KI-Ursprung eines Inhalts hingewiesen werden? Der folgende Beitrag beleuchtet die aktuelle Rechtslage und gibt auch einen Ausblick auf zukünftige Rechtspflichten nach der künftigen EU-KI-Verordnung.

I. KI-Kennzeichnungspflicht: aktuelle Gesetzeslage

Derzeit kann ein rein durch KI erzeugter Inhalt nicht urheberrechtlich geschützt sein, da es in einem solchen Fall an der erforderlichen persönlichen Schöpfung fehlt. Diese ist notwendig für die Entstehung des Urheberrechts. Etwas anderes gilt für solche Inhalte, bei denen die KI lediglich als Hilfsmittel verwendet wird.

1.) Vorsicht bei Urhebernennung: Irreführung durch vermeintliches Copyright

Wenn niemandem die Urheberrechte an KI-generierten Werken zustehen, könnte man schnell in die Falle tappen und auf die Idee kommen, seinen eigenen Namen darunter zu schreiben.

Doch Vorsicht, denn wer seinen Namen unter einem KI-generierten Werk platziert, vermittelt damit, dass dieses urheberrechtlich geschützt ist und der Unterzeichnende dessen Schöpfer ist.

Wenn dies in Wahrheit aber nicht der Fall ist, dann liegt eine grundsätzlich wettbewerbswidrige und damit abmahnbare Irreführung im Sinne des § 5 UWG vor.

Ob auf den ersten Blick erkennbar ist, dass der Inhalt mithilfe von KI erzeugt wurde, ist dabei unerheblich.

Maßgeblich für das Irreführungspotenzial und damit für die Wettbewerbswidrigkeit ist allein, ob durch eine namentliche Kennzeichnung am Werk der Eindruck einer schöpferischen Inhaberschaft hervorgerufen wird.

Wettbewerbswidrig wäre also beispielsweise die Veröffentlichung eines KI-generierten Textes unter Nennung eines menschlichen Autors.

Ebenso irreführend wäre etwa die Publikation von KI-generierten Arbeiten durch Grafikdesigner unter eigenem Namen.

2.) Kennzeichnung des KI-Ursprungs?

Die bisherige Gesetzeslage sieht keine Regelung vor, nach der ein KI-Werk als solches gekennzeichnet werden muss.

Andererseits kann bei fehlender Kennzeichnung aber gegebenenfalls der Gesamteindruck vermittelt werden, es handle sich bei dem Inhalt um ein urheberrechtlich geschütztes Werk.

Veröffentlicht jemand zum Beispiel auf seinem Blog Kurzgeschichten, die grundsätzlich selbst geschrieben sind, dann kann ein KI-Text auch ohne Information zur werkschaffenden Person sehr wohl als urheberrechtlich geschütztes Werk eingeordnet werden.

Veröffentlicht man in der Regel urheberrechtlich geschützte Werke, ist es daher empfehlenswert, unmittelbar eingebundenen KI-Content als solchen zu kennzeichnen, um nicht den irreführenden Eindruck zu erwecken, auch der KI-Inhalt sei das Ergebnis einer persönlichen geistigen Schöpfung.

Eine Kennzeichnung ist hingegen dann nicht nötig, wenn KI-generierte Inhalte dem Gesamteindruck nach nur begleitendes Beiwerk einer oder mehrerer persönlicher geistiger Schöpfungen sind und daher vernünftigerweise nicht der Urheberschaft des eigentlich Werkschaffenden zugerechnet werden.

Dies gilt insbesondere dann, wenn die KI-Inhalte einer anderen Werkkategorie zuzuordnen sind als derjenigen, für die sich der Schöpfer eines Urheberrechts berühmt.

Ein Autor, der selbst redigierte Texte veröffentlicht, wird KI-Bilder, die diese Texte thematisch begleiten oder untermalen, daher regelmäßig nicht als „KI-Content“ kennzeichnen müssen.

II. Ausblick auf zukünftige Rechtslage: EU-KI-Verordnung

Für mehr Sicherheit im Umgang mit KI soll künftig die europäische Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung 2024/1689) sorgen, die am 13.06.2024 verabschiedet wurde.

Das neue Gesetz wird das weltweit erste umfassende Regelwerk für KI sein.

Die Verordnung gilt grundsätzlich ab dem 02.08.2026, findet in einigen Teilen aber bereits ab Februar bzw. August 2025 Anwendung.

1.) Ziel der KI-Verordnung

Ziel der neuen Verordnung ist die Sicherheit und Achtung der Grundrechte sowie die Förderung von Innovationen im Umgang mit künstlicher Intelligenz.

Die Grundrechte, die Demokratie und die Rechtsstaatlichkeit sowie die ökologische Nachhaltigkeit sollen vor allem vor Hochrisiko-KI-Systemen geschützt werden. Gleichzeitig soll die Verordnung Innovationen ankurbeln und die EU damit in eine globale Führungsrolle bringen.

In der Verordnung werden bestimmte Verpflichtungen für KI-Systeme festgelegt, abhängig von den jeweiligen möglichen Risiken und Auswirkungen.

Neben harmonisierten Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union, Regelungen zu verbotenen Anwendungen und besonderen Anforderungen an Hochrisiko-KI-Systeme, Maßnahmen zur Innovationsförderung und Vorschriften für die Marktbeobachtung und Marktüberwachung stellt die neue Verordnung auch bestimmte Transparenzanforderungen auf.

2.) Neue Transparenzanforderungen

Die Transparenzanforderungen gelten für KI-Systeme mit allgemeinem Verwendungszweck und solche Modelle, auf denen sie beruhen.

Eine der Anforderungen ist die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte.

Zusätzliche Anforderungen gelten für die leistungsfähigeren Modelle, die systemische Risiken bergen könnten. So müssen beispielsweise Modellbewertungen durchgeführt werden, systemische Risiken bewertet und gemindert werden und Vorfälle gemeldet werden.

Im Rahmen der neuen Transparenzanforderungen verpflichtet die Verordnung außerdem die Anbieter dazu, sicherzustellen, „dass KI-Systeme, die für die Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass natürlichen Personen mitgeteilt wird, dass sie es mit einer KI zu tun haben“.

Diese Pflicht fällt nur dann weg, wenn die Interkation mit der KI „aufgrund der Umstände und des Kontexts der Nutzung offensichtlich“ ist.

Auch legt die Verordnung harmonisierte Transparenzvorschriften für KI-Systeme fest, die zum Erzeugen oder Manipulieren von Bild-, Ton- oder Videoinhalten verwendet werden.

Danach müssen KI generierte oder bearbeitete Bilder bzw. Audio- und Videoinhalte („Deepfakes“) eindeutig als solche gekennzeichnet werden.

3.) Im Detail: KI-Kennzeichnungspflicht gem. Art. 50 Abs. 4

Für die anberaumte Kennzeichnungspflicht ist Art. 50 Abs. 4 der Verordnung entscheidend., der ab dem 02.08.2026 gelten wird.

Art. 50 statuiert Transparenzpflichten für bestimmte KI-Systeme, wobei Abs. 5 des Artikels insbesondere die Kennzeichnungspflicht KI-generierter Werke regeln wird.

Danach müssen Nutzer "eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden („Deepfake“) […] offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“

Weiter regelt Art. 50 Abs. 4, dass die Kennzeichnungspflicht dann nicht gilt, „wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist".

III. Fazit

Nach aktueller Rechtslage besteht keine gesetzliche Pflicht zur Kennzeichnung von KI-Inhalten. Sie kann aber im Einzelfall dann zur Vermeidung von Irreführungen erforderlich sein, wenn KI-Inhalte mit menschlichen Werken so vermengt werden, dass fälschlicherweise auch bei den KI-Werken eine menschliche Schöpfung angenommen werden könnte.

Die neue EU-KI-Verordnung, die grundsätzlich ab 2026 gelten wird, wird hingegen zur Kennzeichnung gewisser KI-Inhalte verpflichten. Ausdrücklich zu kennzeichnen sein werden sogenannte „Deepfakes“, also KI-Inhalte in Form von Bild-, Ton- oder Videomaterial, die realen Personen, Gegebenheiten oder Ereignissen merklich ähneln und dem Menschen echt oder wahrhaftig erscheinen.

Eine Pflicht zur Kennzeichnung von KI-Werken, die keine Deepfakes darstellen, statuiert die EU-KI-Verordnung aber nicht.

Daher wird es insoweit auch zukünftig auf das Irreführungspotenzial ankommen, das ein KI-Inhalt ohne Kennzeichnung durch gedankliche Zuordnung zu einer menschlichen Schöpfung entfalten kann.

Tipp: Fragen zum Beitrag? Diskutieren Sie hierzu gerne mit uns in der Unternehmergruppe der IT-Recht Kanzlei auf Facebook .