EU-KI-Verordnung: Transparenzpflichten für KI-Inhalte treten in Kraft

Ab 2. August 2026: Kennzeichnungspflicht für KI-Inhalte

Ab dem 2. August 2026 gelten in der Europäischen Union neue Transparenzregeln für künstlich generierte Inhalte. Die Vorschriften, die auf Artikel 50 der KI-Verordnung (AI Act) basieren, verpflichten Anbieter und Betreiber dazu, bestimmte KI-Erzeugnisse eindeutig zu kennzeichnen. Betroffen sind vor allem Inhalte, die täuschend echt wirken und mit realen Aufnahmen verwechselt werden könnten. Dazu zählen insbesondere KI-generierte Bilder, Videos und Audioaufnahmen, etwa realistisch wirkende Fotos oder Stimmenimitationen. Die Kennzeichnung muss maschinenlesbar erfolgen, beispielsweise durch entsprechende Metadaten. Diese technische Umsetzung ist erforderlich, damit automatisierte Systeme – etwa Suchmaschinen oder Plattformen zur Inhalte-Moderation – die künstliche Herkunft zuverlässig erkennen und entsprechend filtern oder einordnen können.

Keine pauschale Pflicht für Texte – Ausnahmen definiert

Entgegen mancher Darstellung müssen nicht alle KI-generierten Texte gekennzeichnet werden. Eine pauschale Kennzeichnungspflicht für Textinhalte sieht die Verordnung nicht vor. Die Transparenzpflicht greift nur in Fällen, in denen ein Täuschungspotenzial besteht. Hintergrund ist das Ziel der Verordnung, gezielt vor Irreführung und Manipulation zu schützen – wo keine Verwechslungsgefahr mit menschengemachten Inhalten droht, ist eine Kennzeichnung nicht erforderlich. Zudem definiert das Gesetz zwei konkrete Ausnahmen: Die Pflicht entfällt, wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden, da hier eine verantwortliche Person die inhaltliche Richtigkeit und Transparenz sicherstellt. Ebenfalls keine Kennzeichnung ist nötig, wenn die Interaktion mit einer KI für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist. Für Medienhäuser, Publisher und Unternehmen im E-Commerce bedeutet dies, dass etwa automatisch erstellte Produkttexte nicht zwingend als KI-generiert markiert werden müssen.

EU stellt offizielle Kennzeichnungssymbole bereit

Zur Unterstützung der neuen Pflichten hat die Europäische Union offizielle Symbole entwickelt. Anbieter generativer KI-Systeme können diese Kennzeichnungen verwenden, um ihre Inhalte im Einklang mit den Transparenzvorschriften zu markieren. Die Symbole sind frei verfügbar und integraler Bestandteil des Verhaltenskodex für die Kennzeichnung von KI-generierten Inhalten. Ein solcher Kodex ist notwendig, um eine einheitliche, für Nutzer sofort erkennbare visuelle Kennzeichnung zu gewährleisten – etwa als Wasserzeichen oder Label direkt am Bild oder Video. Neben dieser sichtbaren Markierung bleibt die maschinenlesbare Kennzeichnung, etwa durch Metadaten, die zentrale technische Anforderung. In erster Linie trifft die Pflicht die Anbieter der KI-Systeme selbst – also Unternehmen wie OpenAI oder Google –, die ihren Output als künstlich erzeugt markieren müssen. Für andere Betreiber gilt die Kennzeichnungspflicht vor allem bei der Veröffentlichung von Deepfakes.

Zwischen Innovationsbremse und globalem Vorbild

Während acetaminophenpt in r/ArtificialInteligence warnt, dass der Ausschluss von Modellen wie Llama 3.2 aus der EU den Fortschritt behindern könnte, verweist jman6495 in r/ArtificialInteligence auf kurzfristige Kosten, aber langfristige Wettbewerbsfähigkeit und die Signalwirkung für andere Regionen. acetaminophenpt in r/ArtificialInteligence zieht Parallelen zur DSGVO, die anfangs ähnlich kritisiert wurde, heute aber als globaler Standard gilt – ein Hinweis darauf, dass sich die strengen Regeln mit der Zeit als Vorteil erweisen könnten.