Transparenz beim Einsatz von Künstlicher
Intelligenz nach Artikel 50 des AI Act
Artikel 50 der Verordnung (EU) 2024/1689 (AI Act) legt Transparenzpflichten für bestimmte Systeme der Künstlichen Intelligenz fest. Ziel dieser Vorschriften ist es, dass du erkennen kannst, wann du mit einem KI-System interagierst oder wann Inhalte vollständig oder wesentlich mithilfe von KI erstellt oder verändert wurden.
Die Anforderungen aus Artikel 50 gelten nicht für alle KI-Systeme, sondern nur für bestimmte Kategorien von Systemen und Inhalten, bei denen das Fehlen entsprechender Informationen Menschen irreführen könnte.
Für wen gelten die Anforderungen?
Provider (Anbieter)
Beispiele:
- OpenAI ist der Provider von ChatGPT.
- Adobe ist der Provider von Adobe Firefly.
- Ein Unternehmen, das ein eigenes KI-Modell entwickelt und seinen Kunden anbietet, ist ebenfalls ein Provider.
Der Provider ist dafür verantwortlich, dass das KI-System den Anforderungen des AI Act entspricht. Erzeugt das System beispielsweise Bilder, muss der Anbieter sicherstellen, dass diese als KI-generierte oder KI-veränderte Inhalte gekennzeichnet bzw. identifizierbar sind.
Deployer (Betreiber oder Nutzer)
Beispiele:
- Ein Onlineshop nutzt einen Chatbot.
- Eine Bank setzt ein System zur Emotionserkennung ein.
- Eine Redaktion veröffentlicht Inhalte, die mit KI erstellt wurden.
- Eine Marketingagentur erstellt Werbematerialien mithilfe generativer KI.
Auch wenn du das KI-System nicht selbst entwickelt hast, sondern einen bestehenden Dienst nutzt, kannst du als Deployer gelten und eigene Pflichten nach Artikel 50 des AI Act haben.
Welche Transparenzpflichten gelten je nach Art des KI-Systems und des Inhalts?
Pflichten des Deployers (Betreibers)
Art des Inhalts oder KI-Systems
Pflicht
Ausnahmen
Wenn du einen Text veröffentlichst, der mit Hilfe von KI erstellt oder wesentlich verändert wurde und der die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert, musst du offenlegen, dass KI eingesetzt wurde.
- das KI-System wird rechtmäßig zur Verhütung, Aufdeckung, Ermittlung oder Verfolgung von Straftaten eingesetzt;
- der Inhalt wurde von einem Menschen redaktionell geprüft und eine natürliche oder juristische Person übernimmt die redaktionelle Verantwortung.
Wenn du Deepfake-Inhalte veröffentlichst, musst du darauf hinweisen, dass diese künstlich erzeugt oder wesentlich mit KI verändert wurden.
- Einsatz zu rechtmäßigen Zwecken der Strafverfolgung;
- der Inhalt ist Teil eines eindeutig künstlerischen, kreativen, satirischen oder fiktiven Werks und die Verwendung von KI wird in geeigneter Weise offengelegt.
Beim Einsatz solcher Systeme musst du:
- die betroffenen Personen über den Einsatz des KI-Systems informieren;
- sicherstellen, dass personenbezogene Daten gemäß den Verordnungen (EU) 2016/679 (DSGVO) und (EU) 2018/1725 verarbeitet werden.
- rechtmäßiger Einsatz zu Zwecken der Strafverfolgung unter Einhaltung der gesetzlichen Schutzmaßnahmen.
Pflichten des Providers (Anbieters)
Art des KI-Systems
Pflicht
Ausnahmen
Der Provider muss sicherstellen, dass Nutzer darüber informiert werden, wenn sie mit einem KI-System interagieren.
- aus dem Kontext ist eindeutig erkennbar, dass es sich um ein KI-System handelt;
- das System wird rechtmäßig für Zwecke der Strafverfolgung eingesetzt.
Der Provider muss sicherstellen, dass die erzeugten Inhalte:
- in einem maschinenlesbaren Format gekennzeichnet sind;
- als künstlich erzeugt oder wesentlich verändert erkannt werden können;
- mit einer technischen Lösung versehen sind, die wirksam, interoperabel, zuverlässig und robust ist.
- das KI-System dient ausschließlich der unterstützenden Bearbeitung oder Standardverarbeitung von Inhalten;
- das KI-System verändert weder den Inhalt noch dessen Bedeutung wesentlich;
- das KI-System wird rechtmäßig zu Zwecken der Strafverfolgung eingesetzt.
Empfehlungen zur Kennzeichnung
Die Europäische Kommission hat einen offiziellen Satz von EU AI Icons entwickelt. Diese können von Erstellern, Herausgebern und anderen Nutzern generativer KI-Systeme verwendet werden, um Inhalte zu kennzeichnen, die vollständig oder wesentlich mithilfe von Künstlicher Intelligenz erstellt oder verändert wurden.
Die Icons stehen kostenlos in vier Varianten zur Verfügung:
Alle Varianten können in den Formaten SVG und PNG heruntergeladen werden.
Empfehlungen zur Verwendung
Das Icon sollte bereits beim ersten Kontakt mit dem veröffentlichten Text oder einem Deepfake gut sichtbar und leicht erkennbar sein.
Das Icon sollte möglichst direkt neben dem gekennzeichneten Inhalt platziert werden, ohne trennende Zwischenelemente.
Soweit möglich sollte das Icon unmittelbar in den veröffentlichten Text oder den Deepfake integriert werden (mit Ausnahme bestimmter kreativer Werke). Alternativ können gleichwertige Darstellungsformen verwendet werden, beispielsweise über Elemente der Benutzeroberfläche.
Die Kennzeichnung sollte auch bei einer erneuten Veröffentlichung oder beim Herunterladen des Inhalts erhalten bleiben.
- Für generative KI-Systeme, die vor dem 2. August 2026 auf den Markt gebracht wurden, gilt bis Dezember 2026 eine Übergangsfrist für die Erfüllung der Anforderungen des Artikels 50 Absatz 2 des AI Act zur maschinenlesbaren Kennzeichnung von Inhalten.
- Für Deepfakes, die vor dem 2. August 2026 erstellt wurden, besteht keine Verpflichtung zur nachträglichen Kennzeichnung. Die Europäische Kommission empfiehlt jedoch, solche Inhalte nach Möglichkeit freiwillig zu kennzeichnen.
Hinweis: Bei der Erstellung dieser Inhalte wurde Künstliche Intelligenz als unterstützendes Werkzeug eingesetzt.
