--- name: begrenztes-risiko-art-50-transparenzpflichten description: "Unternehmen setzt Chatbot Deepfake-Tool oder KI-Textgenerator ein und fragt: Welche Hinweispflichten treffen uns gegenüber Nutzern? Art. 50 KI-VO begrenztes Risiko. Prüfraster: Chatbot-Hinweispflicht Art. 50 Abs. 1 KI-VO Deepfake-Kennzeichnungspflicht Art. 50 Abs. 4 KI-VO KI-generierter Text bei..." --- # Begrenztes Risiko — Transparenzpflichten nach Art. 50 KI-VO ## Kategorie 1 — Chatbot-Hinweispflicht (Art. 50 Abs. 1 KI-VO) **Anwendungsbereich:** Anbieter von KI-Systemen, die direkt mit natürlichen Personen interagieren (Chatbots, virtuelle Assistenten). **Pflicht:** Sicherstellen, dass natürliche Personen darüber informiert werden, dass sie mit einem KI-System interagieren — es sei denn, dies ist aufgrund der Umstände und des Kontexts offensichtlich. **Prüffragen:** - Handelt es sich um ein System, das in natürlicher Sprache mit Menschen interagiert? - Wissen die Nutzer, dass sie mit einem KI-System sprechen? - Ist es aus dem Kontext heraus offensichtlich (z.B. explizit als Chatbot vermarktet)? **Ausnahme:** Wenn offensichtlich ist, dass ein KI-System interagiert (z.B. durch die Plattformgestaltung oder Produktbeschreibung), entfällt die aktive Hinweispflicht. **Form des Hinweises:** Die KI-VO schreibt keine bestimmte Form vor. Der Hinweis muss jedoch klar und verständlich sein. Empfehlung: Hinweis zu Beginn der Interaktion, nicht in den AGB vergraben. **Ausnahme für Strafverfolgung:** Art. 50 Abs. 5 KI-VO ermöglicht es Strafverfolgungsbehörden unter engen Voraussetzungen, den Hinweis nicht zu erteilen, wenn die Aufgabe dies erfordert. ## Kategorie 2 — Deepfake-Kennzeichnungspflicht (Art. 50 Abs. 2 KI-VO) **Anwendungsbereich:** Betreiber (nicht Anbieter) von KI-Systemen, die Bild-, Audio-, Video- oder Textinhalte erzeugen, die täuschend echten echten Personen, Orten oder Gegenständen ähneln. **Pflicht:** Die Inhalte als KI-generiert oder KI-manipuliert zu kennzeichnen, auf eine für den Empfänger der Inhalte erkennbare Weise — maschinell lesbar und erkennbar für Dritte. **Ausnahmen (Art. 50 Abs. 2 Unterabsatz 2 KI-VO):** - Inhalte, die zum offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Ausdruck gehören, wenn sie als solche eindeutig kenntlich gemacht sind - Inhalte, die für Zwecke der öffentlichen Sicherheit oder nationalen Sicherheit genutzt werden **Prüffragen:** - Erzeugt das System Bilder, Videos, Audio oder Text, die als von realen Personen stammend wirken könnten? - Wird der Inhalt öffentlich verbreitet? - Handelt es sich um offensichtliche Satire oder Kunst (dann ggf. Ausnahme)? ## Kategorie 3 — KI-generierter Text bei öffentlichem Interesse (Art. 50 Abs. 3 KI-VO) **Anwendungsbereich:** Anbieter und Betreiber von KI-Systemen, die Text in erheblichem Umfang generieren, der öffentliche Interessen berührt (insbesondere Wahlen, öffentliche Debatten, politische Propaganda). **Pflicht:** Sicherstellung, dass KI-generierter Text als solcher erkennbar gemacht wird, wenn er öffentlich verbreitet wird. **Prüffragen:** - Generiert das System Texte, die öffentliche Interessen berühren? - Werden die Texte öffentlich verbreitet, ohne als KI-generiert kenntlich gemacht zu sein? ## Kategorie 4 — Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 4 KI-VO) **Anwendungsbereich:** Anbieter und Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen. **Pflicht:** Unterrichtung der betroffenen natürlichen Personen über den Betrieb des Systems. **Hinweis:** Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist verboten (Art. 5 Abs. 1 lit. f KI-VO). Art. 50 Abs. 4 KI-VO gilt nur für Einsatzszenarien, die nicht unter Art. 5 fallen. ## Technische Umsetzung Für maschinell lesbare Kennzeichnung empfiehlt die Kommission den Einsatz von Standards wie C2PA (Content Credentials) oder ähnlichen Metadaten-Standards. Harmonisierte Normen sind noch in Entwicklung. ## Sanktionen bei Verstößen Verstöße gegen Art. 50 KI-VO können mit Bußgeldern bis zu 15 Mio EUR oder drei Prozent des weltweiten Jahresumsatzes geahndet werden (Art. 99 Abs. 4 KI-VO). ## Faktische Updates (Stand 05/2026) - **02.08.2026 — Anwendung Art. 50 KI-VO:** Die Transparenzpflichten nach Art. 50 KI-VO werden ab dem 02.08.2026 verbindlich (Art. 113 lit. c KI-VO). Anbieter und Betreiber muessen Kennzeichnungs- und Hinweissysteme bis zu diesem Stichtag implementiert haben. - **C2PA-Standards / maschinenlesbare Kennzeichnung:** Fuer die maschinenlesbare Kennzeichnung von Deepfakes / synthetischen Inhalten (Art. 50 Abs. 2 KI-VO) sind harmonisierte Normen in Vorbereitung (CEN/CENELEC). C2PA Content Credentials gilt als de-facto-Standard, ist aber noch nicht harmonisiert. Stand live pruefen. - **Schnittstelle zu UrhG, UWG, MStV:** Bei Deepfakes / Persoenlichkeitsbild beachten: § 22 KUG, § 823 BGB i.V.m. § 1004 BGB analog, §§ 5/5a UWG (Irrefuehrung), § 5 Abs. 6 MStV (medienrechtliche Kennzeichnungspflicht). KI-VO ergaenzt, ersetzt diese Vorschriften nicht. --- Hinweis: Keine Rechtsberatung. Mechanische Prüfung anhand vom Nutzer behaupteter Tatsachen. Die KI-VO ist in Auslegung und Konkretisierung dynamisch; Leitlinien der Kommission und Durchführungsrechtsakte sind laufend zu beobachten. ## Aktuelle Rechtsprechung (v14.2) - Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren. ## Zentrale Normen (Paragrafenkette) - Art. 3 Nr. 3/4 KI-VO — Anbieter / Betreiber-Definition - Art. 5 KI-VO — verbotene Praktiken (absolut ab 02.02.2025) - Art. 6 i.V.m. Anhang III KI-VO — Hochrisiko-Klassifikation - Art. 26 KI-VO — Betreiberpflichten - Art. 99 KI-VO — Bussgelder bis 35 Mio. EUR / 7 % Jahresumsatz ## Triage zu Beginn 1. Welche Rolle hat das Unternehmen im KI-Lieferkette (Art. 3 KI-VO — Anbieter, Betreiber, Importeur)? 2. Liegt ein Hochrisiko-System vor (Art. 6 i.V.m. Anhang III Nr. 1-8 KI-VO)? 3. Sind verbotene Praktiken nach Art. 5 KI-VO ausgeschlossen? 4. Welche konkreten Pflichten aus dem aktuellen Skill-Kontext sind einschlaegig? 5. Ist die Massnahme fristgerecht umgesetzt (KI-VO Stufenplan bis 02.08.2026)? ## Output-Template — Pruefergebnis **Adressat:** Pruefer / Rechtsberater — Tonfall: strukturiert-rechtlich ``` PRUEFERGEBNIS — BEGRENZTES RISIKO ART 50 TRANSPARENZPFLICHTEN [DATUM] — System: [SYSTEMNAME] — Mandant: [NAME MANDANT] [AKTENZEICHEN] Gepruefte Norm(en): [Art. 50 Rn. 3] Ergebnis: [ ] Anforderung erfuellt [ ] Anforderung nicht erfuellt — Massnahmen erforderlich: 1. [MASSNAHME — Verantwortlicher: NAME — Frist: DATUM] [ ] Nicht einschlaegig — Begruendung: [BEGRUENDUNG] Sanktionsrisiko: [NIEDRIG / MITTEL / HOCH — bis [BETRAG] nach Art. 99 KI-VO] Naechster Skill: [FOLGE-SKILL] Geprueft: [NAME], [DATUM] ```