Transparenzpflichten für KI-Systeme

Warum Transparenz bei KI wichtig ist

Transparenz ist ein Grundpfeiler des EU KI-Gesetzes. Menschen haben das Recht zu wissen, wann sie mit KI interagieren, wie KI-basierte Entscheidungen zustande kommen und welche Informationen für diese Entscheidungen herangezogen werden. Diese Transparenz stärkt das Vertrauen in KI-Technologien und ermöglicht es Betroffenen, ihre Rechte wahrzunehmen.

Die Transparenzpflichten im AI Act sind differenziert nach Risikokategorien gestaffelt. Während für minimalriskische KI-Systeme nur grundlegende Kennzeichnungspflichten gelten, müssen Betreiber von hochriskanten KI-Systemen umfassende Informationen bereitstellen.

Transparenzpflichten nach Risikokategorie

KI-generierte Inhalte kennzeichnen

Wenn ein KI-System Texte, Bilder, Audio oder Video erzeugt, die dazu bestimmt sind, als von Menschen erstellt wahrgenommen zu werden, müssen diese klar als KI-generiert gekennzeichnet werden. Dies gilt insbesondere für synthetische Medien, sogenannte Deepfakes, sowie für KI-generierte Musik oder Sprachaufnahmen.

Die Kennzeichnung muss so erfolgen, dass sie für den durchschnittlichen Nutzer eindeutig erkennbar ist. Es reicht nicht aus, lediglich in den AGB oder in versteckten Fußnoten auf den KI-Einsatz hinzuweisen. Die Information muss dort bereitgestellt werden, wo der Nutzer mit dem Inhalt interagiert.

Chatbot-Kennzeichnung

Chatbots und andere KI-gestützte Kommunikationssysteme müssen klar als KI gekennzeichnet werden. Nutzer müssen bereits beim Start einer Konversation darauf hingewiesen werden, dass sie mit einem KI-System interagieren. Diese Pflicht gilt unabhängig davon, ob der Chatbot auf einer Website, in einer App oder über einen Sprachassistenten erreichbar ist.

Die Kennzeichnung sollte nicht nur den Namen oder das Logo des Systems umfassen, sondern auch einen kurzen Hinweis auf die KI-Natur der Konversation. Zusätzlich sollten Nutzer darüber informiert werden, welche Daten verarbeitet werden und wie sie mit einem menschlichen Ansprechpartner interagieren können.

Informationen bei KI-gestützten Entscheidungen

Wenn KI-Systeme Entscheidungen treffen oder beeinflussen, die Rechte oder Chancen von Personen betreffen, müssen betroffene Personen umfassend informiert werden. Dies umfasst Informationen über die Tatsache, dass ein KI-System eingesetzt wird, die Logik und Funktionsweise des Systems (in verständlicher Form), die Daten, die für die Entscheidung herangezogen werden, sowie das Recht, die Entscheidung anzufechten oder menschliche Überprüfung zu verlangen.

Transparenz für verschiedene KI-Kategorien

Besondere Anforderungen für hochrisiko KI

Für hochrisiko KI-Systeme gelten erweiterte Transparenzpflichten, die über die grundlegenden Kennzeichnungspflichten hinausgehen. Diese Systeme müssen so konzipiert sein, dass sie von den Betroffenen als KI-Systeme erkannt werden können. Zusätzlich müssen umfassende Informationen über das System, seinen Einsatzzweck und seine Funktionsweise bereitgestellt werden.

Technische Dokumentation für Behörden

Hochrisiko KI-Systeme müssen umfassende technische Dokumentation enthalten, die auf Anfrage den zuständigen Behörden zur Verfügung gestellt werden muss. Diese Dokumentation umfasst Informationen über das Systemdesign, die Trainingsdaten, die algorithmische Architektur und die Testverfahren. Das Ziel ist, eine wirksame Überwachung und Durchsetzung des Gesetzes zu ermöglichen.

Informationen für betroffene Personen

Personen, die von hochriskanten KI-Systemen betroffen sind, haben das Recht auf klare und verständliche Informationen über die Funktionsweise des Systems. Sie müssen verstehen können, wie die KI zu einer sie betreffenden Entscheidung beigetragen hat. Dies ist besonders wichtig für Entscheidungen im Bereich Beschäftigung, Kreditvergabe oder sozialer Leistungen.

Praktische Umsetzung der Transparenzpflichten

Website-Chatbot

Für Website-Chatbots empfiehlt sich ein mehrstufiger Ansatz zur Transparenz: Zunächst sollte ein auffälliges Banner oder eine Welcome-Nachricht den Nutzer darüber informieren, dass er mit einem KI-Chatbot interagiert. Zusätzlich sollte das Chat-Interface selbst durch Design und Benennung als KI erkennbar sein. Schließlich sollten in den Einstellungen oder über einen Info-Button weiterführende Informationen über die Datenverarbeitung und Ansprechpartner verfügbar sein.

KI-generierte Inhalte auf Websites

KI-generierte Texte, Bilder oder Videos sollten unmittelbar bei der Darstellung als solche gekennzeichnet werden. Für Texte eignet sich ein Hinweis am Anfang oder Ende des Artikels. Für Bilder empfiehlt sich ein sichtbares Wasserzeichen oder eine Beschriftung. Zusätzlich sollten in den Metadaten der Inhalte Informationen über den KI-Ursprung hinterlegt werden, um auch technisch die Nachvollziehbarkeit zu gewährleisten.

KI-gestützte Entscheidungssysteme

Wenn KI-Systeme Entscheidungen unterstützen oder treffen, sollten Betroffene nicht nur über den KI-Einsatz informiert werden, sondern auch über die wesentlichen Faktoren, die in die Entscheidung eingeflossen sind. Zusätzlich sollten sie das Recht erhalten, die Entscheidung anzufechten und eine menschliche Überprüfung zu verlangen.

Häufige Fehler bei der Umsetzung

Viele Unternehmen begehen Fehler bei der Umsetzung der Transparenzpflichten, die zu Verstößen und Bußgeldern führen können. Diese Fehler sollten vermieden werden:

• Versteckte Hinweise: KI-Kennzeichnungen in AGB, Fußnoten oder anderen schwer auffindbaren Stellen sind nicht ausreichend.
• Unklare Formulierungen: Formulierungen wie "Wir nutzen moderne Technologien" erfüllen nicht die Anforderung der klaren Kennzeichnung.
• Fehlende Kontextbezüge: Die Kennzeichnung muss dort erfolgen, wo der Nutzer mit der KI interagiert.
• Keine Anfechtungsmöglichkeit: Bei automatisierten Entscheidungen muss immer ein Weg zur menschlichen Überprüfung angeboten werden.
• Unzureichende Metadaten: Für KI-generierte Inhalte sollten technische Markierungen in den Dateieigenschaften hinterlegt werden.

Fazit

Transparenzpflichten sind ein zentraler Bestandteil des EU KI-Gesetzes. Von der einfachen Chatbot-Kennzeichnung bis zur umfassenden Information bei automatisierten Entscheidungen – Unternehmen müssen sicherstellen, dass Nutzer und betroffene Personen klar und verständlich über den KI-Einsatz informiert werden.

Die Zeit bis August 2026 sollte genutzt werden, um alle KI-Systeme auf Transparenzpflichten zu prüfen und erforderliche Anpassungen vorzunehmen. ComplianceClaw hilft dir, die richtige Kennzeichnung für deine KI-Systeme zu implementieren und alle relevanten Informationen bereitzustellen.