Der AI Act gilt seit dem 2. August 2026 mit neuen Transparenzpflichten für KI-Systeme und künstlich erzeugte Inhalte auch in Deutschland. Wie die Redaktion Techify.de unter Berufung auf die Europäische Kommission berichtet, müssen Nutzer in bestimmten Situationen erkennen können, dass sie mit einer künstlichen Intelligenz interagieren oder mit Bildern, Tonaufnahmen, Videos und Texten konfrontiert werden, die durch KI erzeugt oder erheblich verändert wurden. Betroffen sind insbesondere Chatbots, Sprachassistenten, Deepfakes, biometrische Kategorisierung, Emotionserkennung und bestimmte Veröffentlichungen zu Themen von öffentlichem Interesse.
Eine pauschale Pflicht, jede KI-App in Deutschland bereits im App-Namen oder im App-Store mit einem Warnhinweis zu versehen, enthält Artikel 50 jedoch nicht. Entscheidend ist, welche Funktion das System erfüllt, wie es mit Menschen interagiert und welche Inhalte erzeugt oder eingesetzt werden. Die Pflichten treffen deshalb unterschiedliche Akteure: Anbieter müssen ihre Systeme technisch entsprechend gestalten, während Betreiber und professionelle Nutzer bestimmte Anwendungen oder Veröffentlichungen sichtbar offenlegen müssen. Grundlage ist Artikel 50 der Verordnung über künstliche Intelligenz.
Chatbots und Sprachassistenten müssen sich als KI zu erkennen geben
Anbieter von KI-Systemen, die unmittelbar mit natürlichen Personen kommunizieren, müssen sicherstellen, dass die Betroffenen darüber informiert werden, dass sie mit einem KI-System und nicht mit einem Menschen interagieren. Das betrifft beispielsweise Kundenservice-Chatbots, automatisierte Beratungsdialoge, virtuelle Assistenten und KI-basierte Telefonsysteme.
Der Hinweis muss spätestens bei der ersten Interaktion erfolgen. Nach dem Gesetz ist keine zusätzliche Kennzeichnung erforderlich, wenn für einen durchschnittlich informierten und aufmerksamen Nutzer bereits eindeutig erkennbar ist, dass er mit einer künstlichen Intelligenz kommuniziert. Ob dies der Fall ist, hängt vom konkreten Aufbau, vom Kontext und von der Darstellung des Systems ab.
„Die betroffenen natürlichen Personen [müssen] darüber informiert werden, dass sie mit einem KI-System interagieren.“
(Artikel 50 Absatz 1 des EU AI Act, geltende Fassung)
Ein menschlich klingender Name, ein realistisches Profilbild oder eine natürlich wirkende Stimme können die Notwendigkeit eines ausdrücklichen Hinweises erhöhen, wenn die künstliche Herkunft sonst nicht klar erkennbar ist.
Ausgenommen sind bestimmte gesetzlich zugelassene Systeme zur Erkennung, Verhütung, Untersuchung oder Verfolgung von Straftaten. Die Ausnahme gilt jedoch nicht ohne Weiteres für öffentlich zugängliche Systeme, über die Bürger Straftaten melden können.
KI-Bilder, Audios, Videos und Texte brauchen maschinenlesbare Markierungen
Anbieter generativer KI-Systeme müssen Ausgaben technisch so kennzeichnen, dass künstlich erzeugte oder manipulierte Inhalte zuverlässig erkannt werden können. Diese Pflicht betrifft laut Europäischer Kommission grundsätzlich:
- KI-generierte oder KI-manipulierte Texte,
- künstlich erzeugte Bilder und Videos,
- synthetische Sprache, Musik und sonstige Audiodateien.
Die Kennzeichnung soll maschinenlesbar sein. Sie richtet sich damit nicht nur an Menschen, sondern auch an Plattformen, Prüfprogramme und andere technische Systeme. Als mögliche Verfahren kommen Metadaten, Herkunftsinformationen oder andere technische Markierungen infrage. Die konkrete Lösung muss nach dem Stand der Technik wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch möglich ist.
Nicht jede automatische Bildkorrektur löst diese Pflicht aus. Artikel 50 nimmt Systeme aus, die lediglich eine unterstützende Funktion bei einer gewöhnlichen Bearbeitung übernehmen und die Eingabedaten oder deren Aussage nicht wesentlich verändern. Eine klassische Belichtungskorrektur, Rauschreduzierung oder Rechtschreibprüfung ist daher anders zu bewerten als das Erzeugen einer neuen Person, das Austauschen eines Gesichts oder die inhaltliche Umgestaltung einer Aufnahme.
Für Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden, gilt nach der inzwischen konsolidierten Fassung eine Übergangsfrist: Anbieter müssen die technischen Kennzeichnungspflichten grundsätzlich bis zum 2. Dezember 2026 umsetzen.
Deepfakes müssen für das Publikum sichtbar offengelegt werden
Wer ein KI-System professionell einsetzt und damit ein Deepfake erzeugt oder verbreitet, muss offenlegen, dass das Material künstlich generiert oder manipuliert wurde. Der AI Act definiert ein Deepfake als Bild-, Audio- oder Videoinhalt, der existierende Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse nachbildet und fälschlicherweise echt oder authentisch wirken kann.
Die Pflicht betrifft unter anderem:
- manipulierte Videos realer Politiker, Prominenter oder Unternehmensvertreter,
- synthetische Sprachaufnahmen, die einer realen Person zugeschrieben werden könnten,
- realistisch erzeugte Fotos angeblicher Ereignisse oder Orte,
- veränderte Videoaufnahmen, in denen Personen Handlungen oder Aussagen zugeschrieben werden.
„Deepfakes […] müssen gekennzeichnet werden.“
(Europäische Kommission, Mitteilung zu den seit 2. August 2026 geltenden Transparenzregeln)
Bei künstlerischen, satirischen, fiktionalen oder vergleichbaren Werken bleibt die Offenlegungspflicht bestehen, sie darf jedoch so umgesetzt werden, dass die Darstellung oder der Genuss des Werkes nicht beeinträchtigt wird. Ein Hinweis im Vor- oder Abspann, in der Beschreibung oder an einer vergleichbaren gut sichtbaren Stelle kann daher ausreichen, sofern eindeutig erkennbar bleibt, dass KI-generiertes oder manipuliertes Material verwendet wurde.
Eine rückwirkende Kennzeichnung von Deepfakes, die bereits vor dem 2. August 2026 erzeugt wurden, ist nach den von der Kommission veröffentlichten Kurzinformationen nicht verpflichtend. Eine freiwillige Kennzeichnung wird empfohlen.
KI-Texte über Politik, Gesundheit und andere öffentliche Themen
Besondere Regeln gelten für KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dazu können je nach Kontext Texte über Politik, Wahlen, öffentliche Sicherheit, Gesundheit, Behördenentscheidungen, Wirtschaftspolitik oder gesellschaftlich relevante Ereignisse gehören.
Eine Kennzeichnung ist erforderlich, wenn ein solcher Text ohne wirksame menschliche Prüfung oder redaktionelle Kontrolle veröffentlicht wird. Wurde der Text dagegen von einem Menschen geprüft und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, greift diese spezielle Offenlegungspflicht nicht.
„Die Verpflichtung gilt nicht, wenn der KI-generierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde.“
(Artikel 50 Absatz 4 des EU AI Act)
Damit verlangt der AI Act nicht, dass jeder journalistische oder kommerzielle Text gekennzeichnet wird, bei dessen Erstellung ein KI-Werkzeug verwendet wurde. Entscheidend sind der Veröffentlichungszweck, der Bezug zu einem Thema von öffentlichem Interesse und das Fehlen menschlicher redaktioneller Kontrolle.
Ein von einer Redaktion geprüfter Text fällt damit nicht automatisch unter dieselbe Kennzeichnungspflicht wie ein vollständig automatisiert veröffentlichter Nachrichtenbeitrag.
Emotionserkennung und biometrische Kategorisierung
Unternehmen, Behörden und andere Betreiber müssen Personen informieren, wenn sie einem System zur Emotionserkennung oder biometrischen Kategorisierung ausgesetzt werden. Emotionserkennung bezeichnet dabei KI-Systeme, die anhand biometrischer Daten Emotionen oder Absichten ableiten sollen. Biometrische Kategorisierung ordnet Personen aufgrund biometrischer Merkmale bestimmten Kategorien zu.
Der Hinweis muss klar und unterscheidbar sein und spätestens erfolgen, wenn die betroffene Person erstmals mit dem System konfrontiert wird. Zusätzlich gelten die Datenschutz-Grundverordnung und weitere europäische Datenschutzregeln weiter. Der AI Act ersetzt diese Vorschriften nicht.
Was Unternehmen und App-Betreiber jetzt prüfen müssen
Für Betreiber von Websites, Apps, Onlineshops, Medienangeboten und Kundenservices ergeben sich vor allem drei Prüfbereiche:
- Kommuniziert das eingesetzte System direkt mit Nutzern und ist seine KI-Eigenschaft eindeutig erkennbar?
- Werden Bilder, Audios, Videos oder Texte erzeugt, die technisch oder sichtbar gekennzeichnet werden müssen?
- Werden Deepfakes oder automatisierte Texte zu Themen von öffentlichem Interesse veröffentlicht?
Die Europäische Kommission hat dazu Leitlinien zu den Transparenzpflichten sowie einen freiwilligen Verhaltenskodex für KI-generierte Inhalte veröffentlicht. Unternehmen, die den Kodex nicht anwenden, können ihre Einhaltung der Kennzeichnungspflichten auch mit anderen gleichwertigen Maßnahmen nachweisen.
Verstöße gegen Transparenzpflichten können nach den allgemeinen Sanktionsregeln des AI Act mit Geldbußen von bis zu 15 Millionen Euro oder bei Unternehmen mit bis zu drei Prozent des weltweiten Jahresumsatzes geahndet werden. Für kleine und mittlere Unternehmen gelten verhältnismäßige Obergrenzen. Zuständig sind nationale Marktüberwachungsbehörden, das europäische AI Office und in bestimmten Fällen der Europäische Datenschutzbeauftragte.
Sie können dies und weitere nützliche Informationen auf unserer Website nachlesen. Wir empfehlen Ihnen außerdem die Lektüre folgender Artikel: Android-Handy wechselt ständig zwischen WLAN und mobilen Daten: Diese Einstellung ist der Grund
