Seit dem 2. August gilt in der EU eine neue Regel, die fast alle von uns irgendwie betrifft: Artikel 50 des AI Act. Er betrifft nicht nur Grosskonzerne mit eigener Rechtsabteilung, sondern auch das Zweipersonen-Team, das letzte Woche einen Blogpost mit ChatGPT vorformuliert und nur noch die Tippfehler korrigiert hat.
Also dachte ich, ich blogge mal darüber. Was müssen wir jetzt wirklich kennzeichnen – und was nicht?
Liebe Schweizer; das gilt für uns auch!
«Gilt nicht für uns, wir sind ja nicht in der EU» stimmt so nicht. Der AI Act wirkt extraterritorial nach dem sogenannten Marktortprinzip – massgeblich ist nicht, wo ein Unternehmen sitzt, sondern wo der Output landet. Wer als Schweizer Agentur oder Verlag Inhalte produziert, die in der EU genutzt oder gelesen werden – etwa auf einer Website, die auch deutsches oder österreichisches Publikum erreicht –, fällt damit ebenfalls unter die Regel. Nur wer ausschliesslich für ein rein schweizerisches Publikum publiziert, bewegt sich ausserhalb des Geltungsbereichs. In der Praxis ist das bei den meisten von uns eher die Ausnahme als die Regel.
Was Artikel 50 eigentlich verlangt
Der AI Act unterscheidet drei Situationen, für die eine Kennzeichnungspflicht gilt:
Erstens: Wenn jemand direkt mit einem KI-System interagiert – zum Beispiel mit einem Chatbot auf einer Website –, muss das erkennbar sein. Das betrifft primär die Anbieter solcher Systeme, ist aber für alle relevant, die einen Chatbot einsetzen.
Zweitens: Deepfakes – also KI-generierte oder -manipulierte Bilder, Audio- oder Videoinhalte, die wie echte Personen, Orte oder Ereignisse aussehen. Hier gilt die Pflicht übrigens auch, wenn niemand täuschen wollte. Es reicht, dass der Inhalt authentisch wirkt.
Drittens – und das ist für uns als Publishing-Leute der wichtigste Punkt: KI-generierte oder -manipulierte Texte zu Themen von öffentlichem Interesse müssen als solche gekennzeichnet werden, wenn sie veröffentlicht werden, um die Öffentlichkeit zu informieren.
Wo Bearbeitung aufhört und Kennzeichnungspflicht anfängt
Wichtig dabei: Reines Korrekturlesen oder sprachliches Glätten reicht nicht, um aus der Pflicht herauszukommen. Wer einen ChatGPT-Output nimmt und nur die Rechtschreibung prüft, fällt trotzdem unter die Regel. Die Grenze liegt bei redaktioneller Bearbeitung – sobald ein Mensch den Inhalt substanziell einordnet, ergänzt oder verantwortet, wird es differenzierter. Genau da beginnt für viele Redaktionen die eigentliche Unsicherheit.
Die Ausnahme greift nur, wenn zwei Dinge zusammenkommen:
- Erstens muss der Inhalt eine echte menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen haben – gemeint ist damit eine bewusste inhaltliche Prüfung durch eine sachkundige Person, die den Text tatsächlich verändern oder zurückweisen könnte. Eine reine Rechtschreibkorrektur oder ein formaler Freigabeklick reichen laut den Leitlinien der EU-Kommission ausdrücklich nicht.
- Zweitens braucht es eine natürliche oder juristische Person, die für die Veröffentlichung die redaktionelle Verantwortung übernimmt – also meist die Redaktionsleitung oder Autor:innen. Eine Dokumentationspflicht schreibt Artikel 50 dafür nicht vor, im Streitfall lohnt es sich aber trotzdem, den Redaktionsprozess nachvollziehbar zu halten.
Wo es Ausnahmen gibt
Satirische, künstlerische oder klar fiktionale Inhalte sind unter bestimmten Bedingungen ausgenommen. Bei Deepfakes im künstlerischen Kontext reicht es zum Beispiel, auf die KI-Bearbeitung so hinzuweisen, dass es das Werk nicht stört – ein dezenter Hinweis statt eines grossen Warnbanners.
Für redaktionelle Standardtexte gibt es diese Erleichterung nicht im gleichen Mass. Wer KI zur Texterstellung nutzt und diese Texte als journalistische oder informierende Inhalte veröffentlicht, muss transparent sein.
Was das für Agenturen und Publisher konkret heisst
Für uns im Alltag heisst das:
- Workflows dokumentieren. Wo genau kommt KI im Redaktionsprozess zum Einsatz — bei der Recherche, beim Erstellstext, bei der Bildgenerierung? Das muss nachvollziehbar sein, nicht nur im Kopf der Redaktion.
- Klare Linie zwischen «KI-unterstützt» und «KI-generiert» ziehen. Ein Mensch, der aus einer KI-Recherche einen eigenen Artikel schreibt, ist etwas anderes als ein Mensch, der einen KI-Text nur noch freigibt.
- Kennzeichnung technisch mitdenken, nicht nachträglich draufkleben. Wenn ihr mit einem CMS oder Redaktionssystem arbeitet, lohnt sich die Überlegung, ein eigenes Feld oder eine Taxonomie für «KI-Anteil», die sich sauber ins Template und in Feeds (RSS, Newsletter, PDF) durchzieht, hinzuzufügen – statt jedes Mal von Hand einen Satz in den Text zu schreiben.
- Bildmaterial nicht vergessen. KI-generierte Beitragsbilder oder Illustrationen fallen genauso unter die Regel wie Text.
Die Bussen sind kein Kleingedrucktes
Bei Verstössen drohen Bussen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Für die meisten von uns realistischer als eine Busse ist aber der Vertrauensverlust bei Leser:innen, wenn nachträglich rauskommt, dass ein Artikel unmarkiert komplett von einer KI stammt. Die Kennzeichnungspflicht ist in dem Sinn auch einfach eine Formalisierung von etwas, das ohnehin gute journalistische Praxis sein sollte.
Und was ist mit Privatpersonen?
Die Verordnung nimmt rein persönliche, nichtberufliche Tätigkeiten ausdrücklich aus – wer privat ein KI-Bild in die Familien-Chatgruppe schickt, muss nichts kennzeichnen. Diese Ausnahme wird aber eng ausgelegt. Sobald eine Tätigkeit regelmässig wirtschaftlichen Zwecken dient oder im Rahmen einer beruflichen, gewerblichen oder selbstständigen Tätigkeit erfolgt, greift sie nicht mehr. Konkret heisst das: Ein privates Instagram-Story-Bild ist wohl unproblematisch, dasselbe Bild auf dem beruflichen LinkedIn-Profil einer freien Journalistin oder Agentur fällt unter die Pflicht. Die Grenze verläuft also nicht bei der Grösse des Teams, sondern beim beruflichen Kontext – und der ist bei uns in der Publishing-Branche fast immer gegeben.
Letztlich ist das ohnehin die sicherere Haltung: Lieber einmal zu viel kennzeichnen als zu wenig. Transparent zu arbeiten schützt nicht nur vor Bussen, sondern vor allem vor dem Vertrauensverlust, der entsteht, wenn Leser:innen den KI-Anteil selbst entdecken müssen.
Mich interessiert: Habt ihr das Thema bei euch schon auf dem Schirm – oder kommt es gerade zum ersten Mal auf den Tisch?
Über mich
6 Kommentare
@Ivan: Danke für deinen Kommentar. Ich glaube, ich habe das im Beitrag missverständlich formuliert. Die Analogie geht so leider nicht ganz auf: Die «Mensch prüft und verantwortet»-Ausnahme gilt laut Artikel 50 nur für Text. Bei Bildern, vor allem bei Deepfakes, zählt nicht, ob jemand draufgeschaut hat, sondern ob das Ergebnis eine reale Person, einen Ort oder ein Ereignis täuschend echt zeigt – auch sorgfältig redigierte KI-Bilder bleiben da kennzeichnungspflichtig. Massgeblich ist bei Bildern eher die andere Unterscheidung: Wurde die Bildaussage substanziell verändert? Weniger; wer hat draufgeschaut?
Hallo Simea,
viele Bilder aus der Adobe Cloud sind KI-generiert. Sobald ich diese nutze muss ich kennzeichnen. Was passiert wenn ich eigene Bilder beispielsweise mit Photoshop freistelle. (Hintergrund entfernen) Schon automatische Masken werden meist über KI erstellt.
Wie kennzeichnet ich so etwas? Reicht „KI-bearbeitet“ aus? Muss ich das in jedem Bild, beispielsweise auf einem Flyer, oder einmalig unterbringen?
Hallo Sascha
Danke für deinen Kommentar – gute Frage! Da musste ich auch zuerst mal recherchieren. Die Grenze zwischen «bearbeitet» und «generiert» ist offenbar der Knackpunkt.
Kurz zusammengefasst: Reines Freistellen bzw. Hintergrund entfernen fällt in der Regel unter die Ausnahme für Routine-Bearbeitung (siehe hier: https://artificialintelligenceact.eu/article/50, unter 2. «This obligation shall not apply to the extent the AI systems perform an assistive function for standard editing or do not substantially alter the input data provided by the deployer or the semantics thereof, or where authorised by law to detect, prevent, investigate or prosecute criminal offences.»).
Auch wenn im Hintergrund eine KI die Maske berechnet, ändert sich die Bildaussage dadurch nicht wesentlich – deshalb löst das für sich genommen keine Kennzeichnungspflicht aus. Anders sieht es aus, sobald du mit generativen Tools wie «Generative Fill» oder «Generative Expand» tatsächlich neuen Bildinhalt dazu erfindest, zum Beispiel einen ergänzten Hintergrund. Da wird es zur Grauzone, und eher zur inhaltlichen Frage. Je nachdem, was dargestellt wird (v. a. bei Personen, Orten oder bei Produktfotos), kann Kennzeichnungspflicht entstehen.
Bilder, die komplett KI-generiert sind – auch aus der Adobe Cloud, wenn sie als «Generative AI» markiert sind – fallen dagegen klar unter die Pflicht, sobald du sie veröffentlichst.
Zu «KI-bearbeitet»: Das reicht meiner Einschätzung nach nicht ganz, weil es nicht unterscheidet zwischen «mit KI-Unterstützung bearbeitet» und «mit KI erzeugt».
Am Ende geht es ja um eine inhaltliche Frage, nicht nur um die Technik und KI an sich: «Wurde die Bildaussage verändert – ist also etwas im Bild, das vorher nicht da war oder anders aussah, wird jemand getäuscht – oder wurde nur technisch nachgeholfen, ohne dass sich am Inhalt etwas ändert?» Danach solltest du auch die Kennzeichnung ausrichten.
Gut ist sicher im Zweifelsfall ist ein klarer, sichtbarer Hinweis direkt am Bild – als Bildunterschrift, Wasserzeichen oder in der Fusszeile, nicht nur im Alt-Text. Für digitale Ausgabekanäle gibt es ja auch noch die Content Credentials (https://contentcredentials.org/): Das sind maschinenlesbare Metadaten, die direkt in der Bilddatei festhalten, ob und mit welchem Tool generative KI beteiligt war. Photoshop und Firefly schreiben das bei generativen Funktionen mittlerweile automatisch mit. Für einen Flyer im Print löst das dein Problem aber nicht – die Metadaten gehen beim Druck verloren, da bleibt nur die sichtbare Kennzeichnung direkt am Bild.
Und ja, nach aktuellem Stand der Leitlinien gehört das grundsätzlich an jedes einzelne kennzeichnungspflichtige Bild, nicht nur einmal auf den ganzen Flyer verteilt – ein Sammelvermerk «enthält KI-generierte Bilder» irgendwo auf der Seite dürfte die Anforderung an eine «klare und unmissverständliche» Kennzeichnung pro Inhalt nicht erfüllen.
Aber ganz ehrlich: Wie streng das in der Praxis tatsächlich ausgelegt wird, muss sich erst noch an konkreten Fällen zeigen — die Leitlinien sind neu, und bislang gibt es keine Präzedenzfälle, an denen man sich orientieren kann. Bis dahin würde ich im Zweifel eher zu viel als zu wenig kennzeichnen.
Liebe Simea,
vielen Dank für deine ausführliche Rückmeldung. Ich denke auch, dass die Welle erst am anrollen ist. Aber (dubiose) Abmahner sitzen bestimmt schon in den Startlöchern. Also ist Vorsicht geboten.
Ja, definitiv … Vorsichtig sein, aber mit Menschenverstand 🙂
Vgl. „Erstens muss der Inhalt eine echte menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen haben – gemeint ist damit eine bewusste inhaltliche Prüfung durch eine sachkundige Person, die den Text tatsächlich verändern oder zurückweisen könnte.“
Wenn dies für *Texte* gilt, dann dürfte dies umso mehr für die grafische Bearbeitung durch einen Menschen mit Zuhilfenahme von KI-Tools gelten.
Sprich: als Grundsatz gilt wohl in etwa:
a) Wenn ein Mensch den Inhalt redigiert/überbarbeitet/verantwortet, resp. die Inhaltserstellung steuert, dann ist es OK
b) Wenn die KI einen Inhalt erstellt, der +/- ungeprüft/unverändert verwendet wird, dann ist es nicht OK