Viktor Schneider

Zurück zum Blog ·

KI-Kennzeichnung ohne Panik: was Artikel 50 wirklich verlangt

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des AI Act. Seitdem überschlagen sich die Berater mit Abmahn-Panik: alles kennzeichnen, sofort, sonst drohen bis zu 15 Millionen Euro. Ich habe mir die Sache aus Sicht eines Serverbetreibers angeschaut – jemand, der ein lokales Sprachmodell betreibt, ein paar n8n-Workflows laufen hat und ab und zu Text veröffentlicht. Das Ergebnis ist deutlich entspannter, als die Überschriften vermuten lassen.

Erst einordnen: in welcher der vier Kisten steckst du?

Artikel 50 kennt vier Situationen, und nur wer in einer davon steckt, hat überhaupt eine Pflicht. Wichtig: Es geht nicht um „High-Risk" – die Transparenzpflichten gelten für jedes KI-System, auch Open Source. Aber sie gelten eben nur in diesen vier Fällen:

  1. Direkter Kontakt mit Menschen. Chatbots, Assistenten, Telefonbots. Der Anbieter muss so bauen, dass Nutzer merken, dass sie mit einer KI reden.
  2. Synthetische Inhalte. Wer Text, Bilder, Audio oder Video erzeugt, muss die Ausgaben maschinenlesbar kennzeichnen und erkennbar machen.
  3. Emotionserkennung und biometrische Kategorisierung.
  4. Deepfakes und öffentlich relevante Texte. Wer KI-generierten Text mit dem Zweck veröffentlicht, die Öffentlichkeit zu informieren, muss das kennzeichnen.

Der Kern meiner Arbeit: Ich betreibe ein lokales Modell über Ollama und verarbeite dessen Ausgaben in eigenen Workflows. Bin ich damit „Anbieter" oder „Betreiber"? Diese Unterscheidung ist der erste Schritt, den die meisten überspringen.

Wer nur sein eigenes Modell auf dem eigenen Server laufen lässt, ohne es Kunden anzubieten, ist in den allermeisten Fällen Betreiber, nicht Anbieter. Das ändert viel, weil die Pflichten unterschiedlich sind.

Der Punkt, an dem es technisch dünn wird

Die maschinenlesbare Kennzeichnung aus Artikel 50(2) ist technisch spannend und gleichzeitig das schwächste Glied. Für Bilder und Videos gibt es inzwischen einen funktionierenden Standard: C2PA, die Content Credentials. Ein Bild trägt Metadaten, die belegen, ob und wie es von einer KI erzeugt wurde.

Für Text sieht es anders aus. Ein lokales Modell, das mir über eine API eine Antwort liefert, schreibt von sich aus kein C2PA-Feld in irgendeine Datei. Es gibt schlicht keinen etablierten, breit unterstützten Weg, einen Klartext-Absatz „maschinenlesbar" als KI-generiert zu markieren. Wer heute ernsthaft versucht, seine Textausgaben C2PA-konform zu machen, steht vor einem Werkzeugkasten, der noch nicht zusammengebaut ist.

Das ist kein Grund zur Panik, sondern einer, ehrlich zu sein: Für die meisten Betreiber ist die maschinenlesbare Kennzeichnung von Text heute schlicht nicht sauber umsetzbar. Die Kommission arbeitet an Leitlinien und einem Code of Practice, aber die praktischen Standards sind noch nicht final. Für Systeme, die vor dem 2. August 2026 auf dem Markt waren, gilt ohnehin eine Übergangsfrist bis zum 2. Dezember 2026.

Was ich konkret tue – und was nicht

Statt auf den perfekten Standard zu warten, habe ich für meine drei realen Anwendungsfälle eine einfache Einordnung getroffen:

Der Blog. Hier schreibe ich (oder mein Agent) Texte, die ich vor der Veröffentlichung lese und redigiere. Artikel 50(4) hat genau dafür eine Ausnahme: Wer KI-generierten Text zu Themen von öffentlichem Interesse veröffentlicht, muss nicht kennzeichnen, wenn eine menschliche Überprüfung stattfindet und jemand die redaktionelle Verantwortung trägt. Genau das ist bei mir der Fall – und es ist die ehrlichste Lösung, weil sie nicht nur den Buchstaben, sondern auch den Sinn trifft: Der Leser bekommt keinen rohen Modell-Output, sondern etwas, das ich gelesen und verantwortet habe.

Die Agenten und Reports. Mein Assistent erzeugt täglich Zusammenfassungen und Auswertungen. Das sind interne Artefakte, keine Veröffentlichung an die Öffentlichkeit. Die Transparenzpflicht greift hier schlicht nicht – niemand wird über den Inhalt getäuscht, weil er nie nach außen geht.

Ein Chatbot für Kunden. Den habe ich aktuell nicht. Würde ich einen bauen, wäre der Fall klar: Das System muss von Anfang an erkennbar machen, dass eine KI antwortet – nicht in den AGB versteckt, sondern im ersten Moment der Interaktion. Ein einzeiliger Hinweis im Chat genügt in den meisten Fällen nicht als „klar und unterscheidbar"; die Leitlinien verlangen, dass es wirklich auffällt.

Der gemeinsame Nenner: Erst die Kiste bestimmen, dann die minimale Pflicht erfüllen. Wer einen Chatbot betreibt, hat eine andere Pflicht als wer einen Blog redigiert. Die meisten Abmahn-Panik-Szenarien zerfallen, sobald man sich fragt, welche der vier Situationen überhaupt vorliegt.

Die Checkliste, die ich mir selbst hingelegt habe

Kurz und konkret, mehr braucht es für den Anfang nicht:

Die Strafen von bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes sind real – aber sie treffen den, der Menschen mit Deepfakes täuscht oder einen Bot als Menschen ausgibt, nicht den, der sein eigenes Modell für interne Reports laufen lässt.

Was ich mitnehme

Artikel 50 ist für mich vor allem ein Anlass, sauber zu trennen: Was ist intern, was geht nach außen, und wer trägt für das Nach-außen-Gehende die Verantwortung? Diese Trennung hätte ich ohnehin gebraucht – das Gesetz zwingt mich nur, sie explizit zu machen.

Und wie so oft gilt: Erst einordnen, dann bauen. Wer in Panik alle Texte mit einem Label zukleistert oder wochenlang an einer C2PA-Integration für Text bastelt, die es noch gar nicht sauber gibt, hat das Problem nicht verstanden. Der erste Schritt ist nicht die Technik, sondern die Frage, in welcher Kiste man überhaupt sitzt.