EU-AI-Act: Was er für die Technische Redaktion bedeutet

Kaum ein Gesetz hat in den letzten zwei Jahren für so viel Verunsicherung gesorgt wie die Verordnung (EU) 2024/1689, der EU-AI-Act. Auch Technische Redaktionen, die Künstliche Intelligenz nutzen, fragen sich oft, ob er für sie gilt und welche Pflichten daraus resultieren.

Eines ist klar: Wer Anleitungen, Hilfetexte oder Produktdokumentationen erstellt und dabei KI-Tools nutzt, ist von der Verordnung tatsächlich betroffen. Welche Pflichten sich daraus ergeben, schauen wir uns einmal genauer an.

Was der EU-AI-Act regelt und ab wann

Die Verordnung (EU) 2024/1689 ist am 1. August 2024 in Kraft getreten. Die Anwendung ist allerdings zeitlich gestaffelt. Hier hat sich in den letzten Monaten auch einiges verschoben. Der ursprüngliche Zeitplan wurde durch den sogenannten AI Omnibus an mehreren Stellen angepasst; insbesondere wurden einzelne Fristen für Hochrisiko-KI-Systeme verlängert. Aktuell gilt:

• Februar 2025: Verbotene KI-Praktiken nach Art. 5 sind bereits untersagt (etwa Social Scoring oder biometrische Massenüberwachung).
• August 2025: Die Pflichten für Anbieter von KI-Modellen für allgemeine Zwecke (GPAI, Kapitel V) greifen, relevant vor allem für Anbieter großer Sprachmodelle wie OpenAI oder Anthropic.
• August 2026: Die Transparenzpflichten nach Art. 50 Abs. 1, etwa die Kennzeichnungspflicht für Chatbots, treten in Kraft.
• Dezember 2027: Die Pflichten für Hochrisiko-KI nach Kapitel III und Anhang III (z. B. KI in Personalauswahl oder Bildung) gelten. Ursprünglich war hier der 2. August 2026 vorgesehen, das Datum wurde verschoben.
• August 2028: Hochrisiko-KI, die in Produkte eingebettet ist (Anhang I), muss die Anforderungen erfüllen. Auch dieser Termin wurde gegenüber dem ursprünglichen Plan (2. August 2027) nach hinten verlegt.

Der EU-AI-Act regelt also im Kern, wie KI-Systeme je nach Risiko eingestuft und behandelt werden, welche Pflichten Anbieter und Nutzende treffen und wie Transparenz gegenüber Endnutzer:innen hergestellt wird. Er gilt für alle Unternehmen, die KI-Systeme in der EU entwickeln, anbieten oder nutzen, unabhängig vom Firmensitz.

Anbieter oder Betreiber? Die entscheidende Frage

Bevor man sich durch Paragrafen wühlt, lohnt sich eine einzige Frage: Welche Rolle nimmt mein Unternehmen ein?

Der EU-AI-Act unterscheidet grundlegend zwischen zwei Perspektiven:

• Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt.
• Betreiber ist dagegen, wer ein KI-System in eigener Verantwortung nutzt, ohne es selbst zu entwickeln oder zu vermarkten.

Für die allermeisten Technischen Redaktionen ist die Antwort eindeutig: Sie sind in der Regel Betreiber, nicht Anbieter. Wer ChatGPT, Claude, DeepL oder Copilot für Texterstellung, Übersetzung oder Recherche einsetzt, entwickelt kein KI-System, sondern nutzt es. Das grenzt den relevanten Pflichtenkreis erheblich ein.  Die umfangreichen Anforderungen an Anbieter, die im öffentlichen Diskurs viel Raum einnehmen, treffen die klassische Technische Redaktion damit in der Regel nicht. Es gibt aber Ausnahmen.

Wichtige Pflichten für Technische Redaktionen nach dem EU-AI-Act

Was heißt das nun ganz praktisch, wenn Sie als Betreiber KI-Tools im Redaktionsalltag einsetzen? Fünf Punkte verdienen Ihre Aufmerksamkeit:

1. Die Offenlegungspflicht für KI-generierte Texte greift bei klassischer Technischer Dokumentation in der Regel nicht. Artikel 50 Absatz 4 betrifft Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Gewöhnliche Handbücher und Bedienungsanleitungen fallen typischerweise nicht darunter.
   Selbst wenn ein Text grundsätzlich in den Anwendungsbereich fällt, entfällt die Pflicht, wenn er einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Ein dokumentierter Review- und Freigabeprozess ist daher sinnvoll.
2. KI-Kompetenz ist längst Pflicht – und wird oft übersehen. Art. 4 verlangt seit dem 2. Februar 2025, dass Personal, das KI-Tools nutzt, über ausreichende KI-Kompetenz verfügt. Gemeint sind Schulungen zum kritischen Umgang mit KI-generierten Texten und Wissen um typische Fehlerquellen wie Halluzinationen.
3. Eine gesetzliche Meldepflicht an Behörden gibt es für Betreiber nicht. Trotzdem lohnt sich Nachvollziehbarkeit, also eine Dokumentation darüber, welches Tool wofür eingesetzt wird.
4. Die Offenlegungspflicht für Bild-, Ton- und Videoinhalte gilt nach Artikel 50 Absatz 4 unabhängig davon, ob ein öffentliches Interesse vorliegt. Sie betrifft jedoch nicht jedes KI-generierte Bild, sondern Bild-, Ton- oder Videoinhalte, die als Deepfake einzustufen sind – also Inhalte, die bestehenden Personen, Objekten, Orten oder Ereignissen ähneln und fälschlich als echt oder wahrheitsgetreu erscheinen könnten. Für künstlerische, kreative, satirische oder fiktionale Werke gelten besondere Erleichterungen. Bei fotorealistischen KI-Darstellungen von Produkten in Anleitungen sollte daher im Einzelfall geprüft werden, ob der Inhalt den Eindruck einer echten Aufnahme oder eines tatsächlichen Produktzustands erweckt.
5. Seit dem 2. August 2026 müssen Anbieter von KI-Systemen nach Artikel 50 Absatz 1 sicherstellen, dass Personen informiert werden, wenn sie direkt mit einem KI-System interagieren – etwa mit einem Chatbot oder einem KI-gestützten Hilfeassistenten in einer Produktdokumentation.

Einen kleinen Zusatz habe ich noch: Achten Sie auf eine mögliche Rollenverschiebung. Vertreiben Sie ein KI-System unter eigenem Namen weiter oder verändern Sie es durch Fine-Tuning oder ähnliche Eingriffe, kann unter Umständen Art. 25 relevant werden: Sie werden vom Betreiber zum Anbieter, mit allen damit verbundenen erweiterten Pflichten. Ob ein eigener Doku-Chatbot Sie zum Anbieter macht, müssen Sie ggf. vorab prüfen.

Der EU-AI-Act trifft also auch Technische Redaktionen, wenn auch deutlich leiser, als es die Schlagzeilen vermuten lassen. Viele geforderte oder sinnvolle Prozesse wie Freigaben und interne Prozessdokumentation sind für Technische Redakteur:innen ohnehin bereits Alltag. Wenn Sie hier noch Nachholbedarf haben, zeigt unser Blogartikel „Qualitätsprüfung ohne (CMS-)Lizenz: Ein cleverer Prozess für externe Reviews“, wie ein Review- und Freigabeprozess effizient aufgestellt werden kann.

In Sachen Nachvollziehbarkeit und interner Prozessdokumentation können Sie z.B. Metadaten vergeben (manuell oder automatisiert, wenn Texte etwa in einem Workflow automatisch mit KI erzeugt werden). Diese können später ausgewertet und zur Kennzeichnung verwendet werden. Sinnvoll ist das etwa bei einer anschließenden Publikation von Texten auf Webseiten.

Und wenn Sie auf der Suche nach Weiterbildung sind, dann lohnt ein Blick auf unsere PowerWebinare und unser KI-Coaching.

Hinweis: Dieser Artikel gibt eine allgemeine Einordnung wieder und ersetzt keine individuelle Rechtsberatung. Bei konkreten Compliance-Fragen zu Ihrer Situation empfehlen wir, sich an eine entsprechend spezialisierte Kanzlei zu wenden.