Viele Unternehmen nutzen bereits künstliche Intelligenz, um auf Kundenanfragen zu reagieren, Bilder zu erstellen, Texte zu verfassen, Daten zu analysieren oder Geschäftsprozesse zu automatisieren. Das Problem besteht darin, dass diese Tools oft eingeführt wurden, ohne zu berücksichtigen, wer die Ergebnisse kontrolliert, wie die Nutzer informiert werden und wer im Fehlerfall reagiert.
Von dem 2. August 2026 Diese informelle Steuerung birgt deutlich höhere Risiken. Die in Artikel 50 des KI-Gesetzes, der europäischen Verordnung über künstliche Intelligenz, festgelegten Transparenzpflichten treten in Kraft. Nutzer müssen erkennen können, wann sie mit einem automatischen System interagieren und wann Inhalte künstlich generiert oder verändert wurden.
Der Wandel betrifft nicht nur große Technologieplattformen. Er kann Unternehmen, Fachleute, E-Commerce-Websites, Verlage, Agenturen, öffentliche Einrichtungen und Organisationen einbeziehen, die Chatbots, Sprachassistenten, Content-Generatoren, biometrische Systeme oder Tools zur Emotionserkennung einsetzen.
Die eigentliche Frage lautet daher nicht mehr nur: “Nutzen wir künstliche Intelligenz?”
UND: “Wissen die Leute, wann wir es benutzen, und kontrolliert irgendjemand tatsächlich, was sie produzieren?”
Was ist das KI-Gesetz?
Das AI-Gesetz, formell EU-Verordnung 2024/1689, ist die europäische Gesetzgebung, die die Entwicklung, den Vertrieb und die Nutzung von Systemen künstlicher Intelligenz regelt.
Die Verordnung verfolgt einen risikobasierten Ansatz. Sie behandelt nicht alle Anwendungen gleich, sondern führt unterschiedliche Verpflichtungen ein, je nachdem, welche Auswirkungen ein System auf Menschen, Sicherheit und Grundrechte haben kann.
Anwendungen mit geringem Risiko bleiben weitgehend von spezifischen Anforderungen ausgenommen. Für Systeme mit Manipulationsrisiken, mangelnder Transparenz oder erheblichen Auswirkungen auf Einzelpersonen werden jedoch Kontrollen, Meldepflichten und spezifischere Verantwortlichkeiten eingeführt.
Ziel ist es nicht, Unternehmen an der Nutzung künstlicher Intelligenz zu hindern. Vielmehr soll verhindert werden, dass diese auf unsichtbare, unkontrollierte oder potenziell irreführende Weise eingesetzt wird.
Warum der 2. August 2026 ein entscheidendes Datum ist
Das KI-Gesetz trat am 1. August 2024 in Kraft, seine Umsetzung erfolgte jedoch gestaffelt.
Verbote bestimmter als inakzeptabel erachteter Praktiken sowie Anforderungen an die KI-Kompetenz traten am 2. Februar 2025 in Kraft. Andere Bestimmungen, darunter solche, die sich auf allgemeine KI-Modelle beziehen, traten am 2. August 2025 in Kraft.
Das 2. August 2026 Allerdings tritt eine deutlich erweiterte Fassung der Verordnung in Kraft. Zu den wichtigsten Änderungen für Unternehmen und Freiberufler zählen die Transparenzpflichten gemäß Artikel 50, die Regelungen für zahlreiche Hochrisikosysteme sowie neue Kontroll- und Durchsetzungsbefugnisse. Einige Bestimmungen, insbesondere für bestimmte Kategorien von Hochrisikosystemen, gelten jedoch erst später. Daher ist es nicht ganz korrekt, anzunehmen, dass das gesamte KI-Gesetz ab diesem Datum uneingeschränkt anwendbar ist.
Dieses Datum bleibt ein Wendepunkt: Der Einsatz von KI, ohne zu wissen, wo sie eingesetzt wird, welche Inhalte sie erzeugt und wie diese den Nutzern kommuniziert werden, wird nicht länger nur eine Frage interner Unordnung sein.
Das zentrale Prinzip: Die Menschen müssen wissen, wann KI eingreift.
Die offensichtlichste Änderung betrifft das Recht der Menschen, zu verstehen, wann sie mit einem automatisierten System interagieren oder wann sie mit künstlich erzeugten Inhalten konfrontiert werden.
Artikel 50 unterscheidet zwischen Lieferanten, das heißt, diejenigen, die bestimmte Systeme entwickeln oder zur Verfügung stellen, und professionelle Anwender, In der Verordnung werden diese als Anwender definiert, d. h. Unternehmen und Organisationen, die diese Systeme in ihren Tätigkeiten nutzen.
Die Pflichten variieren je nach Rolle. Systemanbieter müssen das System regelkonform gestalten. Anwender müssen die Nutzung überprüfen, gegebenenfalls Personen informieren und die Verantwortung für die Ergebnisse übernehmen.
Die Verwendung von Software eines anderen Unternehmens schließt daher nicht automatisch jegliche Haftung aus.
Chatbots und virtuelle Assistenten müssen sich deklarieren
Wenn eine Person direkt mit einem KI-System interagiert, muss sie klar über den automatischen Charakter der Interaktion informiert werden, es sei denn, dies ist bereits aus den Umständen ersichtlich.
Die Regel betrifft möglicherweise:
- auf Webseiten installierte Chatbots;
- Virtuelle Assistenten für den Kundenservice;
- Sprachsysteme für Reservierungen und Telefonzentralen;
- Automatisierte Agenten im Vertrieb eingesetzt;
- Werkzeuge, die eine erste Auswahl von Anfragen vornehmen;
- Digitale Assistenten, die in Portale und Anwendungen integriert sind.
Man sollte nicht erst am Ende eines Gesprächs merken, dass man gar nicht mit jemandem gesprochen hat. Die Informationen sollten verständlich sein und zum richtigen Zeitpunkt präsentiert werden.
Für Unternehmen bedeutet dies die Überprüfung von Erstnachrichten, Screenshots, Sprachaufzeichnungen, Supportwegen und Übergaben an einen menschlichen Mitarbeiter.
Das Problem ist nicht die Verwendung eines Chatbots. Es ist vielmehr, dass der Nutzer glaubt, mit einem Menschen zu sprechen, obwohl dies nicht der Fall ist.
Die generierten Bilder, Audio-, Video- und Textdateien müssen erkennbar sein.
Anbieter von Systemen, die synthetische Inhalte erzeugen oder verändern, müssen technische Lösungen einsetzen, die solche Inhalte als künstlich erkennbar machen.
Die Kennzeichnung muss maschinenlesbar, interoperabel, wirksam und technisch zuverlässig sein. Sie kann daher in Form von Metadaten, digitalen Wasserzeichen oder anderen im Inhalt eingebetteten Identifikationssystemen erfolgen.
Diese Verpflichtung obliegt primär den Systemanbietern, doch auch Unternehmen, die diese in ihre Prozesse integrieren, müssen Vorsicht walten lassen. Inhalte können beschnitten, komprimiert, verändert, exportiert oder auf eine Plattform hochgeladen werden, wodurch Teile der Originalinformationen verloren gehen.
Bevor man einen Bild-, Audio- oder Videogenerator verwendet, genügt es nicht, sich nur zu fragen, wie realistisch das Ergebnis ist. Es lohnt sich, Folgendes zu überprüfen:
- wenn das System eine Markierung anwendet;
- Welche Art von Kennzeichnung wird verwendet?;
- falls es nach dem Export weiterhin vorhanden ist;
- sofern es bei späteren Änderungen entfernt werden kann;
- Welche Informationen stellt der Hersteller zur Konformität bereit?.
Inhalte zu erstellen ist einfach. Ihre Herkunft nachzuweisen und sie ordnungsgemäß zu verwalten, kann viel schwieriger sein.
Deepfake: Wenn die Kennzeichnung verpflichtend wird
Das KI-Gesetz definiert Deepfake Audio-, Video- oder visuelle Inhalte, die von künstlicher Intelligenz generiert oder manipuliert werden und real existierende Personen, Objekte, Orte, Entitäten oder Ereignisse darstellen und fälschlicherweise als authentisch erscheinen können.
Wer ein System zur Erstellung oder Änderung solcher Inhalte verwendet, muss klar angeben, dass das Material künstlich erzeugt oder manipuliert wurde.
Das Thema umfasst Werbekampagnen, politische Kommunikation, Informationsinhalte, Unternehmensvideos, realistische Rekonstruktionen, prägnante Zeugenaussagen und in sozialen Medien veröffentlichte Materialien.
Für künstlerische, satirische, kreative oder fiktionale Werke gelten flexiblere Regelungen, um das Erlebnis des Werkes nicht zu beeinträchtigen. Die Transparenz bleibt jedoch erhalten.
Es genügt nicht, einfach einen versteckten Text in die Beschreibung oder am Seitenende einzufügen. Die Kommunikation muss klar, sichtbar und dem verwendeten Medium angemessen sein.
Die Europäische Kommission hat zudem spezielle Symbole zur Kennzeichnung künstlich erzeugter Inhalte bereitgestellt. Deren Verwendung ist optional, die Informationspflicht bleibt jedoch in den dafür vorgesehenen Fällen bestehen.
Artikel und Inhalte von öffentlichem Interesse: Nicht alles, was KI schreibt, muss als öffentlich-rechtlich gemeldet werden.
Eine der heikelsten Fragen betrifft Texte, die von künstlicher Intelligenz generiert oder manipuliert und veröffentlicht werden, um die Öffentlichkeit über Themen von allgemeinem Interesse zu informieren.
In diesen Fällen muss der Einsatz von KI offengelegt werden, es sei denn, der Inhalt wurde einem menschlichen Prüfprozess oder einer redaktionellen Kontrolle unterzogen und eine Person oder Organisation übernimmt die Verantwortung für seine Veröffentlichung.
Dieser Schritt ist entscheidend, weil er eine weit verbreitete Vereinfachung verhindert: Ab dem 2. August 2026 wird es nicht mehr nötig sein, wahllos “KI-generierter Inhalt” unter jeden Text zu schreiben, bei dem ein automatisches Tool verwendet wurde.
Entscheidend ist, wie KI eingesetzt wird.
Ein automatisch erstellter und ohne Überprüfung veröffentlichter Artikel stellt ein anderes Problem dar als ein Text, bei dem künstliche Intelligenz als Hilfsmittel eingesetzt wurde, der aber von einem Redaktionsleiter geprüft, korrigiert und freigegeben wurde.
Die Einhaltung der Vorschriften hängt daher nicht allein vom verwendeten Instrument ab, sondern vom Vorhandensein eines wirksamen Kontrollprozesses.
Emotionserkennung und biometrische Kategorisierung
Die Transparenzverpflichtungen gelten auch für Systeme, die biometrische Merkmale analysieren oder behaupten, die Emotionen und Zustände von Menschen zu erkennen.
Wer diese Werkzeuge einsetzt, muss alle Personen, die von deren Betrieb betroffen sind, darüber informieren. Diese Verpflichtung gilt sowohl für Analysen, die in Echtzeit erfolgen, als auch für nachträgliche Analysen von Aufzeichnungen oder gesammelten Daten.
Anwendungsbeispiele:
- Arbeitsplätze;
- Geschäfte und Einkaufszentren;
- Ereignisse;
- Sicherheitssysteme;
- Kundenanalyse;
- Personalauswahl und -management;
- Dienstleistungen, die der Öffentlichkeit zugänglich sind.
Die im KI-Gesetz vorgeschriebenen Offenlegungspflichten ersetzen nicht die Datenschutzbestimmungen. Verarbeitet das System personenbezogene oder biometrische Daten, muss das Unternehmen zudem dessen Vereinbarkeit mit der DSGVO und anderen anwendbaren Vorschriften sicherstellen.
Nur weil eine Technologie auf dem Markt verfügbar ist, heißt das nicht, dass sie für jeden Zweck verwendet werden kann.
Wer muss sich anpassen?
Die Verpflichtungen betreffen nicht nur diejenigen, die komplexe Modelle künstlicher Intelligenz entwickeln.
Organisationen, die Systeme von Drittanbietern nutzen oder in ihre eigenen Prozesse integriert haben, müssen ebenfalls Vorsicht walten lassen. Potenziell betroffen sind unter anderem Unternehmen, Freiberufler, Agenturen, Verlage, E-Commerce-Websites, öffentliche Einrichtungen, digitale Plattformen und Unternehmen, die die Interaktion mit Kunden, Nutzern oder Mitarbeitern automatisieren.
Der erste Fehler, den es zu vermeiden gilt, ist zu denken: “Wir haben das System nicht entwickelt, daher betrifft es uns nicht.”
Ein Unternehmen kann in einem Projekt als Lieferant, in einem anderen als professioneller Anwender und in einem dritten als Teil einer größeren Wertschöpfungskette auftreten. Um die Verpflichtungen zu verstehen, muss zunächst die jeweilige Rolle des Unternehmens ermittelt werden.
Was Unternehmen tatsächlich tun müssen
Um sich auf den 2. August 2026 vorzubereiten, reicht es nicht aus, eine allgemeine Erklärung in die Datenschutzerklärung aufzunehmen. Wir müssen neu konstruieren, wo und wie künstliche Intelligenz tatsächlich in Geschäftsprozesse Einzug hält.
1. Alle verwendeten Werkzeuge erfassen
Es ist notwendig, Chatbots, Textgeneratoren, Kreativplattformen, Sprachsysteme, Analysetools und KI-Funktionen zu erfassen, die in die von den Mitarbeitern genutzte Software und Dienste integriert sind.
Auch scheinbar sekundäre Funktionen können relevante Inhalte, Entscheidungen oder Interaktionen hervorbringen.
2. Die Rolle des Unternehmens herausarbeiten
Für jedes System muss geklärt werden, ob es sich bei der Organisation um einen Lieferanten, Systemintegrator, Vertriebspartner oder professionellen Anwender handelt.
Ohne diese Unterscheidung ist es schwer zu verstehen, welche Verpflichtungen dem Unternehmen und welche dem Hersteller obliegen.
3. Schnittstellen und Meldungen prüfen.
Chatbots, Sprachassistenten und automatisierte Agenten müssen den Benutzer klar darüber informieren, wann die Interaktion mit einem KI-System stattfindet.
Die Botschaft muss zum richtigen Zeitpunkt erscheinen und darf nicht in allgemeinen Bedingungen versteckt sein, die während der Nutzung niemand beachtet.
4. Lieferantenkennzeichnungen und Funktionalität prüfen.
Unternehmen, die generative Werkzeuge einsetzen, sollten die Produzenten fragen, welche Auszeichnungs- und Erkennungssysteme auf die Inhalte angewendet werden.
Die allgemeine Zustimmung zu den Nutzungsbedingungen einer Software bedeutet nicht, dass Sie deren Konformität überprüft haben.
5. Festlegen, wer die Kontrolle ausübt und Genehmigungen erteilt
Wenn KI Texte, Bilder, Analysen oder Antworten für die Öffentlichkeit erstellt, muss klar sein, wer die abschließende Kontrolle durchführt.
“Das System hat es geschaffen” ist keine Verfahrensanweisung und entbindet die Organisation nicht von ihrer Verantwortung.
6. Nachweise über Prüfungen aufbewahren
Interne Richtlinien, Geräteprotokolle, Betriebsanweisungen, durchgeführte Audits und zugewiesene Verantwortlichkeiten tragen dazu bei, nachzuweisen, dass KI nicht unreguliert eingesetzt wird.
Compliance bedeutet nicht nur, das Richtige zu tun. Es geht auch darum, nachweisen zu können, wie es getan wurde.
Der Europäische Verhaltenskodex kann hilfreich sein, ersetzt aber nicht das Gesetz.
Die Europäische Kommission hat einen Verhaltenskodex zur Transparenz von KI-generierten Inhalten veröffentlicht.
Die Teilnahme ist freiwillig, kann aber Lieferanten und Nutzern helfen, die Einhaltung der Kennzeichnungs- und Etikettierungsvorschriften nachzuweisen. Wer nicht teilnimmt, muss dennoch nachweisen können, dass die gewählten Alternativlösungen angemessen sind.
Der Kodex ersetzt nicht das KI-Gesetz und führt nicht automatisch zur Konformität jedes Systems. Er bietet jedoch einen gemeinsamen Rahmen für eine vorhersehbarere Anwendung der Regeln.
Gibt es eine Verlängerung bis zum 2. Dezember 2026?
Diesem Punkt muss besondere Aufmerksamkeit gewidmet werden.
Artikel 50 gilt ab 2. August 2026 Generell müssen Lieferanten und Anwender ab diesem Datum die Transparenzpflichten erfüllen. Die Kommission präzisiert, dass eine mögliche Übergangsfrist sich lediglich auf die in Artikel 50 Absatz 2 festgelegte technische Kennzeichnungs- und Nachweispflicht für bestimmte Systeme bezieht, die vor dem 2. August 2026 in Verkehr gebracht wurden.
Die im Rahmen des auf europäischer Ebene vereinbarten KI-Omnibus vorgesehene Änderung sieht für diese bestehenden Systeme eine Anpassung innerhalb der 2. Dezember 2026. Die Anwendung dieser Bestimmung ist derzeit jedoch an die endgültige Verabschiedung der Verordnungsänderung geknüpft. Daher handelt es sich nicht um eine allgemeine Ausweitung auf Chatbots, Deepfakes, Informationshinweise oder Inhalte, die ohne redaktionelle Kontrolle veröffentlicht werden.
Es wäre ein Fehler, diesen potenziellen Übergang als Grund zu nutzen, um die gesamte Anpassung zu verschieben.
Die im KI-Gesetz vorgesehenen Sanktionen
Für Verstöße, die nicht mit verbotenen Praktiken zusammenhängen, sieht das KI-Gesetz Strafen vor, die bis zu … betragen können. 15 Millionen Euro oder zu dem 31.000 Billionen US-Dollar des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, falls höher.
Die Verordnung enthält spezifische Kriterien und Schwellenwerte, deren Anwendung proportional zur Größe des Unternehmens erfolgt.
Geldstrafen sind jedoch nicht das einzige Risiko.
Ein Chatbot, der seine Natur nicht offenlegt, ein nicht verifizierter Artikel, ein synthetisches Bild, das als authentisch präsentiert wird, oder eine fehlerhafte automatische Antwort können ebenfalls zu Reputationsschäden, Vertragsstreitigkeiten, Kundenproblemen und beruflicher Haftung führen.
Transparenz bedeutet nicht nur, Bußgelder zu vermeiden. Es geht auch darum, das Vertrauen der Öffentlichkeit nicht zu verlieren, wenn entdeckt wird, dass KI heimlich oder unkontrolliert eingesetzt wurde.
Echter Wandel besteht nicht darin, etwas mit einem Etikett zu versehen.
Die Reduzierung des KI-Gesetzes auf lediglich “künstlich intelligente Inhalte” verfehlt den Sinn der Gesetzgebung.
Die Änderung betrifft die gesamte Verantwortungskette: diejenigen, die das Werkzeug auswählen, diejenigen, die seine Funktionsweise überwachen, diejenigen, die die Ergebnisse überprüfen, diejenigen, die die Menschen informieren, und diejenigen, die reagieren, wenn etwas nicht funktioniert.
Ein Label kann Inhalte transparent machen. Es kann aber einen unkontrollierten Prozess nicht korrigieren.
Ab dem 2. August 2026 müssen Unternehmen nachweisen, dass sie die von ihnen eingesetzte künstliche Intelligenz verstehen, und nicht nur, dass sie diese gekauft oder aktiviert haben.
Wie man sich auf den 2. August 2026 vorbereitet
Ausgangspunkt ist nicht die Abschaffung von KI-Werkzeugen. Es geht vielmehr darum, deren Einsatz ohne eine umfassende Vision zu stoppen.
Vor Ablauf der Frist sollte jede Organisation einige Fragen präzise beantworten können:
- Wo wird KI eingesetzt?
- Wer hat diese Tools autorisiert?
- Ist den Menschen bewusst, wann sie mit einem automatisierten System interagieren?
- Ist der generierte Inhalt erkennbar?
- Überprüft irgendjemand Texte, Bilder und Kommentare vor der Veröffentlichung?
- Gibt es jemanden, der die Verantwortung trägt, wenn das System versagt?
- Haben die Lieferanten ausreichende Informationen zur Einhaltung der Vorschriften bereitgestellt?
Wenn die Antworten nicht eindeutig sind, ist das Problem nicht nur regulatorischer Natur. Es bedeutet, dass Teile der Geschäftsprozesse Systemen anvertraut werden, die die Organisation nicht wirklich kontrolliert.
Künstliche Intelligenz kann Prozesse beschleunigen. Unkontrollierte Geschwindigkeit erhöht jedoch auch die Wahrscheinlichkeit von Fehlern.
Es genügt nicht, KI einzusetzen. Man muss wissen, wo sie eingesetzt wird, was sie produziert und wer dafür verantwortlich ist.
Wenn Ihr Unternehmen Chatbots, generative Tools oder Automatisierung einsetzt, aber noch nicht genau definiert hat, wie diese in die Prozesse integriert werden, besteht der erste Schritt nicht darin, ihnen ein Label zu geben. Vielmehr geht es darum zu verstehen, wo KI anstelle von Menschen kommuniziert, Entscheidungen trifft oder Inhalte erstellt.
Kontaktieren Sie Digife: Wir analysieren die verwendeten Werkzeuge, die Kontaktpunkte mit den Nutzern und die Veröffentlichungsprozesse, um festzustellen, wo es an etwas fehlt. Transparenz, überprüfen ist Verantwortung.
