NACHRICHTEN

Ein Leitfaden zum EU-Gesetz über künstliche Intelligenz: Was Ihr Unternehmen tun muss (und welche Änderungen sich für Ihre Website ergeben)

EU-KI-Gesetz, ein Hammer neben einem Roboter und ein Chip, der die KI symbolisiert

EU-KI-Gesetz: Was Ihr Unternehmen tun muss, um die Vorgaben zu erfüllen

L 'EU-KI-Gesetz Die Europäische Verordnung über Künstliche Intelligenz (KI) ist vollständig in Kraft getreten. Es handelt sich dabei nicht nur um eine Absichtserklärung: Das Gesetz definiert … präzise Verpflichtungen und strikte Fristen für alle Unternehmen, die KI-basierte Technologien nutzen oder entwickeln.

Der Regulierungsansatz basiert auf zwei Schlüsselelementen:

  • Das Risikoniveau der KI-Anwendung.

  • Die Rolle des Unternehmens (ob er die KI entwickelt oder sie einfach nur “als Benutzer” nutzt, eine Rolle, die definiert ist als Bereitsteller).

Wenn Ihr Unternehmen künstliche Intelligenz einsetzt oder entwickelt, finden Sie hier eine praktische Zusammenfassung dessen, was Sie tun müssen, um die Vorschriften einzuhalten und Strafen zu vermeiden, die Ihr Geschäft beeinträchtigen könnten. 71.030 Billionen US-Dollar jährlicher globaler Umsatz (oder bis zu 35 Millionen Euro).

1. KI-Systeme kartieren und klassifizieren (Die “Risikomatrix”)

Der erste unerlässliche Schritt besteht darin, die gesamte im Unternehmen eingesetzte KI-basierte Software zu erfassen, um zu ermitteln, in welche der vier Risikokategorien sie fallen:

  • Unannehmbares Risiko (VERBOTEN): Systeme wie die Sozialbewertung, Emotionserkennung am Arbeitsplatz (außer aus spezifischen Sicherheitsgründen) oder wahllose Gesichtserkennung mittels Abkratzen. Diese Systeme müssen unverzüglich außer Betrieb genommen werden.

  • Hohes Risiko: Systeme, die zur Personalauswahl (z. B. automatische Lebenslaufprüfung), zur Leistungsbeurteilung von Mitarbeitern, zum Zugang zu essenziellen Dienstleistungen oder zur Verwaltung kritischer Infrastrukturen eingesetzt werden, unterliegen den strengsten Anforderungen.

  • Begrenztes Risiko (Transparenz): Chatbots, Bild-, Text- oder Videogenerierungssysteme (Deepfake). Hierbei ist die Hauptvoraussetzung die TransparenzDer Benutzer muss wissen, dass er mit einer KI interagiert.

  • Minimales Risiko: Spamfilter, KI in Videospielen. Keine spezifischen Anforderungen, außer der Aufforderung, freiwillige Verhaltensregeln einzuhalten.

2. Was ist zu tun, wenn das Unternehmen ein “Einsetzer” (KI-Nutzer) ist?

Die meisten Unternehmen entwickeln KI nicht von Grund auf selbst, sondern nutzen Tools von Drittanbietern (wie ChatGPT, Microsoft Copilot, Canva AI oder integrierte HR-Software). In diesem Fall wird das Unternehmen wie folgt klassifiziert: Bereitsteller und muss:

  1. Alphabetisierung obligatorisch (KI-Kompetenz): Dies ist ein Eckpfeiler der Regulierung. Unternehmen müssen ihre Mitarbeiter im Umgang mit KI schulen. Die Mitarbeiter müssen verstehen, wie das Tool funktioniert, welche Grenzen es hat, welches Risiko von “Halluzinationen” (falschen, von KI generierten Antworten) besteht und wie Datenlecks oder Verzerrungen (algorithmische Verzerrungen) vermieden werden können.

  2. Beachten Sie die Gebrauchsanweisung: Verwenden Sie die Systeme ausschließlich gemäß den vom Hersteller bereitgestellten technischen Richtlinien.

  3. Für menschliche Aufsicht sorgen: Wichtige Entscheidungen (z. B. Einstellung oder Entlassung) können nicht autonom von einem Algorithmus ohne abschließende menschliche Überprüfung getroffen werden.

  4. Folgenabschätzung für Grundrechte (FRIA): Obligatorisch vor der Inbetriebnahme eines als “Hochrisiko” eingestuften Systems.

 

3. Was tun, wenn das Unternehmen ein “Anbieter” (KI-Entwickler) ist?

Wenn Ihr Unternehmen KI-Software zur Vermarktung oder zum Vertrieb entwickelt, sind die Verpflichtungen (insbesondere bei risikoreichen Systemen) beträchtlich:

  • Risikomanagementsystem: Ein kontinuierlicher Prozess zur Identifizierung und Minderung von Systemrisiken während des gesamten Lebenszyklus.

  • Daten-Governance: Stellen Sie sicher, dass die Trainingsdatensätze von hoher Qualität, frei von diskriminierenden Verzerrungen und datenschutzfreundlich sind.

  • Technische Dokumentation und Protokollierung: Erstellung und Pflege technischer Dokumentationen sowie Bereitstellung einer automatischen Ereignisprotokollierung zur Sicherstellung der Rückverfolgbarkeit.

  • Konformitätsbewertung: Das System sollte Prüfungen unterzogen werden, um die CE-Kennzeichnung vor der Markteinführung.

 

Operative Checkliste für Unternehmen

Um die Einhaltung der Vorschriften zu gewährleisten, ohne dabei überfordert zu werden, kann Ihr Unternehmen folgende Vorgehensweise befolgen:

1. Erstellen Sie ein KI-Inventar: Interne Zuordnung.

Erfassen Sie sämtliche im Unternehmen verwendete Software, die KI-Algorithmen nutzt (einschließlich “Schattensoftware”, die von Mitarbeitern ohne formelle Genehmigung verwendet wird, wie z. B. kostenlose Versionen von Text- oder Bildgeneratoren).

2. Risikostufe einstufen: Risikobewertung.

Ordnen Sie jedem System eine eigene Risikoklasse zu (Unakzeptabel, Hoch, Begrenzt, Minimal), um zu verstehen, welche rechtlichen Verpflichtungen tatsächlich entstehen.

3. Förderung der KI-Kompetenz der Mitarbeiter: Pflichtschulung.

Organisieren Sie Schulungen und erstellen Sie einen Entwurf Unternehmensrichtlinie für KI darin wird klar erklärt, was erlaubt und was verboten ist (z. B. ein absolutes Verbot der Eingabe sensibler Kundendaten oder proprietären Codes in öffentlichen Eingabeaufforderungen).

4. Passen Sie die Verträge an: Recht & Compliance.

Überprüfen Sie die Verträge mit Softwareanbietern, um sicherzustellen, dass sie dem EU-KI-Gesetz entsprechen und die Haftung bei Verstößen klar definieren.

 

Web-Fokus: Was sollte auf der Website veröffentlicht werden?

Eine der am häufigsten gestellten Fragen lautet: “Soll ich meine internen Compliance-Dokumente auf der Website veröffentlichen?” Die Antwort lautet nein. Dokumente wie die KI-Richtlinie des Unternehmens oder Risikobewertungen enthalten vertrauliche Informationen und sollten nicht online veröffentlicht werden.

Auf der Website sollten nur folgende Informationen eingegeben werden: spezifische Transparenzinformationen für Nutzer (geregelt durch Art. 50 des EU-KI-Gesetzes).

Hier sind die 3 Hauptfälle:

Szenario auf Ihrer Website Was das Gesetz vorsieht (Art. 50) Wie lässt sich das in der Praxis umsetzen?
Sie nutzen einen Support-Chatbot. Dem Benutzer muss deutlich signalisiert werden, dass er mit einer Maschine und nicht mit einem Menschen interagiert. Bitte geben Sie eine aussagekräftige Begrüßungsnachricht ein: “Hallo! Ich bin der KI-gestützte virtuelle Assistent von [Firmenname]…”
Sie veröffentlichen synthetische Bilder, Videos oder Audiodateien (Deepfakes). Von KI erzeugte oder veränderte Medien, die real erscheinen, müssen klar gekennzeichnet werden. Platzieren Sie einen gut sichtbaren Hinweis auf der Seite oder ein digitales Wasserzeichen, das auf den synthetischen Ursprung des Inhalts hinweist.
Veröffentlichen Sie KI-generierte Texte zu Themen von öffentlichem Interesse. Wenn Sie Artikel oder Nachrichten veröffentlichen, die vollständig von KI verfasst wurden, müssen Sie dies offenlegen. Hinweis: Die Verpflichtung nicht Dies gilt, wenn der Text vor der Veröffentlichung von einer Person umfassend geprüft, bearbeitet und freigegeben wurde (menschliche redaktionelle Kontrolle).

Unser Rat

Die Einhaltung des EU-KI-Gesetzes ist nicht nur eine rechtliche Verpflichtung, sondern auch eine Chance, Geschäftsprozesse zu optimieren und das Kundenvertrauen zu stärken. Transparente KI-Verwaltung auf Ihrer Website und die entsprechende Schulung Ihres Teams sind die ersten Schritte für einen sicheren und ethischen digitalen Wandel.

Wenn Sie KI-Systeme (wie z. B. intelligente Chatbots) auf Ihrer Website auf gesetzeskonforme und sichere Weise integrieren müssen oder Beratung zu Ihrer digitalen Präsenz wünschen, Kontaktieren Sie unser Team.

Teilen