Nach einem 36-stündigen Kraftakt erzielte die Europäische Union am späten Freitagabend, dem 8. Dezember, schließlich eine (wenn auch vorläufige) Einigung über das Gesetz zur künstlichen Intelligenz, genannt Gesetz über künstliche Intelligenz, wodurch neue Regeln für KI effektiv genehmigt werden.
Diese Verordnung ist die erste Gesetzgebung weltweit, die darauf abzielt, der Entwicklung und Nutzung künstlicher Intelligenz Grenzen zu setzen. Tatsächlich heißt es in einer Mitteilung der Europäischen Kammer: „Diese Verordnung soll sicherstellen, dass Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit durch hochriskante künstliche Intelligenz geschützt werden, und gleichzeitig Innovationen anregen und Europa stärken.“ der Branchenführer“1.
Ursula von der Leyen, Präsidentin der Europäischen Kommission, freut sich: „Das KI-Gesetz der Europäischen Union ist eine Weltneuheit, ein einzigartiger Rechtsrahmen für die Entwicklung von KI, dem wir vertrauen können, und für Sicherheit. Grundrechte von Menschen und Unternehmen.“
Der Prozess des KI-Regelpakets endet hier allerdings nicht, sondern es werden noch mehrere Wochen vergehen, in denen die Details finalisiert werden, bevor es dann zur endgültigen Genehmigung vorgelegt wird. Insgesamt wird die weltweit erste KI-Verordnung erst in etwa zwei Jahren in Kraft treten.
Warten auf die neuen Regeln zur KI
Angesichts der notwendigen Übergangsfrist für die Anwendung von Anforderungen an Hochrisikosysteme der künstlichen Intelligenz hat die Europäische Kommission am 16. November den KI-Pakt eingeführt. Ziel dieser Initiative ist es, die Branche zu ermutigen, diese Anforderungen vor Ablauf der gesetzlichen Frist freiwillig zu übernehmen, wobei ein besonderes Augenmerk auf generative KI-Systeme zur Vorbereitung der für Juni nächsten Jahres geplanten Europawahlen gelegt wird.
Die am Pakt teilnehmenden Unternehmen werden formelle Verpflichtungen unterzeichnen, die durch laufende oder geplante Maßnahmen unterstützt werden. Diese Bemühungen werden von der Europäischen Kommission veröffentlicht, um die Sichtbarkeit zu erhöhen und das Vertrauen in den Sektor zu stärken. Derzeit läuft ein Aufruf zur Interessenbekundung. Diskussionen zur Erkundung vorläufiger Ideen und bewährter Verfahren werden voraussichtlich im ersten Halbjahr 2024 stattfinden. Nach der formellen Verabschiedung des Gesetzes über künstliche Intelligenz werden führende Organisationen im Pakt aufgefordert, ihre ersten Verpflichtungen zu veröffentlichen.
Was sieht die Verordnung vor?
Die neuen KI-Regeln sehen eine Kategorisierung des von KI ausgehenden Risikos in vier Stufen vor: gering, begrenzt, hoch und inakzeptabel. Je nach Risikostufe unterliegen unterschiedliche Systeme unterschiedlichen Pflichten. Im ersten Fall müssen sich beispielsweise KIs, die ein geringes Risiko darstellen, keiner Verpflichtung unterwerfen, außer deutlich zu machen, dass die generierten Inhalte von einer KI stammen.
Bei KI mit hohem Risiko werden jedoch vor dem Inverkehrbringen die möglichen Auswirkungen auf die Grundrechte geprüft. Schließlich werden KIs, bei denen ein inakzeptables Risikoniveau festgestellt wird, von der Veröffentlichung ausgeschlossen.
Aber was versteht man unter inakzeptablem Risiko? Ein Beispiel ist die wahllose Sammlung von Bildern von Gesichtern von Menschen, sei es aus dem Internet, von Überwachungskameras usw.
Eine Ausnahme
Dieser Aspekt der Diskussionen birgt die Gefahr, dass die langen Verhandlungen in eine Sackgasse geraten, da im Vergleich zum ursprünglichen Vorschlag der Kommission zahlreiche Änderungen vorgenommen wurden. Eines der entscheidenden Probleme betrifft das Notfallverfahren, das es der Polizei ermöglichen wird, ein Hochrisiko-Gesichtserkennungssystem zu verwenden, das die erforderliche Bewertung noch nicht abgeschlossen hat.
Obwohl diese Ausnahme genehmigt wurde, muss sie mit den spezifischen Mechanismen zum Schutz der Grundrechte im Einklang stehen, um angewendet zu werden. Hinsichtlich des Einsatzes biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlichen Bereichen wurden Ausnahmen „mit gerichtlicher Genehmigung und beschränkt auf eine genau definierte Liste von Straftaten“ eingeführt.
Der Einsatz solcher Systeme im „Post-Remote“-Modus wäre ausschließlich für die gezielte Suche nach Personen zulässig, die wegen schwerer Straftaten verurteilt oder verdächtigt werden. Stattdessen wäre die Echtzeitnutzung auf „bestimmte Zeiten und Orte“ beschränkt, um gezielt nach Opfern zu suchen (z. B. in Fällen von Entführung, Menschenhandel oder sexueller Ausbeutung), um „spezifische und aktuelle“ terroristische Bedrohungen zu verhindern oder um sie zu lokalisieren oder zu identifizieren Personen, die spezifischer Straftaten wie Terrorismus, Menschenhandel, sexueller Ausbeutung, Mord, Entführung, Vergewaltigung, bewaffnetem Raub, Beteiligung an kriminellen Organisationen und Umweltverbrechen verdächtigt werden.
Weitere Bestimmungen
Mit der Vereinbarung wurden dann neue KI-Regeln eingeführt, um Situationen zu bewältigen, in denen KI für viele verschiedene Zwecke eingesetzt wird und die allgemeine Technologie dann in andere Hochrisikosysteme integriert wird. In diesem Rahmen wird innerhalb der Europäischen Kommission ein KI-Büro eingerichtet, das die Aufgabe hat, „die ausgefeiltesten Modelle zu überwachen, die Entwicklung von Standards und Testpraktiken zu unterstützen und gemeinsame Vorschriften in allen Mitgliedstaaten anzuwenden“.
Parallel dazu wird ein Beratungsforum für Interessengruppen wie Vertreter aus Industrie, KMU, Startups, Zivilgesellschaft und Wissenschaft eingerichtet, um dem AI Office technisches Fachwissen zur Verfügung zu stellen.
Um das große Spektrum zu bewältigen Funktionen, die KI-Systeme ausführen können (wie die Generierung von Videos, Texten, Bildern, Gesprächen in natürlicher Sprache, Berechnungen oder die Generierung von Computercode) und deren schnelle Entwicklung wurde festgestellt, dass generative KI-Modelle mit „hoher Wirkung“ (trainiert auf großen Mengen verallgemeinerter und unbeschrifteter Daten) vor dem Markteintritt strenge Transparenzpflichten einhalten müssen.
Zu diesen Verpflichtungen gehören die Erstellung technischer Dokumentation, die Einhaltung des EU-Urheberrechts und die Bereitstellung detaillierter Zusammenfassungen der für die Schulung verwendeten Daten.
Unterstützung und Sanktionen
Was die Unterstützung von Innovationen im Bereich der künstlichen Intelligenz betrifft, sieht die Vereinbarung die Schaffung von „Sandkasten” Vorschriften. Diese Testumgebungen bieten einen kontrollierten Raum für die Entwicklung, Erprobung und Validierung neuer KI-Systeme, auch unter realen Bedingungen. Ziel ist es, den Verwaltungsaufwand für kleine Unternehmen zu verringern und sie durch Fördermaßnahmen und klar definierte Ausnahmen vor der Konkurrenz großer Marktteilnehmer zu schützen.
Schließlich gibt es natürlich auch Sanktionen für diejenigen, die gegen die neuen KI-Regeln verstoßen. Einzelpersonen und Organisationen haben die Möglichkeit, bei Verstößen gegen die EU-KI-Gesetzgebung Beschwerden bei den Marktüberwachungsbehörden einzureichen. Bei Verstößen gegen die Verordnung drohen Unternehmen Bußgelder in Höhe eines Prozentsatzes ihres weltweiten Jahresumsatzes oder eines Festbetrags, je nachdem, welcher Betrag höher ist.
Die Bußgelder variieren je nach Schwere des Verstoßes: 35 Millionen Euro oder 7% Umsatz bei Verstößen gegen verbotene Anwendungen, 15 Millionen Euro oder 3% bei Verstößen gegen gesetzliche Pflichten und 7,5 Millionen Euro oder 1,5% bei unrichtigen Angaben. Für kleine und mittlere Unternehmen sowie Startups sind verhältnismäßigere Sanktionen vorgesehen.
