Das KI-Gesetz

Überblick über das KI-Gesetz

Das Gesetz über künstliche Intelligenz (KI-Gesetz) ist ein bedeutender Rechtsrahmen der Europäischen Union (EU) zur Überwachung der Entwicklung und Nutzung von KI-Technologien. Es wurde im Mai 2024 verabschiedet und ist der weltweit erste Rechtsrahmen, der sich speziell der KI widmet. Das Hauptziel des Gesetzes ist es, eine sichere und zuverlässige Umgebung für KI zu schaffen, indem ethische, soziale und technische Herausforderungen adressiert werden. Es stellt die Entwicklung von KI in Einklang mit europäischen Werten und legt den Fokus auf Transparenz, Fairness und Verantwortlichkeit.

Das KI-Gesetz zeichnet sich durch seinen breiten Anwendungsbereich aus: Es reguliert KI-Systeme abhängig von Risikostufen und Einsatzbereichen. Es gilt für innerhalb der EU entwickelte KI-Systeme sowie für solche, die in der EU vermarktet, eingesetzt oder deren Ergebnisse die EU betreffen. Dieser Ansatz stellt sicher, dass jede KI, die EU-Bürger oder Unternehmen beeinflusst, denselben hohen Standards entspricht – unabhängig davon, wo sie entwickelt wurde.

Anwendungsbereich und Reichweite des KI-Gesetzes

Das KI-Gesetz umfasst verschiedene Akteure im KI-Ökosystem, darunter:

• Anbieter: Organisationen, die KI-Systeme unter ihrem Markennamen entwickeln und bereitstellen. Anbieter müssen sicherstellen, dass ihre KI-Systeme die Anforderungen des Gesetzes erfüllen, bevor sie auf den EU-Markt gelangen.
• Anwender: Unternehmen oder Einzelpersonen, die KI-Systeme nutzen. Sie müssen die Nutzung von KI im Einklang mit dem Rechtsrahmen gestalten – insbesondere bei Anwendungen mit hohem Risiko.
• Importeure und Händler: Diese bringen KI-Systeme in die EU oder vertreiben sie innerhalb der Region und müssen spezifische Regeln zur Einhaltung befolgen.
• Hersteller: Unternehmen, die KI in ihre Produkte integrieren, unterliegen dem Gesetz, wenn ihre Produkte in der EU verkauft werden.

Das Gesetz definiert KI-Systeme weit gefasst, einschließlich maschineller Systeme, die autonom arbeiten und Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen liefern. Einige Kategorien von KI, z. B. solche für wissenschaftliche Forschung & Entwicklung (F&E) oder im Rahmen kontrollierter Tests vor dem Einsatz, sind vom Gesetz ausgenommen.

Wesentliche Merkmale des KI-Gesetzes

Risikobasierter Ansatz

Das KI-Gesetz verwendet ein risikobasiertes Klassifizierungssystem zur Regulierung von KI-Systemen. Es teilt diese in vier Risikostufen ein:

1. Unzumutbares Risiko: KI-Systeme, die schädlich sind oder gegen EU-Werte verstoßen, sind verboten. Dazu zählen z. B. Technologien wie Social Scoring oder KI, die menschliches Verhalten manipuliert, um Schaden zu verursachen.
2. Hohes Risiko: Zu dieser Kategorie zählen u. a. biometrische Identifikation, Medizinprodukte und das Management kritischer Infrastrukturen. Sie müssen strenge Anforderungen erfüllen, etwa Tests, Dokumentation und menschliche Überwachung.
3. Begrenztes Risiko: Diese Systeme, oft im Bildungs- oder Unterhaltungsbereich, unterliegen Transparenzpflichten – Nutzer müssen z. B. darüber informiert werden, dass sie mit KI interagieren.
4. Minimales oder kein Risiko: Die meisten KI-Anwendungen, etwa Empfehlungssysteme im E-Commerce, fallen in diese Kategorie und unterliegen kaum oder keinen Regulierungen.

Governance und Compliance

Das KI-Gesetz etabliert ein Governance-System zur Sicherstellung der Einhaltung. Dazu gehören:

• Der Europäische Ausschuss für künstliche Intelligenz: Koordiniert die Anwendung des KI-Gesetzes in allen EU-Mitgliedstaaten, sorgt für Einheitlichkeit und stellt Leitlinien bereit.
• Nationale Aufsichtsbehörden: Jeder EU-Mitgliedstaat muss Behörden benennen, die die Umsetzung und Einhaltung auf regionaler Ebene überwachen.
• Extraterritoriale Anwendung: Das Gesetz gilt für jedes KI-System, das Auswirkungen auf die EU hat – auch wenn es außerhalb der Union entwickelt wurde.

Vorschriften für generative KI

Das Gesetz enthält spezifische Regeln für generative KI-Systeme wie ChatGPT. Entwickler solcher Systeme müssen Transparenz- und Sicherheitsanforderungen erfüllen, etwa die Offenlegung von Trainingsmethoden, verwendeten Datensätzen und potenziellen Verzerrungen.

Kategorisierung von KI: Das risikobasierte System

Risikobasiertes Klassifizierungssystem

Das KI-Gesetz der Europäischen Union nutzt ein risikobasiertes Klassifizierungssystem zur Regulierung von KI-Technologien. Dieses System stimmt das Maß der Aufsicht mit den potenziellen Risiken der KI-Anwendungen ab. Durch die Einteilung der Systeme in die vier Risikostufen – Unzumutbar, Hoch, Begrenzt sowie Minimal oder Kein Risiko – will die EU technologischen Fortschritt mit öffentlicher Sicherheit und ethischen Standards in Einklang bringen. Jede Kategorie umfasst spezifische regulatorische Anforderungen und Pflichten für Entwickler, Anwender und weitere Akteure.

Risikostufen und ihre Auswirkungen

Unzumutbares Risiko

KI-Systeme in der Kategorie „Unzumutbares Risiko“ gelten als direkte Bedrohung für Grundrechte, Sicherheit oder EU-Werte. Sie sind aufgrund ihres schädlichen Potenzials durch das KI-Gesetz verboten. Beispiele:

• Unterschwellige Manipulation: Systeme, die menschliches Verhalten verdeckt beeinflussen, um Schaden zu verursachen, etwa die unbemerkte Beeinflussung von Wählerentscheidungen.
• Ausnutzung von Verwundbarkeiten: KI, die gezielt Schwächen wie Alter, Behinderung oder wirtschaftlichen Status ausnutzt, z. B. interaktive Spielzeuge, die Kinder zu unsicherem Verhalten anregen.
• Social Scoring: Systeme, die Menschen aufgrund ihres Verhaltens oder ihrer Eigenschaften bewerten, etwa die Kreditwürdigkeit anhand sozialer Medien, was zu unfairen Ergebnissen führt.
• Echtzeit-Biometrieerkennung im öffentlichen Raum: Gesichtserkennungssysteme zur Überwachung, mit Ausnahme bestimmter Fälle wie Strafverfolgung mit richterlicher Genehmigung.
• Emotionserkennung und biometrische Kategorisierung: KI, die sensible Details wie Ethnie oder politische Einstellung ableitet, insbesondere in sensiblen Bereichen wie Arbeitsplatz oder Schule.

Diese Verbote spiegeln das Bekenntnis der EU zu ethischer KI wider, die die Menschenrechte achtet.

Hohes Risiko

Hochriskante KI-Systeme haben erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte. Sie sind nicht verboten, müssen aber strenge Anforderungen erfüllen, um Transparenz und Verantwortlichkeit zu gewährleisten. Beispiele:

• Kritische Infrastrukturen: KI, die essenzielle Systeme wie den Transport steuert, bei deren Versagen Menschenleben gefährdet wären.
• Bildung und Beschäftigung: Systeme, die Zugang zu Bildung oder Jobs beeinflussen, wie Algorithmen zur Prüfungsbewertung oder Vorauswahl von Bewerbungen.
• Gesundheitswesen: KI in medizinischen Geräten oder Entscheidungsunterstützung, z. B. robotergestützte Chirurgie.
• Öffentliche Dienste: Werkzeuge, die über die Vergabe von Krediten oder Sozialleistungen entscheiden.
• Strafverfolgung und Grenzkontrolle: KI in Ermittlungen oder bei der Bearbeitung von Visa-Anträgen.

Entwickler und Anwender hochriskanter KI müssen strenge Standards einhalten, etwa umfassende Dokumentation, menschliche Kontrolle und Konformitätsbewertung zur Minimierung von Risiken.

Begrenztes Risiko

Begrenzte Risiken gehen von KI-Systemen mit moderatem Potenzial aus. Diese Systeme unterliegen Transparenzpflichten, damit Nutzer über die Interaktion mit KI informiert sind. Beispiele:

• Chatbots: Systeme, die Nutzer darauf hinweisen müssen, dass sie nicht mit Menschen kommunizieren.
• Empfehlungsalgorithmen: KI, die Produkte, Unterhaltung oder Inhalte vorschlägt.

Obwohl das Risiko geringer ist, schreibt das KI-Gesetz grundlegende ethische Standards vor, um Vertrauen und Verantwortlichkeit zu fördern.

Minimales oder kein Risiko

Die meisten KI-Anwendungen, darunter allgemeine Tools wie Übersetzungsprogramme oder Suchmaschinen, fallen in diese Kategorie. Sie unterliegen nur geringen oder keinen regulatorischen Auflagen, sodass Innovation frei voranschreiten kann. Beispiele: Produktivitätstools auf KI-Basis und virtuelle Assistenten für den persönlichen Gebrauch.

Vorschriften für generative KI-Systeme

Das KI-Gesetz sieht spezielle Maßnahmen für generative KI-Systeme wie ChatGPT und DALL-E vor, die Texte, Bilder oder Code generieren. Diese Systeme werden je nach Einsatzzweck und potenziellen Auswirkungen klassifiziert. Wichtige Vorgaben sind:

• Transparenzpflichten: Entwickler müssen die für das Training verwendeten Datensätze offenlegen und kennzeichnen, wenn Inhalte KI-generiert sind.
• Sicherheits- und Ethikrichtlinien: Generative KI muss Vorurteile reduzieren, Desinformation verhindern und ethischen Standards entsprechen.
• Verantwortlichkeitsmaßnahmen: Unternehmen müssen detaillierte Dokumentation zu Modellarchitektur, Verwendungszweck und Grenzen bereitstellen.

Sicherstellung der Einhaltung: Das Governance-Rahmenwerk

Die Rolle der Governance im EU-KI-Gesetz

Das KI-Gesetz der Europäischen Union führt einen Governance-Rahmen ein, um die Einhaltung seiner Regeln zu gewährleisten. Dieses Rahmenwerk fördert Transparenz, Verantwortlichkeit und einheitliche Anwendung in allen Mitgliedstaaten. Es schützt Grundrechte und unterstützt die Entwicklung vertrauenswürdiger KI-Technologien. Im Zentrum stehen der Europäische Ausschuss für künstliche Intelligenz (EAIB) und das Europäische KI-Büro, die gemeinsam mit nationalen Behörden die Einhaltung und Überwachung des Gesetzes koordinieren.

Europäischer Ausschuss für künstliche Intelligenz (EAIB)

Der Europäische Ausschuss für künstliche Intelligenz (EAIB) ist das Hauptgremium für die Umsetzung des KI-Gesetzes. Er fungiert als Beratungs- und Koordinierungsstelle, um eine konsistente Anwendung des Gesetzes in der gesamten EU sicherzustellen.

Kernaufgaben

• Koordination und Aufsicht:
  Der EAIB stimmt die Arbeit der nationalen Behörden ab, die für die Durchsetzung des KI-Gesetzes verantwortlich sind. Ziel ist eine einheitliche Regulierung durch die Mitgliedstaaten, um Unterschiede bei Auslegung und Anwendung zu minimieren.
• Leitlinien und Empfehlungen:
  Der Ausschuss berät zur Anwendung des KI-Gesetzes, entwickelt Leitlinien, entwirft delegierte Rechtsakte und erstellt weitere regulatorische Instrumente. Diese Hilfsmittel machen die Vorschriften klarer und leichter umsetzbar.
• Politikentwicklung:
  Der EAIB wirkt an der Gestaltung europäischer KI-Politik mit, gibt Impulse zu Innovationsstrategien, internationaler Zusammenarbeit und weiteren Initiativen, um die Wettbewerbsfähigkeit Europas im KI-Bereich zu sichern.

Governance-Struktur

Der EAIB besteht aus Vertretern aller EU-Mitgliedstaaten und wird vom Europäischen KI-Büro unterstützt, das als Sekretariat fungiert. Beobachter wie der Europäische Datenschutzbeauftragte und Vertreter der EWR-EFTA-Staaten nehmen ebenfalls an Sitzungen teil. Arbeitsgruppen innerhalb des EAIB widmen sich spezifischen Themen und fördern Zusammenarbeit und Austausch bewährter Praktiken.

Europäisches KI-Büro

Das Europäische KI-Büro ist die zentrale Anlaufstelle der EU für KI-Governance. Es arbeitet eng mit dem EAIB und den Mitgliedstaaten zusammen, um die Umsetzung des KI-Gesetzes zu unterstützen. Seine Aufgabe ist es, die sichere und verantwortungsvolle Entwicklung von KI-Technologien sicherzustellen.

Wesentliche Funktionen

• Expertise und Unterstützung:
  Das KI-Büro dient als Wissenszentrum der EU für KI, unterstützt die Mitgliedstaaten technisch und regulatorisch und prüft KI-Modelle mit allgemeinem Verwendungszweck auf Sicherheit und ethische Standards.
• Internationale Koordination:
  Das KI-Büro fördert die globale Zusammenarbeit zur KI-Governance, indem es den EU-Ansatz als internationalen Standard vorantreibt. Es arbeitet zudem mit Wissenschaft, Industrie und Zivilgesellschaft zusammen.
• Durchsetzung:
  Das Büro ist befugt, KI-Systeme zu bewerten, Informationen anzufordern und Anbieter von KI-Modellen mit allgemeinem Verwendungszweck bei Verstößen gegen das KI-Gesetz zu sanktionieren.

Extraterritoriale Anwendung des KI-Gesetzes

Das KI-Gesetz gilt sowohl für Unternehmen innerhalb der EU als auch für solche außerhalb, die KI-Systeme auf den EU-Markt bringen oder Systeme nutzen, die EU-Bürger betreffen. Diese extraterritoriale Bestimmung garantiert, dass die hohen Standards des Gesetzes weltweit eingehalten werden und dient als Vorbild für die internationale KI-Governance.

Vergleich mit der DSGVO

Das Governance-Rahmenwerk des KI-Gesetzes weist Parallelen zur Datenschutz-Grundverordnung (DSGVO) auf, insbesondere in Struktur und Zielsetzung.

• Zentrale Aufsicht:
  Wie der Europäische Datenschutzausschuss bei der DSGVO sorgt der EAIB für zentrale Aufsicht im Bereich KI-Governance und garantiert Einheitlichkeit in den Mitgliedstaaten.
• Extraterritoriale Wirkung:
  Sowohl das KI-Gesetz als auch die DSGVO gelten über die EU-Grenzen hinaus und zeigen den Anspruch der Union, globale Standards in der digitalen Regulierung zu setzen.
• Fokus auf Grundrechte:
  Beide Regelungen stellen den Schutz der Grundrechte in den Mittelpunkt. Transparenz, Verantwortlichkeit und ethische Aspekte stehen jeweils im Fokus.

Dennoch begegnet das KI-Gesetz spezifischen Herausforderungen der KI, etwa der Risikoklassifizierung und Regulierung generativer KI-Systeme.

KI-Regulierung auf globaler Ebene

Das KI-Gesetz als globales Vorbild

Das KI-Gesetz der Europäischen Union gilt international als Vorbild für eine effektive Regulierung von KI. Als erster detaillierter Rechtsrahmen bietet es anderen Regionen Orientierung, um die ethischen, rechtlichen und gesellschaftlichen Herausforderungen durch KI zu bewältigen. Das Gesetz führt ein risikobasiertes Klassifizierungssystem ein, fördert Transparenz und schützt Grundrechte – ein moderner und starker Regulierungsansatz.

Das KI-Gesetz adressiert sowohl Chancen als auch Risiken von KI. Es verbietet etwa Social Scoring und bestimmte biometrische Anwendungen, wodurch ein klares ethisches Leitbild für KI geschaffen wird. Dieses Framework beeinflusst bereits Debatten in Ländern wie den USA, Kanada und Japan, wo Entscheidungsträger ähnliche Ansätze zur Steuerung von KI-Technologien prüfen.

Darüber hinaus enthält das Gesetz extraterritoriale Regeln. Das bedeutet, dass Unternehmen weltweit – unabhängig vom Standort – die Anforderungen erfüllen müssen, wenn ihre KI-Systeme den EU-Markt oder EU-Bürger betreffen. So reicht der Einfluss des Gesetzes über Europa hinaus und veranlasst internationale Unternehmen, sich an dessen Standards zu orientieren.

Internationale Zusammenarbeit in der KI-Governance

Die EU erkennt an, dass die Herausforderungen im KI-Bereich nur durch internationale Zusammenarbeit zu bewältigen sind. Sie arbeitet mit internationalen Organisationen und anderen Staaten zusammen, um abgestimmte KI-Regulierungen und ethische Standards zu fördern. Programme wie die KI-Prinzipien der OECD und die KI-Initiativen der G7 spiegeln bereits Elemente des EU-Rahmens wider.

Veranstaltungen wie der jüngste Bletchley Park Summit unterstreichen die Notwendigkeit globaler Dialoge zur KI-Governance. Solche Treffen bringen Politiker, Branchenvertreter und die Zivilgesellschaft zusammen, um gemeinsame Werte und Strategien für den Umgang mit KI-Technologien zu diskutieren. Das aktive Engagement der EU zeigt ihre Entschlossenheit, die globale KI-Regulierung mitzugestalten.

Durch internationale Kooperation will die EU eine Fragmentierung der KI-Regulierung in verschiedenen Ländern vermeiden und stattdessen einen einheitlichen Rahmen fördern, um KI-Technologien sicher, ethisch und für alle Menschen vorteilhaft zu gestalten.

Die Zukunft der KI in Europa

Das KI-Gesetz soll nicht nur KI regulieren, sondern auch Innovation und Wettbewerbsfähigkeit im europäischen KI-Sektor stärken. Unterstützt wird es durch Initiativen wie das KI-Innovationspaket und den KI-Pakt, die die Entwicklung menschenzentrierter KI fördern und Investitionen sowie Forschung anregen.

Mit Blick auf die Zukunft strebt die EU an, KI-Technologien nahtlos in die Gesellschaft zu integrieren. Ziel ist es, mit KI die Produktivität zu steigern und komplexe Probleme zu lösen – ohne ethische Standards zu gefährden. Der Fokus des Gesetzes auf Transparenz und Verantwortlichkeit sichert das Vertrauen der Öffentlichkeit in KI-Systeme.

Im globalen Wettbewerb um KI-Führung setzt die EU auf eine ausgewogene Strategie aus strikter Regulierung und Innovationsförderung – und positioniert sich so als Schlüsselakteur für ethische KI-Entwicklung. Davon profitieren nicht nur die europäischen Bürger, sondern das Modell dient auch anderen Ländern als Anregung für einen verantwortungsvollen Umgang mit KI.

Mit der Förderung des KI-Gesetzes als globales Vorbild und der Betonung internationaler Zusammenarbeit unterstreicht die EU ihr Engagement für ethische und vertrauenswürdige KI. Dieses Rahmenwerk begegnet aktuellen Herausforderungen und legt zugleich den Grundstein für eine sichere und nachhaltige globale KI-Entwicklung.