Das EU-AI-Gesetz verstehen

Das EU-Gesetz über künstliche Intelligenz (Verordnung (EU) 2024/1689) ist eine Meilenstein-Verordnung, die den ersten umfassenden Rechtsrahmen für künstliche Intelligenz in der Welt schafft. Vom Europäischen Parlament 2024 verabschiedet, zielt es darauf ab, sicherzustellen, dass AI-Systeme in der EU sicher, transparent, nachverfolgbar, diskriminierungsfrei und umweltfreundlich sind.

Wichtige Aspekte:

Risikobasierter Ansatz

Das AI-Gesetz kategorisiert AI-Systeme in vier Risikostufen:

  • • Unzulässiges Risiko: Verbotene AI-Praktiken (z. B. Soziales Scoring, manipulative AI)
  • • Hohes Risiko: AI-Systeme in kritischen Bereichen (z. B. Gesundheitswesen, Strafverfolgung, Beschäftigung) mit strenger Compliance
  • • Begrenztes Risiko: AI-Systeme mit Transparenzverpflichtungen (z. B. Chatbots, Deepfakes)
  • • Minimales Risiko: AI-Systeme ohne spezifische Verpflichtungen (z. B. AI-aktivierte Videospiele)

Gestaffelter Umsetzungsplan

  • • 2. August 2025: Verbote unzulässiger AI-Praktiken treten in Kraft
  • • 2. August 2026: Verpflichtungen für allgemeine AI-Modelle treten in Kraft
  • • 2. August 2027: Vollständige Compliance für hochrisiko-AI-Systeme erforderlich
  • • 2. August 2030: Verpflichtungen für bestimmte hochrisiko-AI-Systeme in bestehenden Produkten

Wer ist betroffen?

  • • Anbieter: Organisationen, die AI-Systeme auf dem EU-Markt entwickeln oder in den Verkehr bringen
  • • Betreiber: Organisationen, die AI-Systeme in der EU nutzen
  • • Distributoren und Importeure: Organisationen, die AI-Systeme in der EU verfügbar machen
  • • Produkthersteller: Organisationen, die AI in ihre Produkte integrieren

Verbotene AI-Praktiken

Unter dem EU-AI-Gesetz sind bestimmte AI-Praktiken vollständig verboten, da sie das Risiko einer Schädigung grundlegender Rechte und Sicherheit bergen. Diese Praktiken werden als 'unannehmbares Risiko' klassifiziert und dürfen in der EU unter keinen Umständen verwendet werden.

  • ✗Social Scoring: AI-Systeme, die Einzelpersonen basierend auf Verhalten bewerten oder bewerten, mit sozialen Folgen (z. B. Kreditvergabe oder Arbeitsdiskriminierung)
  • ✗Echtzeit-Biometrische Identifizierung: Live-Gesichtserkennung im öffentlichen Raum für die Strafverfolgung, außer in begrenzten Fällen (z. B. vermisste Personen, nationale Sicherheit)
  • ✗Manipulative AI: AI, die entwickelt wurde, um das Verhalten auf Weise zu manipulieren, die Einzelpersonen schadet (z. B. Ausnutzung von Schwachstellen spezifischer Gruppen wie Kinder)
  • ✗Remote-Biometrische Kategorisierung: Systeme, die Personen nach geschützten Merkmalen (Rasse, Ethnizität, Geschlecht, sexuelle Orientierung, politische Überzeugungen) ohne Zustimmung kategorisieren

Hochrisiko-AI-Systeme

Hochrisiko-AI-Systeme sind solche, die die Rechte, Freiheiten, Sicherheit oder Wohlbefinden von Menschen erheblich schädigen könnten. Diese Systeme erfordern umfassende Compliance-Maßnahmen, einschließlich Risikobewertungen, Transparenz, menschliche Aufsicht und umfangreiche Dokumentation.

  • ⚠Beschäftigung und Arbeitnehmer-Management: AI-Systeme für Rekrutierung, Auswahl, Beförderung, Kündigung oder Leistungsüberwachung
  • ⚠Bildung und Schulung: AI-Systeme, die Zulassung oder Kursauswahl in Bildungseinrichtungen bestimmen
  • ⚠Kritische Infrastruktur: AI-Systeme, die sicherheitskritische Vorgänge (Energie, Wasser, Verkehr, Versorgungsbetriebe) gefährden könnten
  • ⚠Strafverfolgung und Justiz: AI-Systeme zur Erkennung, Untersuchung oder Verfolgung von Straftaten; Risikobewertung; oder Bestimmung von Kaution/Verurteilung
  • ⚠Grenzüberwachung und Einwanderung: Automatisierte Systeme für Visumentscheidungen, Grenzübertritt und Asylbestimmungen

Compliance-Anforderungen für Hochrisiko-Systeme: Organisationen, die hochrisiko-AI-Systeme einsetzen, müssen Risikobewertungen durchführen, detaillierte Dokumentation führen, Mechanismen zur menschlichen Aufsicht implementieren, Qualitätssicherungsprozesse etablieren, Transparenzhinweise für betroffene Parteien bereitstellen und Mechanismen zur Meldung und Behebung von Schäden implementieren.