- Kann eine KI Zeichen zählen?
- Start der Serie: KI-Basics
- Einführung in die Geschichte künstlicher Intelligenz
- Von Halluzinationen und Vorurteilen: Wenn KI Dinge sieht, die gar nicht da sind
- AI Snake Oil: Warum vorhersehende KI vielleicht nur ein cleverer Trick ist
- Plagi-was? Erzeugen KIs Plagiate?
- Wie erkenne ich potenzielle Fehler in KI-gestützten Prozessen?
- Energiefresser oder Effizienzwunder? Die CO₂-Bilanz von KI
- Hochrisiko-Systeme gemäss EU-AI-Act
Ganz im Zeichen dieser KI-Reihe wurde dieser Text mit KI recherchiert (you.com) und geprüft (LanguageTool). Das Feature Image ist ebenfalls KI-generiert, ausgehend von einem Prompt, den ich über einen Custom Agent basierend auf diesem Text habe erstellen lassen.
Der EU-AI-Act definiert Hochrisiko-KI-Systeme als solche, die ein erhöhtes Risiko für die Sicherheit, Gesundheit oder Grundrechte von Menschen darstellen. Diese Systeme unterliegen strengen Anforderungen, um sicherzustellen, dass sie sicher und vertrauenswürdig eingesetzt werden können. Die Klassifizierung von Hochrisiko-Systemen erfolgt gemäss Artikel 6 und Anhang III des AI Acts.
Kriterien für Hochrisiko-KI-Systeme
Ein KI-System wird als hochriskant eingestuft, wenn es zwei Bedingungen erfüllt:
- Es wird in einem Bereich eingesetzt, der ein hohes Risiko für die Sicherheit oder Grundrechte birgt.
- Es ist in Anhang III des AI Acts aufgeführt, der spezifische Anwendungsbereiche definiert.
Beispiele für Hochrisiko-Anwendungsbereiche
Laut Anhang III des AI Acts gehören zu den Hochrisiko-KI-Systemen unter anderem:
- Biometrische Identifizierung und Kategorisierung: Etwa Systeme zur Fernidentifikation von Personen (z. B. Gesichtserkennung), sofern sie rechtlich zulässig sind.
- Kritische Infrastrukturen: KI-Systeme, die in Bereichen wie Energie, Verkehr oder Wasser eingesetzt werden und deren Fehlfunktion erhebliche Auswirkungen haben könnte.
- Bildung und berufliche Ausbildung: Systeme, die über den Zugang zu Bildung oder berufliche Qualifikationen entscheiden (z. B. Prüfungsbewertungssysteme).
- Personalmanagement: Systeme, die bei der Einstellung, Beförderung oder Kündigung von Mitarbeitern eingesetzt werden.
- Zugang zu wesentlichen Dienstleistungen: KI-Systeme, die über den Zugang zu grundlegenden Dienstleistungen wie Krediten oder Sozialleistungen entscheiden.
- Rechtspflege und Strafverfolgung: Systeme, die in der Strafverfolgung oder bei der Bewertung von Beweisen eingesetzt werden.
Regulatorische Anforderungen
Hochrisiko-KI-Systeme dürfen nur in Verkehr gebracht oder betrieben werden, wenn sie strenge Anforderungen erfüllen. Dazu gehören:
- Risikobewertung und -management: Identifikation und Minimierung potenzieller Risiken.
- Transparenzpflichten: Nutzer müssen über die Funktionsweise und Einschränkungen des Systems informiert werden.
- Überwachung und Dokumentation: Systeme müssen kontinuierlich überwacht und dokumentiert werden, um ihre Sicherheit zu gewährleisten. Quelle: https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/risikostufen_ki-systeme.de.html
Zusammenfassung
Hochrisiko-KI-Systeme gemäss EU-AI-Act sind solche, die in sensiblen Bereichen eingesetzt werden und potenziell erhebliche Auswirkungen auf Sicherheit und Grundrechte haben. Sie unterliegen strengen Vorschriften, um Risiken zu minimieren und Vertrauen in KI-Technologien zu fördern.
Über mich
