Mit dem Inkrafttreten der EU-KI-Verordnung wird der Einsatz von Künstlicher Intelligenz in Unternehmen nicht nur eine technische, sondern vor allem eine rechtliche und organisatorische Herausforderung. Die Verordnung betrifft nicht nur Entwickler von KI-Systemen, sondern auch alle Unternehmen, die KI nutzen.
Risikoklassifizierung
KI-Systeme werden künftig in vier Risikostufen unterteilt:
- Minimales Risiko
- Begrenztes Risiko
- Hohes Risiko
- Unannehmbares Risiko
Je höher das Risiko, desto strenger die Auflagen. Bestimmte KI-Anwendungen, die als unannehmbar riskant gelten, sind grundsätzlich verboten.
Verbotene KI-Praktiken
Zu den untersagten Praktiken zählen u. a.:
- Biometrische Echtzeit-Überwachung im öffentlichen Raum (nur mit engen Ausnahmen erlaubt)
- Manipulative oder ausbeuterische Systeme, etwa zur Verhaltenssteuerung von Mitarbeitenden
- Social Scoring und Bewertungen, die Persönlichkeits- oder Leistungsprofile berechnen
Wichtig: Nur weil eine KI-Lösung am Markt verfügbar ist, bedeutet das nicht automatisch, dass deren Einsatz künftig rechtlich zulässig ist.
Anforderungen an Hochrisiko-KI-Systeme
Für KI-Systeme in sensiblen Bereichen (z. B. Personal, Gesundheit, Bildung, kritische Infrastrukturen) gelten verschärfte Anforderungen:
- Risikomanagement & Konformitätsbewertung
- Dokumentationspflichten
- Nachvollziehbarkeit & Transparenz
- Menschliche Aufsicht (Human-in-the-loop)
- Sicherstellung von IT-Sicherheit
Transparenzpflichten
Bestimmte KI-Systeme wie etwa Chatbots oder auch damit generierte Inhalte wie Deepfakes, müssen klar als solche gekennzeichnet sein. Nutzer müssen erkennen können, dass sie mit einer KI interagieren oder der Medieninhalt abgeändert oder verfälscht wurde.
Verantwortung bleibt beim Unternehmen
Ein oft unterschätzter Punkt: Auch wenn Sie ein externes KI-Tool einsetzen, liegt die Verantwortung für die Einhaltung der Verordnung beim Unternehmen selbst. Die Auswahl, Prüfung und Dokumentation der eingesetzten KI-Lösungen gehört zu Ihren Aufgaben als Betreiber – egal, ob die Lösung intern entwickelt oder eingekauft wurde.
Fazit
Die EU-KI-Verordnung schafft einen verbindlichen Rechtsrahmen für den KI-Einsatz – und nimmt Unternehmen in die Pflicht. Wer jetzt handelt, kann Risiken minimieren, Transparenz schaffen und die Vorteile von KI auf einer rechtlich sicheren Basis nutzen.
Sie möchten wissen, wie Ihr Unternehmen mit Hochrisiko-KI oder externen KI-Tools rechtskonform umgeht? Dann wählen Sie im Kontaktformular einfach „KI-Compliance“ als Anliegen aus.
