Der EU AI Act ist das weltweit erste umfassende KI-Gesetz. Er klassifiziert KI-Systeme nach Risikoniveau und stellt je nach Einstufung unterschiedliche Anforderungen an Betreiber und Anbieter — jetzt ist der richtige Zeitpunkt für eine Bestandsaufnahme.
Der EU AI Act verfolgt einen risikobasierten Ansatz: KI-Systeme werden in vier Kategorien eingeteilt — von verbotenen Praktiken über Hochrisiko-KI bis hin zu minimal riskanten Anwendungen. Je höher das Risiko, desto strenger die Anforderungen.
Betroffen sind sowohl Anbieter (die KI entwickeln) als auch Betreiber (Unternehmen, die KI-Systeme einsetzen). Für Unternehmen ist insbesondere die korrekte Risikoeinstufung und Dokumentation entscheidend.
Soziales Scoring, manipulative KI, biometrische Massenüberwachung — vollständig verboten.
KI in HR-Entscheidungen, Kreditscoring, kritischen Infrastrukturen — strenge Dokumentationspflichten.
Chatbots und ähnliche Systeme — Transparenzpflichten gegenüber Nutzern.
Spam-Filter u. Ä. — keine besonderen Anforderungen, Verhaltenscodex empfohlen.
Alle eingesetzten KI-Systeme erfassen, klassifizieren und den zutreffenden Risikokategorien zuordnen.
Für Hochrisiko-KI: umfassende Dokumentation des Systems, seiner Leistung, Trainingsdaten und Verwendungszwecks.
Geeignete Maßnahmen zur menschlichen Überwachung von Hochrisiko-KI-Systemen einrichten und dokumentieren.
Für Hochrisiko-KI: laufendes Risikomanagementsystem über den gesamten Lebenszyklus.
Schwerwiegende Vorfälle mit Hochrisiko-KI müssen gemeldet und dokumentiert werden.
Mitarbeitende, die KI einsetzen, müssen über Fähigkeiten und Risiken ausreichend informiert und geschult sein.
Mit Compliance Online erfassen Sie alle eingesetzten KI-Systeme im Asset-Register, bewerten deren Risiken in der Risikoanalyse und dokumentieren Maßnahmen zur menschlichen Aufsicht. Checklisten führen Sie durch alle Anforderungen für Hochrisiko-KI.
Relevante Module