Mit dem 2. Februar 2025 tritt eine neue Stufe der KI-Verordnung in Kraft, die weitreichende Folgen für Unternehmen und Mitarbeiter hat. Neben Verboten bestimmter KI-Anwendungen wird eine Kompetenzpflicht für alle Nutzer von KI-Systemen eingeführt.
Verbot von KI-Systemen mit unannehmbarem Risiko
Ab sofort sind KI-Anwendungen, die als unannehmbares Risiko eingestuft werden, in der EU verboten. Dazu gehören insbesondere sogenannte Social-Scoring-Systeme, die eine Überwachung und Bewertung von Bürgerinnen und Bürgern ermöglichen. Auch wenn solche Systeme bislang nicht in der EU existierten, stellt der AI Act sicher, dass sie auch zukünftig nicht genutzt werden. Das Verbot tritt mit dem Stichtag, dem 2. Februar 2025, offiziell in Kraft.
Kompetenzpflicht für KI-Nutzer
Neben den Verboten bringt der AI Act auch neue Verpflichtungen mit sich. Ab sofort dürfen Mitarbeiterinnen und Mitarbeiter KI-Systeme nur noch nutzen, wenn sie über ausreichende Kompetenz verfügen.
Was genau unter „ausreichender Kompetenz“ zu verstehen ist, bleibt jedoch vage definiert. Laut Artikel 4 des AI Acts sind Anbieter und Betreiber von KI-Systemen verpflichtet, sicherzustellen, dass ihr Personal sowie andere in ihrem Auftrag arbeitende Personen über die notwendige Qualifikation verfügen. Dies umfasst technische Kenntnisse, Erfahrung sowie entsprechende Aus- und Weiterbildung. Darüber hinaus müssen die Anwender den Kontext der KI-Nutzung verstehen.
Diese Vorgabe betrifft Unternehmen jeder Größe und Branche sowie alle KI-Anwendungen, unabhängig von deren Risikoklassifizierung. Unklar bleibt jedoch, wer genau als Betreiber gilt: Gehören dazu bereits Mitarbeiter, die KI-Tools wie ChatGPT verwenden, oder betrifft es nur Unternehmen, die eigene KI-Lösungen entwickeln und betreiben?
Sanktionen und Überwachung
Der AI Act sieht zunächst keine direkten Strafen vor, wenn Mitarbeiter nicht die geforderte KI-Kompetenz nachweisen können. Die Durchsetzung dieser Vorgabe bleibt unklar, allerdings sind Sanktionen gemäß Artikel 99 des Gesetzes ab dem 2. August 2025 vorgesehen. Bis dahin müssen die Mitgliedsstaaten nationale Aufsichtsbehörden benennen, die für die Einhaltung der KI-Verordnung verantwortlich sind.
Regelungen für General Purpose AI (GPAI)
Zusätzlich wird in drei Monaten ein Leitfaden zur Nutzung von General Purpose AI (GPAI) erwartet. Diese Richtlinie soll den sicheren Einsatz solcher Modelle regeln und Fragen zu technischen Dokumentationspflichten, Urheberrecht sowie Offenlegung von Trainingsdaten klären. Die entsprechenden Verpflichtungen für GPAI werden ebenfalls ein Jahr nach Inkrafttreten des AI Acts, also am 2. August 2025, wirksam.
Fazit
Mit der neuen Stufe des AI Acts setzt die EU klare Regelungen für den verantwortungsvollen Umgang mit KI. Neben dem Verbot von Hochrisiko-Anwendungen wie Social Scoring sorgt insbesondere die Kompetenzpflicht für Diskussionen. Unternehmen müssen sich darauf einstellen, dass der Umgang mit KI nicht mehr nur eine Frage der Technologie, sondern auch der Qualifikation ist. Die kommenden Monate werden zeigen, wie die einzelnen Mitgliedsstaaten diese Vorgaben umsetzen und welche Maßnahmen zur Durchsetzung der Regelungen getroffen werden.
