Mit dem Inkrafttreten der ersten beiden Kapitel der EU-Verordnung 2024/1689 gelten bestimmte Regeln und Verpflichtungen bei der Nutzung von KI. Foto suriya/adobe stock
Seit dem 2. Februar 2025 sind die ersten beiden Kapitel der EU-Verordnung 2024/1689 über künstliche Intelligenz (KI-VO) in Kraft. Diese beinhalten allgemeine Bestimmungen sowie Verpflichtungen für Anbieter und Betreiber von KI-Systemen. Wie der BDZV schreibt, sind neben den Anbietern von KI-Systemen auch deren Betreiber, das heißt alle natürlichen und juristischen Personen, die solche Systeme nutzen, verpflichtet. Besonders relevant sind die Regelungen zu KI-Kompetenzen für Mitarbeitende sowie das Verbot bestimmter KI-Praktiken.
Schulungspflicht für sachkundigen Einsatz
Nach Art. 4 KI-VO müssen Unternehmen sicherstellen, dass alle Mitarbeitenden, die mit KI-Systemen arbeiten, über die erforderlichen Kompetenzen verfügen. Dies umfasst nicht nur die sachkundige Nutzung der Technologie, sondern auch die Sensibilisierung für mögliche Risiken und Schäden.
Besonders hervorzuheben ist, dass die Schulungspflicht unabhängig von der Unternehmensgröße oder der Anzahl der Beschäftigten gilt. Sie betrifft alle KI-Systeme, unabhängig von deren Risikoklassifizierung oder Lizenzmodell. Somit sind auch weitverbreitete Anwendungen wie DeepL, ChatGPT oder CoPilot betroffen, sofern sie im beruflichen Kontext eingesetzt werden.
Gestaltung der Schulungen
Die konkrete Umsetzung der Schulungspflicht bleibt den Unternehmen überlassen. Maßnahmen sollten an den Kenntnisstand der Mitarbeitenden sowie an den jeweiligen Einsatzkontext der KI angepasst werden.
Dabei kann es sinnvoll sein, interne Workshops oder digitale Schulungsprogramme anzubieten, unternehmensspezifische KI-Richtlinien zu erarbeiten, einen KI-Beauftragten einzusetzen, der als zentrale Ansprechperson fungiert.
Auch wenn keine ausdrückliche Dokumentationspflicht besteht, wird eine Dokumentation der Schulungsmaßnahmen empfohlen.
Die Bundesnetzagentur als Aufsichtsbehörde wird voraussichtlich Leitlinien zur praktischen Umsetzung veröffentlichen.
Obwohl Verstöße gegen die Schulungspflicht nicht direkt sanktioniert werden, kann eine unzureichende Schulung zu Haftungsfragen führen, insbesondere wenn dadurch Schäden entstehen. Gleichzeitig bietet eine fundierte Schulung die Möglichkeit, Potenziale und Produktivitätsgewinne im Umgang mit KI gezielt zu nutzen.
Verbotene KI-Praktiken
Art. 5 KI-VO führt KI-Systeme auf, die aufgrund eines unvertretbar hohen Risikos verboten sind. Dazu gehören Systeme, die Personenmerkmale wie Alter, Geschlecht oder Herkunft manipulieren oder für unethische Zwecke missbrauchen. Besonders relevant sind hierbei Anwendungen, die sogenanntes Social Scoring durchführen oder zur biometrischen Identifizierung in öffentlichen Räumen eingesetzt werden.
Verstöße gegen das Verbot dieser Praktiken werden mit hohen Geldbußen geahndet. Unternehmen sollten daher frühzeitig eine Bedarfsanalyse durchführen, um sicherzustellen, dass eingesetzte KI-Systeme den neuen regulatorischen Anforderungen entsprechen.
Angesichts der neuen Vorgaben empfiehlt es sich, bereits jetzt gezielte Schulungsmaßnahmen einzuleiten und bestehende KI-Systeme auf ihre Konformität mit der KI-VO zu überprüfen.
Wettbewerbsvorteile schaffen
Die frühzeitige Auseinandersetzung mit den gesetzlichen Vorgaben kann nicht nur rechtliche Risiken minimieren, sondern auch Wettbewerbsvorteile durch den kompetenten und verantwortungsvollen Einsatz von KI schaffen.