Am 2. Februar 2025 treten die ersten Regelungen der KI-Verordnung in Kraft. Nach Art. 113 lit. a KI-VO treten Kapitel I und II der KI-VO in Kraft. Diese Regelungen betreffen den Anwendungsbereich der KI-Verordnung und enthalten Begriffsbestimmungen. Hinzu kommen Schulungspflichten zum Aufbau von KI-Kompetenzen und die Pflicht zur Abschaltung verbotener KI-Systeme. Für Arbeitgeber sind folgende Neuerungen relevant:
Nach Art. 4 KI-VO müssen Arbeitgeber beim Einsatz von KI-Systemen im Betrieb als sog. Betreiber Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass alle Beschäftigten, die mit der Nutzung von KI-Anwendungen befasst sind, über die notwendigen Kompetenzen verfügen. Dabei sind technische Vorkenntnisse, Erfahrungen, Qualifikation sowie der Kontext, in dem die KI-Systeme eingesetzt werden, zu berücksichtigen.
KI-Kompetenzen sind nach Art. 3 Nr. 56 KI-VO die Fähigkeiten, die Kenntnisse und das Verständnis, die es Beschäftigten ermöglicht, „KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu machen“.
Dabei ist zu beachten:
Nach Art. 5 KI-VO sind KI-Systeme mit einem unannehmbar hohen Risiko grundsätzlich verboten. Gemeint sind damit KI-Systeme, von denen eine eindeutige Bedrohung ausgeht, weil sie z. B. manipulieren, täuschen oder Merkmale von Personen (Alter, Geschlecht, Herkunft etc.) kalkuliert ausnutzen. Die KI-VO katalogisiert diese verbotenen KI-Systeme, darunter z. B. solche, die ein sog. social scoring vornehmen oder Systeme zur biometrischen Identifizierung. Dazu gehören grundsätzlich auch alle KI-Systeme zur Emotionserkennung am Arbeitsplatz.
Dabei ist zu beachten:
Weitere Informationen zu den für Arbeitgeber relevanten Regelungen der KI-Verordnung finden Sie in hier verlinkten BDA-Anwendungspapier.
Quelle: BDA
Kernpunkte, die im Dokument ausführlich behandelt werden:
mit freundlicher Unterstützung des KI-Tools Microsoft Copilot bei Recherche und Formulierung
Chatbots und Virtuelle Assistenten
Personalisierte Marketingstrategien
Automatisiertes Revenue Management
Smart Rooms
Robotik
Transparenz sicherstellen
Schulungen und Weiterbildung
Feedback und Kommunikation
1. Dokumentation und Offenlegung
Erklärung der Funktionsweise: Stellen Sie sicher, dass die grundlegende Funktionsweise des KI-Systems dokumentiert und für alle Beteiligten verständlich ist[1].
Zugänglichkeit der Informationen: Machen Sie relevante Informationen über das KI-System, wie z.B. die Datenquellen und die Entscheidungslogik, für Mitarbeiter und Kunden zugänglich[1].
2. Transparenzpflichten erfüllen
Kennzeichnung: Informieren Sie Nutzer klar und deutlich darüber, dass sie mit einem KI-System interagieren. Dies kann durch Hinweise auf Websites, in Apps oder bei der Nutzung von Chatbots erfolgen[1].
Erklärung der Entscheidungen: Bieten Sie Erklärungen an, wie und warum das KI-System bestimmte Entscheidungen trifft, insbesondere bei personalisierten Angeboten oder automatisierten Prozessen[2].
3. Schulungen und Weiterbildung
Regelmäßige Schulungen: Führen Sie regelmäßige Schulungen für Ihre Mitarbeiter durch, um das Verständnis und den sicheren Umgang mit KI-Systemen zu fördern[1].
Workshops und Seminare: Organisieren Sie Workshops und Seminare, um die neuesten Entwicklungen und Best Practices im Bereich der KI-Transparenz zu vermitteln[1].
4. Externe Audits und Zertifizierungen
Unabhängige Überprüfungen: Lassen Sie Ihre KI-Systeme regelmäßig von unabhängigen Dritten überprüfen, um die Einhaltung der Transparenzanforderungen sicherzustellen[1].
Zertifizierungen: Streben Sie Zertifizierungen an, die die Transparenz und Vertrauenswürdigkeit Ihrer KI-Systeme bestätigen[1].
5. Feedback und Kommunikation
Feedback-Kanäle: Richten Sie Kanäle ein, über die Mitarbeiter und Kunden Feedback zu den KI-Systemen geben können[1].
Offene Kommunikation: Fördern Sie eine Kultur der offenen Kommunikation, in der Fragen und Bedenken bezüglich der KI-Systeme offen angesprochen und diskutiert werden können[1].
[1]: BSI Whitepaper zur Transparenz von KI-Systemen [2]: BfDI - Technische Anwendungen - Die KI-Verordnung der EU