Ab Februar sind Unternehmen zu KI-Schulungen verpflichtet

Veröffentlicht: 14.01.2025
imgAktualisierung: 14.01.2025
Geschrieben von: Ricarda Eichler
Lesezeit: ca. 2 Min.
14.01.2025
img 14.01.2025
ca. 2 Min.
KI-Bot als Lehrkraft vor Menschen
Erstellt mit Dall-E
Fast jedes Unternehmen nutzt heutzutage KI-Anwendungen. Mitarbeitende, die diese bedienen, müssen jetzt geschult werden.


Die Mitte letzten Jahres final verabschiedete KI-Verordnung wird ab diesem Februar schrittweise gültig. Konkret gelten dabei bereits ab dem 2. Februar 2025 diverse Verbote hinsichtlich Anwendungen von KI sowie eine umfassende Schulungspflicht, von welcher fast alle Unternehmen betroffen sind. Unternehmen, welche KI im Rahmen der betrieblichen Tätigkeit einsetzen, müssen dafür Sorge tragen, dass Mitarbeitende, welche mit der KI in Berührung kommen, über ein ausreichendes Maß an KI-Kompetenz verfügen. 

KI-Verordnung: Diese Regeln gelten ab Februar 2025

Die am 21. Mai 2024 verabschiedete KI-Verordnung trat bereits am 12. Juli 2024 in Kraft. Die einzelnen Regulierungen des EU-weiten Gesetzes rund um künstliche Intelligenzen werden jedoch stufenweise umgesetzt. Das sollte Unternehmen die Möglichkeit geben, sich auf die Anforderungen vorzubereiten.

Am 2. Februar 2025 treten die Kapitel I und II der Verordnung in Kraft. Weitere Regulierungen folgen dann ab dem 2. August 2025  sowie ab dem 2. August 2027.

Für den Moment sind die folgenden beiden Aspekte wichtig:

  1. KI-Kompetenz-Schulungspflicht für Mitarbeitende
  2. Verbotene KI-Praktiken

Unternehmen müssen KI-Kompetenz sicherstellen

Die Schulungspflichten für Mitarbeitende werden in Artikel 4 der KI-VO festgehalten. Statt konkreter Anforderungen und möglicher Konsequenzen bei Nichteinhaltung enthält dieser jedoch eher allgemeine Formulierungen. So müssen Anbieter sowie Betreiber von KI-Systemen lediglich Maßnahmen ergreifen, um nach „besten Kräften“ sicherzustellen, dass ein „ausreichendes Maß“ an KI-Kompetenz vorhanden ist.

Was genau jedoch ausreichend ist, wird nicht weiter spezifiziert. Dafür wird jedoch in Artikel 3 KI-VO deutlich gemacht, wer genau betroffen ist. So sind mit Anbietern sämtliche Stellen gemeint, welche ein KI-System entwickeln oder entwickeln lassen. Als Betreiber verstehen sich dagegen bereits all jene, die ein KI-System in eigener Verantwortung und beruflicher Tätigkeit verwenden.

Die Schulungspflicht tritt mit dem 2. Februar 2025 in Kraft, was bedeutet, dass Unternehmen jetzt handeln sollten, um ihre Mitarbeiter entsprechend zu schulen. So gibt es hier zwar keinen konkreten Bußgeldkatalog, mittels welchem man sein Risiko kalkulieren kann, jedoch könnten betriebliche Schäden, welche sich auf ungeschultes Personal zurückführen lassen, als Verletzung der allgemeinen Sorgfaltspflicht ausgelegt werden.

Diese KI-Praktiken sind ab Februar verboten

Die Schulung der Mitarbeitenden kann auch dabei helfen, dass diese hinreichend über die ebenfalls ab Februar geltenden verbotenen Praktiken aufgeklärt sind. Für die Verbote gelten deutlich strengere Auflagen: So werden in Artikel 99 der KI-VO Bußgelder bis zu 35.000 Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens festgesetzt, sollten Unternehmen die Vorgaben nicht einhalten.

Die konkreten Verbote gemäß Artikel 5 lauten wie folgt:

  • Die unterschwellige Manipulation und Beeinflussung von Personen
  • Das Ausnutzen Schutzbedürftiger
  • Die Bewertung und daran orientierte Schlechterstellung von Personen (Social-Scoring)
  • Risikobewertungen hinsichtlich möglicher zukünftiger Straftaten
  • Das Erstellen von Gesichtsdatenbanken mittels Bildmaterial aus dem Internet
  • Die Erkennung und Auswertung von Emotionen natürlicher Personen (beispielsweise am Arbeitsplatz)
  • Die Kategorisierung von Personen anhand biometrischer Daten nach Rasse, Religion, Orientierung oder weiterem
  • Biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken (mit Ausnahme von einigen Fällen wie Terrordrohungen, Entführungen, Menschenhandel)
     

Veröffentlicht: 14.01.2025
img Letzte Aktualisierung: 14.01.2025
Lesezeit: ca. 2 Min.
Artikel weiterempfehlen
Ricarda Eichler

Ricarda Eichler

Expertin für Nachhaltigkeit

KOMMENTARE
8 Kommentare
Kommentar schreiben

Marcus
16.01.2025

Antworten

Wiedermal stellt sich mir die Frage, wer das in der Praxis eigentlich kontrollieren soll – es fehlt doch jetzt schon an Personal. Wäre es nicht sinnvoller, erst die Kontrollbehörden zu stärken, bevor man neue Pflichten für Unternehmen einführt? In vielen Ämtern sind die Kapazitäten ohnehin knapp. Mir fehlt hier ein konkreter Plan, wie Kontrollen und Umsetzungen wirklich finanziert und personell gestemmt werden sollen. Bevor man neue Regeln aufstellt, müsste man klären, ob sie überhaupt realistisch durchsetzbar sind.
Reiner
15.01.2025

Antworten

Manipulation etc ist doch schon heute gegeben in allen sozialen Netzwerken... Kümmert das jemanden? NEIN. Welche neue Behörde prüft diese KI-VO für Unternehmen, wann, wie oft und überhaupt? Oder wieder nur Einnahmensicherung für Advokaten? Die EU sollte endlich aufhören, Unternehmer ständig zu maßregeln. Jede Woche eine andere Vorgabe - was soll das?
Marianne
15.01.2025

Antworten

Das beste ich wir nutzen unseren Verstand und nutzen keine KI. Wir verblöden immer mehr.
Stefan
15.01.2025

Antworten

Jedes Verkaufsgespräch mit Vorteilskommunikation ist doch letztendlich auch eine unterschwellige Manipulation und die Information zu Produkten und Dienstleistungen eine Beeinflussung von Personen die dieses Wissen und Abgrenzung zu Vergleichsangeboten vorher nicht hatten. Gibt es genauere Infos, was verboten sein soll und was nicht?
Redaktion
15.01.2025
Hallo Stefan,
es geht hier konkret um die Ausnutzung künstlicher Intelligenz zur Steuerung dieser Manipulation.
Gruß, die Redaktion
Stefan
15.01.2025
Anscheinend habe ich mich nicht verständlich genug ausgedrückt. Es soll also einer Kundenservice unterstützenden KI genau das nicht erlaubt werden, was wir Menschen im Kundenservice machen? Also in unserem kaufmännischem Interesse den Kunden beraten und informieren?
Redaktion
16.01.2025
Hallo Stefan,
die KI darf nicht gezielt zum Zweck der Manipulation eingesetzt werden. Reiner Kundenservice (Fragen beantworten, Problemfälle aufnehmen etc.) ist legitim.
Gruß, die Redaktion
Stefan
16.01.2025
Liebe Redaktion, die Antwort ist leider nur sehr oberflächlich und geht nicht auf dass dahinter liegende Problem ein. Laut Definition ist eigentlich jede Art der Kommunikation auch Manipulation. Man muss natürlich vor schädlicher Manipulation schützen. Aber auch die Verführung durch Werbung durch Texte, Bilder, Videos ist Manipulation und wäre bei pauschaler Nutzung des Begriffs verboten. Es dürften also auch keine KI-unterstützten Tools genutzt werden, um Werbebanner oder Videos zu generieren, vielleicht sogar keine Artikeltexte oder Blogposts, sofern sie werbliche Aussagen enthalten. Das birgt wieder ein enormes Potential für Abmahnungen, wenn das so undifferenziert durchgewunken wird. Es wäre schön, wenn ihr das durch klare Aussagen entkräften oder euch an entsprechender Stelle um eine Klärung bemühen könnt.