KI-Verordnung: Für viele Unternehmen relevant

Die Verordnung über künstliche Intelligenz (KI-Verordnung (EU) 2024/1689) ist ab 2. August 2026 in großen Teilen anzuwenden. Sie gilt mit wenigen Ausnahmen für alle „Anbieter“, die in der Union KI-Modelle mit allgemeinem Verwendungszweck oder KI-Systeme in Verkehr bringen, für „Betreiber“, die KI-Systeme im Unternehmen nutzen, sowie für Einführer und Händler von KI-Systemen. Die Bundesnetzagentur (BNetzA) wird die Marktüberwachung übernehmen.

KI-Systeme, die die Grundrechte der Menschen gefährden, sind verboten. Unterschieden wird zwischen KI-Systemen mit geringem Risiko und mit hohem Risiko sowie KI-Modellen mit allgemeinem Verwendungszweck. Abhängig vom Risiko, der Anwendung und der Einstufung des ­KI-Systems müssen die Unternehmen verschiedene Pflichten beachten. 

So müssen Anbieter und Betreiber bis zum 2. August 2026 sicherstellen, dass ihr Personal und bzw. beautragte Personen über ein den jeweiligen Anforderungen entsprechendes Maß an KI-Kompetenz verfügen. Die Verordnung legt nicht fest, wie die KI-Kompetenz konkret aufzubauen ist.

Die KI-Verordnung fordert besondere Transparenzpflichten. z.B.: Beim Umgang mit KI-Systemen müssen die Nutzer informiert werden, dass sie es mit einer Maschine zu tun haben. Deepfakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden. 

Anbieter und Betreiber von Hochrisiko-KI müssen unter anderem Maßnahmen zur Risikominimierung und -minderung für den gesamten Lebenszyklus treffen, eine Technische Dokumentation und Gebrauchsanweisungen erstellen und Robustheit, Genauigkeit und Cybersicherheit gewährleisten.