Auch rechtlich noch eine Blackbox

Der Einsatz von Künstlicher Intelligenz (KI) revolutioniert derzeit zahlreiche Prozesse in der Wirtschaft, Umwelt und Gesellschaft. Beachtliche Vorteile bei der KI-Nutzung führen dazu, dass immer mehr Unternehmen KI auch selbst einsetzen und hiervon profitieren wollen. Der Einsatz von KI birgt allerdings auch Risiken, insbesondere im rechtlichen Bereich. So sind die rechtlichen Rahmenbedingungen für den KI-Einsatz teilweise noch unklar.

Immer den Einzelfall betrachten

Ein großer Vorteil, aber gleichzeitig ein grundsätzliches Problem, liegt in der hohen Komplexität von KI. Sie arbeitet autonom und weitgehend intransparent für den Anwender. So lernt KI selbstständig durch die Verarbeitung von Daten hinzu. Mit welchen Daten die KI vor ihrem Einsatz trainiert wurde und welche genauen Prozesse bei der Datenverarbeitung ablaufen, bleibt oftmals unklar. Somit ist die KI für viele eine (schlaue) Blackbox, was die Bewertung eines möglichen Einsatzes erschwert. Daher sollte der Einsatz von KI-Tools stets im Einzelfall geprüft werden.

Auf Datenschutz achten

Eine zentrale Herausforderung ist die Einhaltung datenschutzrechtlicher Normen beim Einsatz von KI. Werden personenbezogene Daten durch die KI verarbeitet, so sind insbesondere die Datenschutzgrundverordnung und das Bundesdatenschutzgesetz zu beachten. Die betroffenen Personen müssen grundsätzlich über die einzelnen Schritte der Verarbeitung aufgeklärt werden. Verantwortlich hierfür ist das Unternehmen, welches die KI einsetzt. Für die betroffenen Personen sind die einzelnen Schritte der Verarbeitung jedoch vielfach nicht nachvollziehbar, sodass nicht wirksam über die Verarbeitung aufgeklärt werden kann. Dadurch ist eine erteilte Einwilligung unwirksam und die Verarbeitung rechtswidrig. Ärger mit den Betroffenen und den Aufsichtsbehörden ist vorprogrammiert. 

Autonome Systeme bergen neue Risiken

KI kann auch Produkte, Maschinen oder Anlagen autonom und oftmals effizienter als ihre menschlichen Pendants steuern. Dabei müssen sicherheitsrelevante Vorschriften beachtet werden. So müssen Hersteller künftig laut neuer Maschinenverordnung (EU) 2023/1230 bei der Risikobeurteilung das sich selbst entwickelnde Verhalten selbst lernender Steuerungen antizipieren und bei Bedarf begrenzen. 

Die EU hat weitere Vorschriften auf ihrer Agenda: Die gerade veröffentlichte KI-Verordnung (EU) 2024/1689 macht erstmals für verschiedene KI-Anwendungen Vorgaben zu Transparenz, Dokumentation und Überwachung. Sie verbietet den Einsatz von KI-Systemen, die die menschlichen Grundrechte gefährden. In Planung ist eine KI-Haftungs-Richtlinie, die Modifizierungen des nationalen Haftungsrechtes vorsieht. Auch das relevante Produkthaftungsrecht erfährt durch die geplante Produkthaftungsrichtlinie Neuerungen. Wie sich die Regelungen im Einzelnen auswirken, ist noch nicht absehbar. Wird KI im Unternehmen also zukünftig genutzt, sollte sie so gestaltet werden, dass sie auch an neue rechtliche Rahmenbedingungen angepasst werden kann.

Software: Nur so gut wie das Training

KI kann auch genutzt werden, um selbstständig Codes zu generieren. So werden bereits heute auf breiter Front Entwicklungsprozesse beschleunigt. Oft wird auch die Qualität des Codes verbessert, da menschliche Flüchtigkeitsfehler durch die KI vermieden werden. Hierdurch kann letztlich auch die Anzahl von Sicherheitslücken reduziert werden. Was aber passiert, wenn eine KI mit Daten trainiert wird, die Sicherheitslücken enthält? Dann wird auch der neue Code wieder Sicherheitslücken erzeugen.

Klare Vorgaben für Text- und Bildgenerierung

Nicht zuletzt wird durch die rasante Entwicklung generativer KI-Systeme wie Chat GPT zur Erstellung von Texten oder Bildern genutzt. Das spart wertvolle Arbeitszeit und Kosten. Allerdings müssen Unternehmen klar regeln, mit welchen Daten sie offene KI-Systeme wie Chat GPT füttern wollen. Geschäftsgeheimnisse oder persönliche Daten sollten nicht dazu gehören. Unternehmen sollten proaktiv klare Vorgaben für den Umgang mit großen Sprachmodellen machen und die Mitarbeitenden schulen.

Wichtig ist, dass es bei KI-generierten Werken (Bilder, Texte, Software-Codes) an einer menschlichen Schöpfung fehlt, sodass die KI-Ergebnisse grundsätzlich keinen urheberrechtlichen Schutz genießen können. Will ein Unternehmen mithin die Ergebnisse der KI verwerten, muss es damit rechnen, dass Konkurrenten das Ergebnis ebenfalls kopieren und nutzen dürfen.

Fazit: Risiken kennen, Vorteile nutzen

Der Einsatz von KI im Unternehmen verspricht viele Vorteile, wobei diese vor dem Einsatz genau ermittelt und mit den entsprechenden Risiken abgewogen werden sollten. Insbesondere dürfen sich Unternehmen nicht blind auf die KI verlassen, sondern müssen stets Überprüfungsmechanismen und Prozesse implementieren. Rechtlich ist der Einsatz von KI herausfordernd, aber keinesfalls eine so große Hürde, die eine Implementierung von KI in Ihren Geschäftsprozessen verhindern sollte.