Arbeitsrechtliche Herausforderungen und Rahmenbedingungen des Einsatzes von KI im Finanzsektor

Wie in nahezu allen Bereichen der Wirtschaft ist auch im Finanzsektor die Künstliche Intelligenz (KI) auf dem Vormarsch. Laut einer Studie von McKinsey aus 2023 kann die Nutzung von GenAI im Bankensektor einen zusätzlichen Wert von jährlich 200 bis 340 Milliarden US-Dollar schaffen. Dabei sieht PwC „große Potenziale“ im Bereich Effizienzsteigerung, Kosteneinsparungen, Personalisierung (z.B. Chatbots), Compliance und bei der Entwicklung neuer Geschäftsmodelle. Vor der Implementierung von KI in den Arbeitsalltag stellen sich für Unternehmen jedoch insbesondere arbeitsrechtliche Probleme, die es zu klären gilt. Insbesondere da die rechtlichen Erwägungen sich noch im Anfangsstadium befinden und auch die technischen Möglichkeiten von KI sich stetig verändern, soll dieser Beitrag lediglich einen Überblick über die derzeitigen arbeitsrechtlichen Problemfelder bieten.

 

Verantwortlichkeit für Fehler bei der Nutzung von KI

Die Arbeitsleistung ist gem. § 613 S. 1 BGB grundsätzlich durch den Mitarbeitenden höchstpersönlich zu erbringen. Der Einsatz von KI stellt (bisher) dabei nach überwiegender Meinung lediglich den Einsatz eines Hilfsmittels zur Leistungserbringung dar. Ebenso wie bei der Hinzuziehung von anderen Hilfsmitteln, wie Computern, Werkzeugen oder Datenbanken, bleibt deshalb der Mitarbeitende, der auf diese zurückgreift, für eine Überprüfung der hiermit erzeugten Arbeitsprodukte verantwortlich. Eine Abmahnung und auch Haftung des nutzenden Mitarbeitenden bei Fehlern der KI ist damit grundsätzlich möglich. Verlässt sich etwa ein Bankberater bei der Auswahl von Anlageoptionen für einen Kunden auf KI und übersieht, dass Kundenpräferenzen nicht exakt abgebildet wurden; könnte dies bei Erheblichkeit des Fehlers sogar eine Abmahnung des betreffenden Mitarbeiters begründen.

Etwas anderes könnte sich allerdings dann ergeben, wenn nicht der Mitarbeitende selbst, sondern der Arbeitgeber den Einsatz eines bestimmten KI-Systems vorgibt und ggf. sogar verlangt. In solchen Fällen könnte zumindest darüber diskutiert werden, ob der Mitarbeitende sich darauf verlassen darf, dass die bereitgestellte KI richtig arbeitet, d. h. etwa Kundenpräferenzen exakt abbildet. Auch in diesen Fällen wird es aber auf den Grad der Fahrlässigkeit ankommen. Ein blindes Vertrauen auf die ordnungsgemäße Funktionsweise von KI wird wohl auch in diesen Fällen nicht zulässig sein. Bereits in diesem Punkt zeigt sich die Notwendigkeit von klaren Vorgaben und Regelungen hinsichtlich des Einsatzes von KI.

 

KI und variable Vergütung

Mit der Einführung und Nutzung von KI-Systemen in der Arbeitswelt werden sich auch die erbrachten Arbeitsleistungen teilweise verändern. Vorgänge, Prognosen und Lösungskonzepte können durch entsprechende Anwendungen von KI weitestgehend automatisiert und ohne umfassende Eigenleistung von Mitarbeitenden entwickelt werden. Mit dem Einsatz von KI könnten somit schneller und mit wesentlich geringerem Aufwand Arbeitsergebnisse erzeugt werden. Boni und andere variable Vergütungen würden so bei leistungsbasierten Vergütungssystemen einfacher erzielt werden können. Dies führt zur Frage, ob Bonussysteme zukünftig umgestaltet werden müssen bzw. sollten, um sie an die Nutzungsmöglichkeiten von KI anzupassen.

Unternehmen sollten dabei insbesondere hinterfragen, welche Arbeitsleistung durch ihre Boni „belohnt“ werden sollen. Soll eine variable Vergütung an tatsächliche Eigenleistungen anknüpfen, so wäre wohl festzustellen, dass dieser Eigenaufwand durch KI-Systeme deutlich verringert wird. Andererseits könnte zugunsten der KI-Nutzung zu berücksichtigen sein, dass hierdurch eine erhebliche Effizienzsteigerung stattfinden kann und damit das Unternehmen insgesamt von dieser Herangehensweise profitieren könnte. In jedem Fall sollte dieser Umstand vor der Implementierung von KI-Anwendungen berücksichtigt werden.

 

Mitwirkung des Betriebsrats

Sollte die Entscheidung gefallen sein, KI-Systeme in den Arbeitsalltag zu integrieren, stellt sich bei der praktischen Umsetzung insbesondere die Frage nach der Einbindung und den Rechten eines bestehenden Betriebsrats. Der deutsche Gesetzgeber hat im Juni 2021 den Begriff der KI an drei Stellen in das BetrVG aufgenommen und ermöglicht Betriebsräten dadurch die Mitwirkung an der Planung, Einführung und Anwendung von KI-Systemen.

1. Nach § 90 Abs. 1 Nr. 3 BetrVG steht dem Betriebsrat bei der Planung von KI-Einsätzen ein Informations- und Beratungsrecht zu. Dies ermöglicht dem Betriebsrat, durch die vorgelagerte Beratung Einfluss auf die Entscheidung hinsichtlich der KI-Einführung zu nehmen. Kommt der Arbeitgeber dieser Informationspflicht nicht nach, kann der Betriebsrat dies auch aktiv einfordern.
2. 80 Abs. 3 BetrVG gibt dem Betriebsrat in diesem Zusammenhang die Möglichkeit, einen Sachverständigen hinzuzuziehen. Die Erforderlichkeit eines solchen Sachverständigen muss der Betriebsrat auch nicht mehr nachweisen, diese wird vielmehr gesetzlich statuiert.
3. Nach § 95 Abs. 2a BetrVG hat der Gesetzgeber zudem klargestellt, dass ein Mitbestimmungsrecht hinsichtlich der Aufstellung von Richtlinien über die personelle Auswahl bei Einstellungen, Versetzungen, Umgruppierungen und Kündigungen auch dann besteht, wenn bei der Aufstellung ein KI-System beteiligt ist.

Ein explizites Mitbestimmungsrecht hinsichtlich des Einsatzes von KI gibt es bisher allerdings nicht. Die Entscheidung über die Einführung und Nutzung von KI unterliegt somit grundsätzlich der unternehmerischen Entscheidungsfreiheit. Ein Mitbestimmungsrecht kann sich vorerst damit nur über das Zusammenspiel mit anderen Mitbestimmungstatbeständen ergeben, etwa aus § 87 Abs. 1 Nr. 6 BetrVG, wenn ein KI-System objektiv dafür geeignet ist, das Verhalten oder die Leistung von Arbeitnehmenden zu überwachen. Liegt allerdings ein Mitbestimmungstatbestand vor, kann sich dann auch ein erzwingbares Initiativrecht des Betriebsrats daraus ergeben.

Arbeitgeber können in dem Bereich der KI-Einführung somit den Betriebsrat nicht vollkommen außer Acht lassen. Insbesondere ist konkret zu prüfen, ob nicht ggf. doch ein Mitbestimmungstatbestand durch ein KI-bezogenes Vorhaben ausgelöst wird.

 

Datenschutzrecht und KI

Dürfen Mitarbeitende auf KI-Systeme zurückgreifen, sollten zuvor auch datenschutzrechtliche Erwägungen angestellt werden. Insbesondere ist zu klären, wo genau der oder die Server des jeweiligen KI-Systems stehen. Viele KI-Modelle werden auf Servern gehostet, die geringeren Datenschutzstandards im Vergleich zurr EU unterliegen, sodass Arbeitnehmer- und auch Kundendaten diesen geringeren Schutzbestimmungen im außereuropäischen Ausland unterliegen würden. Zudem lernen KI-Modelle durch jede Benutzung weiter, sodass solche Daten theoretisch auch nicht vor Zugriffen Dritter geschützt und der Allgemeinheit zugänglich werden könnten.

Wichtig ist es deshalb, dass die Mitarbeitenden den Arbeitgeber informieren, sofern KI-Systeme für die Arbeitsleistung genutzt werden, um diesem die Möglichkeit einzuräumen, datenschutzrechtliche Vorkehrungen zu treffen. Eine solche Pflicht kann sich – je nach Ausmaß und Gegenstand der Benutzung – bereits aufgrund einer arbeitsvertraglichen Nebenpflicht i. S. v. § 241 Abs. 2 BGB ergeben. Empfehlenswert ist deshalb eine entsprechende Aufklärung der Mitarbeitenden.

Um sensible Kunden- und Arbeitnehmerdaten zu schützen, ist es zudem ratsam, den Mitarbeitenden klare Vorgaben zur KI-Nutzung zu geben. So sollten Mitarbeitende keine personenbezogenen Daten oder Informationen, die als Geschäftsgeheimnisse einzuordnen sind, in die Oberfläche von KI-Systemen einpflegen. Zudem überprüfen auch die Datenschutzaufsichtsbehörden KI-Systeme auf die Einhaltung datenschutzrechtlicher Vorgaben. Auch die Ergebnisse dieser Prüfungen sollten deshalb bei der Zulassung von KI-Systemen berücksichtigt werden.

 

Praktischer Hinweis

Insbesondere aufgrund der hohen prognostizierten Bedeutung von KI-Systemen im Finanzsektor sollten bereits jetzt Überlegungen hinsichtlich der Bedeutung von KI im konkreten Unternehmen und der angestrebten Implementierungen vorgenommen werden. Zukünftig wird – gerade in Hinblick auf die kommende KI-Verordnung der EU – viel Bewegung in die Diskussion rund um rechtliche Vorgaben bei der Nutzung von KI in der Arbeitswelt kommen.