Künstliche Intelligenz (KI) ist heutzutage aus unserem Alltag nicht mehr wegzudenken. Sie wird in verschiedensten Bereichen eingesetzt und hat einen enormen Einfluss auf unser tägliches Leben. Die kontinuierliche Weiterentwicklung der KI zielt darauf ab, sie noch effektiver und effizienter zu machen. Leitungsorgane stehen dabei vor der Herausforderung zu entscheiden,
- ob und in welchem Umfang sie KI im Rahmen ihrer unternehmerischen Entscheidungen nutzen können,
- wie vertrauenswürdig solche Quellen sind und
- ob eine Informationsgewinnung auf diesem Wege den Maßgaben der deutschen Business Judgement Rule entsprechen kann.
Dabei sind unterschiedliche Sorgfaltsmaßstäbe und eine individuelle Betrachtung erforderlich, um möglichst rechtssichere Lösungen zu finden.
Sorgfaltspflichten bei Informationsgewinnung durch KI
Das Gesetz besagt: Geschäftsführende Organe haben bei ihrer Geschäftsführung die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters anzuwenden. Dabei ist insbesondere die Anwendung der Legalitätspflicht und der deutlich über den bloßen Gesetzestext hinausgehenden Maßstäbe der Business Judgement Rule von großer praktischer Bedeutung, da deren Einhaltung für (persönliche) Haftungsrisiken und die Frage, ob etwaige Sorgfaltspflichtverletzungen vorliegen, elementar ist. Die Einhaltung dieser Pflicht gilt auch und gerade im Umgang mit KI, wobei die Sorgfaltsanforderungen je nach Art der zu treffenden unternehmerischen Entscheidung variieren.
Ist die Nutzung von KI angemessen?
Nach aktueller Rechtslage gibt es (noch) keine Einschränkungen für den Einsatz von KI, sofern keine spezialgesetzlichen Ausnahmen normiert sind.
Dass der Ergebnisgewinn aus der KI meist auf unsicheren Wahrscheinlichkeitsprognosen basiert, steht ihrem Einsatz per se nicht entgegen. Im Gegenteil, die Business Judgement Rule ermöglicht es durchaus, in bestimmten Konstellationen auf solchermaßen generierte Prognoseentscheidungen zu vertrauen.
Der Bundesgerichtshof (BGH) hat mittlerweile einen weiten Spielraum für die Angemessenheit des KI-Einsatzes festgelegt. Die Geschäftsleitung habe alle verfügbaren rechtlichen und tatsächlichen Informationsquellen vollständig zu verwerten und Kosten und Nutzen gegeneinander abzuwägen. Dies gilt im Übrigen auch ganz unabhängig vom etwaigen Einsatz der KI beim Treffen jeder unternehmerischen Entscheidung.
Die Bewertung der „Angemessenheit“ habe nach einem objektiv-subjektiven Maßstab zu erfolgen: Jedes Leitungsorgan (z.B. Mitglied der Geschäftsleitung) habe die Informationsgrundlage vorab subjektiv zu bewerten, eine solche Bewertung müsse aber rückblickend aus objektiver Sicht zumindest vertretbar sein.
Geschäftsführer müssen die Verantwortung für den KI-Einsatz übernehmen
Die Folgepflichten beim Einsatz von KI für unternehmerische Entscheidungen bestimmen sich nach den Grundsätzen der vertikalen Aufgabendelegation. Die Geschäftsleitung ist nicht verpflichtet, sich die Informationen selbst zu beschaffen, sondern kann bestimmte Aufgaben delegieren. Dabei spielt es keine Rolle, ob die Informationen von KIs oder von Menschen stammen.
Dennoch ist sie verpflichtet, sicherzustellen, dass die internen Informationsflüsse effizient und zuverlässig organisiert sind. Konkret bedeutet das, dass sie die Informationen, die sie nicht selbst ermittelt hat, auf ihre Vertraulichkeit hin prüfen muss. Zwar besteht keine allgemeine Verpflichtung, alle erdenklichen Informationen zu beschaffen oder systematischen Prüfverfahren zu unterwerfen. Die Delegation einer Aufgabe entbindet die Geschäftsleitung aber keineswegs von ihren Pflichten.
KI rechtskonform und effizient gestalten
Um eine Entscheidung zu treffen, muss die KI sorgfältig ausgewählt und entsprechend trainiert werden für die Beantwortung der relevanten Fragen. Dafür ist es entscheidend, dass die KI für die spezifische Aufgabe mit ausreichend Informationen in guter Qualität versorgt wird. Wichtig ist dabei, Grenzen zu beachten, die sich möglicherweise aus verschiedenen rechtlichen Bestimmungen wie
- dem Datenschutzrecht,
- dem Gleichbehandlungsgebot,
- dem Urheberrecht oder – neben Weiteren –
- dem Wettbewerbsrecht
ergeben können.
Die ungeklärte Debatte um die Überprüfung von KI-Ergebnissen
Die Frage, ob und inwieweit Leitungsorgane die Ergebnisse eines KI-Systems überprüfen müssen, bleibt weiterhin ungeklärt, kann aber auf Grundlage der bestehenden Maßstäbe problemlos abgeleitet werden.
Inwiefern Leitungsorgane die Ergebnisse der KI inhaltlich zu überprüfen haben, ist umstritten. Teilweise wird argumentiert, dass nur eine qualifizierte Expertenberatung und eine sorgfältige Plausibilitätsprüfung ein schutzwürdiges Vertrauen rechtfertigen können. Dem ist hinzuzufügen, dass im Gegensatz zum menschlichen Fachexperten KI beispielsweise keine vollständigen Gutachten, sondern nur wahrscheinlichkeitsbasierte Ergebnisse liefern kann.
Leitungsorgane müssen KI-Ergebnisse überprüfen
Leitungsorgane können KI-Erkenntnisse nutzen, sind dazu aber keineswegs verpflichtet. Verpflichtet sind sie aber in jedem Fall dazu, die Ergebnisse zu überprüfen und objektiv nachvollziehbare Entscheidungen darüber zu treffen, warum bestimmte Ergebnisse berücksichtigt werden oder nicht.
WINHELLER steht Ihnen zur Seite, um sicherzustellen, dass Sie Ihren Sorgfaltspflichten nachkommen, um KI-Ergebnisse in Ihre Entscheidungsfindung einbeziehen und gleichzeitig die Vorteile dieser Technologie bestmöglich nutzen zu können, ohne dabei rechtliche Risiken einzugehen. Kommen Sie gern mit Ihren Fragen auf uns zu!
Weiterlesen:
Business Judgement Rule: 5 Grundregeln für pflichtgemäßes Handeln
KI-Verordnung – Regulierung künstlicher Intelligenz in der EU
