Künstliche Intelligenz analysiert Märkte, bereitet Entscheidungen vor und empfiehlt Akquisitionsziele. Doch wenn das System einen Fehler macht und das Unternehmen dadurch einen erheblichen Schaden erleidet, stellt sich eine entscheidende Frage: Wer haftet? Die Antwort ist rechtlich eindeutig. Die Haftung verbleibt beim Vorstand oder Geschäftsführer, nicht bei der Maschine.
Business Judgment Rule schützt nur bei eigenständiger Prüfung
Im deutschen Gesellschaftsrecht gilt die sogenannte Business Judgment Rule. Sie besagt, dass Vorstandsmitglieder nicht persönlich haften, wenn sie eine unternehmerische Entscheidung in gutem Glauben, auf Grundlage angemessener Information und zum Wohl der Gesellschaft getroffen haben. Klingt einfach, ist es aber nicht, sobald KI ins Spiel kommt.
Das Problem: Eine KI verfügt weder über menschliches Urteilsvermögen noch über unternehmerische Erfahrung oder Intuition. Genau diese Elemente sind aber die Grundlage, auf die die Business Judgment Rule abstellt. Wer eine Entscheidung einfach aus dem KI-Output übernimmt, ohne sie kritisch zu hinterfragen und eigene Erfahrung einzubringen, kann sich nicht auf den Schutz dieser Regel berufen. Das Haftungsrisiko bleibt dann vollständig bestehen.
KI ist kein Expertengutachten
Wenn Vorstände oder Geschäftsführer in bestimmten Fachfragen nicht selbst urteilen können, dürfen sie sich auf externe Expertengutachten stützen. Das setzt jedoch voraus, dass die Experten unabhängig sind, keine ergebnisorientierten Vorgaben erhalten haben und alle relevanten Informationen kennen. Diese Voraussetzungen kann eine KI nach aktuellem Stand nicht erfüllen. Sie ist fehleranfällig, nutzt teils intransparente Quellen und besitzt kein eigenes fachliches Urteilsvermögen. Ein fehlerhaftes KI-Ergebnis entlastet die Unternehmensleitung daher rechtlich nicht.
Dokumentation ist entscheidend
Wer KI in Entscheidungsprozesse einbindet, muss dies sorgfältig dokumentieren. Im Streitfall vor Gericht kommt es darauf an, dass nachvollziehbar ist, auf welcher Informationsgrundlage eine Entscheidung beruhte. Folgende Punkte sollten festgehalten werden:
- Name der Person, die die KI genutzt hat, und das Datum der Nutzung
- Verwendetes KI-Tool mit Version und Datum
- Eingesetzte Prompts und hochgeladene Dokumente
- Zweck der Nutzung und gewünschtes Ergebnis
- Wie die KI-Ergebnisse auf Aktualität, Quellen und Kontext überprüft wurden
- Einhaltung interner Freigabeprozesse
Da viele KI-Tools Ergebnisse nur kurzfristig speichern, empfiehlt es sich, Prompts und Antworten als PDF zu sichern.
EU AI Act schafft zusätzliche Pflichten
Mit dem EU AI Act kommen für sogenannte Hochrisiko-KI-Systeme weitere Anforderungen hinzu: ein kontinuierliches Risikomanagementsystem, Anforderungen an Datenqualität und menschliche Aufsicht sowie Dokumentationspflichten. Die sogenannte Legalitätspflicht verpflichtet Vorstände dazu, die Einhaltung dieser Vorgaben sicherzustellen. Wer das ignoriert, begeht eine Pflichtverletzung mit entsprechender Haftungsfolge. KI ist damit nicht nur ein Technologiethema, sondern auch ein Compliance-Thema.
Was das für GmbH-Geschäftsführer bedeutet
Die rechtlichen Grundsätze gelten nicht nur für Aktiengesellschaften. Auch GmbH-Geschäftsführer sind zur sorgfältigen Entscheidungsfindung verpflichtet. Wer KI-Ergebnisse unreflektiert übernimmt und dabei unternehmerische Sorgfaltspflichten verletzt, haftet persönlich. Die IT-Abteilung oder Legal-Abteilung regelt das Thema nicht stellvertretend. Die Verantwortung liegt beim Leitungsorgan selbst. Wer unsicher ist, wie KI-Einsatz im eigenen Unternehmen haftungssicher gestaltet werden kann, sollte frühzeitig rechtlichen Rat einholen.
Quelle: Haufe: Recht
Dieser Beitrag und das Artikel Bild wurde mit Unterstützung von KI erstellt und redaktionell geprüft.