Kunstig intelligens analyserer markeder, forbereder beslutninger og anbefaler opkøbsmål. Men hvis systemet begår en fejl, og virksomheden derved lider et betydeligt tab, opstår der et afgørende spørgsmål: Hvem er ansvarlig? Svaret er juridisk set entydigt. Ansvaret påhviler bestyrelsen eller den administrerende direktør, ikke maskinen.
»Business Judgment Rule« yder kun beskyttelse, hvis der foretages en selvstændig vurdering
I tysk selskabsret gælder den såkaldte »Business Judgment Rule«. Den fastslår, at bestyrelsesmedlemmer ikke hæfter personligt, hvis de har truffet en forretningsmæssig beslutning i god tro, på grundlag af tilstrækkelige oplysninger og til selskabets bedste. Det lyder enkelt, men det er det ikke, så snart kunstig intelligens kommer ind i billedet.
Problemet er, at en AI hverken besidder menneskelig dømmekraft, erhvervsmæssig erfaring eller intuition. Netop disse elementer udgør imidlertid grundlaget for »Business Judgment Rule«. Den, der blot overtager en beslutning fra AI-outputtet uden at stille kritiske spørgsmål og inddrage sin egen erfaring, kan ikke påberåbe sig beskyttelsen i denne regel. Ansvarsrisikoen forbliver da fuldt ud gældende.
AI er ikke en ekspertudtalelse
Hvis bestyrelsesmedlemmer eller direktører ikke selv kan tage stilling til bestemte faglige spørgsmål, må de støtte sig til eksterne ekspertudtalelser. Dette forudsætter dog, at eksperterne er uafhængige, ikke har modtaget nogen resultatbaserede retningslinjer og har kendskab til alle relevante oplysninger. Efter den nuværende viden kan en AI ikke opfylde disse forudsætninger. Den er fejlbehæftet, benytter til tider uigennemsigtige kilder og besidder ikke sin egen faglige dømmekraft. Et fejlagtigt AI-resultat fritager derfor ikke virksomhedsledelsen for juridisk ansvar.
Dokumentation er afgørende
Den, der inddrager kunstig intelligens i beslutningsprocesser, skal dokumentere dette omhyggeligt. I tilfælde af en retssag er det afgørende, at det er muligt at spore, hvilket informationsgrundlag en beslutning var baseret på. Følgende punkter bør noteres:
- Navnet på den person, der har brugt AI’en, og datoen for brugen
- Anvendt AI-værktøj med version og dato
- Anvendte prompts og uploadede dokumenter
- Formålet med brugen og det ønskede resultat
- Hvordan AI-resultaterne blev kontrolleret med hensyn til aktualitet, kilder og kontekst
- Overholdelse af interne godkendelsesprocesser
Da mange AI-værktøjer kun gemmer resultaterne i en kort periode, anbefales det at gemme prompter og svar som PDF-filer.
EU’s AI-lov medfører yderligere forpligtelser
Med EU’s AI-lov indføres der yderligere krav til såkaldte højrisikobaserede AI-systemer: et løbende risikostyringssystem, krav til datakvalitet og menneskelig overvågning samt dokumentationsforpligtelser. Den såkaldte lovlighedsforpligtelse pålægger bestyrelserne at sikre overholdelsen af disse krav. Den, der ignorerer dette, begår en pligtforsømmelse med deraf følgende erstatningsansvar. AI er dermed ikke kun et teknologisk emne, men også et compliance-emne.
Hvad det betyder for direktører i GmbH’er
De juridiske principper gælder ikke kun for aktieselskaber. Også direktører i GmbH’er er forpligtet til at træffe beslutninger med omhu. Den, der uden nærmere overvejelse overtager AI-resultater og derved overtræder den virksomhedsmæssige omhupligt, hæfter personligt. IT-afdelingen eller den juridiske afdeling kan ikke håndtere dette på vegne af ledelsen. Ansvaret ligger hos ledelsen selv. Hvis man er i tvivl om, hvordan brugen af AI i egen virksomhed kan tilrettelægges på en måde, der sikrer, at man undgår erstatningsansvar, bør man indhente juridisk rådgivning i god tid.
Kilde: Haufe: Jura
Dette indlæg og billedet til artiklen er udarbejdet med hjælp fra kunstig intelligens og redaktionelt gennemgået.