Bufete de Ase­so­ría Fis­cal y Jurí­di­ca Ina Ree­se – Flens­burg | Harrislee

Responsabilidad en materia de IA: si la IA comete un error, la responsabilidad recae, no obstante, en el consejo de administración

Responsabilidad en materia de IA: si la IA comete un error, la responsabilidad recae, no obstante, en el consejo de administración

La inte­li­gen­cia arti­fi­ci­al ana­li­za los mer­ca­dos, pre­pa­ra las decis­io­nes y reco­mien­da obje­tivos de adqui­si­ción. Sin embar­go, si el sis­te­ma come­te un error y la empre­sa suf­re por ello un per­jui­cio con­sidera­ble, sur­ge una preg­un­ta fun­da­men­tal: ¿quién es responsable? La respues­ta es cla­ra des­de el pun­to de vis­ta juríd­ico. La responsa­bil­idad recae en el con­se­jo de admi­nis­tra­ción o en el direc­tor gene­ral, no en la máquina.

La «Business Judgment Rule» solo ofrece protección si se lleva a cabo una evaluación independiente

En el Der­echo de socie­da­des ale­mán se apli­ca la deno­mi­na­da «Busi­ness Judgment Rule». Esta estable­ce que los miem­bros del con­se­jo de admi­nis­tra­ción no respon­den per­so­nal­men­te si han toma­do una decis­ión empre­sa­ri­al de bue­na fe, basán­do­se en infor­mación adecua­da y en bene­fi­cio de la socie­dad. Sue­na sen­cil­lo, pero no lo es en cuan­to entra en jue­go la inte­li­gen­cia artificial.

El pro­ble­ma es que una IA no dis­po­ne ni de cri­te­rio huma­no ni de expe­ri­en­cia empre­sa­ri­al ni de intui­ción. Sin embar­go, son pre­ci­sa­men­te estos ele­ment­os los que con­sti­tuy­en la base sob­re la que se sus­ten­ta la «Busi­ness Judgment Rule». Qui­en se limi­te a adopt­ar una decis­ión basán­do­se úni­ca­men­te en los resul­ta­dos de la IA, sin cues­tio­nar­la crí­ti­ca­men­te ni aport­ar su pro­pia expe­ri­en­cia, no podrá aco­ger­se a la pro­tección de esta nor­ma. En ese caso, el ries­go de responsa­bil­idad civil seguirá exis­ti­en­do en su totalidad.

La IA no es un dictamen pericial

Cuan­do los miem­bros del con­se­jo de admi­nis­tra­ción o los direc­to­res gene­ra­les no pued­an emi­tir un jui­cio por sí mis­mos sob­re deter­mi­na­das cues­tio­nes téc­ni­cas, podrán basar­se en dic­tá­me­nes de exper­tos exter­nos. Sin embar­go, esto pre­su­po­ne que los exper­tos sean inde­pen­di­en­tes, que no hayan reci­bi­do ins­truc­cio­nes ori­en­ta­das a un resul­ta­do con­cre­to y que conoz­can toda la infor­mación rele­van­te. En el estado actu­al de la tec­no­lo­gía, la IA no pue­de cum­plir estos requi­si­tos. Es pro­pen­sa a come­ter errores, uti­li­za fuen­tes en par­te poco trans­pa­ren­tes y care­ce de capa­ci­dad de jui­cio téc­ni­co pro­pio. Por lo tan­to, un resul­ta­do erró­neo de la IA no exi­me legal­men­te a la dirección de la empre­sa de su responsabilidad.

La documentación es fundamental

Qui­en incor­po­re la inte­li­gen­cia arti­fi­ci­al en los pro­ce­sos de toma de decis­io­nes debe docu­men­tar­lo minu­cio­sa­men­te. En caso de liti­gio ante los tri­bu­na­les, es fun­da­men­tal que se pueda com­pro­bar en qué infor­mación se basó una decis­ión. Se deben regis­trar los sigu­i­en­tes puntos:

  • Nombre de la per­so­na que ha uti­liz­ado la IA y fecha de uso
  • Her­ra­mi­en­ta de IA uti­lizada, con su ver­sión y fecha
  • Indi­ca­cio­nes uti­lizadas y docu­ment­os subidos
  • Final­idad del uso y resul­ta­do deseado
  • Cómo se veri­fi­ca­ron los resul­ta­dos de la IA en cuan­to a actu­al­i­dad, fuen­tes y contexto
  • Cum­pli­mi­en­to de los pro­ce­sos inter­nos de autorización

Dado que much­as her­ra­mi­en­tas de IA solo alma­cen­an los resul­ta­dos duran­te un bre­ve peri­odo de tiem­po, se reco­mien­da guar­dar las indi­ca­cio­nes y las respues­tas en for­ma­to PDF.

La Ley de IA de la UE establece obligaciones adicionales

Con la Ley de IA de la UE se aña­den nue­vos requi­si­tos para los deno­mi­na­dos sis­te­mas de IA de alto ries­go: un sis­te­ma con­ti­nuo de gestión de ries­gos, requi­si­tos en mate­ria de cali­dad de los datos y super­vi­sión huma­na, así como obli­ga­cio­nes de docu­ment­a­ción. La deno­mi­na­da «obli­ga­ción de lega­li­dad» obli­ga a los con­se­jos de admi­nis­tra­ción a garan­ti­zar el cum­pli­mi­en­to de estas dis­po­si­cio­nes. Qui­en lo igno­re, incurr­irá en un incum­pli­mi­en­to de sus obli­ga­cio­nes con las cor­re­spon­dien­tes con­se­cuen­ci­as en mate­ria de responsa­bil­idad. La IA no es, por tan­to, solo una cues­tión tec­noló­gi­ca, sino tam­bién una cues­tión de cum­pli­mi­en­to normativo.

Qué significa esto para los administradores de las sociedades de responsabilidad limitada (GmbH)

Los prin­ci­pi­os juríd­icos no solo se apli­can a las socie­da­des anó­ni­mas. Los admi­nis­tra­do­res de las socie­da­des de responsa­bil­idad limi­ta­da (GmbH) tam­bién están obli­ga­dos a tomar decis­io­nes con dili­gen­cia. Qui­en adop­te los resul­ta­dos de la IA sin refle­xio­nar y, al hacer­lo, incum­pla las obli­ga­cio­nes de dili­gen­cia empre­sa­ri­al, respon­derá per­so­nal­men­te. Ni el depart­a­men­to de TI ni el depart­a­men­to juríd­ico se encar­gan de regu­lar esta cues­tión en su nombre. La responsa­bil­idad recae en el pro­pio órga­no de dirección. Qui­en no ten­ga cla­ro cómo garan­ti­zar que el uso de la IA en su pro­pia empre­sa se rea­li­ce sin ries­go de responsa­bil­idad civil, debe­ría soli­ci­tar ase­so­r­ami­en­to juríd­ico con la debi­da antelación.

Este artí­cu­lo y la ima­gen que lo acom­pa­ña se han ela­bora­do con la ayu­da de la inte­li­gen­cia arti­fi­ci­al y han sido revi­sa­dos por la redacción.

Esto también podría interesarle