Bufete de Ase­so­ría Fis­cal y Jurí­di­ca Ina Ree­se – Flens­burg | Harrislee

Errores de la IA, responsabilidad del consejo de administración: lo que los directores generales deben saber ahora

Errores de la IA, responsabilidad del consejo de administración: lo que los directores generales deben saber ahora

La inte­li­gen­cia arti­fi­ci­al asu­me cada vez más tare­as en las empre­sas: ana­li­za mer­ca­dos, evalúa cif­ras y pre­pa­ra decis­io­nes. Sin embar­go, si un aná­li­sis basa­do en la IA resul­ta erró­neo y ello cau­sa un per­jui­cio a la empre­sa, sur­ge una cues­tión muy prác­ti­ca: ¿quién es responsable?

La respuesta es clara: la junta directiva

Por muy sofi­sti­ca­do que sea el sis­te­ma de IA uti­liz­ado, la responsa­bil­idad jurí­di­ca de las decis­io­nes empre­sa­ria­les recae en el órga­no de dirección. Esto se apli­ca tan­to a los miem­bros del con­se­jo de admi­nis­tra­ción de una socie­dad anó­ni­ma como a los admi­nis­tra­do­res de una socie­dad de responsa­bil­idad limi­ta­da. La IA pue­de ayu­dar en la pre­pa­ra­ción de las decis­io­nes, pero no pue­de des­ar­rol­lar una capa­ci­dad de jui­cio autó­no­ma ni aport­ar expe­ri­en­cia especí­fi­ca de la empresa.

Sin embar­go, eso es pre­ci­sa­men­te lo decisi­vo cuan­do se tra­ta de la deno­mi­na­da «Busi­ness Judgment Rule». Esta nor­ma del der­echo de socie­da­des pro­te­ge a los miem­bros del con­se­jo de admi­nis­tra­ción fren­te a la responsa­bil­idad per­so­nal cuan­do han toma­do una decis­ión empre­sa­ri­al de bue­na fe, basán­do­se en infor­mación adecua­da y en inte­rés de la socie­dad. Sin embar­go, qui­en se limi­te a acept­ar los resul­ta­dos de la IA sin ana­li­zar­los crí­ti­ca­men­te y sin aport­ar su pro­pio cri­te­rio, no podrá aco­ger­se a esta protección.

La IA no sustituye al dictamen de un experto

En la prác­ti­ca se está exten­di­en­do otro malen­ten­di­do: muchos direc­tivos tra­tan los aná­li­sis de IA como si fuer­an un infor­me peri­cial ela­bora­do por un exper­to exter­no. Esto plan­tea pro­ble­mas juríd­icos. Un dic­ta­men peri­cial solo exi­me de responsa­bil­idad a un órga­no de dirección si el exper­to es real­men­te com­pe­ten­te, no ha reci­bi­do ins­truc­cio­nes ori­en­ta­das a un resul­ta­do con­cre­to y ha teni­do cono­ci­mi­en­to com­ple­to de toda la infor­mación rele­van­te. En el estado actu­al de la tec­no­lo­gía, una IA no pue­de cum­plir estos requi­si­tos. Por lo tan­to, un resul­ta­do erró­neo de la IA no tiene el mis­mo efec­to en mate­ria de responsa­bil­idad civil que un dic­ta­men peri­cial ela­bora­do por un ser humano.

Lo que es obligatorio documentar

Qui­en incor­po­re la inte­li­gen­cia arti­fi­ci­al en los pro­ce­sos de toma de decis­io­nes debe docu­men­tar cui­d­ado­sa­men­te su uso. A pos­te­rio­ri, debe qued­ar cla­ro en qué infor­mación se basó una decis­ión. La docu­ment­a­ción debe incluir, en particular:

  • Nombre de la per­so­na que ha uti­liz­ado la IA y fecha de uso
  • Nombre y ver­sión de la her­ra­mi­en­ta de IA utilizada
  • Datos intro­du­ci­dos y men­sa­jes de soli­ci­tud, así como docu­ment­os subidos
  • Veri­fi­ca­ción de los resul­ta­dos en cuan­to a con­tex­to, actu­al­i­dad y fuentes
  • Cum­pli­mi­en­to de los pro­ce­sos inter­nos de autorización

Las indi­ca­cio­nes y los resul­ta­dos debe­rí­an guar­dar­se, a ser posi­ble, en for­ma­to PDF, ya que much­as her­ra­mi­en­tas de IA no ofre­cen un alma­cen­a­mi­en­to permanente.

La Ley de IA de la UE establece obligaciones adicionales

La Ley de IA de la UE cla­si­fi­ca deter­mi­na­das apli­ca­cio­nes de IA como de alto ries­go y exi­ge, ent­re otras cosas, un sis­te­ma de gestión de ries­gos que se actua­li­ce de for­ma con­ti­nua, así como est­ric­tas obli­ga­cio­nes de docu­ment­a­ción. Qui­en igno­re estos requi­si­tos nor­ma­tivos incum­p­le el deno­mi­na­do «deber de lega­li­dad» y, por lo tan­to, se expo­ne a un ries­go adi­cio­nal de responsa­bil­idad. La IA no es, por tan­to, solo una cues­tión tec­noló­gi­ca, sino un autén­ti­co tema de cum­pli­mi­en­to normativo.

Qué significa esto para los administradores de las sociedades de responsabilidad limitada (GmbH)

Aun­que el deba­te sue­le cen­trar­se en los con­se­jos de admi­nis­tra­ción de las socie­da­des anó­ni­mas, estos prin­ci­pi­os se apli­can igual­men­te a los admi­nis­tra­do­res de las socie­da­des de responsa­bil­idad limi­ta­da. Qui­en uti­li­ce la IA en el día a día de la activ­i­dad ope­ra­ti­va, por ejem­plo, para aná­li­sis finan­cie­ros, decis­io­nes de per­so­nal o pla­ni­fi­ca­ción estra­té­gica, debe­ría estable­cer nor­mas internas cla­ras, for­mar a los emp­lea­dos y revi­sar peri­ó­di­ca­men­te el uso de la IA. No bas­ta con pen­sar que el depart­a­men­to de TI o el depart­a­men­to juríd­ico ya se encar­garán de ello. La responsa­bil­idad no se pue­de delegar.

Las empre­sas que ya uti­liz­an la IA de for­ma inten­si­va o que tie­nen pre­vis­to hacer­lo debe­rí­an aclarar las cues­tio­nes rela­cio­na­das con la responsa­bil­idad legal con la debi­da antel­a­ción. El ase­so­r­ami­en­to de un abo­ga­do les ayu­dará a des­ar­rol­lar los pro­ce­sos y las estruc­tu­ras de docu­ment­a­ción adecuados.

Este artí­cu­lo y la ima­gen que lo acom­pa­ña se han ela­bora­do con la ayu­da de la inte­li­gen­cia arti­fi­ci­al y han sido revi­sa­dos por la redacción.

Esto también podría interesarle