La inteligencia artificial analiza los mercados, prepara las decisiones y recomienda objetivos de adquisición. Sin embargo, si el sistema comete un error y la empresa sufre por ello un perjuicio considerable, surge una pregunta fundamental: ¿quién es responsable? La respuesta es clara desde el punto de vista jurídico. La responsabilidad recae en el consejo de administración o en el director general, no en la máquina.
La «Business Judgment Rule» solo ofrece protección si se lleva a cabo una evaluación independiente
En el Derecho de sociedades alemán se aplica la denominada «Business Judgment Rule». Esta establece que los miembros del consejo de administración no responden personalmente si han tomado una decisión empresarial de buena fe, basándose en información adecuada y en beneficio de la sociedad. Suena sencillo, pero no lo es en cuanto entra en juego la inteligencia artificial.
El problema es que una IA no dispone ni de criterio humano ni de experiencia empresarial ni de intuición. Sin embargo, son precisamente estos elementos los que constituyen la base sobre la que se sustenta la «Business Judgment Rule». Quien se limite a adoptar una decisión basándose únicamente en los resultados de la IA, sin cuestionarla críticamente ni aportar su propia experiencia, no podrá acogerse a la protección de esta norma. En ese caso, el riesgo de responsabilidad civil seguirá existiendo en su totalidad.
La IA no es un dictamen pericial
Cuando los miembros del consejo de administración o los directores generales no puedan emitir un juicio por sí mismos sobre determinadas cuestiones técnicas, podrán basarse en dictámenes de expertos externos. Sin embargo, esto presupone que los expertos sean independientes, que no hayan recibido instrucciones orientadas a un resultado concreto y que conozcan toda la información relevante. En el estado actual de la tecnología, la IA no puede cumplir estos requisitos. Es propensa a cometer errores, utiliza fuentes en parte poco transparentes y carece de capacidad de juicio técnico propio. Por lo tanto, un resultado erróneo de la IA no exime legalmente a la dirección de la empresa de su responsabilidad.
La documentación es fundamental
Quien incorpore la inteligencia artificial en los procesos de toma de decisiones debe documentarlo minuciosamente. En caso de litigio ante los tribunales, es fundamental que se pueda comprobar en qué información se basó una decisión. Se deben registrar los siguientes puntos:
- Nombre de la persona que ha utilizado la IA y fecha de uso
- Herramienta de IA utilizada, con su versión y fecha
- Indicaciones utilizadas y documentos subidos
- Finalidad del uso y resultado deseado
- Cómo se verificaron los resultados de la IA en cuanto a actualidad, fuentes y contexto
- Cumplimiento de los procesos internos de autorización
Dado que muchas herramientas de IA solo almacenan los resultados durante un breve periodo de tiempo, se recomienda guardar las indicaciones y las respuestas en formato PDF.
La Ley de IA de la UE establece obligaciones adicionales
Con la Ley de IA de la UE se añaden nuevos requisitos para los denominados sistemas de IA de alto riesgo: un sistema continuo de gestión de riesgos, requisitos en materia de calidad de los datos y supervisión humana, así como obligaciones de documentación. La denominada «obligación de legalidad» obliga a los consejos de administración a garantizar el cumplimiento de estas disposiciones. Quien lo ignore, incurrirá en un incumplimiento de sus obligaciones con las correspondientes consecuencias en materia de responsabilidad. La IA no es, por tanto, solo una cuestión tecnológica, sino también una cuestión de cumplimiento normativo.
Qué significa esto para los administradores de las sociedades de responsabilidad limitada (GmbH)
Los principios jurídicos no solo se aplican a las sociedades anónimas. Los administradores de las sociedades de responsabilidad limitada (GmbH) también están obligados a tomar decisiones con diligencia. Quien adopte los resultados de la IA sin reflexionar y, al hacerlo, incumpla las obligaciones de diligencia empresarial, responderá personalmente. Ni el departamento de TI ni el departamento jurídico se encargan de regular esta cuestión en su nombre. La responsabilidad recae en el propio órgano de dirección. Quien no tenga claro cómo garantizar que el uso de la IA en su propia empresa se realice sin riesgo de responsabilidad civil, debería solicitar asesoramiento jurídico con la debida antelación.
Fuente: Haufe: Derecho
Este artículo y la imagen que lo acompaña se han elaborado con la ayuda de la inteligencia artificial y han sido revisados por la redacción.