La inteligencia artificial asume cada vez más tareas en las empresas: analiza mercados, evalúa cifras y prepara decisiones. Sin embargo, si un análisis basado en la IA resulta erróneo y ello causa un perjuicio a la empresa, surge una cuestión muy práctica: ¿quién es responsable?
La respuesta es clara: la junta directiva
Por muy sofisticado que sea el sistema de IA utilizado, la responsabilidad jurídica de las decisiones empresariales recae en el órgano de dirección. Esto se aplica tanto a los miembros del consejo de administración de una sociedad anónima como a los administradores de una sociedad de responsabilidad limitada. La IA puede ayudar en la preparación de las decisiones, pero no puede desarrollar una capacidad de juicio autónoma ni aportar experiencia específica de la empresa.
Sin embargo, eso es precisamente lo decisivo cuando se trata de la denominada «Business Judgment Rule». Esta norma del derecho de sociedades protege a los miembros del consejo de administración frente a la responsabilidad personal cuando han tomado una decisión empresarial de buena fe, basándose en información adecuada y en interés de la sociedad. Sin embargo, quien se limite a aceptar los resultados de la IA sin analizarlos críticamente y sin aportar su propio criterio, no podrá acogerse a esta protección.
La IA no sustituye al dictamen de un experto
En la práctica se está extendiendo otro malentendido: muchos directivos tratan los análisis de IA como si fueran un informe pericial elaborado por un experto externo. Esto plantea problemas jurídicos. Un dictamen pericial solo exime de responsabilidad a un órgano de dirección si el experto es realmente competente, no ha recibido instrucciones orientadas a un resultado concreto y ha tenido conocimiento completo de toda la información relevante. En el estado actual de la tecnología, una IA no puede cumplir estos requisitos. Por lo tanto, un resultado erróneo de la IA no tiene el mismo efecto en materia de responsabilidad civil que un dictamen pericial elaborado por un ser humano.
Lo que es obligatorio documentar
Quien incorpore la inteligencia artificial en los procesos de toma de decisiones debe documentar cuidadosamente su uso. A posteriori, debe quedar claro en qué información se basó una decisión. La documentación debe incluir, en particular:
- Nombre de la persona que ha utilizado la IA y fecha de uso
- Nombre y versión de la herramienta de IA utilizada
- Datos introducidos y mensajes de solicitud, así como documentos subidos
- Verificación de los resultados en cuanto a contexto, actualidad y fuentes
- Cumplimiento de los procesos internos de autorización
Las indicaciones y los resultados deberían guardarse, a ser posible, en formato PDF, ya que muchas herramientas de IA no ofrecen un almacenamiento permanente.
La Ley de IA de la UE establece obligaciones adicionales
La Ley de IA de la UE clasifica determinadas aplicaciones de IA como de alto riesgo y exige, entre otras cosas, un sistema de gestión de riesgos que se actualice de forma continua, así como estrictas obligaciones de documentación. Quien ignore estos requisitos normativos incumple el denominado «deber de legalidad» y, por lo tanto, se expone a un riesgo adicional de responsabilidad. La IA no es, por tanto, solo una cuestión tecnológica, sino un auténtico tema de cumplimiento normativo.
Qué significa esto para los administradores de las sociedades de responsabilidad limitada (GmbH)
Aunque el debate suele centrarse en los consejos de administración de las sociedades anónimas, estos principios se aplican igualmente a los administradores de las sociedades de responsabilidad limitada. Quien utilice la IA en el día a día de la actividad operativa, por ejemplo, para análisis financieros, decisiones de personal o planificación estratégica, debería establecer normas internas claras, formar a los empleados y revisar periódicamente el uso de la IA. No basta con pensar que el departamento de TI o el departamento jurídico ya se encargarán de ello. La responsabilidad no se puede delegar.
Las empresas que ya utilizan la IA de forma intensiva o que tienen previsto hacerlo deberían aclarar las cuestiones relacionadas con la responsabilidad legal con la debida antelación. El asesoramiento de un abogado les ayudará a desarrollar los procesos y las estructuras de documentación adecuados.
Fuente: Haufe: Personal
Este artículo y la imagen que lo acompaña se han elaborado con la ayuda de la inteligencia artificial y han sido revisados por la redacción.