La responsabilidad en la cadena de valor de la IA: obligaciones para las empresas
El Reglamento de Inteligencia Artificial (UE) 2024/1689, aprobado en agosto de 2024, establece una responsabilidad compartida en la cadena de valor de los sistemas de IA, especialmente en aquellos clasificados como de alto riesgo. Es decir, los actores involucrados en el diseño, desarrollo, despliegue y uso de estos sistemas tienen obligaciones específicas para garantizar la seguridad, fiabilidad y transparencia en el uso de la IA.
Esta responsabilidad recae sobre los proveedores y desarrolladores, integradores, distribuidores y usuarios. Cada uno debe cumplir con exigencias como la transparencia, el monitoreo de riesgos, la documentación adecuada y la gestión de los datos. El reglamento busca prevenir fallos en la seguridad y reducir riesgos de impacto negativo en derechos fundamentales, corresponsabilizando a todos los actores de la carga del cumplimiento.
Obligaciones de los actores en la cadena de valor
- Proveedores y desarrolladores: Son responsables de garantizar que los sistemas de IA cumplan los estándares de calidad y seguridad, de llevar una gestión de riesgos efectiva y mantener documentación técnica sobre funcionamiento y características del sistema.
- Integradores y distribuidores: Tienen la obligación de asegurarse de que los sistemas de IA que distribuyen o integran cumplen con los requisitos legales y técnicos.
- Usuarios y responsables del despliegue: En el caso de los sistemas de IA de alto riesgo, deben supervisar el uso del sistema y documentar sus operaciones, de modo que se mantenga una trazabilidad y transparencia adecuadas en todas las fases de uso.
Consecuencias del incumplimiento en la cadena de valor
La falta de cumplimiento puede derivar en sanciones, que comprome la seguridad jurídica y la reputación de las empresas implicadas. La normativa prevé que las autoridades puedan exigir medidas correctivas, y en los casos más graves, la suspensión de los sistemas de IA afectados.
Para cumplir con estas obligaciones, se recomienda a las empresas de la cadena de valor de IA:
- Establecer protocolos de auditoría interna para revisar el cumplimiento en cada etapa del desarrollo, distribución y uso de la IA.
- Coordinar con socios y proveedores para verificar que todos los sistemas y componentes cumplen con los estándares regulatorios.
- Capacitar a todos los agentes de la cadena sobre sus responsabilidades legales y los riesgos asociados al uso de IA de alto riesgo.
En miotroseguro.com, ofrecemos protección a empresas y a sus directivos frente a sanciones derivadas del incumplimiento normativo. Conoce más sobre cómo podemos ayudarte en nuestro seguro para directivos y administradores.
