Sistema de gestión de riesgos en IA: una obligación clave para las empresas

El Reglamento de Inteligencia Artificial (UE) 2024/1689, aprobado en agosto de 2024, exige a las empresas implementar un sistema de gestión de riesgos para los sistemas de IA de alto riesgo. Este sistema debe permitir identificar, analizar y mitigar los riesgos asociados con el uso de IA, garantizando la seguridad y protección de los derechos de los usuarios.

La gestión de riesgos en IA implica realizar una evaluación exhaustiva en varias etapas del desarrollo y despliegue del sistema. Esto incluye la identificación de posibles impactos negativos en derechos fundamentales, como la privacidad y la no discriminación, así como riesgos de seguridad en los sectores donde la IA tiene una influencia directa, como la salud o la seguridad pública. Esta evaluación debe realizarse antes de la puesta en marcha del sistema y actualizarse periódicamente.