Manipulación del comportamiento en sistemas de IA: Riesgos y limitaciones

El Reglamento de Inteligencia Artificial (UE) 2024/1689, aprobado en agosto de 2024, establece prohibiciones específicas contra el uso de la inteligencia artificial para manipular el comportamiento humano de forma que se comprometa la autonomía de las personas o se las induzca a tomar decisiones en su perjuicio. Esta normativa responde a la creciente preocupación sobre el uso de IA en prácticas subliminales que influyen en los usuarios sin que éstos sean conscientes, como el uso de estímulos visuales o auditivos imperceptibles para condicionar sus decisiones.

El reglamento clasifica estas prácticas como de riesgo inaceptable y, por tanto, prohíbe su implementación en la Unión Europea. Los sistemas de IA que puedan explotar vulnerabilidades específicas, derivadas de la edad, discapacidad o situación socioeconómica de una persona, también están estrictamente regulados. Esto abarca, por ejemplo, prácticas que influyen en las decisiones financieras de personas en situación de vulnerabilidad o técnicas de influencia en menores.

La normativa establece que el incumplimiento de estas disposiciones puede dar lugar a sanciones importantes para las empresas, así como repercusiones directas para los responsables en la toma de decisiones. En miotroseguro.com, ofrecemos protección a empresas y a sus directivos frente a sanciones derivadas del incumplimiento normativo. Conoce más sobre cómo podemos ayudarte en nuestro seguro para directivos y administradores.