Aplicable en España — basado en normativa española (BOE).El mal uso de un sistema de IA que el proveedor debe anticipar, aunque no lo haya querido
Resumen rápido: El uso indebido razonablemente previsible es, en el Reglamento (UE) 2024/1689 de inteligencia artificial, la utilización de un sistema de IA de un modo que no corresponde a su finalidad prevista, pero que puede derivarse de un comportamiento humano o de la interacción con otros sistemas y resulta razonablemente previsible.
Definición flash: Utilización de un sistema de IA fuera de su finalidad prevista, pero previsible por el comportamiento humano o la interacción con otros sistemas.
Etiqueta lingüística
«Razonablemente previsible» es un estándar de diligencia, no una certeza: no exige anticipar cualquier desviación imaginable, sino aquella que un proveedor diligente habría podido prever atendiendo al contexto de uso. La expresión inglesa del reglamento es «reasonably foreseeable misuse».
Definición técnica
El artículo 3, punto 13, define el uso indebido razonablemente previsible como la utilización de un sistema de IA de un modo que no corresponde a su finalidad prevista, pero que puede derivarse de un comportamiento humano o una interacción con otros sistemas, incluidos otros sistemas de IA, razonablemente previsible. La definición identifica dos fuentes de desviación: la conducta de las personas y la interacción entre sistemas. La segunda es característica de la IA y no aparecía con esa claridad en la normativa clásica de seguridad de los productos: un sistema puede desviarse de su finalidad simplemente por acoplarse a otro.
Aplicación práctica
En la documentación técnica y en la gestión de riesgos de un sistema de alto riesgo, el análisis no puede limitarse al uso correcto. Hay que documentar los usos indebidos que cabe esperar y las medidas adoptadas frente a ellos. Para el responsable del despliegue, este concepto tiene la utilidad inversa: si un daño se produce por un uso que era razonablemente previsible y el proveedor no lo abordó, la posición de este último se debilita.
Contexto legal en España
El concepto procede del Reglamento (UE) 2024/1689 y se define por contraste con la finalidad prevista del punto 12 del mismo artículo 3. Es coherente con la lógica general del derecho europeo de seguridad de los productos, que desde hace décadas exige al fabricante anticipar el mal uso previsible, no solo el uso correcto.
Normas clave a tener en cuenta
Qué no es / diferencias clave
- Uso prohibido (prácticas de IA prohibidas)
- El USO INDEBIDO RAZONABLEMENTE PREVISIBLE es una desviación de la finalidad prevista que el proveedor debe anticipar, y no es en sí ilícita. Las PRÁCTICAS DE IA PROHIBIDAS del artículo 5 son conductas vetadas de forma absoluta por el reglamento, con independencia de la finalidad del sistema.
- Finalidad prevista
- La FINALIDAD PREVISTA es el uso concebido y documentado por el proveedor. El USO INDEBIDO RAZONABLEMENTE PREVISIBLE es, por definición, el que NO corresponde a esa finalidad, aunque sea esperable.
Términos relacionados
Dato de autoridad
El artículo 3, punto 13, del Reglamento (UE) 2024/1689 define «uso indebido razonablemente previsible» como «la utilización de un sistema de IA de un modo que no corresponde a su finalidad prevista, pero que puede derivarse de un comportamiento humano o una interacción con otros sistemas, incluidos otros sistemas de IA, razonablemente previsible».
Encuentra un abogado
Preguntas frecuentes sobre uso indebido razonablemente previsible
¿Qué es el uso indebido razonablemente previsible de una IA?
La utilización del sistema de un modo que no corresponde a su finalidad prevista pero que puede derivarse, de forma razonablemente previsible, de un comportamiento humano o de la interacción con otros sistemas, según el artículo 3, punto 13, del Reglamento (UE) 2024/1689.
¿Debe el proveedor anticipar cualquier mal uso?
No cualquiera: solo el razonablemente previsible. Es un estándar de diligencia, no una exigencia de imaginar todas las desviaciones concebibles.
¿Cuenta el mal funcionamiento causado por otro sistema?
Sí. La definición menciona expresamente la interacción con otros sistemas, incluidos otros sistemas de IA, como fuente del uso indebido previsible.
Autoría y revisión editorial
Contenido elaborado bajo la dirección editorial de DERECHO ABOGADOS, verificando cada norma sobre fuentes oficiales (BOE y jurisprudencia).
Cada norma citada se verifica contra su texto consolidado en el BOE: se comprueba el identificador de la norma, que la redacción sea la vigente y que lo entrecomillado sea literal. Es una verificación editorial, no un visto colegiado. Este contenido es información general y no constituye asesoramiento legal sobre un caso concreto.