EU AI Act · Reglament (UE) 2024/1689 · BPM governat

EU AI Act i automatització de processos: el teu workflow és d’alt risc?

És la pregunta que es fa tot responsable de processos: «si poso IA al meu workflow, em converteixo en sistema d’alt risc?» La resposta no depèn de la tecnologia, sinó de sobre què y sobre qui decideix la IA.

Aquesta guia tradueix l’EU AI Act a workflows reals i mostra com un BPM governat converteix el compliment en una propietat del procés, no en un projecte a part.

EU AI Act aplicat a l’automatització de processos: nivells de risc de la IA en un workflow BPM governat
AR
Propietari de Dokuflex
Actualitzat: 15 de setembre de 2026

Per a responsables de processos, DPO i compliance. Aquesta guia és divulgativa i no substitueix l’assessorament jurídic. La classificació final de cada sistema d’IA exigeix analitzar-ne l’ús concret a la llum del Reglament (UE) 2024/1689.

Resposta directa

Un workflow amb IA és d’alt risc segons l’EU AI Act si la IA decideix sobre persones en àmbits de l’Annex III: filtrar candidatures, decisions de promoció o acomiadament, assignar tasques per algorisme, accés a serveis essencials, educació o biometria. Si només extreu o classifica documents o redacta esborranys que valida una persona, el risc baixa dràsticament.

Què és l’EU AI Act i quan t’afecta

L’EU AI Act és el Reglament (UE) 2024/1689, el primer marc legal del món que regula la intel·ligència artificial de manera horitzontal. Va entrar en vigor el dia 1 d’agost de 2024 i s’aplica de manera esglaonada, no de cop.

El calendari que importa per als teus projectes d’automatització:

  • 2 de febrer de 2025: aplicables les prohibiciones (pràctiques de risc inacceptable) i les obligacions de alfabetització en IA del personal.
  • 2 d’agost de 2025: obligacions per als models de IA de propòsit general (GPAI).
  • 2 d’agost de 2026: aplicació general del reglament, incloses les obligacions de transparència de l’art. 50 (avisar que l’usuari parla amb una IA, etiquetar contingut sintètic).
  • 2 de desembre de 2027: obligacions per a l’alt risc de l’Annex III. El Reglament (UE) 2026/1744 (òmnibus digital, DOUE 24-jul-2026) les va ajornar des d’agost de 2026. Ara aquesta és la data clau per a la majoria de workflows empresarials; el que està prohibit i l’alfabetització en IA no es van ajornar.
  • 2 d’agost de 2027: sistemes d’alt risc integrats en productes regulats de l’Annex I.

El reglament distingeix dos rols: el proveedor, que desenvolupa o posa al mercat el sistema d’IA, i el deployer (usuari professional), que l’utilitza sota la seva responsabilitat. La majoria d’empreses que automatitzen processos actuen com a deployers, i això canvia quines obligacions els toquen.

Els quatre nivells de risc, aplicats a processos reals

L’EU AI Act classifica els sistemes pel risc del seu uso, no per la potència del model. Hi ha quatre nivells:

  • Risc inacceptable (prohibit): social scoring, manipulació subliminal i certs usos biomètrics. No es poden desplegar a la UE.
  • Alt risc (Annex III): ocupació i gestió de treballadors (filtratge de candidatures, decisions de promoció o acomiadament, assignació de tasques per algorisme), accés a serveis essencials, educació, biometria… Obligacions plenes.
  • Risc limitat: obligació de transparència. Un chatbot s’ha d’identificar com a IA.
  • Risc mínim: la resta. Bones pràctiques, sense obligacions específiques.

El més útil és veure-ho sobre processos concrets. Quatre workflows habituals i el seu nivell:

Alt risc

Filtratge de CV a RRHH

Un workflow que fa servir IA per filtrar o puntuar candidatures decideix sobre l’accés a l’ocupació de persones. És Annex III: alt risc, amb totes les obligacions del proveïdor i del deployer.

Alt risc

Scoring creditici

Concedir o denegar l’accés a un servei essencial mitjançant IA afecta de manera rellevant la persona. Alt risc: exigeix supervisió humana, gestió de riscos i traçabilitat.

Risc limitat

Chatbot intern

Un assistent conversacional que orienta els empleats és de risc limitat. Única obligació material: identificar-se com a IA davant de qui l’utilitza.

Risc mínim

OCR de factures

Extreure i classificar dades de factures no decideix sobre persones. Risc mínim: bones pràctiques, sense obligacions específiques del reglament.

La regla mental: si la IA decideix sobre persones en un àmbit sensible, puja a alt risc. Si la IA només processa documents o prepara esborranys que valida una persona, el risc regulador baixa dràsticament perquè la decisió continua sent humana.

Què significa això per a les teves automatitzacions BPM

Quan un workflow fa servir IA per decidir sobre persones —filtrar candidats, avaluar empleats, concedir o denegar alguna cosa rellevant— probablement entra en alt risc. I l’alt risc reparteix obligacions entre dos rols:

  • Proveïdor del sistema: gestió de riscos, governança de dades, documentació tècnica, logging, supervisió humana per disseny, i garanties d’exactitud, robustesa i ciberseguretat.
  • Deployer / usuari: ús conforme a les instruccions, supervisió humana efectiva, monitoratge del funcionament i conservació dels logs.

El matís que canvia el projecte: si la IA només extreu o classifica documents, o redacta esborranys que valida una persona, la decisió és humana i el risc regulador baixa moltíssim. Per això el disseny del procés —no el model— determina la teva exposició.

Aquesta és exactament la lògica dels agents d’IA governats dins del BPM: la IA proposa, executa tasques acotades i deixa rastre; la persona decideix en els punts sensibles.

Obligacions si ets deployer d’un sistema d’alt risc

La majoria d’empreses són deployers, no proveïdors. Aquestes són les obligacions que el reglament t’assigna en aquest rol quan el sistema és d’alt risc:

  • Ús conforme: utilitzar el sistema segons les instruccions d’ús del proveïdor, sense desviar-lo a finalitats per a les quals no va ser avaluat.
  • Supervisió humana efectiva: designar persones amb competència i autoritat reals per revisar, anul·lar o no aplicar la sortida de la IA. No n’hi ha prou amb un «aprovar» automàtic.
  • Monitoratge: vigilar el funcionament i informar el proveïdor i l’autoritat d’incidents greus o riscos detectats.
  • Conservació de logs: desar els registres generats automàticament pel sistema durant el període aplicable, per poder reconstruir què va decidir i per què.
  • Informació als afectats: quan escaigui, informar les persones que estan subjectes a un sistema d’IA d’alt risc.

Gairebé totes aquestes obligacions tenen el mateix denominador comú: supervisió humana i registre auditable. I aquí és on el BPM marca la diferència.

Com complir amb un BPM governat

La tesi de Dokuflex és directa: el BPM governat no és un complement del compliment, és el mecanisme de compliment. Quan la IA viu dins d’un procés modelat, les obligacions de l’EU AI Act deixen de ser documents i passen a ser propietats del workflow.

Exigència de l’EU AI Act Com ho resol el BPM governat
Supervisió humana Human-in-the-loop natiu: la IA proposa, una persona valida en els passos que afecten persones abans que el procés avanci.
Conservació de logs Log auditable per cada execució: entrada, sortida del model, usuari que va validar i marca temporal.
Documentació i governança Versionat del procés: cada canvi del workflow i de les seves regles queda registrat i es pot reconstruir.
Traçabilitat del model Registre de quin model va decidir què, amb quin nivell de confiança i quines fonts va fer servir a cada pas.

El mateix principi governa la IA documental: si vols veure com s’aplica a un LLM corporatiu amb dades a la UE, llegeix LLM i RAG dins de Dokuflex sota l’RGPD europeu, on la traçabilitat i la cita de la font compleixen la mateixa funció probatòria.

Checklist de 6 punts per al teu workflow amb IA

Abans del 2 de desembre de 2027, data en què són exigibles les obligacions d’alt risc de l’Annex III després de l’ajornament del Reglament (UE) 2026/1744, revisa cada automatització amb IA amb aquests sis punts:

  1. Sobre què decideix? Si influeix en decisions rellevants sobre persones (ocupació, crèdit, serveis essencials), tracta-ho com a candidat a alt risc.
  2. Hi ha supervisió humana real? Assegura un punt de validació humana amb autoritat per anul·lar la sortida de la IA.
  3. Es registren les decisions? Cada execució ha de deixar un log amb entrada, sortida, model i persona responsable.
  4. El procés està versionat? Els canvis en regles i fluxos han de quedar traçats i ser reconstruïbles.
  5. Ets transparent? Si és un chatbot o un sistema que interactua amb persones, s’ha d’identificar com a IA.
  6. Tens documentat el rol? Defineix si actues com a proveïdor o deployer i documenta les obligacions que assumeixes en cada workflow.

Preguntes freqüents

El meu workflow amb IA és d’alt risc segons l’EU AI Act? +

Depèn de per a què decideix la IA. Si el workflow fa servir IA per decidir sobre persones en àmbits de l’Annex III (filtrar candidatures, decisions de promoció o acomiadament, assignar tasques per algorisme, accés a serveis essencials, scoring creditici, educació o biometria), probablement és d’alt risc. Si la IA només extreu o classifica documents o redacta esborranys que valida una persona, el risc baixa dràsticament perquè la decisió continua sent humana.

Quan s’aplica l’EU AI Act? +

El Reglament (UE) 2024/1689 va entrar en vigor l’1 d’agost de 2024 amb aplicació esglaonada: les prohibicions i l’alfabetització en IA s’apliquen des del 2 de febrer de 2025; les obligacions per a models d’IA de propòsit general (GPAI), des del 2 d’agost de 2025; l’aplicació general, el 2 d’agost de 2026; l’alt risc de l’Annex III, el 2 de desembre de 2027, després de l’ajornament del Reglament (UE) 2026/1744; i els sistemes d’alt risc integrats en productes regulats de l’Annex I, fins al 2 d’agost de 2027.

Quines obligacions tinc com a deployer (usuari) d’un sistema d’IA d’alt risc? +

Com a deployer has d’utilitzar el sistema d’acord amb les instruccions del proveïdor, garantir una supervisió humana efectiva, monitorar el funcionament i conservar els logs generats automàticament durant el període aplicable. El proveïdor, per la seva banda, assumeix la gestió de riscos, la governança de dades, la documentació tècnica, el logging, l’exactitud, la robustesa i la ciberseguretat del sistema.

Un OCR de factures o un chatbot intern són d’alt risc? +

No. Un OCR que extreu dades de factures és típicament de risc mínim: no decideix sobre persones. Un chatbot intern és de risc limitat i només té una obligació de transparència: s’ha d’identificar com a IA davant l’usuari. L’alt risc apareix quan la IA influeix en decisions rellevants sobre persones, com filtrar candidatures o concedir o denegar un crèdit.

Com ajuda un BPM governat a complir l’EU AI Act? +

El BPM governat és el mecanisme de compliment. Aporta human-in-the-loop natiu perquè una persona validi qualsevol decisió que afecti persones, un log auditable per cada execució, versionat del procés i traçabilitat de quin model va decidir què i amb quin nivell de confiança. Això cobreix les exigències de supervisió humana, conservació de logs i documentació que el reglament demana tant al proveïdor com al deployer.

Quines són les sancions per incomplir l’EU AI Act? +

El reglament preveu multes de fins a 35 milions d’euros o el 7% de la facturació global anual per pràctiques prohibides, i de fins a 15 milions d’euros o el 3% per incompliment d’altres obligacions, i s’aplica la quantia més alta. Per això convé classificar cada workflow amb IA i documentar les mesures de governança abans de l’aplicació general l’agost de 2026.

Següent pas

Converteix l’EU AI Act en una propietat dels teus processos

Reservem una sessió guiada de 60 minuts per revisar els teus workflows amb IA, classificar-ne el nivell de risc i veure com el BPM governat de Dokuflex aporta human-in-the-loop, logs auditables i versionat del procés.