L’EU AI Act colloca i sistemi HR nella fascia “alto rischio”: decisioni su carriera, salario o benessere richiedono spiegazioni leggibili e supervisione umana continua. Mai come ora la progettazione deve partire dalla governance, non aggiungerla dopo.
Immagina una pipeline dove ogni dato porta con sé la propria origine crittografata; dove il modello è affiancato da un LLM “traduttore” che spiega a un manager, in italiano corrente, perché un candidato ha ricevuto quel ranking; e dove il workflow costringe il recruiter a contro-firmare – o correggere – il suggerimento algoritmico prima che diventi decisione. Ogni passaggio lascia un’impronta a prova di audit, richiamabile in meno di due secondi.
La ricerca corre in questa direzione: metriche di causal-bias che uniscono analisi numerica e feedback qualitativo, librerie open-source di trail immutable, interfacce che mostrano scenari controfattuali.
Sviluppare questi mattoni significa scrivere un codice che vale più di mille slide di compliance e che, soprattutto, ridisegna il patto di fiducia tra persone e algoritmi.