Scenario illustrativo: persone e organizzazioni sono ipotetiche. Non è un incarico o un risultato attribuito allo studio.
LA RISPOSTA IN BREVE
Usare un algoritmo come supporto non è la stessa cosa che affidargli l’esclusione dei candidati. Occorre capire chi decide davvero, quali effetti produce il punteggio e se la revisione umana sia sostanziale, non una conferma automatica del risultato.
La situazione.
Scenario illustrativo fittizio. Una società riceve molte candidature e prova un servizio che attribuisce un punteggio ai CV. I profili sotto una soglia non vengono mostrati al selezionatore. Il fornitore descrive il sistema come assistente e sostiene che la decisione rimanga umana perché il responsabile approva l’elenco finale dei colloqui.
PRIMA DI DECIDERE
Tre fatti da mettere a fuoco.
- 01
L’esclusione a monte può essere decisiva anche se una persona approva l’elenco dei candidati già filtrati.
- 02
Dati e criteri del punteggio possono introdurre errori, discriminazioni o inferenze non pertinenti alla selezione.
- 03
Base giuridica e informazioni ai candidati devono riguardare il funzionamento reale del processo, non il nome commerciale.
Valuta insieme questi elementi prima di scegliere le azioni.
Come impostare la valutazione.
L’articolo 22 GDPR riguarda le decisioni basate unicamente su trattamenti automatizzati che producono effetti giuridici o incidono analogamente in modo significativo. Un’etichetta contrattuale non risolve la questione: il ruolo del punteggio va analizzato nel processo effettivo. Se un candidato viene escluso senza un esame umano sostanziale, non basta che una persona intervenga soltanto sulle candidature rimaste.
Vanno valutati anche minimizzazione, accuratezza, trasparenza e necessità di una DPIA. Non è corretto invocare il consenso come soluzione automatica in un contesto in cui il candidato può percepire di non avere alternative reali. Il quadro dell’intelligenza artificiale e le regole lavoristiche possono aggiungere requisiti: devono essere esaminati per quel sistema e quella funzione, senza affidarsi a una generica promessa del venditore.
Cosa fare, in pratica.
- 01
Disegnare il percorso completo dalla ricezione del CV al colloquio, individuando quali decisioni vengano prese dal sistema e quali possano essere riviste concretamente dal selezionatore.
- 02
Verificare dati utilizzati, criteri, limiti conosciuti e strumenti per controllare errori e discriminazioni, senza accettare la sola descrizione del prodotto come intelligente o neutrale.
- 03
Valutare basi giuridiche, articolo 22 e presupposti della DPIA prima dell’impiego, coinvolgendo chi ha competenze HR, privacy e tecniche e può modificare il progetto.
- 04
Definire un intervento umano dotato di informazioni, competenza, tempo e potere di discostarsi dal punteggio, evitando filtri irreversibili che lo rendano puramente nominale.
- 05
Preparare informazioni comprensibili e procedure per gestire contestazioni o richieste dei candidati, conservando evidenze proporzionate delle decisioni senza raccogliere dati superflui.
L’errore da evitare.
Ritenere umano un processo perché qualcuno approva l’ultima schermata, senza vedere i candidati che l’algoritmo ha già escluso.
Tre verifiche da portare con te.
- Filtri ed esclusioni ricostruiti.
- Intervento umano sostanziale verificato.
- Basi, rischi e informazioni ai candidati valutati.
La domanda essenziale è chi abbia il potere effettivo di cambiare l’esito. Il nome assistente AI non descrive quel potere.
Fonti e riferimenti.
Collegamenti alle fonti istituzionali utilizzate per il quadro di riferimento. Controlla versione, ambito e regole complementari applicabili.