Misurare o coltivare la competenza: questo è il dilemma.

Perché il controllo sull'AI rischia di restare solo formale, quando manca l'allenamento del pensiero critico.

Il potere non è qualcosa che si possiede, ma qualcosa che si esercita. Con questa distinzione Davide Vassena, CEO di Digit'Ed, era intervenuto al 55° Congresso Nazionale AIDP, dedicato quest'anno al tema "Il coraggio della competenza". Una frase che sposta l'attenzione dal ruolo formale, a ciò che una persona compie concretamente con la responsabilità che le è affidata, e che si collega a un tema che riguarda ogni funzione HR oggi: mentre l'intelligenza artificiale entra nei processi decisionali, la domanda è come restare protagonisti delle scelte. La competenza chiave, in questo passaggio, non è saper usare l'AI: è saper pensare in modo consapevole di fronte a ciò che l'AI produce.

Questa idea trova un riscontro concreto e per certi versi scomodo in una ricerca recente sugli agenti AI, che vale la pena richiamare come sfondo per capire perché il tema non è astratto.

Il principio del human in the loop si basa su un'equazione semplice: più autonomia diamo alla macchina, più affidiamo a una persona il compito di controllarla. Un position paper firmato da Margaret Mitchell e Avijit Ghosh di Hugging Face insieme a Samir Passi di Data & Society mette in discussione proprio questa equazione. Con gli agenti AI, sostengono gli autori,

La persona deve usare l’agente AI, sorvegliarlo e autorizzarne le azioni, seguendo al tempo stesso la sequenza delle operazioni, le ragioni delle sue scelte e le interazioni con altri strumenti. Il carico cognitivo che ne deriva può diventare difficile da gestire. Inoltre, il ripetersi delle richieste di autorizzazione può produrre un fenomeno noto come approval fatigue: approvare diventa un gesto quasi automatico, anziché un giudizio consapevole.Il punto più rilevante, per chi si occupa di persone e organizzazioni, è un altro. Gli autori richiamano l'ironia dell'automazione descritta da Bainbridge già negli anni Ottanta: più un professionista delega il lavoro cognitivo a un sistema, meno occasioni ha di formulare ipotesi, verificare evidenze, riconoscere un errore. Quando il sistema sbaglia in modo serio, la persona che dovrebbe intervenire è quindi meno preparata a farlo, proprio perché ha esercitato sempre meno quella competenza. Gli autori sintetizzano il meccanismo con una formula diretta: la supervisione degrada il supervisore.

Il principio del human in the loop si basa su un'equazione semplice: più autonomia diamo alla macchina, più affidiamo a una persona il compito di controllarla. Un position paper firmato da Margaret Mitchell e Avijit Ghosh di Hugging Face insieme a Samir Passi di Data & Society mette in discussione proprio questa equazione. Con gli agenti AI, sostengono gli autori,

È qui che le due riflessioni si incontrano: la responsabilità dell'output resta umana e il compito delle persone diventa analizzare con rigore ciò che l'AI produce, distinguendo il risultato corretto da quello soltanto plausibile. È una competenza profondamente umana, e proprio per questo si può coltivare e formare nel tempo. La ricerca su Mitchell, Ghosh e Passi arriva alla stessa conclusione da un altro punto di partenza: se il pensiero critico non viene esercitato attivamente, si atrofizza, indipendentemente da quante volte una persona clicchi "approva".

Per le Direzioni HR questo significa che il pensiero critico non può essere trattato come una dotazione stabile delle persone, da presupporre in fase di selezione e poi dare per acquisita. È una competenza che si consuma se non viene usata e che va rialimentata con pratica consapevole, non solo con formazione occasionale sull'uso degli strumenti.

Il paper propone alcune leve operative che, pur nascendo in un contesto tecnico, si traducono facilmente in temi organizzativi:

• Bilanciare autonomia e controllo nei processi, evitando che l'approvazione umana diventi un passaggio pro forma. In termini organizzativi: chi controlla una decisione deve avere il tempo e le condizioni per farlo davvero, non solo la responsabilità formale di firmarla.
• Misurare la qualità della supervisione, non solo la produttività del sistema. Se un'organizzazione osserva quanto lavora bene l'agente ma non quanto bene continua a pensare chi lo supervisiona, il rischio è che il controllo resti formalmente presente mentre nella sostanza si è già svuotato.
• Prevedere momenti di pratica autonoma, in cui le persone continuano a esercitare le competenze di dominio senza delega totale allo strumento, così da non perdere la capacità di riconoscere un errore quando serve.
• Separare, nel disegno dei ruoli, chi controlla da chi beneficia del risultato, per evitare conflitti di interesse impliciti che spingono verso approvazioni rapide e poco critiche.
• Gestire i carichi di lavoro con attenzione, perché l'affaticamento decisionale è una delle cause dirette della degradazione della supervisione.

Nessuna di queste leve richiede competenze tecniche specialistiche. Sono, prima di tutto, scelte organizzative e di formazione: cosa misuriamo, come disegniamo i ruoli, quanto tempo lasciamo alle persone per pensare prima di firmare.

Il filo conduttore è lo stesso: la tecnologia offre gli strumenti, ma la loro efficacia dipende dalla capacità delle persone di continuare a pensare in modo critico mentre le usano. Non è un tema che riguarda solo i team tecnici che sviluppano o adottano sistemi di AI. Riguarda ogni funzione che si occupa di come le organizzazioni prendono decisioni, valutano le persone e progettano i ruoli.

Il coraggio della competenza, per riprendere il tema del Congresso, sta nel costruire le condizioni perché una persona possa restare competente nel tempo: tempo per verificare, oltre che per approvare; formazione che allena il giudizio, oltre all'uso degli strumenti; indicatori che misurano la qualità del pensiero, oltre alla velocità del processo. È una responsabilità che si esercita giorno per giorno, mai acquisita una volta per tutte.

di Monica Neboli 

Head of Custom Projects