Attribuire un ruolo umano agli agenti AI riduce la percezione di responsabilità personale e può indebolire il controllo manageriale. L’esperimento condotto da Boston Consulting Group e Boston University

Un nome, un ruolo, magari una casella nell’organigramma. È sufficiente trasformare un agente di intelligenza artificiale in un “dipendente aziendale” per modificare il modo in cui le persone si rapportano al suo lavoro? La risposta che arriva da un esperimento condotto da Boston Consulting Group e Boston University suggerisce di sì, e in una direzione tutt’altro che scontata.

Lo studio ha coinvolto 1.261 figure manageriali attive nelle risorse umane e nella finanza negli Stati Uniti, in Canada e nell’Unione europea e ha sottoposto ai partecipanti documenti contenenti gli stessi errori, attribuiti casualmente a uno strumento di intelligenza artificiale, a un collega umano oppure a un “dipendente AI”. Quando l’autore veniva presentato come un membro del team, i manager individuavano il 18% di errori in meno rispetto alla cornice dello strumento tecnologico, chiedendo nel 44% dei casi una revisione aggiuntiva. La responsabilità personale attribuita all’errore scendeva inoltre di nove punti percentuali, mentre quella attribuita al sistema cresceva di otto punti.

Il risultato dell’esperimento è particolarmente interessante perché l’idea di assegnare un nome e un’identità agli agenti nasce proprio dalla volontà di renderli più familiari e di facilitarne l’integrazione nei team di lavoro. C’è però un rischio che tale operazione produca un effetto contrario sul piano della responsabilità ed è il rischio che hanno rilevato Roberto Ventura e Nicolò De Benetti, rispettivamente Managing Director & Partner e Principal di BCG in Italia. «Umanizzare in modo eccessivo gli agenti – hanno spiegato i due manager al Sole 24Ore – può generare il rischio di perderne il controllo rispetto al loro ruolo di strumento; considerando l’attuale livello di sofisticazione della tecnologia, quando un’attività è ambigua e non è chiaro il percorso che porta al risultato, è impossibile che l’agente diventi completamente autonomo». Una fotografia chiara che rimarca uno dei crocevia più importanti nel processo di adozione dell’AI, ovvero sia la necessità di evitare che la rappresentazione degli strumenti agentici come componenti del team finisca per creare una sorta di “zona grigia” nella quale il controllo umano si indebolisce proprio mentre aumenta l’autonomia del sistema pilotato dal software.

Sul fatto che gli agenti AI stanno iniziando a entrare concretamente nei processi aziendali non ci sono dubbi, anche se secondo gli esperti di BCG l’adozione non è ancora arrivata a scala e la non omogenea struttura dei processi ne delimita oggi il campo di applicazione. La differenza, sottolineano con convinzione, è significativa soprattutto tra grandi aziende e imprese medie e piccole: nelle prime sono già presenti alcuni processi “agentificati”, mentre nelle seconde l’intelligenza artificiale viene più spesso incorporata negli applicativi di uso corrente anziché essere impiegata come soluzione autonoma per risolvere specifici problemi. Il passaggio gli agenti rappresenta, in questo senso, un cambio di paradigma: dopo la fase del machine learning e della predictive AI e quella più recente della generative AI, l’attenzione delle aziende si sta generalmente spostando verso sistemi capaci di svolgere sequenze di attività con un grado crescente di autonomia. «Gli agenti – confermano ancora Ventura e De Benetti – sono bravi a fare dei workflow non ambigui, dove sono chiari l’input e l’output e il risultato è riscontrabile. Un esempio concreto arriva dai call center, dove l’agentic AI sta maturando in mansioni per le quali il carico di responsabilità è relativamente contenuto».

La sostituzione dell’addetto umano non assume in quest’ottica la centralità di cui spesso è accredita. La questione riguarda anche quale parte del lavoro resterà alle persone quando l’agente si fa carico dell’esecuzione di una quota crescente delle attività, aumentando la produttività e rimuovendo alcuni dei colli di bottiglia determinati dalla carenza di risorse. È il caso del software engineering, dove la capacità di produrre rapidamente output può aumentare la quantità di lavoro che un’organizzazione è in grado di affrontare. Lo specialista umano potrebbe quindi ampliare il proprio raggio d’azione concentrandosi maggiormente sulla definizione degli obiettivi, sulla verifica dei risultati e sulle decisioni nei passaggi più complessi. Più che assumere un “dipendente digitale”, questa la chiave di lettura suggerita dai due manager di BCG, le aziende stanno iniziando ad “agentificare” singoli flussi di lavoro, attività ripetibili o ancora processi nei quali il risultato può essere definito e verificato. Parlare di agenti inseriti a tutti gli effetti negli organigrammi o di veri organigrammi costruiti attorno agli agenti è però ancora prematuro, fatta eccezione di qualche startup che sperimenta modelli organizzativi assimilabili a una “black factory” popolata da robot.

Ma se l’agente non è ancora un dipendente, quali attività può comunque sottrarre progressivamente al lavoro umano? A precisa domanda, la risposta non può trovare forma semplicemente in termini di professioni, in quanto il criterio decisivo di selezione, secondo Ventura e De Benetti, è soprattutto l’ambiguità del processo. «La verifica delle fatture, o il data entry e il call center, sono una cosa, la definizione di una strategia di marketing è un’altra, proprio perché nel secondo caso entra in gioco una componente decisionale che oggi rappresenta ancora un elemento discriminante». Se è quindi lecito e possibile immaginare una progressiva automazione delle attività più strutturate e verificabili, nelle funzioni che richiedono interpretazione, giudizio e definizione degli obiettivi il ruolo umano rimane più difficile da comprimere, per quanto il confine fra i due scenari non sia assolutamente statico. Velocità di risposta e qualità dell’output sono i cardini di questa trasformazione del lavoro in chiave agentica e fare la differenza saranno, da una parte, l’evoluzione delle capacità di reasoning dei sistemi e, dall’altra, i volumi di lavoro che gli agenti saranno in grado di generare, senza ovviamente dimenticare la convenienza economica della loro introduzione. L’organizzazione del futuro, in linea generale, potrebbe non essere costruita semplicemente aggiungendo “dipendenti AI” accanto a quelli umani, ma ridisegnando i processi attorno a una combinazione variabile di persone e agenti.

Proiettare con precisione l’impatto degli agenti sull’organizzazione a tre o cinque anni rimane in ogni caso difficile perché, come ribadiscono gli esperti di BCG, «la velocità della tecnologia è esponenziale». Appare invece più prevedibile, almeno nel breve periodo, l’incidenza sulle attività digitali svolte al computer mentre la cosiddetta physical AI, ovvero sia l’intelligenza artificiale incorporata in sistemi capaci di agire nel mondo fisico, resterà probabilmente più legata a sperimentazioni che a un’adozione su larga scala.

Rispetto al tema della responsabilità, infine, il messaggio che emerge dallo studio BCG-Boston University è chiaro: un software non può essere considerato responsabile in senso proprio e, soprattutto, non può diventare il punto terminale sul quale scaricare una decisione sbagliata. Se un agente produce un output errato, in altre parole, non si può sostenere che “ha sbagliato l’AI”. E il paradosso emerso dall’esperimento è proprio questo: quando l’intelligenza artificiale viene presentata come un membro del team, la responsabilità personale tende a diminuire, mentre aumenta quella attribuita al sistema e così facendo gli errori diventano più difficili da intercettare.

Per le aziende, la priorità è quindi costruire una catena di responsabilità prima ancora di aumentare il grado di autonomia degli agenti. «Non daremo mai a nessuna azienda – sottolineano Ventura e De Benetti – il consiglio di affidarsi in toto alla tecnologia agentica, che rimane pur sempre un software. Casomai suggeriremo loro di dotarsi di guard rail che limitano le possibili allucinazioni e di una governance capace di coordinare l’utilizzo dei sistemi».

Tornando al tema dell’attribuzione della responsabilità in caso di errore, ecco che il soggetto da chiamare in causa non può essere un singolo attore dell’ecosistema ma più soggetti, e cioè chi progetta l’agente, chi lo usa e chi lo governa, al netto della definizione dei diversi livelli di responsabilità che stabilirà l’evoluzione normativa e giurisprudenziale. La vera partita degli agenti AI nelle aziende, dunque, non sembra essere quella di decidere se considerarli colleghi o strumenti; la vera sfida è capire quali parti del lavoro si deve affidare loro, con quale grado di autonomia e sotto quale responsabilità umana. Per fare questo, le imprese devono mettere in campo capacità di ridisegnare contemporaneamente tecnologia, processi e lavoro umano per stabilire con chiarezza chi fa cosa, chi controlla e, soprattutto, chi risponde quando qualcosa non va nella direzione giusta. Limitarsi a trasformare l’agente AI in un “dipendente” a tutti gli effetti, almeno oggi, rischia di essere solo una metafora organizzativa.

Fonte: Il Sole 24 Ore