Il valore insostituibile del processo decisionale umano nell’era dell’IA

IL RAPIDO PROGRESSO dell’IA ha acceso l’entusiasmo sul suo potenziale di rivoluzionare i processi decisionali aziendali sostituendo i costosi e fallibili esseri umani. Ma è ingenuo credere che, raccogliendo sempre più dati e dandoli in pasto ad algoritmi sempre più potenti, le aziende possano scoprire la verità, prendere le decisioni giuste e creare valore. Noi chiamiamo questa falsa convinzione “dataismo”.

Le decisioni non sono semplici esercizi di aggregazione di dati e analisi algoritmica. Esse implicano necessariamente molti altri elementi sfumati, come la capacità di selezionare le fonti di dati più affidabili, ricorrere all’immaginazione per individuare possibilità al di là dei fatti disponibili ed esprimere un giudizio sulla fattibilità delle soluzioni. Si tratta di aree in cui gli esseri umani hanno vantaggi innati rispetto alle macchine. E soprattutto, si tratta di capacità umane implicite e spesso non addestrate.

Consideriamo il caso di Kodak e Fuji. Entrambe le aziende disponevano degli stessi dati che indicavano l’ascesa della fotografia digitale e li avevano valutati in base agli stessi obiettivi di massimizzazione della crescita e della redditività. Tuttavia, hanno preso decisioni diverse: Kodak decise di raddoppiare i prodotti analogici, mentre Fuji optò per diversificarsi, investendo in tecnologie digitali e perseguendo altre opzioni come la cosmesi, che nel complesso furono sufficienti a garantirne la sopravvivenza. Gli stessi dati hanno poi ispirato un’altra decisione per Sony che, come sfidante del mercato, ha visto nell’ascesa della fotografia digitale un’opportunità da cogliere.

Questa divergenza sottolinea che le decisioni dipendono dall’interpretazione, dal contesto e dall’inquadramento strategico, aree in cui il giudizio umano rimarrà fondamentale.

Una visione olistica del processo decisionale

Sulla base della nostra esperienza nel processo decisionale aziendale e della letteratura sulla scienza delle decisioni (ad esempio, in ambito militare, sanitario e di ricerca e sviluppo), abbiamo identificato otto dimensioni che, al di là dei dati e degli algoritmi, influiscono sulla maggior parte delle decisioni, anche se spesso in modo implicito. Queste dimensioni possono essere comprese attraverso un semplice esempio, quello dell’acquisto di un’automobile.

1. Definire l’obiettivo finale.

Ogni decisione ha come fine ultimo uno scopo umano. Specificarlo è fondamentale per capire cosa potrebbe essere un risultato di successo. Per chi acquista un’auto, lo scopo potrebbe essere quello di segnalare il proprio status con un veicolo di lusso o di garantire ai propri figli un mezzo sicuro per andare e tornare da scuola.

Anche le imprese hanno obiettivi finali’raggiungere la prosperità economica, dare un contributo alla società o alla protezione dell’ambiente’che possono essere molto diversi. Data la soggettività dei valori umani, la definizione del fine umano non può essere affidata all’intelligenza artificiale.

2. Inquadrare gli obiettivi immediati.

Per raggiungere l’obiettivo finale, spesso è necessario prendere decisioni più piccole, immediate e tangibili lungo il percorso. Nel nostro esempio di acquisto di un’auto, l’obiettivo finale può essere l’acquisto di un veicolo che soddisfi determinati standard di sicurezza, ma si vuole anche essere certi che l’auto rientri in un determinato budget. Per un’azienda, l’obiettivo finale potrebbe essere quello di ottenere una crescita delle vendite del 10% rispetto all’anno precedente, ma bisogna anche assicurarsi che l’ottimizzazione della crescita delle vendite a breve termine non comprometta la reputazione del marchio sul lungo periodo.

Questo tipo di inquadramento decisionale non può essere ricavato solo da dati e strumenti analitici, in quanto implica la negoziazione di preferenze individuali e collettive. Il coinvolgimento umano è fondamentale per identificare questi obiettivi e bilanciarli. Spesso è necessario affinarli attraverso interazioni ripetute poiché gli esseri umani spesso scoprono “ciò che vogliono veramente” perseguendo un obiettivo e adattandosi man mano che scoprono nuove caratteristiche e nuove fonti di valore.

3. Disegnare il regno del possibile.

Una volta definiti gli obiettivi, è il momento di identificare le opzioni possibili. Sebbene i dati siano un input fondamentale per questa fase, di solito non raccontano tutta la storia. I dati sono retrospettivi, ma le decisioni umane si basano spesso su ipotesi controfattuali: cosa potrebbe accadere e come potremmo influenzare la probabilità che si verifichino possibilità diverse.

L’immaginazione umana è fondamentale per estendere il regno del possibile. Per esempio, se l’esigenza di chi acquista un’auto è quella di fare un breve tragitto per andare al lavoro, potrebbe anche prendere in considerazione alternative come i trasporti pubblici, i servizi di ride-sharing o gli scooter elettrici.

Tutte le aziende si basano su un atto di immaginazione. Per esempio, i fondatori di Airbnb hanno immaginato una piattaforma in cui i proprietari di casa potessero affittare le stanze libere, stravolgendo la convinzione delle aziende leader nel settore dell’ospitalità secondo cui era necessario costruire o possedere gli alloggi offerti ai clienti. Quest’idea non è nata dall’analisi dei dati esistenti sull’ospitalità, ma da persone che immaginavano come poter soddisfare il bisogno di alloggi a prezzi accessibili.

4. Selezione delle fonti di dati.

La valutazione delle opzioni può trarre vantaggio da dati rilevanti. Ma, anche se la parola dati deriva dal latino “datum” (qualcosa che è dato), questi devono essere creati: acquisiti, filtrati, selezionati, interpretati e corretti’un compito che richiede l’intervento e il discernimento dell’uomo.

Dobbiamo evitare la trappola di concentrarci solo su dati certi o facilmente accessibili. Nel nostro scenario di acquisto di un’auto, affidarsi esclusivamente ai dati di efficienza del carburante forniti dal produttore potrebbe non fornire un quadro completo. Integrarli con recensioni indipendenti sulle prestazioni reali può portare a una decisione più informata.

Nel mondo degli affari, si pensi alla facilità con cui possiamo interrogare i clienti attuali sulla loro soddisfazione per le nostre offerte e alle ulteriori informazioni ottenute parlando con i non clienti sul perché scelgono i servizi di un concorrente piuttosto che nessuno.

Inoltre, non tutte le informazioni preziose sono quantificabili. Per un’automobile, fattori come il comfort, l’estetica o l’esperienza di guida sono soggettivi. Dobbiamo identificare dei proxy per questi aspetti qualitativi o raccogliere esperienze dirette per colmare le lacune. Per esempio, Procter & Gamble ha sviluppato lo Swiffer dopo che studi etnografici (osservazioni dei consumatori nelle loro case) hanno identificato il desiderio di metodi di pulizia più convenienti’informazioni che non potevano essere ricavate dai dati quantitativi esistenti.

5. Stabilire l’affidabilità.

In un’epoca in cui la disinformazione può diffondersi rapidamente, stabilire la credibilità delle fonti di dati è più che mai fondamentale. I sistemi di intelligenza artificiale non hanno questa capacità. Gli esseri umani, invece, possono valutare la reputazione, la competenza e i potenziali incentivi o pregiudizi dei fornitori di informazioni.

Ad esempio, nel processo di acquisto di un’auto, un acquirente potrebbe fidarsi delle raccomandazioni di amici o familiari piuttosto che delle pubblicità dei produttori. Nel mondo del business, la valutazione degli incentivi e della credibilità delle diverse fonti di dati garantisce che le decisioni siano basate su informazioni affidabili.

6. Scegliere un algoritmo decisionale.

Sebbene molti prodotti di intelligenza artificiale siano proposti come universalmente utili, la matematica ha dimostrato che nessun singolo algoritmo di ottimizzazione può essere considerato superiore per tutti i problemi. Pertanto, gli esseri umani devono decidere quale struttura decisionale si allinea meglio con i loro obiettivi.

Nell’esempio dell’automobile, un acquirente focalizzato sui costi potrebbe utilizzare uno strumento che calcola i costi di proprietà nel ciclo di vita, mentre un altro acquirente che dà priorità all’estetica potrebbe scegliere un approccio molto diverso. Alcuni potrebbero rinunciare al valore atteso di un calcolo perfetto e optare per un insieme di euristiche veloci e frugali, mentre altri potrebbero preferire un processo di ricerca esaustivo.

7. Valutare la competitività.

Per l’acquisto di un’auto, può essere sufficiente risolvere il problema funzionale, cioè scegliere un’opzione pratica che soddisfi i propri obiettivi, a meno che, ovviamente, non si sia in competizione per lo status con i vicini o i compagni di classe. Nel mondo degli affari, la soluzione ideale deve essere vantaggiosa dal punto di vista competitivo, in quanto resistente alle probabili risposte dei concorrenti e difficile da imitare per gli altri. Utilizzare gli stessi dati e algoritmi a cui hanno accesso i vostri concorrenti per risolvere i loro stessi problemi non rivelerà opportunità uniche o superiori. Al contrario, equivale a mercificare la propria attività utilizzando un processo generico di risoluzione dei problemi.

Gli strateghi umani svolgono un ruolo fondamentale nel valutare le implicazioni competitive delle decisioni, comprendendo gli incentivi, i vantaggi, le mentalità e i modelli comportamentali dei concorrenti. Ad esempio, il successo di Apple con l’iPhone non è stato determinato solo dall’incorporazione della tecnologia più avanzata, ma anche dall’enfasi posta dall’azienda sull’estetica del design, sull’esperienza dell’utente e sull’integrazione dell’ecosistema.

8. Incorporare considerazioni etiche.

La soluzione superiore dal punto di vista funzionale, economico o competitivo potrebbe non essere eticamente accettabile. Gli esseri umani hanno la responsabilità di garantire che le decisioni siano conformi alle norme etiche e ai valori della società. Ciò richiede l’applicazione di modelli e principi di ragionamento morale allo specifico contesto interpersonale e sociale della decisione, che è anche una capacità umana per eccellenza.

Nell’esempio dell’acquisto di un’auto, un acquirente potrebbe considerare l’impatto ambientale della sua scelta, optando per un veicolo elettrico rispetto a uno a benzina, anche se costa di più.

Nuove regole per il processo decisionale guidato dall’uomo e supportato dall’IA

Molti aspetti cruciali del processo decisionale esulano dal campo dei dati e degli algoritmi. In effetti, la diffusione di strumenti più potenti e di serie di dati più ampie renderà probabilmente più differenziati gli elementi umani del processo decisionale.

Tuttavia, le capacità umane, come la formulazione di giudizi morali e l’uso dell’immaginazione o dell’intuizione, sono spesso non allenate, impulsive o implicite. Pertanto, per distinguere ed elevare i propri processi decisionali, le organizzazioni devono codificare e promuovere attivamente le capacità decisionali umane richieste. A tal fine, illustriamo cinque imperativi.

1. Rifiutare il semplicismo dei dati.

I leader devono riconoscere che un processo decisionale efficace va oltre l’analisi dei dati e l’ottimizzazione algoritmica. Questo non significa abbandonare gli strumenti e le tecniche di IA, ma integrarla in un processo più olistico e guidato dall’uomo. La disciplina emergente della progettazione e dell’impiego di agenti di IA su misura, modellati congiuntamente da atti umani di interpretazione e immaginazione e dalle risorse computazionali e informative di grandi modelli linguistici, offre una strada da percorrere.

2. Assicurarsi che chi risolve i problemi si sporchi le mani.

Proprio come i piloti si esercitano nel volo manuale per mantenere le loro abilità nonostante la disponibilità di sistemi di pilota automatico, i leader aziendali dovrebbero immergersi nei fenomeni alla base dei loro settori per evitare un’eccessiva dipendenza dall’IA e mantenere le capacità decisionali critiche. Ciò comporta un impegno diretto con clienti, dipendenti, concorrenti e autorità di regolamentazione.

Ad esempio, la filosofia “Genchi Genbutsu” di Toyota, che significa “vai a vedere tu stesso”, incoraggia i manager a visitare le officine per osservare i processi in prima persona. Questa pratica aiuta a identificare le inefficienze e favorisce una comprensione più profonda che i dati da soli non possono fornire.

3. Rendere esplicite le capacità decisionali umane implicite.

Le decisioni umane sono spesso influenzate dall’intuizione, la nostra potente intelligenza inconscia che si basa sull’esperienza e sull’euristica. Le aziende possono aiutare i dipendenti a sviluppare la loro intuizione riconoscendo e promuovendo l’apprendimento esperienziale e facendo riflettere i partecipanti ai marcatori decisionali su domande come:

• Qual è stata la mia reazione iniziale o il mio istinto?
• Dove mi sono basato sull’esperienza individuale o collettiva?
• Dove ho integrato la mia esperienza o competenza?
• Su quali scorciatoie mentali ho fatto affidamento per semplificare la decisione?

Un’altra abilità esclusivamente umana è l’immaginazione: la capacità di immaginare ciò che non esiste ancora, ma che potrebbe esistere. Sebbene spesso si creda che sia il risultato di colpi di genio incontrollabili, le organizzazioni possono in realtà sfruttare sistematicamente l’immaginazione attraverso tattiche come la ricerca di anomalie (piuttosto che concentrarsi sulle medie), la messa in discussione di ipotesi precedentemente sostenute e la conduzione di esperimenti.

4. Favorire un ambiente in cui le capacità umane possano prosperare.

Può essere difficile per l’intuizione e l’immaginazione brillare in una cultura tecnocratica dominata dalla giustificazione razionale. Per creare un ambiente che promuova capacità decisionali umane uniche, le organizzazioni devono iniziare con una cultura di sicurezza psicologica in cui i dipendenti possano esprimere prospettive diverse, discutere apertamente le idee e sfidare lo status quo.

5. Costruire sistemi decisionali ibridi.

Dopo aver affinato le competenze umane, i leader devono ricostruire sistemi decisionali che combinino il meglio delle capacità umane e dell’intelligenza artificiale.

Ciò può comportare la segmentazione dei compiti decisionali, come l’elaborazione dei dati, il riconoscimento dei modelli e l’ottimizzazione per criteri quantificabili, più adatti all’IA, da quelli che richiedono il giudizio umano, come la definizione degli obiettivi e la considerazione di etica, valori e contesto.

Il latte alla zucca, uno dei prodotti di maggior successo di Starbucks, è un esempio di come i decisori umani abbiano preso la guida e abbiano sfruttato la loro comprensione del contesto. Mentre i test iniziali mostravano che i clienti preferivano il gusto dei prodotti al cioccolato o al caramello, gli sviluppatori del prodotto ritenevano che per una specialità stagionale l’unicità fosse ancora più importante del gusto. In studi successivi hanno raccolto informazioni su questo criterio, in cui il gusto di zucca eccelleva.

Ci saranno anche compiti in cui l’intelligenza umana e quella automatica si intersecheranno e collaboreranno, formando quella che potrebbe essere definita un’organizzazione bionica in cui gli esseri umani esaminano le soluzioni generate dall’IA per valutarne la fattibilità, nonché le implicazioni etiche e competitive. Consideriamo Netflix, famosa per le scelte di produzione basate sul suo vasto patrimonio di dati di audience. La decisione di creare lo show Stranger Things, che ha conquistato le classifiche, può essere stata dettata dall’osservazione che i contenuti che trattano temi soprannaturali ottengono buoni risultati, o dalla perdurante popolarità degli show degli anni Ottanta. Tuttavia, Netflix ha anche dovuto fare diverse scommesse guidate dall’intuizione, come assumere una coppia di showrunner non collaudati che avrebbero apportato la propria visione o rischiare bambini inesperti come attori su un set.

MAN MANO CHE L’IA diventa sempre più capace, si diffonde la convinzione, o il timore, che possa sostituire il processo decisionale umano. Tuttavia, le decisioni non si limitano alla raccolta e all’analisi dei dati e gli esseri umani hanno vantaggi innati rispetto all’IA più potente in questi ambiti. Pertanto, l’ascesa dell’IA rappresenta un’opportunità per gli esseri umani di affrontare la sfida di affinare, enfatizzare e applicare i nostri punti di forza umani per differenziare il processo decisionale aziendale.

Martin Reeves è presidente del BCG Henderson Institute del Boston Consulting Group. È coautore, insieme a Jack Fuller, di The Imagination Machine (Harvard Business Review Press, 2021) e coautore, insieme a Bob Goodson, di Like: The Button That Changed the World (Harvard Business Review Press, aprile 2025). Mihnea Moldoveanu è Professor of Integrative Thinking, professore di Analisi economica e direttore del Desautels Centre for Integrative Thinking e del Rotman Digital presso la Rotman School of Management dell’Università di Toronto. Adam Job è direttore dello Strategy Lab del BCG Henderson Institute.