La fiducia nell’IA non è solo una sensazione: è qualcosa che si può progettare intenzionalmente (o rompere accidentalmente). In questo episodio, Galen si confronta con Cal Al-Dhubaib per esplorare l’“ingegneria della fiducia”: una cassetta degli attrezzi condivisa che aiuta i team interfunzionali (ingegneria, UX, governance, rischio e business) a parlare degli stessi rischi per la fiducia usando lo stesso linguaggio. Si approfondisce il motivo per cui “l’IA noiosa è l’IA sicura”, come i sistemi di protezione e il passaggio all’intervento umano preservano effettivamente la fiducia e perché i fallimenti più grandi spesso non sono dovuti al modello — ma ai sistemi (e agli incentivi) che li circondano.
Sentirai anche esempi reali di perdita di fiducia: da risultati tendenziosi al “gaslighting” allucinato, fino a deliverable assistiti da IA che causano problemi di accuratezza — e cosa possono fare i responsabili di progetto per evitare lo scaricabarile quando succede.
Cosa Imparerai
- Che cos’è l’“ingegneria della fiducia”—e perché in realtà è un framework di comunicazione condiviso, non solo una checklist tecnica
- Perché “meno IA” (minimizzazione strategica dell’IA) può essere l’approccio più responsabile ed efficace
- Come progettare esperienze IA con gestione delle aspettative, progettazione delle decisioni, governance e infrastruttura per la fiducia
- Perché è importante una proprietà chiara: la responsabilità condivisa ha comunque bisogno di qualcuno che se ne occupi
- Modi pratici per misurare la fiducia tramite la prevenzione degli incidenti, l’osservabilità e i segnali dei comportamenti degli utenti
- In che modo la fiducia varia tra culture e contesti diversi — e perché non esiste un’unica definizione universale da “codificare”
Punti Chiave
- La fiducia viene meno se nessuno se ne occupa. Il punto diretto di Cal: quando la fiducia è “compito di tutti”, finisce per non essere compito di nessuno. I team hanno bisogno di un referente con nome e cognome che si assicuri che le domande giuste vengano poste—soprattutto quando le cose si complicano e inizia lo scaricabarile.
- “IA noiosa” non è un downgrade—è gestione del rischio. L’IA più sicura spesso è la meno appariscente: ambito ristretto, basata su dati controllati, progettata con “via di fuga”. Se cerchi di rendere l’esperienza IA aperta all’infinito, rischi di sopraffare gli utenti e aumentare il rischio.
- Usa la “minimizzazione strategica dell’IA” per proteggere i risultati. Nel progetto di elaborazione delle trascrizioni citato, il vero successo non era la precisione del 90%—ma sapere quale 10% falliva. Gli input a rischio più elevato (come alcune trascrizioni internazionali o non standard) sono stati smistati verso una coda gestita da umani invece che affidarsi all’automazione.
- I sistemi di protezione non sono solo tecnici—sono progettazione dell’esperienza. L’esempio di “Chat Hue” di Behr Paint mostra come la fiducia venga costruita con confini intenzionali: può consigliare colori, ma lascia la guida in casi importanti (come la miscelazione o l’applicazione) agli esseri umani ed evita output non sicuri o non in linea col brand.
- La governance sono tre domande, non un documento di 200 pagine. La cornice pratica di Cal:
- Cosa hai fatto in anticipo per ridurre i danni?
- Come saprai se sta commettendo errori in produzione (osservabilità)?
- Cosa fai quando fallisce—e hai testato sotto stress quel piano?
- La misurazione della fiducia può essere sorprendentemente familiare. Oltre a “evitare incidenti”, la fiducia si manifesta nel fatto che gli utenti riescano a portare a termine i propri obiettivi, che tornino e dove abbandonano. Se uno strumento non è utile, le persone non “si fidano” di investirci del tempo.
- A volte il problema di fiducia è negli incentivi umani, non nell’IA. Quando bonus o performance delle persone sono minacciati, potrebbero essere motivate a rifiutare (o sabotare) le raccomandazioni dell’IA. L’ingegneria della fiducia deve includere la progettazione organizzativa, non solo quella del modello.
- Non esiste una “verità” morale unica da codificare. L’esempio dell’etica dei veicoli a guida autonoma rafforza l’idea fondamentale: fiducia ed etica variano a seconda del contesto culturale. L’IA non può “risolvere” magicamente la fiducia meglio degli esseri umani se non c’è accordo su cosa significhi la fiducia.
Capitoli
- 00:00 – Che cos’è l’Ingegneria della Fiducia?
- 03:58 – Chi possiede la fiducia?
- 05:27 – Database degli Incidenti di AI
- 08:41 – Rischi nei settori regolamentati
- 10:34 – Minimizzazione strategica dell’AI
- 12:11 – Definizione di Ingegneria della Fiducia
- 15:29 – Definire l’equità
- 17:10 – I quattro pilastri della fiducia
- 18:03 – Caso Behr Paint
- 23:15 – Fallimenti della Voice AI
- 25:53 – Governance in pratica
- 31:31 – Evitare lo scaricabarile
- 35:31 – Misurare la fiducia
- 37:46 – AI, etica e cultura
- 42:13 – Perché la fiducia è un framework
Conosci il nostro ospite

Cal è uno scienziato dei dati riconosciuto a livello globale, imprenditore e innovatore nell’ambito dell’intelligenza artificiale responsabile per contesti fortemente regolamentati, inclusi sanità, energia e servizi finanziari. Guida l’area AI e Data Science in Further, partner di trasformazione digitale che aiuta alcuni dei marchi più riconosciuti al mondo a creare esperienze cliente più intelligenti e personalizzate grazie ai dati e all’AI.
Prima di entrare in Further, Cal ha fondato e fatto crescere Pandata, una società di progettazione e sviluppo di AI che ha collaborato con organizzazioni come Cleveland Clinic, Progressive Insurance e FirstEnergy ed è stata acquisita da Further nel 2024. È spesso relatore principale su innovazione AI, governance e alfabetizzazione digitale, raggiungendo migliaia di leader in grandi eventi di settore come MAICON, ODSC, AI Summit, TDWI e DataCamp.
Risorse di questo episodio:
- Unisciti alla community di Digital Project Manager
- Iscriviti alla newsletter per ricevere i nostri ultimi articoli e podcast
- Collega con Cal su LinkedIn
- Scopri Further
- Database degli Incidenti di AI
Articoli e podcast correlati:
Galen Low: Cos’è la fiducia nell’ingegneria e come porta a soluzioni e esperienze di IA sicure?
Cal Al-Dhubaib: È un kit di strumenti di comunicazione condivisa per aiutare diversi profili che collaborano alla progettazione e all’adozione di soluzioni di IA a dialogare in modo più produttivo sulla salvaguardia della fiducia. Serviva un modo condiviso affinché tutte queste persone parlassero della stessa cosa e avessero una comprensione simile dei modi in cui la fiducia può essere violata con l’IA, e poi i toolkit su come difendersi da ciò.
Galen Low: Come può un team di progetto condividere la responsabilità di costruire la fiducia nelle loro soluzioni ed evitare il gioco dello scaricabarile?
Cal Al-Dhubaib: Un aspetto interessante dell’accountability è che se è responsabilità di tutti, allora nessuno ne è davvero responsabile; quindi, in definitiva serve una persona che se ne prenda carico. Noi ne assegniamo effettivamente una a ciascuno di questi progetti di IA, così possiamo essere certi di porci le domande giuste.
Galen Low: Quanto tempo pensi che servirà affinché l’IA comprenda il concetto umano di fiducia meglio degli stessi umani?
Cal Al-Dhubaib: Penso davvero che la definizione di IA sia così circolare… Come può l’IA comprendere la fiducia meglio degli umani? Non lo so, ma d’altra parte—
Galen Low: Benvenuti nel podcast del Digital Project Manager: il programma che aiuta i leader della delivery a lavorare in modo più intelligente, consegnare con più fluidità e guidare i team con fiducia nell’era dell’IA. Sono Galen e ogni settimana approfondiamo strategie reali, tendenze emergenti, modelli provati e ogni tanto qualche storia di guerra dalle prime linee dei progetti. Che tu stia guidando grandi trasformazioni, regolando flussi di lavoro basati su IA o semplicemente cercando di tenere sotto controllo il caos, sei nel posto giusto. Entriamo nel vivo.
Oggi parliamo di come la fiducia può essere progettata nelle esperienze guidate dall’IA, perché questo è così importante per le organizzazioni che implementano soluzioni di IA in settori regolamentati e quale ruolo ricopre il team di progetto, in particolare il project leader, nella costruzione di questa fiducia.
Con me oggi c’è Cal Al-Dhubaib, Head of AI & Data Science presso Further, un’azienda che aiuta a trasformare le esperienze dei clienti attraverso dati e IA. Cal è un esperto di IA e data science, imprenditore, prolifico oratore pubblico e nuovo conduttore del podcast Open Data Science. Utilizza la sua profonda esperienza nella data science per aiutare le organizzazioni a colmare il divario tra innovazione IA e responsabilità etica, affinché le implementazioni siano allineate a valori e obiettivi.
Il suo lavoro nel settore tecnologico di Cleveland ha portato Cal a essere riconosciuto tra i migliori ventenni di Crane Cleveland, leader immigrato di rilievo e dirigente tech di nota, oltre a essere stato per quattro volte vincitore del Cleveland Smart 50 Awards.
Cal, grazie di essere qui con me oggi.
Cal Al-Dhubaib: Grazie a te, Galen, sono entusiasta di questa conversazione.
Galen Low: Anch’io. Ho sempre apprezzato i nostri dialoghi precedenti. Sei decisamente qualcuno che conosce a fondo la materia. Complimenti per il nuovo ruolo di host del podcast Open Data Science. Hai tante cose interessanti in corso.
So che sei molto immerso in tutto questo, ne sei appassionato, e spero che questa conversazione ci porti anche su territori inaspettati. Intanto, ecco la scaletta che ho pensato per oggi. Parto subito con una domanda importante, di quelle ben succose, a cui i miei ascoltatori vorrebbero sentire risposta.
Poi vorrei scomporre il tutto parlando di tre cose: primo, cosa significa progettare la fiducia in una soluzione IA e la responsabilità del team progetto nel mantenerla; poi, come la fiducia può essere misurata e verificata, soprattutto nell’ambito dei settori regolamentati ma anche oltre la compliance; infine, avere il tuo punto di vista su come la prospettiva sulla fiducia potrebbe evolvere nei prossimi anni, man mano che collettivamente comprendiamo meglio come vengono trattati i nostri dati e a cosa possono servire nell’era dell’IA. Era tanto, ma che ne pensi?
Cal Al-Dhubaib: Oh sì, copriremo parecchi temi. È ambizioso e sono pronto.
Galen Low: Ottimo, immergiamoci. Volevo partire con una domanda impegnativa: uno dei grandi temi di cui parli è il concetto di progettare la fiducia in soluzioni ed esperienze IA—utenti, aziende e organismi regolatori non adotteranno l’IA appieno senza fiducia in ciò che farà.
Quindi la domanda: quando si costruiscono e si implementano soluzioni IA, chi possiede il requisito della fiducia? E cosa succede quando manca questa fiducia nella user experience guidata dall’IA?
Cal Al-Dhubaib: La risposta facile è: di default nessuno ne è responsabile, ed è proprio questo il grande problema. È parte di ciò che cerco di risolvere con il corso che sto preparando: introduzione all’ingegneria della fiducia.
E onestamente, mi ricorda i primi tempi della data science, in cui la responsabilità poteva essere di analytics, di IT, di finance … Non importava molto dove risiedesse, bastava che ci fosse una chiara ownership: chi è responsabile e rendicontabile per quella competenza.
Vale lo stesso per l’ingegnerizzazione della fiducia nelle soluzioni IA, e probabilmente lo immagini: se non è parte del processo di design, la soluzione rischia di produrre conseguenze indesiderate—e di casi non ne mancano. Una delle risorse che cito frequentemente è il database degli incidenti IA: ho appena recuperato i numeri più recenti relativi al 2025.
Non sorprende che gli incidenti continuino ad aumentare di anno in anno senza eccezione.
Galen Low: Interessante. Puoi raccontarci come il database definisce o tratta un incidente?
Cal Al-Dhubaib: Mi piace molto perché scandagliano le fonti di notizie e considerano un incidente da varie prospettive. Se più testate indipendenti trattano una storia, organizzano tutte le coperture in un unico incidente: è possibile rivedere tutto ciò che è stato scritto. Alcuni esempi: lanciando la carta di credito, Apple inizialmente concedeva limiti più bassi alle donne rispetto agli uomini, a parità di condizioni.
Tra altri esempi nel database: AnyScale, nota per la soluzione di agent coding, ha avuto problemi di utenti bloccati casualmente e il chatbot IA rispondeva con allucinazioni, ironicamente. Gli utenti si sono sentiti disorientati e hanno annullato gli abbonamenti. Più recentemente, una delle big four della consulenza ha consegnato al Governo Australiano un deliverable creato con il supporto IA, contenente notevoli errori di accuratezza dovuti a allucinazioni.
Abbiamo casi fin dal 2016-2017, dai primi passi del machine learning, e il numero di incidenti è sempre in crescita. Tutti questi vengono tracciati nel database.
Galen Low: Mi piace che gli esempi coprano un ampio spettro. C’è il bias, probabilmente nel training o nei dati.
Cal Al-Dhubaib: Sicuro, è nei dati.
Galen Low: Il secondo caso è quasi IA “gaslighting”—bel termine. Ti fa sentire che sei tu il problema e magari pensi: l’IA forse è più intelligente di me. Anzi, no, non dovrei essere escluso.
Cal Al-Dhubaib: È vero, non ci avevo pensato.
Galen Low: E il terzo riguarda l’accuratezza: errori su deliverable, coinvolge allucinazioni, la presenza umana e la necessità di verifica.
Cal Al-Dhubaib: Esattamente.
Galen Low: Ottimo punto di partenza per la conversazione, sperando di coprire tutto questo e altro. Non si tratta solo di trasparenza sull’uso dei dati. È molto di più ciò che rende affidabile una soluzione. Possiamo esaminare meglio: ti occupi di settori altamente regolamentati?
Settori come sanità, servizi finanziari, difesa. Ambiti dove l’uso etico e responsabile dei dati sensibili è obbligatorio, non solo corretto, e ci sono serie conseguenze in caso di non conformità. E poi si amplia la nozione di fiducia, andando oltre privacy e sicurezza, toccando concetti come l’ingegneria della fiducia e anche l’idea che “l’IA noiosa è IA sicura.”
Cal Al-Dhubaib: Esatto. Cerchiamo di renderla più brillante di quanto sia, ma l’ho imparato presto: nei contesti regolamentati, il rischio di errore è altissimo e c’è una sola certezza: l’IA commette errori.
Galen Low: Vero.
Cal Al-Dhubaib: Nei primi tempi, collaborando con ospedali, mostravo come usare il machine learning per modelli predittivi. Bisognava garantire le stesse performance su tutti i gruppi demografici, evitando rischi per le minoranze. Nei primi anni (2016-2018), spesso la risposta era: sembra una grande responsabilità, non sappiamo se i benefici superano i rischi, meglio sospendere il progetto. L’avversione al rischio era troppo alta e mancava un percorso chiaro: 1, 2, 3, 4—ecco come si gestisce.
Galen Low: Con altri ospiti, come Lauren Wallace, abbiamo discusso sul fatto che queste aziende hanno una cultura del rischio. Hanno soglie e tolleranze definite, quindi è normale che dicano: “oltre questa soglia, non possiamo andare”. Non è colpa della tecnologia, ma serve prepararci al rischio e alle policy prima di procedere.
Ammiro questa cautela. È sicurezza; è noiosa, forse, ma è un passo nella giusta direzione, e una pausa è opportuna.
Cal Al-Dhubaib: Concordo. A volte la migliore IA è “meno IA”.
Parlo spesso di minimizzazione strategica dell’IA: ad esempio, in un progetto con un’università per processare trascrizioni studentesche, volevamo superare la semplice automazione robotica e passare a estrazione con LLM per maggiore accuratezza. Le trascrizioni erano in tanti formati: il massimo che siamo riusciti ad ottenere era il 90% di accuratezza. La prima domanda del cliente: “E per quel 10% di errori?”. È ragionevole: chi vorrebbe rischiare un errore ogni dieci?
Abbiamo allora studiato quando l’IA sbagliava di più (es. da istituti internazionali, sistemi quadrimestrali, ecc.) e abbiamo stabilito che in certi casi la trascrizione sarebbe andata in coda manuale, il resto gestito dall’IA. Quindi non si automatizza tutto, ma si automatizza dove è sicuro e affidabile. È un esempio concreto di trust engineering.
Galen Low: A proposito: stai creando un corso su LinkedIn Learning. Puoi darci la definizione: cos’è l’ingegneria della fiducia e come conduce a soluzioni IA sicure ed esperienze affidabili?
Cal Al-Dhubaib: È un kit di comunicazione condiviso per aiutare diverse figure che collaborano nella progettazione e adozione di soluzioni IA a parlare in modo produttivo della fiducia.
Ho notato che ogni persona affronta il problema da prospettive diverse e con linguaggi diversi. Gli ingegneri IA sono focalizzati sui bias statistici nei dati, i risk manager valutano l’esposizione per l’organizzazione, i governance specialist registrano le assunzioni, gli user experience designer creano le interazioni, i business stakeholder definiscono requisiti e bisogni.
C’era bisogno di un linguaggio comune per comprendere i modi in cui la fiducia può essere violata dall’IA e gli strumenti per difendersi.
Galen Low: Mi piace che sia un linguaggio condiviso e un framework per diagnosticare e affrontare il problema.
Quello che apprezzo è che, come nella data science, non basta affidarsi al “data person” che risolve tutto. La responsabilità non può gravare su una sola figura, è un compito collettivo. Adoro che sia un framework cross-funzionale che fa lavorare insieme le persone.
Cal Al-Dhubaib: Assolutamente.
Galen Low: Collegandoci a quanto dicevi prima, minimizzare strategicamente l’IA: il flusso di lavoro non deve essere 100% IA o zero IA, ma una collaborazione tra IA e umani. Oggi dobbiamo tutti capire l’IA e avere un vocabolario condiviso per dialogare nel processo di design e implementazione.
E anche capire gli altri: ogni specialista parla “linguaggi” diversi. Serve una base comune. Da project manager, a volte ci si perde nella metodologia migliore, nei dettagli, ma in fondo serve solo un modo per essere allineati e collaborare, traducendo tra stakeholder. Chiunque ha vissuto progetti finiti “persi nella traduzione”.
Cal Al-Dhubaib: Si tende a dare per scontato che qualcosa sia già coperto.
Galen Low: Ecco cosa apprezzo: la fiducia è uno sport di squadra. Il framework dell’ingegneria della fiducia lo rende un obiettivo condiviso. Immagino tocchi anche privacy e accessibilità—temi che nessuno in soluzioni complesse, o anche solo semplici, può possedere singolarmente.
Cal Al-Dhubaib: Esatto; un esempio: modello per ammissione studenti. Era richiesto rispetto della qualità tra diversi gruppi demografici. Il cliente ha chiesto: come lo garantite? Dobbiamo prima sapere come definite l’equità: ci sono più di 20 modi diversi di calcolarla. Come ingegnere posso mostrare formule e metodi, ma serve che voi definiate la policy, il vostro punto di vista sull’equità.
Galen Low: Molti temono che l’IA ci porti in una direzione fuori dal nostro controllo, ma sta succedendo anche il contrario: ci costringe a interrogarci su cosa facciamo da decenni. È etico? È giusto? Prima era questione di giudizio, oggi va esplicitato e scelto.
Cal Al-Dhubaib: Può essere grave, ma anche banale: i sistemi generativi sono aperti e possono disorientare l’utente.
Galen Low: Interessante.
Cal Al-Dhubaib: A volte è meglio fornire un raggio d’azione limitato. Per questo ho individuato quattro pilastri per l’ingegneria della fiducia: gestione delle aspettative, design delle decisioni, governance e gestione dell’infrastruttura della fiducia—quest’ultima include strumenti, risk management e toolkit. Tornando all’apertura e al design decisionale, bisogna informare e guidare l’utente con la giusta quantità d’informazione e limiti per un uso corretto e consapevole del sistema.
Galen Low: Puoi fare un esempio pratico dei quattro pilastri? Magari chi è coinvolto nell’arrivare a tale livello di fiducia nell’esperienza?
Cal Al-Dhubaib: Un esempio concreto riguarda Behr paint, nota catena. Uno dei maggiori punti di abbandono per i clienti era l’imbarazzo nella scelta dei colori: mi capita anche da esperto di colori—tra dieci, vado subito in crisi davanti a tutte le sfumature di bianco! Così hanno creato un’esperienza generativa per la scelta dei prodotti. Ma non è banale: bisogna rispettare la scienza del colore, lo stile del marchio e restare ancorati ai prodotti disponibili. Bisogna decidere quale tipo di consigli siano accettabili—selezionare un colore va bene, ma su formulazione o applicazione della vernice volevano controllo umano. Appena la chat va su questi argomenti, manda l’utente all’assistenza umana.
Galen Low: Bello, quindi appena oltre il 90% si va al supporto umano… l’IA non deve inventare, viene coinvolto l’uomo.
Cal Al-Dhubaib: Esatto. E dovevamo garantire che la chat non consigliasse prodotti concorrenti, né venisse “manipolata” dagli utenti per diffondere messaggi indesiderati.
Galen Low: Certo.
Cal Al-Dhubaib: È un ottimo esempio di trust engineering: design della decisione (decision design), chiarire i limiti d’azione, gestione delle aspettative d’uso, governance nel backend e comunicazione agli stakeholder attraverso una scheda di sistema.
Galen Low: Era un’interfaccia conversazionale?
Cal Al-Dhubaib: Sì, su behrpaint.com: il chatbot “chat hue”.
Galen Low: Ottimo esempio: ci sono specialisti del colore, copywriter, linguisti… la voce del brand, il catalogo sempre aggiornato…
Cal Al-Dhubaib: Grande parte del lavoro è mantenere dati e catalogo digitali aggiornati e ben gestiti. Esperienze simili nei servizi finanziari: l’IA attinge da una knowledge base interna aggiornata tramite processi umani.
Galen Low: Bello.
Cal Al-Dhubaib: Fondamentale avere questi processi umani che tengano freschi i dati a cui si affida l’IA.
Galen Low: Una cooperazione essenziale: non tutto può essere gestito dall’IA in autonomia, serve sempre lavoro umano per aggiornamenti, controllo qualità, test.
Cal Al-Dhubaib: Alcuni promuovono l’idea che l’IA gestirà tutto con agenti IA per altri agenti, ma nella pratica, serve sempre molta supervisione umana.
Galen Low: Realistico, anche il marketing vende l’idea: niente più personale, ma poi la realtà è diversa. Il marketing fa presa.
Cal Al-Dhubaib: Molto suggestivo.
Galen Low: Ci sono esempi negativi di soluzioni IA dove la fiducia non è stata progettata? Quali elementi della user experience mostrano l’assenza di ingegneria della fiducia?
Cal Al-Dhubaib: Mi piace citare il database di incidenti: un esempio riguarda McDonald’s e il sistema di voice ordering al drive-through, sviluppato con una nota società. Lo hanno dismesso poiché non riusciva a raccogliere ordini precisi. Non credo sia un fallimento tecnologico, ma di governance e limiti. Invece Domino’s gestisce l’80% degli ordini telefonici tramite IA, ma con supervisione umana e audit.
Galen Low: Davvero?
Cal Al-Dhubaib: Sì, confronto questi casi: uno ha tentato di automatizzare tutto, l’altro ha progettato un sistema ibrido con auditing e intervento umano se la IA non capisce un accento. Il fallimento non è nella tecnologia, ma nella mancanza di sistemi corretti attorno ad essa.
Galen Low: Quindi la soluzione non è tornare al solo umano: occorre invece trovare il giusto equilibrio. L’adozione dell’IA genera dati (sugli accenti, ecc.) utili al miglioramento, specie nei grandi numeri come McDonald’s.
Cal Al-Dhubaib: Certo.
Galen Low: Stiamo raccogliendo più dati, quindi la tecnologia migliorerà nel tempo, con le giuste “protezioni”.
Cal Al-Dhubaib: Certe pratiche prevedono di de-rischiare l’IA: ad esempio, dotare gli operatori umani di strumenti IA generativa per trascrizioni o raccomandazioni, oppure filtri e trigger per intervento umano. Serve sempre un bilanciamento tra automazione e supervisione umana.
Nei progetti chiedo sempre: 1. Cosa è stato fatto per ridurre possibili rischi dell’IA? 2. Una volta in produzione, come si individua quando l’IA commette errori? 3. E poi, cosa si fa concretamente? È stato stress-testato il piano?
Galen Low: Il test di pressione maggiore è forse proprio nei fast food: il personale, spesso inesperto, deve gestire ordini, cucina e magari una trascrizione IA… in pochi secondi. C’è molta pressione reale. Sono felice che si tentino queste cose, anche se non sempre funzionano. Gli incidenti aumentano: è la tecnologia che peggiora o è solo la diffusione più ampia a causare più errori e “casi”?
Cal Al-Dhubaib: Secondo me sono due i fattori: è più semplice costruire strumenti e sistemi, quindi l’area d’esposizione aumenta. Ma visto che l’adozione cresce più rapidamente degli incidenti, è un buon segno. Inoltre stiamo diventando più esperti nel riconoscere i problemi dell’IA. L’era della fiducia cieca nelle informazioni digitali è finita. Gli utenti sono più scettici di fronte ai contenuti IA.
Galen Low: Giusto. Prima si dava tutto per certo, notiziari, Google... ora siamo più critici. È forse un bene: pensiamo in modo più approfondito.
Cal Al-Dhubaib: Siamo più capaci di individuare problemi.
Galen Low: E possiamo migliorare. Si torna spesso al fatto che a volte erano le policy umane, non l’IA, a essere ingiuste.
Parliamo di team: la fiducia è oggi una responsabilità condivisa. I team stanno cambiando. Come possono condividere questa responsabilità ed evitare lo scaricabarile? Come creare ownership e accountability reale?
Cal Al-Dhubaib: L’accountability condivisa non funziona: serve sempre una figura responsabile. Da noi ad ogni progetto IA assegniamo un “AI governance professional” così da avere il controllo sulle domande giuste.
Partecipiamo alla IAPP (International Association of Privacy Professionals), pioniera nelle certificazioni su privacy, privacy engineering e ora anche per la governance IA. Chi arriva dal diritto, ingegneria, sicurezza, può colmare le lacune. È ciò che ha ispirato il mio framework.
Galen Low: Quindi ogni progetto ha un owner specifico? Spesso il project manager è al centro di tante specializzazioni, ma la comprensione dei requisiti e rischi ricade su di lui. Oggi la responsabilità cresce: serve un chief privacy officer o chi possiede la governance sul singolo progetto, magari da background diversi, ma che abbia chiaro il ruolo.
Cal Al-Dhubaib: Esattamente. Ma non dev’essere per forza un peso aggiuntivo: l’obiettivo è ridurre lo sforzo complessivo, creare una frizione utile che ci faccia riflettere, analizzare i possibili failure-mode e investire dove c’è più rischio per la fiducia.
Galen Low: Ecco perché apprezzo i settori regolamentati: la “frizione utile” è accettata e i rischi considerati in aggregato, non solo in funzione della “delivery”. Riduce il rischio reputazionale, legale, di compliance.
Cal Al-Dhubaib: Esatto: nuovi ruoli stanno emergendo (AI control, QA, risk management) con l’adozione crescente dell’IA. Il valore sta nel fare le domande giuste e allineare tutto il team.
Galen Low: Splendido.
C’è modo di misurare la fiducia? Come un team può valutare se l’esperienza è affidabile?
Cal Al-Dhubaib: Bella domanda. In parte serve a prevenire incidenti (numero di incidenti può essere una metrica). Ma è utile anche analizzare i comportamenti utenti. L’esempio di chat hue: raggiungono la call to action, ritornano sulla piattaforma? Si tratta di misurare l’efficacia e la fiducia operativa.
Galen Low: E sono metriche note: profilo di rischio, goal e successo UX, attrito utente. Se la fiducia manca (non è explainable l’IA, l’utente è confuso…), la UX ne risente.
Cal Al-Dhubaib: Anche la semplice inutilità della soluzione incide sulla fiducia.
Galen Low: Esatto. Se non ottengo valore non ci torno più; preferirò ordinare da un umano. Guardando al futuro, talvolta il problema non è la fiducia nell’IA, ma negli umani. Ricordo la storia di una piattaforma dove l’outcome influiva sui bonus personali: bias intenzionale, forse inconscio!
Cal Al-Dhubaib: Sì, erano motivati a non fidarsi dell’IA.
Galen Low: Esatto. Quindi a volte sono gli umani a gestire male il concetto di fiducia. Forse posso chiedere: quanto manca prima che l’IA comprenda la fiducia umana meglio degli umani stessi? E cosa potrebbe succedere?
Cal Al-Dhubaib: È complesso: la definizione di IA è circolare, specie a livello di AGI. Siamo una specie che usa strumenti: oggi le mie competenze includono il mio tool IA. Come può, quindi, l’IA superare l’uomo sulla fiducia? La fiducia è soggettiva; cambia secondo il contesto e il sistema morale. Uno studio MIT (moral machine) lo dimostra: a seconda del paese, cambiano i valori. In Occidente si tende a salvare più vite; in Asia spesso conta di più l’anzianità. Io stesso sono nato in Arabia Saudita da madre americana: culture spesso incompatibili, e quindi l’IA come può gestire tutto ciò?
Galen Low: Non è la fiducia l’unico tema: l’IA potrà comprendere la cultura umana meglio degli uomini? Forse non manca molto: ovunque ci sono differenze culturali; forse l’IA sarà un grande specchio.
Cal Al-Dhubaib: È proprio questo il punto. Bisogna capire che non è tutto bianco o nero; bisogna esplicitare le assunzioni e, quando serve, lasciare la scelta consapevole all’utente. Tutte scelte di design che fanno parte dell’ingegneria della fiducia.
Galen Low: Ed è questo che mi piace dell’ingegneria della fiducia come toolkit e framework: non si arriva a una soluzione in isolamento, serve dialogo continuo.
Cal Al-Dhubaib: Assolutamente.
Galen Low: Cal, grazie per essere stato con noi. Dove possono trovarti e seguire il corso appena disponibile?
Cal Al-Dhubaib: Sono molto attivo su LinkedIn, è la piattaforma che preferisco. Annuncerò presto i dettagli del corso.
Galen Low: Splendido. Metterò il link al tuo profilo e al database degli incidenti IA. Ottimi spunti per discutere. E grazie per la conversazione.
Cal Al-Dhubaib: Grazie a te, Galen.
Galen Low: Cari ascoltatori, è tutto per questa puntata di The Digital Project Manager podcast. Se vi è piaciuta, iscrivetevi ovunque ascoltiate. Per ancora più insight pratici, casi di studio e playbook, andate su thedigitalprojectmanager.com.
Alla prossima puntata, grazie per l’ascolto.
