Privacy by Design: Costruire una strategia di IA che non comprometta la fiducia
Questo articolo è stato adattato dall'episodio "Una strategia per l'IA incentrata sulla privacy: come si presenta e perché è importante" del podcast DPM.
Vantaggio della regolamentazione: I settori regolamentati possono riutilizzare pratiche consolidate di governance, conformità e risposta agli incidenti per implementare l’IA in modo responsabile.
Separazione dei rischi: Separare gli strumenti interni dalle funzionalità dei prodotti aiuta le organizzazioni a valutare con maggiore precisione i rischi dell’IA, i controlli e la responsabilità.
Privacy innanzitutto: Una strategia di IA basata innanzitutto sulla privacy protegge i dati personali, le informazioni proprietarie e la sicurezza, chiarendo al contempo il valore aziendale atteso.
Titolarità condivisa: Le organizzazioni dovrebbero definire le proprie convinzioni sulla titolarità dei dati prima di stabilire principi etici o progettare politiche sull’IA.
Responsabilità pratica: Team interfunzionali, matrici dei rischi, formazione dei dipendenti e verifica dei fornitori aiutano a prevenire scorciatoie e a sostenere decisioni prese con sicurezza.
La maggior parte delle persone presume che i settori altamente regolamentati — servizi finanziari, sanità, energia, telecomunicazioni — siano destinati a procedere lentamente nell'adozione dell'IA, appesantiti dalla burocrazia mentre i settori meno regolamentati avanzano rapidamente. Secondo Lauren Wallace, consulente strategica ed ex Responsabile legale di RadarFirst, questa supposizione è errata.
Wallace, che ha ricoperto ruoli legali e di sviluppo commerciale presso Apple, Microsoft e Nike, sostiene che le aziende regolamentate siano in realtà avvantaggiate quando si tratta di creare programmi di IA conformi e responsabili. Questo articolo analizza il suo framework per una strategia di IA incentrata sulla privacy: come si presenta a livello dei singoli componenti, come ottenere il consenso all'interno dell'organizzazione e dove si concentrano effettivamente i rischi — e le opportunità — maggiori.
Sblocca Gratis
Crea un account gratuito per terminare la lettura di questo articolo e unirti a una community di leader innovativi che accedono a strumenti, playbook e approfondimenti per prosperare nell’era dell’AI.
Have an account? Log In
Perché i settori regolamentati potrebbero essere già avvantaggiati
I principi fondamentali alla base della governance dell'IA — trasparenza, responsabilità, monitoraggio dei bias — non sono invenzioni recenti. Come spiega Wallace, "i principi alla base della governance dell'IA, come la trasparenza, la responsabilità, il monitoraggio dei bias e la prevenzione… sono già integrati nei framework normativi esistenti". Questo include il GDPR, ma anche le leggi sul credito equo, le leggi sulle pari opportunità e numerosi altri framework sui diritti civili e sulla tutela dei consumatori.
I principi alla base della governance dell’IA, come la trasparenza, la responsabilità, il monitoraggio dei bias e la prevenzione… sono già integrati nei framework normativi esistenti.
Le banche, ad esempio, operano da anni secondo "regole di gestione dei modelli" per il processo decisionale algoritmico — regole che, nelle parole di Wallace, "si traducono facilmente in ciò che stiamo analizzando con tutti questi strumenti di IA". Le organizzazioni di questi settori dispongono in genere già di programmi di conformità, risorse dedicate alla governance e strumenti di applicazione basati su questi framework.
Lo stesso vale anche per la risposta agli incidenti. Wallace è diretta su questo punto: "Non importa dove si verifica l'incidente, se deriva da un fax inviato alla persona sbagliata o da un sistema di IA a cui hai consentito di utilizzare informazioni personali. Un incidente è un incidente". Le norme sulla sicurezza e sulla notifica delle violazioni non prevedono eccezioni per l'IA e, come afferma, "non puoi certo dare semplicemente la colpa alla tua IA".
Dove si trova quindi il rischio reale? Non nelle aziende che ci si aspetterebbe. "In realtà penso che la sfida maggiore riguardi le aziende di medie dimensioni", afferma Wallace. "Potrebbero trovarsi ad affrontare per la prima volta questi ostacoli normativi quando integrano l'IA nei loro flussi di lavoro e ora si chiedono da dove iniziare".
Dividi i casi d'uso in due categorie
Wallace raccomanda di suddividere fin dall'inizio le iniziative di IA in due categorie:
- Utilizzi interni dell'IA per la produttività, per sostituire strumenti esistenti o per miglioramenti funzionali.
- Casi d'uso dell'IA nello sviluppo dei prodotti.
Come osserva, "ci sono considerazioni molto diverse per ciascuna di queste categorie" — trattare la strategia di IA come un'unica iniziativa indistinta rende più difficile valutare accuratamente i rischi.
Inizia dalla privacy fin dalla progettazione — ma non fermarti ai dati personali
Un approccio incentrato sulla privacy va oltre la protezione delle informazioni dei clienti. Wallace sottolinea la necessità di proteggere "non solo le informazioni personali, ma anche le informazioni proprietarie dell'azienda", poiché "si presentano moltissimi nuovi rischi quando inserisci le informazioni aziendali in un LLM come ChatGPT".
Abbiamo una nuova e straordinaria superficie di attacco con l’AI. Quindi, devi assicurarti che la tua sicurezza sia ben configurata.
Richiama inoltre direttamente l'attenzione sull'assetto di sicurezza: "Abbiamo una nuova e straordinaria superficie di attacco con l'AI. Quindi, devi assicurarti che la tua sicurezza sia ben configurata." Ma soprattutto sottolinea l'importanza dell'allineamento interno — "avviare il confronto interno per capire cosa volete fare con l'AI, cosa pensate di poter fare con l'AI e quale sia il ROI reale che sperate di ottenere."
Scegli la soglia più elevata, non il minimo comune denominatore
Le diverse normative sulla privacy condividono valori fondamentali simili, ma li applicano in modi differenti. Il consiglio di Wallace è: "Cercate di individuare la soglia più elevata. Cercate di capire cosa è coerente tra i diversi contesti normativi in cui operate e trattate tutti come se fossero soggetti allo stesso approccio basato sui principi più rigorosi."
L'alternativa — cercare di rispettare ovunque soltanto il minimo imposto dalla legge — si ritorce contro. "Potrebbe sembrare un modo per ridurre l'esposizione normativa", afferma, "ma vi costerà molto di più in termini di implementazione e di energie mentali quando cercherete di fare cose interessanti."
Non si tratta soltanto di esposizione normativa. "Incoraggerà un approccio etico al lavoro che svolgete", spiega Wallace, "anche nei casi in cui non abbiate obblighi normativi esplicitamente indicati in una norma che possiate citare articolo per articolo." Il rischio legale può provenire da luoghi inaspettati — "un'azione collettiva", "un team legale imprenditoriale" o "i vostri concorrenti" — non solo da un'autorità di regolamentazione.
Decidi quale posizione assume la tua organizzazione sulla proprietà dei dati
Prima di redigere un elenco di principi etici per l'AI, sostiene Wallace, le organizzazioni devono innanzitutto rispondere a una domanda più fondamentale. Descrive tre filosofie globali concorrenti sulla proprietà dei dati:
Sul modello dell'UE: "La privacy è un diritto umano fondamentale e il diritto di decidere in merito all'uso delle proprie informazioni personali appartiene all'interessato — l'essere umano."
Sul modello storico degli Stati Uniti: "Abbiamo considerato il valore di quelle informazioni personali come appartenente all'azienda che le ha raccolte, perché ne ricava valore e quindi, se ne ha estratto il valore, questo deve certamente appartenerle."
Su un terzo modello osservato altrove: "Il valore delle informazioni personali, anzi, il contenuto specifico delle informazioni personali, è considerato appartenente allo Stato, perché lo Stato lo utilizzerà nel migliore interesse dell'interessato."
Il suo punto è che le aziende devono scegliere consapevolmente la propria posizione, invece di ritrovarsi a seguirla implicitamente: "Noi, come organizzazione, riteniamo di svolgere il nostro ruolo estraendo valore dalle informazioni personali? [Oppure] riteniamo di svolgere il nostro ruolo aiutando i nostri clienti a utilizzare le informazioni personali a beneficio dell'interessato?" Questa decisione, afferma, dovrebbe precedere l'elenco dei principi etici — "non è da un elenco di principi come equità, responsabilità e mitigazione dei pregiudizi al centro" che bisogna partire.
Il costo nascosto dell'arricchimento dei dati
I singoli dati possono sembrare privi di valore se considerati isolatamente, ma Wallace avverte che l'aggregazione cambia l'equazione: "Le informazioni che avete fornito a un determinato fornitore in una determinata occasione — considerate singolarmente, potrebbero non avere molto valore. Ma una volta aggregate, arricchite e rivendute a terzi che possono utilizzarle per altri scopi, il valore aumenta notevolmente."
Lo illustra con la storia di un'acquisizione realmente avvenuta: una grande banca acquistò una startup proprio per ottenere un elenco di "4 milioni di nomi di persone che avevano acquistato i loro servizi per prestiti studenteschi", pagando circa "$175 million" — ritenendo che un elenco di potenziali clienti completo e verificato valesse all'incirca "cento dollari per persona", rispetto al consueto costo di acquisizione di un cliente, pari a "circa 150 dollari". Il problema fu che: "scoprirono che quei 4 milioni di nomi erano falsi. Erano stati generati sinteticamente utilizzando una sorta di programma di AI" e l'accordo saltò.
La sua conclusione mette in discussione il modo disinvolto in cui le persone trattano i propri dati: "Questa grande banca pensava che valeste almeno cento dollari. Quindi voi [in quanto consumatori] fareste qualcosa di diverso con quei dati, sapendone il valore?”
Integra la responsabilità nel team di progetto, non solo nella sala del consiglio
Il "tono al vertice" è importante, afferma Wallace, ma "ci porta solo fino a un certo punto quando operiamo a livello di progetto". Una vera responsabilità richiede di coinvolgere un gruppo realmente interfunzionale per ogni iniziativa di IA — "ci devono essere il prodotto, l'ingegneria e la sicurezza" — oltre a funzioni che spesso vengono trascurate:
Successo del cliente: "Comprendono la funzionalità abbastanza bene da poter almeno avere, in assenza dello script, il vocabolario necessario per sottoporre la domanda a qualcun altro?"
Marketing: "Sapete se appartengono alla categoria di chi è allergico all'IA o a quella opposta, di chi è molto entusiasta di provare cose nuove? Come adatterete e calibrerete il vostro messaggio affinché, quando parlate di nuove funzionalità?”
Legale: "Potreste avere clienti nel vostro portafoglio che vietano l'uso dell'IA sui prodotti che acquistano da voi. Questo potrebbe essere nascosto da qualche parte nel contratto. Potrebbe parlare di processi decisionali algoritmici o di utilizzo di modelli. Potreste avere un contratto di dieci anni fa che vieta questo utilizzo."
L'obiettivo, afferma Wallace, è avere un team che si assuma la responsabilità nel momento stesso in cui agisce.
Distinguere l'uso improprio involontario dall'assunzione intenzionale di rischi
Wallace traccia una linea netta tra l'esposizione accidentale e il ricorso deliberato a scorciatoie. Sul fronte accidentale: "La maggior parte di questi strumenti che utilizziamo dispone di configurazioni che si possono attivare e che consentono di controllare se le informazioni personali o quelle aziendali riservate vengono esposte.”
Il problema più difficile è la scorciatoia dettata dalla scadenza: qualcuno decide di "caricare questo set di dati su un LLM pubblico" perché "dobbiamo consegnare entro venerdì". La risposta di Wallace a questo scenario è categorica: "Semplicemente, non fatelo."
Dare ai team il permesso di dire no
Dire no non è punitivo, afferma Wallace: è una disciplina: "Non c'è alcun piacere, giusto? Non è una sorta di comportamento vendicativo." Lo strumento che raccomanda è una semplice matrice dei rischi — "la probabilità su un asse e la gravità sull'altro" — che consente a un'organizzazione di avere "una conversazione davvero franca per individuare il proprio punto in quel campo" e concordare collettivamente dove tracciare la linea.
È sincera anche nell'applicare personalmente questo approccio durante la valutazione dei fornitori per RadarFirst: "Abbiamo valutato centinaia di fornitori nel corso dell'anno. Una percentuale piuttosto alta è stata rifiutata. Abbiamo detto: "non abbiamo informazioni sufficienti, oppure non hanno pubblicato un centro di affidabilità che possiamo esaminare davvero a fondo, oppure utilizzano modelli sottostanti che non ci rendono noti."
E l'ignoranza non è una difesa a posteriori: "Non posso rivolgermi a un fornitore e dire: ‘Non avevo davvero capito cosa steste facendo quando l'ho acquistato da voi.’ L'ignoranza non costituisce una difesa ai sensi della legge. Non lo è mai stata. Non lo sarà mai."
Non posso rivolgermi a un fornitore e dire, “Non avevo davvero capito cosa steste facendo quando l’ho acquistato da voi.’ L’ignoranza non costituisce una difesa ai sensi della legge.
Sviluppare la competenza sull'IA in tutta l'organizzazione, non solo tra i dirigenti
In RadarFirst, il team di Wallace organizzava una serie ricorrente di incontri formativi: "Circa un anno e mezzo fa abbiamo lanciato un incontro mensile a pranzo sull'IA etica. In ogni sessione affrontavamo un argomento: autonomia e supervisione umana, trasparenza o responsabilità." Le sessioni utilizzavano come base le linee guida dell'UE sull'IA e si basavano su casi di studio reali tratti dal Database degli incidenti legati all'IA: "Casi sconvolgenti, appena usciti dalla stampa, che hanno coinvolto questi principi di trasparenza o di mitigazione dei pregiudizi."
Wallace chiarisce che l'obiettivo non era far cambiare idea a qualcuno sul momento: "Forse, quando uscivano dalla sala, non avevano cambiato posizione. Va bene così. Ma quando tornavano alle loro scrivanie, avevano il vocabolario per discutere le loro preoccupazioni con il team, sottoporle al legale o alla conformità, oppure al team di prodotto, a seconda dei casi."
Quanto a chi dovrebbe guidare queste sessioni, non ritiene necessario assumere una persona dedicata all'etica dell'IA: "Potrei immaginare che si possa persino condividere questo incarico, mese dopo mese, tra persone diverse, ottenendo ogni volta un valore leggermente diverso."
La regolamentazione recupera lentamente il ritardo: agite ora in base alla vostra etica
Wallace considera la legge stessa un indicatore tardivo dei valori condivisi: "La legge è semplicemente un modo per mettere per iscritto i nostri principi etici condivisi e collocarli in un luogo in cui le persone possano trovarli." Nel frattempo, il contenzioso colma il divario, gestendo le questioni "quando sono inedite, nuove, non si sono mai presentate e non c'è stato tempo di elaborarle attraverso i cicli legislativi" — ma questo processo è lento per sua stessa natura: "le ruote della giustizia macinano lentamente, ma in modo estremamente accurato."
Indica la legislazione sull'IA del Colorado come esempio da prendere a monito: lo Stato «si è mosso piuttosto velocemente. Ha elaborato qualcosa di piuttosto valido, poi ha dovuto ritirarlo perché non riusciva a capire come renderlo effettivamente operativo». Le aziende che avevano costruito in modo proattivo la propria conformità sulla base di quella normativa sono rimaste in attesa.
La sua raccomandazione è smettere di considerare il recupero del ritardo normativo come il traguardo finale: «Se sai cosa significa essere un'organizzazione etica, se sai qual è la tua soglia di rischio, collocherai il rischio legislativo o processuale nella parte giusta di quella categoria e dirai: va bene, siamo disposti ad affrontarlo se si arriverà a quel punto. Ma al momento non ne sappiamo abbastanza: ciò che sappiamo di noi stessi è ciò che riteniamo giusto e ciò che crediamo i nostri clienti si aspettino da noi. Su questo possiamo agire già oggi».
Vuoi ricevere altri approfondimenti come questi? Iscriviti gratuitamente a un account DPM per ascoltare altri esperti come loro.