Intelligenza Artificiale per Bambini: Come i Team di Progetto Possono Costruirla in Modo Responsabile

Galen Low: La maggior parte delle soluzioni di intelligenza artificiale non sono pensate per i bambini, ma ciò non significa che i bambini non le utilizzino. Sorge quindi una domanda: chi è responsabile della sicurezza dei bambini quando si parla di esperienze alimentate dall’IA? Sono i genitori? I team che progettano e sviluppano queste esperienze? O le aziende che realizzano l’IA?

E quali sono alcune strategie con cui possiamo guidare i nostri team a farsi le giuste domande etiche e promuovere la creazione di salvaguardie adeguate nelle esperienze che progettiamo? Per esplorare questo tema, ho invitato un Technical Program Manager di Google, che è anche una forte sostenitrice della sicurezza dei bambini e della cybersicurezza nell’IA e nella tecnologia.

Insieme, approfondiremo come le implicazioni siano più elevate per i giovani utenti dell’IA rispetto agli adulti, cosa possiamo fare per promuovere e ingegnerizzare la sicurezza dei bambini nei nostri progetti e prodotti d’intelligenza artificiale e in che modo la stessa IA potrebbe diventare sostenitrice della sicurezza dell’infanzia man mano che il ritmo della tecnologia inizia a superare la nostra capacità di umani di creare politiche, leggi e percorsi formativi significativi per l’interazione dei bambini con l’IA. Buon ascolto dell’episodio.

Benvenuto/a a The Digital Project Manager Podcast—il programma che aiuta i leader del delivery a lavorare in modo più intelligente, eseguire in modo più fluido e guidare i loro team con sicurezza nell’era dell’IA. Sono Galen e ogni settimana approfondiamo strategie reali, tendenze emergenti, framework collaudati e qualche storia di guerra dalla prima fila dei progetti. Che tu stia gestendo grandi progetti di trasformazione, orchestrando flussi di lavoro IA o semplicemente cercando di tenere sotto controllo il caos, sei nel posto giusto. Iniziamo.

Oggi parliamo di IA nel contesto della sicurezza dei bambini e di come i team di progetto e di prodotto possono porsi le domande giuste per creare esperienze alimentate dall’IA che proteggano gli utenti vulnerabili.

Con me oggi c’è Aderonke Akinbola—relatrice, sostenitrice della sicurezza dei bambini e degli ecosistemi di IA, nonché Technical Program Manager presso Google. Ade vanta oltre tre anni di esperienza nello sviluppo prodotto e nella gestione di programmi, oltre a una precedente esperienza come ingegnere per la sicurezza presso Apple. Inoltre, ha recentemente intervenuto al Summit sulla Sicurezza degli Agenti IA sul tema della sicurezza degli agenti IA in ecosistemi centrati sui bambini.

Ade, grazie mille per essere qui con me oggi.

Aderonke Akinbola: Ciao Galen, sono davvero felice di essere qui.

Galen Low: Sono emozionato di averti qui. Attendevo molto questa intervista. Mi sono piaciute le conversazioni che abbiamo avuto in preparazione e sono davvero entusiasta di approfondire. Spero andremo in tante direzioni diverse, ma per sicurezza ecco la scaletta che ho pensato per oggi.

Per iniziare, vorrei porgerti una grande domanda importante su cui i miei ascoltatori sono curiosi di ascoltare la tua opinione. Poi vorrei allargare il discorso e parlare di tre cose principali. Primo, cosa rende diversa l’esperienza di un bambino con l’IA rispetto a un adulto e cosa rende sicura una esperienza di IA per i minori di 18 anni oggi e in futuro.

Poi vorrei essere pratico e parlare di come i team di progetto e prodotto che sviluppano soluzioni di IA possono farsi le giuste domande etiche e progettare esperienze che educano, spiegano e proteggono gli utenti più giovani. Infine, vorrei semplicemente sapere cosa ne pensi di come sarà il futuro per gli agenti IA e le prossime generazioni se riusciremo a trovare un equilibrio tra etica, sicurezza e tutela.

Che ne pensi?

Aderonke Akinbola: Perfetto, è proprio per questo che siamo qui. Immergiamoci subito.

Galen Low: Perfetto. Mi piace! Allora, inizio con una grande domanda. Negli ultimi mesi, la questione della sicurezza dei bambini e dei social media è stata protagonista sulle prime pagine.

L’Australia ha recentemente introdotto un divieto ai social per i minori di 16 anni, il Regno Unito e altri paesi stanno valutando misure simili. Ovviamente, social media e IA non sono la stessa cosa, ma molti interrogativi su etica e sicurezza valgono anche per l’uso dell’IA tra i giovani.

Ecco dunque la grande domanda. In base alla tua esperienza nella sicurezza e nello sviluppo prodotto per alcune delle aziende tecnologiche più all’avanguardia nel campo dell’IA, secondo te dovremmo davvero costruire soluzioni IA per minori di 18 anni?

Aderonke Akinbola: Penso che sia la domanda da un milione di dollari, Galen, ma la mia posizione è che ormai la domanda non è più se dobbiamo creare sistemi di IA per loro.

Ci concentriamo ormai sul come costruirli. La realtà è che il compagno di giochi digitale esiste già, quindi se scegliamo di non progettare IA specifiche e sicure per i bambini, questi non smetteranno comunque di usare la tecnologia. È disponibile per loro.

Utilizzeranno semplicemente IA "adulte", e questo è molto pericoloso perché queste sono pensate per l’efficienza, mentre i bambini hanno bisogno di strumenti per la crescita. Se non costruiamo la versione giusta, li abbandoniamo nel wilderness digitale senza una bussola. Quindi ora la domanda non è più se costruire per loro, ma come costruire.

Galen Low: È un ottimo punto sulla finalità della tecnologia. Dal punto di vista degli adulti è diverso rispetto ai bambini. Come sappiamo dalla questione social, nemmeno dire che i minori non dovrebbero usarli li terrà lontani.

Concordo. Ormai Pandora è uscita dalla scatola e sta a noi creare ambienti sicuri. Anche se l’utente ideale non è sotto i 18, vorrei che ampliassimo il discorso perché ho visto la registrazione del tuo intervento all’AI Agent Security Summit e prima ancora avevi scritto su LinkedIn che i parchi giochi dei bambini non saranno solo fisici, ma anche digitali, intelligenti e imprevedibili.

Cosa intendi e quando dobbiamo pianificare per questo nei nostri prodotti?

Aderonke Akinbola: È una bella domanda, Galen. Pensa a un parco giochi fisico, spesso ormai con pavimenti morbidi e angoli smussati. Anche l’IA è un parco giochi, ma di tipo diverso: parla, plasma il pensiero. E siccome i bambini attribuiscono emozioni, alcuni pensano che gli agenti IA siano reali.

Rischiano quello che si chiama “deterring pit”: sono così convinti che l’IA sia un vero amico da diventare vulnerabili all’ingegneria sociale. Non è qualcosa che si risolve nella fase di controllo qualità: serve uno "shift left", un’attenzione anticipata nel processo, con anche psicologi infantili presenti già in fase architetturale.

Nella fase di addestramento del modello vanno poste domande come: questo modello è ottimizzato per vendere o per sostenere lo sviluppo umano? Solo cambiando questo approccio possiamo creare playground digitali centrati sui bambini e protettivi.

Galen Low: Bella la metafora del pavimento imbottito e degli angoli smussati, anche per cose non pensate per bambini ma che devono essere rese sicure.

Quando mio figlio era piccolo abbiamo dovuto "proteggere la casa" pur sapendo che non era nata per i bambini, ma loro avrebbero esplorato comunque. Vogliamo che crescano in modo sano.

Mi interessa la questione della cybersecurity, perché nemmeno questa può essere un pensiero successivo. Secondo te, psicologi dell’età evolutiva dovrebbero essere coinvolti nei team di progetto o sviluppo prodotto anche se la finalità non è rivolta ai minori?

Aderonke Akinbola: Penso che anche senza assumerli full time, potremmo averli come consulenti. Ormai non esistono più solo “iPad kids”: ora sono una generazione intera. Se diciamo che la tecnologia è stata creata solo per adulti, il rischio è comunque che i bambini vi accedano, ad esempio a Gemini.

Galen Low: Te lo confermo: mio figlio usa la tecnologia in modo responsabile, gli abbiamo dato accesso a un device, ma ora con l’intelligenza artificiale integrata nella ricerca Google, tutto è più accessibile. Non ho nemmeno dovuto insegnargli ad usare Gemini: lo ha trovato lui.

Aderonke Akinbola: Convivo anch’io con un bambino piccolo che non sa ancora parlar bene ma dice: "Hey Siri".

Galen Low: È incredibile, vero?

Aderonke Akinbola: Sì, perché mi sente pronunciarlo. Come risponde Siri a un bambino? Le possibilità sono infinite. Per questo bisogna parlarne, anche senza assumere psicologi a tempo pieno, ma avviare queste conversazioni e iniziare a costruire responsabilmente.

Non mi aspetto cambiamenti nei prossimi due o cinque anni: l’IA evolve ogni settimana. Ma intanto iniziamo ad aumentare la consapevolezza e portare questi esperti al tavolo. La risposta immediata mancherà, ma intanto si crea sensibilizzazione.

Galen Low: L’esempio di Siri è illuminante: non serve mettere in mano al bambino un device, basta la voce per accedere alla tecnologia. Forse lo psicologo va visto come un consulente, come la cybersecurity pianifica non gli utenti principali, ma i malintenzionati e casi di errore.

Dato il boom dell’IA e gli aggiornamenti costanti… domanda provocatoria: le aziende IA stanno facendo abbastanza per prevenire l’uso da parte di minori?

Aderonke Akinbola: Non credo sia la loro priorità. Ora si cerca soprattutto di sfruttare il massimo potenziale delle IA: come renderle più intelligenti, risolvere problemi più rapidamente? L’ambiente è frenetico. C’è poca advocacy per i bambini, le aziende cercano di affermarsi sul mercato. Per questo mi occupo proprio di sicurezza informatica centrata sui bambini.

All’inizio la responsabilità è più dei genitori che di chi progetta la tecnologia.

Galen Low: Sono d’accordo: è come una gara. Tutti vogliono costruire l’auto più veloce, le cinture di sicurezza arriveranno in seguito. Motore e sospensioni prima, poi i freni, infine i seggiolini. Non sembra una priorità.

È questione di responsabilità condivisa. Non c’è un unico gruppo responsabile dell’esperienza di un bambino con l’IA—tutti devono fare la propria parte. Tornando alla differenza tra bambino e adulto con l’IA: è solo una questione di rischio più alto per i minori?

Aderonke Akinbola: Per i bambini, i rischi sono molto più elevati. Per un adulto, una violazione dati può voler dire cambiare carta di credito. Per un bambino, i dati IA diventano un’impronta permanente, un archivio delle curiosità e personalità, che può influire su ammissioni a scuole o lavoro, anche vent’anni dopo.

Nel mio intervento al Summit Zen’s AI Security, ho parlato delle “tre ombre” che seguono i bambini nell’IA: ombra dell’influenza, perché l’IA può essere più persuasiva di un genitore o insegnante. Se passano tanto tempo con questi strumenti, i bambini, vere spugne, finiscono per credere all’agente più che ai grandi. Poi l’ombra dell’esposizione, cioè la traccia permanente, e infine l’ombra della stagnazione: se costruiamo strumenti troppo utili, si perde la capacità di pensiero critico e la resilienza. Imparare significa sbagliare, riprovare più volte.

Se l’IA elimina la fatica, rischiamo di automatizzare un processo che deve restare “sporca” e imperfetta, perché così si impara davvero. I modelli dovrebbero anche saper dire: "Hai passato troppo tempo con me, vai fuori a fare attività all’aperto o parla con un adulto."

Galen Low: Hai ragione, un’interfaccia troppo facile rischia di togliere ai bambini la possibilità di imparare davvero. Noi adulti cerchiamo efficienza, ma i bambini sviluppano competenze. L’IA può e deve dare dei limiti, come il mio smartwatch mi invita a muovermi, come il controllo tempo schermo. Bastano piccoli accorgimenti, magari non facili da far accettare alle aziende, ma importanti perché tanto la realtà è che i bambini useranno comunque queste tecnologie.

Aderonke Akinbola: Nei prossimi anni usciranno molte ricerche su questo tema. Al momento ce ne sono alcune, ma serve approfondire. L’effetto dell’IA sui minori sarà chiaro col tempo, ma intanto qualcuno deve essere voce e advocacy per tenere alta l’attenzione.

Galen Low: Ricerca e tempo, ma nel frattempo non possiamo permetterci leggerezze. Serve advocacy per utenti giovani e vulnerabili, e includere etica, sicurezza e trasparenza nel progettare le esperienze IA.

A proposito di team di sviluppo: che cosa possono fare concretamente per progettare sicurezza e protezione nelle soluzioni IA pensate per i bambini? Quali domande devono porsi? Come possiamo essere promotori della sicurezza degli utenti vulnerabili?

Aderonke Akinbola: Dobbiamo passare da un modello “black box” a uno a blocchi di costruzione. Per i project manager questo significa creare “attrito desiderabile”: spesso vogliamo togliere ogni ostacolo, ma per i bambini bisogna aggiungerne. Se un gioco è troppo facile, non dà soddisfazione: l’IA deve fungere da bilanciatore cognitivo e introdurre problemi più stimolanti, non più difficili, ma che richiedano riflessione.

Ho parlato anche di Explainable AI—XAI—che non si limita a dare la risposta, ma spiega il ragionamento fatto. Ad esempio, se ti piacciono i pianeti, ti propongo un video sulle stelle. Così insegniamo la “alfabetizzazione algoritmica”, scomponendo i problemi e guidando nel processo.

Altro tema: favorire il federated learning, quindi mantenere tutti i dati appresi sul device locale invece che inviarli a server remoti. Quello che il bambino chiede resta locale e non è salvato per sempre altrove. In questo modo ciò che viene chiesto o fatto da piccoli non condizionerà il futuro di un ragazzo quando si iscrive all’università. I bambini sono curiosi per natura: ciò va protetto, non punito.

Galen Low: L’ombra dell’esposizione e la permanenza sono temi inquietanti per un genitore. Perfino il nostro sistema giudiziario prevede una certa indulgenza per minori: la curiosità non va repressa ma educata. Non vogliamo che i ragazzi abbiano paura della tecnologia, tutt’altro, ma deve essere un ambiente protetto, dove possono sbagliare senza conseguenze permanenti.

Mi piace l’idea del “practice mode”, come in un videogioco dove all’inizio puoi imparare senza penalità e poi salire di livello man mano. Anche se il prodotto non è pensato per i bambini, come può il team portare all’attenzione questa necessità e ottenere risorse per svilupparla?

Aderonke Akinbola: Personalmente non mi è mai capitato di doverlo proporre, poiché mi occupo più di sicurezza che di sviluppo IA. Ma col tempo tutti vedranno l’importanza del tema. Forse oggi non è una battaglia che si vince, ma con ricerca e advocacy costante, il messaggio passerà. Bisogna continuare a parlarne: magari ora viene respinto, ma in futuro entrerà nelle agende di tutti, come avviene oggi per IA e, da qualche tempo, per regolamenti social.

Galen Low: D’accordo, la chiave è mantenere il dialogo, non commettere l’errore fatto con i social media di ignorare i segnali e non parlarne abbastanza fino a quando non è troppo tardi. Col tempo diventerà una considerazione naturale, popolare, integrata nel modo stesso in cui progettiamo la tecnologia.

In molti dicono che per i social siamo intervenuti troppo tardi. Rischiamo lo stesso errore con l’IA?

Aderonke Akinbola: C’è molto in gioco, ma ora siamo più consapevoli che all’epoca dei social, individuiamo prima i rischi. Ora molte persone fanno advocacy per i bambini. Ma i sistemi attuali sono più driven dal profitto che dall’etica, quindi servirà tempo. Ma ci vuole poco a inserire il tema in policy e leggi.

Tra l’altro, IA e social ora si sovrappongono: Instagram, WhatsApp e tutto ormai hanno agenti IA. Quindi non sono più cose distinte e dobbiamo agire in fretta. Anche dal lato politico serve spingere: se gli sviluppatori non traducono la sensibilità in azioni, i governi possono agire a favore di bambini e scuole, con un ruolo decisivo da giocare.

Galen Low: È facile dimenticare che una parte della missione di ogni governo è formare le generazioni future, anche solo per motivi economici o di sopravvivenza sociale.

L’advocacy serve proprio come contrappeso anche in sistemi guidati dal profitto, perché alla lunga la tutela diventa importante e può influenzare anche accettazione e successo dei prodotti.

Aderonke Akinbola: Un concetto che porto è quello del "guardiano digitale", di cui ho parlato: immaginiamo un agente centrale "etico", come un firewall, che svolge almeno tre funzioni. Primo, è un termostato emotivo: percepisce un’eccessiva dipendenza o isolamento e guida verso attività con altri, mette in pausa il dispositivo. Secondo, funge da "avvocato digitale": negozia privacy con le altre app, valuta accesso e conservazione dati solo temporanea e locale. Terzo, è una sorta di controllore: semplifica algoritmi complessi in blocchi comprensibili da un bambino.

La protezione non deve essere un lusso o un servizio premium, ma accessibile a tutti, sia in Ghana sia a San Francisco, con uguali garanzie di sicurezza.

Galen Low: È un concetto potente: la tecnologia può essere sia la minaccia che anche la soluzione. L’idea del guardiano digitale/moderatore centrale è affascinante e mi piace molto anche l’aspetto dell’equità: tutelare tutti i bambini e non solo chi può permetterselo.

Dal punto di vista futuribile, quanto siamo lontani dall’arrivare a soluzioni di questo tipo? Parliamo di decenni o meno?

Aderonke Akinbola: Non dovrebbe essere una questione di decenni, magari cinque anni. Serve un ponte fra chi costruisce gli agenti e il governo—dobbiamo sederci insieme a negoziare. Se la tecnologia deve migliorare la nostra vita, non può metterci in condizioni di pericolo fra pochi anni: occorre avviare discussioni critiche fin d’ora.

Abbiamo già robot che fanno i lavori domestici: fra cinque anni dove saremo con questi sviluppi?

Galen Low: Ottima analisi: l’IA corre più delle precedenti rivoluzioni tech, e quindi serve affrontare subito il dibattito.

Aderonke Akinbola: Proprio a proposito delle "modalità": non parliamo per forza di nuove app, magari basta uno strato nella stessa app—passando da modalità adulto a bambino a seconda delle esigenze. Con le risorse in gioco oggi, sarebbe sciocco non proteggere alla radice le nuove generazioni, anziché correggere i nostri errori domani.

Galen Low: Bisogna progettare pensando al futuro.

Aderonke Akinbola: Mi piace, potrebbe essere il titolo del podcast.

Galen Low: Perfetto. Ade, grazie mille per il tuo tempo: mi sono divertito e ho imparato molto.

Se qualcuno vuole sapere di più su di te, dove può trovare informazioni?

Aderonke Akinbola: Basta cercare il mio profilo su LinkedIn—nome e cognome, Aderonke Akinbola, Bay Area. Possono anche vedere il mio ultimo intervento su YouTube, canale Sanity. Sto anche lavorando al mio sito.

Galen Low: Includerò il link al tuo profilo nelle note di questo episodio insieme al video della tua presentazione. Grazie ancora, Ade, è stato un piacere.

Aderonke Akinbola: Grazie mille, Galen, e grazie per l’opportunità.

Galen Low: Bene, anche per oggi il podcast di The Digital Project Manager termina qui. Se ti è piaciuta questa conversazione iscriviti sul canale che preferisci e, se vuoi ancora più casi pratici e strategie, crea gratuitamente un account su thedigitalprojectmanager.com.

Alla prossima, grazie per l’ascolto.