IA para Crianças: Como as Equipas de Projeto Podem Desenvolvê-la de Forma Responsável

Galen Low: A maioria das soluções de IA não é criada para crianças, mas isso não significa que as crianças não as utilizem. O que levanta a questão: quem é responsável pela segurança das crianças quando falamos de experiências baseadas em IA? São os pais? São as equipas que concebem e desenvolvem experiências de IA? São as próprias empresas de IA?

E de que formas podemos orientar as nossas equipas para colocarem as questões éticas certas e defenderem a criação de salvaguardas adequadas nas experiências que desenvolvemos? Para explorar este tema, convidei uma gestora técnica de programas da Google, que também é uma forte defensora da segurança infantil e da cibersegurança na IA e na tecnologia.

Juntos, vamos analisar por que razão os riscos são maiores para os utilizadores mais jovens de IA do que para os adultos, o que podemos fazer para defender e conceber a segurança infantil nos nossos projetos e produtos de IA, e como a própria IA poderá tornar-se uma defensora da segurança das crianças à medida que o ritmo da tecnologia começa a ultrapassar a nossa capacidade, enquanto seres humanos, de criar políticas, legislação e educação significativas sobre as interações das crianças com a IA. Espero que goste do episódio.

Bem-vindo ao podcast do Gestor de Projetos Digitais — o programa que ajuda os líderes de entregas a trabalhar de forma mais inteligente, a entregar com maior fluidez e a liderar as suas equipas com confiança na era da IA. Eu sou o Galen e, todas as semanas, analisamos estratégias do mundo real, tendências emergentes, estruturas comprovadas e, ocasionalmente, histórias de guerra das linhas da frente dos projetos. Quer esteja a liderar grandes projetos de transformação, a gerir fluxos de trabalho de IA ou simplesmente a tentar manter o caos sob controlo, está no sítio certo. Vamos começar.

Hoje, vamos falar sobre a IA no contexto da segurança infantil e sobre como as equipas de projeto e de produto podem colocar as questões certas para criar experiências baseadas em IA que protejam utilizadores vulneráveis.

A acompanhar-me está Aderonke Akinbola — oradora, defensora da segurança infantil e dos ecossistemas de IA, e gestora técnica de programas na Google. A Ade tem mais de três anos de experiência em desenvolvimento de produtos e gestão de programas, além da sua experiência como engenheira de segurança na Apple. Recentemente, falou também na Cimeira de Segurança de Agentes de IA sobre a proteção de agentes de IA em ecossistemas centrados nas crianças.

Ade, muito obrigada por se juntar a mim hoje.

Aderonke Akinbola: Olá, Galen. Estou muito contente por estar aqui.

Galen Low: Estou muito entusiasmado por a ter aqui. Estava ansioso por esta conversa. Tenho gostado das nossas conversas anteriores e estou mesmo muito interessado em aprofundar este tema. Espero que possamos explorar todo o tipo de ramificações, mas, para garantir que temos um caminho definido, eis o roteiro que preparei para hoje.

Para começar, queria enquadrar o tema colocando-lhe uma questão abrangente sobre a qual os meus ouvintes gostariam de conhecer a sua opinião. Depois, gostaria de ampliar a perspetiva e falar sobre três aspetos. Primeiro, queria abordar o que torna tão diferente a experiência de uma criança com IA em comparação com a de um adulto, e o que torna uma experiência de IA segura para menores de 18 anos, agora e no futuro.

Depois, gostaria de passar à parte prática e falar sobre como as equipas de projeto e de produto que desenvolvem soluções de IA podem colocar as questões éticas certas e conceber uma experiência que eduque, explique e proteja os utilizadores mais jovens. Por fim, gostaria de conhecer a sua opinião sobre o futuro dos agentes de IA e das próximas gerações, se conseguirmos fazer as coisas corretamente no que diz respeito à ética, à segurança e à proteção.

O que lhe parece?

Aderonke Akinbola: Parece-me perfeito. É exatamente para isso que estamos aqui. Vamos entrar diretamente no assunto.

Galen Low: Vamos a isso. Excelente. Gosto muito. Pensei em começar com uma grande questão. Vou preparar o terreno. Nos últimos meses, a questão da segurança das crianças e das redes sociais tem estado nas notícias.

A Austrália introduziu recentemente uma proibição das redes sociais para menores de 16 anos, e o Reino Unido e outros países estão a ponderar fazer algo semelhante. Evidentemente, as redes sociais e a IA não são a mesma coisa, mas muitas das mesmas questões de ética e segurança aplicam-se quando os jovens utilizam IA.

A minha grande questão é esta: na sua opinião, com base na sua experiência em segurança e desenvolvimento de produtos em algumas das maiores empresas tecnológicas do mundo, muitas delas na vanguarda da IA, deveríamos sequer estar a desenvolver soluções de IA para crianças com menos de 18 anos?

Aderonke Akinbola: Penso que esta é uma questão de milhões, Galen, mas, em primeiro lugar, a minha posição é que já ultrapassámos a fase de perguntar se devemos criar sistemas de IA para elas.

Estamos mais concentrados na forma de criar esses sistemas para elas. A realidade é que o companheiro de brincadeiras já está aqui. Se optarmos por não criar uma IA específica e segura, centrada nas crianças, as crianças não deixarão de utilizar a tecnologia. Ela existe e está disponível para elas.

Vão simplesmente utilizar a IA adulta, uma caixa negra, e isso é muito perigoso, porque a IA para adultos é construída sobretudo para a eficiência. No entanto, as nossas crianças precisam de ferramentas para o seu desenvolvimento. Se não criarmos a versão certa, estaremos essencialmente a deixá-las num território digital sem bússola. Por isso, penso que já não estamos na fase de decidir se devemos desenvolver soluções para elas.

A conversa deve centrar-se em como devemos desenvolvê-las.

Galen Low: Penso que é um excelente ponto sobre os objetivos da tecnologia. Do ponto de vista de um adulto, são diferentes da forma como a tecnologia é utilizada por crianças. E, como sabemos pelas redes sociais, dizer que os menores não deveriam utilizar determinada ferramenta não os impedirá necessariamente de a utilizar.

Por isso, concordo consigo. A caixa de Pandora já foi aberta e agora cabe-nos criar ambientes seguros. Mesmo que o utilizador previsto não seja necessariamente uma criança ou alguém com menos de 18 anos, talvez possamos afastar-nos um pouco dessa questão. Tive oportunidade de assistir à gravação da sua intervenção na Cimeira de Segurança de Agentes de IA e, antes disso, publicou algo no LinkedIn em que dizia que os parques infantis das crianças não serão apenas físicos: serão digitais, inteligentes e imprevisíveis.

Queria perguntar-lhe o que quis dizer com isso e em que momento devemos começar a planear essa realidade naquilo que estamos a desenvolver hoje.

Aderonke Akinbola: Pense num parque infantil físico. Muitos têm agora pavimentos macios e extremidades arredondadas. A IA também é um parque infantil desse tipo.

No entanto, é um tipo diferente de parque infantil. É um parque infantil que responde e molda pensamentos. Como as crianças atribuem sentimentos às coisas, algumas chegam a pensar que os agentes de IA são reais. Tornam-se particularmente vulneráveis à engenharia social.

Como planeamos para isso? Não é algo que façamos apenas na fase de garantia de qualidade. Precisamos de adotar uma abordagem de antecipação, começando o mais cedo possível. E não se trata apenas de segurança: também precisamos de envolver psicólogos infantis. Precisamos desses especialistas ao nível da arquitetura.

Durante a fase de treino do modelo, devem colocar-se perguntas como: este modelo está otimizado para concretizar uma venda ou para apoiar o desenvolvimento humano? Se mudarmos essa trajetória e sairmos da fase de garantia de qualidade para a própria construção do modelo, estaremos efetivamente a pensar nas crianças.

Estaremos a criar digitalmente um parque infantil mais centrado nas crianças e a pensar na sua proteção.

Galen Low: Gosto da metáfora do pavimento almofadado e das extremidades arredondadas, não apenas para parques infantis, mas também para tornar seguras coisas que não foram concebidas para crianças.

Quando o meu filho era pequeno, tivemos de colocar proteção infantil por toda a casa. Foi um nível completamente diferente de preparação, não porque aquelas coisas tivessem sido concebidas para uma criança lhes mexer, mas porque sabíamos que ele o faria. Não queríamos que se magoasse e queríamos que se desenvolvesse de forma saudável.

Gosto do que está a dizer e sei que também dá muita importância à cibersegurança. É igualmente algo que não pode ser deixado para o fim. Para os meus ouvintes: está a propor que um psicólogo infantil esteja envolvido num projeto ao nível da equipa de projeto ou no desenvolvimento do produto?

Mesmo que o objetivo do produto seja ganhar dinheiro e vender — por exemplo, uma ferramenta de vendas — diria que um psicólogo infantil ou alguém que defenda os interesses dos menores deveria participar no desenvolvimento do produto e no planeamento do projeto, mesmo que isso não seja o principal objetivo ou requisito desse produto?

Aderonke Akinbola: Penso que, mesmo que não os contratemos a tempo inteiro, podemos recorrer a consultores. Basta pensar no GPT e no Gemini. Se disséssemos que criámos originalmente esta tecnologia apenas para adultos, para os ajudar a trabalhar mais depressa, a tecnologia já ultrapassou largamente esse ponto.

Já não vivemos numa época em que as crianças não têm acesso à tecnologia. Temos literalmente toda uma geração de crianças com iPads. Como impedimos que essas crianças utilizem o Gemini?

Galen Low: Posso falar por experiência própria. O meu filho sempre foi muito responsável com a tecnologia e acabámos por lhe dar acesso a um dispositivo.

Sobretudo do ponto de vista da Google, o modo de IA está integrado na pesquisa. Não foi sequer uma situação em que eu lhe tenha dito: “Aqui está o Gemini, vou ensinar-te a utilizá-lo.” Ele estava simplesmente a fazer uma pesquisa e, de repente, estava a conversar com a ferramenta.

É, sem dúvida, algo muito presente e aplicável.

Aderonke Akinbola: Também vivo com uma criança pequena. Ela ainda nem fala muito bem e já consegue dizer: “Olá, Siri.”

Galen Low: É incrível, não é?

Aderonke Akinbola: Sim, porque me ouve dizer isso constantemente. E como responde a Siri quando uma criança lhe diz “Olá, Siri”? As possibilidades sobre o que uma criança pode perguntar são infinitas. Por isso, penso que devemos iniciar esta conversa, mesmo que não tenhamos essas pessoas como funcionários a tempo inteiro, para começarmos a desenvolver de forma responsável.

Não espero que isto aconteça nos próximos dois ou cinco anos. Estamos literalmente a viver um crescimento explosivo da IA e há atualizações todas as semanas. Toda a gente tem uma atualização. Por isso, estou a pensar em iniciar estas conversas e começar a incluir estas pessoas à mesa.

Talvez não haja uma resposta imediata, mas que exista pelo menos sensibilização e consciência desta necessidade. Depois veremos como evolui.

Galen Low: Adoro essa ideia. O exemplo da Siri é muito bom porque não é como se tivéssemos entregue deliberadamente um dispositivo a uma criança.

A criança pode simplesmente falar, aceder a esta tecnologia e interagir com ela. E fez-me pensar no que disse: talvez não seja necessário ter um membro da equipa de produto ou de projeto a tempo inteiro. Talvez essa pessoa possa participar como consultora. Vejo paralelos com a cibersegurança, porque a cibersegurança não planeia apenas para o público principal e para os bons agentes.

Também planeia para os maus agentes e para o que pode acontecer, de forma maliciosa ou acidental. Temos de analisar os casos extremos e as situações marginais. Levanta um bom ponto sobre todas as atualizações. Estamos, sem dúvida, numa explosão da IA e os modelos estão sempre a mudar.

Uma pergunta provocadora: sente que as empresas de IA estão a fazer o suficiente para lançar atualizações que antecipem a utilização das suas plataformas e modelos por menores de 18 anos?

Aderonke Akinbola: Não penso que essa seja a prioridade delas neste momento. Existem possibilidades infinitas para a utilização da IA e para aquilo que a IA pode fazer por nós.

Penso que é isso que muitas empresas estão a explorar: como aproveitar todo o potencial destas ferramentas, como tornar os modelos mais inteligentes e como treiná-los para resolver problemas mais rapidamente num ambiente de ritmo muito acelerado.

Não creio que exista muita defesa dos interesses das crianças, porque toda a gente está a tentar conquistar o mercado. Neste momento, o foco está mais em entrar no mercado do que em proteger as crianças. Foi uma das razões pelas quais me interessei pessoalmente por este nicho da cibersegurança em espaços de IA centrados nas crianças.

Penso que muitas das fases preliminares lidam mais com os pais do que com as pessoas que estão a construir esta tecnologia. É isso que diria sobre o assunto.

Galen Low: É muito interessante. Concordo consigo. Usou a expressão “explosão da IA” e é fácil pensar também numa corrida à IA.

Quando pensamos numa corrida competitiva, usando uma analogia, todas as empresas estão a tentar construir o carro mais rápido e, neste momento, os cintos de segurança podem ficar para depois. Como construímos um motor, uma suspensão e um veículo que ande muito depressa? Talvez os travões venham a seguir, mas os bancos almofadados e os sistemas de retenção para crianças parecem ficar para mais tarde.

Parece que não são vistos como o objetivo principal ou o motor da tecnologia. O que está a dizer sobre onde reside a responsabilidade é muito interessante. Se estou a interpretar corretamente, talvez essa não seja a prioridade atual das grandes empresas de IA, mas poderá tornar-se uma prioridade mais tarde.

Penso que existe uma responsabilidade das equipas que desenvolvem estes produtos sobre os modelos e os grandes modelos de linguagem. Depois existe também a responsabilidade dos pais, em termos de supervisão.

Por outras palavras, não existe um único grupo responsável pela experiência de uma criança com a tecnologia. Todos temos de fazer a nossa parte. Quero voltar a algo que disse. Estávamos a falar sobre como a experiência com IA é diferente para uma criança. Há adultos que também formam laços e relações profundas com chatbots e agentes, mas, do ponto de vista de uma criança, os riscos são simplesmente maiores quando menores de 18 anos utilizam IA? O que torna a experiência de uma criança diferente da experiência de um adulto?

Aderonke Akinbola: Para as crianças, os riscos são exponencialmente maiores. Para um adulto, uma violação de dados pode significar obter um novo cartão de crédito ou simplesmente um novo cartão.

Pode receber um e-mail a informar que ocorreu uma violação de dados e que talvez as suas informações estejam seguras. Para uma criança, é diferente. Os dados de IA de uma criança constituem uma impressão digital permanente: um registo da sua curiosidade e personalidade durante a infância, que poderá influenciar a admissão na universidade ou as oportunidades profissionais daqui a 20 anos.

Na minha intervenção na Cimeira de Segurança de Agentes de IA, falei sobre as três sombras que acompanham as crianças na IA. A primeira é a sombra da influência. Isto significa que a IA pode ser mais persuasiva para uma criança do que um pai ou um professor.

As crianças absorvem tudo. Podem acabar por acreditar mais num agente do que num professor ou num progenitor. Falei também da sombra da exposição, que corresponde ao rasto permanente de dados que mencionei anteriormente.

Por último, existe a sombra da estagnação. Este é um ponto importante para os gestores de projeto. Se criarmos ferramentas de IA que sejam demasiado úteis e façam todo o trabalho de raciocínio, estaremos a enfraquecer o pensamento crítico e a resiliência das crianças.

Parte da aprendizagem consiste em não conseguir à primeira tentativa, tentar três ou quatro vezes e acabar por conseguir. É assim que todos aprendemos. Se não tivermos isto em conta, estaremos a automatizar o processo complexo e desorganizado da aprendizagem.

Aprender é difícil. Nem sempre é divertido repetir a mesma coisa cinco vezes, mas é necessário continuar a tentar. Os erros também fazem parte do processo.

Com as crianças, os riscos são muito maiores. Elas estão a formar-se enquanto pessoas e, por vezes, precisam de cometer erros. Os modelos também devem orientá-las de forma adequada: se estiverem a passar demasiado tempo com a ferramenta, devem ser incentivadas a sair, realizar outra atividade ou falar com um adulto, em vez de ficarem tão envolvidas numa conversa com algo que nem sequer existe.

Galen Low: É isso que adoro nesta questão. Do ponto de vista do design de produto e do design de interfaces, tentamos reduzir a fricção e tornar tudo tão fácil quanto possível. Mas levanta um ponto muito importante: tornar algo demasiado fácil numa determinada fase do desenvolvimento pode ser prejudicial.

Estamos a criar soluções para adultos que querem ser mais eficientes e fazer mais durante o dia de trabalho, mas uma criança está a desenvolver competências, a aprender a pensar criticamente e a procurar modelos e figuras de autoridade em quem possa confiar. Isso é muito diferente da forma como um adulto utiliza a tecnologia.

Vemos ideias semelhantes noutras plataformas, com controlos e incentivos incorporados. Um relógio que nos diz para nos levantarmos e caminharmos, limites de tempo de ecrã no telemóvel e outras funcionalidades semelhantes já fazem parte da tecnologia.

Gosto da ideia de tornar o poder da IA mais responsável e menos viciante, com lembretes que digam: “Está a utilizar esta tecnologia há muito tempo. Vá lá fora, faça uma pausa e volte mais tarde.” É uma ideia interessante e, pelo menos em teoria, relativamente simples de incorporar, embora possa ser difícil convencer as partes interessadas a acrescentá-la ao plano de desenvolvimento.

Aderonke Akinbola: Acredito que, nos próximos anos, haverá muito mais investigação nesta área. Já existe alguma, mas ainda precisamos de estudar melhor o efeito destas ferramentas nas crianças com menos de 18 anos.

A IA ainda é relativamente recente. A explosão da IA aconteceu, literalmente, por volta da COVID-19, e ainda estamos tecnicamente no período pós-pandemia. A sociedade ainda não recuperou totalmente e as crianças que nasceram durante a pandemia estão agora a aproximar-se dos seis anos.

Ainda temos um longo caminho a percorrer na investigação dos efeitos destas ferramentas e na criação de sistemas melhores. Até lá, alguém precisa de dar voz a esta questão e defender que devemos prestar atenção a ela.

Galen Low: A investigação demora tempo, mas entretanto não podemos agir de forma irresponsável. Temos de conversar, defender os utilizadores mais jovens e vulneráveis e utilizar a ciência para compreender o impacto e perceber como devemos conceber estas experiências.

Gosto do seu ponto sobre educação e aprendizagem. Sei que defende fortemente a educação sobre IA, a IA explicável e ferramentas que ajudem os utilizadores a pensar criticamente, em vez de serem apenas consumidores passivos da tecnologia.

O que podem fazer as equipas para incorporar precauções de segurança nas soluções de IA que estão a criar, quer se trate de um produto de consumo completo, quer de uma aplicação criada rapidamente? Que conversas devemos ter e que perguntas devemos colocar para defender o utilizador mais jovem e vulnerável?

Aderonke Akinbola: Temos de passar de um modelo de caixa negra para um modelo baseado em blocos de construção. Para os gestores de projeto, isso significa várias coisas.

Em primeiro lugar, precisamos de introduzir uma fricção desejável. Muitas vezes queremos eliminar a fricção, mas, no caso das crianças, precisamos de a acrescentar. Se uma criança atravessa um jogo rapidamente e passa todos os níveis sem dificuldade, não existe desafio.

A IA deve funcionar como um equilibrador da carga cognitiva, introduzindo um problema um pouco mais complexo para obrigar a criança a pensar. Não necessariamente um problema mais difícil, mas algo que a faça refletir mais.

Também defendo a IA explicável, que não se limita a fornecer um resultado, mas explica o processo utilizado para chegar a esse resultado. Em vez de dizer apenas “Veja este vídeo”, poderia dizer: “Como gostou de planetas, vou mostrar-lhe este vídeo sobre estrelas.” Isto ensina literacia algorítmica e explica o processo em vez de simplesmente apresentar respostas.

É assim que aprendemos: dividimos um problema grande em partes mais pequenas e descobrimos a solução. Não recebemos simplesmente uma solução completa.

Por último, reforçar a aprendizagem federada seria uma grande vitória em termos de segurança. Em vez de enviar os dados de uma criança para um servidor enorme, toda a aprendizagem poderia permanecer localmente no dispositivo. Isso significa que os dados nunca sairiam do quarto da criança.

As perguntas e instruções ficariam no dispositivo local, em vez de serem enviadas para um servidor que as conservaria durante milhares de anos. Para as crianças, os dados deveriam terminar no próprio dispositivo.

O facto de uma criança ter perguntado algo a um chatbot aos três anos não deveria afetar a sua entrada na universidade no futuro. As crianças são naturalmente curiosas e fazem perguntas. Não deveríamos guardar essas perguntas no seu registo durante toda a vida.

Galen Low: Quando fala da sombra da exposição e da permanência de tudo isto, é realmente assustador enquanto pai. Até no nosso sistema jurídico existe margem para erro e perdão, com infrações que não ficam no registo permanente quando cometidas por alguém abaixo de determinada idade.

Não queremos que as crianças sejam irresponsáveis, mas sabemos que estão a aprender. Queremos ensiná-las, não puni-las. A última coisa que devemos querer é que os jovens tenham medo de ser curiosos em relação à tecnologia.

Podemos criar um ambiente protegido, com considerações sobre dados federados, onde possam experimentar sem receio de que tudo fique no seu registo permanente.

Gosto da sua analogia com os jogos. Um designer de jogos quer introduzir fricção e desafio, mas não tanto que ninguém queira jogar. É necessário encontrar um equilíbrio e incentivar o esforço.

Poderia existir um modo de prática, em que a criança aprendesse as regras, cometesse erros e fizesse coisas disparatadas. Depois, poderia avançar gradualmente para níveis ou casos de utilização mais sérios.

Como pode uma equipa de produto ou de projeto transformar a segurança de utilizadores vulneráveis numa exigência, quando isso ainda não está incluído no plano? Como pode defender junto das partes interessadas que é necessário investir orçamento e esforço nesta área?

Aderonke Akinbola: Para ser sincera, ainda não defendi pessoalmente este ponto numa equipa de desenvolvimento de IA. Trabalho mais na área da segurança de redes, a proteger redes e a garantir a sua segurança.

No entanto, penso que, com o tempo, todos irão compreender a importância desta questão. Talvez não seja uma conversa que se consiga vencer imediatamente numa equipa de desenvolvimento de produto, mas a investigação tornará o problema cada vez mais evidente.

A geração de crianças que está a crescer atualmente é muito diferente e iremos observar os efeitos. Por isso, continuem a defender esta causa e a falar. Mesmo que tenham de repetir a ideia cem milhões de vezes, não desistam.

Se uma ideia for rejeitada agora, isso não significa que será rejeitada para sempre. Continuem a falar e a defender esta população vulnerável.

Galen Low: Concordo. Talvez não tenhamos de travar uma batalha individual para acrescentar uma exigência ao nosso produto ou projeto, mas precisamos de manter o diálogo.

Com as redes sociais, virámos parcialmente as costas a algumas das coisas que estavam a acontecer. Concentrámo-nos apenas numa parte da população e da base de utilizadores. Não tivemos a conversa necessária para que alguém da equipa dissesse: “Isto tem estado nas notícias e as pessoas estão a falar sobre o assunto. Devíamos considerar esta questão.”

Se voltarmos às redes sociais, muitas pessoas diriam que demorámos demasiado tempo a implementar salvaguardas para os jovens. Corremos o risco de enfrentar a mesma situação com a IA? O que está em jogo se errarmos agora?

Aderonke Akinbola: Há muito em jogo. Contudo, penso que somos atualmente mais inteligentes do que éramos durante a era das redes sociais, sobretudo na identificação destes problemas.

Durante essa era, demorámos algum tempo a reconhecer as questões. Agora, já existem conversas e muitas pessoas entram em salas e defendem os interesses das crianças.

Ainda vivemos num mundo em que os sistemas atuais são mais orientados para o lucro do que para a ética, pelo que poderá demorar algum tempo. Mas a consciência do problema já existe e, quando um problema é reconhecido, está parcialmente resolvido.

Além disso, já existe IA nas redes sociais. O Instagram tem IA, o WhatsApp tem IA e praticamente tudo tem IA. Já existem agentes integrados que respondem a perguntas e aperfeiçoam conteúdos. As duas áreas estão interligadas.

Não temos muito tempo a perder. Precisamos de começar a integrar estas questões nas políticas e levá-las ao nível legislativo. Devemos participar mais nas conversas sobre liderança, inclusive a nível local, e apoiar petições e iniciativas públicas.

Se os programadores responsáveis pelo desenvolvimento destes produtos não estiverem a considerar estas questões, podemos mudar a abordagem e trabalhar também através do governo. Os governos financiam muitas escolas públicas e investem recursos nas crianças. Também têm um papel a desempenhar na garantia de acesso à tecnologia certa.

Galen Low: É fácil esquecer que uma das funções de qualquer governo é desenvolver as gerações futuras, seja por razões económicas, seja pela sobrevivência de uma nação, região ou estado.

A defesa dos interesses das crianças cria uma tensão ou um contrapeso. Mesmo num modelo capitalista orientado para o lucro, essa defesa ajuda a equilibrar a balança e torna a segurança infantil relevante quando as equipas e organizações desenvolvem ferramentas.

Quer se trate de ferramentas destinadas ao público em geral, de agentes internos criados rapidamente ou de aplicações desenvolvidas de forma experimental, esta questão deve fazer parte da matriz de decisão. Ignorá-la pode afetar a forma como o produto é visto ou adotado.

Aderonke Akinbola: Também quero acrescentar algo sobre o guardião digital de que falei. Ao criar estes modelos, devemos começar a considerar um guardião digital que funcione como um agente central principal, uma espécie de firewall ético que atue como uma camada de mediação.

Uma das suas funções seria agir como um termóstato emocional. Poderia detetar que uma criança está demasiado ligada, dependente ou isolada e intervir, sugerindo que fale com um adulto ou com um amigo, ou desligando-se para a proteger.

Também poderia funcionar como um advogado digital, negociando definições de privacidade com outras aplicações. Poderia verificar se a criança tem autorização para aceder a determinado conteúdo e, caso contrário, exigir que os dados fossem armazenados temporariamente e localmente.

Por fim, funcionaria como um controlador de tráfego aéreo, decompondo sistemas complexos de IA em blocos de construção que as crianças consigam compreender.

A proteção não deve ser um luxo nem uma funcionalidade premium. Uma criança no Gana deve poder ter acesso ao mesmo advogado digital que uma criança em São Francisco. Deve ser um filtro seguro para todos, não algo orientado para um determinado grupo demográfico.

Galen Low: É um ponto muito importante. A tecnologia pode ser algo de que precisamos de proteger os jovens, mas também pode ser aquilo que os protege. Gosto muito da ideia de um guardião digital e do ângulo da equidade.

Não deveria ser uma funcionalidade premium. Gosto da ideia de uma firewall, uma camada intermédia que interage com as restantes tecnologias de IA para criar uma experiência segura, negociar em nome dos utilizadores vulneráveis e tornar mais transparentes as decisões tomadas.

Também gosto da ideia de funcionar como uma força moderadora, criando equilíbrio na utilização das restantes ferramentas de IA e nas perguntas colocadas. E é importante que seja acessível a todos, não apenas uma aplicação que alguém decide instalar ou não instalar.

Quão perto ou longe estamos de desenvolver algo assim? É uma visão muito interessante para o futuro. Estamos a falar de décadas ou poderemos começar a concentrar-nos nisto nos próximos anos, como uma camada de proteção para utilizadores vulneráveis de IA?

Aderonke Akinbola: Não penso que deva demorar décadas, embora também não seja algo que aconteça num ou dois anos. Talvez nos próximos cinco anos devêssemos ter conversas mais focadas e criar uma ponte entre as empresas que desenvolvem estes agentes e os governos.

Precisamos de nos sentar à mesma mesa e fazer exigências. Se o objetivo da tecnologia é facilitar as nossas vidas, não deve colocar-nos numa situação perigosa alguns anos mais tarde.

Precisamos de iniciar estas conversas críticas mais cedo ou mais tarde. Dez anos é muito tempo. Estamos a construir modelos e já temos robôs capazes de executar tarefas domésticas. Onde estaremos daqui a cinco anos se esses robôs receberem atualizações?

Galen Low: Explicou muito bem essa tensão. Aprendemos com as redes sociais e com questões como o RGPD e a privacidade dos dados. Agora existe uma camada legislativa e ferramentas que impedem que os dados circulem livremente.

Mas demorámos muito tempo a ter essa conversa. Sabemos que precisamos de a ter, mas a IA está a evoluir muito rapidamente. Por isso, precisamos de iniciar o diálogo agora e mantê-lo aberto e ativo.

Aderonke Akinbola: Também quero pegar no que disse sobre os modos. Talvez seja possível alternar entre um modo adulto e um modo infantil com todas estas funcionalidades, sem criar uma aplicação completamente nova.

Poderia ser uma camada das ferramentas que já utilizamos: modo adulto, modo infantil, modo para crianças pequenas ou modo para adolescentes. Não me parece pedir demasiado nos dias de hoje.

Estão a ser investidos milhares de milhões de dólares nesta indústria. Seria imprudente continuar a investir numa tecnologia que pode potencialmente prejudicar outra geração de crianças em vez de as ajudar. Se estamos a investir tantos recursos, também devemos construir corretamente para não termos de destruir estes sistemas daqui a alguns anos e começar de novo.

Galen Low: Adoro isso: conceber para o futuro.

Aderonke Akinbola: Gosto desse tema para este podcast.

Galen Low: Talvez seja esse o título: “As gerações futuras e a forma como concebemos para elas”. Foi excelente. Ade, muito obrigado pelo tempo que passou comigo hoje. Diverti-me imenso e aprendi muito.

Adoro as suas ideias e a forma como pensa sobre este tema. Para quem quiser saber mais sobre si, onde pode encontrá-la?

Aderonke Akinbola: Podem procurar-me no LinkedIn pelo meu nome: Aderonke Akinbola. Estou na região da Baía de São Francisco. Existem algumas pessoas com o mesmo nome, mas penso que sou a única na região neste momento. Por agora, podem encontrar-me no LinkedIn.

Ainda não tenho um website. Se quiserem ver a minha última intervenção, penso que também está disponível no YouTube, no canal Sanity. É uma boa forma de conhecer a conversa inicial que conduziu a este episódio.

Estou também a trabalhar no meu website e noutras iniciativas, mas ainda não estão totalmente disponíveis. Tenho outros projetos pessoais a ocupar o meu tempo. Durante o verão, estarei mais focada na minha marca, mas, por agora, dedico-me à defesa dos interesses das crianças.

Galen Low: Vou incluir uma ligação para o seu perfil nas notas do programa, bem como uma ligação para a sua intervenção. Gostei muito. Ade, mais uma vez, muito obrigado.

Aderonke Akinbola: Muito obrigada, Galen. Foi um prazer estar aqui. Obrigada pela oportunidade.

Galen Low: Muito bem, é tudo por hoje no podcast do Gestor de Projetos Digitais. Se gostou desta conversa, subscreva o programa na plataforma onde o ouve. Se quiser ainda mais ideias práticas, estudos de caso e guias, crie uma conta gratuita em thedigitalprojectmanager.com.

Até à próxima. Obrigado por ouvir.