Privacidade desde a conceção: construir uma estratégia de IA que não compromete a confiança
Este artigo foi adaptado do episódio "Uma estratégia de IA orientada para a privacidade: como se apresenta e porque é importante" do podcast DPM.
Vantagem regulamentar: As indústrias regulamentadas podem reutilizar práticas estabelecidas de governação, conformidade e resposta a incidentes para implementar a IA de forma responsável.
Divisão dos riscos: Separar as ferramentas internas das funcionalidades dos produtos ajuda as organizações a avaliar com maior precisão os riscos, os controlos e a responsabilização associados à IA.
Privacidade em primeiro lugar: Uma estratégia de IA centrada na privacidade protege os dados pessoais, as informações proprietárias e a segurança, clarificando simultaneamente o valor empresarial esperado.
Responsabilidade partilhada: As organizações devem definir as suas convicções sobre a propriedade dos dados antes de estabelecer princípios éticos ou conceber políticas de IA.
Responsabilização prática: Equipas multifuncionais, matrizes de risco, formação dos colaboradores e análise rigorosa dos fornecedores ajudam a evitar atalhos e apoiam decisões tomadas com confiança.
A maioria das pessoas parte do princípio de que as indústrias fortemente regulamentadas — serviços financeiros, saúde, energia, telecomunicações — estão destinadas a avançar lentamente no domínio da IA, condicionadas pela burocracia enquanto os setores menos regulamentados avançam rapidamente. Segundo Lauren Wallace, consultora estratégica e antiga Diretora Jurídica da RadarFirst, essa ideia está errada.
Wallace, que desempenhou funções jurídicas e de desenvolvimento de negócio na Apple, Microsoft e Nike, defende que as empresas regulamentadas têm, na realidade, uma vantagem inicial quando se trata de criar programas de IA conformes e responsáveis. Este artigo detalha o seu modelo para uma estratégia de IA orientada para a privacidade: como se apresenta ao nível dos componentes, como obter o apoio da organização e onde se encontram, de facto, os maiores riscos — e oportunidades.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Porque é que as indústrias regulamentadas podem já ter uma vantagem inicial
Os princípios fundamentais subjacentes à governação da IA — transparência, responsabilização, monitorização de enviesamentos — não são invenções recentes. Como explica Wallace, "os princípios subjacentes à governação da IA, como a transparência, a responsabilização, a monitorização de enviesamentos, a prevenção… já estão incorporados nos quadros regulamentares existentes." Isso inclui o RGPD, mas também a legislação relativa ao crédito justo, as leis de igualdade de oportunidades e vários outros quadros de direitos civis e de proteção dos consumidores.
Os princípios subjacentes à governação da IA, como a transparência, a responsabilização, a monitorização de enviesamentos, a prevenção… já estão incorporados nos quadros regulamentares existentes.
Os bancos, por exemplo, operam há anos sob "regras de gestão de modelos" para a tomada de decisões algorítmicas — regras que, nas palavras de Wallace, "se traduzem facilmente naquilo que estamos a analisar com todas estas ferramentas de IA." As organizações destes setores já dispõem normalmente de programas de conformidade, recursos de governação dedicados e ferramentas de aplicação baseadas nestes quadros.
O mesmo se aplica à resposta a incidentes. Wallace é clara neste ponto: "Não importa onde ocorre o incidente, quer resulte de um fax enviado para o destinatário errado, quer de uma IA que tenha autorizado a utilizar informações pessoais. Um incidente é um incidente." As regras de segurança e de notificação de violações de privacidade não abrem uma exceção para a IA e, como afirma, "certamente não pode simplesmente atribuir a culpa à sua IA."
Então, onde está o verdadeiro risco? Não está nas empresas que seria de esperar. "Na verdade, penso que o maior desafio é para as empresas de média dimensão", afirma Wallace. "Podem estar a enfrentar estes obstáculos regulamentares pela primeira vez quando implementam a IA nos seus fluxos de trabalho e, agora, perguntam-se por onde começar.”
Separe os seus casos de utilização em duas vertentes
Wallace recomenda dividir as iniciativas de IA em duas categorias desde o início:
- Utilizações internas de IA para produtividade, substituição de ferramentas existentes ou melhorias funcionais.
- Casos de utilização de IA no desenvolvimento de produtos.
Como observa, "há considerações muito diferentes para cada uma delas" — tratar a estratégia de IA como um esforço único e indiferenciado torna mais difícil avaliar os riscos com precisão.
Comece com a privacidade desde a conceção — mas não se limite aos dados pessoais
Uma abordagem orientada para a privacidade vai além da proteção das informações dos clientes. Wallace salienta a necessidade de proteger "não apenas as informações pessoais, mas também as informações proprietárias da empresa", uma vez que "surgem muitos riscos novos quando introduz informações da empresa num LLM como o ChatGPT."
Temos uma nova e impressionante superfície de ataque com a IA. Por isso, temos de garantir que a nossa segurança está devidamente afinada.
Também chama diretamente a atenção para a postura de segurança: "Temos uma nova e impressionante superfície de ataque com a IA. Por isso, temos de garantir que a nossa segurança está devidamente afinada." Mas, acima de tudo, salienta a necessidade de alinhamento interno — "iniciar a conversa internamente para compreender o que queremos fazer com a IA, o que pensamos ser capazes de fazer com a IA e qual é o verdadeiro ROI que esperamos alcançar."
Escolha o padrão mais elevado, não o mínimo denominador comum
As diferentes regulamentações de privacidade partilham valores subjacentes semelhantes, mas implementam-nos de formas diferentes. O conselho de Wallace é: "Tente encontrar esse padrão mais elevado. Tente encontrar o que é consistente entre os contextos regulamentares em que opera e trate todos como se estivessem sujeitos a essa mesma abordagem baseada em princípios elevados."
A alternativa — tentar cumprir apenas o mínimo legal em todo o lado — sai pela culatra. "Pode parecer que isso lhe vai poupar alguma exposição regulamentar", afirma, "mas vai custar-lhe muito mais em termos de implementação e de disponibilidade mental quando estiver a tentar fazer coisas interessantes."
Também não se trata apenas de exposição regulamentar. "Vai incentivar uma abordagem ética ao trabalho que faz", explica Wallace, "mesmo nos casos em que não tem as obrigações regulamentares explicitamente definidas num documento que possa consultar ponto por ponto." O risco jurídico pode surgir de lugares inesperados — "uma ação coletiva", "uma equipa jurídica empreendedora" ou "os seus concorrentes" — e não apenas de uma entidade reguladora.
Decida qual é a posição da sua organização relativamente à propriedade dos dados
Antes de elaborarem uma lista de princípios éticos para a IA, Wallace defende que as organizações precisam primeiro de responder a uma questão mais fundamental. Apresenta três filosofias globais concorrentes sobre a propriedade dos dados:
Sobre o modelo da UE: "A privacidade é um direito humano fundamental, e o direito de determinar a utilização das suas informações pessoais pertence ao titular dos dados — a pessoa."
Sobre o modelo histórico dos EUA: "Considerámos que o valor dessas informações pessoais pertencia à empresa que as recolheu, porque esta extraía valor delas e, portanto, se extraía o valor, este tinha certamente de lhe pertencer."
Sobre um terceiro modelo observado noutros locais: "O valor das informações pessoais — na verdade, o conteúdo específico das informações pessoais — é considerado como pertencendo ao Estado, porque o Estado irá utilizá-lo no melhor interesse do titular dos dados."
O seu argumento é que as empresas precisam de escolher conscientemente a sua posição, em vez de a adotarem inadvertidamente: "Enquanto organização, acreditamos que servimos ao extrair valor das informações pessoais? [Ou] acreditamos que servimos ao ajudar os nossos clientes a utilizar informações pessoais em benefício do titular dos dados?" Essa decisão, afirma, deve preceder a lista de princípios éticos — "não é com uma lista de princípios como equidade, responsabilização e mitigação de enviesamentos no centro" que se deve começar.
O custo oculto do enriquecimento de dados
Pontos de dados individuais podem parecer inúteis quando analisados isoladamente, mas Wallace avisa que a agregação altera a equação: "As informações que forneceu a um determinado fornecedor numa determinada situação — quando consideradas isoladamente, podem não ter muito valor. Mas, depois de agregadas, enriquecidas e revendidas a terceiros que as podem utilizar para outras finalidades, o valor passa a ser muito mais elevado."
Ilustra esta questão com uma história real de aquisição: um grande banco comprou uma empresa emergente especificamente por uma lista de "4 milhões de nomes de pessoas que tinham adquirido os seus serviços de empréstimos estudantis", pagando cerca de "$175 milhões" — partindo do princípio de que uma lista de potenciais clientes completa e validada valia aproximadamente "cem dólares por pessoa", em comparação com o custo habitual de aquisição de clientes de "cerca de 150 dólares". O problema: "descobriram que esses 4 milhões de nomes eram falsos. Tinham sido gerados sinteticamente através de algum tipo de programa de IA", e o negócio acabou por fracassar.
A sua conclusão constitui um desafio à forma casual como as pessoas tratam os seus próprios dados: "Este grande banco achava que valia pelo menos cem dólares. Por isso, você [enquanto consumidor] faria algo diferente com esses dados se soubesse o seu valor?”
Integre a responsabilização na equipa do projeto, não apenas na administração
O "tom no topo" é importante, diz Wallace, mas "isso só nos leva até certo ponto quando operamos ao nível do projeto". Uma responsabilização real exige reunir um grupo verdadeiramente multifuncional para cada iniciativa de IA — "temos o produto à mesa, a engenharia à mesa, a segurança à mesa" — além de funções que são frequentemente esquecidas:
Sucesso do cliente: "Compreendem a funcionalidade suficientemente bem para que, na ausência do script, pelo menos tenham o vocabulário necessário para colocar a questão a outra pessoa?"
Marketing: "Sabe se estão na categoria dos que são alérgicos à IA ou, no extremo oposto, na categoria dos que estão muito entusiasmados por experimentar coisas novas? Como vai ajustar o tom e afinar as suas mensagens para quando falar de novas funcionalidades?”
Jurídico: "Pode ter clientes na sua carteira que proíbem a utilização de IA nos produtos que lhe compram. Isso pode estar escondido algures no contrato. Pode mencionar a tomada de decisões algorítmica ou a utilização de modelos. Pode ter um contrato com 10 anos que proíbe esta utilização."
O objetivo, diz Wallace, é ter uma equipa que se responsabiliza no momento.
Separar a utilização indevida inadvertida da assunção deliberada de riscos
Wallace traça uma linha clara entre a exposição acidental e o contornar deliberado das regras. No lado acidental: "A maioria destas ferramentas que utilizamos tem configurações que pode ativar e que lhe permitem controlar se as suas informações pessoais ou as informações confidenciais da sua empresa ficam expostas.”
O problema mais difícil é o atalho motivado pelo prazo — alguém decide "carregar este conjunto de dados para um LLM público" porque "temos de entregar até sexta-feira". A resposta de Wallace a esse cenário é direta: "Simplesmente não o faça."
Dar às equipas permissão para dizer não
Dizer não não é punitivo, diz Wallace — é uma disciplina: "Não há prazer nisso, pois não? Não é uma espécie de atitude vingativa." A ferramenta que recomenda é uma simples matriz de risco — "a probabilidade a aumentar de um lado e a gravidade a atravessar o outro" — que permite a uma organização ter "uma conversa realmente franca sobre encontrar o seu ponto nesse campo" e chegar coletivamente a um acordo sobre onde fica o limite.
Ela fala abertamente sobre aplicar isto enquanto avaliava fornecedores na RadarFirst: "Analisámos centenas de fornecedores ao longo do ano. Houve uma proporção bastante elevada que recusámos. Dissemos: "não temos informação suficiente, ou não publicaram um centro de confiança no qual possamos realmente aprofundar a análise, ou estão a utilizar modelos subjacentes que não nos divulgam."
E a ignorância não é uma defesa posterior: "Não posso chegar a um fornecedor e dizer: ‘Não compreendi realmente o que estava a fazer quando lhe comprei o produto.’ A ignorância não é uma defesa perante a lei. Nunca foi. Nunca será."
Não posso chegar a um fornecedor e dizer: “Não compreendi realmente o que estava a fazer quando lhe comprei o produto.” A ignorância não é uma defesa perante a lei.
Desenvolver a literacia em IA em toda a organização, não apenas na liderança
Na RadarFirst, a equipa de Wallace organizou uma série recorrente de sessões de formação: "Há cerca de um ano e meio, lançámos uma sessão mensal de almoço e aprendizagem sobre IA ética. Abordámos um tema em cada sessão — agência e supervisão humanas, transparência ou responsabilização." As sessões utilizaram as orientações da UE para a IA como base e apoiaram-se em estudos de caso do mundo real da Base de Dados de Incidentes de IA: "Casos chocantes, acabados de acontecer, que envolveram estes princípios de transparência ou de mitigação de enviesamentos."
Wallace esclarece que o objetivo não era mudar imediatamente a opinião de ninguém: "Talvez, quando saíram da sala, não tivessem mudado a sua posição. É perfeitamente aceitável. Mas, quando regressaram às suas secretárias, tinham o vocabulário necessário para discutir preocupações com a sua equipa, ou encaminhá-las para o departamento jurídico ou de conformidade, ou para a equipa de produto, conforme apropriado."
Quanto a quem deve liderar estas sessões, não considera necessária a contratação de uma pessoa dedicada à ética da IA: "Consigo imaginar que essa tarefa pudesse até ser partilhada, mês a mês, entre pessoas diferentes, obtendo-se um valor ligeiramente diferente de cada vez."
A regulamentação está a acompanhar lentamente — aplique já a sua própria ética
Wallace apresenta a própria lei como um indicador atrasado dos valores partilhados: "A lei é apenas uma forma de registar quais são os nossos princípios éticos partilhados e de os colocar num local onde as pessoas os possam encontrar." Entretanto, os processos judiciais preenchem essa lacuna, tratando de questões "quando são novas, quando surgem pela primeira vez, quando ainda não tiveram lugar e não houve tempo para as processar através dos ciclos legislativos" — mas esse processo é lento por conceção: "as rodas da justiça moem devagar, mas de forma extremamente rigorosa."
Ela aponta para a legislação do Colorado sobre IA como um conto de advertência: o estado "agiu bastante depressa. Conseguiram algo bastante bom e depois tiveram de o retirar porque não conseguiram perceber como o implementar efetivamente." As empresas que tinham criado proativamente processos de conformidade com base nela ficaram à espera.
A sua recomendação é deixar de tratar a adaptação regulamentar como a meta final: "Se sabe o que significa ser uma organização ética, se sabe qual é o seu limiar de risco, vai colocar o seu risco legislativo ou de litigância do lado certo dessa categoria e dizer: está bem, estamos dispostos a enfrentar isso se for esse o caso. Mas, neste momento, não sabemos o suficiente — o que sabemos sobre nós próprios é aquilo que acreditamos estar certo e aquilo que acreditamos que os nossos clientes esperam de nós. Isso, podemos fazer hoje."
Quer mais informações como estas? Crie uma conta DPM gratuita para ouvir mais especialistas como estes.
