Privacy door ontwerp: een AI-strategie bouwen die vertrouwen niet in het gedrang brengt
Dit artikel is gebaseerd op de aflevering "Een AI-strategie waarin privacy centraal staat: hoe die eruitziet en waarom die belangrijk is" van de DPM-podcast.
Voordeel van regelgeving: Gereguleerde sectoren kunnen bestaande praktijken voor governance, naleving en incidentrespons hergebruiken om AI op verantwoorde wijze in te zetten.
Risicosplitsing: Door interne hulpmiddelen te scheiden van productfuncties kunnen organisaties AI-risico's, beheersmaatregelen en verantwoordelijkheid nauwkeuriger beoordelen.
Privacy eerst: Een AI-strategie waarin privacy vooropstaat, beschermt persoonsgegevens, bedrijfseigen informatie en beveiliging en maakt tegelijkertijd de verwachte bedrijfswaarde duidelijk.
Gedeeld eigenaarschap: Organisaties moeten hun opvattingen over eigenaarschap van gegevens bepalen voordat ze ethische principes vastleggen of AI-beleid ontwerpen.
Praktische verantwoordelijkheid: Multidisciplinaire teams, risicomatrices, opleiding van medewerkers en kritisch onderzoek van leveranciers helpen shortcuts te voorkomen en ondersteunen zelfverzekerde beslissingen.
De meeste mensen gaan ervan uit dat zwaar gereguleerde sectoren — financiële dienstverlening, gezondheidszorg, energie en telecommunicatie — gedoemd zijn om langzaam vooruitgang te boeken op het gebied van AI. Ze worden afgeremd door bureaucratie, terwijl minder gereguleerde sectoren vooruitracen. Volgens Lauren Wallace, strategisch adviseur en voormalig juridisch directeur bij RadarFirst, is die aanname onjuist.
Wallace, die juridische en bedrijfsontwikkelingsfuncties heeft bekleed bij Apple, Microsoft en Nike, stelt dat gereguleerde bedrijven juist een voorsprong hebben bij het opzetten van conforme, verantwoorde AI-programma's. Dit artikel ontleedt haar kader voor een AI-strategie waarin privacy centraal staat: hoe die er op componentniveau uitziet, hoe je draagvlak binnen de organisatie creëert en waar de grootste risico's — en kansen — zich daadwerkelijk bevinden.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Waarom gereguleerde sectoren mogelijk al een voorsprong hebben
De kernprincipes achter AI-governance — transparantie, verantwoordingsplicht en monitoring van vooroordelen — zijn geen nieuwe uitvindingen. Zoals Wallace uitlegt: "de principes die ten grondslag liggen aan AI-governance, zoals transparantie, verantwoordingsplicht, monitoring van vooroordelen en preventie… ze zijn al ingebed in bestaande regelgevingskaders." Dat omvat de AVG, maar ook wetgeving inzake eerlijke kredietverlening, wetten voor gelijke kansen en tal van andere kaders voor burgerrechten en consumentenbescherming.
De principes die ten grondslag liggen aan AI-governance, zoals transparantie, verantwoordingsplicht, monitoring van vooroordelen en preventie… ze zijn al ingebed in bestaande regelgevingskaders.
Banken werken bijvoorbeeld al jaren met "modelmanagementregels" voor algoritmische besluitvorming — regels die, in de woorden van Wallace, "gemakkelijk kunnen worden vertaald naar waar we naar kijken met al deze AI-tools." Organisaties in deze sectoren beschikken doorgaans al over complianceprogramma's, speciale governance-middelen en handhavingsinstrumenten die rond deze kaders zijn opgebouwd.
Dat geldt ook voor incidentrespons. Wallace is hierover duidelijk: "Het maakt niet uit waar het incident ontstaat, of het nu ontstaat door een verkeerd geadresseerde fax of door een AI die je hebt ingeschakeld om persoonsgegevens te gebruiken. Een incident is een incident." Regels voor beveiligings- en privacymeldingen maken geen uitzondering voor AI en, zoals ze het formuleert, "je kunt zeker niet zomaar je AI de schuld geven."
Waar zit het werkelijke risico dan? Niet bij de ondernemingen die je zou verwachten. "Ik denk eigenlijk dat de grotere uitdaging bij middelgrote bedrijven ligt," zegt Wallace. "Zij kunnen voor het eerst met deze regelgevende tegenwind te maken krijgen wanneer ze AI in hun werkprocessen implementeren, en vragen zich nu af waar ze moeten beginnen.”
Splits je toepassingen op in twee categorieën
Wallace adviseert om AI-initiatieven vanaf het begin in twee categorieën op te splitsen:
- Intern gebruik van AI voor productiviteit, ter vervanging van bestaande tools of voor functionele verbeteringen.
- AI-toepassingen voor productontwikkeling.
Zoals ze opmerkt: "voor elk daarvan gelden heel andere overwegingen" — als je AI-strategie behandelt als één ongedeeld initiatief, wordt het moeilijker om risico's nauwkeurig in te schatten.
Begin met privacy vanaf het ontwerp — maar beperk je niet tot persoonsgegevens
Een aanpak waarin privacy centraal staat, gaat verder dan het beschermen van klantinformatie. Wallace wijst op de noodzaak om "niet alleen persoonsgegevens te beschermen, maar ook de bedrijfseigen informatie van de onderneming," omdat "je met een hele reeks nieuwe risico's te maken krijgt wanneer je bedrijfsinformatie in een LLM zoals ChatGPT invoert."
We hebben met AI een verbluffend nieuw aanvalsoppervlak. Je moet er dus voor zorgen dat je beveiliging optimaal is ingesteld.
Ze wijst ook rechtstreeks op de beveiligingspositie: "We hebben met AI een verbluffend nieuw aanvalsoppervlak. Je moet er dus voor zorgen dat je beveiliging optimaal is ingesteld." Maar bovenal benadrukt ze het belang van interne afstemming — "ervoor zorgen dat het interne gesprek op gang komt om te begrijpen wat je met AI wilt doen, wat je denkt dat je met AI kunt doen en wat de werkelijke ROI is die je hoopt te behalen."
Kies de hoogste norm, niet de kleinste gemene deler
Verschillende privacyregelgeving deelt vergelijkbare onderliggende waarden, maar voert die op verschillende manieren uit. Wallace' advies: "Probeer die hoogste norm te vinden. Probeer te achterhalen wat consistent is binnen de regelgevingsomgevingen waarin je actief bent en behandel iedereen alsof die onderworpen is aan dezelfde principiële aanpak."
Het alternatief — overal proberen te voldoen aan het absolute wettelijke minimum — werkt averechts. "Het lijkt misschien alsof je daarmee je blootstelling aan regelgevingsrisico's beperkt," zegt ze, "maar het gaat je veel meer kosten bij de implementatie en qua mentale ruimte wanneer je interessante dingen probeert te doen."
Het gaat bovendien niet alleen om blootstelling aan regelgevingsrisico's. "Het moedigt een ethische benadering aan van het werk dat je doet," legt Wallace uit, "zelfs op plekken waar je niet te maken hebt met wettelijke verplichtingen die ergens expliciet zijn vastgelegd en waarnaar je van begin tot eind kunt verwijzen." Juridisch risico kan uit onverwachte hoeken komen — "een collectieve rechtszaak," "een ondernemend juridisch team" of "je concurrenten" — en niet alleen van een toezichthouder.
Bepaal waar je organisatie staat op het gebied van eigendom van gegevens
Voordat organisaties een lijst met ethische AI-principes opstellen, moeten ze volgens Wallace eerst een fundamentelere vraag beantwoorden. Ze beschrijft drie concurrerende mondiale opvattingen over eigendom van gegevens:
Over het EU-model: "Privacy is een fundamenteel mensenrecht en het recht om te bepalen hoe je persoonsgegevens worden gebruikt, behoort toe aan de betrokkene — de mens."
Over het historische Amerikaanse model: "We zijn ervan uitgegaan dat de waarde van die persoonsgegevens toebehoort aan het bedrijf dat ze heeft verzameld, omdat het bedrijf er waarde aan onttrekt. Als het bedrijf de waarde eraan heeft onttrokken, moet die waarde dus wel aan het bedrijf toebehoren."
Over een derde model dat elders voorkomt: "De waarde van de persoonsgegevens — en feitelijk de specifieke inhoud van de persoonsgegevens — wordt geacht aan de staat toe te behoren, omdat de staat die zal gebruiken in het beste belang van de betrokkene."
Haar punt is dat bedrijven bewust moeten kiezen waar ze staan, in plaats van er ongemerkt in terecht te komen: "Geloven wij als organisatie dat we mensen van dienst zijn door waarde aan persoonsgegevens te onttrekken? [Of] geloven we dat we mensen van dienst zijn door onze klanten te helpen persoonsgegevens te gebruiken ten bate van de betrokkene?" Die beslissing, zegt ze, moet vóór de lijst met ethische principes worden genomen — "je begint niet met een lijst principes zoals eerlijkheid, verantwoordelijkheid en het beperken van vooroordelen als kern".
De verborgen kosten van gegevensverrijking
Afzonderlijke gegevenspunten kunnen op zichzelf waardeloos lijken, maar Wallace waarschuwt dat samenvoeging de situatie verandert: "De informatie die je in dit ene geval aan deze ene leverancier hebt verstrekt, staat op zichzelf misschien en heeft niet veel waarde. Maar wanneer die wordt samengevoegd, verrijkt en doorverkocht aan derden die de informatie voor andere doeleinden kunnen gebruiken, is de waarde ineens veel hoger."
Ze illustreert dit met een waargebeurd overnameverhaal: een grote bank kocht een start-up specifiek vanwege een lijst met "4 miljoen namen van mensen die gebruik hadden gemaakt van hun diensten voor studieleningen" en betaalde daarvoor ongeveer "$175 million" — vanuit de gedachte dat een gevalideerde, gecontroleerde lijst met potentiële klanten ongeveer "a hundred dollars per person" waard was, vergeleken met de gebruikelijke kosten voor klantenwerving van "150 or so dollars". Het addertje onder het gras: "ze ontdekten dat die 4 miljoen namen nep waren. Ze waren synthetisch gegenereerd met een of ander AI-programma," waarna de deal afsprong.
Haar conclusie daagt uit hoe achteloos mensen met hun eigen gegevens omgaan: "Deze grote bank vond dat je minstens honderd dollar waard was. Zou jij [de consument] iets anders met die gegevens doen als je hun waarde kende?”
Veranker verantwoordelijkheid in het projectteam, niet alleen in de bestuurskamer
"Toon aan de top" is belangrijk, zegt Wallace, maar "daarmee kom je maar tot op zekere hoogte als we op projectniveau werken." Echte verantwoordelijkheid vereist dat er voor elk AI-initiatief een daadwerkelijk multifunctionele groep aan tafel zit — "product zit aan tafel, techniek zit aan tafel, security zit aan tafel" — plus functies die mensen vaak over het hoofd zien:
Klantsucces: "Begrijpen ze de functionaliteit goed genoeg om, als het script ontbreekt, op zijn minst de woordenschat te hebben om de vraag bij iemand anders aan te kaarten?"
Marketing: "Weet je of ze tot de categorie behoren die allergisch is voor AI, of juist aan de andere kant zitten en heel graag nieuwe dingen willen uitproberen? Hoe ga je je berichtgeving afstemmen en aanpassen zodat je, wanneer je over nieuwe functies praat?”
Juridische zaken: "Je hebt misschien klanten in je portefeuille die het gebruik van AI verbieden voor de producten die ze van je kopen. Dat kan ergens in het contract verborgen staan. Er kan sprake zijn van algoritmische besluitvorming of het gebruik van modellen. Misschien heb je een tien jaar oud contract dat dit gebruik verbiedt."
Het doel, zegt Wallace, is een team dat op het moment zelf verantwoordelijkheid neemt.
Onbedoeld misbruik onderscheiden van bewust risico nemen
Wallace trekt een duidelijke grens tussen onbedoelde blootstelling en bewust de kantjes ervan aflopen. Wat het onbedoelde aspect betreft: "De meeste van deze tools die we gebruiken hebben configuraties die je kunt inschakelen, waarmee je kunt bepalen of je persoonlijke informatie of de vertrouwelijke bedrijfsinformatie van je organisatie wordt blootgesteld.”
Het moeilijkere probleem is de door deadlines gedreven snelkoppeling — iemand die besluit om "deze dataset naar een openbare LLM te uploaden" omdat "we het vrijdag moeten opleveren." Wallace' reactie op dat scenario is resoluut: "Doe dat gewoon niet."
Geef teams toestemming om nee te zeggen
Nee zeggen is niet bestraffend, zegt Wallace — het is een discipline: "Er zit geen plezier in, toch? Het is niet een soort wraakzuchtige actie." Haar aanbevolen hulpmiddel is een eenvoudige risicomatrix — "waarschijnlijkheid aan de ene kant en ernst aan de andere kant" — waarmee een organisatie "een echt openhartig gesprek kan voeren over het vinden van je punt in dat veld" en gezamenlijk kan bepalen waar de grens ligt.
Ze is openhartig over hoe ze dit zelf toepast bij het beoordelen van leveranciers voor RadarFirst: "We hebben in de loop van het jaar honderden leveranciers bekeken. Een behoorlijk groot deel daarvan hebben we afgewezen. We zeiden: "we hebben niet genoeg informatie, of ze hebben geen vertrouwenscentrum gepubliceerd waarin we echt kunnen duiken, of ze gebruiken onderliggende modellen waarover ze ons geen informatie geven."
En onwetendheid is achteraf geen verweer: "Ik kan niet naar een leverancier gaan en zeggen: ‘Ik begreep eigenlijk niet wat jullie deden toen ik het bij jullie kocht.’ Onwetendheid is volgens de wet geen verweer. Dat is het nooit geweest. Dat zal het nooit worden."
Ik kan niet naar een leverancier gaan en zeggen, “Ik begreep eigenlijk niet wat jullie deden toen ik het bij jullie kocht.” Onwetendheid is volgens de wet geen verweer.
AI-geletterdheid opbouwen in de hele organisatie, niet alleen bij het management
Bij RadarFirst organiseerde het team van Wallace een terugkerende educatieve reeks: "Ongeveer anderhalf jaar geleden zijn we begonnen met een maandelijkse lunchbijeenkomst over ethische AI. We behandelden in elke sessie één onderwerp — menselijke zeggenschap en toezicht, transparantie of verantwoordelijkheid." De sessies gebruikten de AI-richtlijnen van de EU als basis en steunden op praktijkvoorbeelden uit de AI Incident Database: "Schokkende, pas verschenen zaken waarin deze principes van transparantie of beperking van vooroordelen een rol speelden."
Wallace maakt duidelijk dat het doel niet was om iemand ter plekke van gedachten te doen veranderen: "Misschien waren ze tegen de tijd dat ze de ruimte verlieten nog steeds dezelfde mening toegedaan. Dat is prima. Maar toen ze teruggingen naar hun bureau, hadden ze de woordenschat om zorgen met hun team te bespreken, zorgen naar de juridische of complianceafdeling te escaleren, of ze — waar dat passend was — aan het productteam voor te leggen."
Wat betreft de vraag wie deze sessies zou moeten leiden, denkt ze niet dat daarvoor een speciaal aangestelde deskundige op het gebied van AI-ethiek nodig is: "Ik kan me voorstellen dat je die opdracht zelfs van maand tot maand onder verschillende mensen verdeelt, zodat je elke keer een iets andere meerwaarde krijgt."
De regelgeving loopt langzaam bij — handel nu al naar je eigen ethische principes
Wallace ziet de wet zelf als een achterlopende indicator van gedeelde waarden: "De wet is slechts een manier om op te schrijven wat onze gedeelde ethische principes zijn en ze ergens vast te leggen waar mensen ze kunnen vinden." Rechtszaken vullen intussen het gat op en behandelen kwesties "wanneer ze nieuw zijn, wanneer ze nog niet eerder zijn voorgekomen en er nog geen tijd is geweest om ze via wetgevingstrajecten te verwerken" — maar dat proces is opzettelijk traag: "de raderen van het recht malen langzaam, maar uiterst grondig."
Ze wijst op de AI-wetgeving van Colorado als een waarschuwing: de staat "handelde behoorlijk snel. Ze kwamen met iets dat behoorlijk goed was, en vervolgens moesten ze het intrekken omdat ze niet konden uitzoeken hoe ze het daadwerkelijk konden invoeren." Bedrijven die hier proactief naleving voor hadden opgebouwd, bleven wachten.
Haar aanbeveling is om het inhalen van regelgeving niet langer als de eindstreep te beschouwen: "Als je weet wat het betekent om een ethische organisatie te zijn, als je weet waar je risicodrempel ligt, dan plaats je je wetgevings- of procesrisico aan de juiste kant van die categorie en zeg je: oké, we zijn bereid dat onder ogen te zien als het zover komt. Maar op dit moment weten we nog niet genoeg — wat we wel over onszelf weten, is wat wij juist vinden en wat we denken dat onze klanten van ons verwachten. Daar kunnen we vandaag naar handelen."
Wil je meer van dit soort inzichten? Meld je aan voor een gratis DPM-account om van meer experts zoals deze te horen.
