Datenschutz durch Technikgestaltung: Eine KI-Strategie entwickeln, die Vertrauen nicht beeinträchtigt
Dieser Artikel wurde aus der Folge „Eine KI-Strategie mit Datenschutz an erster Stelle: Wie sie aussieht und warum sie wichtig ist“ des DPM-Podcasts adaptiert.
Vorteil regulierter Branchen: Regulierte Branchen können etablierte Praktiken in den Bereichen Governance, Compliance und Reaktion auf Vorfälle wiederverwenden, um KI verantwortungsvoll einzusetzen.
Risikotrennung: Die Trennung interner Werkzeuge von Produktfunktionen hilft Organisationen dabei, KI-Risiken, Kontrollen und Verantwortlichkeiten genauer zu bewerten.
Datenschutz zuerst: Eine datenschutzorientierte KI-Strategie schützt personenbezogene Daten, geschützte Informationen und die Sicherheit und macht zugleich den erwarteten geschäftlichen Nutzen deutlich.
Gemeinsame Verantwortung: Organisationen sollten ihre Vorstellungen vom Dateneigentum festlegen, bevor sie ethische Grundsätze definieren oder KI-Richtlinien entwickeln.
Praktische Verantwortlichkeit: Funktionsübergreifende Teams, Risikomatrizen, Mitarbeiterschulungen und die Prüfung von Anbietern helfen, Abkürzungen zu vermeiden und fundierte Entscheidungen zu unterstützen.
Die meisten Menschen gehen davon aus, dass stark regulierte Branchen — Finanzdienstleistungen, Gesundheitswesen, Energieversorgung und Telekommunikation — dazu bestimmt sind, sich bei KI nur langsam zu bewegen, durch Bürokratie ausgebremst, während weniger regulierte Branchen davonstürmen. Laut Lauren Wallace, strategische Beraterin und ehemalige Leiterin der Rechtsabteilung bei RadarFirst, liegt diese Annahme jedoch falsch.
Wallace, die juristische und geschäftliche Entwicklungspositionen bei Apple, Microsoft und Nike innehatte, argumentiert, dass regulierte Unternehmen tatsächlich einen Vorsprung haben, wenn es darum geht, konforme und verantwortungsvolle KI-Programme aufzubauen. Dieser Artikel erläutert ihren Rahmen für eine KI-Strategie mit Datenschutz an erster Stelle: wie sie auf Komponentenebene aussieht, wie man organisatorische Unterstützung gewinnt und wo die größten Risiken — und Chancen — tatsächlich liegen.
Kostenlos freischalten
Erstellen Sie ein kostenloses Konto, um diesen Beitrag zu Ende zu lesen und Teil einer Community zukunftsorientierter Führungskräfte zu werden, die Tools, Leitfäden und Insights für den Erfolg im Zeitalter der KI freischaltet.
Have an account? Log In
Warum regulierte Branchen möglicherweise bereits einen Vorsprung haben
Die grundlegenden Prinzipien der KI-Governance — Transparenz, Verantwortlichkeit und Überwachung auf Verzerrungen — sind keine neuen Erfindungen. Wie Wallace erklärt, „sind die Prinzipien, die der KI-Governance zugrunde liegen, wie Transparenz, Verantwortlichkeit, Überwachung auf Verzerrungen und Prävention … bereits in bestehende regulatorische Rahmenwerke eingebettet.“ Dazu gehört die DSGVO, aber auch Gesetze zur fairen Kreditvergabe, zur Chancengleichheit sowie zahlreiche weitere Rahmenwerke für Bürgerrechte und Verbraucherschutz.
Die Prinzipien, die der KI-Governance zugrunde liegen, wie Transparenz, Verantwortlichkeit, Überwachung auf Verzerrungen und Prävention … sind bereits in bestehende regulatorische Rahmenwerke eingebettet.
Banken beispielsweise arbeiten seit Jahren mit „Modellmanagement-Regeln“ für algorithmische Entscheidungsfindung — Regeln, die sich laut Wallace „problemlos auf das übertragen lassen, womit wir uns bei all diesen KI-Tools befassen“. Organisationen in diesen Branchen verfügen typischerweise bereits über Compliance-Programme, dedizierte Governance-Ressourcen und auf diesen Rahmenwerken aufbauende Instrumente zur Durchsetzung.
Das gilt auch für die Reaktion auf Vorfälle. Wallace äußert sich hierzu eindeutig: „Es spielt keine Rolle, wo der Vorfall entsteht, ob durch ein fehlgeleitetes Fax oder durch eine KI, die Sie für die Nutzung personenbezogener Daten aktiviert haben. Ein Vorfall ist ein Vorfall.“ Sicherheits- und Datenschutzvorschriften zur Benachrichtigung machen keine Ausnahme für KI, und wie sie sagt: „Sie können sicherlich nicht einfach Ihrer KI die Schuld geben.“
Wo liegt also das tatsächliche Risiko? Nicht bei den Unternehmen, die man erwarten würde. „Ich glaube tatsächlich, dass die größere Herausforderung bei mittelgroßen Unternehmen liegt“, sagt Wallace. „Sie sehen sich möglicherweise zum ersten Mal mit diesen regulatorischen Hürden konfrontiert, wenn sie KI in ihre Arbeitsabläufe integrieren, und fragen sich nun, wo sie anfangen sollen.“
Teilen Sie Ihre Anwendungsfälle in zwei Bereiche auf
Wallace empfiehlt, KI-Initiativen von Anfang an in zwei Kategorien aufzuteilen:
- Interne Nutzung von KI zur Produktivitätssteigerung, als Ersatz für bestehende Tools oder für funktionale Erweiterungen.
- KI-Anwendungsfälle in der Produktentwicklung.
Wie sie anmerkt, „gibt es für jeden dieser Bereiche sehr unterschiedliche Überlegungen“ — wenn man die KI-Strategie als ein undifferenziertes Vorhaben behandelt, wird eine genaue Risikobewertung erschwert.
Beginnen Sie mit Datenschutz durch Technikgestaltung — aber beschränken Sie sich nicht auf personenbezogene Daten
Ein Ansatz, bei dem der Datenschutz an erster Stelle steht, geht über den Schutz von Kundeninformationen hinaus. Wallace weist darauf hin, dass „nicht nur personenbezogene Informationen geschützt werden müssen, sondern auch die firmeneigenen Informationen“, denn „wenn Sie Unternehmensinformationen in ein LLM wie ChatGPT eingeben, entstehen zahlreiche neue Risiken.“
Wir haben mit KI eine beeindruckende neue Angriffsfläche. Deshalb müssen Sie sicherstellen, dass Ihre Sicherheitsmaßnahmen optimal eingestellt sind.
Sie weist auch direkt auf die Sicherheitslage hin: „Wir haben mit KI eine beeindruckende neue Angriffsfläche. Deshalb müssen Sie sicherstellen, dass Ihre Sicherheitsmaßnahmen optimal eingestellt sind.“ Vor allem aber betont sie die interne Abstimmung – „Ihre interne Diskussion in Gang zu bringen, um zu verstehen, was Sie mit KI tun möchten, was Sie Ihrer Meinung nach mit KI tun können und welchen tatsächlichen ROI Sie zu erzielen hoffen.“
Wählen Sie den höchsten Standard, nicht den kleinsten gemeinsamen Nenner
Verschiedene Datenschutzvorschriften beruhen auf ähnlichen Grundwerten, setzen diese aber unterschiedlich um. Wallaces Rat: „Versuchen Sie, diesen höchsten Standard zu finden. Versuchen Sie herauszufinden, was über die regulatorischen Rahmenbedingungen hinweg, in denen Sie tätig sind, konsistent ist, und behandeln Sie alle so, als würden sie demselben hohen, prinzipiengeleiteten Ansatz unterliegen.“
Die Alternative – überall nur das gesetzliche Minimum zu erfüllen – schlägt fehl. „Das mag zunächst so wirken, als würde es Sie vor bestimmten regulatorischen Risiken bewahren“, sagt sie, „aber es wird Sie bei der Umsetzung und mental so viel mehr kosten, wenn Sie versuchen, interessante Dinge zu tun.“
Es geht jedoch nicht nur um regulatorische Risiken. „Es wird einen ethischen Ansatz für Ihre Arbeit fördern“, erklärt Wallace, „selbst dort, wo Sie keine regulatorischen Verpflichtungen haben, die irgendwo ausdrücklich festgehalten sind und auf die Sie sich bis ins kleinste Detail berufen können.“ Rechtliche Risiken können aus unerwarteten Richtungen kommen – durch „eine Sammelklage“, „ein unternehmerisch agierendes Rechtsteam“ oder „Ihre Wettbewerber“ – und nicht nur durch eine Aufsichtsbehörde.
Entscheiden Sie, welche Position Ihre Organisation beim Dateneigentum vertritt
Bevor Organisationen eine Liste ethischer Grundsätze für KI formulieren, müssen sie laut Wallace zunächst eine grundlegendere Frage beantworten. Sie beschreibt drei weltweit miteinander konkurrierende Philosophien zum Dateneigentum:
Zum EU-Modell: „Privatsphäre ist ein grundlegendes Menschenrecht, und das Recht, über die Nutzung Ihrer personenbezogenen Daten zu bestimmen, liegt bei der betroffenen Person – dem Menschen.“
Zum historischen US-Modell: „Wir haben den Wert dieser personenbezogenen Daten als Eigentum des Unternehmens betrachtet, das sie erhoben hat, weil es daraus einen Nutzen zieht. Wenn es also den Nutzen daraus gezogen hat, muss dieser Wert sicherlich ihm gehören.“
Zu einem dritten Modell, das anderswo zu beobachten ist: „Der Wert der personenbezogenen Daten, tatsächlich der konkrete Inhalt der personenbezogenen Daten, gilt als Eigentum des Staates, weil der Staat sie im besten Interesse der betroffenen Person verwenden wird.“
Ihr Punkt ist, dass Unternehmen bewusst entscheiden müssen, welche Position sie vertreten, anstatt sich unbewusst in eine solche Haltung hineinzubewegen: „Glauben wir als Organisation, dass wir dadurch dienen, dass wir aus personenbezogenen Daten einen Nutzen ziehen? [Oder] glauben wir, dass wir dadurch dienen, dass wir unseren Kunden helfen, personenbezogene Daten zum Vorteil der betroffenen Person zu nutzen?“ Diese Entscheidung, sagt sie, sollte vor der Liste ethischer Grundsätze getroffen werden – „Sie müssen nicht mit einer Liste von Grundsätzen wie Fairness, Verantwortlichkeit und Maßnahmen zur Verzerrungsminderung im Mittelpunkt beginnen.“
Die versteckten Kosten der Datenanreicherung
Einzelne Datenpunkte können isoliert betrachtet wertlos wirken, doch Wallace warnt davor, dass die Zusammenführung die Gleichung verändert: „Die Informationen, die Sie diesem einen Anbieter bei dieser einen Gelegenheit zur Verfügung gestellt haben, mögen für sich genommen nicht besonders wertvoll sein. Werden sie jedoch zusammengeführt, angereichert und an Dritte weiterverkauft, die sie für andere Zwecke nutzen können, ist ihr Wert plötzlich viel höher.“
Sie veranschaulicht dies anhand einer realen Übernahmegeschichte: Eine große Bank kaufte ein Start-up gezielt wegen einer Liste mit „4 Millionen Namen von Personen, die dessen Studienkreditdienste gekauft hatten“, und zahlte dafür rund „175 Millionen US-Dollar“ – in der Annahme, dass eine geprüfte und qualifizierte Liste potenzieller Kunden ungefähr „einhundert Dollar pro Person“ wert sei, verglichen mit den üblichen Kundenakquisitionskosten von „etwa 150 Dollar“. Der Haken: „Sie fanden heraus, dass diese 4 Millionen Namen gefälscht waren. Sie waren mithilfe irgendeines KI-Programms synthetisch erzeugt worden“, und die Transaktion scheiterte.
Ihre Schlussfolgerung stellt infrage, wie sorglos Menschen mit ihren eigenen Daten umgehen: „Diese große Bank hielt Sie für mindestens hundert Dollar wert. Würden Sie [als Verbraucher] also etwas anderes mit diesen Daten tun, wenn Sie ihren Wert kennen würden?“
Verankern Sie Verantwortlichkeit im Projektteam, nicht nur im Vorstand
„Der Ton an der Spitze“ ist wichtig, sagt Wallace, aber „damit kommt man nur bis zu einem gewissen Punkt, wenn man auf Projektebene arbeitet“. Echte Verantwortlichkeit erfordert, für jede KI-Initiative eine wirklich funktionsübergreifende Gruppe an einen Tisch zu bringen – „das Produktteam sitzt mit am Tisch, die Entwicklung sitzt mit am Tisch, die Sicherheit sitzt mit am Tisch“ – und zusätzlich Funktionen einzubeziehen, die oft übersehen werden:
Kundenerfolg: „Verstehen sie die Funktionalität gut genug, dass sie ohne das Skript zumindest über das nötige Vokabular verfügen, um die Frage an jemand anderen weiterzugeben?“
Marketing: „Wissen Sie, ob sie zur Kategorie derjenigen gehören, die allergisch auf KI reagieren, oder zum anderen Ende, also zu denjenigen, die sehr gern neue Dinge ausprobieren? Wie wollen Sie Ihre Botschaften abstimmen und anpassen, wenn Sie über neue Funktionen sprechen?“
Recht: „Vielleicht haben Sie Kunden in Ihrem Portfolio, die den Einsatz von KI bei den Produkten verbieten, die sie von Ihnen kaufen. Das kann irgendwo im Vertrag verborgen sein. Dort könnte von algorithmischer Entscheidungsfindung oder der Verwendung von Modellen die Rede sein. Vielleicht haben Sie einen zehn Jahre alten Vertrag, der diese Nutzung verbietet.“
Das Ziel, sagt Wallace, ist ein Team, das sich im jeweiligen Moment selbst zur Verantwortung zieht.
Versehentlichen Missbrauch von bewusst eingegangenen Risiken unterscheiden
Wallace zieht eine klare Grenze zwischen einer versehentlichen Offenlegung und einem bewussten Abkürzen von Prozessen. Auf der versehentlichen Seite gilt: „Die meisten dieser von uns verwendeten Tools verfügen über Konfigurationen, die Sie aktivieren können und mit denen Sie kontrollieren können, ob Ihre personenbezogenen Daten oder vertraulichen Unternehmensinformationen offengelegt werden.“
Das schwierigere Problem ist die fristbedingte Abkürzung – jemand entscheidet sich, „diesen Datensatz in ein öffentliches LLM hochzuladen“, weil „wir bis Freitag liefern müssen“. Wallaces Antwort auf dieses Szenario ist deutlich: „Tun Sie es einfach nicht.“
Geben Sie Teams die Erlaubnis, Nein zu sagen
Nein zu sagen ist keine Bestrafung, sagt Wallace, sondern eine Disziplin: „Es macht keinen Spaß, richtig? Es ist ja nicht etwa eine rachsüchtige Sache.“ Ihr empfohlenes Instrument ist eine einfache Risikomatrix – „die Wahrscheinlichkeit auf der einen Seite nach oben und der Schweregrad auf der anderen Seite quer“ –, die einer Organisation ermöglicht, „ein wirklich offenes Gespräch darüber zu führen, seinen Punkt in diesem Feld zu finden“, und gemeinsam festzulegen, wo die Grenze verläuft.
Sie spricht offen darüber, dies selbst bei der Prüfung von Anbietern bei RadarFirst anzuwenden: „Wir haben im Laufe des Jahres Hunderte von Anbietern geprüft. Ein ziemlich hoher Anteil wurde von uns abgelehnt. Wir sagten: „Wir haben nicht genügend Informationen, oder sie haben kein Vertrauenszentrum veröffentlicht, das wir wirklich eingehend prüfen können, oder sie verwenden zugrunde liegende Modelle, deren Nutzung sie uns gegenüber nicht offenlegen.“
Und Unwissenheit ist im Nachhinein keine Verteidigung: „Ich kann nicht zu einem Anbieter gehen und sagen: ‚Ich habe nicht wirklich verstanden, was Sie tun, als ich es von Ihnen gekauft habe.‘ Unwissenheit schützt vor dem Gesetz nicht. Das hat sie nie getan. Und das wird sie auch nie tun.“
Ich kann nicht zu einem Anbieter gehen und sagen, “Ich habe nicht wirklich verstanden, was Sie tun, als ich es von Ihnen gekauft habe.’ Unwissenheit schützt vor dem Gesetz nicht.
KI-Kompetenz in der gesamten Organisation aufbauen, nicht nur in der Führungsebene
Bei RadarFirst führte Wallaces Team regelmäßig eine Bildungsreihe durch: „Vor etwa eineinhalb Jahren haben wir ein monatliches Format zu ethischer KI gestartet, bei dem man beim Mittagessen etwas lernt. In jeder Sitzung behandelten wir ein Thema – menschliche Handlungsfähigkeit und Aufsicht, Transparenz oder Verantwortlichkeit.“ Die Sitzungen stützten sich auf die KI-Leitlinien der EU und nutzten reale Fallstudien aus der AI Incident Database: „Schockierende, brandaktuelle Fälle, bei denen diese Grundsätze der Transparenz oder der Eindämmung von Verzerrungen eine Rolle spielten.“
Wallace stellt klar, dass das Ziel nicht darin bestand, jemanden auf der Stelle umzustimmen: „Vielleicht hatten sie ihre Haltung bis zum Verlassen des Raums nicht geändert. In Ordnung. Aber wenn sie an ihre Schreibtische zurückkehrten, verfügten sie über das Vokabular, um Bedenken mit ihrem Team zu besprechen oder sie gegebenenfalls an die Rechts- oder Compliance-Abteilung oder an das Produktteam weiterzuleiten.“
Was die Leitung dieser Sitzungen betrifft, glaubt sie nicht, dass dafür eine eigene Stelle für KI-Ethik erforderlich ist: „Ich kann mir vorstellen, dass man diese Aufgabe sogar von Monat zu Monat unter verschiedenen Personen aufteilen könnte und jedes Mal einen etwas anderen Nutzen daraus zieht.“
Die Regulierung holt nur langsam auf – handeln Sie jetzt nach Ihren eigenen ethischen Grundsätzen
Wallace betrachtet das Gesetz selbst als nachlaufenden Indikator gemeinsamer Werte: „Das Gesetz ist lediglich eine Möglichkeit, unsere gemeinsamen ethischen Grundsätze aufzuschreiben und an einem Ort festzuhalten, an dem die Menschen sie finden können.“ In der Zwischenzeit schließt die Rechtsprechung diese Lücke und bearbeitet Fragen „wenn sie neu und ungeklärt sind, wenn sie noch nicht aufgetreten sind und noch keine Zeit war, sie durch Gesetzgebungszyklen zu verarbeiten“ – doch dieser Prozess ist absichtlich langsam: „Die Mühlen der Gerechtigkeit mahlen langsam, aber außerordentlich gründlich.“
Sie verweist auf Colorados KI-Gesetzgebung als warnendes Beispiel: Der Bundesstaat „handelte ziemlich schnell. Sie haben etwas ziemlich Gutes auf den Weg gebracht, und dann mussten sie es zurückziehen, weil sie nicht herausfinden konnten, wie sie es tatsächlich in Kraft setzen sollten.“ Unternehmen, die proaktiv darauf basierend Compliance-Maßnahmen aufgebaut hatten, mussten anschließend warten.
Ihre Empfehlung lautet, regulatorisches Aufholen nicht länger als Ziel zu betrachten: „Wenn Sie wissen, was es bedeutet, eine ethische Organisation zu sein, und wenn Sie wissen, wo Ihre Risikoschwelle liegt, werden Sie Ihr gesetzgeberisches oder rechtliches Risiko auf die richtige Seite dieser Kategorie stellen und sagen: Okay, wir sind bereit, uns dem zu stellen, falls es dazu kommt. Aber im Moment wissen wir noch nicht genug — was wir über uns selbst wissen, ist, was wir für richtig halten und was unsere Kunden von uns erwarten. Danach können wir heute handeln.“
Sie möchten mehr Erkenntnisse wie diese? Melden Sie sich für ein kostenloses DPM-Konto an, um von weiteren Experten wie diesen zu hören.