Die meisten KI-Tools wurden nicht für Kinder entwickelt – aber Kinder nutzen sie trotzdem. Dieser Widerspruch steht im Mittelpunkt dieses Gesprächs mit Aderonke Akinbola. Die zentrale Frage lautet dabei nicht, ob wir KI für Kinder entwickeln sollen, sondern wie wir das verantwortungsvoll tun. Von digitalen Spielplätzen, die das Verhalten prägen, bis zu den langfristigen Auswirkungen von Datenexposition untersucht diese Folge, warum die Herausforderungen für junge Nutzer grundlegend anders sind – und warum Produktteams die Sicherheit von Kindern nicht als nachträglichen Einfall betrachten dürfen.
Galen und Ade gehen der Frage nach, was es bedeutet, KI-Erlebnisse so zu gestalten, dass sie junge Nutzer schützen, bilden und fördern. Sie zeigen praxisnahe Wege auf, wie Teams ethische Hürden einbauen, den Umgang mit Daten überdenken und für sicherere Systeme eintreten können – und werfen zugleich einen Blick in die Zukunft, in der Künstliche Intelligenz selbst zur Schutzinstanz für Kinder in einer immer intelligenter werdenden digitalen Welt werden könnte.
Das lernst du in dieser Folge
- Warum die Diskussion sich davon entfernt hat, ob KI für Kinder entwickelt werden soll, und stattdessen fragt, wie das sicher geschehen kann
- Wie sich die kognitive und emotionale Entwicklung bei Kindern auf ihre Interaktion mit KI auswirkt
- Das Konzept der KI als „digitaler Spielplatz“ und wie sich sichere Gestaltung dort umsetzen lässt
- Warum heutige KI-Systeme Effizienz statt Entwicklung priorisieren – und warum das problematisch ist
- Die Rolle von Fürsprache, Richtlinien und interdisziplinärer Zusammenarbeit bei der Gestaltung sichererer KI
- Wie künftige KI-Systeme junge Nutzer aktiv schützen und begleiten könnten
Wichtige Erkenntnisse
- Kinder werden KI nutzen – egal, ob wir für sie mitdenken oder nicht. Das Problem zu ignorieren mindert das Risiko nicht; es lässt Kinder in unsichere, auf Erwachsene ausgerichtete Systeme geraten.
- KI ist nicht nur ein Werkzeug – es ist eine Einfluss-Sphäre. Kinder könnten KI so sehr vertrauen und eine Bindung zu ihr aufbauen, dass sie leichter beeinflussbar und anfällig für Fehlinformationen werden.
- Datenbeständigkeit hat für Kinder andere Folgen. Was heute nur eine kleine Interaktion ist, könnte langfristig als digitaler Fußabdruck spätere Chancen beeinflussen.
- Zu viel Bequemlichkeit kann Lernen schwächen. Wenn jede Hürde entfernt wird, leidet das kritische Denken – KI sollte manchmal auch herausfordern, nicht nur helfen.
- „Erwünschte Reibung“ ist ein Gestaltungsmittel. Wie beim Leveln in einem Spiel hilft das Einbauen von Herausforderungen, Fähigkeiten zu entwickeln und nicht zu umgehen.
- Erklärbarkeit fördert Entwicklung. KI sollte ihre Entscheidungswege aufzeigen, nicht bloß Antworten liefern – ähnlich, wie Menschen wirklich lernen.
- Datenschutz sollte standardmäßig schützen. Wenn Kinder-Daten lokal bleiben (z. B. durch föderiertes Lernen), sinkt das langfristige Risiko.
- Engagement ist wichtig – selbst wenn es nicht sofort Wirkung zeigt. Kultureller und organisationaler Wandel entsteht durch viele Gespräche, nicht durch ein schlagendes Argument.
- Wir sind im Wettrennen – und Sicherheit hat keine Führungsrolle. Aktuelle KI-Entwicklung wird von Fähigkeiten und Marktanteilen getrieben, nicht vom Kinderschutz.
- KI könnte Teil der Lösung werden. Ideen wie ein „digitaler Wächter“ deuten auf Systeme hin, die junge Nutzer aktiv beobachten, leiten und schützen.
Kapitel
- 00:00 — Wer ist verantwortlich für KI-Sicherheit?
- 03:36 — Sollten Kinder KI nutzen?
- 05:24 — KI als Spielplatz
- 07:54 — Expert:innen einbinden
- 10:41 — Tun Unternehmen genug?
- 13:37 — Warum die Risiken größer sind
- 19:57 — Sichere KI gestalten
- 24:43 — Für Sicherheit intern werben
- 27:42 — Lehren aus sozialen Medien
- 31:09 — Der digitale Wächter
- 35:00 — Wie nah sind wir dran?
- 36:49 — Für die Zukunft bauen
Lerne unseren Gast kennen

Aderonke Akinbola ist Technical Program Manager bei Google, wo sie groß angelegte, bereichsübergreifende Technologieinitiativen auf dem amerikanischen Kontinent leitet und komplexe Infrastruktur- sowie KI-basierte Projekte von der Strategie bis zur Umsetzung steuert. Mit beruflichen Stationen bei Apple und American Family Insurance bringt sie umfassende Erfahrung im systemischen Denken, Risikomanagement und im Umgang mit komplexen technischen Abhängigkeiten mit. Als anerkannte Stimme in der KI- und Technologiegemeinschaft spricht Aderonke über Themen wie KI-Risiken, Cybersicherheit und die Zukunft der Arbeit. Ihre Leidenschaft gilt der Förderung der nächsten Generation von MINT-Führungskräften und der Weiterentwicklung von menschenzentrierter Innovation im Zeitalter der KI.
Ressourcen aus dieser Folge:
- Treten Sie der Digital Project Manager Community bei
- Abonnieren Sie den Newsletter, um unsere neuesten Artikel und Podcasts zu erhalten
- Vernetzen Sie sich mit Aderonke auf LinkedIn
Ähnliche Artikel und Podcasts:
Galen Low: Die meisten KI-Lösungen sind nicht für Kinder konzipiert, aber das heißt nicht, dass Kinder sie nicht nutzen. Das wirft die Frage auf: Wer trägt die Verantwortung für die Sicherheit von Kindern bei KI-basierten Erlebnissen? Sind es die Eltern? Sind es die Teams, die KI-Erfahrungen entwerfen und entwickeln? Sind es die KI-Unternehmen selbst?
Und wie können wir unsere Teams dazu bringen, die richtigen ethischen Fragen zu stellen und uns für den Einbau angemessener Schutzmaßnahmen in die von uns geschaffenen Erlebnisse einzusetzen? Um dieses Thema zu erkunden, habe ich eine Technical Program Managerin von Google eingeladen, die sich auch stark für Kindersicherheit und Cybersicherheit in KI und Tech engagiert.
Gemeinsam tauchen wir ein, warum das Risiko für jüngere KI-Nutzer höher ist als für Erwachsene, was wir tun können, um uns für Kinderschutz in unseren KI-Projekten und -Produkten einzusetzen und wie KI selbst zum Anwalt für Kindersicherheit werden könnte, während das Tempo der technologischen Entwicklung unsere Fähigkeit, sinnvolle Richtlinien, Gesetze und Bildung zu schaffen, überholt. Viel Spaß bei der Folge!
Willkommen zum Digital Project Manager Podcast – der Sendung, die Führungskräften im Delivery-Bereich hilft, intelligenter zu arbeiten, reibungsloser zu liefern und ihre Teams im Zeitalter der KI mit Selbstvertrauen anzuführen. Ich bin Galen und jede Woche tauchen wir ein in bewährte Strategien, neue Trends, praxiserprobte Frameworks und gelegentliche Geschichten von der Projektfront. Egal, ob du große Transformationsprojekte steuerst, KI-Workflows koordinierst oder einfach nur das Chaos im Griff behalten willst – du bist hier richtig. Los geht's.
Heute sprechen wir über KI im Kontext der Kindersicherheit und darüber, wie Projekt- und Produktteams die richtigen Fragen stellen können, um KI-basierte Erfahrungen zu schaffen, die schutzbedürftige Nutzer schützen.
Bei mir ist heute Aderonke Akinbola – Speakerin, Fürsprecherin für Kindersicherheit und KI-Ökosysteme sowie Technical Program Managerin bei Google. Ade hat über drei Jahre Erfahrung in Produktentwicklung und Programmmanagement sowie als Security Engineer bei Apple. Sie hat kürzlich auf dem AI Agent Security Summit über die Absicherung von KI-Agenten in kinderzentrierten Ökosystemen gesprochen.
Ade, vielen Dank, dass du heute hier bist.
Aderonke Akinbola: Hallo Galen, ich freue mich sehr, hier zu sein.
Galen Low: Ich freue mich auch sehr. Ich habe mich schon auf unser Gespräch gefreut. Unsere bisherigen Unterhaltungen im Vorfeld waren schon spannend, und ich freue mich, heute gemeinsam mit dir in die Tiefe zu gehen. Für den Fall, dass wir abschweifen, habe ich einen kleinen Fahrplan für uns vorbereitet.
Zu Beginn möchte ich dich mit einer großen, schwierigen Frage konfrontieren, zu der meine Hörer*innen gerne deine Meinung hätten. Dann würde ich das Thema gern etwas aufmachen und vielleicht drei Dinge besprechen. Erstens: Was macht das KI-Erlebnis für Kinder so grundlegend anders als für Erwachsene? Und was macht eine KI-Anwendung jetzt und in Zukunft sicher für unter 18-Jährige?
Dann möchte ich ganz praktisch darauf eingehen, wie Projekt- und Produktteams bei der Entwicklung von KI-Lösungen die richtigen ethischen Fragen stellen und Erlebnisse entwerfen können, die junge Nutzer*innen bilden, informieren und schützen. Zum Schluss interessiert mich dein Blick in die Zukunft: Wie sieht die Zukunft für KI-Agenten und kommende Generationen aus, wenn wir ethische, sicherheits- und schutzbezogene Aspekte richtig adressieren?
Wie klingt das für dich?
Aderonke Akinbola: Klingt perfekt. Dafür sind wir hier. Lass uns gleich eintauchen.
Galen Low: Super. Ich liebe es. Okay. Ich beginne mit der angekündigten großen, schwierigen Frage. In den vergangenen Monaten stand das Thema Kindersicherheit und soziale Medien oft in den Schlagzeilen.
In Australien wurde kürzlich ein Social-Media-Verbot für Untersechzehnjährige eingeführt. Auch das Vereinigte Königreich und andere Länder denken darüber nach. Natürlich sind Social Media und KI nicht dasselbe, aber viele der gleichen Fragen zu Ethik und Sicherheit stellen sich auch bei der KI-Nutzung durch junge Menschen.
Meine große Frage ist daher: Nach deiner Erfahrung in der Sicherheits- und Produktentwicklung bei einigen der fortschrittlichsten Technologieunternehmen der Welt: Sollten wir überhaupt KI-Lösungen für Kinder unter 18 Jahren entwickeln?
Aderonke Akinbola: Ich denke, das ist die Millionen-Dollar-Frage, Galen. Aber mein Standpunkt ist: Wir sind bereits über den Punkt hinaus, an dem wir uns fragen sollten, ob wir KI-Systeme für Kinder entwickeln sollen.
Es geht inzwischen eher darum, wie wir diese Systeme für sie entwickeln. Die Realität ist: Das Spielfeld ist schon da. Wenn wir uns entscheiden, keine spezifischen und sicheren, auf Kinder zugeschnittenen KI-Systeme zu entwickeln, hören Kinder nicht auf, die Technologie zu nutzen. Sie ist da und zugänglich für sie.
Sie würden einfach die Black-Box-KI für Erwachsene nutzen, und das ist sehr gefährlich, denn die KI für Erwachsene ist auf Effizienz ausgelegt. Unsere Kinder brauchen aber Werkzeuge zur Entwicklung. Wenn wir also nicht die richtige Version bauen, lassen wir sie im digitalen Dschungel allein. Wir sind nicht mehr an dem Punkt, ob wir für sie bauen sollten.
Der Fokus liegt jetzt darauf, wie wir für sie bauen.
Galen Low: Ein sehr guter Punkt in Bezug auf die Ziele der Technologie. Aus Erwachsenensicht ist das ganz anders, als wenn es um Kinder geht. Und wie wir bei Social Media wissen: Selbst wenn wir sagen, dass Minderjährige die Plattform nicht nutzen sollten, wird das sie am Ende nicht davon abhalten.
Ich stimme dir also zu. Ich denke, Pandora ist aus der Box und nun liegt es an uns, sichere Umgebungen zu schaffen. Selbst wenn der eigentliche Zielnutzer nicht unter 18 ist: Vielleicht können wir da etwas rauszoomen. Ich habe deine Rede auf dem AI Agent Security Summit gesehen und du hast bei LinkedIn geschrieben: “Spielplätze für Kinder werden nicht nur physisch, sondern digital, intelligent und unvorhersehbar sein.”
Was meinst du damit? Und ab wann sollten wir das bei unseren heutigen Entwicklungen berücksichtigen?
Aderonke Akinbola: Noch eine sehr gute Frage, Galen. Denk einfach mal an einen physischen Spielplatz – viele haben heute weiche Böden und abgerundete Kanten, richtig? Auch KI ist so eine Art Spielplatz.
Aber es ist ein anderer Spielplatz: Einer, der zurückspricht und Gedanken formt. Kinder geben KI-Agenten Gefühle – manche glauben sogar, die KI sei wirklich ein Freund.
Sie können in eine Art Falle (“deterring pit”) geraten, wenn sie überzeugt sind, die KI wäre ein echter Freund.
Dadurch sind sie besonders anfällig für Social Engineering. Wie planen wir dafür? Das ist nichts, was wir in der QA-Phase, also kurz vor Fertigstellung, machen. Es braucht einen “Shift Left” Ansatz – also viel früher, schon auf Architekturebene, sollten z.B. Kinderpsychologen eingebunden werden.
Schon während des Modeltrainings, also wenn das Modell trainiert wird, sollte gefragt werden: Soll das Modell einen Verkauf unterstützen oder soll es menschliche Entwicklung fördern? Wenn wir das berücksichtigen, denken wir wirklich an die Kinder – wir schaffen einen digitalen Spielplatz, der kindgerecht ist und Schutz bietet.
Galen Low: Das Bild mit dem gepolsterten Boden und den abgerundeten Kanten gefällt mir, und zwar nicht nur auf Spielplätzen! Auch zu Hause musste ich alles kindersicher machen, weil man weiß, dass Kinder überall hineingreifen – und sie sollen sich nicht verletzen und sich gesund entwickeln dürfen.
Ich finde deinen Punkt zur Cybersicherheit wichtig. Meinst du, dass Kinderpsychologen fest in Projekt- oder Produktteams eingebunden sein sollten? Auch wenn das Ziel des Produkts zum Beispiel einfach nur ist, etwas zu verkaufen?
Aderonke Akinbola: Ich denke, wir müssen sie nicht zwingend als Festangestellte holen, aber zumindest als Berater*innen. Überleg mal: Die neuen KI-Systeme wie GPT und Gemini sollten ursprünglich vielleicht Erwachsenen helfen, produktiver zu arbeiten. Aber inzwischen haben wir eine ganze Generation von „iPad-Kindern“. Wie hindern wir sie daran, Gemini zu nutzen?
Galen Low: Ich kann aus Erfahrung berichten: Mein Sohn geht verantwortungsbewusst mit Technik um, er hat Zugang zu einem Gerät. Gerade bei Google: KI ist ja direkt in der Suche integriert. Ich musste ihm nichts erklären – er konnte es einfach verwenden und plötzlich ergab sich ein Gespräch ...
Ja, es ist überall relevant und greifbar.
Aderonke Akinbola: Ich lebe auch mit einem Kleinkind zusammen, und er ist noch nicht mal richtig groß, aber kann trotzdem „Hey Siri“ sagen.
Galen Low: Faszinierend, oder?
Aderonke Akinbola: Ja, weil er es von mir hört. Und wie reagiert Siri auf „Hey Siri“ von einem Kind? Es gibt unendlich viele Möglichkeiten, was ein Kind fragen könnte. Ich denke, wir sollten frühzeitig solche Gespräche führen, um verantwortungsvoll zu entwickeln.
Ich erwarte keinen sofortigen Wandel in den nächsten zwei oder fünf Jahren. KI entwickelt sich explosionsartig. Jede Woche gibt es neue Updates. Aber die Sensibilisierung sollte jetzt beginnen – dann sehen wir weiter.
Galen Low: Das Siri-Beispiel zeigt, wie Kinder einfach mit Technologie sprechen und darauf zugreifen. Das ist nicht geplant, das passiert einfach. Die beratende Rolle ist sehr sinnvoll. Auch bei der Cybersicherheit plant man ja nicht für den „guten Nutzer“, sondern für den Missbrauchsfall, für die Extrem- und Randfälle. Du erwähnst die vielen Updates, das ist ein echter Boom. Eine „pikante“ Frage: Machen die KI-Unternehmen deiner Meinung nach genug, um Updates im Hinblick darauf zu entwickeln, dass ihre Plattformen und Modelle von Kindern genutzt werden?
Aderonke Akinbola: Ich denke, das ist derzeit nicht ihr Fokus. Im Moment schauen viele Unternehmen darauf, wie sie möglichst viel von dem Potenzial der KIs ausschöpfen können: Ihre Modelle intelligenter, schneller, leistungsfähiger machen. In dieser sehr schnellen Umgebung steht die Entwicklung für Kinder derzeit am Rande. Das ist einer der Gründe, warum ich mich auf Kindersicherheit und Cybersicherheit im KI-Bereich konzentriere.
Viele der ersten Maßnahmen betreffen eher die Eltern als die Entwickler selbst. Das wäre mein Eindruck dazu.
Galen Low: Sehr interessant. Ich stimme zu: Es ist wie ein KI-Rennen. Sie alle bauen das schnellste Auto – der Sicherheitsgurt kommt später. Erst Motor, Fahrwerk, Tempo – und die Kindersitz-Klemme irgendwann später. Kindersicherheit ist aktuell nicht das Hauptziel. Aber Verantwortung liegt dann auch bei den Teams, die auf den Modellen aufbauen, und auf den Eltern. Es gibt keinen einzelnen Verantwortlichen – wir alle haben eine Rolle. Kommen wir zurück zu der Frage, wie sich KIs für Kinder und Erwachsene unterscheiden. Sind die Risiken für Kinder aus deiner Sicht einfach höher und was genau macht das KI-Erlebnis für Minderjährige aus?
Aderonke Akinbola: Für Kinder sind die Risiken exponentiell höher. Für Erwachsene bedeutet ein Datenleck vielleicht eine neue Kreditkarte. Vielleicht bekommt man eine E-Mail – Ihre Daten wurden betroffen, aber alles ist noch okay. Für Kinder ist das anders: Ihre KI-Daten sind ein permanenter digitaler Fingerabdruck – eine Aufzeichnung ihrer kindlichen Neugier und Persönlichkeit, was spätere Bewerbungen oder Studienplätze beeinflussen kann.
In meinem Vortrag auf dem Zen’s AI Agent Summit spreche ich von den drei Schatten, die Kinder bei KI begleiten: Schatten des Einflusses – KI kann für ein Kind überzeugender sein als ein:e Lehrer:in oder Eltern. Sie verbringen viel Zeit mit diesen Tools und Kindern nehmen alles auf wie Schwämme – sie können einem Agenten stärker glauben als einer realen Person. Dann der Schatten der Offenlegung – dieser permanente Datenpfad. Und schließlich der Schatten der Stagnation: Wenn KI zu „hilfreich“ ist und alles abnimmt, kann das kritisches Denken und Durchhaltevermögen ausbremsen. Fehler sind Teil des Lernprozesses, aber wenn das immer automatisiert wird, verlieren die Kinder diese Erfahrung. Die Modelle müssen sie auch anregen und zu Pausen motivieren, statt sie zu sehr zu fesseln.
Galen Low: Das finde ich spannend. Aus Usersicht will man eigentlich Reibung und Friktion vermeiden, aber du sagst: Die darf es für Lernende durchaus geben, weil genau daran Entwicklung geschieht. Zu schnelle, bequeme Lösungen bremsen Entwicklung. Es ist interessant, dass es wie in anderen technischen Plattformen heute Funktionen gibt, die einen an Pausen erinnern, ans Aufstehen (wie bei meiner Smartwatch) oder Screen-Time-Limits. Das könnte KI für Kinder noch mehr übernehmen: Als verantwortungsvolle, weniger süchtig machende Technologie. Das einzubauen – zu sagen „geh mal nach draußen“, klingt eigentlich nach geringem Aufwand, auch wenn die Überzeugungsarbeit im Unternehmen aufwendiger sein könnte. Aber es gibt Möglichkeiten, darauf zu reagieren.
Aderonke Akinbola: Ich glaube, wir werden in den nächsten Jahren dazu noch viel mehr Forschung bekommen. Bisher gibt es schon einige, aber wir brauchen mehr, um herauszufinden, wie sich diese Tools auf Kinder unter 18 auswirken. Die große KI-Welle begann ja um die Corona-Zeit herum, und viele Kinder, die damals geboren wurden, werden jetzt sechs. Bis wirkliche Langzeitstudien vorliegen, dauert es noch. Bis dahin braucht es aber Fürsprecher, die auf das Thema aufmerksam machen und es nicht aus den Augen verlieren.
Galen Low: Ja, Forschung braucht Zeit, aber bis dahin dürfen wir nicht sorglos sein. Wir müssen das Thema adressieren, solange wir noch keine gesicherten wissenschaftlichen Ergebnisse oder fertigen Lösungen haben. Du bist eine große Verfechterin von KI-Bildung, und du sprichst dich dafür aus, ethische, sicherheitsrelevante und schutzbezogene Aspekte mit zu denken. Was können Teams bei der Entwicklung tun, um Sicherheitsvorkehrungen in KI-Lösungen zu integrieren – egal ob Consumer-Produkt oder kleiner Prototyp? Welche Gespräche und Fragen sollten sich Entwicklungsteams stellen, um junge, schutzbedürftige Nutzer*innen zu berücksichtigen?
Aderonke Akinbola: Wir sollten vom Black-Box-Modell zu einem Building-Block-Modell wechseln. Für Projektmanager:innen bedeutet das: gewollte Reibung einbauen. Für Erwachsene wollen wir Reibung vermeiden – für Kinder müssen wir sie erhöhen. Wenn ein Kind mühelos durch ein Spiel rauscht, fehlt die Herausforderung. Die KI sollte wie ein kognitiver Load-Balancer agieren und passend schwierige Aufgaben geben, damit Kinder zum Nachdenken angeregt werden.
Ein weiterer Punkt ist erklärbare KI (XAI), die nicht nur Ergebnisse ausspuckt, sondern den Prozess nachvollziehbar erklärt. Statt einfach zu sagen „Schau dieses Video“, sollte die KI begründen, wie sie zu ihrem Vorschlag kam, so dass Kinder algorithmische Grundkompetenz entwickeln.
Schließlich wäre ein großer Sicherheitsgewinn, Lernen lokal auf dem Gerät zu halten (Federated Learning). So bleibt die Privatsphäre besser gewahrt, weil Daten gar nicht erst an zentrale Server gesendet werden – das, was ein Kind fragt oder tut, bleibt im eigenen Zimmer.
Wenn ein Kind also z.B. mit drei Jahren eine kindliche Frage an eine KI stellt, hat das mit dieser Technologie keine Konsequenzen mehr für einen späteren College-Zugang oder Bewerbungen. Denn neugierige Kinderfragen sollen kein lebenslanger Nachteil werden. Kinder sind wissbegierig, und wir sollten sie dabei schützen!
Galen Low: Ja, wie du sagtest: Im Rechtssystem gibt es Nachsicht mit Minderjährigen, weil sie lernen. Wir wollen Kinder nicht für Neugier bestrafen, sondern fördern. Und Angst darf nicht zur Folge haben, dass Entwicklung unterdrückt wird. Daher: Datensicherheit und Fehlerfreundlichkeit für einen sicheren Lernraum.
Ich stelle mir so eine Art „Modus“ vor, ähnlich wie im Gaming – die ersten Level sind Lernphasen, in denen Fehler erlaubt sind. Dann wird das Niveau angepasst. Auch Produkte mit Verkaufsfokus können das berücksichtigen. Wie kann ein Team das als Anforderung platzieren? Wie überzeugst du Stakeholder, dass dieser Aufwand/Budget notwendig ist? Wie hast du das schon erlebt?
Aderonke Akinbola: Ehrlicherweise habe ich persönlich dafür noch nicht gekämpft, weil ich nicht direkt in Teams arbeite, die KI-Systeme entwickeln, sondern mehr für Netzwerksicherheit verantwortlich bin. Aber ich glaube, die Bedeutung wird mit der Zeit immer offensichtlicher – durch Forschung, durch gesellschaftliche Entwicklungen. Auch wenn es jetzt vielleicht schwer ist, solche Anforderungen durchzusetzen: Dran bleiben, immer wieder ansprechen. Ideen, die heute abgelehnt werden, finden vielleicht in Zukunft Gehör und werden dann selbstverständlich Teil eines Produkts.
Schau mal: Heute gibt es inzwischen Social-Media-Verbote für Jugendliche (wie in der EU oder Australien). Social Media ist etwas anderes als KI, aber dennoch ein Schritt in die richtige Richtung – also: Weiter ansprechen, weiter auf das Thema aufmerksam machen, bis die Verantwortlichen verstehen, wie wichtig Schutz für Kinder ist.
Galen Low: Da hast du Recht. Früher bei Social Media haben wir viel zu wenig über Schutz diskutiert, die falschen Nutzergruppen im Fokus gehabt und Gefahren zu spät erkannt. Mit KI müssen wir das jetzt anders machen – damit wird es zum Teil unserer gesellschaftlichen Debatte. Wenn wir zu lange zögern: Gibt es dann mit KI die gleichen Fehler wie mit Social Media? Was steht auf dem Spiel?
Aderonke Akinbola: Es gibt viel zu verlieren, aber ich denke, wir sind heute viel aufmerksamer als zu Social-Media-Beginn. Damals hat die Identifikation der Probleme lange gedauert, heute findet die Diskussion schon statt. Allerdings sind viele KI-Entwicklungen immer noch stärker profitorientiert als ethisch motiviert. Aber sobald ein Problem gesellschaftlich erkannt ist, ist meist schon viel gelöst.
Außerdem: KI ist heute schon Teil von Social Media. Instagram hat KI, WhatsApp hat KI – alles hat KI. Wir können es gar nicht mehr trennen: Sie sind eins. Wir dürfen also keine Zeit verlieren, sondern das Thema auch auf politischer Ebene treiben, auf Ebene von Richtlinien und Gesetzgebung. Wenn Entwickler das Thema ignorieren, muss vielleicht die öffentliche Hand Verantwortung übernehmen – etwa durch Förderprogramme oder Vorgaben in Schulen. So sorgen wir auch für Gleichheit, weil Kinder weltweit Zugang zu sicheren Technologien brauchen.
Galen Low: Ja, Teil jeder Regierung ist es, zukünftige Generationen zu entwickeln – sei es im Interesse der Wirtschaft oder des Überlebens der Region, des Landes oder Staates. Interessant ist dabei: Advocacy ist ein Gegengewicht zu rein marktwirtschaftlichen Anreizen. Wenn Kinder nicht die zahlenden Zielgruppen sind, braucht es Lobbyarbeit, um Schutz in die Produkte einzubauen und in der Entwicklung zu berücksichtigen.
Aderonke Akinbola: Ich möchte gern noch das Konzept des digitalen Guardians ansprechen. Bei der Entwicklung der Modelle sollten wir so etwas wie einen zentralen, ethischen Schutzwall – einen digitalen Wächter – einbauen. Dieser ist mehr als nur eine App, sondern eine Art Vermittlungsschicht mit drei Funktionen: Erstens ist er ein „emotionales Thermometer“ – er merkt, wenn ein Kind zu sehr gebunden, abhängig oder isoliert wird, und warnt oder stoppt die Nutzung.
Zweitens agiert der digitale Guardian als „digitaler Anwalt“ und verhandelt die Datenschutzeinstellungen mit anderen Apps. Er prüft z.B., ob ein Kind auf bestimmte Inhalte zugreifen darf, und fordert ggf. an, dass Daten nur lokal und temporär gespeichert werden.
Drittens wirkt er wie eine Kontrollinstanz, die komplexe KI-Prozesse in kleine Einheiten („Building Blocks“) herunterbricht, die Kinder verstehen.
Wichtig: Schutz sollte kein Luxus sein. Nicht eine Premium-Funktion, sondern überall kostenlos verfügbar – das gilt für ein Kind in Ghana genauso wie für ein Kind in San Francisco. Nur so schaffen wir wirklich sichere Technologien für alle.
Galen Low: Ein sehr guter Punkt: KI ist nicht nur eine Technologie, vor der wir Kinder schützen müssen – sie kann auch der Schutzmechanismus selbst sein. Die Idee des digitalen Guardians finde ich gut, vor allem mit dem Gedanken der Chancengleichheit und Barrierefreiheit. Es sollte einfach integriert und nicht nur ein optionales Premium-Feature sein. Dieser Wächter agiert wie eine Firewall, als Mittler zwischen Kind und Technologie, und sorgt für Transparenz und Schutz – für alle.
Mich interessiert: Wie weit sind wir davon entfernt, so einen Guardian wirklich zu bauen? Ist das Zukunftsmusik oder schon greifbar?
Aderonke Akinbola: Gute Frage – es sollte nicht Jahrzehnte dauern, aber auch nicht in ein, zwei Jahren schon da sein. In etwa fünf Jahren sollten wir intensiver über genau dieses Thema sprechen. Es braucht eine Brücke zwischen den Unternehmen, die KI-Systeme bauen, und den politischen Entscheidungsträgern. Wenn Technologie das Leben erleichtern soll, darf sie nicht gleichzeitig in eine gefährliche Richtung kippen. Dieser Dialog ist dringend und muss jetzt beginnen, nicht erst in zehn Jahren. Die Entwicklung ist rasant – bei Robotik sehen wir das aktuell auch.
Galen Low: Stimmt, vergleichbar mit der Datenschutz-Grundverordnung (DSGVO) – auch da dauerte die politische Diskussion sehr lange, aber der Handlungsdruck steigt. Bei Künstlicher Intelligenz schreitet die Entwicklung schneller voran, also muss auch der Diskurs beschleunigt werden.
Aderonke Akinbola: Es gibt auch eine andere, einfache Lösung: Verschiedene Modi – einen Erwachsenenmodus, einen Kindermodus, vielleicht sogar einen Modus für Kleinkinder und einen für Jugendliche. Es reicht vielleicht, einfach ein Layer oder einen Filter über die bereits existierenden Systeme zu legen. Mit all dem Geld und den Ressourcen, die in KI gesteckt werden, wäre es falsch, nicht direkt mit an Sicherheit und Schutz für alle Kinder zu denken, anstatt später alles wieder umzumodeln.
Galen Low: Ich liebe dieses Mindset: Für die Zukunft bauen.
Aderonke Akinbola: Ja, das sollte das Motto dieser Episode sein.
Galen Low: Vielleicht sogar der Titel: Zukünftige Generationen und wie wir für sie entwickeln. Mir hat unser Gespräch sehr gefallen, Ade! Ich habe viel gelernt.
Ich schätze deine Perspektiven und deine Denkweise sehr. Für alle, die mehr erfahren wollen – du bist ja nicht auf allen Konferenzen dieses Jahr, aber wie findet man dich am besten?
Aderonke Akinbola: Gerne einfach über LinkedIn – mein Name, Aderonke Akinbola. Ich bin aktuell im Bay Area, San Francisco. Es gibt vielleicht noch andere mit dem Namen, aber ich bin vermutlich die Einzige da vor Ort. Ich habe keine Website; mein letzter Vortrag ist auf YouTube beim sanity channel zu finden. Ich arbeite gerade an einer Website, aber aktuell steht die Advocacy für Kinder im Vordergrund.
Galen Low: Den Link zu deinem Profil findet ihr auch in den Shownotes, ebenso wie zu deinem Vortrag. Danke, Ade, für dieses intensive Gespräch.
Aderonke Akinbola: Vielen Dank, Galen, es war großartig hier zu sein. Danke für die Möglichkeit.
Galen Low: Das war’s mit der heutigen Episode des Digital Project Manager Podcasts. Wenn euch das Gespräch gefallen hat, abonniert uns auf eurer Lieblingsplattform. Noch mehr Insights, Case Studies und Playbooks gibt’s kostenlos unter thedigitalprojectmanager.com.
Bis zum nächsten Mal und danke fürs Zuhören.
