Privacidad desde el diseño: cómo crear una estrategia de IA que no comprometa la confianza
Este artículo fue adaptado del episodio "Una estrategia de IA basada en la privacidad: cómo es y por qué importa" del pódcast de DPM.
Ventaja regulatoria: Las industrias reguladas pueden reutilizar prácticas establecidas de gobernanza, cumplimiento y respuesta ante incidentes para implementar la IA de manera responsable.
División de riesgos: Separar las herramientas internas de las funcionalidades del producto ayuda a las organizaciones a evaluar con mayor precisión los riesgos, los controles y la responsabilidad relacionados con la IA.
Privacidad primero: Una estrategia de IA centrada en la privacidad protege los datos personales, la información propia y la seguridad, al tiempo que aclara el valor empresarial esperado.
Propiedad compartida: Las organizaciones deben definir sus convicciones sobre la propiedad de los datos antes de establecer principios éticos o diseñar políticas de IA.
Responsabilidad práctica: Los equipos multifuncionales, las matrices de riesgos, la capacitación de los empleados y el escrutinio de los proveedores ayudan a evitar atajos y respaldan decisiones tomadas con confianza.
La mayoría de las personas asume que las industrias altamente reguladas —servicios financieros, atención sanitaria, energía y telecomunicaciones— están destinadas a avanzar lentamente en materia de IA, lastradas por la burocracia mientras los sectores menos regulados se apresuran. Según Lauren Wallace, asesora estratégica y antigua directora jurídica de RadarFirst, esa suposición es errónea.
Wallace, que ha ocupado cargos jurídicos y de desarrollo empresarial en Apple, Microsoft y Nike, sostiene que las empresas reguladas en realidad llevan ventaja a la hora de crear programas de IA conformes con la normativa y responsables. Este artículo desglosa su marco para una estrategia de IA basada en la privacidad: cómo se ve a nivel de componentes, cómo conseguir el respaldo de la organización y dónde se encuentran realmente los mayores riesgos —y oportunidades—.
Desbloquea Gratis
Crea una cuenta gratuita para terminar de leer este contenido y unirte a una comunidad de líderes visionarios que están desbloqueando herramientas, manuales y conocimientos para prosperar en la era de la IA.
Have an account? Log In
Por qué las industrias reguladas quizá ya llevan ventaja
Los principios fundamentales que sustentan la gobernanza de la IA —transparencia, rendición de cuentas y supervisión de sesgos— no son invenciones nuevas. Como explica Wallace, "los principios que sustentan la gobernanza de la IA, como la transparencia, la rendición de cuentas, la supervisión de sesgos y la prevención… ya están incorporados en los marcos regulatorios existentes". Esto incluye el RGPD, pero también las leyes de préstamos justos, las leyes de igualdad de oportunidades y muchos otros marcos de derechos civiles y protección de los consumidores.
Los principios que sustentan la gobernanza de la IA, como la transparencia, la rendición de cuentas, la supervisión de sesgos y la prevención… ya están incorporados en los marcos regulatorios existentes.
Por ejemplo, los bancos llevan años operando bajo "normas de gestión de modelos" para la toma de decisiones algorítmicas; normas que, en palabras de Wallace, "se traducen fácilmente en lo que estamos analizando con todas estas herramientas de IA". Las organizaciones de estos sectores normalmente ya cuentan con programas de cumplimiento, recursos específicos de gobernanza y herramientas de aplicación desarrolladas en torno a estos marcos.
Esto también se aplica a la respuesta ante incidentes. Wallace es clara al respecto: "No importa dónde se origine el incidente, ya sea por un fax enviado a la persona equivocada o por una IA a la que hayas habilitado para utilizar información personal. Un incidente es un incidente". Las normas de seguridad y notificación de privacidad no establecen una excepción para la IA y, como ella misma señala, "desde luego, no puedes simplemente culpar a tu IA".
Entonces, ¿dónde está el verdadero riesgo? No en las empresas que cabría esperar. "En realidad, creo que el mayor desafío es para las empresas medianas", afirma Wallace. "Pueden enfrentarse a estas presiones regulatorias por primera vez cuando incorporan la IA a sus flujos de trabajo, y ahora se preguntan por dónde empezar".
Separa tus casos de uso en dos vectores
Wallace recomienda dividir las iniciativas de IA en dos categorías desde el principio:
- Usos internos de la IA para la productividad, sustitución de herramientas existentes o mejoras funcionales.
- Casos de uso de IA para el desarrollo de productos.
Como señala, "hay consideraciones muy diferentes para cada uno de ellos"; tratar la estrategia de IA como un único esfuerzo indiferenciado dificulta evaluar los riesgos con precisión.
Empieza con la privacidad desde el diseño, pero no te limites a los datos personales
Un enfoque basado en la privacidad va más allá de proteger la información de los clientes. Wallace señala la necesidad de proteger "no solo la información personal, sino también la información de propiedad exclusiva de la empresa", ya que "aparecen muchos riesgos nuevos cuando introduces información de la empresa en un LLM como ChatGPT".
Tenemos una nueva y sorprendente superficie de ataque con la IA. Por eso, tienen que asegurarse de que su seguridad esté bien ajustada.
También señala directamente la postura de seguridad: "Tenemos una nueva y sorprendente superficie de ataque con la IA. Por eso, tienen que asegurarse de que su seguridad esté bien ajustada". Pero, por encima de todo, hace hincapié en la alineación interna: "iniciar la conversación interna para entender qué quieren hacer con la IA, qué creen que pueden hacer con la IA y cuál es el ROI real que esperan conseguir".
Elige el nivel más alto, no el mínimo común denominador
Las distintas normativas de privacidad comparten valores subyacentes similares, pero los aplican de maneras diferentes. El consejo de Wallace es: "Intenten encontrar ese nivel más alto. Intenten encontrar lo que es coherente en todos los entornos normativos en los que operan y traten a todos como si estuvieran sujetos a ese mismo enfoque basado en los principios más exigentes".
La alternativa —intentar cumplir en todas partes apenas con el mínimo legal— resulta contraproducente. "Puede parecer que eso les va a ahorrar cierta exposición normativa", afirma, "pero les va a costar mucho más en implementación y en capacidad mental cuando intenten hacer cosas interesantes".
Tampoco se trata únicamente de la exposición normativa. "Fomentará un enfoque ético del trabajo que realizan", explica Wallace, "incluso cuando no tengan las obligaciones normativas detalladas en algún lugar al que puedan señalar capítulo y versículo". El riesgo jurídico puede surgir de lugares inesperados —"una demanda colectiva", "algún equipo jurídico emprendedor" o "sus competidores"—, no solo de un organismo regulador.
Decide cuál es la postura de tu organización sobre la propiedad de los datos
Antes de redactar una lista de principios éticos para la IA, sostiene Wallace, las organizaciones deben responder primero una pregunta más fundamental. Expone tres filosofías globales contrapuestas sobre la propiedad de los datos:
Sobre el modelo de la UE: "La privacidad es un derecho humano fundamental, y el derecho a decidir sobre el uso de la información personal pertenece al titular de los datos: la persona".
Sobre el modelo histórico de EE. UU.: "Hemos considerado que el valor de esa información personal pertenece a la empresa que la recopiló porque obtiene valor de ella y, por tanto, seguramente, si extrajo ese valor, debe pertenecerle".
Sobre un tercer modelo presente en otros lugares: "El valor de la información personal, de hecho, el contenido específico de la información personal, se considera propiedad del Estado, porque el Estado va a utilizarla en el mejor interés del titular de los datos".
Su argumento es que las empresas deben elegir conscientemente cuál es su postura, en lugar de llegar a ella por inercia: "¿Creemos como organización que prestamos un servicio al extraer valor de la información personal? [¿O] creemos que prestamos un servicio al ayudar a nuestros clientes a utilizar la información personal en beneficio del titular de los datos?" Esa decisión, afirma, debe tomarse antes de elaborar la lista de principios éticos: "no es con una lista de principios como la equidad, la responsabilidad y la mitigación del sesgo en el centro" como se debe empezar.
El costo oculto del enriquecimiento de datos
Los puntos de datos individuales pueden parecer inútiles de forma aislada, pero Wallace advierte que la agregación cambia la ecuación: "La información que proporcionaron a un proveedor en una ocasión concreta puede no tener, por sí sola, demasiado valor. Pero, una vez agregada, enriquecida y revendida a terceros que pueden utilizarla para otras cosas, su valor aumenta considerablemente".
Lo ilustra con la historia real de una adquisición: un banco importante compró una empresa emergente específicamente por una lista de "4 millones de nombres de personas que habían contratado sus servicios de préstamos estudiantiles", por unos "175 millones de dólares", con el razonamiento de que una lista de posibles clientes completa y verificada valía aproximadamente "cien dólares por persona", frente a su costo habitual de adquisición de clientes de "unos 150 dólares". El problema fue que "descubrieron que esos 4 millones de nombres eran falsos. Se habían generado sintéticamente mediante algún tipo de programa de IA" y la operación se frustró.
Su conclusión cuestiona la ligereza con la que las personas tratan sus propios datos: "Este gran banco pensaba que valías al menos cien dólares. Entonces, ¿harías [tú, como consumidor] algo diferente con esos datos si conocieras su valor?"
Integra la responsabilidad en el equipo del proyecto, no solo en la sala de juntas
El «tono desde arriba» importa, dice Wallace, pero «eso solo te lleva hasta cierto punto cuando operamos a nivel de proyecto». La responsabilidad real exige reunir en la mesa a un grupo verdaderamente multifuncional para cada iniciativa de IA: «debes tener al equipo de producto en la mesa, al de ingeniería en la mesa y al de seguridad en la mesa», además de funciones que a menudo se pasan por alto:
Éxito del cliente: «¿Entienden la funcionalidad lo suficientemente bien como para que, en ausencia del script, al menos tengan el vocabulario necesario para plantearle la pregunta a otra persona?»
Marketing: «¿Sabes si pertenecen a la categoría de personas alérgicas a la IA o al otro extremo, el de quienes están muy deseosas de probar cosas nuevas? ¿Cómo vas a ajustar el tono y adaptar tu mensaje para que, cuando hables de nuevas funciones…?»
Asuntos legales: «Puedes tener clientes en tu cartera que prohíban el uso de IA en los productos que te compran. Eso puede estar enterrado en alguna parte del contrato. Podría hablar de toma de decisiones algorítmica o del uso de modelos. Podrías tener un contrato de hace 10 años que prohíba este uso».
El objetivo, dice Wallace, es contar con un equipo que asuma su responsabilidad en el momento.
Separar el uso indebido involuntario de la asunción intencionada de riesgos
Wallace establece una clara distinción entre la exposición accidental y el recorte deliberado de procedimientos. En el lado accidental: «La mayoría de estas herramientas que utilizamos cuentan con configuraciones que puedes activar para controlar si se expone tu información personal o la información confidencial de tu empresa».
El problema más difícil es el atajo impulsado por los plazos: alguien decide «subir este conjunto de datos a un LLM público» porque «tenemos que entregarlo el viernes». La respuesta de Wallace ante ese escenario es contundente: «Simplemente no lo hagas».
Dar a los equipos permiso para decir que no
Decir que no no es punitivo, afirma Wallace, sino una disciplina: «No hay ningún placer en ello, ¿verdad? No es una especie de acto vengativo». Su herramienta recomendada es una matriz de riesgos sencilla —«la probabilidad en un eje y la gravedad en el otro»— que permite a una organización mantener «una conversación realmente sincera sobre dónde está vuestro punto en ese campo» y acordar colectivamente dónde se sitúa el límite.
Habla con franqueza de cómo lo aplica ella misma al evaluar proveedores en RadarFirst: «Evaluamos cientos de proveedores a lo largo del año. Hubo una proporción bastante alta que rechazamos. Dijimos: "no tenemos suficiente información, o no han publicado un centro de confianza en el que podamos profundizar de verdad, o están utilizando modelos subyacentes que no nos han revelado"».
Y la ignorancia no sirve como defensa a posteriori: «No puedo acudir a un proveedor y decir: “En realidad no entendía lo que hacíais cuando os lo compré”. La ignorancia no es una defensa válida ante la ley. Nunca lo ha sido. Nunca lo será».
No puedo acudir a un proveedor y decir, «En realidad no entendía lo que hacíais cuando os lo compré.» La ignorancia no es una defensa válida ante la ley.
Desarrollar la alfabetización en IA en toda la organización, no solo en la dirección
En RadarFirst, el equipo de Wallace organizó una serie educativa recurrente: «Hace aproximadamente un año y medio, pusimos en marcha una sesión mensual de almuerzo y aprendizaje sobre IA ética. En cada sesión abordábamos un tema: la agencia y la supervisión humanas, la transparencia o la responsabilidad». Las sesiones utilizaban las directrices de IA de la UE como base y se apoyaban en casos reales de la Base de Datos de Incidentes de IA: «Casos impactantes, recién salidos del horno, que habían puesto en cuestión estos principios de transparencia o de mitigación de sesgos».
Wallace deja claro que el objetivo no era cambiar la opinión de nadie en ese momento: «Quizá cuando salían de la sala no habían cambiado de postura. Es comprensible. Pero cuando regresaban a sus escritorios, tenían el vocabulario necesario para debatir sus inquietudes con el equipo, elevarlas al departamento jurídico o al de cumplimiento, o comunicárselas al equipo de producto, según correspondiera».
En cuanto a quién debería dirigir estas sesiones, no cree que sea necesario contratar a una persona dedicada a la ética de la IA: «Incluso podría imaginar que esa responsabilidad se repartiera mes a mes entre distintas personas y que cada vez se obtuviera un valor ligeramente diferente».
La regulación se está poniendo al día lentamente: actúa ahora conforme a tu propia ética
Wallace presenta la propia ley como un indicador rezagado de los valores compartidos: «La ley no es más que una forma de plasmar por escrito cuáles son nuestros principios éticos compartidos y ponerlos en un lugar donde la gente pueda encontrarlos». Mientras tanto, los litigios cubren el vacío y se ocupan de cuestiones «cuando son novedosas, cuando son nuevas, cuando aún no han surgido y no ha habido tiempo de procesarlas a través de los ciclos legislativos», pero ese proceso es lento por diseño: «las ruedas de la justicia muelen despacio, pero muelen muy fino».
Señala la legislación sobre IA de Colorado como una historia aleccionadora: el estado «actuó bastante rápido. Crearon algo bastante bueno y luego tuvieron que retirarlo porque no lograron descubrir cómo promulgarlo realmente». Las empresas que habían creado de forma proactiva procesos de cumplimiento en torno a ella se quedaron esperando.
Su recomendación es dejar de tratar la puesta al día normativa como la meta final: «Si sabes lo que significa ser una organización ética, si sabes cuál es tu umbral de riesgo, vas a colocar tu riesgo legislativo o de litigio en el lado correcto de esa categoría y decir: de acuerdo, estamos dispuestos a afrontarlo si llega el momento. Pero ahora mismo no sabemos lo suficiente; lo que sabemos de nosotros mismos es lo que creemos que es correcto y lo que creemos que nuestros clientes esperan de nosotros. Eso sí podemos ponerlo en práctica hoy».
¿Quieres más información como esta? Regístrate para obtener una cuenta DPM gratuita y escucha a más expertos como ellos.