A medida que la IA se vuelve más inteligente, sus peores errores son más difíciles de detectar

Paralelamente a mi trabajo de investigación, pasé muchos años como educador y mentor en matemáticas. Tras terminar el doctorado, comencé a escalar ese trabajo de manera más deliberada construyendo programas estructurados y pensando cuidadosamente en el diseño de proyectos educativos más complejos. En paralelo, me involucré en proyectos de inversión e infraestructura, lo que trajo presión en la toma de decisiones y agudizó mi forma de pensar sobre la ejecución bajo incertidumbre.

Hoy soy Cofundador y Director Ejecutivo (Producto & Participación) de Cantabrium Scholars, una joven empresa educativa y consultora que está muy enfocada en su desarrollo. Mi rol se centra en liderar y evolucionar el producto y la experiencia estudiantil a través de los programas, desde el diseño académico y la calidad de los mentores hasta la comunicación con los padres y la retención. También implica gestionar la entrega en múltiples etapas a través de equipos y geografías, asegurando la coherencia de proyectos complejos a medida que evolucionan. Además, participo estrechamente en la formación de alianzas y en la definición del rumbo académico y el enfoque general de entrega de la organización a medida que crecemos.

Dónde es más valiosa la IA en el ciclo de entrega

La IA ha sido especialmente útil para mí durante mi transición de entornos puramente centrados en la investigación a roles que exigen una ejecución más rápida, coordinación transversal y toma de decisiones en el mundo real.

En mi trabajo actual, la IA ha resultado más valiosa en dos puntos del ciclo de entrega:

Al principio, sirve como una vía rápida para aprender nuevos ámbitos y poner a prueba ideas mientras se están formando decisiones. Muchos aspectos de los proyectos educativos y de inversión en los que participo requieren involucrarse con temas desconocidos rápidamente. La IA me ayuda a explorar opciones velozmente antes de detenerme a examinar las suposiciones. Concretamente, esto significa que utilizo la IA para clarificar la estructura de un área, resaltar los compromisos típicos y actuar como tablero de resonancia mientras refino mi propio análisis. En la práctica, esto suele ser clave para reducir errores: detectar suposiciones débiles o contradicciones internas antes de que se propaguen en un proyecto.

Luego, una vez que la dirección está clara, la IA resulta especialmente eficaz para reducir los costos de ejecución y coordinación. Ahora dedico mucho menos tiempo a producir versiones repetidas del mismo material: traducir contenido a diferentes formatos, adaptarlo a distintas audiencias o países, o mantener documentos paralelos actualizados. Mantener una memoria clara de las decisiones previas y el contexto también facilita mucho la generación rápida de nuevas versiones de materiales sin perder la intención al evolucionar los proyectos.

También ha resultado sorprendentemente útil en contextos con alta carga de negociación: mapear rápidamente las posiciones de ambas partes, identificar las restricciones probables y los puntos innegociables, y probar dónde puedo ceder y dónde las objeciones son de principios. En la práctica, suelo pedirle que cree dos o tres paquetes de "intercambio justo" y luego los reviso según mis líneas rojas antes de entrar a la llamada. Eso facilita participar en las conversaciones con líneas rojas claras, concesiones creíbles y una comprensión más serena de cómo debería lucir un acuerdo justo.

Notas de Evgeny

La IA también ha sido inesperadamente útil en contextos con muchas negociaciones: mapear rápidamente las posiciones de ambas partes, identificar las restricciones probables y los puntos innegociables, y probar dónde puedo ceder frente a donde las objeciones son de principios.

Como resultado, más de mi atención se centra en el trabajo donde el criterio es esencial: decidir qué preguntas importan de verdad, formar la estructura inicial de los proyectos y navegar el lado humano de la entrega — alineación, compromiso y confianza. Las tareas como definir el alcance, ponderar compromisos, resolver desacuerdos y comprometerse con una dirección siguen siendo exclusivamente humanas, mientras la IA aporta síntesis, consistencia y memoria a lo largo del proceso de entrega.

Cada vez veo más a la IA como colaboradora en las primeras etapas del pensamiento y como aceleradora confiable más adelante, pero aún no como un sustituto del criterio original o una ejecución verdaderamente creativa desde cero. Ese límite está cambiando, pero por ahora el mayor beneficio en mi trabajo proviene de combinar un sólido juicio humano con un apoyo de IA selectivo y bien formulado.

Por qué un juicio humano más sólido es la parte más importante de la entrega habilitada por IA

Curiosamente, a medida que las salidas de la IA se vuelven más convincentes, el rol del juicio humano se vuelve más exigente, en lugar de menos.

En la etapa actual, gran parte del trabajo no es solo usar la IA, sino controlarla activamente: formular preguntas con cuidado, hacer explícitos los supuestos y evitar que la IA saque conclusiones no declaradas demasiado pronto.

En la práctica, esto significa que el humano debe actuar como un centro de estabilidad en el proceso. En nuestro trabajo, la IA a menudo converge rápidamente en estructuras limpias y elegantes que parecen coherentes internamente. Cuando las cosas se ven "demasiado limpias", se necesita una intervención humana deliberada para ralentizar el proceso, revisar supuestos sobre el trasfondo del estudiante, la motivación y la carga de trabajo, y evitar fijar algo que parece atractivo en papel pero que es frágil en la práctica.

Lo que hace que la intervención humana oportuna sea especialmente desafiante es que los errores rara vez aparecen como fallos obvios. A medida que los proyectos avanzan, las alucinaciones de la IA tienden a volverse más sutiles y convincentes, adoptando a menudo la forma de narrativas internamente consistentes construidas sobre supuestos incompletos o implícitos. En mi trabajo educativo, esto se ha manifestado como estructuras de programas que inicialmente parecían sólidas pero que habrían provocado cargas de trabajo desalineadas o expectativas poco realistas de trasfondo si no se hubieran detectado a tiempo. Cuando el texto que las rodea es fluido y bien estructurado, esos problemas pueden propagarse silenciosamente a menos que alguien intervenga deliberadamente.

He aquí una medida de protección práctica que usamos: cualquier estructura generada por IA que se vea “limpia” o que converja demasiado rápido es tratada como sospechosa por defecto. Antes de comprometernos, forzamos al menos una revisión que exponga explícitamente los supuestos, explore modos de fallo y ponga a prueba la estructura bajo diferentes restricciones. Este ha sido el método más fiable para identificar errores sutiles pero de alto impacto antes de que se propaguen.

De cara al futuro, espero que esta tensión aumente. A medida que los modelos mejoren, será más difícil desafiar arquitecturas que sean coherentes y persuasivas en la superficie. Mantener ese rol humano, ralentizando el proceso en los momentos adecuados, cuestionando supuestos y asumiendo la responsabilidad de las decisiones podría convertirse en uno de los aspectos más importantes y exigentes de la automatización de servicios profesionales con IA y la entrega.

Cómo usar la IA como revisor adversarial

Un giro simple puede ayudar en esto: usar la IA conversacional como revisor adversarial en lugar de como generador de contenido.

En vez de pedirle a la IA que produzca resultados terminados, la uso para interrogar estructuras propuestas: exponer supuestos ocultos, poner a prueba decisiones bajo escenarios alternativos y articular cómo podría fallar un plan si una sola premisa resultara ser incorrecta. Esto ha sido especialmente valioso en trabajos de diseño y relacionados con inversiones, donde las decisiones tempranas tienen consecuencias a largo plazo y la confianza mal situada es costosa.

Usada de este modo, la IA comprime los ciclos de pensamiento sin colapsar los matices. Permite exteriorizar, desafiar y refinar ideas a medio formar rápidamente, reduciendo la carga cognitiva y mejorando la calidad de las decisiones. En la práctica, esto ha llevado a identificar antes los supuestos débiles, a menos cambios de rumbo en últimas etapas y a un compromiso más deliberado una vez elegido un camino.

El valor de este caso de uso depende menos del modelo en sí y más de cómo se estructura la interacción. Pequeños cambios en los prompts pueden determinar si la IA converge prematuramente en una solución ordenada o si revela compensaciones importantes y modos de fallo. Al volver a los mismos cuestionamientos en distintas fases de un proyecto y repetir la comprobación de los supuestos a medida que cambia el contexto, esta interacción se convierte en parte del propio proceso de entrega. Con el tiempo, esa repetición se acumula: las decisiones permanecen alineadas, el razonamiento anterior sigue visible y la coherencia global en los proyectos mejora en vez de deteriorarse.

He aquí un ejemplo pequeño pero ilustrativo. Preguntar a la IA, “¿Qué opción es la mejor dadas estas restricciones?” solía producir recomendaciones limpias y seguras que convergían rápidamente. Reformular el prompt a, “¿Bajo qué condiciones fallaría esta opción y qué supuestos tendrían que ser falsos para que eso ocurriera?” produjo un resultado materialmente distinto: puso de manifiesto cuellos de botella operativos, riesgos de coordinación con socios y sensibilidades de los plazos que no eran evidentes en el planteamiento original. Ese cambio en la formulación del prompt cambió repetidamente los riesgos que abordamos antes y, en algunos casos, las opciones que descartamos por completo.

Notas de Evgeny

Preguntar a la IA, “¿Qué opción es la mejor dadas estas restricciones?” tiende a producir recomendaciones limpias y seguras que convergen rápidamente. Reformular el prompt a, “¿Bajo qué condiciones fallaría esta opción y qué supuestos tendrían que ser falsos para que eso ocurriera?” produjo un resultado materialmente distinto.

Cómo la IA está cambiando los rituales de entrega para centrarse en la calidad de las decisiones

La IA ha desplazado nuestros rituales de entrega, alejándolos de la simple presentación de actividades y orientándolos hacia la mejora de la calidad de las decisiones.

• Definir el alcance se ha vuelto tanto más explícito como más provisional. Debido a que la IA facilita la generación rápida de planes plausibles, hemos aprendido a ralentizar esta fase en lugar de acelerarla. Los primeros resultados se tratan como hipótesis para analizar, no como propuestas para ejecutar. Utilizamos la IA para mapear el espacio de opciones, identificar restricciones y localizar dónde permanece la incertidumbre antes de fijar el alcance.
• Alinear equipos ahora se centra en el razonamiento compartido en lugar de en artefactos compartidos. En vez de circular documentos pulidos de inmediato, a menudo usamos la IA para generar resúmenes concisos de suposiciones, compensaciones y preguntas sin resolver antes de las discusiones. Eso iguala el contexto y permite que las conversaciones de alineación se enfoquen en el juicio en vez de en la interpretación.
• Validar el trabajo se ha adelantado en el proceso. En lugar de revisar los resultados según una lista de control o un cronograma, utilizamos la IA para poner a prueba las suposiciones: preguntando cómo podría fallar una estructura, cuáles suposiciones conllevan mayor riesgo o qué cambia en casos extremos. Esto ha hecho que las conversaciones de validación sean más sustanciales y ha reducido las sorpresas en etapas finales.
• Gestionar la ejecución se ha vuelto más liviano, pero más deliberado. En vez de actualizaciones de estado, las revisiones periódicas se centran en decisiones que deben tomarse, intercambios que han surgido y dónde se requiere juicio humano. La IA aporta continuidad y síntesis en segundo plano, pero la responsabilidad y la toma de decisiones se mantienen claramente humanas.

En general, la IA no ha eliminado la necesidad de rituales de entrega: los ha hecho más intencionales. El énfasis se ha desplazado de seguir el progreso a tomar mejores decisiones, antes y con una mayor claridad de responsabilidades.

Cómo es una pila de IA para flexibilidad en la entrega de proyectos

Mi pila para la entrega de proyectos es deliberadamente liviana, orientada al texto y aumentada por IA en vez de estar saturada de herramientas. Eso refleja la naturaleza de mi trabajo, que tiende a tener alta incertidumbre y estar liderado por el diseño más que por la ejecución a gran escala.

En el núcleo están los documentos compartidos y hojas de cálculo a través de Google Workspace. Los documentos compartidos funcionan como la fuente de verdad principal para suposiciones, decisiones, responsables y estructuras en evolución, mientras que las hojas de cálculo se utilizan para modelos de costos, calendarios y comparaciones de escenarios, especialmente en contextos de inversión y planificación de ubicaciones. Slack y WhatsApp se emplean para lograr alineación y toma de decisiones rápidas, no para el seguimiento de tareas detalladas.

Para la gestión de proyectos, uso Notion y Linear según lo necesito, enfocado en registros de decisiones e hitos en lugar de paneles de tareas pesados.

En la práctica, esto significa que durante el último año he apostado aún más por documentos compartidos y síntesis asistida por IA, alejándome de las herramientas de gestión de proyectos más pesadas, a favor de registros de decisiones más claros y una coordinación más ágil.

Ahora tengo menos documentos, registros de decisiones más claros y suposiciones más explícitas. Los LLM ahora se sitúan encima de esta pila como capa de síntesis y continuidad. Me ayudan a mantener alineadas decisiones, suposiciones y documentos paralelos a medida que cambian las cosas. Los uso para explorar opciones, poner a prueba diseños, resumir decisiones previas y mantener el contexto a medida que los proyectos evolucionan entre dimensiones académicas, operativas y de colaboración. Aquí está el desglose:

• ChatGPT (modelos tipo GPT-4): Razonamiento abierto, exploración de opciones, análisis de compensaciones, prueba de diseños y mantenimiento de contexto a largo plazo entre documentos.
• Claude: Borradores limpios y estructurados y reescritura cuidadosa manteniendo tono y restricciones.
• Gemini (ocasionalmente): Resumen rápido de grandes entradas o diferentes enfoques, especialmente al trabajar con tipos de documentos mezclados.

En proyectos recientes, esto se ha traducido en una convergencia más rápida hacia estructuras viables de programas, menos cambios hacia el final y una transferencia de decisiones más clara entre flujos de trabajo académicos y operativos. En términos prácticos, esto ha reducido el número de documentos paralelos que mantenemos, ha acortado los ciclos de iteración entre borradores y ha reducido el esfuerzo de coordinación para mantener alineado el material académico, operativo y dirigido a socios.

En el área de comunicaciones y diseño, he utilizado Midjourney para alinearme rápidamente con nuestro diseñador. Ha sido especialmente eficaz para transmitir tono y dirección visual desde el principio, reduciendo los idas y vueltas que suelen surgir al intentar describir el juicio estético solo con palabras.

De cara al futuro, una base de conocimiento enlazada como Obsidian tendría sentido a medida que crece el volumen de material, sobre todo para memoria institucional a largo plazo entre proyectos. Sin embargo, en la etapa actual, los documentos compartidos junto con la síntesis y recuperación asistidas por IA cubren la mayoría de esas necesidades sin añadir complejidad de herramientas.

En general, esta pila funciona porque la claridad, la adaptabilidad y el juicio importan actualmente más que la optimización de procesos. A medida que aumente la escala, partes de la pila probablemente se formalicen, pero por ahora, la flexibilidad ha sido más valiosa que la precisión.

Por qué los sistemas de entrega livianos funcionan mejor en proyectos con alta incertidumbre y uso de IA

Así que, dejamos atrás la gestión de proyectos centrada en tareas y cronogramas para adoptar sistemas que enfatizan las suposiciones, dependencias y puntos de decisión. En trabajos liderados por el diseño y con alta incertidumbre, la precisión temprana sobre tareas y fechas límite suele crear una falsa sensación de progreso mientras oculta las verdaderas preguntas que aún necesitan respuesta.

No me he "rebelado" conscientemente contra la gestión de proyectos tradicional; simplemente dejó de encajar con el tipo de trabajo que realizo.

Optamos por menos planes rígidos y más conversaciones estructuradas. En lugar de rastrear tareas granulares o imponer hitos artificiales, nos enfocamos en definir qué debe ser cierto para que un proyecto tenga éxito, dónde aún persiste la incertidumbre y quién es responsable de la próxima decisión clave. Los documentos compartidos actúan como fuentes evolutivas de verdad, con secciones explícitas para suposiciones, preguntas abiertas, riesgos y responsabilidades. La documentación liviana reemplaza los tableros, y los puntos de decisión sustituyen a los cronogramas fijos.

ChatGPT respalda este cambio ayudándonos a resumir los cambios con el tiempo, detectar inconsistencias en flujos de trabajo paralelos y mantener el contexto alineado a medida que evolucionan los proyectos, sin imponer un flujo de trabajo único ni un proceso rígido.

El resultado ha sido una convergencia más rápida al principio y menos reescrituras dolorosas más adelante. Ahora vemos menos "progreso" performativo y más claridad genuina, especialmente en proyectos donde el propio problema aún se está definiendo.

Cómo experimentar con cautela con la IA agéntica

La IA agéntica aún no forma parte de nuestros flujos de trabajo generales porque la naturaleza del trabajo implica que el juicio, la responsabilidad y la conciencia contextual todavía deben permanecer muy explícitos —y humanos. La automatización prematura en ese entorno corre el riesgo de generar una falsa confianza. Ese es un riesgo que hemos procurado evitar.

Por ello, hemos sido cautelosos con cualquier cosa que se parezca a la automatización de principio a fin. En lugar de preguntarnos "¿Qué podemos automatizar?", la pregunta guía ha sido "¿Dónde la orquestación mejora la visibilidad o reduce fricción sin diluir la responsabilidad?" Hasta ahora, esto nos ha llevado a mantener la experimentación como algo exploratorio, incremental y estrechamente supervisado.

En la práctica, esa experimentación incluye usar IA para resumir, mantener la coherencia en documentos que evolucionan y comparar opciones o escenarios bajo diferentes supuestos. Son áreas donde la orquestación puede reducir los costos de coordinación sin alejar la responsabilidad de los humanos.

De cara al futuro, hay áreas donde una orquestación más estructurada puede tener sentido, especialmente en lo que respecta a la coordinación y la retroalimentación a gran escala. Pero incluso en esos casos, el objetivo no sería automatizar el juicio ni reemplazar la interacción humana, sino apoyar la continuidad, la reflexión y la alineación a medida que aumenta la complejidad.

Por qué la gestión de proyectos será menos sobre imponer planes y más sobre arquitectura de decisiones

Durante los próximos cinco años, la entrega de proyectos migrará de la coordinación de tareas hacia la arquitectura de decisiones. A medida que la IA maneja cada vez más la síntesis, la memoria y la comparación de opciones, el rol humano pasará decididamente a gestionar la incertidumbre y no el trabajo.

En la práctica, esto significa menos personas centradas en mantener cronogramas y listas de tareas, y más líderes enfocados en diseñar las condiciones para tomar buenas decisiones: hacer visibles las suposiciones, definir los espacios de opciones, aclarar los derechos de decisión y señalar dónde aún se requiere juicio. La IA comprimirá la mecánica de la entrega, pero no resolverá la ambigüedad ni asumirá los riesgos.

Es importante ser explícito sobre qué sigue siendo desconocido, dónde los compromisos son irreversibles y quién es responsable de cada decisión. La entrega de proyectos será menos una cuestión de imponer planes y más sobre mantener la coherencia a medida que evoluciona la comprensión.

Notas de Evgeny

Es importante ser explícito sobre qué sigue siendo desconocido, dónde los compromisos son irreversibles y quién es responsable de cada decisión. La entrega de proyectos será menos una cuestión de imponer planes y más sobre mantener la coherencia a medida que evoluciona la comprensión.

Por qué el juicio y la responsabilidad siguen perteneciendo a los humanos

El mayor cambio para los líderes de entrega en este momento no es aprender nuevas herramientas, sino reaprender dónde pertenece el juicio. La IA está cambiando la velocidad con la que pensamos, iteramos y coordinamos, pero no cambia quién debe ser responsable de las decisiones. Mantener esa distinción clara se está convirtiendo en una habilidad esencial de liderazgo.

Mi consejo es:

• No externalices el juicio — externaliza la carga cognitiva. La IA es sumamente buena manteniendo el contexto, comparando opciones, destacando inconsistencias y reduciendo la carga mental de proyectos complejos. Úsala para apoyar el pensamiento, no para sustituirlo. En el momento en que la IA haga que las decisiones se sientan completas, los líderes deben intervenir y preguntar qué suposiciones sustentan esa confianza y si están justificadas.
• Haz explícitas las suposiciones antes de optimizar la ejecución. La IA facilita generar planes pulidos desde el principio, lo cual puede crear una ilusión de progreso. Resiste esa tentación. El trabajo más valioso al principio no son los desgloses de tareas ni los cronogramas, sino hacer visibles las suposiciones: qué tiene que ser cierto para que esto funcione, dónde todavía hay incertidumbre y qué decisiones son irreversibles. Los proyectos fallan menos por mala ejecución que por premisas no examinadas.
• Trata a la IA como un socio intelectual, no como un atajo. Pequeños cambios en el enfoque pueden cambiar radicalmente lo que produce la IA. Aprender a dar buenos prompts tiene menos que ver con la sintaxis y más con aprender a hacer mejores preguntas. Esa habilidad se amplifica con el tiempo, porque obliga a pensar con más claridad, plantear compensaciones más precisas y tomar decisiones de manera más deliberada.

Los equipos que tendrán éxito en los próximos años no serán los que automaticen más rápido. Serán los que usen la IA para ver con mayor claridad, decidir con más deliberación y asumir la responsabilidad de las decisiones que realmente importan.

Sigue en contacto

Puedes seguir a Evgeny Goncharov en LinkedIn, y echar un vistazo a su trabajo en educación en Cantabrium Scholars.

¡Muy pronto, más entrevistas a expertos en The Digital Project Manager!