De la Autonomía a la Supervisión: El papel humano en la era de la IA

Mientras que el Marco de Gobernanza de IA de Singapur sugiere adaptar el nivel de intervención humana en la IA según el apetito de riesgo de una organización, con tres enfoques definidos, una investigación más profunda reveló un cuarto, lo que llevó al desarrollo de un modelo integral segmentado en cuatro cuadrantes. Este modelo, que evalúa las decisiones de IA en función de su probabilidad y la gravedad del daño potencial, ofrece una estrategia sofisticada para integrar la IA en diversos sectores.

Comenzando con el Cuadrante 3, Humano Fuera del Bucle: Este cuadrante destaca donde la IA Generativa supera las capacidades humanas, operando de manera autónoma y sin supervisión. 

Ideal para expandir y mejorar procesos mediante automatización o algoritmos predictivos, algunos ejemplos incluyen la predicción meteorológica, recomendaciones de productos y personalización que involucra parámetros complejos, algoritmos de redes sociales, y la previsión de la cadena de suministro.

Es fundamental diseñar, configurar y ajustar minuciosamente los modelos de IA en este cuadrante, con un proceso bien pensado, precisión cuidadosa y pruebas exhaustivas específicas para el ámbito empresarial. 

Cuadrante 4, Humano en el Bucle, requiere supervisión, implicación y control humano continuo. En este cuadrante, el modelo de IA ofrece recomendaciones o sugerencias, pero en última instancia es responsabilidad de la persona supervisora aceptar, rechazar o modificar estas propuestas. Tales decisiones requieren la intervención activa del ser humano y no pueden avanzar sin ella.

Un ejemplo de este modelo dinámico es RAIDlog.com, que emplea IA Generativa para identificar posibles riesgos de proyectos a partir de datos previamente recopilados. La decisión de adoptar, ajustar o descartar el riesgo identificado por el modelo de IA recae en el gestor del proyecto. 

Tras decidir aceptar o modificar un riesgo identificado, RAIDlog.com propone de manera intuitiva una estrategia de mitigación del riesgo, la cual igualmente espera la aprobación o ajuste por parte del gestor del proyecto.

El humano en el bucle posiciona a la IA Generativa como un asistente versátil para todos, brindando una ayuda significativa en la gestión de tareas repetitivas, tediosas y que requieren mucho tiempo. Esta colaboración no solo mejora la productividad, sino que también impacta positivamente en los resultados y eleva la calidad del producto final.

Encuentra otros casos de uso de la IA en la gestión de proyectos aquí.

Cuadrante 2, Humano Sobre el Bucle, resalta escenarios en los que la IA opera de manera independiente, similar a los sistemas de piloto automático o control de crucero. La supervisión y el juicio humanos siguen siendo cruciales, garantizando que las personas estén listas para intervenir ante fallos del modelo de IA o frente a resultados inesperados o adversos. 

El modelo en este cuadrante aprovecha la madurez de los procesos y pruebas extensas para minimizar el riesgo, pero la posible gravedad del daño requiere la intervención humana en circunstancias excepcionales.

Las aplicaciones en este cuadrante incluyen vehículos autónomos, mantenimiento predictivo en industrias como petróleo y gas (esto está siendo cada vez más común en herramientas de software para la gestión de proyectos de instalaciones), programación compleja de recursos, procesos de ventas estandarizados o planes tipo estándar, o procedimientos operativos estándar como cronogramas de trabajos recurrentes, planes de tratamiento, planes de acciones correctivas, plantillas de comunicación, borradores de entregables y otros.

Si bien la IA puede superar a los humanos en eficiencia y precisión dentro de este cuadrante, la naturaleza crítica de los posibles resultados exige supervisión humana. Esta vigilancia garantiza que, en caso necesario, puedan aplicarse rápidamente medidas correctivas para mitigar eficazmente cualquier impacto negativo.

Cuadrante 1, Humano en el Circuito: En este cuadrante la probabilidad de daño es alta al igual que la gravedad; por lo tanto, requiere que las personas estén en (la parte superior de) el circuito para gestionar el modelo de IA con la capacidad de apagar completamente el modelo y gestionar por excepción. 

Algunos ejemplos son la creación de un nuevo modelo de IA, decisiones en el ámbito de la salud, despliegue de armas en zonas de guerra y decidir si el modelo de IA se ajusta a las directrices de gobernanza y políticas. 

La incorporación del juicio humano y de consideraciones éticas resulta crucial en estos escenarios de alto riesgo para garantizar que los modelos de IA se alineen con los valores humanos, las leyes vigentes y las normas sociales.

La presencia de una persona en el circuito asegura que los modelos de IA operen dentro de límites éticos, seguros y controlados, con la capacidad de intervención humana para anular o desactivar completamente el modelo de IA si es necesario.

Conclusión 

En resumen, la participación humana en la gobernanza de la IA garantiza operaciones éticas, seguras y controladas, alineadas con los valores y normas sociales. 

A medida que avanzamos más en la era de la inteligencia artificial, el equilibrio entre la autonomía tecnológica y la supervisión humana se vuelve cada vez más fundamental. Los cuatro cuadrantes de la gestión de la IA presentados aquí proporcionan una hoja de ruta para navegar este complejo panorama, resaltando el papel indispensable del juicio humano para asegurar un uso ético, seguro y eficaz de la IA. 

Al comprender e implementar estos marcos, podemos aprovechar el poder de la IA mientras protegemos nuestros valores sociales y el bienestar humano, dirigiéndonos hacia un futuro donde la tecnología y la humanidad progresen en armonía.

Si quieres hablar más sobre esto con otros expertos en gestión de proyectos, únete a DPM y accede a la conversación en Slack con cientos de otros gestores de proyectos digitales.