Da Autonomia à Supervisão: O Papel Humano na Era da IA

Embora o Quadro de Governação da IA de Singapura sugira adaptar o nível de envolvimento humano na IA com base na tolerância ao risco de uma organização, com três abordagens definidas, uma investigação mais aprofundada revelou uma quarta, conduzindo ao desenvolvimento de um modelo abrangente dividido em quatro quadrantes. Este modelo, que avalia as decisões da IA com base na probabilidade e na gravidade dos potenciais danos, oferece uma estratégia sofisticada para integrar a IA em vários setores.

Começando pelo Quadrante 3, Humano fora do circuito: este quadrante destaca as situações em que a IA generativa supera as capacidades humanas, funcionando de forma autónoma e sem supervisão. 

Ideal para expandir e melhorar processos através da automatização ou de algoritmos preditivos, alguns exemplos incluem a previsão meteorológica, recomendações de produtos e personalização com parâmetros complexos, algoritmos de redes sociais e previsão da cadeia de abastecimento.

É crucial conceber, configurar e aperfeiçoar os modelos de IA neste quadrante através de um processo bem planeado, de uma precisão cuidadosa e de testes extensivos específicos do domínio empresarial. 

O Quadrante 4, Humano no circuito, exige supervisão, envolvimento e controlo humanos contínuos. Neste quadrante, o modelo de IA apresenta recomendações ou sugestões, mas cabe, em última análise, ao ser humano responsável pela supervisão aceitar, rejeitar ou modificar essas propostas. Estas decisões exigem um envolvimento humano ativo e não podem avançar sem ele.

Um exemplo deste modelo dinâmico é o RAIDlog.com, que utiliza IA generativa para identificar potenciais riscos do projeto a partir de dados previamente recolhidos. A decisão de adotar, ajustar ou ignorar o risco identificado pelo modelo de IA cabe ao gestor de projetos. 

Após uma decisão de aceitar ou alterar um risco identificado, o RAIDlog.com propõe intuitivamente uma estratégia de mitigação do risco que, mais uma vez, aguarda a aprovação ou uma modificação adicional por parte do gestor de projetos.

O Humano no circuito posiciona a IA generativa como um assistente versátil para todos, ajudando significativamente na gestão de tarefas repetitivas, entediantes e demoradas. Esta colaboração não só aumenta a produtividade, como também contribui para os resultados financeiros e eleva a qualidade do trabalho produzido.

Encontre aqui outros casos de utilização da IA na gestão de projetos.

O Quadrante 2, Humano acima do circuito, destaca cenários em que a IA funciona de forma independente, à semelhança dos sistemas de piloto automático ou de controlo de velocidade de cruzeiro. A supervisão e o discernimento humanos continuam a ser cruciais, garantindo que as pessoas estão preparadas para intervir em caso de falhas do modelo de IA ou quando enfrentam resultados inesperados ou adversos. 

O modelo neste quadrante aproveita a maturidade dos processos e os testes extensivos para minimizar o risco; contudo, a potencial gravidade dos danos exige intervenção humana em circunstâncias excecionais.

As aplicações neste quadrante incluem veículos autónomos, manutenção preditiva em indústrias como a do petróleo e gás (esta está a tornar-se cada vez mais disponível em ferramentas de software de gestão de projetos de instalações), agendamento complexo de recursos, processos de vendas normalizados ou planos normalizados baseados em modelos, ou procedimentos operacionais normalizados, como agendas de trabalhos recorrentes, planos de tratamento, planos de ações corretivas, modelos de comunicação, entregáveis preliminares, entre outros. 

Embora a IA possa superar as capacidades humanas em termos de eficiência e precisão neste quadrante, a natureza crítica dos possíveis resultados exige supervisão humana. Esta supervisão garante que, caso seja necessário, possam ser implementadas prontamente medidas corretivas para mitigar eficazmente quaisquer impactos negativos.

Quadrante 1, Humano no Circuito: Neste quadrante, a probabilidade de ocorrência de danos é elevada, tal como a sua gravidade, pelo que é necessária a presença de humanos no circuito (no topo do circuito) para gerir o modelo de IA, com a capacidade de o desligar completamente e gerir por exceção. 

Os exemplos incluem a criação de um novo modelo de IA, decisões relacionadas com cuidados de saúde, a utilização de armas em zonas de guerra e a decisão sobre se o modelo de IA está em conformidade com as diretrizes de governação e políticas. 

A incorporação do discernimento humano e de considerações éticas torna-se crucial nestes cenários de elevado risco, garantindo que os modelos de IA estão alinhados com os valores humanos, as leis aplicáveis e as normas da sociedade.

A participação de um humano no circuito garante que os modelos de IA funcionam dentro de limites éticos, seguros e controlados, com capacidade de intervenção humana para substituir ou desativar completamente o modelo de IA, se necessário.

Conclusão 

Em resumo, a participação humana na governação da IA garante operações de IA éticas, seguras e controladas, alinhadas com as normas e os valores da sociedade. 

À medida que avançamos na era da IA, o equilíbrio entre a autonomia tecnológica e a supervisão humana torna-se cada vez mais crítico. Os quatro quadrantes da gestão da IA aqui apresentados constituem um roteiro para navegar nesta realidade complexa, salientando o papel indispensável do discernimento humano para garantir uma utilização ética, segura e eficaz da IA. 

Ao compreender e implementar estes modelos, podemos aproveitar o poder da IA, protegendo simultaneamente os nossos valores sociais e o bem-estar humano, avançando em direção a um futuro onde a tecnologia e a humanidade progridem em harmonia.

Se tiver interesse em discutir este tema mais aprofundadamente com outros especialistas na área da gestão de projetos, junte-se à adesão DPM e tenha acesso à conversa no Slack com centenas de outros gestores de projetos digitais.