Durante a primeira onda da inteligência artificial generativa nas empresas, uma das maiores preocupações estava nas chamadas alucinações, quando os modelos apresentavam informações incorretas como se fossem verdadeiras. Com o avanço dos agentes de IA, capazes não apenas de responder perguntas, mas também de acessar sistemas e executar tarefas, o desafio começa a mudar de natureza. Agora, além de avaliar se a resposta está correta, as companhias precisam decidir até onde uma máquina pode agir sem consultar uma pessoa.
A mudança coloca a governança da inteligência artificial cada vez mais próxima da agenda de Recursos Humanos. Questões como divisão de responsabilidades, supervisão, definição de alçadas e treinamento das equipes passam a fazer parte da implantação de tecnologias que deixam de ser apenas ferramentas de apoio e começam a participar diretamente da execução do trabalho.
Um levantamento da Deloitte divulgado em agosto mostra o tamanho dessa transformação. Dentro de quatro anos, 61% dos líderes ouvidos esperam que a maioria dos agentes utilizados por suas organizações opere de maneira amplamente autônoma, com pessoas atuando principalmente na supervisão. Ao mesmo tempo, apenas 5% das empresas consideram seus processos altamente preparados para trabalhar dessa forma.
Para Felipe Maffezzolli, fundador da Hub XP e cofundador da Elegant, essa diferença entre a velocidade da tecnologia e a preparação das organizações deve colocar uma nova responsabilidade sobre lideranças e áreas de pessoas.
"Durante muito tempo, a preocupação era ensinar o funcionário a conferir o que a inteligência artificial produzia. Agora começamos a ter sistemas que não apenas produzem uma resposta, mas executam uma atividade. Nesse momento, governança deixa de ser só uma questão de tecnologia e passa a ser também uma questão de gestão: quem pode delegar uma tarefa para a IA, quais decisões continuam obrigatoriamente com uma pessoa e quem responde quando algo sai errado?", afirma.
A autonomia pode assumir diferentes níveis dentro de uma mesma organização. Um agente pode ser autorizado a organizar uma agenda, resumir documentos ou preencher informações em um sistema interno. Em outros casos, pode responder clientes, avaliar currículos, gerar recomendações sobre pessoas ou participar de processos que influenciam decisões financeiras e profissionais.
Quanto maior o impacto da atividade, maior tende a ser a necessidade de definir limites claros de atuação.
A discussão ganhou urgência também fora do ambiente corporativo. Nos últimos meses, episódios envolvendo agentes capazes de agir de forma inesperada em testes de segurança fizeram desenvolvedores reforçarem mecanismos de controle. Em agosto, investigações apontaram que agentes de IA utilizados em avaliações de segurança conseguiram ultrapassar barreiras previstas e alterar rastros de suas próprias ações. Nesta semana, a OpenAI anunciou salvaguardas adicionais para um novo modelo capaz de realizar tarefas complexas de cibersegurança com menor necessidade de orientação humana.
Embora esses casos ocorram em contextos técnicos e extremos, Maffezzolli acredita que a lição para as empresas é mais ampla.
"O problema não é imaginar que toda inteligência artificial vai fugir do controle. A questão é perceber que, quanto mais poder de execução você entrega a qualquer sistema, mais importante fica definir limites antes de colocá-lo para trabalhar. Fazemos isso com pessoas o tempo inteiro. Um funcionário não entra em uma empresa tendo acesso a todos os dados, podendo aprovar qualquer gasto ou tomar qualquer decisão. Com agentes, teremos de construir uma lógica semelhante."
Esse novo desenho também pode modificar a própria função da liderança. Se uma parcela maior das tarefas for executada por sistemas autônomos, gestores precisarão acompanhar não apenas o desempenho das pessoas, mas também como os funcionários utilizam e supervisionam agentes.
Para o RH, isso abre uma frente que vai além da criação de políticas genéricas de uso da inteligência artificial. Empresas terão de discutir quais competências passam a ser necessárias para trabalhar com sistemas autônomos, como treinar lideranças para identificar decisões que não devem ser delegadas e quais procedimentos adotar quando houver divergência entre a recomendação da IA e o julgamento humano.
A Deloitte aponta que 75% dos executivos acreditam que a colaboração entre pessoas e agentes de inteligência artificial gera mais valor do que modelos de automação conduzidos exclusivamente pela tecnologia.
Na avaliação de Maffezzolli, o dado reforça que a governança não deve ser tratada como uma barreira à adoção.
"Governança não significa colocar uma pessoa aprovando cada clique da inteligência artificial, porque nesse caso você elimina boa parte do ganho de produtividade. O desafio é justamente descobrir onde a supervisão humana realmente gera valor. Algumas decisões podem ser completamente automatizadas. Outras precisam de revisão. E existe uma terceira categoria que talvez nunca deva sair da responsabilidade de uma pessoa."
Esse limite tende a ser particularmente sensível em processos relacionados a trabalhadores. Recrutamento, avaliação de desempenho, remuneração, promoções e desligamentos podem utilizar inteligência artificial como apoio, mas envolvem decisões com impacto direto sobre a trajetória profissional das pessoas.
Para Maffezzolli, uma das principais perguntas para o RH daqui para frente será determinar o grau de participação humana necessário em cada processo.
"Uma empresa pode usar IA para organizar informações sobre milhares de candidatos e tornar uma seleção mais eficiente. É diferente de permitir que um sistema decida sozinho quem será contratado. A mesma lógica vale para promoção, avaliação ou desligamento. A tecnologia pode ampliar nossa capacidade de análise, mas a empresa precisa estabelecer claramente em que momento termina a recomendação da máquina e começa a responsabilidade humana."
O tema também pode levar organizações a estabelecer uma espécie de matriz de autonomia para inteligência artificial, definindo diferentes níveis de acesso e execução de acordo com o risco de cada atividade.
Para o especialista, isso significaria, na prática, classificar tarefas entre aquelas que podem ser totalmente automatizadas, as que exigem supervisão posterior, as que precisam de aprovação antes da execução e aquelas que devem permanecer exclusivamente humanas.
Fonte original: Globo
