Os desafios da governança de agentes de IA
Os agentes de Inteligência Artificial (IA) representam uma nova fase da tecnologia. A IA, antes dominada por chatbots com a simulação de conversas humanas, agora planeja e executa tarefas de forma autônoma, com interferência mínima dos seres humanos. Para Virgílio Almeida, esses novos sistemas automáticos de agentes de IA trouxeram desafios e riscos para a governança, trazendo questionamentos sobre regulação, transparência e responsabilidade. 
“Diferente dos chatbots, essas tecnologias operam fora de uma janela do browser [navegador]. Elas interagem com múltiplas aplicações e executam tarefas complexas, como compras”, explicou. Titular da Cátedra Oscar Sala, Almeida mapeou, no dia 4 de abril, os benefícios e riscos desses agentes no evento “Governança de Agentes de IA: Desafios e Oportunidades”. Este tema orientará as pesquisas da cátedra em 2025.
O engenheiro explicou que os agentes prometem aumentar a produtividade, melhorar a experiência do cliente, e diminuir custos e erros para as empresas. Porém, trazem riscos à governança com a exposição de dados e privacidade dos usuários, crimes cibernéticos, degradação da capacidade dos humanos por conta da dependência nas IAs e problemas com a responsabilização.
“Nós queremos ir em direção a um caminho mais seguro com os agentes de IA.” Para Almeida, os agentes devem ser transparentes e monitorados em tempo real para que os usuários tenham visibilidade completa de suas ações. Sobre o problema da responsabilização, ele declarou que é preciso ter indicadores para determinar quem são os agentes, desenvolvedores, implementadores e usuários em casos de danos.
A falta de regulamentação dessas tecnologias também aumentam os desafios da governança. Almeida explicou que formuladores de política e empresas, que utilizam os agentes de IA, não precisam esperar a formulação de uma nova legislação. Eles podem estabelecer suas próprias regras e políticas nesse estágio inicial, o que aumentaria a segurança para os clientes e organização. 
Organizado pela Cátedra Oscar Sala, o encontro online marcou o início do ciclo de atividades do grupo em 2025. O vídeo da atividade está disponível na íntegra no canal do YouTube do IEA, clique aqui para assistir.