Governança de Agentes de IA: Desafios e Oportunidades

Nos últimos dois anos, o avanço acelerado da tecnologia intensificou o debate sobre os riscos e benefícios da IA. De um lado, destacam-se oportunidades como o aumento exponencial da produtividade, novas descobertas e maior criatividade humana. Por outro, há preocupações com impactos econômicos e ambientais severos, além de riscos extremos, como agentes autônomos de IA e novas armas de destruição em massa. Essa incerteza torna o debate sobre governança ainda mais desafiador. Os agentes de IA impõem desafios significativos à governança, incluindo riscos éticos, conformidade regulatória e transparência. À medida que essas tecnologias assumem tarefas cada vez mais complexas e sensíveis, torna-se essencial enfrentar dilemas críticos de controle e responsabilidade. Para isso, propõe-se uma estratégia de governança baseada em três pilares: inclusão, transparência e responsabilização. Essa abordagem visa ampliar o espectro de stakeholders atendidos pela IA, aumentar a transparência no design e na operação desses sistemas e garantir a responsabilização de desenvolvedores, implementadores e usuários em casos de danos. A governança eficaz dos agentes de IA exige mais do que princípios; requer a criação de novas infraestruturas técnicas e jurídicas. Com a tecnologia ainda em estágio inicial, formuladores de políticas e empresas têm uma janela de oportunidade crucial para estabelecer marcos regulatórios sólidos antes que os riscos se agravem.

Este encontro inaugura o ciclo de atividades da Cátedra Oscar Sala em 2025.

Expositor:

Virgilio Almeida (IEA e UFMG)

Moderador:

Luiz Fernando Castro (Cátedra Oscar Sala)

Inscrições

Organização