Cátedra seleciona pesquisadores para grupo sobre Governança de Agentes de IA
A Cátedra Oscar Sala está com chamada aberta para seleção de até 20 pesquisadores que irão atuar no projeto liderado pelo titular Virgílio Almeida. Em 2025, a pesquisa da cátedra terá como objeto a governança de agentes de inteligência artificial (IA). O foco será a análise dos riscos éticos e sociais da pesquisa e desenvolvimento desses agentes, além da formulação de propostas de governança para mitigar impactos negativos e garantir transparência e responsabilidade no uso dessas tecnologias.
Para se candidatar, os interessados devem enviar um único documento de até duas páginas contendo: 1) seu interesse, 2) sua motivação, 3) sua contribuição em potencial, e 4) uma curta biografia. As inscrições devem ser feitas pelo formulário até o meio dia de 10 de março.
Os integrantes do grupo de pesquisadores se reunirão entre 21 de março e 12 de dezembro, das 16h às 18h, às sextas-feiras (veja datas), de forma remota ou híbrida. Além dos encontros com convidados proeminentes, outras atividades serão destinadas aos estudos orientados dos projetos de pesquisa e à produção de textos. Não há concessão de bolsa.
As discussões abordarão temas essenciais, como a autonomia dos agentes de IA, sua interpretabilidade, os riscos éticos envolvidos e a necessidade de mecanismos de prestação de contas. A Cátedra também irá explorar a importância da inclusão de perspectivas diversas no desenvolvimento dessas tecnologias para evitar preconceitos e desigualdades. Além disso, serão analisadas as arquiteturas tecnológicas que estruturam o funcionamento dos agentes de IA, garantindo que suas operações sejam alinhadas a princípios éticos e sociais. A governança adaptativa e colaborativa também será um tema central, com foco na necessidade de modelos flexíveis que envolvam governos, empresas e a sociedade na definição de padrões e boas práticas.
Além dos eventos, os pesquisadores envolvidos desenvolverão projetos e produzirão textos acadêmicos que contribuam para a reflexão e implementação de estratégias eficazes na governança de agentes de IA, especialmente considerando o contexto dos países do Sul Global.