Projeto Interações Humano-Algoritmo

Algoritmos, inteligência artificial (IA), robôs e máquinas operadas por algoritmos que mediam cada vez mais nossas interações sociais, culturais, econômicas e políticas. Compreender o comportamento dos algoritmos e sistemas de inteligência artificial é essencial para nossa capacidade de controlar suas ações, colher benefícios e minimizar seus impactos negativos. Sistemas de algoritmos e robôs tem sido usados de muitas maneiras socialmente benéficas, como por exemplo, antecipar necessidades de saúde, auxiliar gerência de tráfego em centros urbanos, facilitar decisões financeiras e aumentar a eficiência de serviços governamentais. Algoritmos também têm sido usados para tomar decisões que podem mudar a vida das pessoas. Baseados em grandes quantidades de dados, algoritmos operam as plataformas de mídia social, controlando o fluxo de informações para diferentes setores da sociedade, com impactos na formação social, cultural e política dos indivíduos e no comportamento coletivo da sociedade. Spotify, Twitter, YouTube, Facebook, Tinder, Amazon são algumas das plataformas algorítmicas que impactam bilhões de vidas em todo o mundo, influenciando a cultura, valores compartilhados e identidades de diferentes grupos sociais. Há no entanto uma preocupação crescente em relação ao impacto da tomada de decisão algorítmica sobre indivíduos e grupos sociais. Por exemplo, algoritmos projetados para filtrar, selecionar e exibir a grande quantidade de informações disponíveis online, combinados com a tendência das pessoas de buscar ambientes sociais similares, podem induzir vieses em grupos da sociedade, alimentando racismo, preconceitos e discriminação. É necessário que a sociedade discuta como estabelecer normas e regramentos para os algoritmos, que operam as várias formas de agentes eletrônicos inteligentes, levando em consideração os interesses conflitantes dos vários stakeholders, que devem ser entendidos e ponderados.

Máquinas inteligentes, controladas por algoritmos, substituem cada vez mais os humanos, A presença de algoritmos e dispositivos digitais na sociedade não tem precedentes. Algoritmos de classificação de notícias e bots de mídia social orientam parte do fluxo de notícias que chega aos cidadãos. No setor financeiro, algoritmos avaliam o perfil dos clientes e definem decisões de empréstimos. Sofisiticados agentes de software usam algoritmos para negociar transações nos mercados financeiros em alta velocidade. Os algoritmos de reconhecimento facial podem decidir sobre a prisão de suspeitos. Veículos autônomos operados por algoritmos trafegam em estradas e áreas urbanas. Algoritmos escolhem trajetos e itinerários de veículos nas cidades e operam aplicativos de serviços de transporte compartilhado. Assistentes inteligentes espalhados pelas casas respondem a comandos verbais e realizam tarefas domésticas regulares. Os algoritmos têm sido usados para influenciar as preferências das pessoas em vários contextos, como eleições e namoro. Máquinas inteligentes e robôs tem sido usados para cuidar de pessoas idosas em certos países. Algoritmos são componentes essenciais de avanços tecnológicos controversos, como o desenvolvimento de armas autônomas letais, que tem capacidade de localizar, selecionar e eliminar alvos humanos sem intervenção humana. Para que a sociedade tenha controle e governança sobre algoritmos e máquinas inteligentes, é necessário estudar e entender o comportamento de algoritmos e dispositivos inteligentes que interagem no dia-a-dia com humanos.

O foco da Cátedra é delinear um conjunto de questões fundamentais para esse tema emergente, que deriva da convivência social e operacional entre humanos e não humanos, representados por algoritmos, robôs e outros dispositivos inteligentes. Dentro desse objetivo, serão explorados num ambiente multidisciplinar aspectos técnicos, sociais, legais e institucionais relativos ao comportamento dos algoritmos e das máquinas por eles controladas.

Existem três motivações básicas para o foco proposto para a Cátedra Oscar Sala em 2022/23:

i) Há diversos tipos de algoritmos em operação e com um papel cada vez maior na sociedade e nas atividades diárias dos cidadãos.

ii) A complexidade dos algoritmos e dos sistemas que integram vários algoritmos vem aumentando rapidamente, novos modelos e gigantescas massas de dados tornam esses algoritmos e sistemas opacos, dificultando sobremaneira a compreensão do comportamento dos mesmos.

Iii) A compreensão dos impactos sociais, políticos e econômicos, sejam eles positivos ou negativos, é um desafio de pesquisa.

Tópicos para a Cátedra

• Natureza das interações humanas com algoritmos, robôs, dispositivos e máquinas inteligentes;

• Papel do ``design’’ na construção de algoritmos e máquinas inteligentes (ex. assistentes inteligentes como Alexa e chatbots);

• Estudo do comportamento de não-humanos: algoritmos, robôs, dispositivos e máquinas inteligentes (ex.: estudos empíricos e modelos teóricos);

• Estudo do comportamento humano nas relações com não-humanos: individual e coletivo;

• Regulação e governança;

• Algoritmos e sua aderência a direitos humanos;

• Debate sobre as formas de colaboração humano-algoritmos e os impacto no trabalho;

• Debate sobre o papel dos agentes eletrônicos inteligentes, como por exemplo se eles devem receber alguma consideração moral e legal como outras entidades que interagem socialmente.

• Estudos de casos da realidade brasileira, como parte do processo de pesquisa dos tópicos acima, como por exemplo casos na área de saúde, casos sobre impacto da automação de processos no comércio e serviços.

Subtemas e cronograma:

O conjunto de subtemas para estudos e debates no ano letivo 2022/23 é claramente multidisciplinar e transdisciplinar pois a compreensão do papel e do impacto de algoritmos e máquinas inteligentes requer a participação de pesquisadores de ciências sociais e humanas, direito, engenharia e ciência da computação. Os algoritmos, robôs e dispositivos inteligentes não são tratados neste contexto apenas como artefatos de engenharia, mas como uma classe de atores com padrões de comportamento particulares e dependentes da natureza das interações. Esta temática da Cátedra requer fundamentos da ciência da computação e robótica, mas necessita primordialmente das ciências sociais e humanas para a compreensão do comportamento humano na interação com algoritmos, dispositivos e máquinas inteligentes.

1. Conferência de abertura da Cátedra Oscar Sala, Abril de 2022.

2. Natureza das interações humanas com algoritmos, robôs, dispositivos e máquinas inteligentes (Maio de 2022).

3. Papel do "design" na construção de algoritmos e máquinas inteligentes em busca de um equilíbrio entre "human agency" e "algorithm agency", (ex. assistentes inteligentes como Alexa e chatbots) (Junho 2022).

4. Estudo do comportamento de não-humanos: algoritmos, robôs, dispositivos e máquinas inteligentes (ex.: estudos empíricos e modelos teóricos). (Julho 2022)

4.1 Formação de um grupo de estudo e mini-workshop (Setembro 2022)

5. Estudo do comportamento humano nas relações com não-humanos: individual e coletivo (Agosto 2022).

5.1 Formação de um grupo de estudo e mini-workshop (Outubro 2022)

6. Debate sobre as formas de colaboração humano-algoritmos e os impactos no trabalho e emprego, com análise de estudos de casos na área da saúde. (Setembro 2022).

6.1 Mini-workshop (Fevereiro 2023).

7. Debate sobre o papel dos algoritmos na sociedade, como por exemplo a discussão se agentes não humanos devem receber alguma consideração moral e legal como outras entidades que interagem socialmente. (Novembro 2022).

7.1. Reunião do grupo de estudos (agosto 2021).

8. Seminário Internacional (híbrido, presencial-online) com o tema "Interações Humano-Algoritmo e seus Impactos Sociais, Econômicos e Políticos" (Novembro 2022)

9. Governando a complexidade: integrando ciências sociais, governança, direito, engenharias e computação para gerenciar mudanças aceleradas pelos algoritmos e máquinas inteligentes (Fevereiro 2023).

9.1 Mini-workshop (Março 2023).

Resultados esperados:

1. Os mini-workshops deverão produzir resultados a serem publicados como "Technical Report" do Instituto de Estudos Avançados da USP.

2. Os grupos de estudos deverão ser necessariamente multidisciplinares. Seus participantes serão incentivados a submeterem artigos referentes aos debates para periódicos e conferências de qualidade.

3. Será estimulada a participação de pesquisadores e estudantes de universidades fora de São Paulo nos grupos de estudo.

4. Os grupos de pesquisas serão estimulados a trabalhar com estudos de casos da realidade brasileira.