Virgílio Almeida afirma a importância de estudos transdisciplinares na nova ordem digital

“A preocupação é crescente sobre o impacto dos algoritmos na sociedade, sobretudo no que afeta os grupos mais vulneráveis. Um exemplo é o fato de eles poderem filtrar as informações para combiná-las com a tendência de busca em ambientes digitais similares, o que pode induzir a vieses que alimentem o racismo, o preconceito e a discriminação." O alerta é do cientista da computação Virgílio Almeida, da UFMG, que no dia 25 de abril tomou posse como novo titular da Cátedra Oscar Sala, em cerimônia na Sala do Conselho Universitário da USP.

Virgílio assumiu a cátedra em substituição à primeira titular, a semioticista Lucia Santaella, da PUC-SP. Durante o período como catedrático, ele desenvolverá o projeto Interações Humano-Algoritmos.

Criada no início de 2021, a cátedra é resultado de parceria entre a USP o Comitê Gestor da Internet do Brasil (CGI.br), tendo como executores o IEA e o Núcleo de Informação e Coordenação do Ponto BR (NIC.br), braço operacional do CGI.br.

Na abertura da cerimônia, o coordenador acadêmico da cátedra, Eugênio Bucci, atual superintendente de Comunicação Social da USP, disse que o projeto de Almeida dialoga com o legado deixado por Santaella, que “contribuiu para uma reflexão de qualidade, articulando as humanidades com inteligência artificial, redes digitais e tecnologia”.

Algoritmos têm sido usados para a tomada de decisões críticas a respeito dos indivíduos, controlando o fluxo de informações, o que impacta indivíduos e a sociedade, afirmou. “É preciso que a sociedade estabeleça normas, levando em consideração os interesses dos diversos stakeholders."

Para o diretor do IEA, Guilherme Ary Plonski, o tema escolhido por Almeida é extremamente presente e estratégico por duas razões: "Do ponto de vista conceitual, questiona por que as coisas têm de ser de uma forma ou de outro, por que não explorar mais possibilidades de cooperação humano-máquinas. A segunda razão é o fato de o tema estar na crista das preocupações internacionais.” Ele mencionou a adoção no dia 23 de abril da Lei de Serviços Digitais (DSA, na sigla em inglês) pelos países integrantes da União Europeia, destinada à regulação dos serviços prestados por plataformas digitais, como o Facebook e o Twitter, que deverão combater conteúdos ilegais.

Plonski destacou ainda que há outras atividades importantes promovidas pela cátedras, caso da disciplina de pós-graduação Economia, Cultura e Poder, cuja segunda edição está ocorrendo este semestre, numa parceria com a Pró-Reitoria de Pós-Graduação.

Também presente na abertura da cerimônia, o coordenador do CGI.br e diretor do Departamento de Ciência, Tecnologia e Inovação Digital do Ministério de Ciência, Tecnologia e Inovação, José Gustavo Sampaio Gontijo, ressaltou a participação de Almeida para que o CGI.br seja reconhecido pelas discussões que realizou sobre a governança na internet, uma vez que estava na direção do organismo quando da aprovação do Marco Civil da Internet no Brasil (Lei 12.965/2014). “Ele trará para a cátedra uma visão mais objetiva do que se pretende do futuro da relação humano-algoritmos”, afirmou.

Encerrando a mesa de abertura da cerimônia, a vice-reitora Maria Arminda do Nascimento Arruda (representando o reitor Carlos Alberto Carlotti Jr.), disse que a cátedra aponta para o mundo que virá, no qual "a inovação é fundamental e deve ser entendida na sua inteireza, não apenas como avanço tecnológico, pois prevê a realização de pesquisa prévia e uma visão ampliada do termo, incluindo os campos das comunicações, ciência, tecnologia e cultura".

Vice-reitora Maria Arminda do Nascimento Arruda: ''A inovação é fundamental e deve ser entendida na sua inteireza, não apenas como avanço tecnológico''

A esfera pública pressupõe a convivência com as redes sociais, que "se constituem em um poder paralelo", afirmou.  Para lidar com elas de maneira inteligente, é preciso que as instituições que trabalham com a dinâmica das redes façam isso em confluência com outras áreas, como as humanidades e a filosofia, "e isso a Cátedra Oscar Sala faz muito bem", disse a vice-reitora.

Em sua fala de transmissão da titularidade a Almeida, a Lucia Santaella, afirmou que o período na cátedra lhe proporcionou tornar realidade “o desejo de fazer crescer uma forma de inteligência coletiva e participativa, com o apoio de assessores e a constituição de um excepcional grupo de estudos".

Santaella destacou a liberdade para atuar garantida pelos responsáveis pela cátedra: "Um ano de atividades no IEA significou o privilégio de pisar em solo seguro, com liberdade e acolhimento".

Ao apontar a importância dos temas discutidos na cátedra, o secretário executivo do CGI.br, Hartmut Glaser, comentou que o presidente da Internet Society, Andrew Sullivan, afirmou em relatório sobre 2021 que a internet se converteu numa ferramenta básica da vida na qual todos confiam sem entender muito bem como ela funciona e consegue atender aos seus desejos. A pergunta que se coloca, segundo Sullivan, é como a internet pode continuar a crescer de forma a atender às gerações futuras de forma aberta, global, segura e confiável.

De acordo com Glaser, 3 bilhões de pessoas não têm nenhuma possibilidade de acesso à internet. "No Brasil há 50 milhões de excluídos, incluindo pessoas com alguma deficiência que as impossibilita ter acesso. Como fica o brasileiro de uma região rural ou que tem outras dificuldades?".

Harmut Glaser, secretário executivo do CGI.br: ''Objetivo da parceria com a USP é a criar uma plataforma acadêmica para a discussão sobre economia, cultura e poder das redes''

Segundo ele, entre as várias atribuições do CGI.br estão administrar os registros de domínio, recomendar normas e padrões técnicos, estabelecer diretrizes estratégicas de uso e desenvolvimento da internet, promover estudos sobre segurança e promover pesquisas e desenvolvimento para estimular a disseminação do serviço em todo território brasileiro. "Neste último item está inserida a parceria com a USP para implantação da cátedra, de forma a criar uma plataforma acadêmica para a discussão sobre economia, cultura e poder das redes".

Conferência

"A tecnologia é mais visível no dia a dia, com máquinas e dispositivos inteligentes substituindo o ser humano em várias atividades e gerando uma nova ordem social", comentou Almeida na sua conferência de posse ao comparar a atualidade com a época em que se formou em engenharia, nos anos 70. As questões que se colocam agora são "com que olhar devemos observar esses novos tempos e que que perguntas devemos fazer?", disse.

Ele lembrou que, em 1950,o filósofo e matemático americano Norbert Wiener, depois de publicar trabalho sobre cibernética (foi o criador do termo), lançou o livro "The Human Use of Human Beings: Cybernetics and Society" (o uso humano dos seres humanos), cuja tese é que "a sociedade só pode ser compreendida através do estudo das mensagens e dos meios de comunicação disponíveis e como eles serão no futuro, quando as mensagens entre homens e máquinas e entre máquinas desempenharão um papel cada vez maior". No contexto atual, Almeida ressalta que precisa ser incluído o estudo sobre o significado das mensagens nas várias formas de interação entre humanos e algoritmos.

Para Wiener, ressaltou o catedrático, o perigo não vem das máquinas em si, mas do que o homem faz delas. "Ele afirma que as respostas aos desafios não passam pela produção de mais tecnologia, mas da compreensão do contexto político e social em que as máquinas estão inseridas."

A partir do exposto por Wiener, fica implícito que é preciso criar formas de governança digital, "para que as sociedades democráticas possam se proteger, associando limites, normas e valores éticos e morais aos avanços tecnológicos", disse Almeida.

"Exemplo recente dessas questões antecipadas por Wiener são os chatbots, agentes conversacionais baseados em algoritmos de inteligência artificial e que permitem a interação de pessoas com outros algoritmos e máquinas."

Almeida citou que a Organização Mundial da Saúde (OMS) utiliza chatbots para fornecer a milhões de pessoas notícias e informações sobre como se proteger da Covid-19. "Mas os chatbots também são capazes de espalhar notícias falsas em larga escala, interferindo em disputas políticas por meio da desinformação e polarização da opinião pública."

Em 1950, Wiener antecipou a preocupação com a redução do papel dos humanos em processos de decisão, mas ele não previu a hiperconectividade da sociedade contemporânea, e "isso muda sobremaneira, para o bem e para o mal, a relação dos humanos com dispositivos digitais", afirmou Almeida.

Ele citou recente declaração do sociólogo e filósofo francês Edgar Morin, para quem existem todos os meios para surgir um totalitarismo de vigilância, a partir de dispositivos como drones, celulares e reconhecimento facial. "Morin alerta que a questão é impedir que esses elementos se articulem para criar uma sociedade totalitária."

Para Almeida, num país com desigualdades constrangedoras como o Brasil, o pesquisador vive a dicotomia relevância versus excelência, ficando em dúvida se deve trabalhar em programas de ponta ou se concentrar nos desafios regionais ou locais mais importantes.  "É mais atraente buscar o impacto na pesquisa trabalhando nos hot topics que fazem parte da ciência mais avançada dos países desenvolvidos", disse.

“Aprendi ao longo da minha carreira que isso é um falso dilema, que pode ser superada pelo trabalho de grupos transdisciplinares, como aqueles que trabalham sobre o meio ambiente, Amazônia e vírus como os da dengue, zica e chikungunya."

Ele defendeu esse tipo de abordagem para o mapeamento da nova ordem baseada na interação entre humanos e máquinas e levantou uma série de questões: "Como máquinas e algoritmos vão alterar o espaço da autonomia e da agência humana? Como a sociedade brasileira deve se preparar para esse novo tempo? De onde virão os sinais para se entender e moldar um futuro seguro e equânime? De onde virão as respostas? Das artes, da literatura ou das ciências? Quais ciências contribuirão para isso, humanas, sociais, exatas, da saúde ou jurídicas?".

A ênfase do trabalho de Almeida na cátedra será o estudo transdisciplinar dos algoritmos e máquinas inteligentes, "não como artefatos de engenharia e computação, mas como uma classe de atores que apresentam padrões de comportamento particulares na interação com humanos."

"O tema é distinto da abordagem da ciência da computação e da robótica, apesar de vários pontos em comum. É distinto também das ciências sociais e humanas, embora as pesquisas sobre o comportamento humano sejam referências para os estudos dos potenciais efeito das tecnologias avançadas sobre o tecido social e o comportamento individual."

Segundo ele, universidades como a USP e a UFMG, da qual faz parte, "tem o dever de contribuir na construção de caminhos para uma transição mais justa e segura para um futuro tecnológico". Frisou, no entanto, que os problemas da interação humano-máquinas "não devem e não podem ser respondidos intramuros da universidade. "Há a necessidade premente de envolver a sociedade, para entender o que pessoas de fora do mundo acadêmico temem e o que as motiva nas tecnologias."

Os riscos do futuro digital são grandes, em sua opinião: vigilância total, manipulação e controle do cidadão e da sociedade pela governos e grandes corporações, crescimento da desigualdade, concentração de poder e desemprego. "O estudo desses riscos é necessário para que se criem mecanismos de proteção da sociedade, como a governança digital, que pode ser entendida como toda a forma de regulação coletiva de assuntos digitais”, afirmou.

Fotos: Leonor Calasans/IEA-USP