Ben Shneiderman enfatiza importância da inteligência artificial centrada no ser humano

Novo livro de Ben Shneiderman, tema de sua conferência

Um dos líderes na pesquisa e na formulação de conceitos nessa área é o cientista da computação Ben Shneiderman, professor emérito do Departamento de Ciência da Computação da Universidade de Maryland, EUA, e autor do livro "Human-Centered AI", lançado em fevereiro pela Oxford University Press.

As ideias presentes no livro foram o tema de conferência online que Shneiderman fez no dia 26 de agosto, no programação do projeto do cientista da computação Virgílio Almeida como titular da Cátedra Oscar Sala, parceria do IEA com o Núcleo de Informação e Coordenação do Ponto BR (NIC.br) no âmbito de convênio entre a USP e Comitê Gestor da Internet no Brasil (CGI.br).

Shneiderman tem uma longa trajetória no desenvolvimento de tecnologias digitais. Entre suas contribuições de uso amplamente difundido estão os links clicáveis luminosos, teclados touchscreen de alta definição para celulares e a atribuição de tags a fotografias. Suas inovações de visualização de informações incluem controles deslizantes de consulta dinâmica para o Spotfire, desenvolvimento de mapas de árvore para visualização de dados hierárquicos, novas visualizações de rede para NodeXL e análise de sequência de eventos para registros eletrônicos de dados sobre saúde.

O cientista da computação Ben Shneiderman

Ele iniciou sua exposição destacando o trabalho desenvolvido há 40 anos pelo Laboratório de Interação Humano-Computador da Universidade de Maryland, EUA, fundado por ele e do qual foi diretor. Essa atuação do laboratório é fruto da colaboração com diversos departamentos da universidade e está documentada em centenas de vídeos e relatórios técnicos, disse.

A inteligência artificial centrada no ser humano sempre foi uma das bandeiras do laboratório, segundo Shneiderman. Mas a visão predominante antes era de que os desenvolvedores deveriam escolher um ponto entre o polo do controle humano e o da automação, de acordo com as necessidades. "Achávamos que esse era o caminho certo, mas há alguns anos começamos a pensar de forma diferente e assegurar o controle humano enquanto aprimoramos a automação".

Como exemplo de como o excesso de automação pode ser prejudicial, Shneiderman comentou o fato de um modelo de avião ter sido criado com automação extrema da pressão interna, sem que isso fosse informado aos pilotos: "Foi preciso alterar o sistema, para que os pilotos tivessem o controle da regulagem da pressão".

É preciso obter um equilíbrio confiável, disse. Lembrou que há coisas de uso comum com um grau de automação considerável, mas nas quais o ser humano precisa estar no controle da ação em vários aspectos, como o elevador e as máquinas fotográficas digitais.

Há ainda os aspectos jurídicos e morais. Em sua opinião, achar que os computadores serão como pessoas é uma ilusão e essa concepção poderá fazer com que as pessoas percam a possibilidade de usar os recursos computacionais: "Os seres humanos têm a criatividade, a paixão, a empatia, a intuição. Temos que valorizar tudo isso e possibilitar o suporte do computador às capacidades humanas".

Para ele, é fruto de uma mentalidade antiga pensar em computadores inteligentes, com habilidades cognitivas, capazes de pensar e interagir como os humanos, possuindo inclusive inteligência emocional. "Essas ideias não apresentaram benefícios para os robôs comerciais, que são superferramentas para melhorar o desempenho humano. Funcionam como um centro de controle a serviço dos seres humanos."

A estrutura de governança no desenvolvimento da IA deve operar em quatro níveis, disse: a análise de aspectos práticos pela equipe de engenharia de software; o estabelecimento de uma cultura de segurança e liderança entre os funcionários; certificação confiável, com supervisão independente; e regulamentação pelo governo.

Shneiderman informou que seu livro traz diversas recomendações para atenção a valores e direitos humanos, justiça social, dignidade e outros fatores relacionados com as aspirações do ser humano. Mas é preciso dar "atenção também aos interesses de acionistas, pesquisadores, desenvolvedores, tomadores de decisão, reguladores e usuários".

Além disso, é importante reduzir os riscos de ações maliciosas, capazes de resultar em atos terroristas, crimes cibernéticos e atividades similares. "É preciso entender que o software pode falhar e induzir a distorções racistas e discriminações de gênero, religiosas e sociais. Precisamos ser humildes, admitir esses riscos e tentar fazer o melhor para evitá-los", advertiu.

No caso da vieses emergentes em sistemas, tema de uma das perguntas que lhe foram feitas, afirmou que o importante para lidar com isso é trabalhar com profissionais de várias áreas: "Acadêmicos são muito inteligentes, mas nem sempre escolhem os melhores problemas. Além da interdisciplinaridade, convém atentar para a intersetorialidade".

Perguntado sobre a possibilidade de a IA beneficiar pessoas (crianças e adultos) com limitações graves, Shneiderman disse que a IA traz e pode trazer muitos benefícios para as pessoas com necessidades especiais. "Cabe a nós pressionarmos as empresas a se preocuparem com a acessibilidade."

Encerrando o seminário, o diretor do IEA, Guilherme Ary Plonski, comentou aspectos do novo livro de Shneiderman e destacou a ênfase da obra na necessidade de estabelecimento de um novo arcabouço conceitual, "uma visão livre e nova para gerar a mudança".

"Aprendi na prática da engenharia industrial que para obter resultados no downstream é preciso pensar nisso no upstream. Não fazer as coisas sem pensar nas consequências", afirmou.

Foto: Mike Morgan/Universidade de Maryland