Socorro! Os números estão mandando na nossa vontade

Era para ser uma noite diferente. O rapaz chegou em casa, pegou o um pedaço de pizza e correu para a frente da TV para assistir a uma comédia no seu serviço de streaming favorito. Mas, poucos minutos depois, lá estava ele assistindo a outro filme de ação, como em todas as noites anteriores. Seria só uma coincidência? Na verdade, é mais um triunfo de uma sequência de linhas de código, repleta de complexos cálculos matemáticos, que é chamada de algoritmo. Eles viraram o núcleo dos serviços digitais na última década.

Embora a vida tenha ficado mais fácil desde que eles apareceram – basta lembrar de como era pesquisar sobre qualquer assunto sem o Google -, há indícios de que esses softwares não sejam tão neutros e inofensivos quanto parecem.

“Os algoritmos têm um grande papel nas escolhas das pessoas hoje em dia”, diz o professor de Ciências da Computação da Universidade de Washington, Pedro Domingos. “Eles determinam o que vemos no Google, escolhem três quartos dos filmes assistidos no Netflix e sugerem um terço de tudo o que é comprado na Amazon ”

Isso não seria um grande problema, se todo mundo soubesse como os algoritmos funcionam e que, dependendo de quem o desenvolveu, eles podem apresentar resultados enviesados. Contudo, hoje eles são como segredos industriais. “Os algoritmos são feitos para beneficiar quem está por trás deles”, alertou, em entrevista ao Estado, a matemática norte-americana Cathy O’Neil, autora do livro Weapons of Math Destruction (Armas de Destruição Matemática, em tradução livre). “Eles têm sido usados para separar vencedores de perdedores na internet.”

Viés – Nos Estados Unidos, os exemplos de algoritmos “viciados” se acumulam. Em 2016, a agência de notícias Bloomberg revelou que a Amazon não entregava produtos no mesmo dia em bairros predominantemente negros. A empresa negou que seu algoritmo levasse em conta a raça dos clientes.

Outro caso envolve o uso da tecnologia por juízes norte-americanos para determinar penas. Uma investigação da organização sem fins lucrativos ProPublica mostrou que negros tinham o dobro de chances de receberem uma pena mais longa que brancos. Há também casos de sites de emprego que não mostram vagas com altos salários para mulheres e de financeiras que cobram taxas mais altas de quem mora na periferia.

“Os algoritmos aprendem com os dados que são oferecidos a ele”, explica Júlio Monteiro, doutorando em Ciências da Computação na Escola Politécnica da Universidade de São Paulo (USP). “Se quem está por trás é preconceituoso, ele pode manter esse perfil.”

Para o professor da Universidade Federal do Espírito Santo (Ufes), Fábio Malini, o uso intensivo de algoritmos prejudica a sociedade, pois limita o acesso à web. “A regulação algorítmica melhora a democracia? Acredito que não”, defende o pesquisador. “É o acesso pleno a todos os conteúdos da rede que me ajuda a ampliar os pontos de vista.” Essa curadoria automatizada é o que tem provocado o “efeito bolha” nas redes sociais, em que as pessoas só veem conteúdos que reforçam suas crenças.

Solução – Especialistas consultados são unânimes em defender que é preciso criar órgãos independentes para auditar os algoritmos. “Imagino um futuro em que decisões são tomadas por eles”, diz Cathy. “Mas é preciso poder pedir explicações.”

Por enquanto, esse tipo de garantia só está prevista na União Europeia, onde o Regulamento Geral de Proteção de Dados (GDPR) deve entrar em vigor em maio de 2018. A nova lei, que representa a maior mudança na área de privacidade online em 20 anos, prevê que cidadãos possam exigir explicações às empresas por trás dos algoritmos.

Apesar de apresentarem riscos, esses programas são considerados um mal necessário no mundo digital. “Antes, a TV decidia o que veríamos, mas na internet passamos a escolher livremente o que consumir”, diz Edney Souza, professor da ESPM. “A maioria não estava pronta para este salto. O algoritmo está no meio do caminho.”