Eles estão por
toda parte. Nos formulários que preenchemos para vagas de emprego. Nas análises
de risco a que somos submetidos em contratos com bancos e seguradoras. Nos
serviços que solicitamos pelos nossos smartphones. Nas propagandas e nas
notícias personalizadas que abarrotam nossas redes sociais. E estão
aprofundando o fosso da desigualdade social e colocando em risco as
democracias.
Definitivamente,
não é com entusiasmo que a americana Cathy O'Neil enxerga a revolução dos
algoritmos, sistemas capazes de organizar uma quantidade cada vez mais
impressionante de informações disponíveis na internet, o chamado Big Data.
Matemática com
formação em Harvard e Massachussetts Institute of Technology (MIT), duas das
mais prestigiadas universidades do mundo, ela abandonou em 2012 uma
bem-sucedida carreira no mercado financeiro e na cena das startups de
tecnologia para estudar o assunto a fundo.
Quatro anos
depois, publicou o livro Weapons of Math Destruction (Armas de
Destruição em Cálculos, em tradução livre, um trocadilho com a expressão
"armas de destruição em massa" em inglês) e tornou-se uma das vozes
mais respeitadas no país sobre os efeitos colaterais da economia do Big Data.
A obra é
recheada de exemplos de modelos matemáticos atuais que ranqueiam o potencial de
seres humanos como estudantes, trabalhadores, criminosos, eleitores e
consumidores. Segundo a autora, por trás da aparente imparcialidade desses
sistemas, escondem-se critérios nebulosos que agravam injustiças.
É o caso dos
seguros de automóveis nos Estados Unidos. Motoristas que nunca tomaram uma
multa sequer, mas que tinham restrições de crédito por morarem em bairros
pobres, pagavam valores consideravelmente mais altos do que aqueles com
facilidade de crédito, mas já condenados por dirigirem embriagados. "Para
a seguradora, é um ganha-ganha. Um bom motorista com restrição de crédito
representa um risco baixo e um retorno altíssimo", exemplifica.
Confira os principais trechos da entrevista noBBCBrasil
Nenhum comentário:
Postar um comentário