Um vídeo que
mostra o médico David Dao sendo removido de um voo da United Airlines em um
aeroporto de Chicago, nos Estados Unidos, viralizou em abril passado.
O episódio
gerou prejuízos à imagem da empresa americana, cuja tripulação queria que Dao
cedesse seu lugar a um funcionário para que ele fosse ao destino do voo,
Louisville, para render a equipe local. Mas quase nenhuma das críticas tratou
de um elemento crucial do ocorrido: a necessidade de retirar o médico do voo
foi decidida por uma máquina, mais especificamente por um programa de
computador.
É exemplo
clássico de como esses programas, conhecidos como algoritmos, estão tomando
decisões que afetam nossas vidas, muitas vezes sem que a gente sequer saiba
disso.
Especialistas
já manifestaram sua preocupação com a falta de transparência no uso de sistemas
de inteligência artificial nesta tomada de decisões. Mesmo assim, seu uso está
se popularizando: um algoritmo já pode decidir se você será escolhido para uma
entrevista de emprego ou se conseguirá um empréstimo, com quem você se
relacionará e até mesmo quanto tempo de prisão um criminoso "merece".
O BBC reuniu
alguns exemplos de como sua vida já pode estar sendo afetada por algoritmos.
Confira:
1. O
computador decide se você fará ou não uma entrevista de emprego
Currículos são
cada vez mais descartados sem sequer passar por mãos humanas. Isso porque as
empresas estão empregando sistemas automatizados em seus processos seletivos,
principalmente na análise de centenas de milhares de inscrições.
Nos Estados
Unidos, estima-se que mais de 70% dos candidatos sejam eliminados antes de
serem avaliados por pessoas. Para as companhias, isso economiza dinheiro e
tempo, mas alguns questionam a neutralidade dos algoritmos.
Em um artigo na
revista Harvard Business Review, Gideon Mann e Cathy O'Neil argumentam que
esses programas não são desprovidos de preconceitos humanos, então, isso pode
levar a decisões tendenciosas por parte da inteligência artificial.
2. Quer dinheiro emprestado? Seu perfil na rede
social pode afetar isso
Historicamente, quando alguém pede dinheiro a uma
instituição financeira, a resposta vai depender da análise das chances do
empréstimo ser pago, com base na proporção entre a dívida e a renda desta
pessoa e seu histórico de crédito.
Não é mais
assim: agora, algoritmos reúnem e analisam dados de múltiplas fontes, que vão
desde padrões de compra a buscas na internet e sua atividade em redes sociais.
O problema é
que esse método usa informações coletadas sem o conhecimento ou colaboração de
quem pede o dinheiro. Também há uma questão em torno da transparência do código
do algoritmo e seu comportamento tendencioso.
3. Um algoritmo pode te ajudar a achar um amor, mas
pode não ser quem você espera
Não é uma
surpresa que sites de namoro usam algoritmos para identificar duas pessoas
compatíveis. É um dos seus principais apelos para o público, na verdade.
Mas a forma como isso é feito não é muito clara,
especialmente após o e Harmony, um dos principais deste mercado, ter revelado
no ano passado que fez ajustes nas preferências de seus clientes para aumentar
suas chances de encontrar um par ideal, algo que pode incomodar quem perdeu
tempo para responder às 400 perguntas necessárias para se ter um perfil no
site.
Mas até mesmo
em alternativas como o aplicativo Tinder, em que as variáveis são bem menos
complexas (geografia, idade e orientação sexual), as combinações não são tão
simples assim.
Quem usa o
serviço recebe uma nota secreta sobre o quanto essa pessoa é
"desejável", calculada para "permitir melhores
combinações", segundo o Tinder. A fórmula é mantida em segredo, mas os
executivos da empresa por trás do aplicativo já indicaram que o número de vezes
que o perfil de alguém é curtido ou rejeitado tem um papel crucial sobre isso.
4. Um programa pode determinar se você é viciado em
drogas e se conseguirá contratar um plano de saúde
O mal uso de
medicamentos e drogas é a principal causa de mortes acidentais nos Estados
Unidos, e especialistas com frequência se referem a esse problema como uma
epidemia.
Para lidar com
isso, cientistas e autoridades estão se unindo em projetos baseados em dados.
Recentemente, no Estado do Tennessee, nos Estados Unidos, a operadora de planos
de saúde Blue Cross e a empresa de tecnologia Fuzzy Logix anunciaram a criação
de um algoritmo para analisar nada menos do que 742 variáveis e, assim, avaliar
o risco de um comportamento abusivo com medicamentos.
Isso levantou
uma questão ética: os dados analisados incluem o histórico médico e até mesmo o
endereço residencial. O argumento a favor desse tipo de intervenção é que isso
pode salvar vidas e mitigar prejuízos ao sistema de saúde - viciados em
opioides têm, por exemplo, 59% mais chances de serem usuários de alto custo.
O mercado de
inteligência artificial em saúde deve crescer de US$ 670 milhões (R$ 2,13
bilhões) em 2016 para quase US$ 8 bilhões (R$ 25,4 bilhões) até 2022, segundo
um estudo feito pela consultoria MarketsandMarkets, e essa previsão foi feita
antes do anúncio de que a gigante do varejo Amazon entrará neste mercado.
Acredita-se que
o uso de algoritmos e da inteligência artificial nesta área deve tornar a
tomada de decisões mais eficiente e reduzir o número de erros humanos.
5. Eles determinam até se um filme será feito
Essa não é a
primeira vez que alguém dirá que Hollywood tem uma fórmula para produzir
sucessos. Mas é diferente do processo baseado na experiência e instinto de
produtores ao selecionar um roteiro ou elenco.
Algoritmos são
usados para analisar não só as chances de um filme ir bem nas bilheterias, mas
também quanto dinheiro ele fará. Esse serviço é oferecido por várias empresas,
e Paramount, Universal e Warner Bros, alguns dos principais estúdios de
Hollywood, contratam essas consultorias.
Além de
comparar um novo filme com uma base de dados de produções passadas, esses
serviços afirmam que podem detectar o impacto de mudanças na história e até
mesmo entre os atores.
6. Algoritmos influenciam em quem você vota e quem
será presidente
Em uma época em
que dados tornaram-se mais importantes do que empatia e carisma no mundo da
política, algoritmos são cruciais para candidatos em busca de votos.
Não foi só a
retórica de Barack Obama que impressionou em sua ascensão rumo à indicação do
Partido Democrata para disputar a Presidência dos Estados Unidos em 2008, mas
também seu uso desta tecnologia.
A campanha de
Obama mirou incessantemente nos eleitores indecisos, usando uma série de
informações para individualizar ao máximo os perfis do eleitorado.
Quase dez anos
depois, Emmanuel Macron conseguiu uma vitória inesperada na França com uma
estratégia similar - algoritmos ajudaram a identificar distritos e bairros que
eram os mais representativos do país como um todo. Isso ajudou a guiar sua
equipe na realização de 25 mil entrevistas usadas para estabelecer as
prioridades e estratégias de sua campanha.
7. A polícia usa algoritmos para prever se você
será um criminoso
O sistema de
vigilância da China sobre seus 1,3 bilhão de habitantes é bem conhecido, mas
parece haver espaço para expandi-lo. O governo anunciou em 2015 o
desenvolvimento de um sistema capaz de "prever crimes" com base em
dados pessoais, como o histórico médico e entregas de compras.
Grupos de
direitos humanos acusaram as autoridades chinesas de violar a privacidade dos
cidadãos, dizendo que o real propósito do sistema é monitorar dissidentes.
A China não é,
no entanto, o único país a usar algoritmos para prever crimes: o policiamento
baseado em dados é aplicado nos Estados Unidos há mais de uma década, e algumas
forças de segurança britânicas começaram em 2012 a usar softwares de mapeamento
e previsão de crimes.
O programa é
bem simples em comparação com algo como o mundo retratado pelo filme Minority Report (2002): dados sobre os tipos de
crimes, sua localização, data e hora geram um mapa identificando as áreas onde
eles provavelmente voltarão a ocorrer.
Segundo uma
pesquisa do centro britânico Royal United Services Institute for Defence and
Security Studies, algoritmos podem ter até dez vezes mais chances de prever a
localização de um crime futuro em comparação com o policiamento comum.
No entanto, um destes sistemas, o PredPol, usado
pela polícia da Grande Manchester, no Reino Unido, gerou uma polêmica.
Pesquisas mostraram que ele criava uma distorção em que policiais eram enviados
para os mesmos bairros repetidamente, independentemente das reais taxas de
criminalidade nestas áreas.
8. Um computador pode te mandar para a prisão
Juízes em ao
menos dez Estados americanos estão tomando decisões em casos criminais com a
ajuda de um sistema automatizado chamado COMPAS, baseado em um algoritmo de
análise de risco para prever a probabilidade de uma pessoa cometer um novo
crime.
Um caso famoso
nesse sentido ocorreu em 2013, quando um homem chamado Eric Loomis foi
condenado a sete anos de prisão por fugir da polícia e dirigir um carro sem a
permissão do dono no Estado de Wisconsin.
Antes de a
sentença ser proferida, autoridades apresentaram uma avaliação, feita com base
em uma entrevista com Loomis e informações fornecidas pelo algoritmo sobre sua
probabilidade de reincidência - o resultado indicava que ele tinha um
"alto risco de cometer novos crimes".
Seus advogados
questionaram a condenação usando vários argumentos, entre eles que o COMPAS foi
criado por uma empresa privada e que informações sobre o algoritmo não foram
reveladas. Também afirmaram que os direitos de Loomis foram violados, porque a
avaliação levava em conta fatores como gênero e raça.
De fato, uma
análise de mais de 10 mil casos na Flórida ao longo de dois anos, publicado em
2016 pela ONG ProPublic, mostrou que a previsão de alto risco de reincidência
era mais comum para negros do que para brancos.
9. Eles podem influenciar seu dinheiro
Esqueça as
imagens de pessoas gritando na bolsa de valores com telefones nos ouvidos.
Transações no mercado de ações estão se tornando cada vez mais um produto de
cálculos feitos por algoritmos, que são mais rápidos do que qualquer humano e
compram e vendem papéis em questão de segundos.
Defensores
desta tecnologia afirmam que uma máquina é imune à volatilidade emocional do
mercado e investe mais racionalmente. Isso, no entanto, foi questionado em
2010, quando algoritmos foram apontados como os culpados pelo crash que fez desaparecer temporariamente do
mercado de ações americano US$ 1 trilhão.
Um relatório do banco JP Morgan estimou que, em
2017, investimentos com base em algoritmos ou fórmulas computacionais
responderam por quase 90% do volume de transações com ações nos Estados Unidos.
(BBCBrasil)
Nenhum comentário:
Postar um comentário