Algoritmos das rede sociais promovem preconceito e desigualdade, diz matemáticacombinações no pokerHarvard:combinações no poker

A obra é recheadacombinações no pokerexemploscombinações no pokermodelos matemáticos atuais que ranqueiam o potencialcombinações no pokerseres humanos como estudantes, trabalhadores, criminosos, eleitores e consumidores. Segundo a autora, por trás da aparente imparcialidade desses sistemas, escondem-se critérios nebulosos que agravam injustiças.

É o caso dos seguroscombinações no pokerautomóveis nos Estados Unidos. Motoristas que nunca tomaram uma multa sequer, mas que tinham restriçõescombinações no pokercrédito por moraremcombinações no pokerbairros pobres, pagavam valores consideravelmente mais altos do que aqueles com facilidadecombinações no pokercrédito, mas já condenados por dirigirem embriagados. "Para a seguradora, é um ganha-ganha. Um bom motorista com restriçãocombinações no pokercrédito representa um risco baixo e um retorno altíssimo", exemplifica.

Confira abaixo os principais trechos da entrevista:

combinações no poker BBC Brasil - Há séculos pesquisadores analisam dados para entender padrõescombinações no pokercomportamento e prever acontecimentos. Qual é novidade trazida pelo Big Data?

combinações no poker Cathy O'Neil - O diferencial do Big Data é a quantidadecombinações no pokerdados disponíveis. Há uma montanha gigantescacombinações no pokerdados que se correlacionam e que podem ser garimpados para produzir a chamada "informação incidental". É incidental no sentidocombinações no pokerque uma determinada informação não é fornecida diretamente - é uma informação indireta. É por isso que as pessoas que analisam os dados do Twitter podem descobrircombinações no pokerqual político eu votaria. Ou descobrir se eu sou gay apenas pela análise dos posts que curto no Facebook, mesmo que eu não diga que sou gay.

A questão é que esse processo é cumulativo. Agora que é possível descobrir a orientação sexualcombinações no pokeruma pessoa a partircombinações no pokerseu comportamento nas redes sociais, isso não vai ser "desaprendido". Então, uma das coisas que mais me preocupam é que essas tecnologias só vão ficar melhores com o passar do tempo. Mesmo que as informações venham a ser limitadas - o que eu acho que não vai acontecer - esse acúmulocombinações no pokerconhecimento não vai se perder.

combinações no poker BBC Brasil - O principal alerta do seu livro écombinações no pokerque os algoritmos não são ferramentas neutras e objetivas. Pelo contrário: eles são enviesados pelas visõescombinações no pokermundocombinações no pokerseus programadores e,combinações no pokerforma geral, reforçam preconceitos e prejudicam os mais pobres. O sonhocombinações no pokerque a internet pudesse tornar o mundo um lugar melhor acabou?

combinações no poker O'Neil - É verdade que a internet fez do mundo um lugar melhorcombinações no pokeralguns contextos. Mas, se colocarmos numa balança os prós e os contras, o saldo é positivo? É difícil dizer. Dependecombinações no pokerquem é a pessoa que vai responder. É evidente que há vários problemas. Só que muitos exemplos citados no meu livro, é importante ressaltar, não têm nada a ver com a internet. As prisões feitas pela polícia ou as avaliaçõescombinações no pokerpersonalidade aplicadascombinações no pokerprofessores não têm a ver estritamente com a internet. Não há como evitar que isso seja feito, mesmo que as pessoas evitem usar a internet. Mas isso foi alimentado pela tecnologiacombinações no pokerBig Data.

Por exemplo: os testescombinações no pokerpersonalidadecombinações no pokerentrevistascombinações no pokeremprego. Antes, as pessoas se candidatavam a uma vaga indo até uma determinada loja que precisavacombinações no pokerum funcionário. Mas hoje todo mundo se candidata pela internet. É isso que gera os testescombinações no pokerpersonalidade. Existe uma quantidade tão grandecombinações no pokerpessoas se candidatando a vagas que é necessário haver algum filtro.

combinações no poker BBC Brasil - Qual é o futuro do trabalho sob os algoritmos?

combinações no poker O'Neil - Testescombinações no pokerpersonalidade e programas que filtram currículos são alguns exemploscombinações no pokercomo os algoritmos estão afetando o mundo do trabalho. Isso sem mencionar os algoritmos que ficam vigiando as pessoas enquanto elas trabalham, como é o casocombinações no pokerprofessores e caminhoneiros. Há um avanço da vigilância. Se as coisas continuarem indo do jeito como estão, isso vai nos transformarcombinações no pokerrobôs.

Mas eu não quero pensar nisso como um fato inevitável - que os algoritmos vão transformar as pessoascombinações no pokerrobôs ou que os robôs vão substituir o trabalho dos seres humanos. Eu não quero admitir isso. Isso é algo que podemos decidir que não vai acontecer. É uma decisão política. Essa ideiacombinações no pokerque os robôs vão substituir o trabalho humano é muito fatalista. É preciso reagir e mostrar que essa é uma batalha política. O problema é que estamos tão intimidados pelo avanço dessas tecnologias que sentimos que não há como lutar contra.

combinações no poker BBC Brasil - E no caso das companhiascombinações no pokertecnologia como a Uber? Alguns estudiosos usam o termo "gig economy" (economiacombinações no poker"bicos") para se referir à organização do trabalho feita por empresas que utilizam algoritmos.

combinações no poker O'Neil - Esse é um ótimo exemplocombinações no pokercomo entregamos o poder a essas empresas da gig economy, como se fosse um processo inevitável. Certamente, elas estão se saindo muito bem na tarefacombinações no pokerburlar legislações trabalhistas, mas isso não quer dizer que elas deveriam ter permissão para agir dessa maneira. Essas companhias deveriam pagar melhores remunerações e garantir melhores condiçõescombinações no pokertrabalho.

No entanto, os movimentos que representam os trabalhadores ainda não conseguiram assimilar as mudanças que estão ocorrendo. Mas essa não é uma questão essencialmente algorítmica. O que deveríamos estar perguntando é: como essas pessoas estão sendo tratadas? E, se elas não estão sendo bem tratadas, deveríamos criar leis para garantir isso.

Eu não estou dizendo que os algoritmos não têm nada a ver com isso - eles têm, sim. É uma forma que essas companhias usam para dizer que elas não podem ser consideradas "chefes" desses trabalhadores. A Uber, por exemplo, diz que os motoristas são autônomos e que o algoritmo é o chefe. Esse é um ótimo exemplocombinações no pokercomo nós ainda não entendemos o que se entende por "responsabilidade" no mundo dos algoritmos. Essa é uma questãocombinações no pokerque venho trabalhando há algum tempo: que pessoas vão ser responsabilizadas pelos erros dos algoritmos?

combinações no poker BBC Brasil - No livro você argumenta que é possível criar algoritmos para o bem - o principal desafio é garantir transparência. Porém, o segredo do sucessocombinações no pokermuitas empresas é justamente mantercombinações no pokersegredo o funcionamento dos algoritmos. Como resolver a contradição?

combinações no poker O'Neil - Eu não acho que seja necessária transparência para que um algoritmo seja bom. O que eu preciso saber é se ele funciona bem. Eu precisocombinações no pokerindicadorescombinações no pokerque ele funciona bem, mas isso não quer dizer que eu necessite conhecer os códigoscombinações no pokerprogramação desse algoritmo. Os indicadores podem sercombinações no pokeroutro tipo - é mais uma questãocombinações no pokerauditoria do quecombinações no pokerabertura dos códigos.

A melhor maneiracombinações no pokerresolver isso é fazer com que os algoritmos sejam auditados por terceiros. Não é recomendável confiar nas próprias empresas que criaram os algoritmos. Precisaria ser um terceiro, com legitimidade, para determinar se elas estão operandocombinações no pokermaneira justa - a partir da definiçãocombinações no pokeralguns critérioscombinações no pokerjustiça - e procedendo dentro da lei.

combinações no poker BBC Brasil - Recentemente, você escreveu um artigo para o jornal New York Times defendendo que a comunidade acadêmica participe mais dessa discussão. As universidades poderiam ser esse terceirocombinações no pokerque você está falando?

combinações no poker O'Neil - Sim, com certeza. Eu defendo que as universidades sejam o espaço para refletir sobre como construir confiabilidade, sobre como requerer informações para determinar se os algoritmos estão funcionando.

combinações no poker BBC Brasil - Quando vieram a público as revelaçõescombinações no pokerEdward Snowdencombinações no pokerque o governo americano espionava a vida das pessoas através da internet, muita gente não se surpreendeu. As pessoas parecem dispostas a abrir mão dacombinações no pokerprivacidadecombinações no pokernome da eficiência da vida virtual?

combinações no poker O'Neil - Eu acho que só agora estamos percebendo quais são os verdadeiros custos dessa troca. Com dez anoscombinações no pokeratraso, estamos percebendo que os serviços gratuitos na internet não são gratuitoscombinações no pokermaneira alguma, porque nós fornecemos nossos dados pessoais. Há quem argumente que existe uma troca consentidacombinações no pokerdados por serviços, mas ninguém faz essa trocacombinações no pokerforma realmente consciente - nós fazemos isso sem prestar muita atenção. Além disso, nunca fica claro para nós o que realmente estamos perdendo.

Mas não é pelo fatocombinações no pokera NSA (siglacombinações no pokeringlês para a Agênciacombinações no pokerSegurança Nacional) nos espionar que estamos entendendo os custos dessa troca. Isso tem mais a ver com os empregos que nós arrumamos ou deixamoscombinações no pokerarrumar. Ou com os benefícioscombinações no pokerseguros ecombinações no pokercartõescombinações no pokercrédito que nós conseguimos ou deixamoscombinações no pokerconseguir. Mas eu gostaria que isso estivesse muito mais claro.

No nível individual ainda hoje, dez anos depois, as pessoas não se dão conta do que está acontecendo. Mas, como sociedade, estamos começando a entender que fomos enganados por essa troca. E vai ser necessário um tempo para saber como alterar os termos desse acordo.

combinações no poker BBC Brasil - O último capítulo do seu livro fala sobre a vitória eleitoralcombinações no pokerDonald Trump e avalia como as pesquisascombinações no pokeropinião e as redes sociais influenciaram na corrida à Casa Branca. No ano que vem, as eleições no Brasil devem ser as mais agitadas das últimas três décadas. Que conselho você daria aos brasileiros?

combinações no poker O'Neil - Meu Deus, isso é muito difícil! Está acontecendocombinações no pokertodas as partes do mundo. E eu não sei se isso vai parar, a não ser que fechem o Facebook - o que, a propósito, eu sugiro que façamos. Agora, falando sério: as campanhas políticas na internet devem ser permitidas, mas não deveriam ser permitidos anúncios personalizados, customizados - ou seja, todo mundo deveria receber os mesmos anúncios. Eu sei que essa ainda não é uma proposta realista, mas acho que deveríamos pensar grande porque esse problema é grande. E eu não consigo pensarcombinações no pokeroutra maneiracombinações no pokerresolver essa questão.

É claro que isso seria um elementocombinações no pokerum conjunto maiorcombinações no pokermedidas porque nada vai impedir pessoas idiotascombinações no pokeracreditar no que elas querem acreditar - ecombinações no pokerpostar sobre isso. Ou seja, nem sempre é um problema do algoritmo. Às vezes, é um problema das pessoas mesmo. O fenômeno das fake news é um exemplo. Os algoritmos pioram a situação, personalizando as propagandas e amplificando o alcance, porém, mesmo que não existisse o algoritmo do Facebook e que as propagandas políticas fossem proibidas na internet, ainda haveria idiotas disseminando fake news que acabariam viralizando nas redes sociais. E eu não sei o que fazer a respeito disso, a não ser fechar as redes sociais.

Eu tenho três filhos, eles têm 17, 15 e 9 anos. Eles não usam redes sociais porque acham que são bobas e eles não acreditamcombinações no pokernada do que veem nas redes sociais. Na verdade, eles não acreditamcombinações no pokermais nada - o que também não é bom. Mas o lado positivo é que eles estão aprendendo a checar informações por conta própria. Então, eles são consumidores muito mais conscientes do que os da minha geração. Eu tenho 45 anos, a minha geração é a pior. As coisas que eu vi as pessoas da minha idade compartilhando após a eleiçãocombinações no pokerTrump eram ridículas. Pessoas postando ideias sobre como colocar Hilary Clinton na presidência mesmo sabendo que Trump tinha vencido. Foi ridículo. A esperança é ter uma geraçãocombinações no pokerpessoas mais espertas.