Algoritmos de destruição em massa

Como o big data aumenta a desigualdade e ameaça a democravia

Carthy ONeil

Vivemos na Era do Algoritmo. Cada vez mais, as decisões que afetam nossas vidas - onde estudamos, se obtemos um empréstimo para comprar um carro, quanto pagamos pelo seguro saúde - estão sendo tomadas por modelos matemáticos. Em teoria, isso deveria nos conduzir para um mundo mais justo: todos são julgados de acordo com as mesmas regras e o preconceito é eliminado.

Mas, como Cathy O'Neil revela neste livro urgente e necessário, a verdade é justamente o contrário. Os modelos usados hoje são opacos, não regulamentados e incontestáveis, mesmo quando estão errados.

O mais preocupante é que eles reforçam a discriminação: se um estudante pobre não consegue obter um empréstimo porque o modelo matemático o considera muito arriscado (graças ao endereço onde mora), ele também é recusado na universidade que poderia tirá-lo da pobreza. Os algoritmos criam uma espiral discriminatória. Os modelos amparam os privilegiados e punem os oprimidos, criando um "coquetel tóxico para a democracia". Bem-vindo ao outro lado do Big Data.

Cathy O'Neil expõe os modelos de caixa-preta que moldam nosso futuro, tanto como indivíduos como sociedade. Essas "armas de destruição matemáticas" dão pontuação à professores e alunos, classificam currículos, concedem (ou negam) empréstimos, avaliam trabalhadores, definem, a liberdade condicional e monitoram nossa saúde.

COMPRAR na Amazon

Comprando por este link, você ajuda a manter o Livrista. A loja nos paga uma comissão e o preço para você continua o mesmo.