Algoritmos de destruição em massa

Mas, como Cathy O'Neil revela neste livro urgente e necessário, a verdade é justamente o contrário. Os modelos usados hoje são opacos, não regulamentados e incontestáveis, mesmo quando estão errados.

O mais preocupante é que eles reforçam a discriminação: se um estudante pobre não consegue obter um empréstimo porque o modelo matemático o considera muito arriscado (graças ao endereço onde mora), ele também é recusado na universidade que poderia tirá-lo da pobreza. Os algoritmos criam uma espiral discriminatória. Os modelos amparam os privilegiados e punem os oprimidos, criando um "coquetel tóxico para a democracia". Bem-vindo ao outro lado do Big Data.

Cathy O'Neil expõe os modelos de caixa-preta que moldam nosso futuro, tanto como indivíduos como sociedade. Essas "armas de destruição matemáticas" dão pontuação à professores e alunos, classificam currículos, concedem (ou negam) empréstimos, avaliam trabalhadores, definem, a liberdade condicional e monitoram nossa saúde.