QUANDO A OBJETIVIDADE MATEMÁTICA SE TORNA EMPULHAÇÃO

ÉPOCA – 06/09/2019

HELIO GUROVITZ

Matemática desperta amor e ódio. Tanto quem a ama quanto quem a odeia costuma, contudo, concordar num ponto: é a ciência mais objetiva. Deriva tão somente da lógica, sem estar sujeita a experimentos, flutuações históricas ou circunstâncias políticas. Nas célebres palavras atribuídas a Gauss, é “a rainha das ciências”. Essa nobreza da matemática foi herdada por disciplinas correlatas, como computação, estatística ou a moderna ciência de dados (popularizada pelo termo “Big Data”). Sobre todas, paira a aura de objetividade. O público as vê como portadoras de um saber cristalino, irrefutável, infenso a humores e erros humanos. O fascínio cerca os dados e algoritmos, como se fossem por si só mais objetivos, mais corretos e melhores que qualquer outra resposta aos problemas. Por isso, se espalharam por setores variados, como finanças, marketing, educação, segurança, Justiça ou recursos humanos. Para onde se olhe, há um computador tomando decisões com base na “objetividade” dos dados.

Trata-se, na verdade, de uma empulhação, cometida com a cumplicidade e sob os aplausos de quem vê objetividade onde há uma mistura de arbitrariedade, oportunismo e máfé. “Quando penso no modo desleixado e interesseiro como as empresas usam dados, me lembro da frenologia, a pseudociência que causou furor no século XIX. Frenologistas passavam os dedos no crânio, tateando protuberâncias e reentrâncias. Se o paciente tinha ansiedade mórbida ou sofria de alcoolismo, o exame encontrava bossas ou sulcos correspondentes. A frenologia se baseava em bobagens pseudocientíficas para dar autoridade a suas afirmações. Durante décadas não foi contestada. O Big Data está sujeito a cair na mesma armadilha”, escreve Cathy O’Neil em Weapons of math destruction (Armas de destruição matemática).

Doutora em matemática por Harvard, com passagens pela academia — lecionou em Columbia —, pela indústria financeira e por empresas digitais, O’Neil viveu o que denuncia. Em Wall Street, fez modelos matemáticos usados para iludir os investidores antes do estouro da bolha imobiliária em 2008. Numa empresa da internet, criou outros modelos para prever o comportamento dos consumidores. Ela considera tais modelos, que lidam com a profusão de dados, os principais culpados por distorções cruéis. Não apenas nas finanças ou na publicidade digital, mas também em áreas como avaliação de professores, policiamento, sentenças judiciais, concessão de empréstimos ou seguros, planos de saúde, escalas de horário ou triagem de currículos. Dá dezenas de exemplos de incoerências: o motorista flagrado dirigindo bêbado paga seguro mais barato que outro sem crédito no banco; professores desistem de dar aulas, de tão arbitrárias as notas que recebem; presos por delitos leves são mantidos na cadeia, enquanto outros mais perigosos são libertados — e por aí afora. “Modelos são opiniões embutidas na matemática”, diz O’Neil. “Não passam da representação abstrata, seja de um jogo de beisebol, da cadeia de suprimentos de uma petrolífera, das ações de um governo estrangeiro ou da plateia no cinema.” São, por natureza, simplificações.

Eis as principais deficiências de que padecem: falta de transparência nos critérios, uso de variáveis que nem sempre correspondem à realidade, falta de atualização segundo resultados observados e a escala gigantesca que adquirem, a ponto de interferirem na realidade que deveriam medir. “Modelos são feitos não apenas de dados, mas das escolhas sobre os dados a que prestamos atenção. Não são escolhas sobre logística, lucro ou eficiência. São fundamentalmente escolhas morais.” Por isso mesmo, O’Neil não crê em soluções automatizadas. “Só seres humanos podem impor restriç ões.” Sugere que cientistas de dados prestem um juramento semelhante ao de Hipócrates para os médicos. Defende que todos os sistemas sejam submetidos a auditoria externa para avaliar se são justos. Depois do livro, criou um selo de qualidade e abriu uma consultoria para pôr a ideia em prática.

WEAPONS OF MATH DESTRUCTION

Cathy O’Neil, Broadway
Books 2016 | 288 páginas | US$ 16