O nó humano da inteligência artificial

ISTOÉ DINHEIRO – 03/05/2019

Rafael Grohmann

A Inteligência Artificial (IA) substituirá os seres humanos? A resposta, por enquanto, é não. Mas nem isso deve nos deixar aliviados. Pesquisas e documentos recentes publicados nos Estados Unidos e na Europa mostram que o problema não está na troca da força de trabalho e sim na ampliação das desigualdades — com a criação de uma espécie de subcategoria de trabalhadores. Os humanos, boa parte de países periféricos, têm se encarregado de uma espécie de serviço sujo por trás de algoritmos, robôs e plataformas digitais.

O instituto de pesquisa alemão AlgorithmWatch publicou em abril o Atlas de Automação no país. Em vez de usar o termo Inteligência Artificial, o relatório prefere “Tomada de Decisão Baseada em Algoritmos”, que seria um termo mais preciso. Com isso, a investigação destaca que a responsabilidade pelas decisões automatizadas (ainda) está nos seres humanos, que desenvolvem e aprovam sistemas. Ou que emulam máquinas em trabalhos repetitivos — e mal pagos.

Antonio Casilli, professor da ParisTech, é outro que não compra a narrativa de uma IA sem humanos. Em seu recém-lançado En Attendant les Robots: Enquête sur leTtravail du Clic (À Espera dos Robôs: Pesquisa sobre o Trabalho do Clique, em tradução livre) afirma que a automação é um “espetáculo de marionete sem fios”, pois os maiores êxitos da IA se devem à grande quantidade de dados preparados por trabalho humano. Para ele, máquinas não acabarão com o trabalho humano e são os diferentes tipos de atuação das pessoas nas plataformas digitais que ajudam a ‘treinar’ os algoritmos. Essas atividades podem ser feitas em plataformas desde Uber e AirBnB até aplicativos que trocam dados de geolocalização ou quantos passos as pessoas dão por dia por criptomoedas, como o Bitwalk. Há uma quinzena, reportagem da Bloomberg ecoou Casilli ao mostrar que trabalhadores da Amazon ouvem o que usuários dizem para a Alexa, assistente virtual da companhia. As gravações são transcritas e inseridas no software por revisores humanos.

MICROTRABALHO Esta presença humana por trás de supostas soluções de Inteligência Artificial puro sangue fica evidente nas plataformas chamadas de microtrabalho. Nesses lugares, também chamados de crowdsourcing (ou colaboração coletiva), os trabalhadores são pagos por tarefas pequenas, como reconhecer cachorros em fotos ou abastecer bancos de dados respondendo a questionários. As principais plataformas de microtrabalho ou trabalho de clique são Amazon Mechanical Turk, Clickworker, Clixsense, Microworkers e WitMart. A Amazon Mechanical Turk é o caso mais emblemático dessas mega agências de microtrabalho. Lançada em novembro de 2005, a plataforma ficou conhecida pela frase “inteligência artificial artificial”. Seu próprio nome foi baseado, sem ironia, no caso do Turco Mecânico.

Na segunda metade do século 18, uma máquina de jogar xadrez foi construída pelo inventor húngaro Wolfgang von Kempelen, supostamente com base em Inteligência Artificial. Décadas depois, já na primeira metade do século 19, foi revelado que se tratava de uma artimanha de ilusão mecânica. No aparato do húngaro havia um jogador humano muito bom em xadrez operando a máquina escondido. A engenhoca fez sucesso e disseminou-se na história. Até personalidades como Napoleão Bonaparte e Benjamin Franklin teriam sido derrotadas daquela IA hoax. A Amazon nem tentou disfarçar que sua Mechanical Turk é uma versão futurista do Turco Mecânico de Kempelen.

Atualmente, segundo dados de pesquisas coordenadas pelo cientista da computação Panos Ipeirotis, da Universidade de Nova York, há mais de 500 mil pessoas trabalhando para a Amazon Mechanical Turk, a maioria dos Estados Unidos e da Índia. Além disso, há mais de 1.200 empresas e pessoas interessadas nos serviços e que diariamente postam atividades de trabalho atraídas pela frase “acesse uma força de trabalho global, por demanda e 24/7”. No site da Microworkers aparece em destaque o número de pessoas que já atuaram nos microjobs: 1,3 milhão. São sempre ocupações de baixíssima remuneração. Pesquisa da Universidade Cornell em dezembro de 2017, com 2.676 trabalhadores da Mechanical Turk, mostrou que o salário médio por hora foi de US$ 2 e apenas 4% receberam acima de US$ 7,25 por hora (salário mínimo federal dos EUA à época).

MODERADORES Quantas pessoas trabalham nessas plataformas de microtrabalho como Mechanical Turk, MicroWorkers e WitMart? Em 2015, um relatório do Banco Mundial estimava um total de 4,8 milhões trabalhadores ativos em todo o mundo. E não apenas em lugares mais pobres. Na França, há cerca de 315 mil pessoas fazendo trabalho de clique, segundo dados de pesquisa coordenada por Casilli no país. Do total, apenas 20% trabalham rotineiramente nessas atividades. Um dos exemplos mais recorrentes de humanos por trás da Inteligência Artificial é o trabalho dos moderadores de conteúdo das mídias sociais. São as pessoas que filtram o que pode ou não ser veiculado nas plataformas a partir da análise de fotos, textos e vídeos.

Identificar objetos ou seres (uma mesa, um gato, um ser humano) é das tarefas mais complexas para um computador. É aí que entram as massas. O portal The Verge publicou reportagem sobre moderadores da Cognizant, contratada do Facebook. Foram reveladas condições traumáticas de trabalho, com baixos salários e situações que podem afetar a saúde mental, como a exposição a imagens de extrema violência. Uma personagem da reportagem, chamada somente de Chloe, sai aos prantos de sua sala de trabalho após assistir a um vídeo de um homem implorando pela própria vida sendo esfaqueado e morto. Esse é o tipo de conteúdo moderado por humanos, não máquinas.

O documentário The Cleaners (de Hans Block e Moritz Riesewieck), que estreou no Brasil em março, trata do trabalho dos moderadores, que são terceirizados das grandes empresas tecnológicas do Vale do Silício. O filme apresenta o cotidiano de pessoas de Filipinas, Indonésia, Inglaterra e Turquia que avaliam 25 mil fotos e vídeos por dia, decidindo o que deletar ou não nas redes. O que fazer em relação a uma caricatura de Donald Trump com o pênis pequeno ou ao vídeo da execução do ex-ditador iraquiano Saddam Hussein? Os critérios passam pelas subjetividades dos trabalhadores que analisam o conteúdo.

Os pesquisadores que se debruçam mais seriamente sobre o tema não usam meias palavras e chamam boa parte do que é vendido como IA de narrativa ficcional. Douglas Rushkoff, autor do livro Team Human, diz que a tarefa inicial para transformar esse cenário é reconhecer a centralidade, a importância, dos seres humanos nas discussões sobre futuro do trabalho e da IA. O jornalista Sidney Fussell, em sua coluna de tecnologia no The Atlantic, afirmou recentemente que esconder o papel dos humanos na IA apenas serve à ficção criada pelo Vale do Silício para vender IA. Essas perspectivas reivindicadas por Rushkoff e Fussell têm sido ecoadas por relatórios publicados recentemente na Europa. Em abril, a Comissão Europeia lançou suas diretrizes éticas para uma Inteligência Artificial confiável. Para o órgão, a credibilidade passa por assegurar supervisão humana sobre os processos de trabalho em sistemas de Inteligência Artificial.

DESIGUALDADE O problema já avança outras frentes, além das condições degradantes e remuneração. Pesquisa do AI Now Institute, ligado à Universidade de Nova York, discute gênero, raça e poder na área de Inteligência Artificial das empresas de tecnologia. E revela desigualdades também no “topo da pirâmide” do trabalho no setor. As mulheres são apenas 15% da equipe de pesquisa em IA no Facebook e 10% no Google. A crise de diversidade afeta o modo como as empresas de Inteligência Artificial funcionam, impactando decisões sobre quais produtos serão produzidos e quem se beneficia com seu desenvolvimento. Na cadeia produtiva da IA existe, de um lado, uma massa de trabalhadores invisíveis e de baixa remuneração. De outro lado, em setores top do Vale do Silício, há desigualdade racial e de gênero. Assim, numa das áreas mais avançadas do mundo tecnológico, os problemas trabalhistas parecem do século retrasado. E metem medo até em robôs.

“Nós somos a inteligência artificial”
Antropóloga americana afirma que o futuro do trabalho só pode ser pensado a partir das pessoas que trabalham

Mary Gray, pesquisadora do Berkman Klein Center da Universidade de Harvard e da Microsoft Research, lançará na terça-feira 7 o livro Ghost Work: how to Stop Silicon Valley from Building a new Global Underclass (Trabalho Fantasma: como Fazer o Vale do Silício parar de Construir uma Nova Subclasse Global, em tradução livre). Escrito em coautoria com o cientista da computação Siddhart Suri, a obra mostra os trabalhadores invisíveis que ajudam a construir plataformas digitais como Amazon e Google e boa parte da chamada Inteligência Artificial. A seguir, trechos de sua entrevista à DINHEIRO.

O que é o trabalho fantasma?
Qualquer trabalho que pode ser, ao menos em parte, agendado, gerenciado e construído por meio de interface de programação de aplicativos (API), com um brilho de Inteligência Artificial.

Como isso ocorre?
O que é fascinante sobre Inteligência Artificial e o seu uso no sistema produtivo é o fato de que nós somos a Inteligência Artificial. Por exemplo, o revisor gramatical em um processador de texto. Ele tenta antecipar quais palavras você está tentando escrever. Foram dezenas de milhares de pessoas, ao longo de muitos anos, para que os softwares pudessem ser capazes de entregar um sistema que funcione.

Mas isso é algo positivo, não?
Isso é muito bom! A maioria dos revisores ortográficos pode capturar tudo. E a mesma infraestrutura produz softwares de reconhecimento de voz. Mas todos esses aparatos têm pessoas por trás preparando ou treinando os softwares. Isso requer muitas pessoas ao longo dos tempos.

É um paradoxo da automação.
Sim, mas, ao longo do tempo, os desenvolvedores do software perceberam que poderiam arrastar pessoas para um loop infinito de serviços, de modo que a pessoa não esteja lá somente para treinar os dados.

Mas nem sempre é possível estar atento a um serviço ou produto com esse trabalhador invisível por trás.
Cabe aos consumidores questionarem, quando estão comprando um produto muito barato ou grátis, quais são as condições de trabalho por trás dele.

E em que situação o aprendizado de máquina seria menos provável de ser aprendido com os humanos?
Imagine que você está cuidando de um ente querido: tente descobrir qual a vontade dele, se ele precisa de um cobertor, de um copo d’água ou apenas que você segure sua mão. Podemos até prever um pequeno conjunto de coisas que alguém poderia querer, mas as capacidades humanas de antecipar e atender a necessidade de outra pessoa é o que torna os sistemas distintos. Não importa quantos exemplos anteriores você tem para treinar um modelo (máquina, software): em algum momento as pessoas estarão sempre mais adaptadas para saber o que uma pessoa amada quer. E também terá a capacidade da empatia.

Há também a questão regulatória…
É preciso confrontar a regulamentação. De muitas maneiras, a economia mundial não tem girado a partir do emprego formal. Na Índia, a maioria das pessoas ganha seu dinheiro dia a dia, semana a semana, não sabendo quando receberá seu próximo pagamento. Precisamos criar capacidades para reconhecer a contribuição de cada um.