CONGRESSO AMERICANO QUER RESOLVER DEEPFAKES ATÉ 2020

ÉPOCA – 21/07/2019

Nina Iacono Brown, da Slate, com tradução de Rodrigo Castro

Deepfakes são a arma mais recente na guerra contra a verdade, e o Congresso dos Estados Unidos está prestando atenção nisso. A tecnologia permite que qualquer pessoa crie vídeos convincentes de eventos que nunca aconteceram, estimulando o medo de que surja um profundo engano que alimente divisões políticas, provoque violência ou atinja indivíduos. De fato, a tecnologia já foi usada para criar pornografia não consensual. Mas é o medo de a deepfake atrapalhar a eleição presidencial americana de 2020 que está levando o Congresso a entrar em ação.

O primeiro projeto de lei federal voltado para deepfakes, o Projeto de Proibição de Deepfakes Maliciosas , foi introduzido nos Estados Unidos em dezembro de 2018, e a Ação de Responsabilidade sobre Deepfakes foi adotado em junho deste ano. A legislação que visa os deepfakes também foi introduzida em vários estados americanos, incluindo Califórnia , Nova York e Texas . Durante uma audiência do Comitê de Inteligência da Câmara sobre o assunto em junho, os legisladores sinalizaram que mais governança está chegando, provavelmente na forma de regulação das mídias sociais.

Deepfakes são assustadoras, mas a pressa do Congresso para regulá-las também é. A legislação exige deliberação cuidadosa, especialmente quando é direcionada a uma tecnologia emergente. Isto é particularmente verdadeiro quando, como aqui, há usos positivos para a tecnologia, como entretenimento e sátira, que vêm com fortes proteções da Primeira Emenda. Para que uma solução legislativa funcione, seria necessário equilibrar esses fatores e considerar que a tecnologia — e provavelmente a maneira como é usada — continuará a evoluir. Encurtar esse processo arrisca a promulgação de leis que não apenas falhem em suas metas políticas, mas também ameacem os interesses da Primeira Emenda.

A pressa do Congresso americano está escrita em todos os dois projetos de lei já apresentados. O Projeto de Proibição de Deepfakes Maliciosas, por exemplo, tornaria crime federal criar ou distribuir uma deepfake quando isso facilitasse a conduta ilegal. Em outras palavras, a conduta proibida por essa proposta já é vetada pelas leis atuais. O projeto não faz nada para reduzir o risco de deepfakes, apenas endurece a punição. (Embora esse projeto tenha expirado no final de 2018, o escritório do senador Ben Sasse informa que ele pretende reintroduzi-lo.)

A Ação de Responsabilidade sobre Deepfakes não se sai muito melhor. Isso exigiria marcas d’água obrigatórias e rótulos claros em todas as deepfakes — um passo que provavelmente será ignorado por aqueles cujo objetivo é transformar a deepfake em arma. A lei define, em linhas gerais, as deepfakes como qualquer mídia que falsamente “pareça representar autenticamente qualquer fala ou conduta de uma pessoa” e é produzida substancialmente por “meios técnicos”. Essa definição expansiva poderia remover certos discursos protegidos, particularmente porque o projeto tropeça em suas exceções (como entretenimento e paródia), submetendo-as a desafios da Primeira Emenda . Ah, e isso isenta oficiais e funcionários dos Estados Unidos que criam profundos sentimentos em prol da segurança pública ou da segurança nacional.

Mesmo que o Congresso elaborasse um projeto de lei perfeitamente adaptado, equilibrando a ameaça de deepfakes e os interesses da Primeira Emenda, isso poderia não fazer diferença. É improvável que as leis detenham os que estão fora da jurisdição dos tribunais dos EUA (digamos, uma potência estrangeira que pretenda interferir nas eleições) ou aqueles que têm a capacidade tecnológica de permanecer anônimos. E os indivíduos sofisticados o suficiente para se envolver em atividades criminosas on-line muitas vezes têm a capacidade de permanecer anônimos. Se os perpetradores puderem evitar ser detectados e, com isso, as prováveis sanções, mesmo a lei mais restrita seria de consequência mínima. Para realmente ter um impacto, a lei precisaria de um mecanismo de aplicação — alguma forma de identificar e mirar os responsáveis por sua criação ou distribuição.

Isso explica a lógica por trás da mais recente e mais perigosa ideia do Congresso: combater as deepfakes por meio da regulamentação das mídias sociais. Não é difícil entender por que os legisladores veem isso como a resposta — as plataformas sociais são os canais de distribuição mais prováveis para deepfakes. O poder das deepfakes para causar danos em larga escala existe apenas porque as plataformas sociais fornecem um meio para uma disseminação instantânea e abrangente. Afinal, é isso que lhes permitiu servir como incubadoras para campanhas de desinformação nas eleições presidenciais de 2016 e além. Elas continuam a enfrentar a reação pública e política de como lidam mal com informações falsas.

Considere a recente recusa do Facebook em remover um vídeo alterado da presidente da Câmara, Nancy Pelosi, que havia sido manipulado para parecer que Pelosi estava com a fala desarticulada em seu discurso, aparentemente embriagada. Mesmo depois de ter sido identificado como falso, o Facebook optou por manter o vídeo on-line, explicando que suas regras não proíbem postar informações falsas. Em vez disso, o Facebook disse que reduziria a frequência com que o vídeo apareceria nos feeds de notícias e alertaria os usuários que compartilham o vídeo sobre sua falsidade. É claro que, no momento em que o Facebook agiu, o vídeo já havia sido visto milhões de vezes. O dano foi causado.

O vídeo de Pelosi não foi uma deepfake (tanto que foi apelidado de “ cheapfake ”, porque foi distorcido com uma simples técnica de edição), mas destacou a rapidez com que uma deepfake pode se espalhar e como as plataformas sociais exercem total arbítrio ao decidir se e como responder. Esse arbítrio se deve graças a uma lei federal poderosa, a Seção 230 da Lei de Decência das Comunicações, que protege as plataformas sociais da responsabilidade civil decorrente das postagens de seus usuários. A lei é a razão pela qual as redes sociais (e qualquer site que depende do conteúdo fornecido pelos usuários) podem existir. A Electronic Frontier Foundation chama a Seção 230 de “uma das ferramentas mais valiosas para proteger a liberdade de expressão e inovação na Internet”, em parte porque não protege apenas grandes empresas — empresas menores e mais novas que não têm recursos para contestar processos baseados nas postagens de seus usuários contam com essa proteção, e muitas não poderiam existir sem ela.