TikTok desenvolve secretamente recurso de deepfake

TikTok desenvolve secretamente recurso de deepfake

9 de janeiro de 2020
Última atualização: 9 de janeiro de 2020
Helio Gama Neto

GIZMODO – 08/01/2020

A ByteDance, proprietária do TikTok, vem secretamente criando um recurso de deepfake, que permitirá que seus usuários insiram seus rostos em vídeos estrelados por outras pessoas. A empresa desenvolveu uma ferramenta inédita, usando a tecnologia deepfakes realista, à qual o código do aplicativo se refere como Face Swap.

O código no TikTok e no Douyin, aplicativos praticamente irmãos, pede aos usuários que façam uma varredura biométrica de vários ângulos de seu rosto e depois escolham uma seleção de vídeos nos quais desejam adicionar e compartilhar sua imagem.

Isso pode parecer preocupante, especialmente quando consideramos como vídeos manipulados podem ser utilizados de maneira nociva para espalhar desinformação. Além disso, o TikTok também foi objeto de muita discussão nos últimos tempos, com acusações de coletar dados de crianças, proibições militares e preocupações sobre a segurança nacional.

O código foi descoberto por uma startup israelense, chamada Watchful.ai. Suas descobertas indicam que a ByteDance está ciente que um recurso de deepfake pode não ser muito bem recebido. Por isso, a empresa aparentemente resolveu criar algumas salvaguardas.

Por exemplo, os usuários devem escanear o rosto de vários ângulos – uma medida que funciona também como verificação de idade e impede que alguém use uma única foto para criar vídeos manipulados sem consentimento. Os usuários também poderiam colocar seus rostos em apenas um número limitado de vídeos (cujos direitos a ByteDance alega possuir). Por fim, na hora de compartilhar, os vídeos gerados apresentam marcas d’água para indicar que o conteúdo não é real.

A Watchful.ai também encontrou atualizações não publicadas nos termos de serviço dos aplicativos em relação ao recurso deepfake. Eles reiteram que a “verificação de identidade” é necessária e que fotos não podem ser usadas. Outro ponto citado é que menores de idade não poderão acessar a ferramenta.

No entanto, nem o TikTok, nem o Douyin admitem a existência desse recurso. Porta-vozes de ambos os aplicativos negaram as descobertas da startup. O TikTok negou especificamente que isso seria um recurso futuro, mas também inadvertidamente reconheceu a existência do código, declarando que os “fragmentos de código inativos estão sendo removidos para eliminar qualquer confusão”.

Essa desconexão entre os dois aplicativos parece reforçar as notícias recentes de que a ByteDance faz o que pode para isolar o TikTok do restante de suas operações chinesas e, assim, evitar novas preocupações com espionagem.

É difícil dizer se o recurso deepfake será lançado nos EUA. É possível que seja uma novidade apenas para a China, ou até que a ByteDance pense que não compensa a possibilidade de uma repercussão negativa.

De qualquer forma, esse não é o único aplicativo de mídia social a se interessar pela manipulação de vídeos através de filtros ou troca de rostos. Isso é algo que o Snapchat, por exemplo, faz há anos. O problema é que, quanto mais sofisticadas essas ferramentas se tornam, maior é a possibilidade de se tornarem algo ruim, espalhando fake news e possíveis abusos. Ainda não se sabe se outros aplicativos tentarão incorporar essa ferramenta em suas plataformas.


Warning: Undefined array key "" in /home/u302164104/domains/aner.org.br/public_html/wp-content/themes/aner/single.php on line 206

Warning: Trying to access array offset on value of type null in /home/u302164104/domains/aner.org.br/public_html/wp-content/themes/aner/single.php on line 206
Helio Gama Neto