A evolução do deepfake, futuro da criação de conteúdo

No fim de 2020, milhões de telespectadores em toda a Coreia do Sul estavam assistindo ao canal MBN para acompanhar as últimas notícias.

No horário nobre, a apresentadora habitual do jornal, Kim Joo-Ha, começou a ler as manchetes do dia. Era uma lista relativamente normal de histórias para o fim de ano— repleta de atualizações sobre a pandemia de covid-19.

No entanto, este boletim estava longe de ser normal, já que Kim Joo-Ha não estava realmente na tela.

Ela havia sido substituída por uma versão deepfake de si mesma — uma cópia gerada por computador que busca refletir perfeitamente sua voz, gestos e expressões faciais.

Os espectadores foram informados de antemão de que isso iria acontecer, e de acordo com a imprensa sul-coreana, a reação do público foi variada.

Enquanto algumas pessoas ficaram surpresas com o quão realista era, outras disseram que estavam preocupadas que a verdadeira Kim Joo-Ha pudesse perder o emprego.

A MBN afirmou que continuaria a usar deepfake para algumas notícias de última hora, enquanto a empresa por trás da tecnologia de inteligência artificial — a sul-coreana Moneybrain — anunciou que estaria procurando outros compradores na China e nos EUA.

Quando a maioria das pessoas pensa em deepfakes, elas imaginam vídeos falsos de celebridades.

De fato, pouco tempo depois deste deepfake sul-coreano, um vídeo falso — mas muito realista — do ator Tom Cruise foi destaque no noticiário no mundo todo quando apareceu no TikTok.

Apesar das conotações negativas em torno do termo coloquial deepfake (as pessoas geralmente não querem ser associadas à palavra "fake"), a tecnologia está sendo cada vez mais usada comercialmente.

Mais diplomaticamente chamados de vídeos gerados por inteligência artificial, ou mídia sintética, seu uso está crescendo rapidamente em algumas áreas, como de notícias, entretenimento e educação — e a tecnologia se tornando cada vez mais sofisticada.

Um dos primeiros adeptos foi a Synthesia, companhia com sede em Londres que cria vídeos de treinamento corporativo com inteligência artificial para empresas, como o grupo de publicidade global WPP e a consultoria de negócios Accenture.

"Este é o futuro da criação de conteúdo", diz o executivo-chefe e cofundador da Synthesia, Victor Riparbelli.

Para fazer um vídeo gerado por inteligência artificial usando o sistema da Synthesia, você simplesmente escolhe entre vários avatares, digita a palavra que deseja que eles digam e pronto.

Riparbelli diz que isso significa que as empresas globais podem facilmente fazer vídeos em diferentes idiomas — para cursos de treinamento internos, por exemplo.

"Digamos que você tenha 3 mil trabalhadores de armazém na América do Norte", diz ele. "Alguns falam inglês, mas alguns podem estar mais familiarizados com o espanhol."

"Se você precisa comunicar informações complexas a eles, um PDF de quatro páginas não é uma boa maneira. Seria muito melhor fazer um vídeo de dois ou três minutos, em inglês e espanhol."

"Se você tivesse que gravar cada um destes vídeos, seria um trabalho enorme. Agora podemos fazer isso com um [pequeno] custo de produção e o tempo que alguém levar para escrever o roteiro. Isso exemplifica muito bem como a tecnologia é usada hoje."

Mike Price, diretor de tecnologia da ZeroFox, empresa de segurança cibernética dos EUA que rastreia deepfakes, afirma que seu uso comercial está "crescendo significativamente ano após ano, mas os números exatos são difíceis de cravar".

Chad Steelberg, executivo-chefe da Veritone, fornecedora americana de tecnologia de inteligência artificial, observa, no entanto, que a crescente preocupação com deepfakes mal-intencionados está impedindo o investimento no uso comercial legítimo da tecnologia.

"O termo deepfake definitivamente teve uma resposta negativa em termos de investimento de capital no setor", afirma. "A mídia e os consumidores, com razão, podem ver claramente os riscos associados."

"Isso definitivamente impediu as corporações e os investidores de investir na tecnologia. Mas acho que se começa a ver essa abertura."

Mike Papas, executivo-chefe da Modulate, empresa de inteligência artificial que permite aos usuários criar a voz de um personagem ou pessoa diferente, diz que as empresas do setor comercial de mídia sintética "realmente se preocupam com a ética".

"É incrível ver a profundidade de pensamento que colocam nisso", afirma.

"Isso garantiu que os investidores também se preocuem com isso. Eles estão perguntando sobre políticas éticas e como você vê isso."

Lilian Edwards, professora de direito, inovação e sociedade da Universidade de Newcastle, no Reino Unido, é especialista em deepfakes. E, segundo ela, uma questão em torno do uso comercial da tecnologia que não foi totalmente abordada é quem detém os direitos dos vídeos.

"Por exemplo, se uma pessoa morta é usada, como [o ator] Steve McQueen ou [o rapper] Tupac, há um debate em andamento sobre se a família deles deve possuir os direitos [e obter renda com isso]", explica.

"Atualmente, isso difere de país para país."

Deborah Johnson, professora de ética aplicada na Universidade da Virgínia, nos EUA, foi coautora recentemente de um artigo intitulado What To Do About Deepfakes? ("O que fazer com os deepfakes");