Guerra da Ucrânia: os ‘presidentes deepfake ‘usados em propagandas

Um vídeo deepfake compartilhado no Twitter, que parece mostrar o presidente russo, Vladimir Putin, declarando a paz, reapareceu

O deepfake apareceu no site da rede de TV ucraniana Ukrayina 24, que foi hackeado

Enquanto isso, nesta semana a Meta e o YouTube tiraram do ar um vídeo deepfake do presidente da Ucrânia, Volodymyr Zelensky, falando em se render à Rússia.

Como ambos os lados utilizam mídia manipulada, o que estes vídeos revelam sobre o estado de desinformação no conflito?

E será que as pessoas estão realmente acreditando neles?

Ele aparece atrás de um pódio, dizendo aos ucranianos para baixarem suas armas. Sua cabeça parece grande demais e mais pixelizada do que seu corpo — e sua voz soa mais grave.

Em um vídeo postado em sua conta oficial do Instagram, o verdadeiro presidente Zelensky chama isso de “provocação infantil”.

Mas o Centro Ucraniano de Comunicações Estratégicas alertou que o governo russo pode usar deepfakes para convencer os ucranianos a se renderem.

Uma ‘vitória fácil’ para as mídias sociais

O vídeo de Putin circulou por algumas semanas e foi classificado como mídia manipulada pelo Twitter

Em uma postagem no Twitter, o chefe de política de segurança da Meta, Nathaniel Gleicher, disse que “rapidamente revisou e removeu” o deepfake por violar sua política contra mídia manipulada enganosa.

O YouTube também informou que o conteúdo foi removido por violar as políticas de desinformação.

Foi uma vitória fácil para as empresas de mídia social, avalia Nina Schick, autora do livro Deepfakes, porque o vídeo era tão grosseiro e facilmente identificado como falso até mesmo por “telespectadores não tão sofisticados”.

“As plataformas podem fazer um grande barulho ao lidar com isso”, diz ela, “quando não estão fazendo mais em relação a outras formas de desinformação”.

“Há muitas outras formas de desinformação nesta guerra que não foram desmascaradas.”

“Mesmo que este vídeo tenha sido muito ruim e grosseiro, não será esse o caso em um futuro próximo”.

E ainda “pode corroer a confiança na mídia autêntica”.

“As pessoas começam a acreditar que tudo pode ser falsificado”, adverte Schick.

“É uma nova arma e uma forma potente de desinformação visual — e qualquer um pode fazer isso.”

Uma ferramenta que anima fotos de parentes mortos provou ser popular — e o MyHeritage adicionou agora o recurso de fazer os deepfakes falarem

Uma ferramenta de deepfake que permite aos usuários animar fotos antigas de parentes tem sido amplamente utilizada — e a empresa por trás dela, MyHeritage, agora adicionou o LiveStory, que permite acrescentar vozes.

Mas houve uma reação mista no ano passado, quando a rede de TV sul-coreana MBN anunciou que estava usando um deepfake da apresentadora do jornal Kim Joo-Ha.

Alguns ficaram impressionados com o quão realista era, outros preocupados que a verdadeira Kim Joo-Ha poderia perder o emprego.

A tecnologia deepfake também está sendo usada para criar pornografia, com uma proliferação, nos últimos anos, de sites que permitem aos usuários “nudificar” fotos.

E pode ser usada para fins satíricos — no ano passado, por exemplo, o Channel 4 criou uma versão deepfake da rainha para uma mensagem alternativa de Natal.

O uso de deepfakes na política permanece relativamente raro.

Mas um deepfake do ex-presidente dos EUA, Barack Obama, foi criado para demonstrar o poder da tecnologia.

Quando a detecção dá errado

“O Zelensky foi um problema de deepfake no melhor cenário”, diz o diretor do programa Witness.org., Sam Gregory.

“Não foi muito bom, para começar, então foi facilmente detectado.”

“E foi desmascarado pela Ucrânia, e Zelensky havia refutado nas mídias sociais, então foi uma remoção de política fácil para o Facebook.”

Mas em outras partes do mundo, jornalistas e grupos de direitos humanos temiam que não tivessem as ferramentas para detectar nem a capacidade de desmascarar deepfakes.

As ferramentas de detecção analisam a maneira como uma pessoa se move ou procuram coisas como o processo de machine-learning (aprendizado de máquinas) que criou o deepfake.

Mas no verão passado, um detector online sugeriu que um vídeo genuíno de um político de alto escalão em Mianmar, aparentemente confessando corrupção — o debate permanece sobre se foi uma declaração real ou uma confissão forçada — era um deepfake.

“A falta de 100% de prova de qualquer lado e o desejo das pessoas de acreditar que era um deepfake reflete os desafios dos deepfakes em um ambiente do mundo real”, diz Gregory.

“O presidente Putin foi transformado em deepfake algumas semanas atrás e foi amplamente considerado como sátira — mas há uma linha tênue entre sátira e desinformação.”

Análise de Shayan Sardarizadeh, BBC Monitoring

A transcrição do deepfake de Zelensky apareceu pela primeira vez no ticker da rede de TV ucraniana Ukrayina 24 durante uma transmissão ao vivo na quarta-feira.

Uma captura de tela e a transcrição completa apareceram posteriormente em seu site.

A Ukrayina 24 confirmou que tanto o site, inacessível durante a maior parte da quarta-feira, quanto o ticker haviam sido hackeados.

O vídeo foi então amplamente compartilhado no Telegram em russo e no VK, equivalente ao Facebook.

A partir daí, chegou a plataformas como Facebook, Instagram e Twitter.

Há alertas de que deepfakes podem ser perigosos, inclusive em um conflito, há algum tempo.

Mas criar um deepfake crível é caro e demorado.

E vídeos antigos e memes adulterados continuam sendo a tática de desinformação mais comum e eficaz nesta guerra.

Nem bem feito, tampouco crível, o deepfake de Zelensky está entre os piores que já vi.

Mas o fato de um deepfake ter sido feito e compartilhado durante uma guerra é notável.

E o próximo pode não ser tão ruim.

BBC