DeepFake utilizando IA dispara alerta para golpes

Criminoso usou tecnologia de IA para “trocar de rosto” e recebeu mais de R$ 3 milhões da vítima; entenda o caso

Caso de fraude, no norte da China, que usou “deepfake” para convencer homem a transferir dinheiro para suposto amigo despertou preocupação sobre potencial de tecnologias baseadas em IA (inteligência artificial) para viabilizar crimes financeiros.

Criminoso usou “deepfake” para “trocar de rosto” e se passar por amigo da vítima;

Ele alegou que precisava fazer depósito num processo de licitação;

Vítima transferiu pouco mais de R$ 3 milhões para criminoso;

Caso de “deepfake” desencadeou discussão sobre ameaça da IA à privacidade e segurança online em rede social chinesa.

A China tem intensificado escrutínio sobre tais tecnologias e aplicativos em meio ao aumento de fraudes com IA envolvida. Casos usam, principalmente, manipulação de voz e dados relacionado às faces das pessoas (os “deepfakes”). País adotou novas regras em janeiro para proteger vítimas legalmente.

Golpe com ‘deepfake’

( Esquerda: Original – Direita: Deep Fake)

A polícia da cidade de Baotou, na região do interior da Mongólia, disse que criminoso usou tecnologia de troca de rosto com IA (“deepfake”) para se passar por um amigo da vítima durante uma chamada de vídeo. Ele conseguiu receber transferência de US$ 622 mil (aproximadamente R$ 3,1 milhões, na cotação atual).

Vítima transferiu o dinheiro acreditando que seu amigo precisava fazer um depósito durante um processo de licitação, explicou a polícia, por meio de um comunicado à imprensa, emitido no fim de semana.

O homem só percebeu que havia sido enganado pelo “deepfake” após seu amigo “real” dizer que não sabia do que ele estava falando, acrescentou a polícia. A vítima recuperou a maior parte dos fundos roubados e, atualmente, tenta rastrear o restante.

Repercussão

O caso de “deepfake” desencadeou uma discussão, no site de microblogging Weibo, sobre a ameaça à privacidade e segurança online. Tanto que a hashtag “#AI scams are exploding across the country” (“#Golpes com IA explodindo em todo o país”, em tradução livre) acumulou mais de 120 milhões de visualizações nesta segunda-feira (22).

Isso mostra que fotos, vozes e vídeos podem ser utilizados por golpistas. As regras de segurança da informação podem acompanhar as técnicas dessas pessoas?

Plano contra fake news

Em outra frente, a China intensificou ações para limpar Internet de notícias e conteúdos falsos – as “fake news”. Resultado: mais de 100 mil contas caíram em abril. A campanha é da CAC (Administração do Ciberespaço da China) e visa eliminar perfis que se passam por âncoras de notícias ou agências de mídia do Estado.

Num comunicado, emitido na semana passada, a CAC afirmou que conteúdos falsificados são, principalmente, relacionados a assuntos como incidentes sociais e temas internacionais atuais.

O órgão também prometeu reprimir comentários maliciosos que prejudiquem a reputação de empresas e empreendedores.

Funcionamento de uma Deepfake

A tecnologia de deepface tem despertado grande interesse e preocupação devido à sua capacidade de criar conteúdos falsificados convincentes. Neste capítulo, exploraremos o funcionamento por trás das depp fakes, destacando os principais passos envolvidos nessa técnica de manipulação de mídia.

Aprendizado de Máquina e Redes Neurais

O cerne do funcionamento das deepfakes reside no uso de técnicas avançadas de aprendizado de máquina e redes neurais. As redes neurais são modelos computacionais que se assemelham ao funcionamento do cérebro humano, permitindo a extração de padrões complexos dos dados de entrada.

Treinamento do Modelo

O primeiro passo para criar uma deep fake é o treinamento de um modelo de aprendizado de máquina. Esse modelo é alimentado com uma grande quantidade de dados, como vídeos e imagens de alta qualidade, contendo as características da pessoa que será manipulada. Por exemplo, pode-se utilizar vários vídeos de uma celebridade como entrada para o treinamento.

Extração de Características

Após o treinamento, o modelo de aprendizado de máquina é capaz de extrair as características distintivas do rosto da pessoa alvo. Isso inclui informações sobre a estrutura facial, expressões, movimentos dos lábios e outras características específicas.

Mapeamento de Características

Em seguida, a deep fake utiliza o modelo treinado para mapear essas características para outra pessoa de destino. Por exemplo, se quisermos substituir o rosto de uma pessoa em um vídeo pelo rosto de outra, o modelo mapeará as características extraídas da pessoa alvo para a pessoa de destino.

Síntese e Ajustes

Uma vez que as características foram mapeadas, o modelo começa a sintetizar o conteúdo falsificado. Isso envolve a criação de novas imagens ou quadros de vídeo que correspondam aos movimentos e expressões da pessoa de destino. É nessa etapa que os detalhes finos, como texturas da pele e nuances de movimento, são ajustados para tornar a deepface o mais realista possível.

Pós-processamento e Aperfeiçoamento

Após a síntese inicial, são aplicadas técnicas de pós-processamento para aprimorar ainda mais a qualidade da deep fake. Isso pode incluir ajustes de cor, iluminação e suavização de bordas para integrar perfeitamente o conteúdo falso ao vídeo original.

Desafios e Preocupações

Embora as deep fakes tenham evoluído significativamente, ainda existem desafios a serem enfrentados. A detecção de deep fakes, por exemplo, é uma área ativa de pesquisa, pois é importante identificar conteúdos falsificados e proteger a integridade das informações.

Além disso, as deep fakes também levantam preocupações éticas e legais, como o uso indevido de imagens de pessoas sem consentimento, propagação de desinformação e manipulação de conteúdo para fins maliciosos.

As deep fakes são produtos da combinação de aprendizado de máquina e redes neurais, permitindo a criação de conteúdos falsificados altamente realistas. Compreender o funcionamento dessa tecnologia é essencial para lidar com seus impactos e desenvolver mecanismos de detecção e mitigação de riscos associados às deep fakes.

FONTE: OLHAR DIGITAL

“Inteligência artificial utilizada para criação do post”

Periféricos: Háptica, metaverso e inteligência artificial

Um Rei nos dias de hoje

Lula diz que ONU criou Israel – Agora f0dew!

PL da censura: Verdade x Mentira

Portais:

Escola de Lucifer

Unebrasil

Unebrasil Círculo EDL

Unebrasil Oryon

Loja Lucifer

Rapé do Reino

Congresso Online

Projeto Quero Vencer

 Luz pra nós!🐍

Compartilhe

Tweet

Sobre o Autor

GutembergEDL

author

See author's posts