Deepfake: como funciona a nova modalidade de golpe com inteligência artificial

A Inteligência Artificial (IA) é uma tecnologia que tem como objetivo ajudar as pessoas a desempenhar tarefas repetitivas e operacionais, desde escrever um e-mail simples até deixar um relatório pronto em segundos.

Porém, nem todos usam a tecnologia para o bem. As Deepfakes são um exemplo disso, já que têm se apresentado como ferramenta de uma nova modalidade de golpe.

Usando IA para criar rostos, vozes e estilos de escrita, as Deepfakes são a mais nova forma de enganar as pessoas e fazer com que elas realizem pagamentos ou transferências suspeitas.

Separamos um material que explica e explora os riscos das Deepfakes, e como você pode proteger a si mesmo e aos seus dados desse novo tipo de golpe. Confira!

O que é Deepfake?

Deepfake é uma tecnologia que combina os termos “deep learning” (aprendizado profundo) e “fake” (falso) para criar vídeos ou áudios manipulados. Esta técnica usa inteligência artificial para sobrepor e sincronizar rostos e vozes em vídeos, gerando conteúdo altamente convincente. 

Originalmente, as Deepfakes focavam em alterações simples em vídeos e áudios , mas evoluíram rapidamente para criações complexas e originais, em que pessoas famosas pareciam dizer ou fazer coisas que nunca aconteceram.

Quais são os tipos de Deepfake?

Existem várias categorias de Deepfakes, dependendo do conteúdo e método de manipulação. Cada tipo tem características e aplicações específicas que influenciam desde a indústria do entretenimento até a segurança nacional.

Vídeo

Deepfakes de vídeo são as mais conhecidas e visualmente impactantes. Elas manipulam vídeos que já existem para substituir o rosto de uma pessoa pelo de outra, sincronizando expressões faciais e movimentos labiais com precisão. Isso pode ser usado para criar desde paródias inofensivas até campanhas difamatórias ou notícias falsas.

Redes sociais

Nas redes sociais, Deepfakes podem facilitar a criação de perfis falsos que parecem incrivelmente reais. Esses perfis podem ser usados para fins maliciosos, como espalhar desinformação, criar estabelecimentos falsos como restaurantes ou farmácias ou cometer fraudes identitárias.

Texto

Deepfakes de texto envolvem a geração automática de conteúdos que imitam o estilo de escrita de indivíduos específicos. Utilizando modelos avançados de IA, como GPT-3, esses algoritmos analisam obras escritas e aprendem a replicar o tom e estilo, criando artigos, e-mails ou qualquer tipo de mensagem textual muito semelhante à linguagem do autor original.

Voz

As Deepfakes de voz (deepvoice) reproduzem a voz de uma pessoa com alta precisão. Esta tecnologia capta as nuances vocais e as replica em áudios onde ela parece dizer coisas que nunca falou de verdade. Esses Deepfakes são preocupantes, já que podem enganar sistemas de segurança baseados em reconhecimento de voz ou criar gravações falsas que podem ser usadas em golpes.

Em tempo real

Deepfakes em tempo real permitem a alteração de rostos e vozes durante transmissões ao vivo. Esta tecnologia está se tornando mais acessível e pode ser usada em teleconferências ou outras transmissões ao vivo para alterar a aparência e voz do apresentador, enganando potencialmente o público e os participantes.

Por que se preocupar com a Deepfake?

Essa ferramenta representa uma ameaça crescente em muitos setores devido à sua capacidade de criar conteúdo enganoso e difícil de diferenciar da realidade.

As implicações vão desde a difusão de desinformação até golpes financeiros. Alguns dos principais riscos que ela apresenta são:

1. Riscos à segurança e privacidade: indivíduos podem ser falsamente representados em situações comprometedoras ou delicadas;
2. Fraudes financeiras: utilização em golpes para persuadir pessoas a tomar decisões financeiras prejudiciais;
3. Dano à reputação: empresas e figuras públicas podem ser alvos de campanhas difamatórias baseadas em conteúdo falso.

Quais os riscos que a Deepfake pode oferecer?

Os golpistas já estão utilizando Deepfake para executar fraudes sofisticadas, causando enormes prejuízos financeiros. Um exemplo notório ocorreu quando usaram uma Deepfake do diretor financeiro de uma multinacional para induzir um funcionário a transferir US$ 25 milhões. 

No entanto, não precisa ser rico nem famoso para estar sujeito ao golpe. Imitações de imagens de redes sociais e áudios de WhatsApp já rodam na praça como novos golpes de fraudadores. Você pode pedir uma confirmação que quem pede o dinheiro é seu parente, receber um áudio da pessoa e “sentir confiança”.

A vítima participou de uma videoconferência falsa, acreditando estar interagindo com colegas reais, todos recriados digitalmente. O esquema só foi descoberto após o funcionário entrar em contato com a sede da empresa.

Segundo uma pesquisa do Sumsub, os casos com Deepfake e fraudes financeiras aumentaram 700% em 2023 – e à medida que mais e mais ferramentas como essa se tornam comuns, mais casos tendem a surgir.

Como identificar uma Deepfake?

Identificar uma Deepfake pode ser desafiador, mas há etapas que você pode seguir para minimizar o risco de ser enganado. Aqui estão algumas dicas úteis:

• Verifique a fonte: se o vídeo veio de uma fonte não verificável ou suspeita, questione sua autenticidade;
• Busque confirmação: se o conteúdo parece duvidoso, procure outras fontes para confirmar a informação – em caso de ligações e reuniões, envie e-mails e peça dados que só a pessoa real teria para garantir a veracidade.
• Examine a sincronização dos lábios: verifique se os movimentos da boca estão perfeitamente alinhados com o áudio. Desajustes podem indicar uma falsificação;
• Olhe para os olhos: Deepfakes muitas vezes falham em replicar o piscar natural. Olhos que raramente piscam ou movimentos oculares estranhos podem ser sinais de alerta;
• Analise a qualidade da imagem: inconsistências na resolução, especialmente em torno do rosto, podem sugerir manipulação;

Ao adotar essas medidas, você aumenta suas chances de detectar Deepfakes e proteger-se contra golpes.

O PagBank garante segurança em qualquer transação: saiba como!

O PagBank se empenha em oferecer a mais alta segurança em todas as transações, utilizando tecnologia de ponta para proteger os dados e os recursos financeiros de seus clientes. 

O app PagBank é desenvolvido com múltiplas camadas de segurança, incluindo autenticação robusta, criptografia de dados e monitoramento constante de atividades suspeitas. Essas medidas asseguram que todas as transações sejam executadas de maneira segura e confiável.

Entre os recursos destacados, o PagBank inclui os contatos seguros Pix, uma funcionalidade que permite cadastrar pessoas de confiança para que elas tenham um limite diferente de transferência via Pix por dia e horário.

Além disso, o PagBank também tem o Seguro Pix, uma apólice que proporciona ainda mais segurança nas transações instantâneas. Este seguro garante proteção contra fraudes, incluindo aquelas que poderiam ser perpetradas através de tecnologias avançadas como Deepfakes.

Os clientes podem realizar transferências e pagamentos com tranquilidade, sabendo que estão protegidos contra qualquer tentativa de fraude ou engano.

Além disso, o PagBank oferece suporte constante ao cliente e um sistema de alerta precoce que notifica os usuários sobre qualquer atividade atípica em suas contas.

Confira todas as nossas soluções de segurança!