25.6 C
São Paulo
terça-feira, abril 16, 2024
InícioTransformação digitalO que é deepfake e como se proteger dos riscos da desinformação

O que é deepfake e como se proteger dos riscos da desinformação

No mundo digital atual, a emergência de tecnologias como a inteligência artificial (IA) tem aberto portas para inovações que transformam a maneira como vivemos, trabalhamos e nos comunicamos. Contudo, com grandes poderes vêm grandes responsabilidades. 

A capacidade da IA de criar conteúdos ultra-realistas, conhecidos como deepfakes, suscita preocupações profundas sobre a autenticidade da informação e a integridade das comunicações. 

Fernando Gomes de Oliveira, Head of Growth na Digilab e convidado do episódio 26 do podcast Itshow, enfatiza a importância crítica de prevenir vazamentos de dados e educar os colaboradores sobre o uso ético e responsável da IA, especialmente em contextos vulneráveis como os períodos eleitorais.

A criação de desinformação e deepfakes representa um desafio significativo, potencialmente prejudicando a reputação de empresas e distorcendo o discurso público. A resposta passa por uma abordagem multifacetada que combina educação, gestão de riscos e cibersegurança, enfocando na necessidade de um controle rigoroso de dados e na promoção de uma cultura de verificação da autenticidade das informações.

Intervenções de entidades como o Tribunal Superior Eleitoral (TSE) e políticas implementadas por gigantes da tecnologia, como a OpenAI e a Meta, refletem um reconhecimento crescente da urgência em regular o uso da IA para proteger a integridade dos processos democráticos e evitar a manipulação da opinião pública através de informações falsas.

deepfake
Imagem gerada por Inteligência Artificial (IA)

O que é deepfake

Deepfake é uma técnica avançada onde a inteligência artificial (IA) manipula e modifica áudios e vídeos para criar conteúdo falso, posicionando indivíduos em cenários ou diálogos que nunca ocorreram. 

Essa tecnologia pode gerar conteúdos com diversos propósitos, desde humor até questões políticas ou conteúdos de natureza pornográfica, incluindo a alteração de rostos, duplicação de vozes e ajuste de sincronia labial em áudios distintos dos originais. Essas manipulações podem alterar a percepção pública de uma pessoa em determinada situação.

Para a elaboração desses materiais falsificados, é necessário acesso a uma quantidade significativa de material autêntico — fotos, clipes de vídeo ou gravações de áudio da pessoa que será objeto da manipulação. 

Este material serve como base de aprendizado para a IA, que, ao analisar esses dados, aprende a imitar padrões específicos de movimento, expressões faciais, voz e outras características pessoais.

O impacto social e ético dos deepfakes

A criação de deepfakes visa enganar, produzindo vídeos que aparentam ser autênticos. A capacidade da IA de capturar e replicar a expressão facial detalhada contribui para a ilusão de realidade desses vídeos, que, apesar de serem fictícios, são apresentados como eventos reais.

Apesar de algumas aplicações da tecnologia deepfake terem potencial para fins educativos ou culturais, sua popularização está fortemente associada à produção de conteúdo enganoso ou mal-intencionado, especialmente em plataformas sociais, visando a desinformação. 

AnyConv.com 1 13
O que é deepfake e como se proteger dos riscos da desinformação 5

Ouça agora o episódio 26 do podcast Itshow disponível no Spotify!

Casos conhecidos de desinformação incluem a falsa atribuição de declarações ao âncora William Bonner, utilizando a tecnologia Text to Speech (TTS) para sintetizar áudio a partir de texto, baseando-se em uma ampla coleta de amostras de áudio do jornalista.

No entanto, também existem iniciativas usando deepfake para alertar sobre os perigos da desinformação, como o vídeo produzido por Jordan Peele, em que o ex-presidente Barack Obama é retratado emitindo declarações falsas, servindo como uma chamada de atenção para o problema das fake news em 2018.

Os riscos do deepfake

A detecção de deepfakes altamente sofisticados pode apresentar um desafio significativo, com especialistas indicando que a atenção aos detalhes anormais em transições faciais e movimentações pode ser uma chave para reconhecê-los. 

Isso se deve ao fato de que, com o avanço da tecnologia, essas criações estão se tornando cada vez mais realistas, tornando essencial que o foco seja na verificação do conteúdo transmitido, em vez de apenas na aparência ou qualidade sonora.

A dificuldade em identificar deepfakes é amplificada quando consideramos a confiança natural que as pessoas depositam no que veem, especialmente quando o conteúdo é visualizado em telas pequenas, como as de smartphones, que podem obscurecer detalhes cruciais para a identificação de manipulações. Além disso, a falta de familiaridade do público com técnicas como a leitura labial pode diminuir ainda mais a capacidade de discernir vídeos falsificados de reais.

Os riscos associados a esta tecnologia possuem o potencial de desestabilizar nações inteiras, pois uma peça de desinformação bem elaborada pode incitar tumultos ou descredibilizar líderes. 

Apesar da consciência dos perigos que essas ferramentas representam, acredita-se que a proibição de aplicativos ou a prática de criar deepfakes seja improvável, já que a regulação pode ser mais viável do que a proibição total, dada a dificuldade em coibir o uso indevido de ferramentas de edição de imagem e vídeo amplamente disponíveis.

AnyConv.com 2 13
O que é deepfake e como se proteger dos riscos da desinformação 6

Quer saber mais sobre deepfakes? Baixe agora o nosso material de apoio completo!

4 dicas para identificar uma deepfake

1. Preste atenção nos olhos e movimentos labiais

A frequência com que os olhos piscam pode ser um indicador revelador de um deepfake. Um piscar irregular ou a ausência de piscadas pode denunciar um vídeo fabricado, já que a inteligência artificial costuma falhar em replicar a naturalidade do movimento ocular.

A articulação labial merece igual atenção. Descompasso entre o áudio e o movimento dos lábios sugere manipulação, indicando que o vídeo pode ter sido alterado. Esses pequenos detalhes são cruciais e ajudam a prevenir a disseminação de informações fraudulentas.

2. Analise as expressões faciais

Avaliar a congruência entre as expressões faciais e o conteúdo do vídeo é fundamental. Por exemplo, se alguém reporta uma notícia trágica com uma expressão de alegria, isso levanta suspeitas sobre a autenticidade da informação. Verificar a consistência entre a emoção verbalizada e a expressão facial ajuda a discernir vídeos autênticos de manipulações. 

3. Observe inconsistências na cor e iluminação do vídeo

Normalmente, os deepfakes se concentram na fidelidade do rosto, podendo resultar em discrepâncias de cor entre o rosto e o corpo. Além disso, problemas de iluminação, como sombras e reflexos incoerentes, podem indicar a falsificação do vídeo.

4. Examine a qualidade do áudio

A clareza visual do vídeo pode ser enganosa; portanto, é essencial também avaliar a qualidade do áudio. Anomalias sonoras, ruídos de fundo inusitados ou a falta de alinhamento entre som e imagem podem ser indícios de um deepfake.

deepfake
Imagem gerada por Inteligência Artificial (IA)

O que as empresas podem fazer para se proteger do deepfake

Para as empresas, adotar tecnologias avançadas capazes de identificar fraudes do tipo deepfake é a estratégia de segurança mais eficaz. Atualmente, existem plataformas de inteligência artificial (IA) que alcançam índices de precisão acima de 70% na detecção dessas falsificações. Isso se deve à habilidade desses sistemas em detectar sutilezas nos movimentos faciais e labiais, assim como na decomposição sonora das palavras e sílabas.

Essa alta eficiência deriva do treinamento dessas IAs com um vasto acervo de vídeos autênticos e uma quantidade significativa de deepfakes, aprimorando continuamente sua capacidade de discernimento. 

Empresas focadas em segurança digital costumam recorrer à biometria facial, que introduz múltiplos níveis de verificação e segurança. Esse método é eficaz não somente contra deepfakes, mas também em identificar tentativas de fraude mais complexas, onde os atacantes tentam se passar por outra pessoa.

Um ponto crucial da biometria facial é seu fundamento na autenticação por presença real. Para que a biometria seja considerada válida, é necessário que o indivíduo esteja fisicamente diante da câmera no momento da captura. Desta forma, um vídeo deepfake, que não representa uma presença real, falha em burlar esse sistema de segurança robusto.

Assine nossa Newsletter para receber os melhores conteúdos do Itshow em sua caixa de entrada.

Fernanda Martins
Fernanda Martins
Formada em Letras, com pós em mídias sociais, e redatora do portal de notícias Itshow. Já escreveu para vários blogs de cultura pop, produziu conteúdo no Facebook e no Instagram sobre literatura e até escreveu algumas fanfics pela internet. Hoje, se especializa em redação e usa suas habilidades de escrita crítica e literária para trazer mais sensibilidade aos textos e continuar fazendo o que ama.
Postagens recomendadas
Outras postagens