• Tecnologia E Inovação

Como você diferencia a realidade de um deepfake?

Quanto mais você os vê, melhor você consegue identificar os sinais.

Quando Donald Trump tardiamente reconhecido derrota dois meses após a eleição presidencial dos EUA no ano passado, algumas reportagens focaram em uma questão fundamental: se seu discurso teve realmente aconteceu em absoluto.

O dramático proliferação de deepfakes - imagens online que podem fazer qualquer pessoa parecer fazer ou dizer qualquer coisa dentro dos limites de sua imaginação, crueldade ou astúcia - começou a minar a fé em nossa habilidade de discernir a realidade.

Avanços recentes na tecnologia chocado até mesmo observadores de tecnologia experientes, e fizeram qualquer pessoa com um telefone e acesso a um aplicativo como Avatarify capaz de uma versão adequada.

De acordo com 1 estimativa da startup, o número de vídeos deepfake online saltou de 14.678 em 2019 para 145.277 em junho do ano seguinte. No mês passado, o FBI avisou que 'atores mal-intencionados' provavelmente usarão deepfakes nos Estados Unidos para operações de influência estrangeira e atividades criminosas em um futuro próximo. Em todo o mundo, há preocupações de que a tecnologia se tornará cada vez mais uma fonte de desinformação , divisão , fraude e extorsão .

Quando a junta governante de Mianmar postou recentemente um vídeo de alguém incriminando o líder civil detido no país, foi amplamente demitido como um deepfake. No ano passado, os comentários do primeiro-ministro belga ligando O COVID-19 às mudanças climáticas acabou se revelando uma falsificação, e o uso da tecnologia pelo político indiano Manoj Tiwari para fazer campanha causou alarme . No Gabão, a crença de que um vídeo do presidente doente do país era uma mentira profunda provocado um nacional crise no início de 2019.

Manipular imagens para alterar a percepção do público por razões políticas data de pelo menos desde Stalin - que notoriamente excluído expurgou camaradas das fotos oficiais.

No entanto, alguns dizem que uma questão mais urgente é o aumento da vulnerabilidade de figuras não públicas para assalto . A jornalista indiana Rana Ayyub tem detalhado tenta silenciá-la usando pornografia falsa, por exemplo.

Algum argumentar a ameaça da própria tecnologia é exagerada - e que o problema real é que os malfeitores agora podem descartar as evidências em vídeo de transgressões gritando 'deepfake' da mesma forma que podem descartar reportagens da mídia que não gostam como 'notícias falsas'.

Ainda assim, de acordo com um relatório deepfakes, tecnicamente sofisticados e 'sob medida', representam uma ameaça significativa; estes podem ser mantidos em reserva por um momento importante, como uma eleição, para maximizar o impacto. Em 2020, o custo estimado para a tecnologia necessária para produzir um deepfake 'state-of-the-art' era de menos de US $ 30.000, de acordo com o relatório.

A popularização do termo 'deepfakes' teve um sórdido origem em 2018. Os apelos para regulamentá-los ou proibi-los têm aumentado desde então; legislação relacionada tem sido proposto nos EUA e em 2019 na China fez isso uma ofensa criminal para publicar um deepfake sem divulgação. Facebook disse no ano passado, iria proibir deepfakes que não fossem paródia ou sátira, e o Twitter disse iria banir deepfakes susceptíveis de causar danos.

Tem sido sugerido que a melhor maneira de inocular as pessoas contra o perigo de falsificações profundas é por meio da exposição. Vários esforços foram feitos para ajudar o público a entender o que está em jogo.

No ano passado, os criadores da popular série de desenhos animados americanos 'South Park' postaram o vídeo viral ' Justiça atrevida , 'que apresenta versões falsas de Trump e Mark Zuckerberg. Eles explicado em uma entrevista, essa ansiedade sobre os deepfakes pode ter ficado em segundo plano em relação aos temores relacionados à pandemia, mas o tópico, mesmo assim, merece ser desmistificado.

Para mais contexto, aqui estão links para outras leituras de a plataforma de Inteligência Estratégica do Fórum Econômico Mundial :

• Uma consciência crescente dos deepfakes significa que as pessoas foram rapidamente capazes de localizar perfis online falsos de sindicatos que atacam os 'funcionários da Amazon', de acordo com este relatório - embora um hiperconsciente da tecnologia também possa levar as pessoas a parar de acreditar na mídia real. ( MIT Technology Review )

• Os sistemas projetados para nos ajudar a detectar deepfakes podem ser enganados, de acordo com um estudo publicado recentemente - inserindo 'exemplos adversários' em cada quadro de vídeo e acionando modelos de aprendizado de máquina. ( Science Daily )

• Os regimes autoritários podem explorar os gritos de 'falsa profunda'. De acordo com este artigo de opinião, alegações de falsificação profunda e manipulação de vídeo estão cada vez mais sendo usadas pelos poderosos para alegar negação plausível ao incriminar superfícies de filmagem. ( Com fio )

• É fácil culpar os deepfakes pela proliferação de desinformação, mas de acordo com este artigo de opinião, a tecnologia não é mais eficaz do que os meios mais tradicionais de mentir criativamente - como simplesmente colocar uma frase inventada na imagem de alguém e compartilhá-la. ( NiemanLab )

• Um estudo publicado recentemente descobriu que um em cada três cingapurianos cientes de deepfakes acredita ter circulado conteúdo deepfake nas redes sociais, que mais tarde descobriram que era parte de uma farsa. ( Science Daily )

• - Isso realmente faz você se sentir impotente. A pornografia falsa está arruinando a vida das mulheres, de acordo com este relatório, embora uma solução legal possa estar chegando. ( MIT Technology Review )

• 'Uma caixa de Pandora de propaganda na palma de cada mão.' Esforços Deepfake permanecem detectados com relativa facilidade, de acordo com este artigo - mas em breve os mesmos efeitos que antes exigiam centenas de técnicos e milhões de dólares serão possíveis com um telefone celular. ( Instituto Australiano de Política Estratégica )

No Inteligência Estratégica plataforma, você pode encontrar feeds de análises especializadas relacionadas a Inteligência artificial , Identidade Digital e centenas de tópicos adicionais. Você precisa se registrar para visualizar.

Reproduzido com permissão do Fórum Econômico Mundial . Leia o artigo original .

Compartilhar: