Como memes virais de mídia social desencadeiam violência no mundo real

Que responsabilidade as autoridades governamentais e a Big Tech devem assumir no policiamento da disseminação de conteúdo voltado para a sedição?

homem gritando no telefoneCrédito: Christian Buehner em Unsplash
  • Pode ser difícil acreditar que imagens cômicas online são suficientes para irritar as pessoas o suficiente para que elas realmente ataquem.
  • Originário dos cantos mais sombrios da internet, o Bugaloo agora é destaque nas principais plataformas online como Facebook e Instagram.
  • A série recente de Contagion and Ideology Reports do Network Contagion Research Institute usa aprendizado de máquina para examinar como os memes se espalham.

Tem havido conversas recentemente sobre grupos de ódio marginais usando memes para incitar a violência no mundo real, mas muitos preferem descartar casualmente essa narrativa como histeria. Pode ser difícil acreditar que imagens cômicas online são suficientes para irritar as pessoas o suficiente para que elas realmente ataquem, e para a maioria de nós, felizmente isso é verdade.



Se você gasta seu tempo percorrendo receitas de especiarias de abóbora e vídeos de gatos, provavelmente não é o alvo de uma campanha de ódio sistemática. Mas isso não significa que essas campanhas não existam. Nem todo usuário do Facebook é suscetível à radicalização, mas guerra memética está sendo cada vez mais reconhecido como um elemento importante de sedição contra-governamental e propaganda racista.



Estudos têm mostrado que a exposição ao ódio torna mais fácil para as pessoas odiarem - e agir de acordo com seu ódio. Se houver um esforço organizado por grupos de ódio para manipular as pessoas com memes, então essas imagens podem estar influenciando as pessoas a perpetrar ataques violentos.

Que tipo de memes foram usados ​​na lista de eventos do Facebook que a Guarda Kenosha usou mobilizar Kyle Rittenhouse?



Muitos internautas reconhecem os perigos e desejam que as plataformas de mídia social façam muito mais para conter a disseminação do ódio em suas redes. Do Snapchat ao Gab, do TikTok ao WhatsApp, os memes são alimentando o ódio e incitação à violência, e mais americanos estão se perguntando que responsabilidade essas empresas deveriam assumir no policiamento da disseminação de conteúdo prejudicial.

O que há em um meme?

Série recente do Network Contagion Research Institute de Relatórios de contágio e ideologia aproveita o aprendizado de máquina para examinar como os memes se espalham. A ideia é descobrir uma melhor compreensão do papel que os memes desempenham no incentivo à violência no mundo real.

Então, o que exatamente é um meme e como ele se tornou uma ferramenta para transformar a web em uma arma? Cunhado originalmente pelo biólogo de Oxford Richard Dawkins em seu livro de 1976 ' O Gene Egoísta , ' o termo é definido lá como 'uma unidade de transmissão cultural' que se espalha como um vírus de hospedeiro para hospedeiro e transmite uma ideia que muda a visão de mundo do hospedeiro.



Dawkins ecoa o conceito de 'Naked Lunch' do autor William Burroughs de linguagem escrita como um vírus que contagia o leitor e, consequentemente, constrói realidades que se concretizam no ato da fala. Nesse sentido, um meme é uma ideia que se espalha por imitação iterativa e colaborativa de pessoa para pessoa dentro de uma cultura e carrega um significado simbólico.

O uso de memes da internet pelo alt-right militante segue este padrão . Eles são cuidadosamente projetados em mídias sociais clandestinas usando códigos, antes de obter a aprovação de usuários com ideias semelhantes que disseminam essas mensagens em plataformas convencionais como Twitter ou Facebook.

Às vezes, essas mensagens são retiradas de fontes inócuas e alteradas para transmitir ódio. Tomemos, por exemplo, Pepe, o Sapo. Criado inicialmente pelo cartunista Matt Furie como um mascote dos preguiçosos, Pepe foi apropriado e alterado por racistas e homofóbicos até que a Liga Anti-Difamação rotulou o sapo como um símbolo de ódio em 2016. Isso, é claro, não impediu que figuras públicas compartilhassem variações da imagem de Pepe em postagens sociais subversivas.

Pepe memes

Twitter

A disseminação de memes odiosos é freqüentemente coordenada por um movimento underground, então até mesmo sua aceitação pelos usuários da Internet e meios de comunicação tradicionais é reivindicada como uma vitória por uma subcultura que se orgulha de seu trolling.

Slenderman e o Boogaloo Bois

Na verdade, esses tipos de memes têm uma maneira complicada de se mover das sombras da Internet para o mainstream, pegando apoiadores ao longo do caminho - incluindo aqueles que estão dispostos a cometer crimes horríveis.

Esse fenômeno se estende muito além da política. Veja, por exemplo, o Slenderman. Criado como uma figura sombria para histórias de terror online, Slenderman alcançou a popularidade do mainstream e uma sequência de culto. Quando duas garotas tentaram esfaquear seu amigo até a morte para provar que Slenderman era real em 2014, o poder do meme para incitar a violência tornou-se uma conversa nacional.

O criador do Slenderman, Victor Surge, disse ao Know Your Meme que ele nunca pensou o personagem iria se espalhar além dos fóruns marginais de algo horrível. “Uma lenda urbana requer um público que não conhece a origem da lenda. São necessários relatos não verificáveis ​​de terceira e quarta mão (ou mais) para perpetuar o mito ”, explicou ele. 'Na Internet, qualquer pessoa tem conhecimento de suas origens, como evidenciado pelo tópico bastante público de Somethingawful. Mas o que é engraçado é que, apesar disso, ele ainda se espalhou. Memes da Internet são coisas complicadas e, ao fazer algo no lugar e na hora certos, pode se transformar em uma 'Lenda Urbana da Internet' '.

Embora Slenderman seja obviamente uma ficção, os memes políticos seguem muitas das mesmas linhas tênues - e estimularam seguidores igualmente obcecados a cometer ataques no mundo real.

quantas pessoas estão em um time de hóquei
ilustração de massa assustadora no Instagram

Instagram

Veja, por exemplo, o movimento Boogaloo. Essa milícia extremista tem fortes raízes online e usa memes para incitar a insurreição violenta e o terror contra o governo e as forças de segurança. Originário dos cantos mais sombrios da internet, o Bugaloo agora é destaque nas principais plataformas online como Facebook e Instagram. Seguidores do Boogaloo compartilham como construir explosivos e armas de fogo impressas em 3D, espalhar mensagens criptografadas e distribuir propaganda violenta.

As intenções do Boogaloo parecem ser duplas: recrutar novos seguidores e comunicar informações táticas aos membros titulares. Embora encontrar mais pessoas para adotar sua ideologia seja uma coisa, há uma forte possibilidade de que os memes e as mensagens do Boogaloo possam ser usados ​​para células dormentes de gatilho à ação violenta.

Boogaloo não está sozinho. O uso de memes por grupos como os Proud Boys, que operam em uma ideologia que consiste em violência física e simbólica, está se espalhando pela América - especialmente desde o início da pandemia.

Compreendendo a doutrinação digital

The Network Contagion Research Institute (NCRI) usa análise de dados avançada para expor o ódio nas redes sociais. Os cientistas do instituto trabalham com especialistas nas ADL's Centro no Extremismo (COE) para rastrear propaganda odiosa online e oferecer estratégias para combater esse fenômeno. Ao entender melhor como os memes espalham propaganda odiosa, o NCRI está ajudando a aplicação da lei, as empresas de mídia social e os cidadãos a melhorarem a prevenção de conversas online sobre violência de se tornarem ações reais.

que é considerado o pai da sociologia

Fundado pelo Dr. Joel Finkelstein de Princeton, o NCRI está descobrindo que a disseminação do ódio online pode ser examinada usando modelos epidemiológicos de como os vírus se espalham, aplicados apenas à linguagem e às ideias, como Burroughs imaginou décadas atrás.

Agora que a Internet eliminou a necessidade de as pessoas se encontrarem pessoalmente ou se comunicarem diretamente, recrutar e mobilizar membros de grupos violentos é mais fácil do que nunca.

Antes das redes sociais, como Finkelstein nos lembra , organizar grupos de ódio clandestinos era mais difícil. 'Você teria que ter uma organização interpessoal para treinar e cultivar essas pessoas', disse ele. 'Com o avanço da internet, essas pessoas podem se encontrar; o que falta em profundidade torna-se ao alcance. Todo o fenômeno pode acontecer por si só, sem deixar vestígios de alguém sendo preparado. '

Algo pode ser feito?

Os memes geram histeria em parte por serem escandalosos o suficiente para as pessoas compartilharem - até mesmo para a grande mídia. Esta é uma estratégia concreta chamada amplificação . O alt-right extremo consegue atingir o público mainstream com memes racialistas e supremacistas, mesmo quando essas mensagens são denunciadas.

O conteúdo se espalha de forma viral, quer aqueles que o espalham apoiem a ideologia embutida ou não, tornando difícil intervir e prevenir a violência incitada pelos memes.

Algumas pessoas podem, sem querer, amplificar mensagens destinadas a espalhar violência, confundindo memes como ACAB (todos os policiais são bastardos) com humor inofensivo, embora um tanto sombrio.

Memes anti-policiais

NCRI

Então, o que pode ser feito a respeito das guerras dos memes e qual é o ônus da aplicação da lei e da Big Tech?

Finkelstein recomenda uma abordagem em três frentes para combater o resultado violento de memes subversivos.

  1. Impulsione limites mais rígidos que definam civilidade online usando a tecnologia.
  2. Educar tribunais, legisladores e instituições civis sobre como as comunidades online extremas operam e criar melhores padrões da indústria para regular esses grupos.
  3. Traga o governo federal, incluindo o FBI e a Segurança Interna, a par da nova realidade para que possam intervir conforme necessário.

Mas nem todo mundo pensa que a Big Tech ou a lei têm muito terreno para se apoiar no combate ao ódio viral. As empresas de tecnologia não se esforçaram para realmente impor padrões mais rígidos para conteúdo online, mas algumas empresas estão fechando contas associadas a sites de líderes extremistas e seus movimentos.

Mas isso é em grande parte contra moinhos de vento. A proliferação de memes online espalhando ideologia viralmente pode ser grande demais para combater sem limitar drasticamente a liberdade de expressão online. Facebook e YouTube têm milhares de perfis banidos , mas não há como saber quantos permanecem - ou são adicionados todos os dias. Isso deixa o perigo da radicalização do meme e da armamentização à espreita abaixo da superfície, mesmo enquanto nos encaminhamos para as eleições.

O que temos a perder

Boogaloo e outros grupos sediciosos foram fortalecidos por crises recentes, incluindo a pandemia e os protestos anti-racistas que varreram o país. Um número maior desses membros da comunidade está aparecendo em protestos anti-quarentena e interrompendo outras reuniões, e a imprensa que estão recebendo - incluindo este artigo - está apenas chamando mais atenção para suas mensagens violentas.

Memes extremistas continuam a circular, enquanto os Estados Unidos se dirigem às urnas em meio a uma pandemia global e ampla agitação civil. É lógico que mais sangue será derramado. É vital controlar o Twitter para espalhar o ódio e fechar grupos cujo único propósito é plantar as sementes da brutalidade - a única questão que resta é como.

Idéias Frescas

Categoria

Outro

13-8

Cultura E Religião

Alquimista Cidade

Livros Gov-Civ-Guarda.pt

Gov-Civ-Guarda.pt Ao Vivo

Patrocinado Pela Fundação Charles Koch

Coronavírus

Ciência Surpreendente

Futuro Da Aprendizagem

Engrenagem

Mapas Estranhos

Patrocinadas

Patrocinado Pelo Institute For Humane Studies

Patrocinado Pela Intel The Nantucket Project

Patrocinado Pela Fundação John Templeton

Patrocinado Pela Kenzie Academy

Tecnologia E Inovação

Política E Atualidades

Mente E Cérebro

Notícias / Social

Patrocinado Pela Northwell Health

Parcerias

Sexo E Relacionamentos

Crescimento Pessoal

Podcasts Do Think Again

Patrocinado Por Sofia Gray

Vídeos

Patrocinado Por Sim. Cada Criança.

Geografia E Viagens

Filosofia E Religião

Entretenimento E Cultura Pop

Política, Lei E Governo

Ciência

Estilos De Vida E Questões Sociais

Tecnologia

Saúde E Medicina

Literatura

Artes Visuais

Lista

Desmistificado

História Do Mundo

Esportes E Recreação

Holofote

Companheiro

#wtfact

Recomendado