Do assassinato da deputada estadual Melissa Hortman ao manifesto de Luigi Mangione, passando pelo atentado contra Charlie Kirk e qualquer novo horror que tenha surgido no ciclo de notícias entre a redação destas palavras e sua publicação, nunca ficou tão claro que a radicalização online está levando a consequências no mundo real.
No ano passado, a equipe da US the Story analisou apenas um punhado das postagens mais vis do 14 contas de ódio puro em uma plataforma. Essas 14 postagens mostraram uma contagem combinada de visualizações de mais de 50 milhões. As contas em si tiveram um alcance de 6.450.000.000 impressões. O engajamento — o número de vezes que as pessoas interagiram com o conteúdo no total, curtindo, citando ou compartilhando — ultrapassou 448 milhões ao longo de aproximadamente 10 meses.
Essas postagens, seu volume e seu alcance criam uma estrutura de permissão para mais e mais ódio. É uma descida acelerada para a violência e o caos; quanto mais se torna aceitável denegrir e ameaçar “o outro grupo”, mais culpar e atacar esse grupo se normaliza.
Uma forma de ver isso é como um problema de contágio em rede. Debates sobre contágios sociais facilitados pelas mídias sociais têm ocorrido nas guerras culturais por anos. Jovens mulheres, em particular, foram alvos de bots e contas promovendo anorexia, disforia de gênero e mais. Eventos virais, como a explosão em 2023 da “Carta à América” de Bin Laden e mensagens generalizadas incentivando o suicídio, causaram preocupação imediata na cultura mais ampla. A esta altura, não deveríamos nos surpreender que algoritmos projetados para maximizar a viralidade por lucro a qualquer custo alimentem os tópicos mais tóxicos, contagiosos e pegajosos.
PUBLICIDADE
Estudos têm mostrado consistentemente que o crime violento segue uma distribuição de Pareto, com 1% dos criminosos cometendo até 60% dos crimes. O mesmo vale para o conteúdo de ódio que cavalga estrategicamente os algoritmos a serviço de encorajar a violência no mundo real. Nós realmente queremos que nossas plataformas de mídia social sejam dominadas por psicopatas em um contágio de rede total? E, mais importante, o que acontece se isso ocorrer?
A maioria dos contágios, se não impedidos, se espalha o suficiente para danificar e ameaçar todo o sistema. É por isso que muitos desses casos são alimentados por operações psicológicas estrangeiras.
O objetivo desses contágios nunca é o tópico declarado em questão. Eles não são realmente sobre direitos trans, judeus, vacinas ou imigração. São sobre, primeiro, colocar os americanos uns contra os outros em conflitos tribais radicalizados e, segundo, tornar esses tópicos impossíveis ou até perigosos de discutir de forma produtiva (eliminando a discussão sã, uma pré-condição óbvia para resolver problemas). Durante a Guerra Fria, por exemplo, a KGB forneceu suporte financeiro e logístico aos Panteras Negras, enquanto também enviava cartas forjadas ameaçadoras da Ku Klux Klan para líderes negros, a fim de atiçar tensões raciais.
PUBLICIDADE
O ponto é envenenar ambos os lados para semear o máximo de caos e minar e destruir as democracias ocidentais.
É quase impossível resistir a conteúdo impulsionado por algoritmos projetado para maximizar raiva, medo e ansiedade a serviço de manter as pessoas grudadas em suas telas. É de fato um tipo de controle mental. Esse nível de hackeamento do sistema nervoso e o dilúvio de mensagens tóxicas podem desencadear instintos e comportamentos terríveis, especialmente em jovens cujos córtex pré-frontais literalmente ainda não estão totalmente desenvolvidos.
Além da influência de regimes hostis e algoritmos de indignação maximizados para lucro, há também atores domésticos de má-fé incentivando a América em seu caminho de destruição. A maioria desses manipuladores nos bastidores exibe traços da Tetrada Negra: sadismo, narcisismo, maquiavelismo e psicopatia. Esses indivíduos nefastos estão usando técnicas sofisticadas e furtivas de integração para sequestrar as plataformas.
No início deste ano, nossa equipe gravou uma conversa ao vivo em uma plataforma proeminente de mídia social entre neonazistas autodeclarados, um dos quais tem uma conta considerável com milhões de visualizações e alcance. A conversa era uma sessão de estratégia sobre como manipular contas de influenciadores maiores não alinhados ideologicamente para compartilhar conteúdo nazista. A estratégia envolve usar palavras, frases e argumentos cuidadosamente selecionados que podem ser polarizantes, mas não explicitamente antissemitas ou racistas. Eles miram interesses específicos de certos influenciadores e líderes de pensamento que são políticos, mas fora da “dieta nazista”. Quando outra conta grande interage com uma postagem aparentemente benigna dessas contas nazistas, isso impulsiona algoritmicamente essa conta, de modo que a conta nazista ganha seguidores, visualizações e poder aumentado para mudar a cultura na plataforma e em outros lugares. É o equivalente nazista de grooming algorítmico.
O mesmo vale para técnicas radicais de esquerda. Um estudo de abril de nosso grupo parceiro, NCRI, descobriu que mais de 50% das pessoas autoidentificadas à esquerda do espectro político acreditavam ser pelo menos um pouco aceitável assassinar o presidente dos EUA, Donald Trump. E impressionantes 78% dos usuários do BlueSky expressaram algum nível de apoio ao assassinato a sangue frio do CEO da UnitedHealthcare, Brian Thompson, por Luigi Mangione. O maior preditor de apoio a Mangione? O uso do BlueSky.
O uso pesado de mídias sociais é de fato a constante. Cada vez mais, quando dissecamos a dieta de mídias sociais e postagens daqueles integrados ao radicalismo, encontramos uma mistura tóxica de ideologias. Isso porque o objetivo não é apoio a políticas liberais ou conservadoras. O objetivo é levar o máximo possível (especialmente jovens americanos) a chegar onde a extrema esquerda e a extrema direita se encontram no ferradura do niilismo: a coorte “Nenhuma Vida Importa”. Uma vez que as condições são definidas para a radicalização de um jovem, por exemplo, não importa para nossos adversários estrangeiros hostis se o próximo ônibus que ele pega está cheio de tipos violentos trans-Antifa ou groypers “seu corpo, minha escolha”.
Não temos intenção de vilipendiar as plataformas de mídia social (além daquelas que executam propositalmente operações psicológicas estrangeiras completas) ou minar a liberdade de expressão. Em nossos engajamentos informais com líderes dessas plataformas, os encontramos preocupados e receptivos a discutir maneiras de combater isso. Vilipendiar CEOs, big tech e os trabalhadores dentro dessas corporações não apenas fecha o progresso cooperativo, mas provavelmente os empurra para uma postura defensiva. Há muitas pessoas boas na liderança de tecnologia que expressaram disposição para abordar esse problema.
De acordo com o Daily Wire, como podemos abordar isso?
Aqui estão cinco recomendações concretas para reduzir a temperatura das tendências destrutivas nas mídias sociais, enquanto protegemos a liberdade de expressão e evitamos o excesso do governo e a censura.
Cidadãos, pais e o livre mercado (anunciantes e produtores de conteúdo) têm o direito de saber se eles ou seus filhos estão participando de plataformas que alimentam suicídio, incitação ao ódio, pornografia violenta, propaganda antiamericana ou qualquer outra coisa danosa. Isso não é sobre controle ou censura, mas sobre permitir que as pessoas saibam com o que estão se engajando para que possam fazer escolhas informadas para si mesmos, suas empresas e seus filhos. Não estamos exigindo que as plataformas publiquem seus segredos comerciais proprietários em termos de algoritmos. Em vez disso, sugerimos permitir que pesquisadores independentes acessem os dados necessários para avaliar os impactos dos algoritmos em relação a atividades ilegais e se as plataformas estão aplicando suas próprias regras conforme definidas em seus termos de serviço. Isso é de fato o contrato com o usuário — e o livre mercado.
Há também um argumento válido para o direito dos americanos de explorar ideias e pontos de vista fringe e até perigosos. O mundo é um lugar perigoso e nem o governo nem as corporações devem impedir os direitos dos cidadãos de explorar além dos limites do que é considerado amplamente aceitável (excluindo, é claro, materiais ilícitos). Mas o contato com o terrível e o extremo deve ser feito conscientemente, não como resultado de algoritmos covertos otimizados para lucro e forçados em seu feed. Idealmente, mergulhar em arenas perigosas deve ser inoculante, não envenenador.
Participantes de mídias sociais que usam suas identidades reais merecem ter suas opiniões elevadas acima daquelas que postam anonimamente e têm zero responsabilidade. Um livre mercado de ideias deve privilegiar um mínimo de coragem, transparência e responsabilidade.
Certamente há argumentos a favor de contas anônimas, com delatores sendo frequentemente citados. Isso é justo. Elas ainda podem postar suas informações em um segundo nível de engajamento abaixo dos usuários verificados. Apenas não serão elevadas ao topo junto com toda teoria da conspiração citada anonimamente.
Como um defensor veemente da liberdade de expressão, acredito no direito das pessoas de explorar o que querem e se expressar como desejam. Mas algoritmos empurrando ódio, mentiras e violência estão travando uma guerra assimétrica contra a verdade. Liberdade de expressão é uma coisa. Distorção da fala e manipulação encoberta do livre mercado de ideias é outra.
A luz do sol é de fato o melhor desinfetante para ideias ruins, mas a luz do dia é insuficiente para combater o poder computacional de aprendizado profundo direcionado projetado para elevar mentiras acima de tudo e agravado pelas maquinações de atores psicopáticos. Esse nível de distorção no campo de jogo torna uma competição de ideias quase impossível. Por que esconder a verdade no fundo de uma fossa séptica? Uma hierarquia de valor e uma hierarquia de informação são necessárias para qualquer empreendimento que espere produzir algo além de caos e ruína.
É claro que humanos têm vieses e podem cair vítimas da corrupção. Mas isso não significa que devemos eliminar o bem humano do processo de tomada de decisão. Não deveríamos encorajar e recompensar aquilo que nos move para maior verdade e saúde? Em vez de encorajar e recompensar o oposto? Todo campo de jogo precisa de um árbitro e toda empresa deve ter guardiões do bom senso e da decência comum que avaliem os sistemas automatizados de moderação de conteúdo para garantir que não estejam sendo manipulados e para ajudar a aplicar as regras acordadas do jogo. As corporações estão certamente equipadas para encorajar a liberdade de expressão, o engajamento social e a saúde da rede, enquanto garantem que a pequena porcentagem de contas psicopáticas não seja impulsionada por algoritmos para infectar toda a plataforma.
Usuários, anunciantes e as plataformas em si devem saber se estão se engajando com contas e ideias reais ou com atores manipuladores ruins e enxames de bots de uma fazenda de trolls em São Petersburgo. O acesso de pesquisa independente aos dados pode trazer recursos adicionais à mesa quando se trata de identificar essas ameaças aos usuários e às plataformas em si. Um ecossistema maior de transparência é para nosso benefício coletivo.
Essas cinco recomendações concretas vão percorrer um longo caminho para reduzir o caos, as mentiras e o sadismo online e no mundo real.
Gregg Hurwitz é o autor best-seller internacional número 1 do New York Times de 26 thrillers, incluindo a série Orphan X. Seus romances ganharam numerosos prêmios literários e foram publicados em 33 idiomas. Gregg atualmente atua como co-presidente da International Thriller Writers (ITW). Além disso, ele escreveu roteiros e scripts de televisão para muitos dos principais estúdios e redes, e é um produtor de documentários premiado. Gregg também escreveu quadrinhos para AWA (incluindo a antologia aclamada pela crítica NewThink), DC e Marvel, e poesia. Atualmente, Gregg está trabalhando contra a polarização na política e na cultura. Para esse fim, ele escreveu dezenas de artigos de opinião e peças para o The Wall Street Journal, The Guardian, The Bulwark, Salon e outros, e peças de conteúdo criativo que ganharam numerosos prêmios da indústria e alcançaram várias centenas de milhões de visualizações em plataformas de TV digital. Ele também ajudou a escrever a cerimônia de abertura da Copa do Mundo de 2022.
As opiniões expressas nesta peça são as do autor e não representam necessariamente as do The Daily Wire.
Junte-se a nós agora durante nossa oferta exclusiva da Década. Obtenha tudo por $7 por mês. Não como fãs. Como lutadores. Vá para DailyWire.com/Subscribe para se juntar agora.
Continue lendo este artigo exclusivo e junte-se à conversa, além de assistir vídeos gratuitos no DW+.
Já é membro? Faça login.
