O algoritmo do Facebook com inteligência artificial foi projetado para atrair os usuários para o conteúdo que mais lhes interessa. A tecnologia é ajustada para servir cada vez mais ao que você clica, seja ioga, camping, Manchester United ou K-pop. Parece ótimo, certo?

No entanto, o algoritmo do Facebook também leva dezenas de milhões de seus 2,7 bilhões de usuários globais a um abismo de desinformação, um atoleiro de mentiras e uma areia movediça de teorias da conspiração.

No início de dezembro, escrevi um post intitulado 2021 Digital Marketing Prediction: Backlash Against Social Media Algorithms. Nele, eu descrevi a crescente dependência das empresas de redes sociais em algoritmos – fórmulas matemáticas complexas aplicadas a bilhões de pontos de dados anônimos de centenas de milhões de pessoas – para determinar o que vemos em nossos feeds como um lacre de segurança. Eu disse então que estou cada vez mais pessimista sobre o poder das redes sociais sobre nossas vidas.

A postagem gerou muita reação dos leitores e eu tenho dado as ideias que escrevi sobre muitas reflexões adicionais.
Então, na esteira dos eventos de 6 de janeiro, decidi escrever este post de acompanhamento.

O Facebook se tornou a principal fonte de notícias nos Estados Unidos

O Facebook começou como um lugar feliz para se conectar com seus amigos e contatos da escola e do trabalho e gráfica em Foz do Iguaçu. Na última década, quando o Facebook se tornou uma empresa de capital aberto com investidores, os executivos foram motivados pelo lucro que vem com a venda de serviços de publicidade para empresas que desejam alcançar seus usuários.

Desde então, o Facebook se transformou em uma empresa que conta com uma das tecnologias mais destrutivas que os humanos já criaram, diretamente responsável por vidas destruídas e nosso sistema político desestruturado.
Embora outras redes sociais também sejam movidas por algoritmos, o Facebook é de longe o maior problema por causa de seu tamanho, com quase metade da população adulta do planeta na plataforma.

De acordo com um relatório do The Pew Research Center, mais da metade (52%) de todos os adultos dos EUA recebem notícias no Facebook.

Pense nisso por um momento!

Os dados do censo dos EUA indicam que a população total era de 328 milhões em 2019, com 22% com menos de 18 anos. Isso significa que, dos cerca de 254 milhões de americanos adultos, 132 milhões recebem notícias do Facebook. Este número é muito mais do que o de outras redes sociais como o Twitter, e é por isso que estou tão focado na natureza destrutiva do Facebook.

Dito de outra forma, 132 milhões de pessoas têm suas notícias diárias servidas pelo Facebook com base em quaisquer assuntos (muitas vezes incluindo desinformação e teorias da conspiração) em que cada usuário começa a se interessar.

Compare o número de pessoas que recebem notícias do Facebook com o número de pessoas que recebem notícias da mídia convencional. A Fox News, que terminou 2020 como o canal de notícias a cabo mais assistido da história, teve uma média de apenas 3,6 milhões de telespectadores diários, uma pequena fração do número que recebe notícias no Facebook. O principal jornal dos Estados Unidos em circulação, o USA Today, tinha apenas 1,6 milhão de leitores pagos semanais em média.

O Facebook foi feito para que você permaneça no site por mais tempo

Como uma empresa de capital aberto que ganha dinheiro com a venda de anúncios, é do interesse dos acionistas do Facebook que a tecnologia da empresa seja ajustada para mantê-lo no site o maior tempo possível. Quando você está no Facebook, eles ganham dinheiro.
O que quer que seja do seu interesse, com base no que você pesquisa ou clica, é o que a rede do Facebook aprenderá e que você terá interesse em ver mais. E a tecnologia vai dar a você cada vez mais como uma droga.

Você é um observador de pássaros que se junta a alguns grupos de birder, clica em “curtir” na linda foto da coruja de orelha curta de seu amigo, pesquisa santuários de pássaros próximos e compartilha um vídeo de uma garça majestosa em voo? Bingo! O Facebook vai mostrar mais e mais conteúdo de pássaros.

Assim como a forma como a Netflix amplifica os tipos de filmes e programas que assistimos, nos levando a assistir mais, o Facebook nos mostra o mesmo tipo de informação em nosso feed de notícias em que clicamos, incentivando-nos a ver mais.

Se alguém clica em um título sensacional uma vez porque está curioso, o feed aprende um pouco com essa interação e exibe histórias semelhantes. Se esse novo conteúdo também for visualizado, o sistema exibirá cada vez mais conteúdo semelhante.

É por isso que é tão fácil para algoritmos de IA do Facebook amplificar informações falsas e enganosas, polarizar conteúdo e teorias de conspiração – é para isso que os sistemas foram treinados!

O Facebook fornece notícias com base no interesse, não na escolha

Muitas pessoas falam sobre os meios de comunicação partidários como um grande problema que separa os usuarios de lacre e etiqueta casca de ovo.

Sim, o foco ideológico da MSNBC é diferente da FOX e do The New York Times se inclina em uma direção diferente do The Wall Street Journal.

No entanto, há uma enorme diferença entre escolher receber suas notícias de uma rede de TV a cabo ou de um jornal e deixar as notícias aparecerem em seu feed do Facebook. O elemento de escolha é removido com o Facebook porque as notícias chegam a você com base no que você clicou

no passado, em vez do que você escolher para clicar agora.

Isso se torna um grande problema para aqueles que são curiosos o suficiente para mergulhar em uma teoria da conspiração.

O Facebook captura pessoas.

Imagine que você “gosta” de uma história enviada por um querido amigo sobre como os pousos lunares da Apollo foram falsificados, talvez nem mesmo lendo a história. Mais tarde, você recebe outro link do Facebook sobre o tema dos pousos na lua falsificados e isso faz você se perguntar …

Talvez você então procure no Facebook mais histórias sobre as missões Apollo sendo falsificadas porque você está curioso. Você está dentro! O Facebook agora prendeu você. Você obterá cada vez mais conteúdo com base no que está começando a (falsamente) acreditar ser verdade.

Assim que as pessoas começam a ver muitas e muitas histórias falsas semelhantes aparecendo em seu feed de notícias do Facebook, elas começam a “saber que isso é verdade porque todo mundo diz”.
Um aparte. Eu conversei com vários dos homens corajosos que caminharam na lua sobre a ideia de que o que eles realizaram foi falsificado e queriam compartilhar algumas das maneiras mais memoráveis ​​como eles resistem aos teóricos da conspiração.

Eu co-escrevi um livro chamado Marketing the Moon com meu amigo Rich Jurek e Gene Cernan, o último homem a andar na lua, escreveu o avançado. Gene nos disse: “Os russos sabiam que nós fizemos isso. Se tivéssemos fingido, eles teriam nos chamado para sair. ”

E eu me lembro claramente de Charlie Duke, o décimo homem a andar na lua, que me disse: “Se fingíssemos os pousos na lua, por que faríamos isso seis vezes!”

O Facebook banindo determinados tipos de conteúdo e certas pessoas ajuda, mas não é a melhor solução
Nas últimas semanas, o Facebook tomou algumas decisões acertadas em relação aos usuários e ao conteúdo de seu site. No entanto, esses movimentos são projetados para fazer parecer que o Facebook está “fazendo algo a respeito do problema”. Acredito que seja uma tentativa do Facebook de desviar as pessoas do verdadeiro problema dos algoritmos.

Por exemplo, em 11 de janeiro, em um comunicado à imprensa intitulado Our Preparations Ahead of Inauguration Day, o Facebook anunciou que “estão proibindo anúncios que promovem acessórios para armas e equipamentos de proteção nos Estados Unidos pelo menos até 22 de janeiro, por precaução. Já proibimos anúncios de armas, munições e aprimoramentos de armas, como silenciadores. Mas agora também proibiremos anúncios de acessórios como cofres para armas, coletes e coldres para armas nos EUA. ”

O Facebook também baniu dezenas de milhares de usuários individuais e grupos da plataforma por causa de violações dos termos de serviço do Facebook.

O processo whack-a-mole de simplesmente procurar os piores criminosos certamente ajuda, mas não aborda a forma como os sistemas do Facebook realmente funcionam e o que bilhões de usuários veem a cada dia.
Com um poder incrível vem uma grande responsabilidade

Por causa da natureza do produto do Facebook, as respostas que foram lançadas pelos políticos não vão funcionar.
Muitos estão defendendo o desmembramento da empresa separando os serviços de propriedade do Facebook, como Instagram e WhatsApp, em empresas separadas, da mesma forma que a gigante das telecomunicações dos EUA AT&T foi desmembrada em 1982. No entanto, desmembrar o Facebook não ajudará muito para diminuir o tom o problemático algoritmo de IA do Facebook.

O Facebook precisa se aprofundar em sua tecnologia de computador e alterar a matemática para que histórias falsas e enganosas não sejam veiculadas no feed de notícias das pessoas da maneira como são agora. Isso fará com que o Facebook ganhe menos dinheiro com anúncios, mas é isso que é necessário.

Duvido que eles tomem essa atitude a menos que sejam forçados pelo governo, seus anunciantes ou seus funcionários.

Por enquanto, observe o Facebook continuar a se concentrar nas pequenas coisas, como proibir anúncios de alguns produtos de nicho ou banir uma porcentagem muito pequena de seus usuários.