Algoritmos no banco dos réus por causa das fake news

Letícia Saturnino
Letícia Saturnino
Publicado em 16/07/2018 às 10:46
Foto: Píxabay
Foto: Píxabay FOTO: Foto: Píxabay

Os algoritmos utilizados pelos sites e as redes sociais destacam com frequência informações falsas e manipuladas, com perigosas consequências.

Que papel desempenham

Esses programas de computador, que tomam decisões de maneira autônoma, ocupam um lugar essencial, mas invisível, na rede, influenciando assim o cotidiano de seus usuários.

Sua capacidade de filtrar e estabelecer conexões entre uma gigantesca massa de dados lhes dá uma inteligência artificial que  permite que realizem todos os tipos de operações, como personalizar o custo do seguro ou estabelecer um diagnóstico médico.

LEIA MAIS

» Netflix e o mistério do algoritmo

» Google muda algoritmo para barrar tráfego de sites piratas

» Médicos britânicos em pé de guerra contra chatbot médico informático

Nos mecanismos de busca, mídia e redes sociais, os algoritmos classificam as informações, gerenciam o segmento da atualidade, por exemplo, do Facebook, censuram conteúdos indesejáveis (racismo, pornografia, violência...), recomendam vídeos e artigos, etc.

Uma visão parcial do mundo?

"Os algoritmos podem nos guiar através da grande quantidade de informação disponível na internet", explicou no mês passado Margrethe Vestager, comissária europeia da Concorrência. "Mas o risco é que só vejamos o que esses programas - e as empresas que os utilizam - optam por nos mostrar", resumiu.

Ao reorganizar o conteúdo online, os algoritmos criam "bolhas de filtro" homogêneas, onde as opiniões divergentes desaparecem.

Por exemplo, durante as eleições de 2016 nos Estados Unidos, o Facebook foi acusado de favorecer a candidatura de Donald Trump ao permitir que informações falsas circulassem, muitas vezes contra Hillary Clinton, e prendendo os partidários do republicanos em um universo onde todos pensavam o mesmo.

Os algoritmos também tendem a tornar visões extremas "mais visíveis do que nunca", de acordo com Lorena Jaume-Palasi, fundadora da ONG Algorithm Watch. No entanto, seus efeitos sobre a opinião dos leitores são difíceis de mensurar. Por exemplo, não se pode atribuir unicamente aos algoritmos a ascensão dos nacionalismos na Europa.

Propagação de fake news

O principal objetivo dos algoritmos das redes sociais é fazer circular os conteúdos mais populares, independentemente de sua veracidade. Portanto, contribuem para espalhar fake news.

Principalmente no YouTube, milhares de vídeos que defendem teorias conspiratórias são muito mais "recomendados" aos usuários do que conteúdo verificado, de acordo com Guillaume Chaslot, um ex-engenheiro da plataforma.

Assim, vídeos que afirmam que o homem nunca pisou na Lua ou que negam a realidade da mudança climática capturam a atenção de algoritmos e, portanto, são difundidos por mais tempo, em detrimento da mídia tradicional.

Algoritmos mais éticos

Mas os algoritmos também podem ser reprogramados "a serviço da liberdade humana", segundo alguns observadores.

As ONGs exigem, em primeiro lugar, mais transparência. "A Coca-Cola não revela sua fórmula, mas os efeitos de seus produtos na saúde são examinados", ilustra Jaume-Palasi, que pede mais regulamentação.

Uma comissão francesa recomendou em 2017 um maior controle estatal dos algoritmos, mas também uma verdadeira educação dos usuários para que entendam seu funcionamento.

O novo regulamento europeu sobre proteção de dados permite contestar a decisão de um algoritmo e "obter uma intervenção humana" em caso de conflito.

As grandes plataformas na web também começaram a agir: o Facebook se esforça para detectar e marcar automaticamente as notícias duvidosas, enquanto o YouTube reforça o controle humano da transmissão de vídeos para crianças.

Mas alguns "arrependidos" do Vale do Silício, reunidos na ONG Center for Humane Technology, ressaltam que não deve se esperar que a mudança venha das empresas que se baseiam na "economia da atenção", como YouTube, Facebook, Snapchat e Twitter, já que "vai contra o modelo econômico deles".