Os emojis de cenoura que escondem mensagens antivacinas nas redes sociais – Tecnologia

(foto: BBC) Grupos do Facebook esto usando o emoji de cenoura para ocultar contedo antivacina das ferramentas de moderao automatizadas. A BBC viu vrios grupos, um deles com centenas de milhares de membros, nos quais o emoji aparece no lugar da palavra “vacina”. Os algoritmos do Facebook tendem a se concentrar em palavras, em vez […]

Os emojis de cenoura que escondem mensagens antivacinas nas redes sociais – Tecnologia


(foto: BBC)

Grupos do Facebook esto usando o emoji de cenoura para ocultar contedo antivacina das ferramentas de moderao automatizadas.

A BBC viu vrios grupos, um deles com centenas de milhares de membros, nos quais o emoji aparece no lugar da palavra “vacina”.

Os algoritmos do Facebook tendem a se concentrar em palavras, em vez de imagens.

Os grupos esto sendo usados %u200B%u200Bpara compartilhar relatos no confirmados de pessoas que teriam ficado com sequelas ou sido at mortas por vacinas.

Aps a BBC entrar em contato com a Meta, empresa dona do Facebook, os grupos foram removidos.

“Removemos este grupo por violar nossas polticas relacionadas desinformao prejudicial e avaliaremos qualquer outro contedo semelhante de acordo com esta poltica. Continuamos trabalhando em estreita colaborao com especialistas em sade pblica e o governo do Reino Unido para combater ainda mais a desinformao sobre a vacina contra covid”, declarou a empresa em um comunicado.

Mas os grupos reapareceram desde ento em nossas buscas.

Um grupo que vimos existe h trs anos, mas mudou de nome em agosto de 2022 para se concentrar em histrias sobre vacinas — antes era um grupo para compartilhar “brincadeiras, apostas e vdeos engraados”.

As regras do grupo maior afirmam: “Use palavras de cdigo para tudo”. E acrescenta: “Nunca use a palavra com ‘c’, a palavra com ‘v’ ou a palavra com ‘r’ (covid, vacina, reforo, respectivamente)”. Foi criado h mais de um ano e tem mais de 250 mil membros.

Marc Owen-Jones, pesquisador de desinformao e professor associado da Universidade Hamad Bin Khalifa, no Catar, foi convidado a participar da observao.

“Eram pessoas dando relatos de parentes que morreram logo aps tomarem a vacina contra covid-19”, diz ele.

“Mas em vez de usar as palavras ‘covid-19’ ou ‘vacina’, eles estavam usando emojis de cenoura.”

“Inicialmente, eu fiquei um pouco confuso. At que a ficha caiu — (os emojis) estavam sendo usados como uma forma de escapar, ou aparentemente de escapar, dos algoritmos de deteco de notcias falsas do Facebook.”

Just got invited to a Facebook group with a couple of hundred thousand members where people share stories about why they think the Covid vaccine killed people they knew. But instead of saying vaccine they use the %uD83E%uDD55 symbol, presumably to evade censorship. Very odd pic.twitter.com/mvXBv1aXBX

— Marc Owen Jones (@marcowenjones) September 11, 2022

Risco moderado

Em 2021, dados do Escritrio de Estatsticas Nacionais do Reino Unido sugeriram que havia um risco de um em cinco milhes de morrer em decorrncia da vacina contra covid-19, em comparao com um risco de 35 mil mortes por cinco milhes de morrer da doena em si, sem a vacina.

As grandes empresas de tecnologia usam algoritmos para vasculhar suas plataformas em busca de contedo nocivo — mas eles so treinados principalmente com base em palavras e texto, escreveu Hannah Rose Kirk em um blog para o Oxford Internet Institute.

Rose Kirk fez parte de uma equipe de pesquisa que criou uma ferramenta chamada HatemojiCheck: um check-list para identificar reas em que os sistemas de inteligncia artificial no lidam muito bem com o abuso baseado em emojis.

“Apesar de ter uma compreenso impressionante de como a linguagem funciona, os modelos de linguagem de inteligncia artificial viram muito pouco emoji”, diz ela.

“Eles so treinados com base em uma coletnea de livros, artigos e sites, at mesmo na totalidade da Wikipdia em ingls, mas esses textos raramente apresentam emoji”.

Emojis e racismo

As plataformas j foram criticadas por no bloquear ou remover emojis de macacos e bananas quando postados como gesto racista nas contas de jogadores de futebol negros.

Se o projeto de lei de segurana online entrar em vigor no Reino Unido, as grandes empresas de tecnologia vo enfrentar penalidades severas por no identificar e remover rapidamente contedo prejudicial em suas plataformas.

Mas h preocupaes de que as ferramentas atualmente em uso no sejam boas o suficiente para lidar com o grande volume de contedo postado — e com as nuances e diferenas culturais que podem obscurecer o significado.

Escondendo-se vista de todos

Os emojis podem ter vrios significados, alm do que for declarado oficialmente pelo Unicode, o consrcio que os gerencia.

A Agncia de Combate s Drogas dos EUA divulgou um pster demonstrando como os emojis podem ser usados %u200B%u200Bpara discutir drogas ilegais.

” uma forma moderna de esteganografia: escrever e esconder uma mensagem vista de todos, mas de tal forma que, a menos que voc saiba para onde olhar, no a v”, explica o professor Alan Woodward, especialista em segurana ciberntica da Universidade de Surrey, no Reino Unido.

“O que tudo isso demonstra a inutilidade de tentar automatizar a moderao de contedo para evitar o compartilhamento de material ‘prejudicial'”, diz ele.

“Na melhor das hipteses, voc estar ‘enxugando gelo’ enquanto as pessoas desenvolvem novos dialetos com os quais se comunicar.”

O Facebook disse no ano passado que havia removido mais de 20 milhes de contedos contendo desinformao sobre a covid-19 ou a vacina desde o incio da pandemia.

A empresa tambm diz que remove contedos que alegam que as vacinas em geral so mais perigosas do que a doena contra a qual protegem ou que so txicas.

O presidente dos EUA, Joe Biden, criticou as gigantes da tecnologia por no fazerem o suficiente para combater a disseminao de desinformao sobre as vacinas online.

Ele disse esperar que o Facebook faa mais para combater “a desinformao ultrajante” sobre as vacinas contra o coronavrus que esto sendo espalhadas em sua plataforma.

– Este texto foi publicado em https://www.bbc.com/portuguese/geral-62926020

Sabia que a BBC est tambm no Telegram? Inscreva-se no canal.

J assistiu aos nossos novos vdeos no YouTube? Inscreva-se no nosso canal!





Matéria Origial