Facebook cria sistema de IA para analisar memes.

O Facebook é uma plataforma com mais de 2.23 mil milhões de utilizadores ativos por mês. Já pensou no que isto significa? Significa que provavelmente, no momento em que estiver a ler isto, milhares de pessoas já publicaram uma selfie de bom dia. Que milhões partilharam aquela música que não conseguem parar de ouvir. Que a cada segundo que passa, milhares de pessoas de todo o mundo comentam as notícias mais polémicas do dia.

Com tamanho volume de informação, é impensável confiar a moderadores humanos a tarefa de filtrar os conteúdos. Muito menos, decidir quais deles respeitam ou não a política do Facebook. Para resolver esta questão, há muito que plataformas como o Facebook, Instagram ou YouTube recorrem a Inteligência Artificial para identificar conteúdos impróprios ou spam. No entanto, algo como um meme pode não ser assim tão fácil de analisar. Especialmente para uma máquina. Os memes, mémés, mimes – ou como lhes quiserem chamar – são umas das maiores tendências nas redes sociais. Porém, as suas piadas e mensagens implícitas nem sempre são as mais inocentes.

Conseguirá a IA perceber um meme ofensivo? Agora Sim! 

Apresento-vos a Rosetta: ainda mais inteligente, é capaz de processar vários elementos visuais diferentes, em simultâneo, e de “ler” palavras que estão sobrepostas a imagens ou vídeos. Resumindo, esta nova ferramenta do facebook é o sonho de qualquer robot. Graças à sua tecnologia de reconhecimento ótico de caracteres, e às suas técnicas de aprendizagem, esta máquina é capaz de detetar automaticamente conteúdos com discursos de ódio. Parece complicado, mas eu simplifico. Primeiro a Rosetta identifica onde está localizado o texto num meme ou até num vídeo. De seguida, transcreve e interpreta o texto. A extração do texto é dada em tempo real, imediatamente depois da imagem ser carregada. Rosetta analisa as imagens com texto de forma meticulosa. Desta forma, identifica sinais, textos que apareçam em montras, carros ou até cartazes, por exemplo. 

Um dos principais desafios prende-se com os diferentes tipos de mensagens. Especialmente no que toca a diferentes tipos de letra ou idiomas. Foram necessários muitos testes para que a equipa de Inteligência Artificial do Facebook encontrasse uma forma de permitir à Rosetta identificar e compreender linguagens como o árabe, que se escreve da esquerda para a direita. 

Por vezes é fácil contornar o sistema, como já aconteceu com a rede social chinesa WeChat.

Esta plataforma usa dois tipos de algoritmos distintos para filtrar os seus conteúdos. Enquanto um reconhecimento de caracteres analisa os tópicos proibidos, outro algoritmo censura as imagens que se parecem semelhantes às da base de dados da empresa. Contudo, investigadores da Universidade de Toronto conseguiram contornar estes filtros, alterando a orientação das imagens, a cor ou até outros detalhes mais subtis nas fotografias. Por vezes, pequenas alterações na composição, quase impercetíveis ao olho humano, são o suficiente para confundir um sistema de Inteligência Artificial. 

Apesar destas pequenas falhas, o CEO do Facebook Mark Zuckerberg afirma que estas ferramentas estão cada vez mais evoluídas e eficientes. São capazes de detetar todo o tipo de spam. Reconhecem ainda 99,5% de conteúdo terrorista e 86% de conteúdos que revelem violência de forma explícita. 

A Rosetta não é perfeita, mas é um passo para acabar com o ódio que tem vindo a crescer na internet.

Relativamente aos memes, não sei quanto a vocês, mas eu questiono a eficácia deste sistema. Nem sempre é fácil interpretar um meme e há imensos fatores que influenciam o sentido destas “piadas”. Por exemplo, o sítio onde foram publicados e o contexto que os envolve. Se por vezes é difícil para humanos interpretar um meme, imagine como será para uma máquina. Terá um sistema de Inteligência Artificial informação suficiente para perceber um meme de supremacia branca? Uma tentativa de piada homofóbica? Ou até uma imagem que desrespeite a igualdade de género? Não será necessário para tudo isto recorrer à sensibilidade, que é exclusiva dos seres humanos? 

Resta-nos esperar que estes sistemas se tornem progressivamente mais inteligentes. O que tem tanto de bom, como de assustador. Por enquanto, o melhor mesmo é continuar a contar com os utilizadores para denunciar os conteúdos impróprios e com mensagens de ódio. 

Cláudia Machado