O Facebook, pretendendo combater o chamado “pornô de vingança” (“revenge porn”, em inglês), em que pessoas divulgam vídeos e imagens privadas na Internet sem consentimento dos envolvidos, anunciou na última sexta-feira (15), que irá começar a utilizar inteligência artificial e machine learning para detectar fotos e vídeos íntimos publicados sem permissão.

A verificação e remoção do conteúdo serão automáticas e fará com que a rede social não seja dependente de denúncias de usuários. O Facebook promete também o encaminhamento das vítimas para grupo de apoio e prestar outros tipos de assistência por meio da central de ajuda “Não sem meu consentimento”.

É a partir de photo-matching e aprendizado de máquina que a ferramenta de inteligência artificial funciona. A partir da amostra de um caso de revenge porn da plataforma, o recurso o compara com outros posts na rede social, buscando imagens similares. Ele verifica e analisa automaticamente vídeos e imagens em busca dos traços que denotem uma eventual quebra dos termos de uso do Facebook, como conteúdo potencialmente irregular. Com isso, a capacidade de análise deve ficar mais precisa à medida que o sistema for usado.

Um analista humano irá revisar os materiais denunciados pela inteligência artificial como infratores. A conta que publicou a postagem estará sujeita às sanções previstas nos termos de uso da rede social, como o banimento do Facebook, caso o diagnóstico do computador seja correto. Em nota, a rede social indicou que haverá recursos para que os usuários recorram dessas sanções caso a checagem esteja equivocada.