Algoritmo do FACEBOOK sinaliza CEBOLAS como “ABERTAMENTE SEXUALIZADAS”

Os filtros automáticos anti-nudez do Facebook finalmente impediram que crianças impressionáveis ​​vissem uma imundice inimaginável em seus cronogramas: uma pilha de cebolas que foi sinalizada como ”inadequada”.

A Gaze Seed Company tentou anunciar no Facebook usando uma imagem de uma pilha de cebolas em uma cesta para comercializar suas sementes, relata a CBC, mas foi bloqueada pelo algoritmo do Facebook. O motivo oficial? Os algoritmos do Facebook decidiram que a imagem era “abertamente sexualizada”. É um erro engraçado, claro, e que levanta questões sobre os tipos de coisas que esses algoritmos se envolvem – mas em um nível mais básico, também ilustra que a moderação de conteúdo de IA ainda não está pronta para o horário nobre.

Infelizmente, a postagem da Gaze Seed Company não esclareceu o que exatamente sobre as cebolas – que o anúncio descreve como “extremamente doce, suave e grande” – ou sua posição foi “abertamente sexualizada”, como afirma o Facebook.

“Fomos notificados outro dia de que é uma ‘imagem abertamente sexual’ que eles tiveram que banir do site”, disse o gerente do Gaze, Jackson McLean, à CBC . “Eu acho que algo sobre as duas formas redondas pode ser mal interpretado como seios ou algo assim, nu de alguma forma.”

Por enquanto, McLean e a empresa estão lutando contra o que deve ser uma falha algorítmica bizarra – mas disruptiva.

“Eu apenas pensei que era engraçado”, disse McLean à CBC . “Você teria que ter uma imaginação muito ativa para olhar para isso e tirar algo sexual disso … ‘Abertamente sexual’, como se não houvesse nenhuma maneira de confundir isso com não sexual.”

“Esperançosamente, um humano real consegue olhar a foto para decidir que não é realmente sexual”, acrescentou. “São apenas cebolas.”

Compartilhe

Tweet

Sobre o Autor

Rogerio Souza

administrator

See author's posts