Como o desafio Momo está enganando o YouTube Kids para hospedar 'vídeos de suicídio' doentios

Videoclipes que promovem o sinistro 'jogo de suicídio' conhecido como desafio Momo estão sendo inseridos em vídeos aparentemente inocentes no YouTube e no YouTube Kids.

Estes incluem episódios de jogos infantis populares Programas de TV como Peppa Pig , bem como 'ovos surpresa', vídeos de unboxing e vídeos de Minecraft, de acordo com especialistas em segurança online.

Os clipes apresentam uma figura arrepiante parecida com uma boneca chamada Momo, com olhos esbugalhados e um sorriso desdentado, que incentiva as crianças a adicioná-la como contato no WhatsApp.

Uma vez feito o contato, 'Momo' os persegue com imagens violentas e ameaças no WhatsApp, desafiando-os a realizar atos de automutilação - e eventualmente suicídio.

(Imagem: CEN)

Escolas e polícia já começaram avisando os pais sobre o chamado 'desafio', em meio a relatos de que está ganhando popularidade no Reino Unido.

Mas como esses videoclipes ignoram os filtros de idade do YouTube Kids?

rosie huntington-whiteley nua

O YouTube Kids é um aplicativo desenvolvido pelo YouTube com o objetivo de fornecer conteúdo adequado à idade para crianças com mais de 13 anos. O aplicativo está disponível para Android, iOS e algumas Smart TVs.

Os vídeos disponíveis no aplicativo são determinados por uma mistura de máquinas supervisionadas por humanos, entrada do usuário e revisão humana, de acordo com o YouTube.

Isso significa que o aplicativo é predominantemente curado por um algoritmo de computador, que analisa os bilhões de vídeos disponíveis no YouTube e filtra aqueles que considera adequados para crianças.

Há uma camada de curadoria humana em cima disso. Portanto, se a função 'Pesquisar' no YouTube Kids estiver desativada, seu filho terá acesso apenas a um conjunto limitado de vídeos que foram verificados por pessoas reais.

No entanto, se você ativar a função de pesquisa, seu filho poderá acessar milhões de vídeos do YouTube Kids além da tela inicial, que só foram verificados por um computador.

Ao juntar os clipes do desafio Momo em episódios de programas infantis legítimos, os criminosos cibernéticos parecem estar enganando o algoritmo do YouTube Kids para carimbá-los.

Esses vídeos ficam na biblioteca do YouTube Kids, esperando para serem encontrados por crianças desavisadas, até que alguém os perceba e os denuncie.

casa no meio da rodovia

Nesse ponto, eles serão revisados ​​por um moderador humano e removidos se forem considerados inadequados. Mas eles poderiam ter sido vistos milhares de vezes antes disso.

Desafio Momo

“Trabalhamos para garantir que os vídeos no YouTube Kids sejam adequados para a família e levem o feedback muito a sério”, disse um porta-voz do YouTube ao S Online.

Kristen Stewart e namorada

“Agradecemos que as pessoas chamem nossa atenção para conteúdo problemático e possibilitamos que qualquer pessoa sinalize um vídeo.

'Os vídeos sinalizados são revisados ​​manualmente 24 horas por dia, 7 dias por semana e todos os vídeos que não pertencem ao aplicativo são removidos.

“Também estamos investindo em novos controles para os pais, incluindo a capacidade de escolher vídeos e canais no aplicativo.

'Estamos fazendo melhorias constantes em nossos sistemas e reconhecemos que há mais trabalho a fazer.'

(Imagem: YouTube)

Esta não é a primeira vez que o YouTube Kids é criticado por deixando o conteúdo impróprio escapar pela rede .

mulheres de três seios

Os pais já sinalizaram vídeos perturbadores com personagens de desenhos animados populares em situações bizarras, violentas ou sexuais.

Exemplos incluem personagens da Nickelodeon morrendo em um acidente de carro em chamas e pole-dancing em um clube de strip, e Personagem infantil britânica Peppa Pig beber água sanitária ou suportar uma visita horrível ao dentista.

Enquanto isso, o pediatra e mãe Free Hess no início desta semana destacou uma série de exemplos de Vídeos do YouTube Kids escondendo dicas de suicídio em seu blog PediMom.

“Acho que nossos filhos estão enfrentando um mundo totalmente novo com mídia social e acesso à Internet”, disse ela ao Washington Post.

'Está mudando a maneira como eles estão crescendo, e está mudando a maneira como eles estão se desenvolvendo. Acho que vídeos como este os colocam em risco.'

Você pode ler nossas dicas de segurança para pais preocupados com o desafio Momo aqui .