Como o YouTube Está Colocando as Crianças em Risco

Um relatório do New York Times reportou que o algoritmo do YouTube construiu o que o jornalista Max Fisher descreve como “um vasto público – talvez sem precedentes – para exploração sexual infantil”.

O algoritmo sugere filmes caseiros de crianças semi-nuas para espectadores que assistiram outros filmes caseiros de crianças semi-nuas. Criando assim um catálogo completo de vídeos que os especialistas dizem que sexualizam as crianças.

Similarmente, uma mãe descreveu ao Times como sua filha de 10 anos postou um vídeo de si mesma e de um amigo brincando na piscina do quintal, e rapidamente conquistou 400.000 visualizações.

No Twitter, Fisher resumiu as descobertas de uma equipe de pesquisadores que analisou este catálogo de vídeos:

Cada vídeo pode parecer inocente, um filme caseiro de uma criança usando roupas de banho ou um pijama. Mas cada um tem três características comuns:

• a menina está quase toda despida ou brevemente nua
• ela não tem mais de 8 anos de idade
• o vídeo dela está sendo fortemente promovido pelo algoritmo do YouTube

Atualizações do Youtube

Contudo, o YouTube está fazendo esforços para proteger os menores. A empresa fez uma postagem em seu blog detalhando sua lista mais recente de atualizações:

  • proibirá menores de transmitir ao vivo, a menos que sejam claramente acompanhados por um adulto,
  • desativará comentários em vídeos com menores e irá limitar a recomendação deste conteúdo.

No entanto, a inteligência artificial está constantemente descobrindo novas maneiras de manter os usuários assistindo esses vídeos. E a única coisa que o YouTube não irá fazer, a coisa que Fisher descreve como a solução do problema, é desativar as recomendações de vídeos de crianças. Quando Fisher perguntou ao YouTube por que eles não dariam esse passo, essa foi a resposta deles.

“Inicialmente, o YouTube me fez comentar dizendo que eles estavam tendendo nessa direção”, escreveu Fisher no Twitter. “Os especialistas ficaram entusiasmados com esse passo extremamente positivo. Em seguida, o YouTube “esclareceu” o comentário deles. Os criadores contam com as recomendações para direcionar o tráfego, então não haveria mudanças. ”

Todavia, este não é o primeiro exemplo de como o algoritmo do YouTube pode causar danos em escala real. Também não é a primeira vez que vemos um problema com o YouTube e as crianças em geral.

Considerações Finais

O fato é que, qualquer passo dado para ajudar a manter seus filhos mais seguros na plataforma, não será à prova de falhas. Então cabe a você criar regras que façam sentido para sua família. Fisher escreve que assistir aos vídeos o deixou “fisicamente doente” e lhe deu pesadelos. Ele acrescenta: “Eu não consigo entender como é isso para os pais cujos filhos são arrastados”.

Este artigo foi publicado primeiramente em offspring.lifehacker.com

Deixe uma resposta