Os vídeospg roletacrianças mortas feitos com inteligência artificial que horrorizam famílias no TikTok:pg roleta

Pais enlutados manifestaram repulsa por uma tendência macabra do TikTokpg roletaque inteligência artificial é usada para criar vídeos que retratam crianças vítimaspg roletaassassinato.

Os vídeos – feitos sem o consentimento dos familiares – mostram versões toscamente animadaspg roletacrianças, algumas delas bebês, contando como foram mortas.

Desde abril, muitos desses vídeos gerados por computador foram postados no TikTok, embora a empresa tenha anunciado a proibiçãopg roletaversõespg roletaIApg roletamenorespg roletaidadepg roletamarço.

No entanto, uma investigação da BBC encontrou evidências que indicam que pode haver confusão entre os funcionários do TikTok sobre a política da plataforma.

Um moderadorpg roletaconteúdo do TikTok disse à BBC que quatro meses após a proibição a empresa ainda não o havia informado sobre a mudança nas regras.

Alguns vídeospg roletavítimas permaneceram na plataforma por vários meses, outros receberam milhõespg roletavisualizações.

Familiares enlutadospg roletavários países falaram sobre as versõespg roletaIApg roletaseus entes queridos falecidos que apareceram online.

A baronesa Beeban Kidron, membro independente da Câmara dos Lordes do Parlamento britânico, diz que os vídeos podem ser particularmente perturbadores para as famílias enlutadas porque apresentam simulações dos seus familiares falecidos contandopg roletaprópria história.

"Se você é alguém que estava ligado a essa criança, especialmente um dos pais ou um membro da família, é uma agressão, uma agressão emocional", disse ela.

'Agressão das piores'

Não demorou muito para que esses vídeos começassem a viralizar e os parentespg roletaalgumas das crianças mortas começassem a se manifestar. Uma das primeiras foi uma canadense chamada Amélie Lemieux.

Em julhopg roleta2020, suas filhas – Romy, 6, e Norah, 11 – foram assassinadas por seu ex-marido, que depois se suicidou.

Em abril deste ano, Lemieux ficou horrorizada quando recebeu um TikTok que apresentava uma versão feita com IApg roletaNorah falando sobre os assassinatos.

"É uma agressão das piores que você possa imaginar", disse Lemieux.

"Não consegui assistir até o final, e meu irmão também não. Ele estava gritando para que parasse."

Amélie Lemieux estava especialmente preocupada com o fatopg roletaque suas sobrinhas e sobrinhos pudessem encontrar aleatoriamente o vídeopg roletaseu primo morto enquanto navegavam pelo TikTok.

Embora muitas pessoas tenham denunciado o vídeo ao aplicativo, ele permaneceu online. Eventualmente, depois que Lemieux deu uma sériepg roletaentrevistas relatando o quão perturbada ficou com o vídeo, a conta anônima que o postou foi excluída.

Amélie Lemieux não conseguiu descobrir quem criou o vídeo, mas está chocada com as ações.

"É incrivelmente chocante alguém usar algo tão perturbador, algo que nos deixará incompletos pelo resto das nossas vidas", disse ela.

"Tudo o que eles querem são visualizações, curtidas, compartilhamentos. E as pessoas que deixam comentários. Pessoalmente, não posso perdoar isso."

Nova tecnologia

A criação destes vídeos foi possível graças à crescente acessibilidade onlinepg roletasoftwarespg roletaIA.

Agora é possível criar e animar facilmente uma figura humana básica e fornecer um script com as falas, que serão reproduzidas com uma voz gerada por computador.

Alguns dos rostos nos vídeospg roletavítimas não se parecem com a pessoa real. Mas outros são baseadospg roletafotos genuínas.

As pessoas que fazem esses vídeos tendem a tentar permanecer anônimas. Mas a BBC identificou um criador como um estudantepg roletaLondres chamado Ritul.

Em seu canal no YouTube ele tem promovido o que chamapg roletavídeospg roleta"contaçãopg roletahistórias" como formapg roletaatrair rapidamente seguidores no TikTok.

"Ganhei milhares e milharespg roletaseguidores postando vídeos contando histórias apenas usando IA", disse elepg roletaum vídeo. "Ganhei 47.000 seguidores, e isso foi apenaspg roletamenospg roletatrês semanas."

A BBC entroupg roletacontato com Ritul, mas ele não quis comentar o caso. Sua conta no TikTok foi excluída.

Os vídeos do TikTok precisam chamar a atençãopg roletasegundos ou os usuários continuarão a rolar. Por isso, criadores como Ritul se concentrarampg roletafazer vídeos sobre os casos mais extremos oupg roletamaior visibilidade.

As históriaspg roletaalgumas crianças têm sido objetopg roletamúltiplos vídeospg roletavários idiomas, incluindo português, espanhol, francês, alemão, italiano e polonês.

Ao longopg roletaum períodopg roletadois meses, a BBC descobriu 170 vídeos diferentes do TikTok apresentando versõespg roletaIApg roletaJames Bulger, o menino britânicopg roletadois anos que foi assassinado por duas crianças mais velhaspg roletaMerseyside, Inglaterra,pg roleta1993.

Resposta do TikTok

O fenômeno virou manchete na Grã-Bretanhapg roletajulho, quando a mãepg roletaJames, Denise Fergus, disse a um jornal que os vídeos com imagenspg roletaseu filho eram "mais que doentios".

O TikTok realizou uma remoçãopg roletamassa dos vídeos e emitiu um comunicado que dizia: "Não há lugarpg roletanossa plataforma para conteúdo perturbador desta natureza. Continuamos a remover conteúdo desta natureza à medida que o encontramos".

Os vídeospg roletaJames removidos incluíam doispg roletavietnamita que, somados, tiveram quatro milhõespg roletavisualizações.

A BBC conversou com um moderadorpg roletaconteúdo do TikTok no Vietnã, que concordoupg roletaser entrevistado sob condiçãopg roletaanonimato.

Ele disse que duas semanas após a remoção dos vídeos a empresa ainda não havia informado oficialmente que esse tipopg roletaconteúdo estava proibido.

Ele disse à BBC que acredita que os vídeos foram liberados pelas regras do TikTok, que permitem que sobreviventespg roletaabuso compartilhem suas histórias.

Então, os funcionários do TikTok não são informados claramente sobre qual é realmente a política da empresa? O TikTok não respondeu especificamente a esse ponto quando abordamos a empresa para comentar.

Mas deixou claro que o moderador errou ao sugerir que esses vídeos poderiam ser permitidos na plataforma como experiênciaspg roletasobreviventes – porque são imagens geradas por computadorpg roletacrianças mortas,pg roletavezpg roletaexperiências genuínaspg roletasobreviventes.

Ainda é fácil encontrar esse tipopg roletavídeo no aplicativo. Mas o TikTok diz que sempre foi muito aberto sobre o fatopg roletaque não consegue monitorar todo o conteúdo disponível.

Reportagem adicionalpg roletaThuong Le da BBC News Vietnã