Justiça manda X identificar criador de deepfake sexual de Gretchen

Justiça determina fornecimento de dados pelo X

O X (antigo Twitter) foi condenado a fornecer dados que permitam a identificação do autor de um vídeo criado por inteligência artificial com voz e imagem de Gretchen em conteúdo de teor sexual. A decisão é da juíza Camila de Azevedo, da 19ª Vara Cível de São Paulo.

O vídeo em questão simulava Gretchen, por meio de IA, convidando pessoas a participarem de um evento fictício chamado Cabaré da Cinderela, oferecendo “muito sexo” e com o objetivo de “conseguir apoiadores da sua candidatura à Prefeitura de Itamaracá”. A publicação circulou na rede social entre março e abril.

Qual foi a alegação da defesa de Gretchen?

Na ação, a equipe da cantora alegou que o objetivo do vídeo era prejudicar sua reputação e expô-la ao ridículo. “A internet não pode se transformar em um território livre para a realização de publicações sem qualquer controle”, afirmaram os representantes de Gretchen à Folha de S. Paulo.

A decisão judicial veio após o X se recusar a fornecer os dados do responsável para a equipe de Gretchen. O representante da plataforma de Elon Musk argumentou que só poderia fornecer dados mediante ordem judicial e diante de indícios de ilícito. A empresa ressaltou a necessidade de “análise minuciosa e contextualizada das provas e narrativas, sempre em atenção à liberdade de expressão dos usuários da internet e à sua privacidade”.

O que diz a decisão da Justiça?

Na sentença, a juíza destacou o dever da rede social de fornecer informações cadastrais que permitam a identificação de autores de possíveis atos ilícitos. A decisão também determinou a exclusão do vídeo, que, segundo o processo, já foi retirado do ar.