Tudo sobre Estados Unidos
ver mais
Tudo sobre Inteligência Artificial
ver mais
Autoridades de Nova York (EUA) anunciaram nesta segunda-feira (14) a derrubada de 12 sites que hospedavam e comercializavam pornografia deepfake produzida com inteligência artificial (IA). As plataformas exibiam imagens e vídeos falsos de pessoas famosas, incluindo atrizes, políticas, atletas, musicistas, influenciadoras digitais e outras figuras públicas.
Continua após a publicidade
Segundo a Promotoria do Distrito de Manhattan, os sites reuniam material envolvendo cerca de 1,2 mil pessoas reais, em sua maioria mulheres. As imagens e vídeos mostravam versões geradas ou manipuladas por IA das vítimas participando de atos sexualmente explícitos sem seu consentimento.
A investigação apontou que as plataformas anunciavam explicitamente serviços de “pornografia deepfake de famosas” e eram utilizadas para publicar e vender esse tipo de conteúdo, além de outros registros íntimos não consensuais.
O promotor distrital de Manhattan, Alvin Bragg, afirmou acreditar que esta seja a maior operação já realizada para retirar do ar sites dedicados à pornografia ilegal gerada por IA. “São fotos e vídeos que utilizam inteligência artificial para fazer parecer que pessoas reais participam de atos sexualmente explícitos”, explicou Bragg.
Segundo o promotor, a legislação de Nova York considera ilegal compartilhar fotos ou vídeos reais de pessoas praticando atos sexuais sem consentimento. A mesma regra se aplica quando o conteúdo é criado ou alterado com ferramentas de IA.
Exemplo de página que foi removida – Imagem: Reprodução
Leia mais:
- IA pode aumentar risco de corrida por armas biológicas, dizem especialistas
- Trump chama pedido de freio na IA de “conspiração doentia” para favorecer China
- China chama de “alarmismo” pressão dos EUA para frear a IA
Como funcionavam os deepfakes
- Os sites utilizavam ferramentas de IA para modificar imagens e vídeos e substituir os rostos das pessoas que apareciam originalmente nas gravações pelos rostos das vítimas;
- Com isso, eram produzidos conteúdos hiper-realistas que davam a impressão de que pessoas reais estavam envolvidas em situações sexualmente explícitas, embora nunca tivessem participado delas;
- As vítimas incluíam atrizes, políticas, atletas, musicistas, defensoras de causas sociais e influenciadoras digitais, entre outras pessoas conhecidas pelo público;
- De acordo com a Promotoria de Manhattan, as empresas responsáveis pelos sites lucravam com a publicação e disseminação de imagens e vídeos sexuais não consensuais, independentemente de o material ter sido produzido com IA;
- Bragg afirmou ainda que essas violações de privacidade acompanham as vítimas em suas carreiras e vidas pessoais e provocam um impacto significativo em seu bem-estar emocional e mental.
Investigação continua
A investigação começou depois que uma das vítimas denunciou um dos sites, segundo Bragg. Ele não informou se houve prisões relacionadas à operação.
As autoridades afirmaram que a investigação sobre esses e outros sites continua. A Promotoria do Distrito de Manhattan também pretende monitorar as plataformas para evitar que elas voltem ao ar usando outros nomes.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
Tags: Deepfake Estados Unidos Inteligência Artificial Nova York
