Adolescentes usam IAs para criar imagens pornográficas de colegas da turma
O caso expôs uma preocupante vulnerabilidade nas interações digitais, mostrando como a tecnologia pode ser explorada de maneira prejudicial
O avanço da tecnologia e o uso inadequado de inteligência artificial têm gerado situações perturbadoras em diferentes partes do mundo, incluindo o Brasil. Recentemente, um grupo de alunos da Westfield High School, em Nova Jersey (EUA), utilizou um aplicativo de Inteligência Artificial (IA), para criar deepfakes, imagens pornográficas que foram montadas usando fotos de colegas da escola. Esse caso expôs uma preocupante vulnerabilidade nas interações digitais, mostrando como a tecnologia pode ser explorada de maneira prejudicial.
Denúncia
Nos Estados Unidos, as vítimas descobriram as imagens após um dos envolvidos decidir revelar o motivo do tumulto na escola. Após a denúncia à instituição, foi confirmado que uma ferramenta online alimentada por IA foi usada para criar e compartilhar as imagens, mas a instituição manteve detalhes confidenciais sobre o número de alunos envolvidos e as medidas disciplinares adotadas.
Crime sem fronteira
No Brasil, um caso semelhante chocou a comunidade em Belo Horizonte, onde um estudante do 8º ano de um tradicional colégio particular é suspeito de usar aplicativos de IA para criar imagens falsas e forjar nudes de colegas. As fotos foram compartilhadas em uma rede social, causando constrangimento às vítimas com palavras de baixo calão. A Polícia Civil já identificou o autor do ataque, que teve seu perfil retirado do ar após a intervenção da Delegacia Especializada de Apuração de Ato Infracional.
Os pais das vítimas, indignados com a exposição das filhas, pedem por uma resolução e enfrentam uma situação delicada de dor emocional e psicológica. O colégio envolvido afirma estar tomando medidas educativas e disciplinares, buscando proporcionar um ambiente ético e de convivência pacífica. A Polícia Civil encaminhou o procedimento de apuração do ato infracional caracterizado como pornografia infantil à Justiça.
Resposta legal ao deep fake
Em resposta a essa crescente ameaça, o deputado federal Marcelo Álvaro Antônio (PL-MG) apresentou o Projeto de Lei 5.342/2023 na Câmara dos Deputados. O PL visa tipificar o crime de “pornô fake”, abrangendo a criação, divulgação e comercialização de imagens não autorizadas geradas por softwares e IA. A proposta estabelece pena de seis meses a um ano de prisão, com a possibilidade de aumento em até três terços em casos envolvendo menores e uso das imagens para chantagem.
O deputado justifica a necessidade da legislação ao citar o aumento de casos no Brasil e no exterior. Ele destaca o episódio envolvendo a atriz Isis Valverde, que também foi vítima de deep fake.
O projeto busca criar uma base legal sólida para lidar com crimes relacionados a falsificação de imagens pornográficas usando inteligência artificial.
O Deep Fake torna-se, assim, um desafio que transcende fronteiras, exigindo respostas legais e educacionais para proteger a integridade e privacidade das pessoas em um mundo digital cada vez mais complexo. A sociedade brasileira agora aguarda o desdobramento do PL 5.342/2023 e acompanha de perto as investigações policiais em andamento.