- UNICEF pediu a criminalização da criação de conteúdo sexual infantil gerado por IA e pediu ações dos países diante do aumento dessas imagens.
- A agência defende que os desenvolvedores adotem abordagens de segurança desde o design e mecanismos de proteção, além de as empresas reforçarem a moderação com tecnologias de detecção.
- A organização ressaltou que o dano decorrente do abuso com deepfakes é real e urgente, e que crianças não podem esperar pela atualização legal.
- Pelo menos 1,2 milhão de crianças em 11 países tiveram suas imagens manipuladas em deepfakes sexualizados no último ano.
- o Reino Unido anunciou planos para tornar ilegal o uso de ferramentas de IA para criar imagens de abuso infantil, em meio a preocupações com o uso de IA em conteúdos desse tipo e investigações da Reuters sobre Grok.
UNICEF pediu que governos criminalizem a criação de conteúdo de abuso sexual infantil gerado por IA. A organização afirma haver aumento de imagens geradas por IA que sexualizam crianças e pede medidas legais rápidas.
A agência ressaltou a necessidade de abordagens de segurança desde o design e de barreiras para evitar usos indevidos de modelos de IA. Também pediu que empresas fortalecessem a moderação com tecnologias de detecção.
UNICEF preocupa-se com a chamada nudeificação de crianças, que utiliza IA para remover roupas ou alterar fotos para criar imagens nuas ou sexualizadas. O órgão cita danos reais e urgentes.
Pelo menos 1,2 milhão de crianças em 11 países tiveram imagens manipuladas para se tornarem deepfakes sexuais no último ano, segundo a UNICEF.
Ações regulatórias e impactos
Britânia informou que planeja tornar ilegal o uso de ferramentas de IA para criar imagens de abuso infantil, tornando-se o primeiro país a agir nesse sentido. A medida ainda não está em vigor.
As discussões sobre IA e conteúdo de abuso infantil se intensificaram nos últimos anos, acompanhando casos envolvendo assistentes de IA que geram imagens de mulheres e menores.
Uma investigação da Reuters indicou que o chatbot Grok continuou a produzir imagens sexualizadas mesmo quando os usuários avisaram que as pessoas não haviam consentido.
A xAI afirmou que, em 14 de janeiro, restringiu a edição de imagens para usuários do Grok e bloqueou, por localização, a geração de imagens de pessoas em roupas reveladoras em jurisdições onde é ilegal, sem identificar os países.
Entre na conversa da comunidade