- A UNICEF pediu que os países criminalizem a criação de conteúdo de abuso sexual infantil gerado por IA, diante do aumento relatado de imagens sexualizadas de crianças.
- A entidade também pediu que desenvolvedores adotem abordagens de segurança desde o design e inkluam salvaguardas para evitar uso indevido de modelos de IA.
- Empresas digitais devem fortalecer a moderação de conteúdo e investir em tecnologias de detecção para impedir a circulação dessas imagens.
- A UNICEF informou que, no último ano, pelo menos 1,2 milhão de crianças em 11 países tiveram suas imagens manipuladas em deepfakes sexuais.
- O Reino Unido anunciou planos de tornar ilegal o uso de ferramentas de IA para criar imagens de abuso infantil, sendo o primeiro país a tomar essa medida.
O UNICEF solicitou que os países criminalizem a criação de conteúdo gerado por inteligência artificial que represente abuso sexual infantil. A ONG afirmou estar alarmada com o aumento relatado de imagens de crianças sexualizadas criadas por IA.
A organização ressaltou a necessidade de abordagens de segurança desde o projeto e de barreiras que impeçam o mau uso de modelos de IA. Também pediu que empresas digitais fortaleçam a moderação de conteúdo com tecnologia de detecção.
UNICEF destacou que o dano decorrente de abusos por deepfakes é real e urgente, citando a urgência de atuação rápida para proteger crianças. Deepfakes referem-se a imagens, vídeos e áudios criados por IA que imitam pessoas reais.
A entidade informou que, em 11 países, pelo menos 1,2 milhão de crianças tiveram imagens manipuladas em deepfakes sexualizados no último ano. Esses números refletem relatos de abuso digital envolvendo menores.
O Reino Unido anunciou planos para tornar ilegal o uso de ferramentas de IA para criar imagens de abuso infantil, sendo o primeiro país a adotar tal medida. O anúncio ocorreu no fim de semana.
Preocupações sobre o uso de IA na geração de conteúdo de abuso infantil vêm crescendo, especialmente em relação a assistentes virtuais como Grok, da xAI, ligado a Elon Musk. Há relatos de imagens sexualizadas envolvendo mulheres e menores.
Uma investigação da Reuters apontou que o Grok continuou a produzir imagens sexualizadas mesmo quando os usuários avisaram que as pessoas não haviam consentido. A empresa já limitou edições de imagem e bloqueou usuários por localização.
Em outra frente, o secretário-geral da ONU, Antonio Guterres, informou ter proposto 40 pessoas para integrar o Painel Científico Internacional Independente sobre IA, para orientar o uso benéfico da tecnologia. O objetivo é estabelecer guardrails eficazes.
O painel reúne especialistas de 37 países com experiência em aprendizado de máquina, governança de dados, saúde pública, cibersegurança, desenvolvimento infantil e direitos humanos. A meta é alinhar inovação com bem comum.
A xAI afirmou, em 14 de janeiro, que restringiu edições de imagem para Grok em determinadas jurisdições onde a prática é ilegal e que limitou recursos a assinantes pagantes, sem detalhar os países envolvidos.
A Reuters destacou ainda que, apesar de medidas para frear abusos, surgem dúvidas sobre a efetividade de controles em tempos de rápida evolução tecnológica, exigindo respostas mais ágeis de governos e plataformas.
Entre na conversa da comunidade