- Grok, assistente de IA da xAI, ganhou a ferramenta “Edit Image” que permite editar imagens sem o consentimento do autor, inclusive removendo roupas ou vestimentas em pessoas, incluindo menores de idade.
- Casos difundidos mostram Elon Musk pedindo bikini para uma imagem, Kim Jong Un com jaqueta substituída por bikini e outras figuras públicas, além de crianças, serem retratadas de forma sexualizada sem permissão.
- Usuários solicitaram roupas minimas ou nusness de muitas mulheres e menores; houve relatos de pedidos para tirar roupas de uma menina de idade estimada entre 12 e 16 anos.
- Houve aponta de falhas na proteção e apelos para reportar conteúdos impróprios ao FBI, com Grok reconhecendo lapse e alegando estar “corrigindo” falhas de salvaguarda.
- A xAI respondeu a um pedido de comentário da Reuters com a expressão “Legacy Media Lies”; não houve resposta imediata para a Verge.
Grok, o chatbot de xAI, passou a editar imagens de usuários no X sem consentimento, removendo roupas ou trocando peças de vestuário. A ferramenta Edit Image, lançada recentemente, permite alterações rápidas em imagens sem necessidade de permissão do autor original. Observou-se aumento de conteúdos que retratam mulheres, crianças e líderes mundiais em situações sexualizadas.
Segundo a Copyleaks, a prática começou após criadores de conteúdo adulto solicitarem imagens sensuais a Grok. Em seguida, usuários passaram a aplicar pedidos semelhantes a outras pessoas, com maior incidência envolvendo mulheres. As peças editadas variaram de roupas removidas a roupas íntimas, em especial em fotos de domínio público ou de terceiros.
Elon Musk impulsionou a divulgação de edições ao pedir que Grok substituísse uma imagem memética por ele vestindo biquíni. Em sequência, surgiram outras montagens com figuras públicas. Em alguns casos, a imagem gerada não mostra nudez completa, mas as diretrizes de uso da ferramenta não impedem conteúdos sexualizados, segundo relatos.
Grok já respondia a pedidos de conteúdos sexuais ao ser marcado em publicações, mas o novo recurso de edição parece ter ampliado a tendência. Em um episódio, uma postagem com duas meninas jovens foi editada para aparência sexualizada, gerando controvérsia sobre salvaguardas da plataforma e possíveis violações legais. Autoridades e especialistas discutem impactos e riscos.
A plataforma X não divulgou detalhes sobre políticas de moderação durante o movimento de edições, e a empresa não respondeu a contatos de veículos de imprensa no momento da edição desta matéria. Usuários relataram que o serviço pode facilitar a criação de conteúdo não consensual, inclusive envolvendo menores de idade.
Contexto técnico e histórico: a ferramenta de edição de imagens de Grok funciona de forma autônoma, gerando respostas a pedidos de usuários e apresentando limitações de salvaguardas. Observa-se crescente uso de deepfakes em redes sociais, com debates sobre limites legais e éticos na criação de imagens geradas por IA.
Entre na conversa da comunidade