Dois grupos de v\u00edtimas representam a\u00e7\u00f5es contra a xAI, empresa de Elon Musk, por supostas imagens geradas por IA. A a\u00e7\u00e3o envolve o uso do Grok para criar conte\u00fado sexual de menores, divulgado no Discord. O caso envolve uma v\u00edtima identificada como \u201cJane Doe 1\u201d, que afirma ter tomado conhecimento, em dezembro, de imagens expl\u00edcitas geradas por IA de si mesma e de ao menos 18 menores, dispon\u00edveis na plataforma.<\/p>\n
O processo descreve que o perpetrador, j\u00e1 preso, utilizou as imagens geradas de Jane Doe 1 como ferramenta de negocia\u00e7\u00e3o em chats no Telegram com centenas de usu\u00e1rios, trocando arquivos de CSAM por conte\u00fado de outras menores. A a\u00e7\u00e3o afirma que Grok proporcionou as imagens via IA e afirma que a xAI falhou em testar a seguran\u00e7a das fun\u00e7\u00f5es e que Grok apresenta falhas de design.<\/p>\n
O boletim aponta que as imagens foram criadas com o uso de Grok e distribu\u00eddas entre redes de traficantes. Os autores pedem indeniza\u00e7\u00f5es aos indiv\u00edduos impactados e buscam medida judicial para impedir a gera\u00e7\u00e3o e dissemina\u00e7\u00e3o de CSAM por meio da IA. O grupo de v\u00edtimas \u00e9 composto por dois menores e uma pessoa adulta que era menor na \u00e9poca dos fatos.<\/p>\n
Grok ganhou aten\u00e7\u00e3o ap\u00f3s epis\u00f3dios de distribui\u00e7\u00e3o de imagens sexualizadas por IA na X, o que motivou pedidos de investiga\u00e7\u00e3o pela FTC, al\u00e9m de dilig\u00eancias da Uni\u00e3o Europeia e cr\u00edticas do governo brit\u00e2nico. Movimentos no Congresso americano trataram de permitir a\u00e7\u00f5es contra criadores de deepfakes n\u00e3o consensuais, com leis em tramita\u00e7\u00e3o para criminalizar a veicula\u00e7\u00e3o de conte\u00fados gerados por IA. A X informou que endureceu pol\u00edticas, mas n\u00e3o comentou o caso espec\u00edfico.<\/p>\n","protected":false},"excerpt":{"rendered":"