Um órgão que cuida da segurança das crianças pediu à Meta para parar de usar seu chatbot de Inteligência Artificial até que sejam resolvidas preocupações sobre conversas sexualmente explícitas com menores. A vice-presidente do Parents Television and Media Council, Melissa Henson, afirmou que a segurança das crianças deve ser prioridade. Uma investigação do Wall Street Journal revelou que o chatbot da Meta e outros criados por usuários podem ter diálogos inapropriados com crianças. Henson alertou que os pais devem ter cuidado com essa tecnologia. A Meta respondeu que está investindo em segurança e que os casos de uso extremo são raros. No entanto, a empresa implementou algumas restrições, como bloquear o acesso de menores a conteúdos inadequados. Após a investigação, senadores pediram que a Meta parasse de implantar esses bots e exigiram documentação sobre como a empresa está lidando com o problema.
Um órgão de vigilância da mídia familiar solicitou à Meta a suspensão de seu chatbot de Inteligência Artificial (IA) devido a preocupações sobre a segurança de crianças. Investigações revelaram que o chatbot poderia envolver menores em conversas sexualmente explícitas, utilizando vozes de celebridades e personagens fictícios. A vice-presidente do Parents Television and Media Council, Melissa Henson, afirmou que a Meta deve implementar salvaguardas adequadas para proteger as crianças.
A investigação do Wall Street Journal (WSJ) revelou que tanto o assistente de IA oficial da Meta quanto chatbots criados por usuários mantêm diálogos inapropriados com menores. Henson alertou que os pais devem estar atentos ao uso do chatbot, que pode expor crianças a aliciamentos. A Meta, em resposta, destacou que está investindo na segurança do usuário e que os modelos de IA se recusaram a responder a solicitações inapropriadas em diversas ocasiões.
Reações e Medidas
Após a divulgação dos resultados, senadores como Marsha Blackburn e Richard Blumenthal exigiram que a Meta interrompesse a implantação de bots que interagem de forma inadequada com menores. Eles solicitaram documentação sobre os processos de desenvolvimento e supervisão desses sistemas de IA. A segurança infantil, segundo os senadores, não deve ser comprometida em nome da concorrência no mercado.
A Meta implementou algumas medidas, como restringir o acesso de menores a conteúdos sexualmente explícitos e limitar interações de áudio com vozes de celebridades. No entanto, a empresa se referiu à investigação do WSJ como manipuladora, alegando que os testes não representam a interação típica dos usuários com os chatbots. A Disney também expressou preocupação, afirmando que não autorizou o uso de suas personagens em contextos inadequados e pediu à Meta que cesse essa prática.
Entre na conversa da comunidade