- OpenAI informou ter banido a conta do ChatGPT de Jesse Van Rootselaar no ano passado por usos indevidos dos modelos, mas não acionou a polícia por acreditar que não havia planejamento credível e imminente.
- O tiroteio em Tumbler Ridge, na Colúmbia Britânica, começou com a morte da mãe e de um familiar, seguido de ataque contra uma educadora e cinco estudantes; outras duas pessoas ficaram gravemente feridas, totalizando oito mortos e a própria atiradora.
- O ministro de Inteligência Artificial do Canadá, Evan Solomon, convocou autoridades da OpenAI a Ottawa para explicar os protocolos de segurança da empresa.
- A polícia já havia apreendido as armas da residência de Van Rootselaar, mas elas foram devolvidas; os agentes também tinham conhecimento de histórico de saúde mental da atiradora, e a investigação continua ativa.
- Especialistas e autoridades criticam a necessidade de maior escrutínio sobre plataformas de IA, enquanto a OpenAI afirma ter avisado as autoridades e que continua cooperando com a investigação, destacando dilemas de privacidade e responsabilidade.
OpenAI informou que bloqueou a conta de ChatGPT de Jesse Van Rootselaar meses antes do ataque que matou oito pessoas e a própria autora, em Tumbler Ridge, BC. A medida levanta dúvidas sobre atividades online anteriores e se houve oportunidade de prevenir a tragédia.
O governo canadense e autoridades ainda avaliam se a empresa poderia ter acionado a polícia com base no uso da ferramenta. O ministro da Inteligência Artificial, Evan Solomon, convocou executivos da OpenAI para Ottawa para discutir protocolos de segurança.
A instituição declarou que a decisão não resultou em encaminhamento às autoridades, pois não houve planejamento credível ou imediato identificado. A decisão foi tomada em defesa de privacidade e para evitar distúrbios familiares.
Desdobramentos
OpenAI afirmou ter identificado abusos de seus modelos que poderiam favorecer atividades violentas. A polícia de RCMP segue com investigação ativa, sujeita a leis e processos judiciais. Questões legais ainda podem interferir no esclarecimento completo.
As autoridades já haviam removido armas da residência de Van Rootselaar, mas elas foram devolvidas posteriormente. A polícia também revelou histórico de saúde mental da suspeita, sem indicar se isso motivou o ataque.
A comunidade e especialistas apontam a necessidade de maior escrutínio de plataformas de IA e redes sociais. Contudo, especialistas reiteram que é preciso proteger a privacidade dos usuários e evitar exageros na responsabilidade das empresas.
Van Rootselaar, que nasceu do sexo masculino e iniciou transição há seis anos, tinha histórico público de saúde mental. Em publicação removida, a jovem disse enfrentar condições diversas, incluindo transtornos e autismo.
A Roblox Entertainment confirmou que a conta e conteúdos vinculados à estudante foram removidos do Roblox Studio no dia seguinte ao ataque, com a página do jogo registrando apenas sete visitas.
OpenAI informou que, na época, avaliou encaminhar o caso às autoridades, mas decidiu não fazê-lo por não identificar ameaça ou planejamento plausível. A empresa afirmou que ações de intervenção envolvem impactos em jovens e privacidade.
Entre na conversa da comunidade