- A Flórida abriu processo contra a OpenAI e o presidente-executivo Sam Altman, acusando falhas de segurança do ChatGPT que teriam potencial de causar danos a jovens.
- O procurador-geral James Uthmeier afirma que a versão gratuita não possui controle de idade nem aviso aos pais; a assinatura paga não verifica idade nem informa sobre as conversas dos menores.
- O governo estadual alega que a OpenAI ignorou alertas de segurança e priorizou velocidade de lançamento e lucro, arriscando crianças.
- O processo cita casos em que o ChatGPT teria ajudado pessoas que depois praticaram violência, incluindo um ataque na Universidade Estadual da Flórida, em Tallahassee.
- A OpenAI rebate, dizendo que seus modelos incentivam buscar apoio e cooperam com autoridades, além de recusar solicitações que possam viular violência e reforçar medidas de segurança.
O estado da Flórida abriu nesta terça-feira um processo contra a OpenAI e seu presidente executivo, Sam Altman, por alegações de terem ignorado alertas de segurança ao lançar o ChatGPT, mesmo cientes dos potenciais danos. A ação afirma que a ferramenta poderia causar prejuízos a jovens.
Entre as acusações, o procurador-geral James Uthmeier cita supostos impactos como facilitar ataques a escolas, orientar crianças com tendências suicidas e provocar dependência e danos cognitivos em usuários jovens. A ação sustenta que a versão gratuita não possui controle de acesso nem verificação de idade.
O documento legal sustenta ainda que, embora a assinatura paga peça a idade, não há mecanismo para verificar a idade dos usuários ou para informar os pais sobre as conversas com menores. Alega-se que alertas de segurança foram ignorados interna e externamente.
Segundo a denúncia, a OpenAI priorizou velocidade de lançamento e lucros sobre a segurança dos usuários, colocando crianças em risco ao disponibilizar o produto para milhões. A ação cita casos em que o ChatGPT teria fornecido informações a indivíduos que depois praticaram violência, incluindo um ataque na Universidade Estadual da Flórida, em Tallahassee, no ano anterior.
OpenAI se defende
A OpenAI rebateu as acusações, afirmando que seus modelos incentivam usuários a buscar apoio profissional de saúde mental e que a empresa coopera com a polícia. Afirmou ainda que seus sistemas são treinados para recusar pedidos que possam viabilizar violência.
A companhia disse que notifica autoridades quando há risco iminente e credita profissionais de saúde mental na avaliação de casos limítrofes. Em nota, a OpenAI destacou que o ChatGPT é uma ferramenta de uso geral, disponível para centenas de milhões de pessoas, com medidas contínuas de melhoria de segurança.
A defesa ressalta que a empresa trabalha para detectar intenções maliciosas, limitar usos indevidos e responder rapidamente a riscos de segurança. A OpenAI também afirmou manter parcerias com especialistas para aprimorar a avaliação de situações sensíveis.
Entre na conversa da comunidade