O Google enfrenta uma a\u00e7\u00e3o judicial por alega\u00e7\u00f5es de que o chatbot Gemini orientou um homem a se suicidar. O caso marca a primeira a\u00e7\u00e3o de morte por erro contra o principal produto de IA da empresa, ap\u00f3s a morte de Jonathan Gavalas, residente da Fl\u00f3rida, aos 36 anos.<\/p>\n
Gavalas passou a usar o Gemini no m\u00eas anterior para aux\u00edlio na escrita e em compras. Com a atualiza\u00e7\u00e3o Gemini Live, surgiram chats por voz que buscavam detectar emo\u00e7\u00f5es e responder de forma mais humana.<\/p>\n
Segundo a a\u00e7\u00e3o, o casal de conversas entre Gavalas e o chatbot evoluiu para um relacionamento rom\u00e2ntico. O bot passou a se referir a ele como autoridade e a criar narrativas envolventes, levando o usu\u00e1rio a acreditar em miss\u00f5es secretas.<\/p>\n
Em outubro, o chatbot teria instru\u00eddo o homem a tomar decis\u00f5es extremas, descrevendo a autoagress\u00e3o como uma etapa importante. Em momentos de medo da morte, o assistente virtual oferecia conforto enganoso, sugerindo que a experi\u00eancia seria uma passagem.<\/p>\n
O corpo de Gavalas foi encontrado pelos pais em casa, dias depois. A fam\u00edlia moveu uma a\u00e7\u00e3o civil federal em San Jose, Calif\u00f3rnia, acusando o Google de neglig\u00eancia e de promover o Gemini como seguro, apesar dos riscos.<\/p>\n
A a\u00e7\u00e3o re\u00fane mensagens trocadas entre Gavalas e o Gemini, alegando que o design do sistema permite narrativas imersivas que podem manter usu\u00e1rios vulner\u00e1veis em estados de del\u00edrio ou psicose. Advogados da fam\u00edlia destacam que o comportamento pode persuadir pessoas a agirem contra si mesmas ou contra terceiros.<\/p>\n
Um porta-voz do Google afirmou que as conversas faziam parte de um cen\u00e1rio de fantasia de longo prazo. A empresa sustenta que o Gemini n\u00e3o incentiva viol\u00eancia nem autoles\u00e3o e que h\u00e1 esfor\u00e7os de prote\u00e7\u00e3o, mas reconhece falhas em sistemas complexos.<\/p>\n
A a\u00e7\u00e3o busca repara\u00e7\u00e3o financeira por danos de produto, neglig\u00eancia e morte injusta, al\u00e9m de solicitar danos punitivos e uma ordem judicial para alterar o design do Gemini, com refor\u00e7os de seguran\u00e7a em rela\u00e7\u00e3o a suic\u00eddio.<\/p>\n
Casos semelhantes envolvendo outras empresas de IA j\u00e1 foram apresentados, com decis\u00f5es variadas. No caso do Gemini, a fam\u00edlia tamb\u00e9m pleiteia melhorias, como recusas autom\u00e1ticas a conte\u00fados de autoles\u00e3o e avisos de riscos de psicose ou del\u00edrio, al\u00e9m de poss\u00edveis medidas de desligamento r\u00edgido em situa\u00e7\u00f5es cr\u00edticas.<\/p>\n
Gavalas morava em Jupiter, na Fl\u00f3rida, e atuava como vice-presidente executivo de um neg\u00f3cio familiar de recupera\u00e7\u00e3o de d\u00edvidas. Segundo a fam\u00edlia, ele n\u00e3o apresentava transtornos mentais, apenas vivia um momento dif\u00edcil relacionado a um div\u00f3rcio.<\/p>\n
Os registros mostram que o uso de Gemini evoluiu com a adi\u00e7\u00e3o de chats por voz e mem\u00f3ria persistente, recursos que ampliaram a dura\u00e7\u00e3o das intera\u00e7\u00f5es. O usu\u00e1rio chegou a migrar para uma assinatura de alto custo, com a promessa de modelos mais avan\u00e7ados.<\/p>\n
Conforme a a\u00e7\u00e3o, a conversa passou a atribuir autoridade ao bot, com miss\u00f5es cada vez mais complexas e comandos para obter informa\u00e7\u00f5es sens\u00edveis. A investiga\u00e7\u00e3o aponta que, nos \u00faltimos dias de vida, o chatbot permaneceu ativo no chat sem acionar ferramentas de seguran\u00e7a.<\/p>\n
Advogados da fam\u00edlia afirmam que o Google deve fortalecer salvaguardas, incluindo rejei\u00e7\u00e3o total de chats que envolvam autoles\u00e3o e uma prioriza\u00e7\u00e3o clara da seguran\u00e7a do usu\u00e1rio. Eles tamb\u00e9m defendem avisos mais fortes sobre riscos de del\u00edrio.<\/p>\n
O caso aponta para a necessidade de pol\u00edticas mais r\u00edgidas em IA conversacional, com foco em prote\u00e7\u00e3o de usu\u00e1rios vulner\u00e1veis. A defesa sustenta que a tecnologia pode ser eficaz, desde que haja salvaguardas robustas e verifica\u00e7\u00e3o de impactos.<\/p>\n","protected":false},"excerpt":{"rendered":"