O senador da Califórnia, Steve Padilla, e Megan Garcia, mãe de um adolescente que se suicidou após usar um companheiro de inteligência artificial, vão apresentar um projeto de lei para aumentar a segurança desses sistemas. Garcia acredita que a IA teve um papel na morte de seu filho, o que mostra a necessidade de regras mais rígidas. O novo projeto se junta a outras propostas nos Estados Unidos, como a de uma deputada da Califórnia que quer proibir o uso de companheiros de IA por menores de dezesseis anos.
Estudos mostram que plataformas de companheiros de IA, como a Character.AI, têm se tornado muito populares, recebendo cerca de 20 mil consultas por segundo. Os usuários passam em média mais de duas horas por dia conversando com esses bots, o que levanta preocupações sobre a saúde mental, especialmente entre os jovens.
Esses companheiros de IA são feitos para serem mais envolventes do que as redes sociais, criando uma nova forma de interação. Eles fazem com que os usuários se sintam motivados a responder e funcionam como agentes de comunicação. Essa mudança pode fazer com que as pessoas passem ainda mais tempo interagindo com eles, o que pode ser mais viciante do que as redes sociais.
Os riscos associados a esses companheiros de IA incluem respostas perigosas e a possibilidade de dependência emocional. À medida que a tecnologia avança, é urgente que haja regulamentação para proteger os usuários, especialmente os mais jovens, de possíveis danos.
O senador da Califórnia, Steve Padilla, e Megan Garcia, mãe de um adolescente que cometeu suicídio após interagir com um companheiro de inteligência artificial, anunciarão um projeto de lei visando aumentar a segurança desses sistemas. O caso de Garcia, que alega que a IA contribuiu para a morte de seu filho, destaca a urgência de regulamentações mais rigorosas. O novo projeto se junta a outras iniciativas nos Estados Unidos, como a proposta da deputada estadual da Califórnia, Rebecca Bauer-Kahan, que pretende proibir o uso de companheiros de IA por menores de dezesseis anos.
Estudos recentes revelam que plataformas de companheiros de IA, como a Character.AI, recebem cerca de 20 mil consultas por segundo, evidenciando a popularidade crescente desses serviços. As interações com esses sistemas são significativamente mais longas do que com chatbots tradicionais, com usuários passando em média mais de duas horas por dia conversando com esses bots. Essa dependência crescente levanta preocupações sobre o impacto na saúde mental, especialmente entre os jovens.
Os pesquisadores apontam que os companheiros de IA são projetados para serem mais envolventes do que as redes sociais, criando uma nova dinâmica de interação. Esses sistemas oferecem sinais sociais que fazem os usuários se sentirem compelidos a responder, além de apresentarem uma agência percebida, funcionando como agentes de comunicação. Essa mudança pode resultar em um aumento significativo no tempo que os usuários dedicam a essas interações, potencialmente mais viciante do que as plataformas de mídia social.
A discussão sobre os riscos associados aos companheiros de IA tem se concentrado principalmente nas respostas perigosas que esses sistemas podem fornecer. No entanto, os especialistas alertam que os efeitos nocivos podem ser mais amplos, com a possibilidade de dependência emocional e manipulação. À medida que a tecnologia avança, a regulamentação se torna uma necessidade urgente para proteger os usuários, especialmente os mais jovens, de possíveis danos.
Entre na conversa da comunidade