- A Mind, organização beneficente que atua na Inglaterra e no País de Gales, abriu uma comissão de um ano para investigar a relação entre IA e saúde mental e avaliar riscos e salvaguardas.
- a investigação global reunirá médicos, profissionais de saúde, pessoas com experiência, provedores, formuladores de políticas e empresas de tecnologia para moldar um ecossistema digital mais seguro.
- a decisão ocorre após o Guardian divulgar que as AI Overviews do Google forneciam orientações médicas incorretas e potencialmente perigosas.
- as AI Overviews aparecem para cerca de 2 bilhões de pessoas por mês e, em alguns casos, substituíram informações de fontes confiáveis, incluindo conteúdos de saúde.
- a Mind ressalta que a IA tem potencial de ampliar o acesso a apoio em saúde mental, desde que desenvolvida com salvaguardas proporcionais aos riscos e participação de quem tem experiência no tema.
Mind lançou uma investigação sobre IA e saúde mental, com duração de um ano, após a apuração do Guardian sobre o serviço Google AI Overviews apresentar orientações médicas potencialmente perigosas.
A instituição, que atua em Inglaterra e País de Gales, reunirá médicos, profissionais de saúde, pessoas com experiência, gestores, formuladores de políticas e empresas de tecnologia para mapear riscos, salvaguardas e regulamentação.
O objetivo é moldar um ecossistema digital de saúde mental mais seguro, com padrões e salvaguardas proporcionais aos riscos da IA, à medida que a tecnologia ganha influência sobre milhões de pessoas.
Contexto
A apuração mostrou que resumos gerados por IA do Google, exibidos acima de resultados tradicionais, podiam veicular informações de saúde falsas ou enganosas, com alcance mensal de cerca de 2 bilhões de usuários.
Após a reportagem, o Google removeu os Overviews para algumas buscas médicas, mas não para todas. A chefe executiva da Mind afirmou que orientações mentalmente incorretas continuavam presentes, potencialmente perigosas.
A Mind destacou que a IA tem potencial para ampliar acesso a apoio, desde que desenvolvida com salvaguardas proporcionais aos riscos, especialmente para grupos vulneráveis.
Reações e próximos passos
Rosie Weatherley, responsável por conteúdo informativo na Mind, disse que a busca por saúde mental no Google já era aceitável, mas os Overviews substituíram a riqueza de conteúdos por resumos clínicos aparentes.
Ela explicou que o formato reduz a clareza sobre a confiabilidade da fonte e o nível de segurança, o que pode afastar usuários de buscar ajuda adequada.
Um porta-voz do Google afirmou que os Overviews são úteis e confiáveis na maioria dos casos, citando que a empresa busca exibir contatos de crise locais quando aplicável.
Entre na conversa da comunidade