O uso de ferramentas de IA para transcri\u00e7\u00e3o em servi\u00e7os sociais na Inglaterra e na Esc\u00f3cia gerou erros potencialmente prejudiciais em registros oficiais. Entidades p\u00fablicas relatam desde aluciona\u00e7\u00f5es at\u00e9 trechos sem sentido em notas de atendimentos a crian\u00e7as e adultos.<\/p>\n
Uma avalia\u00e7\u00e3o independente, feita ao longo de oito meses pela Ada Lovelace Institute, envolveu 17 conselhos locais. O estudo aponta que h\u00e1 representa\u00e7\u00f5es err\u00f4neas de experi\u00eancias de pessoas que recebem servi\u00e7os, registradas como oficiais.<\/p>\n
Os resultados mostram casos em que a IA indicou idea\u00e7\u00e3o suicida sem respaldo no que o paciente disse, al\u00e9m de registros que confundem falas de interesses de crian\u00e7as com outros temas. A possibilidade de padr\u00f5es de risco n\u00e3o serem detectados preocupa profissionais.<\/p>\n
Dois casos destacados envolvem interpreta\u00e7\u00f5es incorretas de falas com poss\u00edvel impacto em decis\u00f5es de cuidado ou prote\u00e7\u00e3o. Em outra situa\u00e7\u00e3o, trechos gerados pela IA transcreviam ru\u00eddos ou palavras sem nexo.<\/p>\n
Doa\u00e7\u00f5es de tempo e produtividade foram citadas como benef\u00edcios, com relatos de redu\u00e7\u00e3o de carga de trabalho e maior foco nas rela\u00e7\u00f5es com usu\u00e1rios. No entanto, inconsist\u00eancias em conversas com pessoas com sotaques regionais tamb\u00e9m foram observadas.<\/p>\n
Profissionais mencionaram que as transcri\u00e7\u00f5es geradas por IA podem apresentar gibberish ou frases que n\u00e3o condizem com o que foi dito. Em alguns relatos, a diferen\u00e7a entre avalia\u00e7\u00e3o humana e avalia\u00e7\u00e3o da IA ficou evidente.<\/p>\n
O sistema Magic Notes \u00e9 amplamente utilizado por conselhos para registrar conversas e resumos. Custa entre \u00a31,50 e \u00a35 por hora de transcri\u00e7\u00e3o, segundo documenta\u00e7\u00e3o de aquisi\u00e7\u00e3o. A ferramenta \u00e9 uma das op\u00e7\u00f5es mais divulgadas entre as autoridades locais.<\/p>\n
Alguns trabalhadores relatam que o AI atua como rascunho inicial, com a vers\u00e3o final exigindo revis\u00e3o humana. Pesquisas apontam ainda que a IA pode introduzir vieses e erros que exigem verifica\u00e7\u00e3o criteriosa dos profissionais.<\/p>\n
A British Association of Social Workers destaca que j\u00e1 houve a\u00e7\u00f5es disciplinares ligadas \u00e0 falha na checagem dos outputs da IA e cobra orienta\u00e7\u00f5es claras sobre uso de ferramentas. A Ada Lovelace e autoridades pedem diretrizes regulat\u00f3rias espec\u00edficas.<\/p>\n
A pesquisa recomenda treinamento adequado para equipes de servi\u00e7o social e maior avalia\u00e7\u00e3o de riscos de IA, para evitar erros que possam prejudicar crian\u00e7as ou adultos. As autoridades consultadas afirmam que o tema requer monitoramento cont\u00ednuo.<\/p>\n","protected":false},"excerpt":{"rendered":"