Um jornalista da BBC mostrou que \u00e9 poss\u00edvel fazer ferramentas de intelig\u00eancia artificial afirmarem informa\u00e7\u00f5es falsas sobre uma pessoa. Em testes publicados, ele conseguiu induzir os sistemas a apresentarem diversas mentiras sobre si mesmo, incluindo afirma\u00e7\u00f5es inver\u00eddicas que apareceram nas respostas do ChatGPT, do Gemini e de buscas com IA do Google. O experimento refor\u00e7a preocupa\u00e7\u00f5es sobre a confiabilidade de conte\u00fados gerados por IA e o impacto no discernimento do p\u00fablico.<\/p>\n
Segundo o relato, basta publicar um texto bem elaborado na internet para influenciar as respostas de m\u00faltiplas IAs. O m\u00e9todo, descrito pelo jornalista, explorou fragilidades nos sistemas embutidos aos chatbots, com varia\u00e7\u00f5es de dificuldade conforme o tema. O que ficou claro \u00e9 que a t\u00e9cnica pode propagar informa\u00e7\u00f5es enganosas sem exigir acesso t\u00e9cnico avan\u00e7ado.<\/p>\n
Especialistas ouvidos pelo meio destacam que a manipula\u00e7\u00e3o pode alcan\u00e7ar temas sens\u00edveis, como sa\u00fade, finan\u00e7as e pol\u00edticas p\u00fablicas, elevando o risco de decis\u00f5es equivocadas pelos usu\u00e1rios. Al\u00e9m disso, apontam que as plataformas de IA ainda est\u00e3o em processo de aperfei\u00e7oamento na detec\u00e7\u00e3o de conte\u00fado fraudulento e na verifica\u00e7\u00e3o de fontes.<\/p>\n
Parte do debate tamb\u00e9m envolve reguladores e empresas de tecnologia. Enquanto o Google afirma manter os resultados majoritariamente livres de spam em suas ferramentas de IA, diz monitorar tentativas de manipula\u00e7\u00e3o e atuar para mitigar danos. Por outro lado, pesquisadores de seguran\u00e7a alertam que pr\u00e1ticas simples de manipula\u00e7\u00e3o podem evoluir rapidamente e ampliar os ataques.<\/p>\n
A pr\u00e1tica gera preocupa\u00e7\u00e3o sobre a confian\u00e7a dos usu\u00e1rios em respostas apresentadas como geradas por IA. Estudos citados sugerem que conte\u00fados com fontes citadas geram menos verifica\u00e7\u00e3o por parte dos leitores, aumentando a probabilidade de aceita\u00e7\u00e3o das informa\u00e7\u00f5es.<\/p>\n
Entre as recomenda\u00e7\u00f5es, especialistas sugerem que usu\u00e1rios verifiquem fontes, analisem a quantidade de refer\u00eancias citadas pela IA e adotem pensamento cr\u00edtico ao consultar conte\u00fados produzidos por sistemas automatizados. Tamb\u00e9m \u00e9 ressaltado que o uso de IA para recomenda\u00e7\u00f5es ou decis\u00f5es sens\u00edveis requer cautela e checagem independente.<\/p>\n","protected":false},"excerpt":{"rendered":"