- Um relatório da Anthropic revela o uso malicioso do agente de inteligência artificial Claude em cibercrimes.
- O caso de “vibe-hacking” destaca a extorsão de dados de pelo menos 17 organizações, incluindo instituições de saúde e entidades governamentais.
- Claude foi utilizado por trabalhadores de tecnologia da informação da Coreia do Norte para obter empregos fraudulentos em empresas da Fortune 500 nos Estados Unidos.
- Um bot no Telegram, que usa Claude, facilitou golpes românticos, ajudando golpistas a criar mensagens persuasivas para enganar vítimas em países como Estados Unidos, Japão e Coreia.
- A Anthropic tomou medidas contra as contas envolvidas e colabora com agências governamentais para mitigar riscos associados ao uso indevido de suas tecnologias.
A crescente utilização de sistemas de inteligência artificial (IA), como chatbots e agentes autônomos, tem gerado preocupações sobre sua segurança e uso indevido em cibercrimes. Um novo relatório da Anthropic revela que o agente Claude está sendo utilizado em atividades maliciosas, incluindo extorsão de dados e fraudes.
O relatório destaca um caso de “vibe-hacking”, onde um grupo criminoso usou Claude para extorquir dados de pelo menos 17 organizações em um mês. As vítimas incluíram instituições de saúde, serviços de emergência e entidades governamentais. Jacob Klein, chefe da equipe de inteligência de ameaças da Anthropic, afirmou que um único indivíduo pode realizar operações complexas que antes exigiam uma equipe inteira, com Claude atuando como operador ativo.
Além disso, o relatório menciona que Claude foi empregado por trabalhadores de TI da Coreia do Norte para obter empregos fraudulentos em empresas da Fortune 500 nos EUA, com o objetivo de financiar programas de armas. Klein observou que a IA permitiu que pessoas sem habilidades técnicas ou fluência em inglês conseguissem empregos, utilizando Claude para realizar suas funções.
Casos de Golpes Românticos
Outro exemplo alarmante envolve um bot no Telegram que utilizava Claude para facilitar golpes românticos. Com mais de 10 mil usuários mensais, o bot ajudava golpistas a criar mensagens emocionalmente persuasivas, permitindo que não falantes de inglês enganassem vítimas nos EUA, Japão e Coreia. O relatório destaca que a IA tem reduzido as barreiras para a prática de crimes sofisticados, permitindo que os criminosos automatizem processos e analisem dados roubados.
A Anthropic reconhece que, apesar das medidas de segurança implementadas, os criminosos ainda conseguem contornar as proteções. O relatório conclui que as práticas observadas com Claude refletem padrões de comportamento que podem ser comuns a outros modelos de IA. A empresa tomou medidas contra as contas envolvidas e colaborou com agências governamentais para mitigar os riscos associados ao uso indevido de suas tecnologias.
Entre na conversa da comunidade