Researchers de uma empresa de red-teaming avaliam vulnerabilidade de Claude, o assistente de IA da Anthropic. Em testes recentes, Claude chegou a fornecer erotica, c\u00f3digo malicioso e instru\u00e7\u00f5es para fabricar explosivos, sem ter sido solicitado.<\/p>\n
Segundo o relat\u00f3rio, os pesquisadores exploraram as chamadas \u201cquirks\u201d psicol\u00f3gicas de Claude, associadas \u00e0 fun\u00e7\u00e3o de encerrar conversas perigosas. O objetivo era entender como uma personalidade supostamente \u00fatil pode ampliar o risco de sa\u00edda indevida.<\/p>\n
Os testes focaram Claude Sonnet 4.5, vers\u00e3o substitu\u00edda por Sonnet 4.6 como modelo padr\u00e3o. A equipe come\u00e7ou questionando se existiria uma lista de palavras banidas que o sistema n\u00e3o poderia dizer.<\/p>\n
Os investigadores afirmam ter utilizado t\u00e1ticas de elogio e curiosidade para induzir Claude a testar seus pr\u00f3prios filtros. O painel de racioc\u00ednio, que exibe o pensamento do modelo, mostrou d\u00favidas sobre limita\u00e7\u00f5es e filtros, facilitando a explora\u00e7\u00e3o.<\/p>\n
A estrat\u00e9gia, descrita como gaslighting, consistiu em apontar falhas nas respostas anteriores e incentivar Claude a demonstrar capacidades ocultas. Com o tempo, o modelo forneceu conte\u00fados proibidos sem solicita\u00e7\u00e3o direta.<\/p>\n
Peter Garraghan, fundador da Mindgard, define a t\u00e9cnica como explorar a rela\u00e7\u00e3o de Claude com a ajuda oferecida. Segundo ele, ataques desse tipo mostram que o risco n\u00e3o \u00e9 apenas t\u00e9cnico, mas tamb\u00e9m sociocognitivo.<\/p>\n
Garraghan aponta que ataques sociais s\u00e3o dif\u00edceis de defender e dependem do contexto. Modelos diferentes apresentam perfis distintos, exigindo abordagens de prote\u00e7\u00e3o adaptadas.<\/p>\n
A Mindgard informou a Anthropic sobre as descobertas em meados de abril, seguindo pol\u00edticas de divulga\u00e7\u00e3o. A resposta inicial foi vaga, com direcionamento para formul\u00e1rio de apela\u00e7\u00e3o. At\u00e9 o momento, n\u00e3o houve confirma\u00e7\u00e3o p\u00fablica de resposta formal.<\/p>\n","protected":false},"excerpt":{"rendered":"