- O governo dos Estados Unidos ordenou o desligamento de Claude Fable 5 e Mythos 5 após diretriz de exportação que restringe o uso por estrangeiros.
- A Anthropic está em negociações com a Casa Branca desde sexta-feira, sem acordo para reativar as ferramentas.
- Mythos 5 é apresentado pela empresa como capaz de encontrar vulnerabilidades e também de explorá-las, configurando uso dual perigoso.
- Especialistas dizem que a situação revela uma tendência maior: outras empresas devem desenvolver capacidades similares em breve, inclusive com modelos abertos.
- Analistas defendem políticas públicas mais transparentes e democráticas para lidar com avanços em IA, especialmente em cibersegurança.
Diante de uma ordem de controle de exportação dos EUA, a Anthropic suspendeu o funcionamento de Claude Fable 5 e Mythos 5 para usuários estrangeiros. A empresa negocia com a Casa Branca, sem acordo até o momento para reativar os serviços.
Desde o lançamento do Mythos em abril, a Anthropic afirma que o modelo pode encontrar vulnerabilidades de software e também explorá-las, o que representa risco em mãos inadequadas. A nota publicada pela empresa aponta esse duplo uso.
Inicialmente, versões restritas do Mythos foram liberadas a um grupo seleto do Project Glasswing. Mythos 5 ficou sob confidencialidade no grupo, enquanto Claude Fable 5 foi disponibilizado com bloqueios em biologia e cibersegurança.
No fim da semana passada, o governo dos EUA restringiu os dois modelos, ao entender que Fable 5 pode ter guardrails desativáveis, abrindo caminho para uso irrestrito das capacidades do Mythos 5. A percepção é de risco à segurança nacional.
Especialistas destacam que a situação é parte de uma tendência, com várias empresas já em posição de oferecer capacidades semelhantes em breve. Outros mercados e desenvolvedores de código aberto podem ter tecnologias parecidas em meses.
Para o setor, a orientação é buscar planos mais transparentes e democráticos de como lidar com avanços de IA em termos de cibersegurança e áreas sensíveis. A discussão envolve balanço entre inovação e mitigação de riscos.
Entre na conversa da comunidade