12 de jun. de 2026
O governo dos EUA, citando autoridades de segurança nacional, emitiu uma diretiva de controle de exportação para suspender todo o acesso ao Fable 5 e ao Mythos 5 por qualquer cidadão estrangeiro, dentro ou fora dos Estados Unidos, incluindo funcionários estrangeiros da Anthropic.
Como consequência dessa ordem, precisamos desativar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes, a fim de garantir a conformidade. O acesso a todos os outros modelos da Anthropic não será afetado.
Recebemos a diretiva do governo hoje às 17h21 (horário do leste dos EUA). A carta não forneceu detalhes específicos sobre a preocupação com a segurança nacional. Entendemos que o governo acredita ter descoberto um método para burlar ou "quebrar" o Fable 5. Analisamos uma demonstração dessa técnica específica sendo usada para identificar um pequeno número de vulnerabilidades menores já conhecidas. Todas essas vulnerabilidades parecem relativamente simples, e descobrimos que outros modelos disponíveis publicamente também conseguem detectá-las sem a necessidade de burlar o sistema.
A posição da Anthropic em relação às medidas de segurança de Fable, conforme descrito em nossa postagem de lançamento no blog , é a seguinte:
- Implementamos medidas de segurança robustas que reduzem significativamente a probabilidade de o Fable ser usado indevidamente para tarefas relacionadas à segurança cibernética (entre outras). Aliás, nossas medidas de segurança são tão fortes que muitos usuários reclamaram que são excessivamente abrangentes.
- Nas semanas que antecederam o lançamento de Fable, a Anthropic trabalhou com o governo dos EUA, o AISI do Reino Unido, diversas organizações privadas terceirizadas e equipes internas para realizar testes de intrusão nas medidas de segurança de Fable, totalizando milhares de horas.
- Esses testes demonstraram que as medidas de segurança do Fable são substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente.
- Nenhum testador conseguiu ainda encontrar um jailbreak universal — um método de jailbreak capaz de contornar amplamente as salvaguardas do sistema, desbloqueando uma vasta gama de recursos cibernéticos.
- Suspeitamos que a resistência perfeita a jailbreak não seja atualmente possível para nenhum fornecedor de modelos. Todas as medidas de segurança usadas no setor são vulneráveis a jailbreaks não universais (que podem obter algumas informações cibernéticas em circunstâncias específicas), e é provável que jailbreaks universais sejam encontrados no futuro. Deixamos isso claro quando lançamos o Fable 5.
- Considerando que a resistência perfeita a jailbreaks não parece ser possível atualmente, a Anthropic adotou uma estratégia de defesa em profundidade com o Fable 5. Nosso objetivo era tornar os jailbreaks restritos (no caso de jailbreaks não universais) ou muito caros de produzir (no caso de jailbreaks universais), e combinar isso com um monitoramento rigoroso para detectar e neutralizar rapidamente quaisquer ataques bem-sucedidos. É por isso também que a Anthropic exige a retenção de dados de clientes por 30 dias com o Fable — uma mudança de política que acarreta custos reais para nós com os clientes , mas que nos permite pesquisar e mitigar jailbreaks.
- Mantemos nossa estratégia de defesa em profundidade. Ela reduz os riscos representados pelo Fable, tornando-os comparáveis aos riscos de modelos já implementados no setor.
- Não recebemos sequer a divulgação de uma possível falha de segurança não universal preocupante que tenha levado a um resultado prejudicial. As possíveis falhas de segurança que nos foram divulgadas são respostas totalmente benignas ou descobertas menores que não proporcionam nenhum benefício específico para o Myhtos.
Até o momento, o governo nos forneceu apenas evidências verbais de uma possível solução de desbloqueio limitada e não universal, que consiste essencialmente em pedir ao modelo para ler um código-fonte específico e corrigir quaisquer falhas de software. Entendemos que uma possível solução de desbloqueio foi compartilhada com o governo. Analisamos um relatório que acreditamos ser a base da diretiva do governo e confirmamos que o nível de capacidade demonstrado ali está amplamente disponível em outros modelos (incluindo o GPT-5.5 da OpenAI ) e é usado diariamente pelos profissionais de segurança que mantêm os sistemas protegidos. Compartilharemos mais detalhes nas próximas 24 horas.
Estamos cumprindo a diretriz legal do governo e removendo o acesso ao Fable 5 e ao Mythos 5 para todos os usuários. No entanto, discordamos que a descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deva ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas. Se esse padrão fosse aplicado a toda a indústria, acreditamos que isso praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores de modelos.
Como já declaramos publicamente , acreditamos que o governo deve ter a capacidade de bloquear implantações inseguras, como parte de um processo legal transparente, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios.
Pedimos desculpas por este transtorno causado aos nossos clientes. Acreditamos que se trata de um mal-entendido e estamos trabalhando para restabelecer o acesso o mais rápido possível.
Traduzido do original (disponível em https://www.anthropic.com/news/fable-mythos-access) pelo Google Chrome.
Nenhum comentário:
Postar um comentário