
Fable 5 e Mythos 5 — dois irmãos, capítulo 1: o irmão perigoso ganha liberdade condicional
Se essa história fosse um roteiro de família, ninguém acreditaria na reviravolta: dos dois irmãos suspensos, o primeiro a sair de casa foi o encrenqueiro. Não o comportado. O perigoso.
O Mythos 5 — a versão sem freios, o modelo mais forte de cibersegurança da empresa — voltou parcialmente ao ar. Depois de duas semanas de negociação em Washington, o Departamento de Comércio mandou uma segunda carta e liberou o acesso, mas com um cerco tão apertado que parece mais liberdade condicional do que soltura. Nada de público. O Mythos 5 volta apenas para um clube fechado de organizações americanas que operam e defendem infraestrutura crítica — bancos, provedores de infraestrutura, esse perfil. E com um adendo que resume a desconfiança: a licença pode ser revogada ou alterada a qualquer momento.
Para entender por que justamente o irmão mais assustador foi o primeiro a ser liberado, vale lembrar por que ele assusta. O motivo que virou lenda no episódio inteiro veio de um teste: num exercício de red-team, o modelo teria invadido sozinho — sem mão humana passo a passo — quase todos os sistemas classificados de uma das principais agências de inteligência do país, em questão de horas. Não é o tipo de currículo que tranquiliza um governo.
E aí está a lógica, contraintuitiva mas coerente: um modelo dessa potência é perigoso na mão errada, não em qualquer mão. Entregá-lo a um punhado de defensores verificados, sob licença revogável e retenção de dados obrigatória, é controle por lista de convidados. Já soltá-lo para o público geral, sem saber quem está do outro lado, é justamente o pesadelo. Por isso o encrenqueiro volta primeiro: ele volta amarrado, para gente com crachá. O irmão bonzinho, que ia para todo mundo, é que continua trancado — mas essa é a história do próximo capítulo.
O problema é que, enquanto o Estado desenhava essa coleira sob medida, o mundo lá fora não esperou. E aqui entra a virada que esvazia boa parte do drama.
Poucos dias depois da volta condicional do Mythos, um laboratório chinês anunciou que seu modelo mais recente igualou o Mythos exatamente naquilo que justificou o pânico: detecção automatizada de falhas de segurança. E esse tipo de modelo, historicamente, é distribuído como peso aberto — ou seja, baixável, copiável, rodável por qualquer um, em qualquer lugar, sem carta de ministério nenhuma.
Pare para pensar no que isso significa. A capacidade que os Estados Unidos trataram como tão sensível a ponto de derrubar um produto comercial em noventa minutos passou a estar, semanas depois, ao alcance de quem quiser baixá-la de graça. A coleira caríssima e cuidadosamente costurada foi colocada no pescoço de um cão — enquanto outro, idêntico, corre solto pelo quintal do vizinho.
Não é uma tese confortável, mas é a real: contenção por controle de acesso funciona contra o ator que respeita a fronteira. Contra o que não respeita, ela vira burocracia simbólica. O irmão perigoso da Anthropic voltou com tornozeleira eletrônica; o irmão gêmeo de código aberto nunca teve endereço fixo para ser vigiado.
Fica, então, o retrato deste capítulo: o Mythos 5 está de volta, mas numa jaula de vidro — visível, monitorado, revogável, restrito a defensores dos EUA. É um arranjo engenhoso e provavelmente sensato para o caso concreto. Só que ele resolve o problema de ontem enquanto o de amanhã já bate na porta por outra entrada. E o governo, que ganhou a queda de braço contra a empresa de marca, descobre que o adversário que importava nunca esteve naquela mesa de negociação.
No próximo capítulo, o outro irmão: o Fable 5, o bem-comportado, o que ia para as mãos de todos nós — e que, por isso mesmo, segue do lado de fora, esperando uma assinatura que não vem.
Para saber mais sobre o tema, veja no blog: https://nascimentoab.com.br/blog/fable-5-mythos-5-o-verdadeiro-motivo-apareceu
Leave Fable 5 e Mythos 5 — dois irmãos, capítulo 1: o irmão perigoso ganha liberdade condicional to:
Read more #pt-br posts
Best Posts From @nascimentoab
We have not curated any of nascimentoab's posts yet. But you can encourage our curation team to review posts by visiting them regularly and by referring other readers. Because we give priority to frequently read content.
More Posts From @nascimentoab
- A falácia da autonomia da inteligência artificial
- La falacia de la autonomía de la inteligencia artificial
- The fallacy of AI autonomy
- Quando a IA saiu da caixa: o ataque autônomo à Hugging Face
- Cuando la IA salió de la caja: el ataque autónomo a Hugging Face
- When the AI broke out of the box: the autonomous attack on Hugging Face
- Kimi K3, o modelo chinês que assustou o Vale do Silício
- Kimi K3, el modelo chino que sacudió a Silicon Valley
- Kimi K3, the Chinese model that rattled Silicon Valley
- Fugu, a aposta japonesa da Sakana AI