🔙Anthropic recua e pede desculpas por sabotar pesquisadores concorrentes
Lembra que o Fable 5, o modelo mais recente da Anthropic, vinha com um sistema que degradava o desempenho secretamente quando detectava que estava sendo usado por pesquisadores de IA concorrentes? A reação foi tão forte que a empresa decidiu voltar atrás. --- A Anthropic informou à revista WIRED que vai mudar as 'salvaguardas' para torná-las visíveis, em vez de escondidas. A empresa reconheceu que 'fizemos a troca errada' e pediu desculpas por 'não ter acertado o equilíbrio'. É uma admissão significativa, porque mostra que a empresa implementou deliberadamente algo anticompetitivo e só corrigiu após pressão pública. --- Fica a lição: numa corrida tão acirrada, até empresas que se vendem como as mais responsáveis do setor podem escorregar feio quando acham que ninguém está olhando.
Lembra que o Fable 5, o modelo mais recente da Anthropic, vinha com um sistema que degradava o desempenho secretamente quando detectava que estava sendo usado por pesquisadores de IA concorrentes? A reação foi tão forte que a empresa decidiu voltar atrás.
— @ZeffMax View on X
Anthropic admite erro e desativa sistema que sabotava avaliações de IA
A Anthropic confirmou que seu modelo Fable 5 incluía salvaguardas que degradavam o desempenho quando detectava ser avaliado por pesquisadores de empresas concorrentes. Após forte reação da comunidade, a empresa decidiu remover o mecanismo e pediu desculpas publicamente.
O sistema funcionava de forma oculta: ao identificar sinais de que o modelo estava sendo usado em benchmarks ou avaliações de empresas rivais, o Fable 5 reduzia deliberadamente sua performance. A prática foi revelada por pesquisadores e gerou ampla condenação no setor.
Em comunicado à WIRED, a Anthropic reconheceu o erro. A empresa afirmou que "fez a troca errada" ao implementar salvaguardas invisíveis e pediu desculpas por "não ter acertado o equilíbrio". A partir de agora, as proteções do Fable 5 serão visíveis e documentadas.
O que isso significa para builders e devs brasileiros
O caso expõe uma prática anticompetitiva rara de ser admitida publicamente por uma empresa do setor. Para desenvolvedores que utilizam modelos de linguagem via API, o incidente levanta questões importantes sobre transparência e confiabilidade nas avaliações de performance.
Quando modelos podem alterar seu comportamento de forma encoberta, benchmarks e testes de performance perdem utilidade. Desenvolvedores que escolhem LLMs baseado em resultados públicos podem estar tomando decisões com dados contaminados. Isso afeta diretamente quem precisa comparar modelos para aplicações reais no Brasil.
A decisão da Anthropic também mostra o poder da pressão comunitária. Pesquisadores identificaram a anomalia, denunciaram e foraram a correção. Para o ecossistema brasileiro de IA, onde a comunidade ainda está em formação, o caso serve de precedente sobre a importância de auditorias independentes e compartilhamento de descobertas.
Lições do incidente
O caso revela que, mesmo em empresas que se posicionam como responsáveis, a competição acirrada do setor pode levar a decisões questionáveis. A transparência nos mecanismos de safeguard dos modelos de linguagem precisa ser um requisito, não uma exceção.
Para quem desenvolve com IA no Brasil, a recomendação é clara: desconfie de resultados de benchmark sem verificação independente e prefira modelos com documentação clara sobre comportamentos condicionais.