Anthropic relata 4º incidente de segurança com versão anterior do Claude
Incidente aconteceu em janeiro e passou despercebido por revisão anterior na empresa, que identificou dois problemas recorrentes em sessões-teste do modelo.
A Anthropic anunciou na última quarta-feira (9) que identificou um quarto incidente de segurança envolvendo seu modelo de IA generativa, o Claude – mais especificamente, uma versão inicial do Claude Opus 4.6.
O incidente aconteceu em janeiro e passou despercebido por uma revisão anterior em toda a empresa. A Anthropic afirma que descobriu o último incidente há um mês e notificou todas as partes afetadas, mas não divulgou mais detalhes.
Esse é o caso mais recente em uma lista de incidentes que está crescendo e levanta preocupações sobre o risco oferecido por agentes autônomos de IA. Em julho, a Anthropic anunciou que três versões do Claude (Opus 4.7, Mythos 5 e um modelo de pesquisa interna) invadiram sistemas de três empresas durante testes de cibersegurança.
Na ocasião, que a Anthropic chamou de “falha operacional”, um erro de configuração envolvendo terceiros teria permitido que os agentes ganhassem acesso à internet aberta.
A empresa identificou os incidentes após analisar 141 mil sessões de teste em um processo de revisão que começou após um agente autônomo, alimentado por modelos de IA da OpenAI, desencadear um ataque que comprometeu a infraestrutura da startup Hugging Face.
Parte das sessões não foram revisadas durante esse primeiro processo, segundo a Anthropic, e agora levaram à descoberta do quarto incidente – que a empresa acredita não ser mais grave do que os três primeiros.
A Anthropic contratou a empresa de pesquisa independente METR para investigar os incidentes. O acordo inicial tem duração de oito semanas e pode ser prorrogado se ambas as partes assim desejarem, segundo a Anthropic.
A investigação identificou dois problemas recorrentes: o “raciocínio tendencioso” do Claude, que fez o modelo desconsiderar ou interpretar de forma errada as evidências de que estava operando na internet aberta; e a “imprudência” do modelo, sua disposição de tomar ações potencialmente prejudiciais a fim de concluir uma tarefa.





