Muse Glimmer: Meta volta aos pesos abertos com novo modelo

Compartilhe essa matéria:

Link copiado!

Poucos dias depois de lançar o Muse Spark 1.2, a versão mais atualizada do seu modelo proprietário, a Meta Superintelligence Labs fez mais um anúncio. Nesta segunda-feira (10), a empresa apresentou o Muse Glimmer, um modelo novo, com 30 bilhões de parâmetros, pesos abertos e pensado para rodar localmente em computadores comuns.

O Glimmer é basicamente uma versão aberta e destilada do Muse Spark, pequena o suficiente para funcionar em computadores e notebooks comerciais. Seus pesos já estão liberados sob licença Apache 2.0 (uma das mais permissivas do mercado, que libera até uso comercial. Ele já está disponível para download na Hugging Face.

Rodando localmente

Diferente dos modelos de ponta do mercado, que rodam em data centers com trilhões de parâmetros, o Glimmer é pequeno o suficiente para caber num Mac ou PC com uma placa de vídeo convencional. A Meta projetou o Muse Glimmer para que ele “equilibrasse capacidade com as limitações de memória e processamento do hardware local”. Ou seja, que ele fosse competitivo com os modelos fechados, mas sem exigir equipamentos de ponta.

Para fazer isso, a Meta precisou compactar a arquitetura do Muse Spark com quantização e destilação. A destilação envolve treinar um modelo de IA usando os resultados de outro. O Glimmer foi treinado para imitar o comportamento do Spark e, segundo a Meta, “transferir o raciocínio agêntico do modelo professor”. Já a quantização reduz a precisão numérica dos parâmetros do modelo para economizar memória.

Siga

Seguir no Linkedin

Com precisão total, um modelo de 30 bilhões de parâmetros como o Glimmer exigiria mais de 55 GB de memória, o que é muito mais do que qualquer GPU voltada para o consumidor oferece – as melhores GPUs da categoria têm 32 GB. Comprimido, o modelo tem menos de 20 GB. De acordo com a Meta, essa “compressão resulta em degradação mínima ou nula no desempenho de tarefas de natureza agentiva”.

No artigo de divulgação do modelo, a Meta compartilhou as especificações recomendadas para rodar o Glimmer. E agora, vamos aos números mesmo: rodando com potência total, o Muse Glimmer requer um dispositivo com 64 GB de VRAM. Duas configurações de compactação diminuem as exigências para 32 GB e 24 GB de VRAM, mas com uma degradação de 0,2% e 1%, respectivamente.

O Glimmer foi projetado para rodar agentes de IA multitarefas, que utilizem ferramentas, escrevam e depurem código, trabalhem com arquivos, e executem tarefas de um fluxo de trabalho longo – e não só responder perguntas. Segundo a empresa, o sistema oferece suporte a texto e imagens e foi treinado em mais de 100 idiomas.

A Meta prevê que o Glimmer seja usado para tarefas como gerenciar agendas, redigir mensagens e organizar arquivos. Ela espera que o Glimmer “aprenda como você trabalha” e, para isso, ele “precisa de acesso profundo ao seu contexto pessoal”. Processando as informações diretamente no computador do usuário, ao invés de enviá-las para a nuvem do modelo, a Meta oferece um agente pessoal que prioriza a privacidade.

Por esse processamento local, o Glimmer também é capaz de operar “em qualquer lugar e a qualquer momento, com ou sem conexão à internet”. “A comunidade de código aberto demonstrou que modelos menores, quando treinados de forma eficaz, podem se aproximar dos melhores desempenhos em tarefas específicas”, afirma a empresa no anúncio. “O Muse Glimmer é otimizado para esses casos de uso locais”.

Meta, pesos abertos e a superinteligência

O anúncio destoa do rumo recente da Meta. Todos os modelos Spark lançados esse ano são cobrados via API paga, no mesmo esquema comercial que a OpenAI e Anthropic aplicam.

Contudo, a visão que a Meta mostrou ter para o Glimmer é bem parecida com a visão que o próprio Zuckerberg tem para a Meta. No ano passado, ele defendeu que a IA avançada deveria capacitar os indivíduos em vez de permanecer concentrada nas mãos de poucas empresas – mas alertou que a Meta, preocupada com segurança, não liberaria abertamente todos os seus modelos.

Em carta divulgada no mesmo dia do lançamento do Glimmer, Zuckerberg voltou a defender que distribuir superinteligência amplamente “tem o potencial de iniciar uma nova era de empoderamento pessoal, na qual os indivíduos podem utilizar essa nova e poderosa capacidade para alcançar seu pleno potencial, perseguir seus interesses e melhorar suas vidas e o mundo mais do que nunca”. Um agente que roda dentro do computador de cada usuário parece se aproximar dessa visão de capacitação individual.

O Glimmer também é sinaliza um retorno (mesmo que parcial) à prática de pesos abertos da Meta, que começou em 2023 com a família de modelos Llama. Contudo, desde que Alexandr Wang assumiu a Meta Superintelligence Labs, a empresa focou no desenvolvimento do Spark, que é fechado. O Glimmer é o primeiro modelo de pesos abertos lançado sob o comando de Wang.

Essa decisão deixa a Meta mais próxima de laboratórios chineses como DeepSeek e Moonshot, que têm usado modelos abertos para pressionar concorrentes americanos com alternativas mais baratas. Mas também expõe quais modelos ela vai liberar abertamente e quais ela vai manter trancado nos próprios servidores.

Contudo, Zuckerberg já sinalizou que essa porta pode se abrir mais: ele prometeu liberar “em breve” os pesos do próprio Spark 1.2.