Colibri
Experimente modelos MoE usando disco e memória.
O Colibri distribui os componentes de modelos MoE entre armazenamento e memória rápida. A configuração tenta adequar o modelo à máquina, mas os pesos continuam ocupando espaço e a velocidade depende da RAM, do disco e da aceleração disponível. É um projeto técnico para experimentar inferência local.
O que fazer com Colibri
Avaliar inferência local de modelos MoE
Comparar configurações de memória e armazenamento
Antes de começar
- Modelo compatível e espaço para seus pesos
- Hardware compatível com os requisitos do modelo
- Ferramentas de compilação ou distribuição indicada pelo projeto
Como começar
Abra a página de Colibri e siga as instruções de configuração para o seu ambiente. Compare os limites disponíveis antes de escolher um plano.
Ler a documentaçãoO que considerar
- Pouca RAM não elimina o tamanho dos pesos nem garante uma resposta rápida.
- Compatibilidade e licenças variam por modelo.
Tutoriais para começar
Fonte conferida em 29 de out. de 2026. A conferência da documentação não equivale a um teste completo da ferramenta pela Agentspedia.