qwen3guard-gen-8b-gptq-8bit
Versão GPTQ 8-bit de Qwen/Qwen3Guard-Gen-8B.
Quantização
- Método: GPTQ
- Bits: 8
- Group size: 128
- Biblioteca: GPTQModel
- Dataset de calibração: 500 amostras fixas do allenai/c4 (250 inglês + 250 português), as mesmas para todos os modelos quantizados nesta série.
Gerado automaticamente.
- Downloads last month
- 39
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support