Other / MODEL PROFILE
Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP
BoldingBuilds 发布 · Abliteration · GGUF
模型来源
该模型由 BoldingBuilds 在 Hugging Face 发布。本站整理公开仓库元数据,方便检索和比较;模型的具体行为与表现请以发布者说明和实际测试为准。
声明的基座模型
prism-ml/Ternary-Bonsai-2-27B-gguf ↗
硬件与上下文
按 27B 参数、4-bit 权重估算约 16.5 GB 显存。此估算包含 15% 权重开销和 1 GB 基础余量。 KV cache、上下文长度、多模态组件和并发数会增加实际占用。参数量由模型名称解析,未做独立核验。
上下文长度:公开元数据未注明,请查看模型卡。
下载来源与量化版本
4 个仓库| HUGGING FACE 仓库 | 格式 | 近 30 天下载 | 许可证声明 |
|---|---|---|---|
| BoldingBuilds/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF ↗ | GGUF | 42.9K | apache-2.0 |
| hotdogs/Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP ↗ | GGUF | 3.7K | apache-2.0 |
| 2001Y/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-MLX ↗ | GGUF | 3.5K | apache-2.0 |
| groxaxo/Ternary-Bonsai-2-27B-Abliterated-v2-PQ2_0-MTP-GGUF-3060-bench ↗ | GGUF | 708 | apache-2.0 |
“无审查”是发布者使用的描述,不代表完全没有拒答,也不代表能力、准确性或安全性的保证。本站未测量拒答率或运行性能基准。