ai_Mistral-Small-24B-Instruct-2501-abliterated

Name: ai_Mistral-Small-24B-Instruct-2501-abliterated
Creator: bartowski

bartowski 发布 · Abliteration · GGUF

模型系列Mistral

参数规模24B

Q4 显存估算约 14.8 GB

近 30 天下载6.9K

声明的许可证apache-2.0

来源仓库1 个

模型来源

该模型由 bartowski 在 Hugging Face 发布。本站整理公开仓库元数据，方便检索和比较；模型的具体行为与表现请以发布者说明和实际测试为准。

按 24B 参数、4-bit 权重估算约 14.8 GB 显存。此估算包含 15% 权重开销和 1 GB 基础余量。 KV cache、上下文长度、多模态组件和并发数会增加实际占用。参数量由模型名称解析，未做独立核验。

上下文长度：公开元数据未注明，请查看模型卡。

1 个仓库

HUGGING FACE 仓库	格式	近 30 天下载	许可证声明
bartowski/huihui-ai_Mistral-Small-24B-Instruct-2501-abliterated-GGUF ↗	GGUF	6.9K	apache-2.0

“无审查”是发布者使用的描述，不代表完全没有拒答，也不代表能力、准确性或安全性的保证。本站未测量拒答率或运行性能基准。