OrcaBonsai:无需修改权重,运行时切除拒答的越狱模型方案
石破天惊,网络安全研究者有福了,媲美 Qwen3.8 27B的越狱模型,小内存机器也能部署了,无需 DGX Spark,更无需 M5 Ultra。
推荐理由
安全研究者和本地部署玩家必看,这套方案不改动模型权重,仅靠运行时干预就能绕过拒答,资源占用极低,非常适合小内存环境下的渗透测试与红队演练。
石破天惊,网络安全研究者有福了,媲美 Qwen3.8 27B的越狱模型,小内存机器也能部署了,无需 DGX Spark,更无需 M5 Ultra。
@PrismML 把 Qwen3.8 27B 压进 5.9GB:三值量化、约 1.72 bit/weight、体积缩小约 9 倍,综合基准仍保留原版 98.2%,262K 上下文,还带视觉。@OrcaRouter 没改任何一个权重,把拒答方向挪到运行时切除,0 改权重、0 重量化、原包 bit-identical,129 个残差干预点,推理时 alpha 可调。
原包 + runtime:https://github.com/Continuum-AI-Corp/OrcaBonsai-27B-Uncensored 权重:https://huggingface.co/prism-ml/Ternary-Bonsai-2-27B-gguf
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力