humanizer-1B-OptiQ-4bit在不同类型内容上的表现对比
【免费下载链接】humanizer-1B-OptiQ-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-1B-OptiQ-4bit
humanizer-1B-OptiQ-4bit是一款基于mlx-community/MiniCPM5-1B-OptiQ-4bit构建的1B模型,通过堆叠SFT和DPO LoRA适配器,在RADAR AI检测器上达到了与人类参考集相同的分数,能将AI生成的草稿转化为更自然的人类风格 prose。
模型基本信息
该模型基于mlx-community/MiniCPM5-1B-OptiQ-4bit构建,采用OptiQ混合精度量化技术,磁盘大小仅875MB,Capability Score为30.28。模型架构为LlamaForCausalLM,包含24个隐藏层,隐藏大小为1536,16个注意力头,采用4位和8位混合量化,在保持性能的同时大大减小了模型体积。
不同内容类型的表现分析
技术博客内容
在技术博客内容处理方面,humanizer-1B-OptiQ-4bit表现出色。当设定"STYLE: direct technical blog"和"TONE: analytical, clear, non-corporate"时,模型能够将AI生成的草稿转化为分析性强、表述清晰且非企业化风格的技术博客内容。
从评估数据来看,源AI草稿(Qwen3.5-4B + Gemma-4-e4b输出)的P(AI)值为0.51,而使用SFT + DPO堆叠适配器的humanizer-1B-OptiQ-4bit将其降至0.37,达到了与人类参考集相同的水平,成功将AI生成的技术内容转化为更接近人类写作的风格。
学术文章内容
对于学术文章内容,humanizer-1B-OptiQ-4bit同样表现优异。在处理来自EditLens ICLR 2026数据集的学术相关内容时,模型能够很好地保留原文中的事实、数据、引用和URL等关键信息,同时将表述风格调整得更加自然流畅。
评估结果显示,模型在学术内容上的"Slop / 1K tokens"指标达到0.0,甚至优于人类参考集的0.1,这意味着模型生成的学术内容更加精炼,减少了不必要的冗余表达。
一般文章内容
在一般文章内容处理方面,humanizer-1B-OptiQ-4bit也展现了强大的能力。无论是博客文章、报道还是普通文章,模型都能根据设定的风格和语气要求,将AI生成的草稿转化为自然的人类风格 prose。
需要注意的是,模型在处理一般文章时存在一定的长度扩展倾向,生成内容的长度通常是源内容的3到4倍。因此,在需要保持长度的场景下,建议使用max-tokens参数或进行后期截断处理。
不同适配器组合的表现对比
| Pipeline | P(AI) | Delta vs source | Slop / 1K tokens |
|---|---|---|---|
| Source AI draft (Qwen3.5-4B + Gemma-4-e4b) | 0.51 | , | 0.6 |
| SFT humanizer alone | 0.50 | -0.01 | 0.2 |
| SFT + DPO stacked (this repo) | 0.37 | -0.14 | 0.0 |
| Human reference (target) | 0.37 | -0.14 | 0.1 |
从上述对比可以看出,单独使用SFT适配器时,模型性能提升有限(P(AI)从0.51降至0.50)。而当SFT和DPO适配器堆叠使用时,模型性能显著提升,P(AI)值降至0.37,与人类参考集相当,同时"Slop / 1K tokens"指标也达到最优。
这表明DPO适配器是对SFT适配器的有效补充,二者结合使用能够最大程度地提升模型的人类化能力。需要注意的是,DPO适配器仅在与SFT适配器一起使用时才有意义,它是SFT分布的增量,而非独立的LoRA。
使用方法
要使用humanizer-1B-OptiQ-4bit,需要安装mlx-optiq >= 0.1.4:
pip install 'mlx-optiq>=0.1.4' # 下载仓库 huggingface-cli download mlx-community/humanizer-1B-OptiQ-4bit \ --local-dir ./humanizer-1B-OptiQ-4bit # 加载两个适配器提供服务 optiq serve \ --model ./humanizer-1B-OptiQ-4bit \ --adapter ./humanizer-1B-OptiQ-4bit/adapters/humanizer-sft \ --adapter ./humanizer-1B-OptiQ-4bit/adapters/humanizer-dpo \ --port 8080发送请求时,通过请求体中的"+"堆叠语法激活两个适配器:
curl http://localhost:8080/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "./humanizer-1B-OptiQ-4bit", "adapter": "humanizer-sft+humanizer-dpo", "messages": [ {"role": "system", "content": "Rewrite AI-generated drafts into natural human-style prose, preserving meaning, facts, names, numbers, citations, URLs, quotes, and formatting."}, {"role": "user", "content": "STYLE: direct technical blog\nTONE: analytical, clear, non-corporate\nLENGTH: preserve within 15%\n\nDraft to rewrite:\n\n[your AI-generated draft here]"} ], "temperature": 0.4, "max_tokens": 1600, "chat_template_kwargs": {"enable_thinking": false} }'局限性和注意事项
AI检测器限制:RADAR-Vicuna-7B只是众多检测器之一。在RADAR上与人类参考匹配意味着重写内容在RADAR的尺度上与EditLens人类编写集处于相同水平,但其他检测器可能会给出不同结果。
长度控制:重写内容往往会过度生成(长度比约为源内容的3到4倍)。如果需要长度忠实的输出,建议应用max-tokens或后截断步骤。
适用范围:此LoRA堆栈专门针对"重写此AI草稿"格式进行了优化。非格式提示会降低性能。如需一般MiniCPM5-1B推理,请使用
"adapter": "base"。
总的来说,humanizer-1B-OptiQ-4bit在各种类型的AI生成内容改写方面表现出色,特别是在技术博客和学术文章等需要精确表达的领域。通过合理使用模型和适配器,用户可以将AI生成的内容转化为更加自然、流畅的人类风格文本。
【免费下载链接】humanizer-1B-OptiQ-4bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-1B-OptiQ-4bit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考