本文分类:news发布日期:2026/6/17 4:44:56
打赏

相关文章

Strix Halo 芯片实测,端侧运行 SGLang 结构化输出

为什么在 Strix Halo 上折腾 SGLang? 最近拿到一台搭载 AMD Strix Halo 芯片的工程机,这颗 APU 集成了强大的 Radeon GPU 和 Ryzen AI NPU,理论上端侧推理能力相当可观。以往在 AMD 平台上跑大模型,大家首选往往是 Ollama 或者 LM…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部