彰显“开源精神”!清华KTransformers社区感谢聚好看贡献
| 流媒体网| 2025-12-01
【流媒体网】摘要:海信工程师参与KT开源项目,优化大模型推理性能。

  “当时只当是常规给开源社区贡献,把KT做好,纯粹就是一种开源精神吧。”在线采访交流中,海信聚好看公司算法开发专家熊晨辉用了好几个“捂脸”表情包。

  2025年11月21日,趋境科技与清华共同开源的KTransformers(以下简称KT)发布vo.4.2版本,完成了对Qwen-3MoE模型的全链路支持。在相关的公众号推文中,趋境科技“特别感谢社区开发者 @poryfly 在 Qwen3-MoE 适配过程中做出的重要贡献”。

  “@poryfly”是熊晨辉的KT社区账号。在该版本的开发与优化过程中,熊晨辉等聚好看AI技术中心武汉研发团队的模型开发人员提供了重要的技术协作与工程支持。

图为趋境科技在公众号推文中致谢熊晨辉

  趋境科技是一家深耕大模型推理优化领域的科技公司,创始团队均源自清华大学计算机系,中国工程院院士、清华大学郑纬民教授为其首席顾问。

  模型虽好,还需算力支持;算力有限,可用框架弥补。趋境科技与清华联合开源的 KT 框架,聚焦高性能、轻量化异构混合计算的推理与微调核心需求,通过高效调度 GPU(图形处理器)、CPU(中央处理器) 和内存等异构资源,实现了在有限算力与多样化硬件条件下的模型高效运行,已成为Qwen、Kimi、智谱AI等多个主流大模型发布首日的推荐推理引擎。

图为KTransformers 的以存换算全系统推理架构简介

  聚好看AI技术中心在真实业务场景中免费使用 KT框架,解决了海信有限资源下千亿参数模型无法训练的难题。在对 Qwen3-235B-A22B 等大模型进行直接偏好优化微调时,实现了显存占用的大幅优化,从多卡环境下的320GB大幅降低至单卡16GB,展现出较强的资源调度能力。

  同时,作为KT社区的重要贡献者之一,AI技术中心的模型开发人员基于其在复杂业务场景中的实践经验,为本版本提供了多方面的技术支持,主要包括:协助验证并提升Qwen3-MoE微调稳定性与多卡方案实现;KT与强化学习方法的联合优化;在实际应用中反馈优化建议,推动框架持续完善。

图为AI技术中心AI模型开发部武汉研发团队,居中者为熊晨辉

  “目前,聚好看用Qwen模型赋能业务的情况很多。”熊晨辉表示,他们提供的 KT框架与Qwen3适配的经验,其他开发者可以直接拿来用,进而也能大幅降低他们的业务成本。“借助很多人的贡献,把自己的业务做好;偶尔自己能贡献力量,也是对开源的回馈。”

  11月28日,趋境科技官方公众号再次发文,专门对海信聚好看AI技术中心的深度参与和技术协作表示感谢,认为此次合作充分展现了开源社区与产业实践相结合的价值,也为KT在更多实际场景中的应用验证提供了重要参考。

  “还是这样致谢好,可以提高海信的技术影响力,对公司有好处。”采访结束时,熊晨辉发来了一个“碰拳”的表情包。

  短评:一个程序员的幸福和骄傲

  开源不仅是一种软件开发模式,更是一种独特的文化和精神。聚好看AI模型开发人员深度参与KTransformers开源项目,是对共建、共享、共赢的"开源精神"的鲜活注解,也是对海信价值观中“积极跨界学习,主动分享和交流,创造更多相邻可能性”这一创新精神的生动实践。

  开源非单向索取,而是双向赋能。聚好看不仅借助社区技术突破算力瓶颈,更以真实业务场景反哺代码,实现从"受益者"到"共建者"的升级。当产业实践与学术创新相遇,技术便不再是实验室里的空中楼阁,而是转化为解决实际难题的生产力。

  更为重要的是,个人参与开源不仅有助于自我成长,也为自我实现,赢得他人的尊重与认可提供了难得机会。在这个AI爆发式增长时代,通过参与开源为企业、为行业、为社会发展贡献一己之力,是责任和价值的体现,也是一个程序员的幸福和骄傲。

责任编辑:凌美

分享到:
版权声明:凡注明来源“流媒体网”的文章,版权均属流媒体网所有,转载需注明出处。非本站出处的文章为转载,观点供业内参考,不代表本站观点。文中图片均来源于网络收集整理,仅供学习交流,版权归原作者所有。如涉及侵权,请及时联系我们删除!