课程 ID: 11048
描述:
陈威行,硕士毕业于清华大学软件学院,现任小红书AI平台部稠密引擎&平台组负责人。深耕AI框架研发与大模型技术应用领域近七年,兼具顶尖技术视野与规模化落地经验。加入小红书前,曾担任百度深度学习技术平台部资深工程师及技术经理,主导飞桨框架核心架构演进,在职期间是GitHub飞桨代码库最活跃贡献者(提交数排名第一),主导完成飞桨算子库PHI重构、动态图架构升级、半自动并行训练等重大技术攻坚项目,显著提升框架性能与生态兼容性,获百度骄傲最佳个人奖及多项技术荣誉(CodeMaster、工程大师奖等),并发表多篇深度学习框架专利。2024年加入小红书后,带领团队构建大模型训-压-推全链路引擎产品,包括训练引擎RedAccel、推理引擎RedServingLLM、压缩工具RedSlim等,支撑生成式推荐、生成式搜索、多模态审核等10+核心业务大模型训练、推理及部署高效落地,其中单场景推理性能至高提升3倍,自研大模型推理引擎所支撑服务日均Token使用量超4500亿,累计为公司节省超2000+算力卡。