专题出品人: 袁进辉

北京一流科技有限公司 创始人

专题:AI开源

本专题下的议题

飞桨分布式训练技术及其应用
吴鑫烜 百度 深度学习技术平台部资深研发工程师
所属专题:AI开源

课程概要

话题概述:
飞桨是源于产业实践的开源深度学习平台。本次分享主要介绍飞桨特性,含易用API、高性能分布式训练、多端多平台推理部署、丰富产业级模型库等。并针对分布式训练展开详细介绍,带大家深入了解飞桨超大规模深度学习模型训练技术,以及在信息流、广告、搜索等业务场景上的应用。

演讲题纲:
1. 飞桨框架整体介绍
2. 飞桨分布式训练架构
3. 飞桨分布式在实际业务中的应用案例
4. 总结与展望

话题亮点:
1. 超大规模分布式训练技术 2. 推荐领域的应用案例

听众收益

分布式训练技术
推荐算法及业务应用

DouZero:首个达到人类水平的开源斗地主AI
谢静如 快手 AI平台部 研究员
所属专题:AI开源

课程概要

话题概述:
人工智能在很多棋牌类游戏中取得了很大的成功,例如阿法狗(围棋)、Libratus(德扑)、Suphx(麻将)。斗地主却因其极大的状态空间、丰富的隐含信息、复杂的牌型和并存的合作与竞技,一直以来被认为是一个极具挑战性的领域。我们快手游戏AI团队针对斗地主的难点,探索出了一条新的道路,提出了首个从零开始的斗地主人工智能系统DouZero。将蒙特卡洛算法与深度学习相结合,DouZero在不借助任何人类知识的情况下,通过自博弈学习,在几天内战胜了所有已知的斗地主打牌机器人,并达到了人类玩家水平。相关论文已被国际机器学习顶级会议ICML 2021接收,开源代码在GitHub上获得近千星。同时,我们开放了在线演示平台供研究者和斗地主爱好者体验。

演讲题纲:
1. 斗地主的游戏介绍
a) 游戏玩法
b) 斗地主AI的难点
c) 现有斗地主AI的局限性

2. 斗地主AI DouZero的实现
a) 方法概述
b) 系统实现
c) 实验结果
d) 案例分析

3, 开源及后续工作

4. 快手AI在游戏领域的其他应用

话题亮点:
1. DouZero是首个达到人类水平的开源斗地主AI,并在天梯中击败344个AI取得第一
2. 使用快手的开源项目,用户不需要任何人类数据,只需要一台四卡GPU服务器就能复现出DouZero

听众收益

1. 了解强化学习的训练框架
2. 了解快手开源的斗地主AI Douzero的算法原理
3. 了解快手AI平台部在游戏AI方面的能力与架构

面向分布式深度学习的新一代编程接口
袁进辉 北京一流科技有限公司 创始人
所属专题:AI开源

课程概要

话题概述:
大规模预训练模型因其在文本生成等应用上优异的表现而备受关注,但开展此类研究壁垒极高:一方面,大规模预训练模型所依赖的硬件基础设施建设成本高昂,另一方面,此类大规模分布式训练面临“内存墙”的技术挑战,通用深度学习框架仅支持数据并行,还不能支持大规模预训练模型所需要的模型并行、流水并行等技术,只有高度定制的专用软件系统才能满足需求,编程复杂。在本次分享中,我们将介绍分布式深度学习的编程复杂性,以及OneFlow的一致性视角及SBP的概念,展示如何设计分布式深度学习框架的新一代编程接口,从而大大降低分布式深度学习的编程复杂性。

演讲题纲:
1,深度学习模型变大的趋势;2,分布式深度学习训练的效率挑战和编程复杂性挑战;3,OneFlow 的SBP标注体系;4,OneFlow的分布式编程接口设计;5,基于新一代编程接口的案例。

话题亮点:
1,业界领先的编程接口设计;2,完整展示新接口为开发者带来的编程体验提升。

听众收益

1,了解分布式深度学习框架的基本原理和当前前沿;2,了解分布式深度学习编程复杂性及解决思路;3,了解OneFlow 分布式深度学习编程接口的使用方法。

跨语言预训练
梁耀波 微软亚洲研究院 资深研究员
所属专题:AI开源

课程概要

话题概述:
在把自然语言模型扩展到多语言的过程中,新的语言往往缺少标注数据。跨语言预训练的目标是利用一个语言的标注数据帮助其他语言,实现语言之间的知识迁移。在本次分享中,我将会介绍跨语言预训练相关的背景知识,以及从如何利用双语数据和知识库来提高跨语言模型的迁移效果。本介绍种涉及的模型已经帮助了十余项微软产品进行多语言扩展。我们挑选了其中的代表性场景,将数据进行了开源。开源数据集包括6个任务,19种语言,涉及搜索引擎排序、智能问答、新闻分类等多个场景。

演讲题纲:
一、跨语言预训练背景简介
二、利用双语数据提高跨语言模型
三、利用知识库提高跨语言模型
四、微软真实业务数据的开源

话题亮点:
1. 跨语言预训练领域的综合介绍, 2. 微软真实业务数据的开源

听众收益

1. 了解跨语言预训练相关的背景知识
2. 了解最新的跨语言预训练模型
3. 了解微软跨语言应用的真实场景

北京一流科技有限公司创始人,原微软亚洲研究院主管研究员,2008年于清华大学计算机系获得工学博士学位。兼任之江实验室天枢开源开放深度学习平台架构师,北京智源人工智能研究院大模型技术委员会委员。

专题:AI开源

详情咨询:400-8128-020
赞助合作:sissi
联系电话:130-4321-8801
邮箱:market@msup.com.cn
CopyRight © 2008-2021 Msup

获取大会更多详情

立即参会
报名咨询
报名咨询
优惠门票
×

扫码关注公众号:回复【A2M】

参与《免费领取PPT》活动



关注后,回复【A2M】

×

扫码关注公众号:回复【A2M】

参与《免费领取PPT》活动



关注后,回复【A2M】