清华大数据论坛快手AI技术副总裁郑文分享深度学习应用

中新网4月28日电 27日,清华大学108周年校庆之际,清华大学大数据研究中心、清华-快手未来媒体数据联合研究院共同主办《清华大数据论坛——深度学习技术与应用》,清华大学师生、校友汇聚一堂,探讨分享深度学习技术与应用的最新进展。

郑文表示,作为一个日活超过1.6亿的短视频APP,快手的使命是“用科技提升每一个人独特的幸福感”。有两个关键词,一是“每一个人”,这说明快手的价值观是非常普世的,但同时也强调每个人的幸福感是“独特的”。光靠人工运营很难达到针对每个人的服务,需要通过人工智能技术,特别是近几年有所突破的深度学习技术来实现。

国内老牌游戏厂商,研发实力不容小觑,自研“Flexi飞仙”引擎,《九阴真经》、《太极熊猫》系列游戏皆出于此。与其它游戏公司相比,蜗牛更具特立独行的艺术气质,自带硬核光环。成立之初就“剑走偏锋”做3D网游《航海世纪》,要知道2000年国内游戏市场还是2D时代。《九阴真经》开创了武侠游戏全新玩法,最终成就数字武侠第一品牌,据说续作《九阴真经2》正在积极打磨中。期间推出的《黑暗与光明》更是历时12年的用心之作,而代理的Steam沙盒生存大作《方舟:生存进化》实为硬核本核无疑。

郑文表示,希望跟高校、学界的老师同学进一步加强深度合作,充分利用快手的海量数据和强大算力,共同推进深度学习技术,挖掘未来更多的可能性,提升大众幸福感,这也是成立清华大学-快手未来媒体数据联合研究院的愿景。

这种逆市场的操作堪称业界良心,简直就是游戏圈的一股清流!下面小编就来盘一盘史上最“奇葩”的游戏公司,有不同意见欢迎各位讨论和补充~

郑文透露,快手也希望将内容质量变得更高,研发并应用了很多图像增强技术。例如,用户在光线很暗的环境下拍摄,产出的视频往往会丢失信息和细节,通过暗光增强技术,可以将这些细节恢复。

语音也是视频非常重要的维度,往往从图像中可能并不能很好地得到视频所传达的信息,这时候语音就非常重要,会把语音识别出来转化成文字,也会通过语音去识别人物的身份、年龄、性别等等。

他还表示,新道德力量党现在不急于选择与哪个政党合作,但同时也做好了加入执政党或成为自由反对派的两种准备。

《巫师》游戏三部曲开发商,俗称“波兰蠢驴”。得此名号是因为这家公司的市场观念很奇葩——“反正游戏加密了也要被破解,老子干脆就不加密好了”。如此玄妙的市场营销哲学,让全世界的玩家纷纷惊呼“真·业界良心”、“蠢得可爱”。游戏开发理念兢兢业业,连DLC都是史诗级别,可以单独当游戏卖。同时,这家波兰游戏公司做游戏也是不计付出和回报,做《巫师3》时甚至把《巫师2》赚的钱全部投了进去,不知道正在做的《赛博朋克2077》又要让玩家操碎多少心。

但是这里面临一个挑战,现在快手累计拥有超过 80 亿条视频与数亿用户,在这两个海量的数字面前,如何有效分配注意力?过去,注意力一般会集中在所谓的“爆款视频”里,但在爆款视频之下,还有大量可能包含了非常丰富的信息、类别多样化的内容,这种“长尾视频”往往很难被别人注意到。如此,一些需求小众,或者兴趣比较细分的群体往往很难找到他们想要的内容。

另外一个维度是图像层面,会对图像进行分类,如图像的场景是什么;此外也会检测图像中有哪些物体,还会进行图像质量评估,以及利用 OCR 技术从图像中提取文字。

大名鼎鼎的R星,《GTA》和《荒野大镖客》是其代表作。R星的游戏都是多年磨一剑,不去追赶快节奏的潮流。且都是大成本大制作,随随便便一出手就是3A级别,《荒野大镖客》烧了40亿软妹币!用了8年时间,动员了将近3000人参与制作!能花这么大心思做游戏的厂商实在没几个。R星的游戏几乎没有DLC,游戏本体包含一切内容,细腻流畅的画质加上丰富耐玩的游戏情节让玩家甘愿掏空钱包~

拉维表示,仍在征求党内成员的意见以确定新道德力量党的未来政治选择,预计2-3天内将召开会议进行商讨并得出结论。

快手用户跟中国互联网用户分布非常一致,中国互联网用户里面有很大一部分使用的手机都是中低端手机,算力有限。而先进的 AI 技术对设备的计算量的要求极高,为了让先进的技术被最多的用户体验到,快手对底层平台进行定制化开发,基于快手自研的 YCNN 深度学习推理引擎及媒体引擎,让上述技术在大多数机型上都能高效运行,并针对不同机型、不同硬件进行了适配和优化。

第二个阶段是推理阶段,会把这些不同维度的信息进行多模态融合,推理出更高层次的语音信息,或者对视频进行情感识别。也用到知识图谱技术,把视频里的知识存储在知识图谱里表达出来。通过知识图谱的推理,能够得到一些更高层、更深入的信息。

首先是感知阶段,机器会从人脸、图像、音乐、语音四个维度对视频信息进行理解。

手势检测是把各种特定的不同手形检测出来,实现“控雨”等玩法。另外还有 AR 相机姿态估计,背后是快手自研的 3D 引擎,并在其基础上添加编辑器模块、渲染模块、肢体模块、声音模块等,来实现模型精致而自然的光感、材质。

快手AI技术副总裁郑文博士作主题分享

去年大火的《堡垒之夜》开发商,旗下最为畅销的是《战争机器》系列,不过因为缺钱就把《战争机器》版权打包卖给微软了。其公司本业是引擎开发,虚幻引擎就是他家的,并且只要不是商业用途,虚幻引擎使用完全免费,《堡垒之夜》也是免费的。因为运营问题,旗下游戏《paragon》去年宣布停运,于是Epic Games发公告称玩家在游戏中充值的钱将全部现金返还,另外他们还免费开放游戏中价值约1200万没有的游戏素材供其他游戏开发者使用!OMG~这难道是在做慈善吗?不得不说Epic真是业界良心,良心到令人发指。

也会检测图像质量,比如视频生产过程中存在一些导致图像质量较低的因素,如拍摄没有对好焦,镜头长期没有擦拭,或者视频经过多次上传和压缩而产生块状瑕疵。会把这些问题通过 AI 算法检测出来,一方面提醒用户拍摄的时候注意这些问题,另一方面在做视频推荐时也会对高质量视频进行一些倾斜。

最后得到对用户的描述以及对视频的理解,用户和视频之间的匹配就会产生万亿级别特征的大数据,这个大数据会被用在实时在线的推荐系统里,预测用户会对什么样的视频感兴趣。另外也会对社区里的内容进行排序,比如前面提到如何分配注意力,希望注意力分配的差距不要太大,所以会根据基尼系数调整视频内容的分配情况。此外,还会考虑到内容的安全性、多样性以及原创保护等因素。

接下来是快手近期在内容生产方面研发的一些具体的深度学习技术。三维人脸技术能够针对单张人脸图像恢复出人脸的三维信息,一方面可以实现对人脸的一些修改,比如打光、做一些表情、实现三维变脸特效;另一方面,通过三维人脸信息,可以提取出人的表情变化,然后把表情迁移到虚拟的卡通形象上,效果类似于 iPhoneX 推出的 Animoji 功能,但 iPhoneX 有结构光摄像头,且运行 Animoji 需要很强大的算力,通过技术研发,在普通摄像头、配置较低的手机上也能实现类似功能。

对于熟悉国产单机大作的玩家们来说,上海烛龙绝对是一个并不陌生的名字。从2011年首次发售《古剑奇谭1》开始,这家公司就因高品质、良心价在圈子内出名。坚持做了单机11年不放弃,又花了7年时间制作《古剑奇谭网络版》,期间对外测试6次,每次测试版本的差异都非常大。因为游戏只采用点卡付费的方面,再加上没有商城的缘故,被玩家们称为是国内最良心的游戏厂商。

泰国民族发展党领导人及比例制民意代表尼功表示,选择与哪个大党合作还需要和该党的其他10名民意代表磋商,尤其是需要看选择的大党是否会给国家带来较大变化,以及是否会导致社会再度陷入矛盾纷争之中。

据悉,清华大学-快手未来媒体数据联合研究院于2018年4月正式成立。作为清华大学校级科研机构,研究院充分利用清华大学的领先技术和快手多年的行业积累,面向多个领域开展基础和应用研究、开发、集成和快速迭代,共同探讨一系列未来媒体课题,让技术更好赋能用户,实现人与人之间更精准的连接。

在内容理解方面也做了一些比较具体的技术,如快手开发了一套视频标签系统,可以对视频里出现的大多数内容和场景进行分类。在快手语音识别功能模块,采用深度学习算法,结合上下文语境模块,使得识别精度得到很大提升。

郑文介绍说,目前快手是通过记录来提升幸福感的,这可以从两个方面来体现。首先,用户希望能看到更广阔的世界。第二,用户也有分享自己,被更广阔的世界看到的需求。

据郑文介绍,内容生产环节完成后,视频会被上传到后端服务器,这里需要对视频内容进行更深层次的理解。视频的内容理解会用在很多方面,比如内容安全、原创保护、推荐、搜索、广告等等,这里大概分为两个阶段。

日本著名游戏公司,其旗下制作人宫崎英高团队制作的“魂系列”堪称硬核游戏经典。 《恶魔之魂》、《黑暗之魂三部曲》、《血源诅咒》5款风格一致的黑暗奇幻恐怖类角色扮演游戏,都属于游戏难度高、剧情晦涩难懂、画面黑暗唯美、地图设计别具匠心、操作与众不同的风格。在“魂系列”游戏中死亡乃是家常便饭,需要玩家特别大的耐心和勇气去挑战场景中的敌人,挖掘游戏中隐隐出现的信息提示来联通并想象整个剧情故事。其实,这些因素在当时游戏市场环境下是与市场大流相悖的,但也是因为这些与众不同的黑暗之魂风格,才有了宫崎老贼和魂系列的成功。

音乐是影响视频感染力很重要的一部分,可以从视频里识别出音乐类型,甚至可以对音乐进行结构化分析,分离伴奏和歌唱部分。

泰国巴差探党党魁披切表示,11个小党经过沟通后已经达成共进退的共识,同时也做好成为执政党或反对派的两种准备。

拉维称,党内20名民意代表也赞同确定的基本立场,希望能与支持新道德力量党政策的政党合作。他还补充说,对于是否会以独立反对派的身份支持巴育上将再任总理,则需要看多数民意代表及民众的选择。

人脸是一个很重要的维度,因为人脸往往包含了人所关心的最主要的部分,会对人脸区域进行检测,识别年龄、性别、表情等。

泰国选举委员会8日晚公布国会下议院149名不分区议员名单,加上之前公布的分区议员名单,共有27个政党获得下议院议席,创下历史纪录。但没有一个政党获得足够议席可单独组阁。

郑文表示,人像分割技术能把人像和背景区分开,分别对人像和背景做特效,或者进行背景替换,还可以做人像虚化;头发分割,可以把头发区域分割出来,做染发效果。天空分割技术则可以让天空区域变得更加超现实、更加梦幻。人体姿态估计则是预测人的关节点位置,利用这一技术,可以给人体肢体上加特效,或者修改人的体型,做美体瘦身功能。此外,还能重构出人体的三维信息,用于控制卡通形象。

在音视频方面,应用了很多智能算法,比如需要视频尽可能清晰,但同时也要求传输流畅,这就需要针对视频复杂度做一些自适应优化。另外,也会对图像进行分析,比如视频里面人脸的区域往往对大家的观感影响最大,会把人脸的区域检测出来,将码率做得更高,使得整体观感获得很大的提升。

这个挑战决定了必须要依赖于深度学习为主的AI技术解决该问题,代替人工实现内容匹配的分发。快手很早开始就在AI相关技术方面做了很多积累,从视频生产到分发每一个环节都有大量深度学习的应用。

软件学院2001级的校友、清华-快手未来媒体数据联合研究院副院长、快手AI技术副总裁郑文博士作了题为《深度学习在短视频领域的应用和展望》的分享。

郑文说,快手希望通过AI技术使得记录更加丰富有趣,基于这个目标,开发了大量多媒体和AI技术,比如背景分割、天空分割、头发分割,人体关键点、人脸关键点、手势关键点检测等等,并将它们应用在魔法表情中。

一方面,需要理解视频内容,另一方面,也需要对用户进行理解,包含用户公开的年龄、性别等信息以及用户在实时使用快手时产生一些行为数据。这些数据都会传送到后端的深度学习模型里,训练出对用户理解的向量。通过这些向量,可以预测用户的兴趣以及他与其他用户之间的关系。

泰国于3月24日举行全国大选。按照日程,选举正式结果公布后将于近期召开第一次国会,随后由当选的500名下议院议员和全国维持和平秩序委员会及泰国选委会指派产生的250名上议院议员一起选出新一任总理。

以上列出的几家公司都是游戏圈“奇葩”式的存在,他们不随市场大流,执着信念,本着对游戏的热爱和对玩家的尊重,精品打磨产品细节,实属业界良心。良心公司赚钱不易,与其给那些坑钱公司充钱,还是希望玩家们能给这些傻傻的游戏公司多一些支持。

Recent Posts