让“无声世界”感受赛场魅力!带你看看冬奥手语数字人有哪些奥秘******
2022年2月4日,第24届冬季奥林匹克运动会在北京举行,让世界目光再次聚焦中国。本届北京冬奥会秉持绿色、共享、开放、廉洁的办赛理念,凝聚中国科技力量,面向世界、面向未来,向全球奉献了一场精彩、非凡、卓越的奥运盛会。
本届冬奥会运用最新科技手段,为全世界观众提供了惊艳的现场转播和全方位覆盖报道,北京冬奥会也成一场上科技含量高的奥运会。赛事活动期间,为了让各类人群都能平等地享受本届冬奥盛会,北京电视台上线了智能手语播报数字人,在《北京新闻》和《北京您早》等节目中进行冬奥专题手语播报,为听障人士带来精彩赛事报道。
最新数据显示,我国听障人群超过2700万,这部分人群与健听人一样,他们对教育、社交、娱乐等信息获取都有巨大的需求。但长期以来,传统人工手语翻译工作量大,且主持人和手语主持人配合难度极高。手语动作表情复杂,语序与正常语序差异大,正常情况下想要熟练掌握手语大约需要2年左右的时间,还要结合语境进行猜测。
受北京市科委科技冬奥专班委托,北京电视台联合凌云光、智谱AI等业内科技公司,在北京市残疾人联合会和市残联聋人协会等支持下,用3个多月时间,让手语播报数字人完成了近10万条手语语料学习,且翻译准确率高达90%。
在如此短的时间内实现这项高难度动作,智能手语数字人是如何做到,在这背后又有哪些技术创新难点?
在多位业内人士看来,近年来人工智能体系建设重点布局在算法层和应用层,数据层建设远远不足,并且针对数字人相关产业,底层数据库的数量、质量和开源程度还明显不足。尤其是国内现有的手语语料数据库数量少,且多以图像、视频等二维平面为主,无法满足AI(人工智能)训练的需求。
同时,因手语语序与中文语序差异大,方言分化更加复杂,且需要通过表情、口型、动作等方式来传达信息。除了传统的二维平面图像、视频采集,三维肢体运动、表情信息数据采集及结构化参数表达外,手语语料数据库建设对三维运动信息捕捉也十分重要。
凌云光手语数字人产品相关负责人介绍,在建设高质量手语语料库的同时,他们充分调研了2022北京冬奥专用手语术语,并联合北京市残联、聋人协会等相关组织机构,进行数据标注,建设手语语义映射关系,不仅完善了国内手语数据库的建设,也为手语推广和AI研究留下了宝贵的数据资产。
该负责人举例说,基于“悟道2.0”超大规模人工智能模型的技术支撑,手语数字脑用计算机模仿听障人士的大脑,将看到的中文文本信息转换成手语词汇序列,包括中文语义蒸馏模型和AI手语分词快编算法的研究。中文语义蒸馏模型用于从输入的文稿或文本中提取出关键的语义信息,将中文文本语义提炼和精简,形成精准匹配适合手语表达的文本;AI手语分词快编算法则用于将蒸馏得到的中文文本,根据冬奥手语语料库划分成相应的手语词汇序列,供数字人做表达输入。
该负责人还提到,数字人是冬奥手语播报的载体和展现形式,通过高精度写实数字人全流程制作方案,可实现一键数字建模,高度还原真人发肤,重新毛孔等细节,更加真实亲切。同时,通过跨模态拟人生成算法,还可以将手语词汇序列,生成相应的动作信息,驱动数字人模型做出相应的动作、手势和表情。(姚坤森)
赛事转播由观众当导播?“自由视角”技术让冬奥观赛身临其境******
你是否想象过,通过任意视角“无死角”观察比赛细节的新体验——随意滑动手机屏幕,比赛转播画面便相应转换角度,当选定角度松开手指,画面即以新的视角和位置播放;借助“子弹时间”技术,在比赛过程中“凝固时空”,全方位观看运动员的竞技瞬间……
“这个技术让我们坐在家里却好像置身赛场,360度想看哪里就看哪里,紧紧跟上瞬息万变的赛场形势。”使体育赛事观众感到新奇的这一体验,是国家重点研发计划“科技冬奥”重点专项“冰雪项目交互式多维度观赛体验技术与系统”中,由优酷参与研发的历时两年多研发的“自由视角”视频技术所带来的。该技术于2021年4月亮相“相约北京”冬季体育冰上项目测试活动,分别在国家体育馆、五棵松体育馆运行测试。
赛事转播新技术的惊艳亮相,进一步推动着科技创新与冬奥赛事深度融合。通过我国企业自主研发的“自由视角”视频技术对冬奥冰雪项目进行示范播出,观众可使用电视、手机或VR设备,通过自主交互连续改变视角和位置,既可以让画面静止以观察某一个比赛瞬间的不同角度,又可以让画面保持流动而不打断比赛,让观众自己当“导播”,突破传统的定点和被动式观赏赛事,提升用户观赛体验。
观众体验自由视角观赛
“我们看到的画面并不是由相机单纯拍摄的,而是通过算法渲染出来,根据三维程序补充出来的。”优酷“自由视角”系统课题负责人盛骁杰介绍,在测试活动中,国家体育馆内的U型架上共架设40台相机,总长度达210米。通过三维重建和渲染,可以渲染出任意时长和帧率的精彩特效片段,相当于1200台相机同时拍摄拼接的效果。无须特殊装备,也不用专门的带宽,仅需手持5G手机,搭配5G网络,冰雪“发烧友”就可以便捷实现高质量的交互式观赛。
据了解,在内容生产上,“自由视角”技术能嵌入转播信号,实现多角度、清晰的即时三维比赛细节还原。针对冰球比赛,这一技术以重点镜头和氛围镜头为侧重,能够让观众感受到冰球赛事独特的魅力。此外,该技术可协助裁判更快速、精准地做出判罚,还能使运动员和教练员在日常训练中多角度直观回顾场上细节。“它可以直接植入到普通的转播当中,比如场上比赛的某一瞬间,观众或裁判没看清楚,系统可以随时生成一个360度的信号提供给裁判和转播商,能够很好地解决判罚和观赏方面的问题。”盛骁杰说。
“‘自由视角’技术的目标是建立交互式多维度观赛体验系统。具体来讲,我们想实现全新的观赛体验。”“科技冬奥”重点专项“冰雪项目交互式多维度观赛体验技术与系统”项目负责人、北京大学博雅特聘教授陈宝权表示,这一技术的第一个特点是实现了多视点观赛功能,第二个是交互性,观众可以决定自己的视点,选择其最舒适的视角去看精彩的比赛。同时,“自由视角”技术还实现了多终端的观看,除通过电视收看外,还支持手机端和VR设备观看。“戴着VR设备,不需要手的交互,而是通过人们身体的自然交互,VR设备的视角能使我们进一步达到身临其境的观赛体验。”
工作人员对自由视角视频直播作测试
事实上,在应用于北京冬奥会赛事转播前,“自由视角”技术已成功落地多档综艺节目及CBA、CUBA等体育赛事场景。而测试活动中所使用的“自由视角”技术和以往的应用有所不同,项目组形成了具有自主知识产权的端到端自由视角点播和直播系统,将8K“自由视角”系统从现场阵列采集、云端三维重建、编码传输到终端解码渲染都做到了端到端实时处理,从而达到能够支持冬奥相关赛事直播的技术水平。(孔繁鑫)
(文图:赵筱尘 巫邓炎)