北京大学学生团队研发“黑科技”服务杭州亚运会

来源:  新华网       作者:李春宇 魏梦佳      发布时间:2023-10-8 16:00  |  

为服务杭州亚运会,践行“智能”办赛理念,在北京大学黄铁军教授、仉尚航研究员的指导下,北京大学庄棨宁学生团队基于多模态大模型研究,结合视觉、语言、语音等多种模态输入,推出AI多语种解说系统,为观众提供丰富的观赛体验。

竞赛解说员不仅会在解说中提供关于球队和运动员的相关信息,还能够深入分析比赛,介绍比赛战术和技巧,帮助观众更好地理解比赛。

2023年10月2日,中国选手王楚钦在杭州亚运会乒乓球男子单打决赛中。(新华社记者 王鹏 摄)

北京大学学生团队为帮助应对大赛期间比赛项目多、小语种需求大等问题,面向乒乓球、跆拳道、跳水、体操等赛事,推出AI多语种解说系统。据介绍,该系统可以辅助录播频道调用多模态大模型,理解视频内容,生成中文、英语、阿拉伯语等多语种解说,扩大覆盖人群。

庄棨宁介绍,这一技术通过高速摄像机的脉冲信号检测场景物体和运动员,能够捕捉体育比赛中的关键时刻,生成高质量的集锦和相关数据,并基于多模态大模型算法和深度学习模型进行分析,根据分析结果提供个性化解说服务。

图为在杭州市区应用的具身智能机器人软件服务系统。(受访者供图)

此外,该团队在杭州亚运会期间应用具身智能机器人软件服务系统,为视障及有需求的人士提供导航指引等服务。

“该系统基于感知生成一体化多模态大模型,能够感知与理解场馆内外的视觉场景,生成丰富的语言描述,控制机器人执行服务任务。”庄棨宁说,“很荣幸能将我们的所学、所研转化为可以服务每个人的应用,让AI服务人们的日常生活,助力杭州亚运会。”

(编辑:王星

今日看点
视觉 / 视频更多
习近平会见德国总理朔尔茨
中越国资监管和国企改革交流座谈会在京召开
一图速览2024年政府工作报告
亚洲最长最重导管架钢桩完成装船
我国在大漠腹地打出首口万米深井
第七届中国企业改革发展峰会暨成果发布会召开
融媒体更多

刘伟平挂帅三峡集团有何深意

中国移动还值得继续持有吗

戴和根履新中国铁建100天,干了啥,见了谁

时评更多