国际手语日|中大与Google、日本团队合作 推出网上手语游戏

撰文: 邓颖琳
出版:更新:

今日(9月23日)是每年一度的国际手语日,中文大学的研究团队早前与Google、日本财团和关西学院大学合作,研发出全球首个结合人工智能及手语语言学理论的多语言网络游戏“手语村”。

玩家需以手语为主要沟通语言,在虚拟小镇中完成任务,包括在餐厅点菜,人工智能识别系统则会分析玩家所打手语的准确度,并补充解释“手语”的意思及文化。

左起为中大手语及聋人研究中心副主任施婉萍、中大手语及聋人研究中心助理电脑主任郑家耀。(中大提供)

铺路开发港日手语自动翻译系统

中大、Google、日本财团和关西学院大学于2020年共同启动“Shuwa计划”,希望以香港手语及日本手语为起点,将来开发手语自动翻译系统。

经一年多努力后,团队设计出首个机器学习模型,以摄影镜头追踪及人工智能分析手部动作、肢体动作和面部表情特征,开发全球首个结合人工智能和手语语言学理论的多语言网络游戏“手语村”,让玩家以游戏形式学习香港手语及日本手语。

中文大学的研究团队早前与Google、日本财团和关西学院大学合作,研发出多语言网络游戏“手语村”。(中大提供图片)

人工智能识别系统解释手语意思

“手语村”早在今年5月推出测试版本,香港及日本两地累积逾8,500人使用,并于今日正式面世。玩家需以手语为主要沟通语言,在虚拟小镇中完成任务,包括在餐厅点菜、寻找酒店住宿等,人工智能识别系统则会分析玩家打手语的准确度,解释不同手语的意思及文化。

团队解释,世界各地手语有所不同,但手形、方向及动作等特征相通,变化有限,未来“手语村”会加入更多场景、手语词汇及更多地方的手语,长远期望开发一个手语自动翻译模型,令常见的电脑或手机镜头可将手语翻译成口语,提供纪录及学习手语的平台,让聋人可以手语参与社会、经济及文化活动,建立无障碍社会。