又一里程碑:微软宣布中英机器翻译达到人类水平

2018-03-15 10:20:58来源:网易智能 热度:

 
微软技术院士黄学东

昨天,由微软亚洲研究院与雷德蒙研究院的研究人员组成的团队宣布,其研发的机器翻译系统在通用新闻报道测试集newstest2017的中-英测试集上,达到了可与人工翻译媲美的水平,微软称这是首个在新闻报道的翻译质量和准确率上可以比肩人工翻译的翻译系统。
 
据了解,newstest2017新闻报道测试集由产业界和学术界的合作伙伴共同开发,并于去年秋天在WMT17大会上发布。为了确保翻译结果准确且达到人类的翻译水平,微软研究团队邀请了双语语言顾问将微软的翻译结果与两个独立的人工翻译结果进行了比较评估。
 
微软技术院士,负责微软语音、自然语言和机器翻译工作的黄学东称,这是对自然语言处理领域最具挑战性任务的一项重大突破。“在机器翻译方面达到与人类相同的水平是所有人的梦想,我们没有想到这么快就能实现。”他表示,“消除语言障碍,帮助人们更好地沟通,这非常有意义,值得我们多年来为此付出的努力。”
 
机器翻译是科研人员攻坚了数十年的研究领域,曾经很多人都认为机器翻译根本不可能达到人类翻译的水平。虽然此次突破意义非凡,但研究人员也提醒大家,这并不代表人类已经完全解决了机器翻译的问题,只能说明我们离终极目标又更近了一步。微软亚洲研究院副院长、自然语言计算组负责人周明表示,在WMT17测试集上的翻译结果达到人类水平很鼓舞人心,但仍有很多挑战需要我们解决,比如在实时的新闻报道上测试系统等。
 
微软机器翻译团队研究经理Arul Menezes表示,团队想要证明的是:当一种语言对(比如中-英)拥有较多的训练数据,且测试集中包含的是常见的大众类新闻词汇时,那么在人工智能技术的加持下机器翻译系统的表现可以与人类媲美。
 
跨时区跨领域合作
 
虽然学术界和产业界的科研人员致力于机器翻译研究很多年,但近两年深度神经网络的使用让机器翻译的表现取得了很多实质性突破,翻译结果相较于以往的统计机器翻译结果更加自然流畅。为了能够取得中-英翻译的里程碑式突破,来自微软亚洲研究院和雷德蒙研究院的三个研究组,进行了跨越中美时区、跨越研究领域的联合创新。
 
其中,微软亚洲研究院机器学习组将他们的最新研究成果——对偶学习(Dual Learning)和推敲网络(Deliberation Networks)应用在了此次取得突破的机器翻译系统中。微软亚洲研究院副院长、机器学习组负责人刘铁岩介绍道,“这两个技术的研究灵感其实都来自于我们人类的做事方式。”对偶学习利用的是人工智能任务的天然对称性。当我们将其应用在机器翻译上时,效果就好像是通过自动校对来进行学习——当我们把训练集中的一个中文句子翻译成英文之后,系统会将相应的英文结果再翻译回中文,并与原始的中文句子进行比对,进而从这个比对结果中学习有用的反馈信息,对机器翻译模型进行修正。而推敲网络则类似于人们写文章时不断推敲、修改的过程。通过多轮翻译,不断地检查、完善翻译的结果,从而使翻译的质量得到大幅提升。对偶学习和推敲网络的工作发表在NIPS、ICML、AAAI、IJCAI等人工智能的全球顶级会议上,并且已被其他学者推广到机器翻译以外的研究领域。
 

 
微软亚洲研究院副院长、机器学习组负责人刘铁岩
 
此外,周明带领的自然语言计算组多年来一直致力于攻克机器翻译,周明表示,“由于翻译没有唯一的标准答案,它更像是一种艺术,因此需要更加复杂的算法和系统去应对。”自然语言计算组基于之前的研究积累,在此次的系统模型中增加了另外两项新技术:联合训练(Joint Training)和一致性规范(Agreement Regularization),以提高翻译的准确性。联合训练可以理解为用迭代的方式去改进翻译系统,用中英翻译的句子对去补充反向翻译系统的训练数据集,同样的过程也可以反向进行。一致性规范则让翻译可以从左到右进行,也可以从右到左进行,最终让两个过程生成一致的翻译结果。
 

 
微软亚洲研究院副院长、自然语言计算组负责人周明
 
可以说,两个研究组分别将各自所在领域的积累与最新发现应用在了此次的机器翻译系统中,从不同角度切入,让翻译质量大幅提升。在项目合作过程中,他们每周都会与雷德蒙总部的团队开会讨论,确保技术可以无缝融合,系统可以快速迭代。
 
没有“正确的”翻译结果
 
据网易智能获悉,newstest2017新闻报道测试集包括约2000个句子,由专业人员从在线报纸样本翻译而来。微软团队对测试集进行了多轮评估,每次评估会随机挑选数百个句子翻译。为了验证微软的机器翻译是否与人类的翻译同样出色,微软没有停留在测试集本身的要求,而是从外部聘请了一群双语语言顾问,将微软的翻译结果与人工翻译进行比较。
 
验证过程之复杂也从另一个侧面体现了机器翻译要做到准确所面临的复杂性。对于语音识别等其它人工智能任务来说,判断系统的表现是否可与人类媲美相当简单,因为理想结果对人和机器来说完全相同,研究人员也将这种任务称为模式识别任务。
 
然而,机器翻译却是另一种类型的人工智能任务,即使是两位专业的翻译人员对于完全相同的句子也会有略微不同的翻译,而且两个人的翻译都不是错的。那是因为表达同一个句子的“正确的”方法不止一种。 周明表示:“这也是为什么机器翻译比纯粹的模式识别任务复杂得多,人们可能用不同的词语来表达完全相同的意思,但未必能准确判断哪一个更好。”
 
复杂性让机器翻译成为一个极有挑战性的问题,但也是一个极有意义的问题。刘铁岩认为,我们不知道哪一天机器翻译系统才能在翻译任何语言、任何类型的文本时,都能在“信、达、雅”等多个维度上达到专业翻译人员的水准。不过,他对技术的进展表示乐观,因为每年微软的研究团队以及整个学术界都会发明大量的新技术、新模型和新算法,“我们可以预测的是,新技术的应用一定会让机器翻译的结果日臻完善。”
 
研究团队还表示,此次技术突破将被应用到微软的商用多语言翻译系统产品中,从而帮助其它语言或词汇更复杂、更专业的文本实现更准确、更地道的翻译。此外,这些新技术还可以被应用在机器翻译之外的其他领域,催生更多人工智能技术和应用的突破。
 
机器翻译需要用到哪些算法?
 
对偶学习(Dual Learning):对偶学习的发现是由于现实中有意义、有实用价值的人工智能任务往往会成对出现,两个任务可以互相反馈,从而训练出更好的深度学习模型。例如,在翻译领域,我们关心从英文翻译到中文,也同样关心从中文翻译回英文;在语音领域,我们既关心语音识别的问题,也关心语音合成的问题;在图像领域,图像识别与图像生成也是成对出现。此外,在对话引擎、搜索引擎等场景中都有对偶任务。
 
一方面,由于存在特殊的对偶结构,两个任务可以互相提供反馈信息,而这些反馈信息可以用来训练深度学习模型。也就是说,即便没有人为标注的数据,有了对偶结构也可以做深度学习。另一方面,两个对偶任务可以互相充当对方的环境,这样就不必与真实的环境做交互,两个对偶任务之间的交互就可以产生有效的反馈信号。因此,充分地利用对偶结构,就有望解决深度学习和增强学习的瓶颈——训练数据从哪里来、与环境的交互怎么持续进行等问题。
 
 
对偶无监督学习框架
 
推敲网络(Deliberation Networks):“推敲”二字可以认为是来源于人类阅读、写文章以及做其他任务时候的一种行为方式,即任务完成之后,并不当即终止,而是会反复推敲。微软亚洲研究院机器学习组将这个过程沿用到了机器学习中。推敲网络具有两段解码器,其中第一阶段解码器用于解码生成原始序列,第二阶段解码器通过推敲的过程打磨和润色原始语句。后者了解全局信息,在机器翻译中看,它可以基于第一阶段生成的语句,产生更好的翻译结果。
 
 
推敲网络的解码过程
 
联合训练(Joint Training):这个方法可以认为是从源语言到目标语言翻译(Source to Target)的学习与从目标语言到源语言翻译(Target to Source)的学习的结合。中英翻译和英中翻译都使用初始并行数据来训练,在每次训练的迭代过程中,中英翻译系统将中文句子翻译成英文句子,从而获得新的句对,而该句对又可以反过来补充到英中翻译系统的数据集中。同理,这个过程也可以反向进行。这样双向融合不仅使得两个系统的训练数据集大大增加,而且准确率也大幅提高。
 
 
联合训练:从源语言到目标语言翻译(Source to Target)P(y|x) 与从目标语言到源语言翻译(Target to Source)P(x|y)
 
一致性规范(Agreement Regularization):翻译结果可以从左到右按顺序产生,也可以从右到左进行生成。该规范对从左到右和从右到左的翻译结果进行约束。如果这两个过程生成的翻译结果一样,一般而言比结果不一样的翻译更加可信。这个约束,应用于神经机器翻译训练过程中,以鼓励系统基于这两个相反的过程生成一致的翻译结果。
 
 
一致性规范:从左到右 和从右到左

责任编辑:吴一波

为您推荐

IBM、微软等多家跨国巨头入驻广州开发区

新华网广州1月8日电,广州开发区2006年预计完成工业总产值2006亿元,相当于1996年广州全市的工业总产值。建区22年来广州开发区再造了一个“经济广州”。其生产总值、工业增加值、财政收入、可支配财力、工业利润等五项指标,近两年连续称冠全国49个国家级开发区。新年伊始,英特尔、IBM、微软、甲骨文、百事高等五家跨国企业巨头将携手入驻开发区,都将于今日举行开业庆典。去年5月26日,广州有史以来最大的外资项目LG飞利浦液晶显示项目也选择落户广州开发区,该项目及系列厂最终投资总额总计将达20亿美元,预计全面投产后将形成近千亿元人民币的产值。目前,广州开发区内已吸引95家世界500强跨国企业入驻,数

CBS用微软“银光”在电视节目中融入用户创作内容

哥伦比亚广播公司(CBS)的地方电视台群4月30日宣布,将应用微软(Microsoft)的“银光”(Silverlight)技术,为本地台群的网站网络,实施其创新的“社区造”电视节目内容计划。银光是微软公司针对网上音视频应用所新推出的一种跨浏览器和跨操作系统平台的插件。CBS电视台群(CBSTelevisionStations)的新计划,已经在4月30至5月2日在拉斯维加斯(LasVegas)举行的建网技术专业会议MIX07(visitmix.com)上进行了展示。该计划旨在帮助将用户创建的数字媒体内容与传统的电视广播内容相融合,于是,可以在电视台节目中捕捉到CBS电视台群遍布美国各地观众的心

微软与中华电信将携手进军IPTV

5月22日消息,微软将与台湾中华电信于今天宣布携手进军数字家庭市场,率先在网络电视(IPTV)进行合作。包括微软全球副总裁暨大中华区执行官陈永正、大中华区区域总裁黄存义、中华电信董事长贺陈旦等人都将亲自出席。中华电信董事长贺陈旦本周应邀到美国微软总部西雅图参加全球总裁高峰论坛,并且成为微软创办人比尔盖兹豪宅的座上嘉宾。中华电信之前已砸下一.七亿元采购微软MSTV平台、进行测试,未来将评估MOD平台是否全面转换成MSTV。

微软中华电信IPTV合作 增加高端家庭应用

尽管早于2003年便已推出视频点播服务MOD,台湾第一大电信运营商中华电信22日宣布将推出采用微软技术的IPTV服务,增加较高端的数字家庭应用。电信界与软件界龙头中华电信与微软今宣布结成策略联盟,在中华电信董事长贺陈旦日前赴美与微软董事长完成合作签约后,将结合两家公司在通信与信息科技上的技术优势,在数字生活、中小企业服务、NGOSS(NewGenerationOperationSystemsandSoftware,新一代操作系统与软件),以及公益活动等领域合作。不过,双方并未透露未来合作细节,但首个可端出初步成果的,则是中华电信在既有MOD(MultimediaonDemand,视频点播)之外