0
雷鋒網(wǎng) AI 科技評論按：2019 年 7 月 1 日，清華大學(xué)人工智能研究院自然語言處理與社會人文計(jì)算研究中心成立儀式暨學(xué)術(shù)報(bào)告與開元成功發(fā)布會在清華大學(xué) FIT 樓舉行。這是繼知識智能研究中心、聽覺智能研究中心、基礎(chǔ)理論研究中心、智能機(jī)器人研究中心、智能人機(jī)交互研究中心、智能信息獲取研究中心、視覺智能研究中心之后成立的第八個(gè)研究中心。清華大學(xué)副校長、清華大學(xué)人工智能研究院管委會主任尤政院士，清華大學(xué)人工智能研究院院長張鈸院士出席成立儀式并共同為中心揭牌。清華大學(xué)人工智能研究院院長助理朱軍教授主持了成立儀式。
尤政院士與張鈸院士為中心揭牌
尤政院士在致辭中指出，自然語言處理一直以來都是計(jì)算機(jī)科學(xué)領(lǐng)域的一個(gè)重要方向，也被稱為「人工智能皇冠上的明珠」，是人工智能技術(shù)當(dāng)下和未來發(fā)展的戰(zhàn)略制高點(diǎn)。而清華大學(xué)作為國內(nèi)最早開展自然語言處理的單位之一，經(jīng)過四十年的不懈努力，已經(jīng)發(fā)展成國內(nèi)外自然語言處理研究的一方重鎮(zhèn)。因此，中心的成立對于推動清華大學(xué)人工智能的深入發(fā)展具有十分重要的意義。
將自然語言處理與社會科學(xué)及人文科學(xué)相結(jié)合，具有大跨度學(xué)科交叉的性質(zhì)。這既是人工智能研究本身的積極拓展，也是對傳統(tǒng)學(xué)科在人工智能時(shí)代的守正出新。希望中心能夠凝聚清華自然語言處理研究力量，加強(qiáng)與人文社科學(xué)科的交叉合作，開展具有世界水平的自然語言處理基礎(chǔ)理論研究和關(guān)鍵技術(shù)創(chuàng)新，服務(wù)于清華與國家的人工智能發(fā)展戰(zhàn)略。
尤政院士致辭
張鈸院士代表清華大學(xué)人工智能研究院致辭。他指出語言是人類智能的重要標(biāo)志，機(jī)器自然語言理解是人工智能的終極目標(biāo)。清華大學(xué)在自然語言處理方面有著深厚的研究積淀，1978 年成立人工智能與智能控制教研組時(shí)，自然語言處理就是其中的重要研究方向之一，在黃昌寧教授領(lǐng)導(dǎo)下迅速發(fā)展成為國內(nèi)領(lǐng)軍的研究單位。
新成立的中心將致力于實(shí)現(xiàn)自然語言處理與人文社科的深度融合，不僅僅是將人工智能技術(shù)融入人文社科領(lǐng)域，更需要從語言、社會學(xué)、人文學(xué)等人文社科的多個(gè)角度來反觀人類智能的本質(zhì)，這是研究院人工智能基礎(chǔ)研究的重要組成部分。希望中心再接再厲，在自然語言處理與社會學(xué)、人文學(xué)的交叉研究上形成特色，引領(lǐng)我國自然語言處理和社會人文計(jì)算研究領(lǐng)域的發(fā)展。
張鈸院士致辭
致辭結(jié)束后，尤政院士與張鈸院士共同為自然語言處理與社會人文計(jì)算研究中心揭牌，并向清華大學(xué)人工智能研究院常務(wù)副院長孫茂松教授頒發(fā)了中心主任聘書。研究中心同時(shí)聘請了中國中文信息學(xué)會原理事長、中國工程院院士倪光南，滑鐵盧大學(xué)講座教授、加拿大皇家科學(xué)院院士李明，微軟亞洲研究院副院長、國際計(jì)算語言學(xué)會會長周明，英國帝國理工學(xué)院數(shù)據(jù)科學(xué)研究所所長、英國皇家工程院院士郭毅可為學(xué)術(shù)顧問。
孫茂松教授被聘為中心主任
語言是人類區(qū)別于其他動物的根本標(biāo)志，沒有語言，人類的思維也就無從談起。自然語言處理旨在讓計(jì)算機(jī)掌握理解與處理人類語言的能力，體現(xiàn)了人工智能的最高任務(wù)與境界，只有當(dāng)計(jì)算機(jī)具有處理語言的能力時(shí)，機(jī)器才可能通過圖靈測試。
自然語言處理與社會人文計(jì)算研究中心將緊密圍繞人類語言所體現(xiàn)的人類智能本質(zhì)，重點(diǎn)研究魯棒、可解釋的自然語言處理方法與技術(shù)，深入探索語言理解與生成技術(shù)在社會人文計(jì)算領(lǐng)域的應(yīng)用，努力建設(shè)以中文為核心、覆蓋多種語言、從詞法到篇章的全流程自然語言處理技術(shù)框架與計(jì)算平臺，力爭產(chǎn)出以智能創(chuàng)作、智能語言學(xué)習(xí)、智能教育、智能司法為代表的、具有國際學(xué)術(shù)影響力、重大民生意義的社會人文計(jì)算研究成果。
中心的前身是清華大學(xué)計(jì)算機(jī)系自然語言處理課題組，早在上個(gè)世紀(jì)七十年代末就在黃昌寧教授的帶領(lǐng)下從事自然語言處理研究工作，是國內(nèi)開展相關(guān)研究最早、深具影響力的科研單位，同時(shí)也是中國中文信息學(xué)會（全國一級學(xué)會）計(jì)算語言學(xué)專業(yè)委員會的掛靠單位，孫茂松教授現(xiàn)任該專業(yè)委員會的主任。
中心成立儀式合影
主要研究方向
面向多粒度語言單元的統(tǒng)一語義表示框架；
從詞法到篇章的全流程自然語言處理技術(shù)體系；
數(shù)據(jù)與知識融合的多語言機(jī)器翻譯技術(shù)；
知識指導(dǎo)的自然語言深度理解與智能推理技術(shù)；
跨模態(tài)自然語言學(xué)習(xí)與處理結(jié)束
以自然語言處理為主要支撐手段的社會人文計(jì)算，包括智能創(chuàng)作、智能語言學(xué)習(xí)、智能教育、智能司法、智能傳播、智能音樂等。
代表性成果
1.THUMT—數(shù)據(jù)驅(qū)動的機(jī)器翻譯（已開源）
劉洋副教授向我們介紹了該開源成果 THUMT——它是一個(gè)是一個(gè)基于深度學(xué)習(xí)的機(jī)器翻譯系統(tǒng)。該系統(tǒng)使用了數(shù)據(jù)驅(qū)動的機(jī)器翻譯技術(shù)，具備良好的語言無關(guān)性，在具備訓(xùn)練數(shù)據(jù)的條件下可以迅速為新語種部署系統(tǒng)。支持漢語、英語、日語、俄語、西班牙語、葡萄牙語、德語、法語、阿拉伯語、維吾爾語等關(guān)鍵語言的機(jī)器翻譯系統(tǒng)，應(yīng)用于外交部、新疆公檢法等政府重要部門和搜狗、百度、捷通華聲等互聯(lián)網(wǎng)企業(yè)，在大規(guī)模多語言信息深度分析處理和高效服務(wù)方面做出貢獻(xiàn)，相關(guān)產(chǎn)品廣泛應(yīng)用于互聯(lián)網(wǎng)、金融、能源、電信、交通等行業(yè)領(lǐng)域。
本次開源成果公布了在 TensorFlow 平臺上開發(fā)的新版本，采用了主流的 Transformer 模型，集成了目前最新的神經(jīng)機(jī)器翻譯技術(shù)，具有訓(xùn)練速度快（支持多機(jī)多卡并行）、顯存占用低（支持單精度浮點(diǎn)數(shù)計(jì)算）、翻譯性能高（與國際機(jī)器翻譯開源軟件相比位居前列）、易于可視化分析（支持層級相關(guān)反饋算法）等優(yōu)點(diǎn)。此外還開放了 70 萬句對的句級對齊漢英平行語料庫和 4 萬句對的詞級對齊漢英平行語料庫。
項(xiàng)目網(wǎng)址：thumt.thunlp.org
在線翻譯系統(tǒng)網(wǎng)址：translate.thumt.cn
劉洋副教授介紹開源成果 THUMT
2.THUAIPoet—基于深度學(xué)習(xí)的中文詩歌自動生成系統(tǒng)（已開源）
矣曉沅博士生（清華大學(xué)特等獎(jiǎng)金獲得者，獲「中國網(wǎng)事，感動 2018」第三季度網(wǎng)絡(luò)感動人物）介紹了開源成果 THUAIPoet。
THUAIPoet（九歌）是一個(gè)基于深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)技術(shù)的中文詩歌自動生成系統(tǒng)，支持集句詩、絕句、藏頭詩、詞等不同體裁詩歌的在線生成。曾參加過中央電視臺 CCTV-1《機(jī)智過人》節(jié)目，與人類詩人同臺競技，取得了幾乎可與人媲美的效果。
此次成果發(fā)布開源了系統(tǒng)中的無監(jiān)督風(fēng)格詩歌生成模型 StylisticPoetry 源碼（相關(guān)論文發(fā)表于 EMNLP 2018），能夠在無標(biāo)注數(shù)據(jù)集上進(jìn)行任意數(shù)量的風(fēng)格解耦控制。此外還發(fā)布兩個(gè)人工標(biāo)注的詩歌數(shù)據(jù)集（詩歌質(zhì)量數(shù)據(jù)集和詩歌情緒數(shù)據(jù)集），以及國內(nèi)外詩歌生成相關(guān)的主要論文列表。
GitHub 網(wǎng)址：github.com/thunlp-aipoet
九歌 APP 網(wǎng)址：jiuge.thunlp.cn
矣曉沅博士生介紹開源成果 THUAIPoet
3.THUPM—知識指導(dǎo)的自然語言預(yù)訓(xùn)練模型（已開源）
2018 年起，以 BERT 為代表的模型，能夠利用大規(guī)模無標(biāo)注文本學(xué)習(xí)預(yù)訓(xùn)練模型，在自然語言處理各重要任務(wù)上均取得顯著性能提升，引起學(xué)術(shù)界和產(chǎn)業(yè)界的廣泛關(guān)注。實(shí)際上，文本中往往包含豐富的人類知識，如實(shí)體間復(fù)雜關(guān)系等。已有預(yù)訓(xùn)練模型無法考慮知識圖譜中的結(jié)構(gòu)化知識。中心團(tuán)隊(duì)認(rèn)為，結(jié)構(gòu)化知識可以指導(dǎo)預(yù)訓(xùn)練模型，提升模型對文本中低頻實(shí)體的理解能力。因此，提出一種融合知識圖譜實(shí)體表示和相應(yīng)預(yù)測任務(wù)的預(yù)訓(xùn)練模型（ERNIE），闡述該模型的論文已經(jīng)被 ACL 2019 錄用。
會上劉知遠(yuǎn)副教授對開源成果 OpenCLaP 作了介紹。OpenCLaP（Open Chinese Language Pre-trained Model Zoo）是一個(gè)多領(lǐng)域中文預(yù)訓(xùn)練模型倉庫。通過在多領(lǐng)域大規(guī)模中文文本的預(yù)訓(xùn)練，這些預(yù)訓(xùn)練模型可以在下游任務(wù)上進(jìn)行微調(diào)以提高任務(wù)性能。
本次開源成果公布了基于法律文本和百度百科千萬級文檔的預(yù)訓(xùn)練模型，支持最大 512 長度的文本輸入適配多種任務(wù)需求。未來還將持續(xù)加入更多更強(qiáng)的預(yù)訓(xùn)練模型，如增加更多訓(xùn)練語料，引入大規(guī)模知識，使用全詞覆蓋策略等。
GitHub 網(wǎng)址：github.com/thunlp/OpenCLaP
項(xiàng)目網(wǎng)址：zoo.thunlp.org
劉知遠(yuǎn)副教授介紹開源成果 OpenCLaP
4. 融合大規(guī)模知識的中文語義表示學(xué)習(xí)方法
為了實(shí)現(xiàn)面向現(xiàn)實(shí)空間、網(wǎng)絡(luò)空間和認(rèn)知空間中的互聯(lián)網(wǎng)海量文本、語言知識和世界知識等多源異質(zhì)信息的深度理解與計(jì)算，在孫茂松教授擔(dān)任首席科學(xué)家的國家重點(diǎn)基礎(chǔ)研究計(jì)劃項(xiàng)目支持下，中心團(tuán)隊(duì)提出融合大規(guī)模知識的中文語義表示學(xué)習(xí)方法體系，在融合語言知識的語言單元表示學(xué)習(xí)和世界知識表示學(xué)習(xí)方面提出多種高效算法。
在自然語言處理重要國際期刊和會議發(fā)表 40 余篇論文，被 MIT、CMU、 Google、 Facebook 等研究機(jī)構(gòu)列為代表方法，獲得引用超過 4000 次, 相關(guān)開源算法獲得近 2 萬星標(biāo)關(guān)注。
5. 大規(guī)模結(jié)構(gòu)化知識的自動獲取技術(shù)
為了從海量自由文本中自動抽取結(jié)構(gòu)化知識，支撐復(fù)雜場景下的自然語言處理的知識需求，中心團(tuán)隊(duì)面向?qū)嶓w關(guān)系抽取等關(guān)鍵知識獲取任務(wù)，開展了深入技術(shù)研究和數(shù)據(jù)集合構(gòu)建。創(chuàng)造性地提出了句子級別選擇注意力機(jī)制、對抗訓(xùn)練機(jī)制等技術(shù)方案，有效緩解了遠(yuǎn)程監(jiān)督訓(xùn)練數(shù)據(jù)的噪音問題，并能夠更好地利用跨語言訓(xùn)練數(shù)據(jù)。
團(tuán)隊(duì)還面向多種挑戰(zhàn)場景構(gòu)建大規(guī)模標(biāo)注數(shù)據(jù)集合，例如面向少次學(xué)習(xí)的 FewRel 數(shù)據(jù)集，面向文檔級關(guān)系抽取的 DocRED 數(shù)據(jù)集等。相關(guān)研究成果在自然語言處理重要國際期刊和會議發(fā)表 10 余篇論文，被 MIT、CMU、UCB 等研究機(jī)構(gòu)列為代表方法。
6. 基于自然語言處理技術(shù)的法律智能
法律智能旨在利用人工智能技術(shù)輔助法律行業(yè)，提升司法行政事業(yè)各環(huán)節(jié)的智能化水平，緩解案多人少矛盾，避免同案不同判現(xiàn)象，是我國推進(jìn)全面依法治國戰(zhàn)略布局的關(guān)鍵支撐技術(shù)。
中心研究團(tuán)隊(duì)深入研究智慧司法任務(wù)，提出了全面的技術(shù)規(guī)范流程，提出的要素式多任務(wù)判決預(yù)測、要素判決預(yù)測、神經(jīng)網(wǎng)絡(luò)信息抽取等技術(shù)，為法律智能提供了更加高效魯棒的解決方案；構(gòu)建大規(guī)模數(shù)據(jù)集用于訓(xùn)練構(gòu)建機(jī)器學(xué)習(xí)模型，組織了國內(nèi)首個(gè)法律智能挑戰(zhàn)賽，吸引國內(nèi)外超過 600 支隊(duì)伍參加，刑期預(yù)測任務(wù)準(zhǔn)確率從最初的 30% 提升至 78%，極大推動了我國法律智能研究與應(yīng)用的發(fā)展；團(tuán)隊(duì)與法學(xué)院合作開展「計(jì)算法學(xué)」碩士項(xiàng)目，并于 2018 年首次招生, 受到社會各界廣泛關(guān)注。
李明：第二代對話機(jī)器人
李明院士做了題為《第二代對話機(jī)器人》的特邀報(bào)告。
報(bào)告指出缺乏理解能力、缺乏學(xué)習(xí)能力、被動地「人云亦云」是第一代聊天機(jī)器人的主要缺陷，其原因在于目前的深度學(xué)習(xí)技術(shù)還不具備理解和使用人類語言所必需的概念抽象和邏輯推理能力。他認(rèn)為實(shí)現(xiàn)理解和學(xué)習(xí)是第二代聊天機(jī)器人的主要目標(biāo)，機(jī)器人只有通過自動學(xué)習(xí)和社會參與才能獲得不斷地成長，從而具備更強(qiáng)的運(yùn)用人類語言的能力。
李明院士做特邀報(bào)告
周明：關(guān)于神經(jīng)網(wǎng)絡(luò)自然語言處理的思考
周明博士做了題為《關(guān)于神經(jīng)網(wǎng)絡(luò)自然語言處理的思考》的特邀報(bào)告。
報(bào)告對基于神經(jīng)網(wǎng)絡(luò)的自然語言處理的研究進(jìn)展進(jìn)行了系統(tǒng)地回顧與總結(jié)，指出自然語言處理目前面臨著深度學(xué)習(xí)計(jì)算成本高昂、大規(guī)模標(biāo)注數(shù)據(jù)稀缺、難以實(shí)現(xiàn)真正的理解與推理等關(guān)鍵挑戰(zhàn)。他認(rèn)為未來應(yīng)當(dāng)從計(jì)算能力、數(shù)據(jù)資源、模型算法、系統(tǒng)應(yīng)用、人才培養(yǎng)、交叉合作等六個(gè)方面進(jìn)一步推動自然語言處理的發(fā)展。
周明博士做特邀報(bào)告
雷鋒網(wǎng) AI 科技評論 雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
