從感知世界到認知世界?“紫東太初”全模態(tài)大模型持續(xù)探索通用人工智能新路徑

5月6日，在華為昇騰AI開發(fā)者峰會上，中國科學(xué)院自動化研究所“紫東太初”大模型研究中心常務(wù)副主任、武漢人工智能研究院院長王金橋研究員介紹，基于華為全棧國產(chǎn)化軟硬件平臺昇騰AI與開源AI框架昇思MindSpore，中國科學(xué)院自動化研究所和武漢人工智能研究院正在聯(lián)合打造 “紫東太初”2.0全模態(tài)大模型，可實現(xiàn)文本、圖片、語音、視頻、3D點云、傳感信號等不同模態(tài)的統(tǒng)一表征和學(xué)習(xí)，助推通用人工智能時代加速到來。

超前布局，堅持以多模態(tài)技術(shù)探索通用人工智能

從嬰幼兒開始，人類的認知學(xué)習(xí)就是建立在對現(xiàn)實世界圖像、聲音和文字等多種模態(tài)信息基礎(chǔ)之上。突破模態(tài)限制，實現(xiàn)圖、文、音等更多模態(tài)的通用大模型是人工智能融入現(xiàn)實世界的必然。

2019年開始，自動化所在語音、文本、圖像等單模態(tài)大模型研究和應(yīng)用基礎(chǔ)上，瞄準多模態(tài)大模型領(lǐng)域開始聯(lián)合攻關(guān)，并于2021年7月正式發(fā)布了全球首個千億參數(shù)多模態(tài)大模型“紫東太初”，以多模態(tài)技術(shù)探索通用人工智能發(fā)展道路。

區(qū)別于當前以文本為主的大部分語言大模型，“紫東太初”大模型在研發(fā)之初即堅持以多模態(tài)技術(shù)為核心，利用圖-音-文等更多類型數(shù)據(jù)進行跨模態(tài)的統(tǒng)一表征和學(xué)習(xí)，實現(xiàn)了圖像、文本、語音三模態(tài)數(shù)據(jù)間的“統(tǒng)一表示”與“相互生成”，使人工智能大模型的理解和生成能力更加接近人類，為貫通多模態(tài)人工智能行業(yè)應(yīng)用提供了創(chuàng)新基礎(chǔ)，向通用人工智能邁出關(guān)鍵一步。

從感知到認知，面向數(shù)字物聯(lián)世界再上新臺階

世界已經(jīng)進入了數(shù)字物聯(lián)時代。在“紫東太初”1.0應(yīng)用推廣過程中，除了需要處理海量語音、圖像和文本等互聯(lián)網(wǎng)信息外，更需要處理多種傳感器、3D點云及視頻等物聯(lián)網(wǎng)海量數(shù)據(jù)，才能滿足現(xiàn)實生產(chǎn)力的提高。針對數(shù)字物聯(lián)時代的新需求與新趨勢，中科院自動化研究所研究探索全模態(tài)大模型體系架構(gòu)和基礎(chǔ)算法，持續(xù)推動“紫東太初”技術(shù)和應(yīng)用發(fā)展。

在文本、圖片、音頻、視頻的基礎(chǔ)上，“紫東太初” 2.0可融入3D、視頻、傳感信號等更多模態(tài)數(shù)據(jù)，并優(yōu)化語音、視頻和文本的融合認知以及常識計算等功能，進一步突破感知、認知和決策的交互屏障，讓人工智能從感知世界進化為認知世界，延伸出更加強大的通用能力。

打造全棧國產(chǎn)化通用人工智能底座

全棧國產(chǎn)化通用人工智能平臺的實踐對我國實現(xiàn)AI領(lǐng)域科技自立自強、占領(lǐng)科技創(chuàng)新高地具有重要的戰(zhàn)略意義?！白蠔|太初”大模型從立項開始，就以中科院自動化所自研算法為核心，以全棧國產(chǎn)化基礎(chǔ)軟硬件昇騰AI平臺為基礎(chǔ)，依托武漢人工智能計算中心算力支持，真正意義上實現(xiàn)了國產(chǎn)人工智能大模型的可控、可信、可用，有力地促進了國產(chǎn)全棧式基礎(chǔ)軟硬件的發(fā)展。

目前，由自動化牽頭打造的多模態(tài)人工智能產(chǎn)業(yè)聯(lián)合體已陸續(xù)吸納產(chǎn)學(xué)研各界近70家成員單位。圍繞多模態(tài)大模型技術(shù)及應(yīng)用，“紫東太初”大模型已在手語教學(xué)、法律咨詢、交通出行、廣電、醫(yī)療機器人、醫(yī)學(xué)影像判讀等數(shù)十個行業(yè)場景領(lǐng)域已展現(xiàn)出廣闊的落地潛力。在華為昇騰AI開發(fā)者峰會，“紫東太初”大模型開源了基于昇騰與昇思的3.8B圖像-文本-語音多模態(tài)模型并開放紫東太初大模型服務(wù)平臺。

從互聯(lián)網(wǎng)的圖音文多模態(tài)走向物聯(lián)網(wǎng)的全模態(tài)，以打造國產(chǎn)化通用人工智能底座為目標，自動化所將持續(xù)推進“紫東太初”大模型基礎(chǔ)理論、關(guān)鍵技術(shù)和應(yīng)用生態(tài)的全鏈條自主創(chuàng)新，著力以自主可控基礎(chǔ)軟硬件建立開源開放的多模態(tài)產(chǎn)業(yè)生態(tài)，不懈探索通用人工智能創(chuàng)新路徑。

雷峰網(wǎng)(公眾號：雷峰網(wǎng))