0
| 本文作者： 郭思 | 2023-11-01 18:50 | 專題：全面突破 vivo NEX |
11月1日vivo開發(fā)者大會上，vivo發(fā)布自研AI"藍(lán)心"大模型，并發(fā)布大模型矩陣，包括1750億、1300億、700億、70億、10億五款不同參數(shù)規(guī)模的大模型，并宣布130億藍(lán)心大模型實(shí)現(xiàn)端側(cè)跑通，開源7B大模型。
其中1750億參數(shù)已達(dá)到GPT-3參數(shù)水平，同時(shí)vivo也是國內(nèi)首家開源7B大模型的手機(jī)廠商。
可以說vivo 這次開發(fā)者大會，給手機(jī)行業(yè)丟了一枚重磅炸彈。
早在2017年，vivo就成立了人工智能全球研究院。
而且vivo一直關(guān)注通用人工智能的進(jìn)展，對于ChatGPT引發(fā)的大模型熱潮，vivo高級副總裁施玉堅(jiān)的判斷是：真正好的自研大模型應(yīng)該是大而全、算法強(qiáng)、真安全、自進(jìn)化、廣開源五個(gè)特征兼具。
在此vivo開發(fā)者大會，vivo發(fā)布的藍(lán)心的大模型第一大亮點(diǎn)便是便是參數(shù)高達(dá)1750億，一舉達(dá)到了GPT-3的參數(shù)規(guī)模。
早在8月份小米的大模型MiLM-6B就已經(jīng)公布在了GitHub上，從GitHub上的信息可以得知，MiLM-6B的參數(shù)規(guī)模達(dá)64億。華為此前盤古3.0為客戶提供100億參數(shù)、380億參數(shù)、710參數(shù)和1000億參數(shù)的系列化基礎(chǔ)大模型。
相比起來，vivo發(fā)布的藍(lán)心大模型1750億的參數(shù)規(guī)模，在一眾手機(jī)廠商中一騎絕塵。
根據(jù)發(fā)布會資料現(xiàn)在，除了超大規(guī)模的1750億參數(shù)和1300億參數(shù)模型外， 700億參數(shù)模型的vivo云端主力模型， 70億藍(lán)心大模型7B則是是面向手機(jī)打造的端云兩用模型，在語言理解、文本創(chuàng)作等場景下表現(xiàn)非常優(yōu)秀。綜合表現(xiàn)行業(yè)領(lǐng)先，在各大中文榜單持續(xù)名列前茅。而10億藍(lán)心大模型1B則是面向端側(cè)場景打造的專業(yè)文本大模型，具備本地化的文本總結(jié)、摘要等能力，處理過程準(zhǔn)確又安全。
值得一提的是，vivo此次也開源了70億藍(lán)心大模型7B，成為了首個(gè)開源自研大模型的手機(jī)廠商。
大模型浪潮之下，開源和閉源成為商業(yè)模式上的交鋒之戰(zhàn)。
自Llama 2后，開源逐漸成為主流趨勢，行業(yè)內(nèi)甚至有聲音表示未來開源大模型將殺死閉源。
vivo自研大模型的開源意味著，vivo正式加入了這場大模型開源之戰(zhàn)，赤裸裸的接受行業(yè)人士的檢驗(yàn)和批判。而另一方面，施玉堅(jiān)在開發(fā)者大會上也表示，vivo還推出了藍(lán)心大模型開發(fā)套件BlueKit，讓其他手機(jī)廠商和開發(fā)者可以基于這款模型進(jìn)行二次開發(fā)和創(chuàng)新。
關(guān)于華米OV的競爭，從智能手機(jī)時(shí)代的各項(xiàng)功能的角逐，發(fā)展到如今大模型時(shí)代各家的布局。如何實(shí)現(xiàn)輕量化、本地化的端側(cè)部署是一個(gè)競爭關(guān)鍵。
某手機(jī)廠商內(nèi)部員工告訴AI科技評論，大模型在端側(cè)跑起來這個(gè)事兒和跑的好用起來是完全兩個(gè)概念，只要內(nèi)存夠大，別說13B、130B都能跑起來。
端側(cè)大模型本身就不容易，相比起在云端運(yùn)行，走端側(cè)這條路徑意味著廠商需要在很小的算力空間，做出媲美超級大模型的效果。
大模型的特點(diǎn)是參數(shù)夠大，在運(yùn)行時(shí)需要大量的內(nèi)存來存儲模型參數(shù)和臨時(shí)數(shù)據(jù)，而手機(jī)芯片通常具有有限的內(nèi)存資源。能跑起來可能只是意味著手機(jī)上裝有這個(gè)大模型，但是一旦使用，手機(jī)就會過熱、卡頓。離理想的使用體驗(yàn)距離相差較遠(yuǎn)。
將一個(gè)大模型部署在端側(cè)，行業(yè)采用的做法是GPU與NPU結(jié)合的方式。GPU自不用多說，負(fù)責(zé)端側(cè)的圖形渲染處理和并行計(jì)算。
NPU（Neural-network Processing Unit，神經(jīng)網(wǎng)絡(luò)處理器）則是一類基于DSA (Domain Specific Architecture) 領(lǐng)域?qū)Ｓ眉軜?gòu)技術(shù)的專用于人工智能（特別是人工神經(jīng)網(wǎng)絡(luò)、機(jī)器視覺、機(jī)器學(xué)習(xí)等）硬件加速的微處理器。
可以簡單理解成NPU是去掉圖形光柵這些的GPU。大模型參數(shù)太大，也就是說相比起在云端運(yùn)行，大模型要想在端側(cè)運(yùn)行就必須借用NPU這個(gè)助手。
這一點(diǎn)也可以從各家芯片廠商的動態(tài)看出端倪，在剛剛過去的高通驍龍發(fā)布會上，高通對驍龍8 Gen3的 Adreno GPU 和 Hexagon NPU 進(jìn)行了大幅升級。
一位行業(yè)人士告訴AI科技評論，自從生成式A浪潮掀起之后，高通也在不停地考察，怎么樣改變現(xiàn)在大模型與英偉達(dá) GPU 綁定的趨勢，高通自己做了一個(gè)NPU框架，但內(nèi)部客戶用起來，并不是很好用，好多算法在NPU的框架上都沒有跑起來。
而作為全球移動芯片無冕之王的架構(gòu)大廠Arm而言，對于NPU的部署也一直在進(jìn)行，Arm很早之前就推出Arm智能視覺參考設(shè)計(jì)，集成了安謀科技開發(fā)的玲瓏VPU和周易NPU。
此次vivo開發(fā)者大會，vivo高級副總裁施玉堅(jiān)表示，vivo藍(lán)心大模型在端側(cè)的運(yùn)行可以直接跳過NPU，只需要在GPU上運(yùn)行。這句話被一語帶過，到底是一句噱頭還是行業(yè)重大突破，我們暫時(shí)還不得而知。但是可以肯定的是，如果vivo真的能實(shí)現(xiàn)在端側(cè)部署大模型不需要用到NPU，那將會成為行業(yè)的重大突破。
不過從效果上來看，vivo10億參數(shù)藍(lán)心大模型1B確實(shí)驚艷。
在此次開發(fā)者大會上，vivo10億參數(shù)藍(lán)心大模型1B的運(yùn)行效果可達(dá)到最快64字/秒（3840/分）的出詞速度。而資料顯示，根據(jù)輸入的關(guān)鍵詞或文章大綱，自動生成相應(yīng)的文章段落或初稿，ChatGPT平均速度約為2000-3000字每分鐘。如果真如宣傳所說，那么vivo10大模型端側(cè)的運(yùn)行效果能超過ChatGPT。
不過值得注意的是，雖然行業(yè)一直在談終端運(yùn)行大模型，但是我們還是得區(qū)分瘦終端與標(biāo)準(zhǔn)終端的區(qū)別。
標(biāo)準(zhǔn)終端設(shè)備具備自己的硬盤、RAM、控制計(jì)算單元，通過安裝full-fledged OS可以跑計(jì)算和存儲程序，乃至于具備近場的AI算力，具有完整的運(yùn)算能力。
而瘦終端則是指一個(gè)終端只具備最基礎(chǔ)的硬件設(shè)施和輕量級的light OS，其所有的功能都必須通過聯(lián)網(wǎng)/云端實(shí)現(xiàn)，終端本身通常只具備基礎(chǔ)的顯示或者初級的計(jì)算存儲功能。
簡而言之，就是市面很多廠商宣傳的終端運(yùn)算其實(shí)模型存儲在云，計(jì)算也還是在云，終端只負(fù)責(zé)基礎(chǔ)的展示和實(shí)現(xiàn)。
這兩者概念的混淆也可能會成為大眾對于終端運(yùn)行效果的誤解。（大模型在端側(cè)的部署和運(yùn)行或許不止存在概念上的誤會，更有各種落地上的難點(diǎn)和困難，對于這個(gè)趨勢，歡迎添加本文作者：郭思 微信號lionceau2046，暢聊你的看法）
在此次vivo開發(fā)者大會上，vivo表示，藍(lán)心大模型在SuperCLUE-Sagety安全總榜上超過了訊飛星火與文心一言，以總分85.17的分?jǐn)?shù)霸榜第一。榜單當(dāng)然只是一個(gè)輔助標(biāo)準(zhǔn)，但是主打安全這一點(diǎn)確定是vivo與現(xiàn)在市面上其他手機(jī)大模型廠商的一個(gè)顯著競爭點(diǎn)。
在大模型布局上，小米注重“輕量化、本地部署”同時(shí)也發(fā)力了諸如機(jī)器人、智能家居等多種產(chǎn)品形態(tài)，而和vivo同出一脈的OPPP近期也有新動作，注重大模型在語音助手上帶來的巨大改變。
vivo的側(cè)重點(diǎn)則回到了手機(jī)廠商做大模型最本源的優(yōu)勢，數(shù)據(jù)與安全。
手機(jī)作為每個(gè)人日常生活的必備終端，存儲著非常多個(gè)性化和隱私化的數(shù)據(jù)，如果全部在云端運(yùn)行，隱私泄露等事情比比皆是。
另一方面，在ChatGPT浪潮掀起之前，可信AI本來就是行業(yè)關(guān)注的重點(diǎn)，如果避免大模型的幻覺、偏見、毒性等問題也是各方在進(jìn)行技術(shù)研發(fā)時(shí)所關(guān)注的重點(diǎn)。
在安全方面，除了模型的可信性得到了保證，vivo此次還推出了藍(lán)河操作系統(tǒng)，主打智慧、流暢、安全。值得一提是是藍(lán)河操作系統(tǒng)是行業(yè)首個(gè)系統(tǒng)框架由Rust語言編寫的操作系統(tǒng)，用Rust語音編寫也是保障安全的一個(gè)重中之重。
目前常見的操作系統(tǒng)內(nèi)核都是基于 C 語言，因?yàn)?C 語言簡單獨(dú)立十分好用，但也有它的缺點(diǎn)缺少有效的并發(fā)支持，導(dǎo)致內(nèi)存和并發(fā)漏洞成為當(dāng)前操作系統(tǒng)的噩夢，也就是不夠安全。
而 Rust 語言具有與 C 一樣的硬件控制能力，且大大強(qiáng)化了安全編程。從某種角度上看，新出現(xiàn)的 Rust 語言的核心目標(biāo)是解決 C 的短板，取代 C。所以用 Rust 寫 OS 具有很好的開發(fā)和運(yùn)行的體驗(yàn)。
藍(lán)河OS有幾個(gè)亮點(diǎn)，比如說：和AI大模型深度捆綁，能夠自動生成桌面，沒有虛擬機(jī)，直接內(nèi)核運(yùn)行，還按PC的設(shè)計(jì)理念做OS。
可以說對于安全，vivo打出了一套組合拳，這也是為什么開發(fā)者大會上，vivo一直強(qiáng)調(diào)自研大模型必須真安全的原因。
環(huán)顧整個(gè)手機(jī)賽道， 目前競爭已經(jīng)進(jìn)入存量博弈階段，手機(jī)廠商需要在新技術(shù)上建立競爭優(yōu)勢，也需要通過新的賣點(diǎn)角逐高端市場。
這次vivo開發(fā)者大會給人明顯感覺就是vivo在多條腿走路。
而從單一的手機(jī)布局到如今的多矩陣走路，這一點(diǎn)，與其說是vivo沖向AI時(shí)代的技術(shù)高歌，不如說，是vivo面向現(xiàn)今手機(jī)行業(yè)困境的一次反擊。
在這場反擊過程，vivo對于大模型的布局讓人眼前一亮，也讓人不得不期待后續(xù)vivo大模型故事的走向。（其它手機(jī)廠商在大模型領(lǐng)域又有哪些動態(tài)和故事，歡迎添加本文作者郭思，微信號：lionceau2046，互通有無。）
雷峰網(wǎng) 雷峰網(wǎng)(公眾號：雷峰網(wǎng)) 雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
專題
本專題其他文章
