0
| 本文作者： 我在思考中 | 2021-08-31 11:28 |
作者 | 吳彤
編輯 | 青暮
買了Colab pro級(jí)會(huì)員，就一定能用上V100和P100？不，也有可能會(huì)分配到Tesla T4！
半個(gè)月前，谷歌推出pro+級(jí)會(huì)員，pro級(jí)會(huì)員“一臉懵逼”，在昨天的Reddit論壇上，網(wǎng)友“炸了鍋”。
目前，谷歌Colab的GPU主要有4種：K80、T4、P100 和 V100 ，按照基準(zhǔn)測(cè)試結(jié)果，它們的性能排序是：K80<T4<P100<V100。
對(duì)于Colab用戶來說，充錢買Pro本身就是想要更好的算力，T4顯然不符合他們對(duì)于GPU的期待。
Colab 免費(fèi)版、Pro 、Pro + 有啥不同？
對(duì)于學(xué)生黨和科研黨來說，能用到谷歌Colab訓(xùn)練服務(wù)器的網(wǎng)站，即便是9.99 美元一個(gè)月（幾乎60元人民幣）的會(huì)員費(fèi)，總比自己買或租 一個(gè)GPU 要?jiǎng)澦愕枚唷?/span>
但Colab 又上線一款新的會(huì)員服務(wù)——Colab Pro+，一個(gè)月 49.99 美元（幾乎一個(gè)月300元人民幣），對(duì)于習(xí)慣了 9.99 美元的用戶來說，49.99 美元屬實(shí)有點(diǎn)貴了。而且，這樣一來，pro會(huì)員就處于尷尬的境地，“會(huì)員之上還有會(huì)員，四舍五入等于沒買？”
至于這一個(gè)月 50 刀的花費(fèi)，究竟升級(jí)了什么，谷歌在“常見問題解答”里寫得非常清楚。總結(jié)一下就是：
免費(fèi)的就只能用老古董 K80，Pro 和 Pro+ 用戶可以使用 T4 和 P100 GPU，還可以優(yōu)先使用 TPU；
Colab Pro+ 訂閱者能享受更高的連接穩(wěn)定性，即使關(guān)閉計(jì)算機(jī)或?yàn)g覽器標(biāo)簽頁后，筆記本也能繼續(xù)執(zhí)行，上限是 24 小時(shí)。
但是，在幾乎所有服務(wù)中，資源供應(yīng)還是沒有保證，并且依然存在用量限額。
以下是問題解答的詳細(xì)內(nèi)容：
Colab Pro 和 Pro+ 提供哪些類型的 GPU？
訂閱 Colab Pro 后，用戶可以優(yōu)先使用谷歌最快的 GPU；訂閱 Pro+ 后，還可獲享更多福利。例如，有時(shí)，當(dāng)非訂閱者只能使用 K80 GPU 時(shí)，訂閱者卻可以使用 T4 和 P100 GPU。此外，用戶還可以優(yōu)先使用 TPU。但是 Colab Pro 和 Pro+ 依然存在用量限額，并且可用的 GPU 和 TPU 類型可能會(huì)不時(shí)變化。
在免費(fèi)版 Colab 中，用戶對(duì)較快 GPU 和 TPU 的使用權(quán)限非常有限，用量額度也比 Colab Pro 和 Pro+ 低很多。
Colab Pro 和 Pro+ 中的筆記本可以運(yùn)行多久？
在 Colab Pro 中，筆記本可以保持連接長(zhǎng)達(dá) 24 小時(shí)，空閑超時(shí)設(shè)置相對(duì)寬松。但實(shí)際連接時(shí)長(zhǎng)并沒有保證，空閑超時(shí)設(shè)置有時(shí)會(huì)變化。Colab Pro+ 訂閱者還可獲享更高的連接穩(wěn)定性。
在免費(fèi)版 Colab 中，筆記本最長(zhǎng)可以運(yùn)行 12 小時(shí)，空閑超時(shí)設(shè)置比 Colab Pro 或 Pro+ 嚴(yán)格很多。
Colab Pro 和 Pro+ 提供多大內(nèi)存？
訂閱 Colab Pro 后，用戶可以優(yōu)先使用高內(nèi)存虛擬機(jī)。訂閱 Pro+ 后，還可獲享更多福利。這些虛擬機(jī)的磁盤空間通常比標(biāo)準(zhǔn) Colab 虛擬機(jī)大很多，訂閱后可以通過一項(xiàng)筆記本設(shè)置啟用高內(nèi)存虛擬機(jī)。此外，當(dāng) Colab 檢測(cè)到用戶可能需要高內(nèi)存虛擬機(jī)時(shí)，有時(shí)可能還會(huì)自動(dòng)分配這樣的虛擬機(jī)。
Colab Pro 和 Pro+ 虛擬機(jī)的磁盤空間通常也比標(biāo)準(zhǔn) Colab 虛擬機(jī)大很多。不過，并不能保證資源供應(yīng)，高內(nèi)存虛擬機(jī)也存在用量限額。
免費(fèi)版 Colab 不提供高內(nèi)存偏好設(shè)置，也很少向用戶自動(dòng)分配高內(nèi)存虛擬機(jī)。
什么是“后臺(tái)執(zhí)行”？
訂閱 Colab Pro+ 后即可使用后臺(tái)執(zhí)行功能，當(dāng)用戶關(guān)閉計(jì)算機(jī)或?yàn)g覽器標(biāo)簽頁后，筆記本也能繼續(xù)執(zhí)行，并且執(zhí)行時(shí)間可達(dá)虛擬機(jī)的生命周期上限，即 24 小時(shí)。在執(zhí)行完每個(gè)單元格后，輸出將保存到云端硬盤。和往常一樣，資源供應(yīng)并沒有保證，并且依然存在用量限額。
Colab Pro 用戶的執(zhí)行時(shí)間更久，并且如果供應(yīng)情況允許，用戶可以將輸出保存到云端硬盤。
如果用戶沒有訂閱付費(fèi)服務(wù)，則不能依賴于后臺(tái)執(zhí)行功能，當(dāng)用戶互動(dòng)停止時(shí)，執(zhí)行就會(huì)中斷，接著系統(tǒng)很快就會(huì)刪除虛擬機(jī)。
為什么 Colab Pro 或 Pro+ 不能就資源供應(yīng)做出保證？
為了在 Colab 中以相對(duì)較低的價(jià)格提供更快的 GPU、更長(zhǎng)的運(yùn)行時(shí)和更大的內(nèi)存，Colab 需要保持即時(shí)調(diào)整用量限額和硬件供應(yīng)情況的靈活性。雖然無法做出保證，但預(yù)計(jì)只要將 Colab Pro 和 Pro+ 用于預(yù)定用途（即交互式計(jì)算），大多數(shù)訂閱者遇到的用量限額問題會(huì)少之又少。
如何才能充分利用 Colab Pro 和 Pro+？
Colab Pro 和 Pro+ 中的資源會(huì)優(yōu)先提供給最近資源用量較少的訂閱者，以防少數(shù)用戶獨(dú)占有限的資源。為充分利用 Colab Pro 和 Pro+，請(qǐng)?jiān)谕瓿晒ぷ骱箨P(guān)閉 Colab 標(biāo)簽頁，并在沒有實(shí)際需求時(shí)避免選用 GPU 或額外內(nèi)存。這樣，用戶在 Colab Pro 和 Pro+ 中遇到用量限額的情況就會(huì)減少。
Colab Pro 和 Pro+ 已在哪些地區(qū)推出？
Colab Pro 和 Pro+ 目前僅在以下國家 / 地區(qū)推出：美國、加拿大、日本、巴西、德國、法國、印度、英國和泰國。
網(wǎng)友：Pro + 是來擠占 Pro 資源的？
在國外Reddit 論壇上，一些網(wǎng)友對(duì)谷歌新上線的付費(fèi)模式展開了討論：49.99 刀的 Pro + 用戶突然出現(xiàn)，Pro 用戶可能不再擁有那樣的優(yōu)先權(quán)了……
“Colab Pro+ 看起來像幾個(gè)月前的 Colab Pro，免費(fèi) Colab 用戶以后豈不是要卑微到塵埃里？”
也有網(wǎng)友表示認(rèn)同：谷歌該賺點(diǎn)錢了
相當(dāng)于你付了會(huì)員費(fèi)，但享受著約等于原來免費(fèi)用戶的權(quán)益。谷歌是下決心要用 Colab 賺點(diǎn)錢了？
谷歌Colab近年來動(dòng)作不斷，或許早已計(jì)劃付費(fèi)
去年有人發(fā)現(xiàn)，自己在運(yùn)行 Colab 時(shí)獲得的 GPU 是 Tesla V100：“是 V100，而不是 P100。因?yàn)槲沂?Colab pro版用戶。”
但其實(shí)近三年來，Colab 的硬件歷經(jīng)幾次升級(jí)。
先是19年 4 月，谷歌將 Colab 的 GPU 從古董級(jí)別的 K80 升級(jí)到了更加適合做低精度的推斷的 Tesla T4，訓(xùn)練比 K80 快了很多。
19年 11 月，Colab 又一次開放了 P100，一年之內(nèi)兩次硬件升級(jí)。
要知道，Tesla V100 是英偉達(dá)上一代處理器架構(gòu) Volta 的首款設(shè)備，發(fā)布于 2017 年 5 月，其核心 GV100 GPU 包含 211 億個(gè)晶體管，是上代 Tesla P100 的 1.37 倍，芯片面積則達(dá)到了 815 平方毫米，采用臺(tái)積電 12nm FFN 專屬工藝打造。
從薅羊毛的角度來說，P100 的性能已經(jīng)足夠優(yōu)秀，但 V100 顯然更加強(qiáng)大。
如今谷歌推出pro+會(huì)員，網(wǎng)友們?cè)诘卿汣olab后發(fā)現(xiàn)，事情沒有想象得這么糟糕。
不少人去試了試，發(fā)現(xiàn)對(duì)于pro會(huì)員，搞到一個(gè)P100 GPU還是很容易的，應(yīng)該不是想象中的“官方Pro降級(jí)”。“Pro會(huì)員拿到T4”的具體原因，可能只是恰好趕上了使用高峰期；此外，如果經(jīng)常在高峰期大量使用GPU，會(huì)員的優(yōu)先級(jí)也會(huì)下降。
但這并不意味著某個(gè)會(huì)員就一定能用上某個(gè)型號(hào)的顯卡。
從這幾年來看，谷歌Colab一直是采用免費(fèi)的商業(yè)策略：先通過免費(fèi)的東西把用戶吸引過來，再挑選合適的商品賣給一部分用戶。免費(fèi)背后，本質(zhì)是一種交叉補(bǔ)貼。
于是，靠補(bǔ)貼吸引用戶就成為前期標(biāo)準(zhǔn)動(dòng)作，之后再找商戶就容易了。這也能解釋谷歌從不斷升級(jí)硬件時(shí)，就已經(jīng)埋下了付費(fèi)的注腳。
資料來源：
https://twitter.com/slashML/status/1432004668557709320
https://mp.weixin.qq.com/s/FiG3ZhKYnKOdq7BUiafmPQ
https://www.microway.com/hpc-tech-tips/nvidia-turing-tesla-t4-hpc-performance-benchmarks/tesla_comparison_t4-p100-v100/
贈(zèng)書福利
AI科技評(píng)論本次聯(lián)合Springer為大家?guī)?strong style="outline: 0px;">5本周志華教授親筆簽名的《Machine Learning》正版新書。
在AI科技評(píng)論8月28日頭條文章“周志華《西瓜書》上線英文版！”（注意不是本文，僅限AI科技評(píng)論微信公眾號(hào)端）留言區(qū)留言，歡迎大家暢所欲言，談一談你對(duì)本書的看法和期待。在綜合留言質(zhì)量（留言是敷衍還是走心）和留言點(diǎn)贊最高（注：點(diǎn)贊最高的前5不意味著一定會(huì)中獎(jiǎng)）的讀者中選出5位讀者獲得贈(zèng)書。獲得贈(zèng)書的讀者請(qǐng)聯(lián)系 AI 科技評(píng)論客服（aitechreview）。
留言內(nèi)容會(huì)有篩選，例如“選我上去”、“這書寫的很棒（僅僅幾個(gè)字）”等內(nèi)容將不會(huì)被篩選，亦不會(huì)中獎(jiǎng)。
留言送書活動(dòng)時(shí)間為2021年8月28日 - 2021年9月01日（23:00），活動(dòng)推送時(shí)間內(nèi)僅允許贈(zèng)書福利中獎(jiǎng)一次。
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)特約稿件，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
