香港頂級資料大站
2023-05-30 08:37:48 來源:

Notebook 是一種支持 REPL 模式的開發(fā)環(huán)境。所謂「REPL」,即「讀取-求值-輸出」循環(huán):輸入一段代碼,立刻得到相應(yīng)的結(jié)果,并繼續(xù)等待下一次輸入。Notebook通常使得探索性的開發(fā)和調(diào)試更加便捷,在 Notebook 環(huán)境,用戶可以交互式地在其中編寫你的代碼、運行代碼、查看輸出、可視化數(shù)據(jù)并查看結(jié)果,使用起來非常靈活。
在數(shù)據(jù)開發(fā)領(lǐng)域,Notebook 廣泛應(yīng)用于數(shù)據(jù)清理和轉(zhuǎn)換、數(shù)值模擬、統(tǒng)計建模、數(shù)據(jù)可視化、構(gòu)建和訓(xùn)練機器學(xué)習(xí)模型等方面。
但是顯然做數(shù)據(jù)開發(fā),只有 Notebook 是不夠的。目前,火山引擎 DataLeap 數(shù)據(jù)研發(fā)平臺提供了任務(wù)開發(fā)、發(fā)布調(diào)度、監(jiān)控運維等一系列能力,并將 Notebook 作為一種任務(wù)類型,加入進 DataLeap 數(shù)據(jù)研發(fā)平臺,使用戶既能擁有 Notebook 交互式的開發(fā)體驗,又能享受一站式大數(shù)據(jù)研發(fā)治理套件提供的便利。
在火山引擎 DataLeap 數(shù)據(jù)研發(fā)平臺,開發(fā)過程圍繞的核心是任務(wù)。用戶可以在項目下的任務(wù)開發(fā)目錄創(chuàng)建子目錄和任務(wù),像 IDE (集成開發(fā)環(huán)境)一樣通過目錄樹管理其任務(wù)。Notebook 也是一種任務(wù)類型,用戶可以啟動一個獨立的任務(wù) Kernel 環(huán)境,像開發(fā)其他普通任務(wù)一樣使用 Notebook。
圖:火山引擎 DataLeap 數(shù)據(jù)開發(fā) Notebook 任務(wù)界面
基于簡化運維成本、降低架構(gòu)復(fù)雜性,以及提高用戶體驗的考慮,2021 上半年,火山引擎 DataLeap研發(fā)人員對整體架構(gòu)進行了一次改良。新的架構(gòu)主要做了以下改進,大致簡化為下圖:
1. 移除 JupyterHub(https://jupyterhub.readthedocs.io/en/stable/),將 JupyterLab (https://jupyterlab.readthedocs.io/en/stable/getting_started/overview.html)改為多實例無狀態(tài)常駐服務(wù),并實現(xiàn)對接 火山引擎DataLeap 的多用戶鑒權(quán)。
2. 改造原本落在 JupyterLab 本地的數(shù)據(jù)存儲,包括用戶自定義配置、Session 維護和代碼文件讀寫。
3. Enterprise Gateway(EG)支持持久化 Kernel,將 Kernel 遠程環(huán)境元信息持久化在遠端存儲(MySQL)上,使其重啟時可以重連,且 JupyterLab 可以知道某個 Kernel 需要通過哪個 EG(https://jupyter-enterprise-gateway.readthedocs.io/en/latest/) 連接。
圖:火山引擎 DataLeap 下改進版 Notebook 整體架構(gòu)
架構(gòu)升級簡化后,整套 Notebook 服務(wù)的穩(wěn)定性獲得了極大的提升。由于實現(xiàn)了用戶無感知的升級, DataLeap不僅提升了用戶的使用體驗,運維、算力、人力等成本也得到了極大地降低。
據(jù)了解,Notebook 任務(wù)已成為字節(jié)跳動內(nèi)部使用較為高頻的任務(wù)類型。外部用戶可以購買火山引擎 DataLeap,即一站式大數(shù)據(jù)研發(fā)治理套件,開通交互式分析的版本,使用到 DataLeap 的 Notebook 任務(wù)。(作者:邵鼎澤)
-
徐永才--人民幣雕刻大師
人物名片 徐永才 正高級工藝美術(shù)師 鈔券雕刻師第四套人民幣壹元券正面頭像雕刻者 第四套人民幣貳元券正面頭像雕刻者第五套人民幣壹佰元正
2019-07-11 09:58
-
鈔券雕刻師花瑞松講述雕刻背后的故事
人物名片 花瑞松 上海印鈔有限公司高級工藝美術(shù)師 鈔券雕刻師第四套人民幣一元券背面主景圖案雕刻者第五套人民幣壹佰元券背面主景圖案雕刻
2019-07-11 10:03
-
民國紙幣上的重慶風(fēng)景
重慶簡稱巴、渝,別稱巴渝、山城、渝都、橋都、霧都。因所處嘉陵江古稱渝水,故其簡稱渝。北宋崇寧元年(1102),改渝州為恭州。南宋淳熙
2019-07-11 10:06
-
新版人民幣即將發(fā)行 怎樣收藏最好呢
中國人民銀行定于2019年8月30日起發(fā)行2019年版第五套人民幣50元、20元、10元、1元紙幣和1元、5角、1角硬幣。 新版人民幣發(fā)行的時期,往
2019-07-16 12:37
-
99版成龍頭品種 第六套人民幣將不再發(fā)行
前段時間,19版人民幣的發(fā)行公告在市場中吵得沸沸揚揚!突如其來的人民幣改版既在意料之中,又挺讓人意外。意料之中的是紙幣改版早有傳言,
2019-07-16 12:39
-
關(guān)于新版人民幣疑問解答在這里
前幾天,新版人民幣又雙叒叕上微博熱搜了!幸好,從8月30日起,萬眾期待的新版人民幣就要來了!新版人民幣包含50元、20元、10元、1元紙幣
2019-07-18 13:19












