无码午夜福利在线|特黄无码AV在线一区二区|一本久道久久综合婷婷|国产欧美亚洲专区在线

  • 
    
  • 當前位置> 常山生活網(wǎng) > 科技 >

    熱文 清華開源深度學習框架計圖,開源超級玩家

    來源:常山信息港 發(fā)表時間:2020-03-23 21:48

      情況如下:原標題:清華開源深度學習框架計圖,開源超級玩家再進階AI源創(chuàng)評論報道,據(jù)官方消息,清華大學計算機系圖形實驗室宣布開源一個全新的深度學習框架:Jittor,中文名計圖。

      Jittor 是一個采用元算子表達神經(jīng)網(wǎng)絡計算單元、完全基于動態(tài)編譯(Just-in-Time)的深度學習框架。[1]

      據(jù)介紹,Jittor 內(nèi)部使用創(chuàng)新的元算子和統(tǒng)一計算圖的深度學習框架。和 Numpy 相比,元算子在保證易用性的同時,能夠實現(xiàn)更復雜、更高效的操作。而統(tǒng)一計算圖則是融合了靜態(tài)計算圖和動態(tài)計算圖的諸多優(yōu)點,在易于使用的同時,提供高性能的優(yōu)化?;谠阕娱_發(fā)的深度學習模型,可以被計圖實時自動優(yōu)化并且運行 CPU、GPU 等指定的硬件上。

      Jittor 特性

      Jittor 是基于易用、可定制、實現(xiàn)與優(yōu)化分離、即時的理念設計的。用戶只需要數(shù)行代碼,就可定義新的算子和模型,且所有的代碼都是即時編譯運行。

      在 Jittor 上,多個元算子之間可以相互融合,成為更加復雜的算子,進一步構成神經(jīng)網(wǎng)絡和深度學習應用。 

      支持計算任意高階導數(shù)。元算子在 Jittor 上反向傳播后仍然是元算子,因此,在深度學習開發(fā)過程中,你不用算子的反向傳播而重復開發(fā)。同時,還可以使用統(tǒng)一的優(yōu)化策略。

      使用 Jittor 內(nèi)置的元算子編譯器,用戶可以直接將通過元算子編寫的 Python 代碼動態(tài)編譯成更高效的 C++ 代碼。

      Jittor 能夠自動優(yōu)化動態(tài)編譯的代碼。其內(nèi)置的優(yōu)化編譯遍(complier pass)兼容 LLVM,可以根據(jù)設備進行自動優(yōu)化,生成的底層算子對計算設備非常友好。 

      Jittor 統(tǒng)一管理 GPU 和 CPU 的內(nèi)存。當深度學習耗盡 GPU 內(nèi)存資源時,將用 CPU 內(nèi)存彌補。

      Jittor 同時提供同步接口和異步接口,用戶可以同時享受同步接口的易用性和異步接口的高效性。

      使用輔助轉換腳本,PyTorch 代碼可以直接轉換成 Jittor 模型。在參數(shù)保存和數(shù)據(jù)傳輸上,Jittor使用和 PyTorch 一樣的 Numpy+pickle 協(xié)議,二者的模型可以相互加載和調(diào)用。

      性能超越 Pytorch

      雖然這是清華大學第一次發(fā)布開源機器學習框架,但與國際主流平臺相比,Jittor 豪不遜色。 目前 ResNet、VGG、SSD、DeepLab、LSGAN 等多個網(wǎng)絡模型已經(jīng)在 Jittor 平臺實現(xiàn),可供用戶使用。與同類型框架相比,Jittor 在收斂精度一致情況下,推理速度取得了 10%-50% 的性能提升 。

      目前,Jittor 得到了國家自然科學基金項目、北京信息科學與技術國家研究中心團隊項目和清華-騰訊聯(lián)合實驗室項目的資助和支持。

    【 注:圖片來源:Pixabay  所有者:Gerd Altmann 】【 注:圖片來源:Pixabay  所有者:Gerd Altmann 】

      開源超級玩家

      開源,特別是人工智能領域的開源,逐漸成為綜合實力的象征。清華在這方面有著獨到的優(yōu)勢。

      首先,是在人工智能領域的學術傳承。2019 年,清華人工智能研究院動作頻頻,在張鈸院士的帶領下,4 月成立聽覺智能研究中心,由鄭方教授擔任主任,5 月成立基礎理論研究中心,朱軍任主任,在基礎算法、AI 框架、AI 應用、數(shù)據(jù)資源等方面早已布好基礎。

      第一代院士打好基礎,第二代老師形成了中堅力量。此次驚艷推出的計圖(Jittor),牽頭人就是清華大學計算機系的胡事民教授,1969 年生人,正屬于中堅,而開發(fā)團隊的主體,正是他帶領的圖形學實驗室的一批博士生。今天出世的計圖更不免讓人想到當年的清華畢業(yè)生賈揚清,他在加州大學伯克利分校攻讀博士期間創(chuàng)建了 Caffe 項目。

      清華大學自然語言處理實驗室(THUNLP)也有一個知名的開源項目,叫 OpenNRE。[2] 這是一個在自然語言處理里進行關系提取的開源框架,可以用于擴展知識圖譜,是推薦系統(tǒng)、搜索引擎、問題解答這些應用的基礎和關鍵技術。

      實驗室由孫茂松教授領銜,帶出了一批骨干老師,以及本碩博的尖子。THUNLP 在 GitHub 上得到的 star,已經(jīng)跟全球最強的斯坦福 NLP 小組的 star 差不多了。

      由此帶出的第三代學生梯隊也人才濟濟。清華姚班自不必說,去年以本科人才培養(yǎng)著名的姚期智教授又開設智班,重點培養(yǎng)人工智能領域的后備軍。

      姚班畢業(yè),目前在 MIT 就讀的博士生胡淵鳴,設計、實現(xiàn)了 Taichi 編程語言及其優(yōu)化編譯器,后生可畏。[3]

      另外,清華和企業(yè)以實驗室形式的合作,碩果累累,吸引了像張亞勤、沈向洋這樣的大師級科學家加入。

      比如,清華和微軟研究院合作了 Convlab 開源端到端對話系統(tǒng) [4],和美團合作了視頻動作分析的開源數(shù)據(jù)集 COIN [5]。

      去年,清華-伯克利深圳學院更是成立了“RISC-V 國際開源實驗室”,直接將圖靈獎得主、最早提出“精簡指令集”(RISC)體系的大衛(wèi)·帕特森(David Patterson)引入,抓住了開源和源創(chuàng)的源頭,有可能在芯片領域形成新的開源 CPU 生態(tài)體系,打造國家重器。

      引用來源:

      [1] Jittor

      官網(wǎng):https://cg.cs.tsinghua.edu.cn/jittor/

      github:https://github.com/Jittor/Jittor

      [2] OpenNRE , https://github.com/thunlp/OpenNRE

      [3] Taichi , https://github.com/yuanming-hu/difftaichi

      [4] Convlab , https://convlab.github.io/

      [5] COIN , https://coin-dataset.github.io/

      

    本文文章轉載自新浪新聞

    返回頂部

    2010-2019 常山信息港 www.casoptics.com.cnCo., Ltd. All Rights Reserved

    鄭重聲明:網(wǎng)站資源摘自互聯(lián)網(wǎng),如有侵權,麻煩通知刪除,謝謝!聯(lián)系方式:vvv6666iii@gmail.com