中國電子技術網

設為首頁 網站地圖 加入收藏

 
 

讓自適應計算躋身主流處理器,賽靈思的三道必答題

關鍵詞:AI Insight 自適應計算 FPGA ACAP

時間:2021-11-10 11:02:24      來源:網絡

什么是自適應計算?業界有這么多的計算平臺,如CPU、GPU、DSP等,為什么還需要自適應計算?自適應計算能給業界帶來什么?這些問題,是賽靈思于2018年推出自適應計算加速平臺(Adaptive Compute Acceleration Platform)時,被問到的最多的問題。時隔三年,賽靈思又取得了哪些進展?

什么是自適應計算?業界有這么多的計算平臺,如CPU、GPU、DSP等,為什么還需要自適應計算?自適應計算能給業界帶來什么?這些問題,是賽靈思于2018年推出自適應計算加速平臺(Adaptive Compute Acceleration Platform)時,被問到的最多的問題。時隔三年,賽靈思又取得了哪些進展?
 
今年5月,賽靈思總裁兼首席執行官Victor Peng在接受媒體采訪時曾表示,過去三年,賽靈思處于從FPGA公司向自適應計算平臺公司轉型的過程中。盡管面臨各種外部挑戰,但仍能保持當前的成長之路,這期間的幾項重要決定,為未來奠定了積極的方向,這其中的一個重大決策就包括:讓平臺更易于使用,讓自適應計算為更多的創新者賦能。 
 
日前,賽靈思人工智能及軟件業務市場總監羅霖( Andy Luo)在接受<與非網>采訪時,進一步闡釋了如何推動自適應計算力量的普及化,以及如何讓自適應計算流行起來。

自適應計算能為業界帶來什么?
 
羅霖首先指出了自適應計算與其他計算方式的根本區別——不論是基于CPU、GPU或其他計算平臺做開發,需要優化軟件來適應硬件,也就是說,硬件是固定的,只能通過改寫代碼來提升平臺性能。而自適應計算的概念恰好相反,平臺可提供開發工具、加速API等,可以為具體應用優化硬件、定義軟件,并且這種優化是持續不斷進行的,即使是產品量產后,在部署階段也可以進行優化。簡言之,所謂自適應計算,就是根據具體的應用優化硬件,硬件是軟件定義的、軟件可編程的,是新一代的計算形式。 
 
至于為什么需要自適應計算?則是在當前創新步伐加速之下,賽靈思著力推進的技術路線,它主要包含兩方面:一是提高創新效率,二是提供面向所有開發者的易用性。
 
羅霖表示,為了讓更多的開發者能夠獲益于自適應計算平臺開發的高效率,賽靈思將易用性作為重要的戰略著力點。通過為開發者提供他們熟悉的編程語言、框架和集成開發環境,以及足夠的加速API庫和參考設計,大幅降低了自適應計算的門檻,開發者上手設計的速度也得以大幅提升。
 
“自適應計算”背后,蘊藏了賽靈思從云端到邊緣再到終端的決心和方向,即:將最新的架構創新提供給端到端應用的每一個部分,軟件和 AI 開發者只需借助硬件抽象工具,就能充分發揮它的優勢,而無需成為硬件專家。
 
如何推動自適應計算力量的普及?
 
過往的發展證明,任何計算形式的普及、任何計算平臺的流行,都離不開開發者,離不開生態系統的不斷壯大。為了讓自適應計算流行起來,賽靈思需要不斷開拓開發者生態系統,賦能所有開發者。
 
賦能所有開發者——這是一個橫跨軟件和硬件開發者的雄心勃勃的計劃。這意味著,在最基本的芯片和組件之上,需要一個完整的堆棧,提供靈活的硬件平臺、涵蓋不同的處理單元、開發工具,覆蓋面向不同開發環境、開發群體的適應性和彈性。這一龐大的愿景,賽靈思如何實現?

羅霖介紹,基于Versal ACAP異構加速硬件平臺,上層涵蓋了標量引擎、可編程邏輯、AI加速引擎在內的不同處理單元,以及硬件IP、加速庫、定制硬件和專門的AI加速庫等。在此基礎之上,還有三種不同的開發工具:適合于底層硬件IP、加速庫開發的Vivado;面向軟件開發者的集成式開發環境和平臺Vitis,開發者可以使用熟悉的高層次語言C、C++和Python來進行編程;還有專門針對AI推理的開發平臺Vitis AI,支持AI開發者使用熟悉的框架,如TensorFlow、PyTorch、Caffe來訓練模型,再通過Vitis AI來進行部署,讓AI模型能夠高效在硬件平臺上實現。
 
為了持續解鎖開發者的生產力,賽靈思在不斷推出新的開發工具和面向新應用的開發平臺。今年6月推出了基于機器學習的 VivadoML版本,剛剛又發布了針對AI智能視頻分析應用的新工具 Vitis Video Analytics SDK。
 
據介紹,基于機器學習的VivadoML版本是一個突破性的升級:通過在Vivado環境中使用機器學習技術來提升布線的時延優化,進行模塊化的自動化設計,從而將結果質量(QoR)平均提升了約10%(在不同的測試的用例中甚至會提高50%)。同時,還有基于可重配置模塊的層級化編譯器,用戶可以自定義模塊,再通過賽靈思工具進行增量編譯和并行編譯,從而將平均編譯時間縮短5倍,最高縮短17倍。
 
在針對新應用的開發平臺方面,賽靈思選擇了智能視頻分析作為切入點,推出了視頻分析SDK。基于Omdia報告,賽靈思預測2020至2027年,AI推理市場年復合增長率將為35%,其中,55%的AI推理應用都將基于圖像、視頻,這也正是賽靈思推出視頻分析SDK的一大原因。

Vitis Video SDK底層基于賽靈思Alveo嵌入式平臺,支持運行時庫、Vitis、Vitis AI、Gstreamer多媒體協議、以及包括視頻編解碼、圖像預處理等插件。為了構建智慧城市、智慧零售、智慧醫療、智慧建筑等方面的應用,Vitis Video SDK還提供了C++和Python接口,支持TensorFlow、Pytorch、Caffe等主流框架模型,開發者無需使用RTL進行編程,所有的編程都基C++和Python API,開發效率得以大幅提升。

根據展示的評測數據,在視頻解碼預處理加車牌識別場景下,賽靈思的Kria SOM可以運行3路數據流,英偉達Jetson Nano、TX2只能運行1-2路,賽靈思可提供約1.5~3倍的性能;Alveo加速卡方面,主要工作負載為運行視頻解碼預處理、目標檢測和分類,Versal VCK5000可以實現32路,英偉達T4約為16路,賽靈思可提供高出2倍的吞吐量。
 
從可編程FPGA到自適應計算平臺,AI和機器學習在賽靈思的技術演進中發揮了重大作用。羅霖以視覺分析為例介紹,傳統算法更多是基于規則、基于計算機視覺的,在自適應計算平臺中,賽靈思提供了可靈活配置、可伸縮的AI加速引擎DPU,用戶可以根據硬件平臺來配置和集成該引擎,根據芯片的不同來選擇引擎的大小,從而實現有效的AI加速,這就是自適應計算理念的典型呈現,即根據應用和工作負載,來定制硬件、適配軟件。
 
如何擴大生態影響力?
 
為了提高開發者技能,助力開發者在自適應計算平臺上進行更多、更好的項目設計,賽靈思去年底推出了新的開發者計劃( Xilinx Developer Program ),推出了全新設計的開發者網站,為開發者提供Vivado、Vitis、Vitis AI相關的開發資源(項目、工程、底層設計);上線了賽靈思應用商店(AppStore),用戶可以線上購買 Alveo 卡和 Kria SOM;通過 GitHub 項目和支持開源社區,提升用戶對賽靈思開源的認知度;增加了虛擬培訓課程,發布了不同的培訓視頻,并創建了更多技術電子書;推出大學計劃,并主辦了自適應計算挑戰賽等賽事;推出開發者認證計劃,針對通過認證的開發者,提供早期使用( Early Access )機會,讓他們能夠率先接觸到賽靈思最新的技術。

值得一提的是,今年舉辦的第二屆自適應計算挑戰賽,大賽的規模將是去年的2倍,預計將吸引2000名參賽選手,最終將評選出360名入圍選手,15名獲獎者,獎金總額7萬美金。本屆賽事還增設了兩個特殊獎項:賽靈大學計劃(XUP)和科技女性(WIT, Women in Technology)專項獎,來推動高等院校自適應計算的創新、以及技術領域的多元化發展。
 
羅霖表示,在工具采用方面,已經顯露出強勁的發展勢頭。據統計,Vitis下載量已經超過15萬次,Vitis AI下載量超過10萬次,而50%以上的下載都來自于新用戶;開發者計劃推出約8個月,目前已經突破了10000注冊人數;應用商店上線半年時間,已經覆蓋了200多個不同應用。賽靈思希望不斷降低自適應計算門檻,擁抱所有開發者及數據科學家,真正做到讓自適應計算流行起來。

  • 分享到:

 

猜你喜歡

  • 主 題:Nexperia 邏輯IC解決方案在服務器上的應用
  • 時 間:2021.12.28
  • 公 司:arrow&Nexperia

  • 主 題:Sensing the Robotics - ADI傳感技術助力機器人設計
  • 時 間:2022.01.11
  • 公 司:ADI&Digikey

  • 主 題:Fit family 電源連接解決方案
  • 時 間:2022.01.18
  • 公 司:molex&digikey
香蕉视频在线下载|香蕉视频污下载APP污|香蕉短视频