2023年9月30日 星期六

姚穎謙 上善若水 加速運算用途廣 輝達一枝獨秀

 

2023年9月30日

姚穎謙 上善若水

加速運算用途廣 輝達一枝獨秀

適逢中秋巧遇國慶日,在此恭賀廣大《上善若水》讀者群眾人月兩圓、祖國繁榮富強。無論是作為中美關係關鍵的持份者、抑或是美國科技類的大阿哥,輝達(Nvidia)都是令人非常矚目的創新企業,生成式人工智能(generative AI)和數據中心的需求日增,使輝達在硬件工程巿場內炙手可熱。

眾所周知,在1993年創業之始,輝達已將GPUCPU定為主業,它的始創人Jensen Huang的高瞻遠矚令人驚嘆不已。GPU的優勢在於專精於大量數據(圖像)的快速處理,輝達只做此類處理器的研究。在其顯卡(GPU)之外,於是黃氏也鞏固了旗下產品圖形渲染(graphic rendering,計算圖像編輯軟件中的效果,生成最終視頻)的效能,使輝達的各主要產品在平行處理任務,作運算密集型的能力極為優秀。

輝達作為領先的顯卡設計商,當然也會率先明瞭加速運算作為現代電腦的必然功能。就像現今所有智慧型手機都有繪圖運算和人工智慧用的處理器一樣,每個伺服器和工作站都以加速運算器來支援應用程式,包括人工智慧、視覺化和自動化裝置等,而其中許多系統中的資料處理器也可加速雲端原生和雲端運算框架核心(網路、儲存和安全服務),此等技術領域的先發優勢,輝達是如何獲得的?

正如加速運算部總經理暨副總裁Ian Buck,在剛過去的美銀證券2023年度國際AI會議上所指出,輝達跟加速運算的關係源遠流長,2006年時公司已首次引入CUDA。輝達開發的統一運算設備架構CUDA,既是一個平行運算平台也是一個應用程式介面(API,應用程式介面,Application Programming Interface的縮寫,扮演着應用程式和應用程式之間的橋樑)。 CUDA讓開發人員可以利用NVIDIA GPU的運算能力來執行各種任務,包括科學模擬、人工智慧、深度學習等。

輝達的GPU廣泛應用於人工智慧和機器學習領域,它們為訓練和推理任務提供卓越的性能,使其成為TensorFlowPyTorch 等深度學習框架的熱門選擇。NVIDIA CUDA工具包和cuDNN函式庫是AIML開發人員的必備工具。而數據中心GPU例如TeslaA100系列專為高效能運算(HPC)和資料中心應用而設計,為科學模擬、數據分析和其他數據密集型工作負載提供必要的動力;NVIDIA Ampere架構的推出進一步增強了公司在加速運算領域的地位等等,都令輝達顯卡以及數據中心服務成為數據科學用家的當然之選。

軟硬件無縫結合成優勢

作為加速運算領域最著名的公司,輝達不僅在硬體能力方面擁有巨大領先優勢,為其贏得了該領域最大的開發者生態系統。這是由於客戶忠誠度日增,從客戶角度考慮,如果客戶想要為他們的用例實現生成式人工智能和加速運算,那麼他們將不得不僱用工程師來完成這項工作,這些工程師中的絕大多數都精通輝達的CUDA架構,軟硬件無縫結合成為輝達的最大優勢。輝達的世界領先技術為系統製造商的伺服器提供動力,使任何行業的公司都能為生成式AI做好準備,其支援的生成式AI可以幫助數十萬家公司實施智慧聊天機器人、助理、搜尋和摘要等應用程式。

加速運算的堅實基礎為輝達帶來在生成式人工、數據中心、人工智能和機器學習方面的重大機遇。生成式人工智能雲端為企業帶來的好處包括隱私、選擇、效能、資料中心規模、更低的成本、加速儲存、「加速」網路、快速部署。輝達為當今的企業提供最先進的人工智能解決方案,其先進人工智能程式提供了全盤考慮方案如全系列的人工智能模型和服務、人工智能平台軟體和人工智能超級電腦。數據中心方面,目前輝達在全球已安裝了價值約1兆美元的數據中心,又結合AI,正在向加速運算和生成式人工智慧轉型;人工智慧、數據處理、雲端數據分析和提存,無人不需要輝達顯卡的助力。

確立顯卡領導地位

由上述討論可見,為了打造最佳顯卡,輝達從硬件入手,又考慮到強化其加速運算,建立了CUDA等設備架構,使公司顯卡上的領導地位進一步確立。那麼,面對同業與AMD力追,或國際尤其是中國芯片業的迅速冒起輝達有否感到威脅?下集再談。

作者為博士、財務總監、專業投資者協會專家顧問、CFAFCPAFHKIoD

專頁:facebook.com/yiuwinghim

沒有留言: