快科技2月5日消息,DeepSeek全球爆火,再一次引發外界對GPU算力限製話題的關注。
據報道,DeepSeek開發的大語言模型繞過了英偉達的CUDA框架,正為未來兼容國產GPU芯片做準備。
眾所周知,英偉達的CUDA(Compute Unified Device Architecture,統一運算架構)能大幅降低研發大模型的難度,獲全球開發商使用,一舉將英偉達推上AI芯片領域的壟斷地位。
但最新發現顯示,DeepSeek使用英偉達的H800芯片訓練時,使用英偉達底層硬件指令PTX(Parallel Thread Execution)語言,而非高級編程語言CUDA。
這樣意味著DeepSeek繞過了CUDA,使用更底層的編程語言做優化。
對於程序開發人員來說,CUDA是一種更加友好的高級語言,開發者隻需要專注於程序和算法最相關的運行邏輯,而不太需要考慮具體的程序是如何在GPU等硬件上具體如何執行計算的,從而能夠降低開發難度。
而PTX在接近匯編語言的層級運行,允許進行細粒度的優化,如寄存器分配和Thread / Warp級別的調整。這種編程非常複雜且難以維護,所以行業通用的做法是使用CUDA這樣的高級編程語言。
換句話說,DeepSeek把優化做到了極致。
北京航空航天大學副教授黃雷表示,繞過CUDA可以直接根據GPU的驅動函數做一些新的開發,從而實現更加細粒度的操作。
這也說明DeepSeek擁有一些擅長寫PTX語言的內部開發者。假如它之後使用國產GPU,其在硬件適配方麵將會更得心應手,其隻要了解這些硬件驅動提供的一些基本函數接口,就可以仿照英偉達GPU硬件的編程接口去寫相關的代碼,從而讓自家大模型更加容易適配國產硬件。
“這凸顯了DeepSeek非凡的工程水平,並表明美國對華製裁加劇的“GPU短缺危機”激發了他們緊迫感和創造力。”韓國Mirae Asset Securities Research的一名分析師表示。

【本文結束】如需轉載請務必注明出處:快科技
責任編輯:朝暉