隨著“周易”X2 NPU 的推出,安謀科技發布“周易”NPU 軟件開源計劃,通過開放源碼,滿足客戶更自主、更靈活的算法移植需求。
如今,隨著智能汽車產業和邊緣計算的蓬勃發展,無論是分辨率從 720P 到 4K,還是單路圖像到多路圖像融合分析,各場景對 AI 算力的需求成倍提升。
“周易”X2 NPU 作為新一代人工智能處理器,采用第三代“周易”架構,支持多核 Cluster,最高可達 320TOPS 子系統。實時的硬件任務管理使得“周易”X2 NPU 可實現最高千萬次 / 秒的任務調度,將各個計算單元的效能發揮到最佳。在算力大幅提升的同時,“周易”X2 NPU 還具有更高的精度和靈活性。在精度方面,“周易”X2 NPU 支持 int4 / int8 / int12 / int16 / int32.fp16 / bf16 / fp32 多精度融合計算,計算效率與計算密度得到顯著提升。在靈活性方面,“周易”X2 NPU 在支持自定義算子、滿足各種模型部署需求的基礎上,還面向各類應用場景提供定制化 AI 解決方案,以進一步滿足客戶在智能駕駛、手機影像 AI 處理、人機交互等場景中的差異化需求。
“周易”X2 NPU 主要功能升級“周易”X2 NPU 特別針對 ADAS(IT之家注:高級駕駛輔助系統)、智能座艙、平板電腦、臺式機和手機等細分應用場景進行了大量性能優化,可大幅提升手機拍照、錄像中的高分辨率圖像處理能力,以及車載中常用的 Transformer (IT之家注:Transformer 是完全依賴于自注意力機制來計算其輸入和輸出的表示的轉換模型)等應用的性能,同時采用 i-Tiling 技術大幅減少帶寬需求,進一步提升計算效率,讓客戶能更輕松地應對不斷迭代的多樣化計算需求。
為幫助開發者更方便、快速地進行算法移植和調試,“周易”X2 NPU 還提供了一套完善的人工智能軟件平臺,可以更好地滿足開發者對性能調優、系統部署的需求。目前,“周易”X2 NPU 已面向客戶正式交付,并且今年會有多款搭載“周易”X2 NPU 的芯片產品面世。
在“周易”NPU 軟件開源計劃下,安謀科技已率先對外開放 NPU 中間表示層規范、模型解析器、模型優化器、驅動等,并向相關合作伙伴提供“周易”Compass 軟件平臺,包括軟件模擬器、調試器、C 編譯器等在內的多種軟件工具。在滿足合作伙伴更自主、更靈活的算法移植需求的同時,進一步提升了軟件開發效率,避免重復造輪。據悉,上述只是“周易”NPU 軟件開源計劃的第一步,安謀科技后續還將逐步開放更多資源,如模型量化、算子實現等源代碼。
“周易”NPU 軟件開源計劃已經有第一批合作伙伴率先加入,其中部分是來自 AIoT、智能汽車、智能操作系統等領域的企業。