近期，國產(chǎn)大模型 DeepSeek-R1橫空出世，迅速成為AI領(lǐng)域的焦點(diǎn)。芯動(dòng)力在24小時(shí)內完成了與DeepSeek-R1大模型的適配。

DeepSeek-R1是幻方量化旗下大模型公司DeepSeek研發(fā)的系列推理模型，自誕生起就備受矚目。它采用強化學(xué)習訓練，推理時(shí)包含大量反思和驗證，思維鏈長(cháng)度可達數萬(wàn)字。在數學(xué)、代碼以及復雜邏輯推理任務(wù)上，DeepSeek-R1有著(zhù)出色的表現，能取得媲美OpenAI o1的推理效果，還能為用戶(hù)展現完整的思考過(guò)程 。在1月24日的Arena上，DeepSeek-R1 基準測試已經(jīng)升至全類(lèi)別大模型第三，其中在風(fēng)格控制類(lèi)模型（StyleCtrl）分類(lèi)中與OpenAI o1并列第一。

隨著(zhù)技術(shù)的發(fā)展，大模型訓練成本呈下降趨勢，商業(yè)化門(mén)檻也隨之降低。大模型作為技術(shù)底座，為各行業(yè)應用開(kāi)拓了無(wú)限可能，這也讓邊緣大模型逐漸成為主流方向。而芯動(dòng)力所設計的芯片恰好契合這一開(kāi)發(fā)應用需求。

芯動(dòng)力此次能夠在如此短的時(shí)間內完成與DeepSeek-R1模型適配，AzureBlade K340L M.2加速卡是關(guān)鍵。這是一款高性能AI加速卡，實(shí)現了高性能、低功耗、小體積的完美結合。這款加速卡內嵌AE7100芯片，尺寸僅為22mm×80mm，大約半張名片大小，卻實(shí)現了高達32TOPs的算力，并且功耗能達到8w以下。其采用標準M.2接口，便于集成到各種設備中，成為業(yè)界最小、最薄的GPU之一。該加速卡兼容CUDA和ONNX，滿(mǎn)足各類(lèi)AI應用需求，其高算力和內存帶寬確保數據高效穩定處理與傳輸。目前，這款加速卡已經(jīng)可以支撐大模型在A(yíng)I PC等設備上運行，并適配了DeepSeek-R1、Llama 3-8B、Stable Diffusion、通義千問(wèn)等開(kāi)源模型。除此之外，該加速卡在工業(yè)自動(dòng)化、泛安防、內容過(guò)濾、醫療影像及信號處理等領(lǐng)域也得到了廣泛的應用。

AzureBlade K340L加速卡性能卓越、適用性廣，有望在大模型端側設備部署中發(fā)揮關(guān)鍵作用，助力 AI 技術(shù)在更多場(chǎng)景落地，推動(dòng) AI 技術(shù)發(fā)展與應用，開(kāi)啟 AI 應用新篇章。未來(lái)，芯動(dòng)力團隊還將在 AI 及其他行業(yè)持續創(chuàng )新突破，為生活和社會(huì )帶來(lái)更多變革。