《科創(chuàng)板日?qǐng)?bào)》2月8日訊(記者 郭輝) “80塊打造個(gè)人語(yǔ)音助手”、“150塊DIY豆包智能機(jī)器人”……隨著DeepSeek的爆火,個(gè)人用戶部署AI大模型一夜間“出圈”。 科技界圍繞AI降本所做的工作并非一夕之功。有業(yè)內(nèi)人士表示,DeepSeek在算法層面的推理成本優(yōu)化,為國(guó)產(chǎn)算力芯片和計(jì)算集群網(wǎng)絡(luò)等硬件端的發(fā)展?fàn)幦×烁嗫臻g,而軟硬件成本的減少,也將相應(yīng)為國(guó)內(nèi)AI應(yīng)用帶來(lái)機(jī)會(huì),由此形成產(chǎn)業(yè)發(fā)展正向循環(huán)。 越來(lái)越多個(gè)人開發(fā)者低成本的AI模型部署實(shí)踐,讓公眾更加清醒地認(rèn)識(shí)到,AI普惠時(shí)代已來(lái),端側(cè)AI落地箭在弦上。PC產(chǎn)品被認(rèn)為是端側(cè)AI模型落地的首站。而受訪的供應(yīng)鏈人士認(rèn)為,當(dāng)前更大的想象空間還在智能眼鏡、AI玩具等智能體等應(yīng)用中,DeepSeek帶來(lái)的輕量化模型,將為智能終端行業(yè)帶來(lái)積極影響。 個(gè)人用戶部署大模型火爆 40元開發(fā)板月售萬(wàn)件 “80塊買一塊開發(fā)板,按照教程進(jìn)行硬件連接和固件燒錄,就能接入DeepSeek等大模型,打造個(gè)人語(yǔ)音助手系統(tǒng)。”在技術(shù)社群中,有開發(fā)者分享了部署AI的技術(shù)帖。 不僅如此,《科創(chuàng)板日?qǐng)?bào)》記者關(guān)注到,花150元還能自行搭建一個(gè)豆包智能機(jī)器人,358元能搭建接入大模型且具備手勢(shì)識(shí)別、觸摸交互的機(jī)器人……可以說(shuō),DeepSeek近期的持續(xù)爆火,使得AI大模型部署的知識(shí)交流同樣火熱,也讓低成本搭建AI智能工具進(jìn)入更廣泛的公眾視野。 “萬(wàn)能的淘寶”和技術(shù)開源貢獻(xiàn),讓這一切加速走進(jìn)現(xiàn)實(shí)。 據(jù)了解,以上方案均基于樂(lè)鑫科技的ESP系列芯片。在淘寶搜索ESP32關(guān)鍵詞,可以看到包括樂(lè)鑫官方企業(yè)店在內(nèi),有多個(gè)商家售賣開發(fā)板或套件,不同套件價(jià)格低可至20元、配備屏幕及揚(yáng)聲器、麥克風(fēng)的套件價(jià)格可高至340元。 《科創(chuàng)板日?qǐng)?bào)》記者關(guān)注到,一套價(jià)格80元的聊天機(jī)器人ESP32-S3開發(fā)套件,全網(wǎng)銷量已超1000件;價(jià)格40元的ESP32-S3開發(fā)板,則顯示月售超1萬(wàn)件。 在評(píng)論區(qū)中,消費(fèi)者以個(gè)人開發(fā)者居多。在購(gòu)買商品后,商家會(huì)附送教學(xué)視頻,同時(shí)還會(huì)為用戶提供技術(shù)支持。 “一站式搞定,新手小白也可以操作”、“老板教我教到(晚上)12點(diǎn)半”、“老板晚上10點(diǎn)還在教我燒錄”……多名買家如是反饋產(chǎn)品購(gòu)買體驗(yàn)。 據(jù)樂(lè)鑫科技介紹,其ESP32-S3芯片硬件具備加速神經(jīng)網(wǎng)絡(luò)計(jì)算和信號(hào)處理等工作的向量指令,AI開發(fā)者們通過(guò)ESP-DSP和ESP-NN庫(kù)使用這些向量指令,能夠?qū)崿F(xiàn)高性能的圖像識(shí)別、語(yǔ)音喚醒和識(shí)別等應(yīng)用。 有開發(fā)者稱,ESP32-S3支持在本地離線運(yùn)行一些AI模型,比如語(yǔ)音識(shí)別、人臉識(shí)別和移動(dòng)檢測(cè)。但大部分自然語(yǔ)言對(duì)話交互仍需要線上接入大語(yǔ)言模型。 除樂(lè)鑫科技外,恒玄科技、中科藍(lán)訊、炬芯科技等公司的SoC芯片在終端AI部署中有所應(yīng)用。 其中,恒玄科技應(yīng)用于可穿戴設(shè)備中的BECO嵌入式AI協(xié)處理器,能夠和主CPU核心配合工作,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,同時(shí)保持較低功耗水準(zhǔn)。 炬芯科技則在其最新一代產(chǎn)品中整合了低功耗AI加速引擎,采用基于SRAM的存內(nèi)計(jì)算技術(shù),同時(shí)將產(chǎn)品逐步升級(jí)為CPU、DSP加NPU的三核異構(gòu)計(jì)算架構(gòu),打造低功耗端側(cè)AI算力。 產(chǎn)業(yè)鏈人士:看好DeepSeek對(duì)AI端側(cè)的積極影響 DeepSeek的橫空出世,為端側(cè)AI落地應(yīng)用進(jìn)一步打開想象空間。 據(jù)了解,通過(guò)蒸餾,大模型推理能力可遷移至小參數(shù)模型,能夠大幅提升AI部署的靈活性。據(jù)光大證券分析師劉凱在2月6日發(fā)布的研報(bào)稱,蒸餾模型有1.5B、7B、8B、14B、32B、70B等多個(gè)版本,雖然蒸餾會(huì)損失部分能力,但更小的參數(shù)意味著更大的靈活性。第三方可以從DeepSeek-R1中蒸餾出更多版本的小參數(shù)模型并部署至手機(jī)、筆記本電腦、智能家居產(chǎn)品等各類終端產(chǎn)品中,預(yù)計(jì)將助力硬件銷量提升、并涌現(xiàn)出更多基于AI服務(wù)的付費(fèi)點(diǎn)。 端側(cè)AI落地來(lái)勢(shì)洶涌,其前景也得到了產(chǎn)業(yè)鏈人士的證實(shí)和看好。 一家存儲(chǔ)芯片廠商人士則向《科創(chuàng)板日?qǐng)?bào)》記者稱,DeepSeek對(duì)于AI端側(cè)的存儲(chǔ)有積極的影響,目前尤其看好端側(cè)AI智能眼鏡產(chǎn)品當(dāng)中的落地。從行業(yè)來(lái)看,海外公司Meta的AI眼鏡是32GB容量+2GB的配置,大模型在其中已經(jīng)能夠當(dāng)成本地化工具來(lái)使用,而未來(lái)可能智能眼鏡存儲(chǔ)容量還要加大。 該人士稱,“預(yù)計(jì)今年國(guó)內(nèi)的智能眼鏡肯定會(huì)大爆發(fā),起量會(huì)在2026年。” 一家國(guó)內(nèi)消費(fèi)電子配套芯片公司人士向《科創(chuàng)板日?qǐng)?bào)》記者表示,盡管他們的產(chǎn)品在產(chǎn)業(yè)鏈幾乎最上游,但還是能感受到DeepSeek為智能終端行業(yè)帶來(lái)的積極影響。“AI降本之后,終端應(yīng)用預(yù)計(jì)會(huì)有大的爆發(fā),繼續(xù)看好眼鏡、玩具、AI手機(jī)、AI PC等消費(fèi)電子。” 華安證券分析師陳耀波在2月6日發(fā)布的研報(bào)中表示,端側(cè)實(shí)現(xiàn)AI能力需要端側(cè)AI大模型的落地。從國(guó)內(nèi)手機(jī)整機(jī)廠商看,均推出文檔摘要、AI修圖等端側(cè)AI功能,包括華為的盤古模型、小米的MiLM、vivo的藍(lán)心大模型等,基于DeepSeekR1在推理能力上表現(xiàn)出色,若能進(jìn)入AI智能終端,將推出具有強(qiáng)大AI功能的產(chǎn)品,有望提升用戶體驗(yàn)。 以AI眼鏡的產(chǎn)業(yè)鏈為例,光大證券表示,看好與日常需求相結(jié)合產(chǎn)生的巨大市場(chǎng)空間,建議關(guān)注恒玄科技、中科藍(lán)訊、星宸科技、富瀚微、云天勵(lì)飛-U、炬芯科技等SoC芯片商;以及普冉股份、兆易創(chuàng)新、佰維存儲(chǔ)、長(zhǎng)盈精密等零部件環(huán)節(jié)。 DeepSeek為國(guó)產(chǎn)硬件端發(fā)展?fàn)幦「嗫臻g PC產(chǎn)品同時(shí)包含生產(chǎn)力工具和個(gè)人智能管家兩大屬性,被認(rèn)為是端側(cè)模型落地的首站。以部分PC主機(jī)廠為主導(dǎo),DeepSeek模型與國(guó)產(chǎn)算力芯片的適配進(jìn)展超過(guò)不少人的想象。 《科創(chuàng)板日?qǐng)?bào)》記者了解到,日前搭載龍芯中科3A6000處理器的信創(chuàng)PC宣布實(shí)現(xiàn)DeepSeek本地化部署。據(jù)誠(chéng)邁科技表示,DeepSeek實(shí)現(xiàn)本地部署后,無(wú)需依賴云端服務(wù)器,避免了因網(wǎng)絡(luò)波動(dòng)或服務(wù)器過(guò)載導(dǎo)致的服務(wù)中斷,并且也保障了信息安全。比如在黨政機(jī)關(guān)等涉及大量敏感信息和個(gè)人隱私的場(chǎng)景中,用戶通過(guò)誠(chéng)邁信創(chuàng)電腦上的本地部署DeepSeek,能夠完成文檔處理、數(shù)據(jù)分析、內(nèi)容創(chuàng)作、圖片編輯及代碼生成等多項(xiàng)工作,防止數(shù)據(jù)外泄。 國(guó)產(chǎn)GPU廠商沐曦則與聯(lián)想合作,推出了面向敏捷部署的DeepSeek智能體一體機(jī)解決問(wèn)題。該產(chǎn)品搭載的聯(lián)想AI Force智能體開發(fā)平臺(tái),深度融合DeepSeek等主流大模型庫(kù),并通過(guò)私有化部署實(shí)現(xiàn)安全合規(guī)以及高度定制化、再開發(fā)能力等。實(shí)測(cè)數(shù)據(jù)顯示,在相同并發(fā)條件下,沐曦曦思N260 GPU在Qwen2.5-14B模型推理實(shí)測(cè)性能達(dá)到NVIDIA L20 GPU的110%-130%,可支持本地部署DeepSeek各種參數(shù)蒸餾模型推理。 除了本地化部署,DeepSeek作為開源模型,還通過(guò)各大云計(jì)算平臺(tái)向中小企業(yè)及個(gè)人用戶提供AI服務(wù)資源。 有業(yè)內(nèi)人士向《科創(chuàng)板日?qǐng)?bào)》記者表示,從商業(yè)模式上來(lái)看,目前DeepSeek處于開源狀態(tài),云計(jì)算平臺(tái)方遵循開源協(xié)議均可使用。對(duì)用戶而言,算力平臺(tái)可能會(huì)附加算力成本或相關(guān)服務(wù)成本,但考慮到算法模型公司的資產(chǎn)投入,云計(jì)算平臺(tái)作為“賣水人”,相對(duì)而言仍是高效穩(wěn)定的選擇。事實(shí)上,“近期DeepSeek火熱,使得算力平臺(tái)需求明顯增多”。 該人士還表示,基于主流云平臺(tái)異構(gòu)計(jì)算方案,DeepSeek也在一定程度上推動(dòng)國(guó)產(chǎn)大算力芯片和異構(gòu)計(jì)算方案被市場(chǎng)接納,進(jìn)一步降低了AI訓(xùn)練成本。 目前,阿里、騰訊、超算互聯(lián)網(wǎng)等算力平臺(tái),均已經(jīng)上線DeepSeek系列模型。在算法和算力網(wǎng)絡(luò)的共同優(yōu)化之下,云計(jì)算平臺(tái)對(duì)DeepSeek模型進(jìn)行適配并提供服務(wù),降低了終端接入大模型的成本和部署門檻。 以阿里云為例,用戶無(wú)需編寫代碼,即可云上一鍵部署DeepSeek-V3、DeepSeek-R1,實(shí)現(xiàn)從模型訓(xùn)練到部署再到推理的全過(guò)程,極大地簡(jiǎn)化了AI模型的開發(fā)流程。在價(jià)格成本方面,阿里云服務(wù)用戶可選取公共資源組搭配節(jié)省計(jì)劃,或購(gòu)買預(yù)付費(fèi)EAS資源組等方式來(lái)節(jié)約成本。超算互聯(lián)網(wǎng)平臺(tái)則無(wú)需用戶部署或進(jìn)行復(fù)雜操作,可開箱即用DeepSeek模型,并提供不限量免費(fèi)體驗(yàn)服務(wù)。 “端側(cè)大模型的線上接入,相對(duì)本地部署更為容易,但整體來(lái)看,DeepSeek確實(shí)讓更多AI應(yīng)用落地的軟硬件成本有所減少。”有算力產(chǎn)業(yè)人士表示,DeepSeek在算法層面的優(yōu)化,給了國(guó)產(chǎn)硬件端的發(fā)展?fàn)幦×烁嗫臻g,相應(yīng)地也為國(guó)內(nèi)AI應(yīng)用帶來(lái)機(jī)會(huì),并進(jìn)一步強(qiáng)化了國(guó)產(chǎn)AI從算法、算力到應(yīng)用的生態(tài)閉環(huán)。 (科創(chuàng)板日?qǐng)?bào)記者 郭輝) |
5月7日,佛山市具身智能機(jī)器人創(chuàng)新中心合作簽約暨揭牌儀式
【CNMO科技消息】近日,有數(shù)碼博主爆料稱,華為計(jì)劃于今年
手機(jī)APP
官方微博
官方微信