2025年2月23日,深思考人工智能正式發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組,并宣布與國(guó)產(chǎn)頭部模組廠商廣和通、深開(kāi)鴻達(dá)成合作,推出適配國(guó)產(chǎn)算力的硬件解決方案。此次合作標(biāo)志著國(guó)產(chǎn)端側(cè)AI技術(shù)在低功耗、高性能領(lǐng)域?qū)崿F(xiàn)重大突破,打破“國(guó)產(chǎn)算力性能不足”的固有認(rèn)知。
核心優(yōu)勢(shì):輕量化大模型賦能?chē)?guó)產(chǎn)硬件生態(tài)
TinyDongni作為端側(cè)輕量化大模型,以僅1.5B的極簡(jiǎn)參數(shù)規(guī)模實(shí)現(xiàn)高效能運(yùn)算,其創(chuàng)新量化方法顯著降低首Token延遲,支持32K超長(zhǎng)上下文理解,并通過(guò)多芯片協(xié)同處理與內(nèi)存優(yōu)化技術(shù),兼顧低功耗與高響應(yīng)速度。技術(shù)亮點(diǎn)包括:
架構(gòu)優(yōu)化:DongniForCausalLM架構(gòu),支持1536/768隱藏層維度;
多語(yǔ)言支持:詞匯表擴(kuò)展至183,542,覆蓋更廣泛的語(yǔ)言及專(zhuān)業(yè)領(lǐng)域表達(dá);
靈活適配:兼容OpenHarmony、Linux、Windows、Android等主流操作系統(tǒng)。
deepseek系列則聚焦多模態(tài)能力,1B模型通過(guò)2048隱藏層維度與32注意力頭設(shè)計(jì),強(qiáng)化復(fù)雜場(chǎng)景下的語(yǔ)義理解,適配智能硬件與邊緣計(jì)算場(chǎng)景。
國(guó)產(chǎn)模組合作:強(qiáng)強(qiáng)聯(lián)合,打造端側(cè)算力標(biāo)桿
深思考聯(lián)合國(guó)產(chǎn)模組廠商推出兩大解決方案,驗(yàn)證輕量化大模型與國(guó)產(chǎn)硬件的協(xié)同效能:
廣和通模組:集成5G與Wi-Fi 7通信技術(shù),依托深思考算法優(yōu)化,為車(chē)載、機(jī)器人等場(chǎng)景提供實(shí)時(shí)AI處理能力;
深開(kāi)鴻模組:基于國(guó)產(chǎn)芯片與OpenHarmony系統(tǒng),支持8K編解碼與多屏交互,賦能工業(yè)檢測(cè)、AI攝像頭等高精度場(chǎng)景。
技術(shù)突破意義:在國(guó)產(chǎn)算力硬件上跑通大模型,充分證明深思考技術(shù)的輕量化與高效能——模型體積小但功能完備,無(wú)需依賴(lài)高算力硬件即可實(shí)現(xiàn)復(fù)雜任務(wù)處理,為端側(cè)AI普惠化提供堅(jiān)實(shí)基礎(chǔ)。
全場(chǎng)景應(yīng)用:從生活到專(zhuān)業(yè)領(lǐng)域的AI革新
深思考端側(cè)大模型已落地多個(gè)領(lǐng)域:
1.存儲(chǔ)領(lǐng)域:利用深思考的輕量化大模型技術(shù),對(duì)存儲(chǔ)設(shè)備的數(shù)據(jù)進(jìn)行多模態(tài)搜索,通過(guò)自然語(yǔ)言來(lái)實(shí)現(xiàn)對(duì)存儲(chǔ)中的信息進(jìn)行語(yǔ)義級(jí)別的搜索圖片、視頻、文件;
2. 智能終端:AI PC、AI手機(jī)、AI手表、AI眼鏡,AI攝像頭等;
3. 辦公助手:AI PC Suite提供本地文件模糊搜索、PPT自動(dòng)生成及同聲翻譯,保障數(shù)據(jù)安全;
4. 醫(yī)療健康:AI顯微鏡通過(guò)加密分析與擴(kuò)展模塊,提升病理檢測(cè)穩(wěn)定性與效率;
5. 智能汽車(chē):融合手勢(shì)、語(yǔ)音、圖像多模態(tài)交互,實(shí)時(shí)解析車(chē)內(nèi)外環(huán)境;
6. 機(jī)器人生態(tài):人形與萌寵機(jī)器人依托“Her”模式與情感交互,針對(duì)萌寵玩具場(chǎng)景提供端側(cè)模型與算力一站式解決方案,解決設(shè)備無(wú)法聯(lián)網(wǎng)、廠商技術(shù)能力不足的痛點(diǎn)。
技術(shù)賦能未來(lái),深思考持續(xù)深耕AI創(chuàng)新
深思考創(chuàng)始人& CEO楊志明表示:“深思考鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布,不僅是技術(shù)突破,更是端側(cè)AI普惠化的里程碑。未來(lái),將持續(xù)優(yōu)化多模態(tài)交互能力,推動(dòng)AI在醫(yī)療、工業(yè)、消費(fèi)等領(lǐng)域的深度應(yīng)用。”
針對(duì)場(chǎng)景定制化與性能平衡,楊志明進(jìn)一步強(qiáng)調(diào):“端側(cè)模型通過(guò)量化技術(shù)確保功能指標(biāo)不下降,同時(shí)利用本地小算力運(yùn)行大模型,針對(duì)機(jī)器人、萌寵玩具等場(chǎng)景進(jìn)行專(zhuān)項(xiàng)優(yōu)化,實(shí)現(xiàn)性能與功耗的完美平衡。”
OpenHarmony助力,共筑端側(cè)AI生態(tài)
在此次發(fā)布活動(dòng)中,華為OpenHarmony使能部AI技術(shù)專(zhuān)家劉小飛介紹了OpenHarmony在大模型領(lǐng)域的探索。OpenHarmony是開(kāi)源項(xiàng)目,旨在構(gòu)建智能設(shè)備運(yùn)行平臺(tái)。其社區(qū)發(fā)展迅猛,生態(tài)伙伴眾多。
OpenHarmony旗下的Laval社區(qū)與深思考合作,借助大模型服務(wù)開(kāi)發(fā)者。2024年4月上線的OpenHarmony專(zhuān)屬智能問(wèn)答助手“小瓦AI答”,基于深思考Dongni多模態(tài)大模型技術(shù),已服務(wù)9000多名開(kāi)發(fā)者,回答3萬(wàn)多個(gè)問(wèn)題,極大提升了社區(qū)與用戶的互動(dòng)體驗(yàn)。
未來(lái),OpenHarmony海量端側(cè)設(shè)備將為深思考技術(shù)提供廣闊應(yīng)用空間,雙方攜手共進(jìn),共同拓展端側(cè)AI市場(chǎng)。
深思考此次發(fā)布的創(chuàng)新成果,結(jié)合OpenHarmony在大模型領(lǐng)域的探索實(shí)踐,有望吸引更多生態(tài)伙伴加入,共同推動(dòng)端側(cè)AI技術(shù)的發(fā)展,讓AI更好地服務(wù)于人們的工作和生活。