DeepSeek引擎點火,AI生產(chǎn)力全面重塑。2月26日,京東云城市大會在深圳順利舉行。會上,京東云發(fā)布八大極致性價比的智算產(chǎn)品,五種全場景大模型部署模式,同時推出“開發(fā)訓練+場景應用”雙引擎一站式平臺,助力企業(yè)實現(xiàn)DeepSeek等大模型開箱即用、智能體深度開發(fā)與應用,全面打通從模型落地到產(chǎn)業(yè)智能升級的最后一公里。
京東集團技術委員會主席、京東云事業(yè)部總裁曹鵬表示,當下,全國大量企業(yè)都在加速部署DeepSeek,讓員工零時差用上大模型。京東云認為,企業(yè)應用大模型應該根據(jù)場景找到性能與價值的黃金平衡點。京東云領先的異構算力調度引擎,可以幫助企業(yè)盤活存量算力,超智算一體集群將助力大中型企業(yè)構建智算底座,重塑企業(yè)AI生產(chǎn)力。
AI普惠全面來臨五大模式助力企業(yè)火速上線DeepSeek
隨著DeepSeek火爆全球,相關數(shù)據(jù)顯示,中國已有2.5億人用過大模型,AI普惠全面來臨。面向眾多企業(yè)用戶多樣化DeepSeek部署需求,京東云提供多場景、多形態(tài)、多規(guī)格的五大解決方案。
對于希望低成本搭建AI應用的初創(chuàng)公司和開發(fā)者,提供裸金屬智算服務和公有云Token調用兩種模式;
對于金融、政府、企業(yè)等需要“數(shù)據(jù)不出域”的用戶,提供大模型私有化部署,包括一體機、純軟件部署和算力運營三種模式,實現(xiàn)“數(shù)據(jù)本地化、模型私有化”。
京東云DeepSeek五大部署模式京東云DeepSeek大模型一體機,通過自研的算力池化能力、智能推理加速引擎,充分融合軟硬件,實現(xiàn)了性能的全面提升,推理速度提升50%,企業(yè)可以根據(jù)自己的需求靈活選擇不同版本,開箱即用。
目前,在河南鶴壁、江蘇宿遷、山東濱州,京東云已經(jīng)助力多地政府基于現(xiàn)有基礎設施本地化部署DeepSeek,既滿足本地政務業(yè)務需求,又讓當?shù)仄髽I(yè)不用投入資源,即可通過政務云調用DeepSeek。
八大行業(yè)領先智算產(chǎn)品極致性價比托舉大模型落地
基于京東集團復雜場景實踐,京東云構建了一站式大模型產(chǎn)品矩陣,從底層的智算基礎設施,到中間層的模型服務和工具,再到上層的Agent應用開發(fā),支持企業(yè)快速部署大模型及應用。
言犀AI開發(fā)計算平臺,全面支持言犀大模型及20余種開源模型,整合超百種行業(yè)算法、工具鏈及高質量數(shù)據(jù)集,幫助企業(yè)基于業(yè)務需求高效開發(fā)專屬大模型。此外,京東云自研推理引擎,通過P-D分離技術釋放異構GPU算力,針對DeepSeek模型的單Token推理成本降低80%。
計算、存儲、網(wǎng)絡的“黃金三角”,對破解大模型成本至關重要。
京東云超智算一體化算力集群,單集群萬卡、全局10萬卡級集群調度能力,依托軟硬件協(xié)同優(yōu)化,驅動大模型算力利用率(MFU)躍升至75%。
云海AI存儲,千億級大模型全棧支持,4K隨機寫IOPS突破1000萬級極速響應,存算分離架構實現(xiàn)性能提升的同時成本降低30%,構建超大規(guī)模AI訓練的普惠存儲底座。
京東云高性能云網(wǎng)絡,RDMA帶寬提升至3.2T級,端到端通信時延壓降至2微秒,支撐千億參數(shù)模型無損訓練,釋放AI算力極限。
京東云vGPU AI算力平臺,針對DeepSeek大模型技術特點,通過推理加速與內核驅動級優(yōu)化,提升單臺服務器推理性能50%。通過集群算力池化調度提升集群利用率70%。全面適配十余家國產(chǎn)化算力資源。同時借助AI全密態(tài)機密容器能力,確保模型參數(shù)與訓練數(shù)據(jù)雙域零泄露,為用戶提供金融級安全防護。
智算中心功率密度是傳統(tǒng)數(shù)據(jù)中心的5倍,對供電、散熱的要求嚴苛。京東云自研的阿爾法智能算力模塊,支持液冷系統(tǒng)一體化交付,PUE控制在1.15以內,同等規(guī)模成本直降15%;新一代液冷服務器,散熱效能提升50%,單機柜20KW年度省電8500度。
大模型安全是智能時代的終極防火墻。京東云大模型安全可信平臺,超200種自研紅藍對抗攻擊手法,覆蓋全部31類合規(guī)風險,全流程AI檢測精準狙擊,風險識別率95%+,硬核護航千億參數(shù)模型業(yè)務零漏洞。
在行業(yè)實踐中,京東云成功支持某新能源汽車頭部廠商、某全球新能源科技領導企業(yè),打造覆蓋全集團的智能計算底座,實現(xiàn)千卡級AI算力集群的精細化管理。技術上一方面創(chuàng)新多元算力調度,顯著提升GPU利用率,另一方面創(chuàng)建全生命周期AI開發(fā)環(huán)境,實現(xiàn)開箱即用,大幅提升研發(fā)效率。目前,該平臺已支撐起企業(yè)智能駕駛研發(fā)、人形機器人等20余個核心場景,成為集團的"數(shù)智發(fā)動機"。預計一年內,兩家企業(yè)大模型訓練周期將縮短40%,每年節(jié)省的算力成本相當于新建兩座數(shù)據(jù)中心!
京東云智算全景突破生產(chǎn)力邊界,智能體重構企業(yè)效能
隨著DeepSeek全面接入,企業(yè)爭相探索輕量化落地,智能體成為大模型產(chǎn)業(yè)落地的核心載體,應用形態(tài)正從"工具助手"向"生產(chǎn)力引擎"進化。
言犀智能體平臺實現(xiàn)三大能力突破:一是開放集成DeepSeek等數(shù)十款主流大模型;二是依托超萬個智能體落地實戰(zhàn)經(jīng)驗,預置協(xié)同辦公、專業(yè)助手、客戶服務、營銷推廣、數(shù)據(jù)應用等五大高價值場景模板;三是沉淀1000+智能插件與100+行業(yè)解決方案,支持零代碼敏捷構建智能體。
智能體應用帶來生產(chǎn)力持續(xù)躍遷。智能編碼助手JoyCoder2.0實現(xiàn)需求理解、代碼生成、單元測試全流程自動化,推動京東研發(fā)效率倍增;AI開發(fā)平臺JoyBuilder深度融合低代碼與智能體技術,提供30余個行業(yè)專屬開發(fā)模板;言犀ChatBI則通過自然語言交互實現(xiàn)數(shù)據(jù)秒級分析,在供應鏈優(yōu)化等場景構建決策新范式。
更多企業(yè)正在通過言犀智能體平臺加速業(yè)務升級。味全食品、中國飛機租賃、融谷信息等企業(yè),在智能體平臺上實現(xiàn)智能會議管理、搭建航空知識庫、AI實訓平臺,由點到面實現(xiàn)業(yè)務場景智能化升級。
垂直模型蒸餾,全面智能場景加速滲透
京東科技人工智能業(yè)務總裁、京東探索研究院院長何曉冬表示,通用大模型的突破性進展正在加速全場景智能滲透,未來大模型小型化會成為規(guī)模化產(chǎn)業(yè)應用的關鍵。我們認為,通向全面智能需要雙軌并行,一是推動智能體向“超級智能體”演進,二是對傳統(tǒng)數(shù)字化場景進行系統(tǒng)性升級。
隨著應用深入,通過企業(yè)自有數(shù)據(jù)進行模型蒸餾勢在必行。京東言犀大模型通過高質量模型蒸餾,服務了零售、健康、物流、金融等數(shù)百個場景,推理效率優(yōu)化1.5倍,顯存節(jié)約70%。當前,AI已經(jīng)跑在京東內部100多個場景,服務超60萬員工和20萬商家。未來,模型蒸餾能力也將向企業(yè)開放。
除了內部應用,京東大模型已經(jīng)深入到多個產(chǎn)業(yè)核心場景的智能化改造中。
在數(shù)據(jù)要素服務領域,大模型快速識別復雜文本數(shù)據(jù),準確率從50%提升到99%,讓企業(yè)數(shù)據(jù)得到最大化利用。
在智能運維場景,云艦AI NOC智能運維指揮中心,讓復雜跨應用、跨場景的重大故障排查處理從數(shù)小時縮短至幾十秒。
在城市治理場景,ICOS城市能力開放服務平臺通過“一表通”“智慧巡河”等智能體,實現(xiàn)基層工作效率提升70%,還打造了“對話即開發(fā)”的政務應用工廠,分鐘級完成搭建。
在智能營銷場景,言犀數(shù)字人在超過9000家品牌直播間開播,言犀AIGC生成超30億字文案、50余萬條采銷短視頻,京東云金融增長云幫助多家國有行、股份行客戶,在MAU和AUM上實現(xiàn)了超30%的增長。
AI生產(chǎn)力澎湃,智能生長正當時。京東云將以行業(yè)領先的智算基礎設施,為企業(yè)用戶提供極致性能、極致性價比的服務,持續(xù)降低大模型應用門檻,助力每個企業(yè)找到AI轉型的最優(yōu)路徑。