在2025京東云城市大會深圳站上,京東云展示了其在大模型技術領域的最新進展,并發布了包括言犀智能體平臺、言犀AI開發計算平臺、超智一體化算力集群、云海AI存儲在內的八大智算產品。同時推出“開發訓練+場景應用”雙引擎一站式平臺,助力企業實現DeepSeek等大模型開箱即用、智能體深度開發與應用,全面打通從模型落地到產業智能升級的最后一公里。
京東集團技術委員會主席、京東云事業部總裁曹鵬表示,當下,全國企業都在加速部署DeepSeek,讓員工零時差用上大模型。基于京東集團復雜場景實踐,京東云構建了一站式大模型產品矩陣,從底層的智算基礎設施,到中間層的模型服務和工具,再到上層的Agent應用開發,支持企業快速部署大模型及應用。
面向大模型的開發部署,京東云持續升級言犀AI開發計算平臺,進一步簡化了模型開發流程。平臺不僅支持京東自身的言犀大模型,支持各類模型的調優開發,內置20余種開源模型和豐富的數據集,并提供100余種算法和工具鏈,幫助客戶根據自身業務特征,快速開發專屬大模型。此外,京東云DeepSeek大模型一體機,通過自研的算力池化能力、智能推理加速引擎,充分融合軟硬件,實現了性能的全面提升,推理速度提升50%,企業可以根據自己的需求靈活選擇不同版本,開箱即用。
在算力方面,京東云通過打造超智算一體化算力集群,滿足大模型對大算力的需求。具備單集群2000卡調度能力和全局超10萬卡調度能力,支持跨智算中心橫向擴展,通過軟硬件協同優化,將大模型算力利用率MFU提升至75%。
隨著更多性能的GPU都可以支持大模型,異構算力將成為主流,京東云vGPU AI算力平臺,針對DeepSeek大模型技術特點,通過推理加速與內核驅動級優化,提升單臺服務器推理性能50%。通過集群算力池化調度提升集群利用率70%。全面適配十余家國產化算力資源。同時借助AI全密態機密容器能力,確保模型參數與訓練數據雙域零泄露,為用戶提供金融級安全防護。
在存儲方面,云海AI存儲可支持千億級參數AI大模型,4K隨機寫IOPS達到1000萬級,平均延遲在100微秒級,支持百GB級超大帶寬,性能提升30%的同時,通過存算分離技術實現成本下降30%,極致性能和極致性價比,更好地支持大模型落地應用。
在網絡方面,基于京東集團萬卡集群大規模實踐,京東云沉淀不同網絡部署的調優方案,推出高性能云網絡,RDMA帶寬速率達到3.2Tbps,全面支持高階GPU對于高帶寬的要求;通信延遲降低至2us。
智算中心往往功率密度更高,是傳統數據中心的5倍以上,對供電、散熱的要求也呈幾何級增長。京東云基于10多年數據中心建設運營實踐,積累了豐富智算中心建設運維經驗。我們自研的阿爾法智能算力模塊,支持液冷系統一體化交付,PUE控制在1.15以內,可實現同等規模下投資成本下降15%。當前,京東云已服務于超20家智算中心,打造高等級新型智算中心。
大模型安全是智能時代的終極防火墻。京東云大模型安全可信平臺,超200種自研紅藍對抗攻擊手法,覆蓋全部31類合規風險,全流程AI檢測精準狙擊,風險識別率95%+,硬核護航千億參數模型業務零漏洞。
在行業實踐中,京東云成功支持某新能源汽車頭部廠商、某全球新能源科技領導企業,打造覆蓋全集團的智能計算底座,實現千卡級AI算力集群的精細化管理。技術上一方面創新多元算力調度,顯著提升GPU利用率,另一方面創建全生命周期AI開發環境,實現開箱即用,大幅提升研發效率。目前,該平臺已支撐起企業智能駕駛研發、人形機器人等20余個核心場景,成為集團的"數智發動機"。
AI生產力澎湃,智能生長正當時。京東云將以行業領先的智算基礎設施,為企業用戶提供極致性能、極致性價比的服務,持續降低大模型應用門檻,助力每個企業找到AI轉型的最優路徑。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。
關鍵詞: