近日,可觀測與應用安全廠商基調,利用基調聽云撥測工具,模擬真實用戶的主動監控,從網絡性能、接口響應時間、推理速度、內容生成速度等多個關鍵指標,對多家廠商提供的DeepSeek-R1 API 服務進行了深入測試。
根據測試后發布的《大模型服務性能評測 DeepSeek-R1 API版》第一期顯示,本次共對北京、上海、廣州、深圳、重慶、蘇州、成都等多個城市的DeepSeek-R1 API 服務進行了測試,采集指標方面,通過API返回的數據計算出來的指標包含:平均速度(tokens/s)、首 Token 時間(s)、推理速度(tokens/s)、生成速度(tokens/s),而通過聽云撥測客戶端計算的指標包含:DNS 時間(s)、建連時間(s)、握手時間(s)、發出請求時間(s)、首包時間(s)、剩余包時間(s)、性能(s) 和可用性(%)。
參加測試的廠商包括火山引擎、DeepSeek官方、硅基流動、騰訊云、阿里云百煉。
在深圳本地的測試中,可用性方面,盡管火山引擎和硅基流動都達到了100%,但兩者在生成速度方面相差較大,火山引擎生成速度可以達到65.673 tokens/s,而硅基流動該項指標則為16.966 tokens/s。阿里云百煉可用性也達到了91.94%,但生成速度僅為11.813 tokens/s。
DeepSeek R1評測結果(圖片來自基調聽云公眾號)
至于DeepSeek官方,雖然生成速度可以達到37.117 tokens/s,但可用性僅為41.94%,在參與測試的五家廠商中是最低的,這也意味著,很大一部分用戶的請求都不能得到響應。
值得一提的是,在深圳本地的測試中,火山引擎在推理速度方面也獨占鰲頭,達到了30.083 tokens/s,排名緊隨其后的DeepSeek官方為25.378 tokens/s。
綜合評測結果顯示,火山引擎在 API 響應性能上全面領先,各項指標均顯著優于其他服務商。
基調聽云表示,本次測評旨在為開發者提供深度數據支撐,助力其精準洞察各服務商 API 接口的性能表現,從而有針對性地優化產品體驗。
對于開發者和企業用戶而言,這些數據可以作為服務商選擇的決策依據,從而更科學地甄別適配自身需求的技術方案。(作者:林松)
關鍵詞: