《MaaS模型即服務技術與應用要求 第7部分:大模型API服務性能測試方法》標準(AIIA/T 0221-2025)
模型即服務(MaaS)已成為大模型應用落地的主要模式之一,MaaS平臺為用戶提供便捷、靈活、低門檻的大模型服務,是重要的支撐平臺。但不同平臺上所提供的大模型服務能力參差不齊,中國信通院已發(fā)布一套全方位評估體系來衡量大模型API服務效能和MaaS平臺能力,即《MaaS模型即服務技術與應用要求》。
本次深信服參與編制的文件為該標準的第7部分,有效填補了大模型API服務性能評估標準的空白。該標準主要規(guī)范和明確了以下內(nèi)容:
性能測試的軟、硬件環(huán)境要求;
關鍵性能測試指標及計算方法,多種測試類型及測試場景;
性能測試過程中的測試數(shù)據(jù)集選擇原則和系統(tǒng)資源監(jiān)控范圍;
大模型API服務性能測試流程設計、數(shù)據(jù)集選擇、性能指標計算方式和評價維度。
在本次標準編制過程中,深信服憑借在大模型技術上的深入探索以及對私有化大模型算力平臺構建的豐富實踐經(jīng)驗,為標準的科學性、實用性與前瞻性貢獻了重要力量。
從安全GPT大模型到AICP算力平臺的發(fā)布,深信服長期布局AI產(chǎn)業(yè),已有深厚的AI能力積累。近期,深信服還將整合技術能力,升級AI創(chuàng)新平臺,打造新智算時代的AI Infra平臺,不僅為用戶提供高性能、穩(wěn)定、安全的平臺能力,更為用戶實現(xiàn)端到端AI應用建設TCO優(yōu)化,讓各行業(yè)用戶以更輕松的方式擁抱AI。
未來,深信服會繼續(xù)扎根AI技術研究,積極參與標準建設,參與建設更繁榮的生態(tài),為各行業(yè)落地大模型提供更有效的能力,打造更健康的行業(yè)環(huán)境。
