浙江工業(yè)大學前沿交叉科學研究院副院長姚信威，以“智能物聯融合感知與計算：多模態(tài)數據處理”為主題展開分享，聚焦于大模型和智能計算方向，就多源智能感知，群體優(yōu)化決策及多跨協同系統(tǒng)做相關介紹，探討從基礎理論、關鍵技術到示范應用，介紹浙江工業(yè)大學群智感知與協同科研團隊基于感知領域數據處理的相關工作。
人類正在進入一個“人機物”三元融合的時代，需打破信息、物理、社會三元空間隔離，促進人機物要素彼此激發(fā)跨域協同。這是一個萬物智聯、群智涌現的新時代，面臨群智涌現非確定性、群智計算可演化性、群智質量可保障性等新挑戰(zhàn)，面臨群智涌現機理、群智計算概念模型、群智認知和決策等科學問題，群智計算在智慧城市、智能制造、智能家居等重要領域具有廣泛的應用前景。
面對當前急速增長的海量數據，企業(yè)如何有效應對存儲成本高、如何突破存儲性能瓶頸等挑戰(zhàn)，如何加強對海量數據存儲、管理和分析的能力？浪潮分布式存儲總經理姜樂果，發(fā)表“生成式AI時代 極致存儲 智慧有數”的主題演講。
姜樂果提到，AI大模型訓練有三要素，算力，算法和數據，三者相互配合，緊密協作，才能更快更好得訓練出更優(yōu)質的模型，提升企業(yè)經營決策效率。企業(yè)當前的數據中心算力建設十分充分，但存儲能力的配套設施往往存在不足，導致在AI模型訓練時，數據導入和準備耗費大量時間，訓練過程加載慢，嚴重影響AI大模型訓練的效率。
浪潮重磅發(fā)布的AS15000G7系列AI專用的高性能存儲新品，主要是面向生成式AI全階段的高性能融合存儲，可以同時提供數據訪問高的吞吐量、高的IOPS和低時延，全面加速數據訓練和推理過程；融合多種存儲存儲服務，實現AI訓練全流程數據高效流動，無需來回拷貝數據。新品在性能、管理、融合和效率方面追求極致，可為AI大模型數據全生命周期的高效存儲提供有力保障。
隨后，阿里云智能高級技術專家季旭，分享了高性能存儲在AIGC場景下的機遇與實踐。他指出，大模型的參數量在不斷增大，當前高性能硬件基礎設施給閃存系統(tǒng)帶來了更多挑戰(zhàn)，大模型的計算量的增長遠快于硬件迭代速度。阿里云CPFS是為HPC高性能計算與AI機器學習設計的并行文件系統(tǒng),從輸出形態(tài)上可支持公有云和混合云, 最大可以支持TB級的吞吐能力，在云上和云下都具備一致的使用體驗。我們熟知的FAST天眼的背后就有高性能并行網絡CPFS提供支撐。
上?？萍即髮W教授、研究員、博導殷樹發(fā)表題為“RBC：通過調節(jié)帶寬改善SSD寫性能和長尾延遲”的演講。他表示，基于LSM-Tree的KV存儲系統(tǒng)性能會受到讀放大和寫放大影響，會受到寫停頓的影響而出現波動，RBC通過調節(jié)數據刷新和壓縮操作的帶寬的方式可降低寫停頓和寫放大對整體性能的影響，具體而言，RBC針對RocksDB寫性能與長尾延遲的問題提出了一種新的優(yōu)化思路，通過調節(jié)flush和compaction對帶寬的占用比例改善寫性能和長尾延遲。
“弱人工智能只能完成特定任務，強人工智能就是通用人工智能，能具備多種能力甚至是全能力；超人工智能將全面超越人類現有水平，理論存在?！?nbsp;最后，上海市計算機學會存儲專委副主任陳雪菲，就“AI大模型與存儲新發(fā)展”發(fā)表個人洞察與相關研究。
生成式AI是一個典型的并行計算應用，并行度越高越有利。Transformer結構內存壓力很大, 如訓練 GPT-系列，如果按照 10000 億參數量計算，假設用單精度，每個參數要占 4 個字節(jié)，僅參數就要占4000G內存，梯度也要占4000G內存。張量并行：一個模型單卡放不下，切開放，弊端是通信開銷太大；流水線并行：層數和GPU 數量之間關系，就像工程隊數量（GPU） 與樓層數（流水線層數）關系一樣密切。流水線層數和 GPU 之間比值越大，并行效率越高。20 個工程隊蓋 1000 棟樓，很多時候并行度可以達到 20，模型必須在合理的延遲時間內做出響應。誰也不想在聊天APP中等待幾秒鐘才開始收到輸出。
對于存儲技術發(fā)展，他指出在介質方面，DNA存儲有所進展。DNA有兩種保存方式，一個是體內保存，還有一個是體外保存。麻省理工一個教授講過，用一個咖啡杯裝DNA，這點容量就可以把全世界的數據放進去。天津大學在2022年把敦煌壁畫放到DNA里，放進去以后在常溫下破壞掉，通過兩個手段，一個是DNA重建技術，重建后還有數據缺失，數據用了噴泉碼，實現了97%的數據恢復，放在圖畫上基本上看不出差別。此外，當前的CXL 3.0引入了真正的內存共享，利用新的增強一致性語義，多個主機可擁有一個共享段的一致副本。
數據與存儲與人工智能技術融合發(fā)展，將釋放無限潛能，我們將不斷在創(chuàng)新實踐中洞見新機遇。
