企業(yè)數(shù)字轉(zhuǎn)型的數(shù)據(jù)挑戰(zhàn)
DTCC是中國數(shù)據(jù)庫和大數(shù)據(jù)領(lǐng)域規(guī)模最大、最具影響力的技術(shù)峰會,本屆大會的主題是“數(shù)據(jù)風云 十年變遷”,會議議題集中于過去十年的數(shù)據(jù)庫互聯(lián)網(wǎng)化演進以及未來的發(fā)展趨勢。在過去的十年中,傳統(tǒng)關(guān)系型數(shù)據(jù)庫產(chǎn)品一直在不斷采用互聯(lián)網(wǎng)技術(shù),以應對企業(yè)日益增長的訪問壓力和數(shù)據(jù)量。據(jù)IDC預測,2020年,全球數(shù)據(jù)量會達到44ZB,2035年會達到1.9萬ZB。
浪潮inData產(chǎn)品負責人表示,很多企業(yè)的數(shù)據(jù)量達到幾百TB的規(guī)模時,數(shù)據(jù)庫的并發(fā)處理能力和處理延時等技術(shù)指標就會下降得很厲害,inData數(shù)據(jù)庫一體機能幫助用戶有效地解決這一問題。
橫向擴展的數(shù)據(jù)系統(tǒng)
inData采用了配置KAS存儲虛擬化模塊的浪潮K-DB11g軟件和優(yōu)化的X86服務器、Flash存儲以及InfiniBand等加速硬件,具備智能分布式存儲、軟硬件極致優(yōu)化器、一體化資源管理等高級功能。
相比于共享統(tǒng)一存儲的傳統(tǒng)數(shù)據(jù)庫,inData最大特點是采用了分布式架構(gòu),由縱向擴展轉(zhuǎn)變?yōu)闄M向擴展,從而可以承載PB級數(shù)據(jù)量、處理海量并發(fā)訪問。系統(tǒng)分為計算、存儲和網(wǎng)絡三個軟硬件緊耦合的資源池,多個數(shù)據(jù)庫計算節(jié)點構(gòu)成RAC集群,配置I/O加速系統(tǒng)的服務器在KAS統(tǒng)一管理下構(gòu)成存儲池,所有的計算、存儲設備通過2臺或以上的InfiniBand交換機連接。
存儲虛擬化KAS 讀寫百萬IOPS
KAS采用了多副本、分布式的數(shù)據(jù)存儲管理技術(shù),數(shù)據(jù)會有2-3重副本,數(shù)據(jù)及副本被同時寫入多組磁盤,系統(tǒng)I/O性能會隨著磁盤數(shù)量的增加線性增長,解決了長期以來的數(shù)據(jù)庫磁盤性能瓶頸,而且,多副本技術(shù)還隔離磁盤故障對于系統(tǒng)的影響,磁盤發(fā)生故障后,系統(tǒng)會繼續(xù)從其他節(jié)點讀取數(shù)據(jù)。
另外,inData會自動統(tǒng)計數(shù)據(jù)的訪問頻次,將經(jīng)常被訪問的“熱點數(shù)據(jù)”存儲在熱點盤——PCIe SSD閃存卡中,不經(jīng)常訪問的數(shù)據(jù)則會存儲在大容量機械磁盤中,兼顧了成本與性能。
性能優(yōu)化,每分鐘數(shù)百萬事務處理
inData系統(tǒng)能輕松實現(xiàn)百萬級IOPS、海量吞吐與微妙延遲,而且浪潮對于系統(tǒng)進行細致的整體優(yōu)化,這些優(yōu)化技術(shù)很好地降低了磁盤I/O頻次,減少了數(shù)據(jù)熱區(qū),并且讓系統(tǒng)負載更合理地分配,讓系統(tǒng)的在線事務處理能力達到了每分鐘數(shù)百萬次。
例如獨特的智能過濾技術(shù)。inData在處理需要Full Scan全表掃描的復雜請求時,計算節(jié)點接收到的大SQL語句會拆分為多個小SQL語句,隨后卸載到各存儲節(jié)點進行處理,存儲節(jié)點處理完畢后將結(jié)果集返回計算節(jié)點進行整合,然后響應給用戶,這樣可以更為有效地利用存儲節(jié)點的計算資源,提高系統(tǒng)性能
大會上,浪潮介紹了inData在政府行業(yè)的應用案例,該用戶的數(shù)據(jù)來源復雜,包括人物關(guān)聯(lián)表、區(qū)域監(jiān)控錄像、交易記錄、語音、征信等十幾種,數(shù)據(jù)量也十分驚人,浪潮為用戶開發(fā)定制版的inData系統(tǒng),將原來的OLTP、OLAP整合為統(tǒng)一的HTAP系統(tǒng),用戶的項目開發(fā)周期縮短了2個月,并減少了50%的數(shù)據(jù)實例節(jié)點。目前,該系統(tǒng)數(shù)據(jù)量為180TB,每天加載數(shù)據(jù)1TB,數(shù)據(jù)生命周期為180天,數(shù)據(jù)量將逐步達到峰值400TB。
下一代,融合HTAP與Big Data
伴隨著企業(yè)數(shù)字化轉(zhuǎn)型的深入,越來越多的企業(yè)開始用HTAP來替代原有的OLAP和OLTP系統(tǒng)。inData為一站交付式設計,可以開箱即用,并且界面化操作,簡潔易用。浪潮還提供原廠的全程技術(shù)服務和技術(shù)培訓,可以讓用戶更快地跨過應用門檻。而且,inData兼容目前各個數(shù)據(jù)庫行業(yè)通行的標準,很好地融入了當前的數(shù)據(jù)生態(tài),降低了后續(xù)維護的技術(shù)復雜度和成本支出。