近日,南大通用再次刷新國內(nèi)MPP數(shù)據(jù)庫集群記錄。由其構(gòu)建的國產(chǎn)新型大數(shù)據(jù)平臺規(guī)模由之前的80節(jié)點提升到120節(jié)點,平臺數(shù)據(jù)處理量達到真正的PB級,萬億條數(shù)據(jù)處理可在小時級水平完成。這是繼2013年國內(nèi)首個超大規(guī)模行業(yè)大數(shù)據(jù)平臺問世以來,南大通用在國產(chǎn)數(shù)據(jù)庫領(lǐng)域?qū)崿F(xiàn)的又一次技術(shù)飛躍。
圍繞行業(yè)大數(shù)據(jù)應(yīng)用構(gòu)建全數(shù)據(jù)處理基礎(chǔ)軟件平臺,MPP數(shù)據(jù)庫及其計算框架是核心組成部分。Gbase行業(yè)大數(shù)據(jù)大規(guī)模集群處理平臺,主要面向電信、金融、安全和政務(wù)等行業(yè)的經(jīng)營分析類業(yè)務(wù)場景,對海量的結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)進行高效存儲、管理,并對上層應(yīng)用提供統(tǒng)一的數(shù)據(jù)服務(wù)接口支撐。與擁有海量非結(jié)構(gòu)化數(shù)據(jù)的互聯(lián)網(wǎng)及電商企業(yè)使用Hadoop構(gòu)建大數(shù)據(jù)平臺不同,MPP技術(shù)在保證關(guān)系數(shù)據(jù)庫強一致性要求的同時,可實現(xiàn)復(fù)雜的大表關(guān)聯(lián)等分析功能,更好地滿足電信、金融等行業(yè)對大數(shù)據(jù)分析類應(yīng)用的需求。
Gbase新型大數(shù)據(jù)平臺是目前國內(nèi)外唯一達到百節(jié)點以上的單一數(shù)據(jù)庫測試平臺,在120臺國產(chǎn)中高端服務(wù)器上部署Gbase 8a MPP Cluster單一集群,使用萬兆網(wǎng)絡(luò)互聯(lián),支撐PB級數(shù)據(jù)查詢與分析處理,整體運算能力和數(shù)據(jù)吞吐能力達到20TB/小時。采用Gbase 8a MPP Cluster分布式并行數(shù)據(jù)庫集群構(gòu)建新型大數(shù)據(jù)平臺,南大通用不僅能幫助用戶解決數(shù)據(jù)“大”的難題,還能實現(xiàn)數(shù)據(jù)“高”的價值。
高速度:處理萬億條數(shù)據(jù)在小時級水平完成,數(shù)據(jù)加載性能每小時平均幾十TB;
高可用:系統(tǒng)穩(wěn)定性高,千并發(fā)級可平穩(wěn)運行,出現(xiàn)問題節(jié)點可快速恢復(fù);
高擴展:可動態(tài)擴展運算節(jié)點,且查詢性能保持良好的線性增長;
高價值:成本低廉,使用X86服務(wù)器 + Linux + SAS磁盤,系統(tǒng)擴展能力從容應(yīng)對數(shù)據(jù)膨脹挑戰(zhàn)。
Gbase新型大數(shù)據(jù)平臺采用自主可控的全國產(chǎn)軟硬件搭建,已完成內(nèi)測并實現(xiàn)穩(wěn)定運行,是目前國內(nèi)唯一能夠支撐多行業(yè)大數(shù)據(jù)應(yīng)用的通用可靠平臺。電信運營商已率先啟用Gbase新型大數(shù)據(jù)平臺進行全國經(jīng)營分析業(yè)務(wù)的集中測試,系統(tǒng)實測800TB萬億條數(shù)據(jù)處理可在小時級別完成。南大通用下一步將大數(shù)據(jù)平臺的測試與應(yīng)用擴展到金融、國防、安全、海關(guān)、稅務(wù)等關(guān)系國計民生的行業(yè)中。
基于新型大數(shù)據(jù)平臺的成功搭建,南大通用近期已啟動企業(yè)測試培訓(xùn)中心的籌建工作。測試培訓(xùn)中心現(xiàn)階段主要服務(wù)于行業(yè)用戶與合作伙伴,為其提供專業(yè)的大數(shù)據(jù)技術(shù)咨詢、系統(tǒng)軟硬件平臺測試及定制化培訓(xùn)等一體化解決方案。未來中心將發(fā)展成為產(chǎn)學研用的技術(shù)孵化器,面向科研機構(gòu)、高校及全產(chǎn)業(yè)鏈開放。