流處理通俗來說,是一種用來解決海量流式數(shù)據(jù)的實時處理計算問題的手段。 流式數(shù)據(jù)是指在時間分布和數(shù)量上無限的一系列數(shù)據(jù)集合體,網(wǎng)站實時訪問數(shù)據(jù)、網(wǎng)絡(luò)攻擊數(shù)據(jù)等都屬于流數(shù)據(jù)的范疇。不同于傳統(tǒng)的DB數(shù)據(jù),流式數(shù)據(jù)具有無限性和無界性,數(shù)據(jù)性質(zhì)上的差異和業(yè)務(wù)對處理實時性的要求導(dǎo)致傳統(tǒng)的數(shù)據(jù)處理系統(tǒng)無法有效進行處理,從而產(chǎn)生流式數(shù)據(jù)處理系統(tǒng)。
目前,流式計算系統(tǒng)已經(jīng)被廣泛運用于搜索、廣告、安全等業(yè)務(wù)。其中,安全行業(yè)由于攻防對抗工作具有海量數(shù)據(jù)處理、多策略多場景、高實時性要求的獨特性質(zhì),對數(shù)據(jù)處理的性能有著更為強烈和嚴苛的要求,騰訊天幕打造了面向多場景的實時流式大數(shù)據(jù)處理平臺解決方案,孵化了超過60項國家級技術(shù)專利。
基于騰訊自研的安全算力算法PaaS的支撐,憑借高性能安全算力以及安全算法優(yōu)勢,騰訊天幕打造了萬億級海量、自動智能、強實時保證的流式計算解決方案,實現(xiàn)了全局威脅檢測與全網(wǎng)全出口實時攔截,并將安全算力算法平臺能力輸送至各行業(yè)用戶,在日常運營以及重保期間提供實時智能的安全保障。
騰訊天幕通過PaaS化的服務(wù),支持任務(wù)QoS服務(wù)以及資源隔離,核心能力均開放API接口,為其他安全產(chǎn)品業(yè)務(wù)賦能,實現(xiàn)基于天幕PaaS的軟件定義安全能力。同時,騰訊天幕采用全自研系統(tǒng),具有高效低碳,安全可靠的特性。目前,騰訊天幕已為DDoS檢測、業(yè)務(wù)風(fēng)控、威脅感知等業(yè)務(wù)場景計算需求提供底層強勁安全PaaS支撐,并在性能消耗,實時性保障,成本投入等方面表現(xiàn)出明顯優(yōu)勢,位列安全算力技術(shù)業(yè)界領(lǐng)先梯隊。
2020年,騰訊天幕曾參與多項大數(shù)據(jù)、安全算法方面國家標準、行業(yè)標準制定,并榮獲了全球下一代互聯(lián)網(wǎng)峰會“IPv6最佳實踐獎”、中國電子政務(wù)領(lǐng)域“自主可控創(chuàng)新產(chǎn)品獎”等獎項,本次評測中,通過了14項嚴格的測試項目。
騰訊云另一王牌產(chǎn)品——騰訊云數(shù)據(jù)庫TDSQL則通過了分布式事務(wù)型數(shù)據(jù)庫性能評測。TDSQL是騰訊企業(yè)級分布式關(guān)系型數(shù)據(jù)庫,目前旗下涵蓋了金融級分布式、云原生、分析型等多引擎融合的完整數(shù)據(jù)庫產(chǎn)品體系,服務(wù)騰訊集團內(nèi)部及騰訊云上包括中國銀行、平安銀行、華夏銀行等頂級銀行在內(nèi)的數(shù)千家金融、政務(wù)、社交、電商、交通、游戲等行業(yè)客戶,并在第七次人口普查期間,15天內(nèi)支撐了14億海量C端數(shù)據(jù)業(yè)務(wù)的入庫。
作為國產(chǎn)數(shù)據(jù)庫,TDSQL擁有深厚的技術(shù)研發(fā)積累,在基礎(chǔ)研究領(lǐng)域獲得了超百項國際和國家認證及國內(nèi)外技術(shù)專利,是首批完成中國信通院基于管理能力、核心功能、兼容能力、高可用特性、擴展性、安全性六大特性進行的分布式測試的國產(chǎn)數(shù)據(jù)庫產(chǎn)品。
在本次信通院分布式事務(wù)數(shù)據(jù)庫性能測評中,TDSQL數(shù)據(jù)庫滿足了ACID要求,并在集群部署能力,容災(zāi)架構(gòu)部署能力,同步架構(gòu)設(shè)計,數(shù)據(jù)庫遷移、升級、升級整合等性能上排名靠前,獲得了分布式事務(wù)型數(shù)據(jù)庫性能、數(shù)據(jù)庫應(yīng)用遷移服務(wù)能力和數(shù)據(jù)庫實施部署服務(wù)能力專項評測證書。
值得一提的是,騰訊云安全隱私計算平臺通過了多方安全計算產(chǎn)品性能評測、聯(lián)邦學(xué)習(xí)產(chǎn)品性能評測等兩項評測。該平臺以聯(lián)邦學(xué)習(xí)(FL)、安全多方計算(MPC)、可信執(zhí)行環(huán)境(TEE)等隱私數(shù)據(jù)保護技術(shù)為基礎(chǔ),針對機器學(xué)習(xí)算法進行定制化的隱私保護改造,保證原始數(shù)據(jù)不出本地即可完成聯(lián)合建模,既能保障數(shù)據(jù)安全,又能發(fā)揮數(shù)據(jù)最大價值,很好地解決了企業(yè)面臨的數(shù)據(jù)孤島難題。
在本次評測中,騰訊云安全隱私計算在聯(lián)邦學(xué)習(xí)的測試結(jié)果中XGB樹模型訓(xùn)練及推理、特征工程都以絕對的優(yōu)勢獲得最優(yōu)性能評測表現(xiàn),在安全多方計算測試結(jié)果中基礎(chǔ)運算、聯(lián)合統(tǒng)計、特征工程、模型訓(xùn)練及推理都有大幅度優(yōu)于平均水平的表現(xiàn)。目前騰訊云安全隱私計算平臺在銀行、保險、政務(wù)、教育等行業(yè)都有標桿性案例,其優(yōu)異的安全性、性能表現(xiàn)在諸多風(fēng)控、營銷場景下都發(fā)揮了重要作用。
此外,在本次測評中,騰訊云數(shù)圖軟件(簡稱騰訊云TGDB)也通過了圖數(shù)據(jù)庫基礎(chǔ)能力評測。據(jù)了解,這款圖數(shù)據(jù)庫能夠?qū)崿F(xiàn)萬億級關(guān)聯(lián)關(guān)系數(shù)據(jù)實時查詢,高效治理異構(gòu)數(shù)據(jù),支持實時圖計算。同時,深度挖掘大數(shù)據(jù)中的隱藏關(guān)聯(lián)關(guān)系,幫助企業(yè)構(gòu)筑全局視角,釋放潛在商業(yè)價值。
據(jù)了解,“中國信通院大數(shù)據(jù)產(chǎn)品能力測試”是國內(nèi)首個面向大數(shù)據(jù)產(chǎn)品的權(quán)威評測體系,旨在從基礎(chǔ)能力、性能、可靠性、安全等維度全面衡量企業(yè)級大數(shù)據(jù)產(chǎn)品能力,目前已經(jīng)成為大數(shù)據(jù)領(lǐng)域最權(quán)威的第三方評測品牌之一,通過評測的產(chǎn)品,代表著中國大數(shù)據(jù)能力的第一梯隊水平,也是領(lǐng)先技術(shù)發(fā)展的風(fēng)向標。
作為國內(nèi)最早探索大數(shù)據(jù)的互聯(lián)網(wǎng)企業(yè)之一,騰訊云目前是國內(nèi)算力最強的云廠商,同時也有著國內(nèi)最大的日實時計算量。未來騰訊云將持續(xù)深耕大數(shù)據(jù)、數(shù)據(jù)庫等技術(shù)的基礎(chǔ)研究創(chuàng)新,推動各行業(yè)數(shù)據(jù)應(yīng)用安全,助力更多企業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型。