此外,會(huì)上提到了我比較關(guān)注的Aurora Limitless數(shù)據(jù)庫,介紹了Grover對(duì)于云原生數(shù)據(jù)庫Aurora很重要,Caspin對(duì)于Aurora Serverless很重要,還提到了數(shù)據(jù)庫分片技術(shù)對(duì)Aurora Limitless很重要的事情。

為什么這部分我記得這么清楚呢?因?yàn)檫@里提到了用來給服務(wù)器做精準(zhǔn)時(shí)鐘同步的神器。

它用了衛(wèi)星上的原子時(shí)鐘來拿到精準(zhǔn)的時(shí)間信息。然后,在本地用了脈沖信號(hào)來給服務(wù)器集群同步時(shí)間,從而將時(shí)間同步的精度提高到了微秒級(jí),減少了時(shí)鐘同步的等待時(shí)間,每秒可以對(duì)更多數(shù)據(jù)庫的事件做排序,最終提高了數(shù)據(jù)庫的性能表現(xiàn)。

這很酷,這是Aurora Limitless數(shù)據(jù)庫性能高的主要原因之一。同時(shí),基于這套專有的硬件,亞馬遜云科技推出了新的時(shí)間同步服務(wù)Amazon Time Sync Service,把它開放給用戶使用。

關(guān)于生成式AI的部分,主要介紹了生成式AI的三層架構(gòu),底層是軟硬件基礎(chǔ)設(shè)施為主,中間層是以Amazon Bedrock為主的面向開發(fā)者的服務(wù)為主,最上層是SaaS化的一些應(yīng)用。

芯片底層主要介紹了Trainium芯片,這次還更新了Trainium2訓(xùn)練芯片。自己的芯片,配合EFA網(wǎng)絡(luò)構(gòu)建超大規(guī)模集群,能同時(shí)讓很多個(gè)芯片一起干活兒,場(chǎng)面很驚艷,算力很強(qiáng)。

另外,這里還介紹了一個(gè)叫SageMaker HyperPod的新東西,它提供了一個(gè)配置好各種類庫的分布式訓(xùn)練訓(xùn)練環(huán)境,能讓成千上萬個(gè)加速器一起訓(xùn)練,訓(xùn)練速度可以提高40%。而且,它還能自己存checkpoint,自動(dòng)用checkpoint恢復(fù)被中斷的訓(xùn)練。

除了自家的芯片,會(huì)上還介紹了跟英偉達(dá)合作構(gòu)建的全球第一個(gè)云上GH200 AI超級(jí)計(jì)算集群,支持用16384塊Grace Hopper超級(jí)芯片一起干活兒,提供65個(gè)ExaFlops的逆天的算力。

中間層主要介紹了專為生成式AI打造的Amazon Bedrock,它能托管運(yùn)行好幾種大模型,讓用戶用API來使用大模型,還能支持RAG、微調(diào)之類的操作,全程無需寫一行代碼。

這部分主打的是支持的大模型多,包括Anthropic開發(fā)的Claude,Meta開發(fā)的Llama之類的,能降低企業(yè)落地大模型的門檻。

這部分還推到了亞馬遜云科技自己開發(fā)的大模型Amazon Titan,Amazon Titan其實(shí)包含了好幾個(gè)模型,這次又新推出了好幾個(gè)。

比如做文本摘要的Amazon Titain Text Lite,生成文本的Amazon Titain Text Express,還有做圖片生成的Amazon Titan Image Generator等。

最上層,就是SaaS類應(yīng)用了,排在C位的是Amazon Q。

這是一個(gè)Chatbot聊天機(jī)器人,明顯是對(duì)標(biāo)微軟Copilot的,看起來跟ChatGPT也很像。但是,Amazon Q主要是面向工作場(chǎng)景的。

Amazon Q分兩大類,一類是面向業(yè)務(wù)人員的??梢詭蜆I(yè)務(wù)人員發(fā)現(xiàn)數(shù)據(jù)洞察,幫業(yè)務(wù)人員提煉文檔內(nèi)容,幫業(yè)務(wù)人員寫新聞稿,寫標(biāo)題,寫摘要,安排互動(dòng)日程之類的。

另外一類是面向技術(shù)人員的,對(duì)于IT工程師而言,它是一個(gè)非常懂亞馬遜云科技的機(jī)器人,能幫你更好地用云,比如能幫你找到合適的EC2主機(jī)。對(duì)于軟件開發(fā)者來說,它能用來生成代碼,創(chuàng)建單元測(cè)試,還能幫助開發(fā)者快速理解代碼。

此前開發(fā)的Amazon Codewhisperer也能生成代碼,現(xiàn)在的Amazon Q也能生成代碼,是不是有點(diǎn)重合呢?

對(duì)此,亞馬遜云科技大中華區(qū)產(chǎn)品技術(shù)總監(jiān)王曉野表示,Amazon CodeWhisperer主要是在IDE里用注釋作為提示詞來生成代碼片段,而現(xiàn)在Amazon Q則是像ChatGPT一樣在聊天對(duì)話框里生成代碼,兩者還是有區(qū)別的。

以上就是中國版的re:invent活動(dòng)北京站的主要內(nèi)容。雖然這樣很有性價(jià)比,但如果你真愛云計(jì)算,喜歡鉆研技術(shù),那么我更推薦你去看re:Invent全球大會(huì)的主題演講,那里有更多有趣的技術(shù)細(xì)節(jié)等待你去探索。

分享到

zhupb

相關(guān)推薦