最近,蘋果開始使用基于Graviton和Inferentia芯片的方案。通過將EC2實例從x86遷移到Graviton,實現(xiàn)了40%以上的性價比提升。在搜索文本功能上,在把實例從基于英偉達芯片的G系列實例遷移到Inferentia 2實例,執(zhí)行效率提高了一倍。
Apple Intelligence是蘋果AI戰(zhàn)略的重要一環(huán),它集成在iPhone、iPad和Mac設備中,通過理解用戶的需求,幫助用戶寫作、提取摘要,改進Siri。Benoit Dupin提到,這些功能需要在保護用戶隱私的前提下進行,每一步都需要精心設計并執(zhí)行。
蘋果在開發(fā)Apple Intelligence過程中,大規(guī)模擴展了訓練基礎設施,使用亞馬遜云科技提供的加速器來進行模型微調、模型裁剪等關鍵環(huán)節(jié),這些技術幫助Apple Intelligence在設備端和服務器端實現(xiàn)了高效部署。
Benoit Dupin肯定了亞馬遜云科技在支持蘋果增長和優(yōu)化用戶體驗方面的作用。并表示,未來,蘋果將繼續(xù)借助亞馬遜云科技的加速技術,比如會使用剛發(fā)布的基于Tranium 2的云主機。測試顯示,新的云主機可以將蘋果的訓練效率提升50%。
我想提到的是,Benoit Dupin出現(xiàn)在re:Invent大會上還是有點意外的,這次應該是蘋果第一次公開承認在使用亞馬遜云科技的服務。然而,蘋果使用亞馬遜云科技這件事,其實并不意外。
首先蘋果是一家以消費者為中心的企業(yè),自己不會做云。而且,在全球化運營的模式下,出于成本與效率的考量,蘋果也不會在全球各地自建和維護數(shù)據(jù)中心。所以,蘋果必然會上云。
上哪一朵云呢?第一選擇是亞馬遜云科技,除此之外,蘋果的MacOS操作系統(tǒng)與微軟Windows有直接競爭,蘋果的iOS系統(tǒng)與谷歌直接競爭。蘋果即使會部分使用微軟Azure和谷歌的GCP,但不會是首選方案,更不會親自給云廠商站臺。