那么為什么是“余弦”相似性?當兩個矢量間的夾角縮小,這個角的余弦值就趨近于 1。當兩個矢量間的夾角縮小到 0,余弦值等于 1 (cos(0)=1)。另一方面,當兩個矢量正交,余弦值就為 0 (cos(90)=0)。余弦值越趨近于 1,兩個病史就越近似。
加速治療路徑
顯然,如果能夠根據(jù)數(shù)百種屬性搜索數(shù)百萬份患者病歷以找出最相似的病歷,從而推導出治療路徑,將為患者康復提供莫大的福音。如果能快速完成這項工作,可以讓患者更加安心,并提高患者滿意度,同時提升呼叫中心效率,節(jié)省大量成本。您處理的患者數(shù)量越大,實時完成這些工作的難度就越高。當您有 1 億位患者,要及時找到最相似結果,并使之和人際間自然對話速度一樣快,難度極大。在幾分鐘內獲得結果,這是 TigerGraph 使用常規(guī)的基于 CPU 的計算架構所能實現(xiàn)的水平。這雖然足以令人印象深刻,但還是不能滿足這個用例的需要。
這就是賽靈思技術的用武之地。賽靈思是 FPGA 領域的全球領先者。FPGA 是一種由可配置邏輯塊矩陣構成的半導體器件。FPGA 的其他優(yōu)勢還有大規(guī)模并行,即能夠同時執(zhí)行多項計算。這使得 FPGA 成為計算密集型工作負載加速的理想選擇。賽靈思 Alveo 加速器卡是標準的 PCIe 器件,非常方便在行業(yè)標準的服務器內部署 FPGA 協(xié)處理。本用例使用 Alveo U50 卡。借助賽靈思 Vitis 庫,TigerGraph 等應用能夠使用通用的高級語言,輕松靈活地為應用提供 Alveo 加速。
這就是賽靈思技術的用武之地。賽靈思是 FPGA 的發(fā)明者,也是該領域的全球領先者。賽靈思 FPGA 從架構上允許“度身定制”的適配,高度契合患者建議引擎使用的余弦相似性等計算密集型工作負載的獨特需求。
賽靈思 Alveo U50 是一種基于 PCIe 的 FPGA 加速器卡,能夠部署到行業(yè)標準的服務器內。該卡提供大規(guī)模并行 FPGA 處理能力,在計算余弦相似性算法時,通過快速訪問存儲患者病歷的高帶寬存儲器 (HBM2),實現(xiàn)高速處理。這種方案與基于 CPU 的實現(xiàn)方案相比完成查詢搜索功能的速度快出 300 倍以上。
將患者相似性查詢從基于 CPU 的架構遷移到賽靈思 Alveo 卡可實現(xiàn)性能飛躍。查詢響應時間從 1 分鐘縮短到 50 毫秒。這既能夠幫助這家醫(yī)療服務提供商實現(xiàn)縮短呼叫時間、節(jié)約成本的目標,也支持以人際對話的正常節(jié)奏將查詢結果提供給客服,讓患者與客服間的交流更人性、更自然。