引領(lǐng)科技潮流的大模型，正在發(fā)力醫(yī)療與健康市常發(fā)布在《急診醫(yī)學(xué)年鑒》、BMJ等期刊的研究顯示，醫(yī)療大模型在部分測試中比肩甚至超越了醫(yī)生，在保證醫(yī)療服務(wù)準(zhǔn)確率與公平性、提升醫(yī)療系統(tǒng)工作效率等方面展現(xiàn)出應(yīng)用優(yōu)勢與價值。頭部科技公司正在持續(xù)推出、調(diào)優(yōu)醫(yī)療大模型，并向醫(yī)療機(jī)構(gòu)開放體驗(yàn)。然而，醫(yī)療大模型要真正在醫(yī)療機(jī)構(gòu)落地乃至普及，需要一套具有性價比的私有化部署方案，以應(yīng)對數(shù)據(jù)安全和算力芯片價格昂貴、供貨周期長的挑戰(zhàn)。比如醫(yī)療人工智能解決方案提供商北京惠每云科技有限公司 (以下簡稱“惠每科技”)攜手英特爾，基于第四代英特爾至強(qiáng)可擴(kuò)展處理器，打造了量化和非量化兩種醫(yī)療大模型加速方案，助力實(shí)現(xiàn)大模型在醫(yī)療系統(tǒng)的簡捷部署，讓AI在更多醫(yī)療流程發(fā)揮更大作用。
部分指標(biāo)超越人類醫(yī)生？大模型在醫(yī)療領(lǐng)域潛力可觀
大模型與醫(yī)療行業(yè)，有著天然的契合性。醫(yī)療領(lǐng)域存在大量模態(tài)種類豐富的數(shù)據(jù)，且呈現(xiàn)出多學(xué)科、跨領(lǐng)域的特點(diǎn)。而大模型的長項(xiàng)就是對多類數(shù)據(jù)進(jìn)行整合總結(jié)、分析判斷和自動摘要。在前沿研究和企業(yè)布局的共同推動下，大模型扎根醫(yī)療，已經(jīng)有了明朗的趨勢。
在保證醫(yī)療準(zhǔn)確率和提升醫(yī)療系統(tǒng)工作效率方面，大模型有著可觀的應(yīng)用潛力。一項(xiàng)發(fā)表在《急診醫(yī)學(xué)年鑒》雜志上的研究發(fā)現(xiàn)，人工智能聊天機(jī)器人對病人的診斷效果不亞于訓(xùn)練有素的醫(yī)生。在荷蘭 Jeroen Bosch 醫(yī)院的試點(diǎn)研究中，研究人員將醫(yī)生的筆記和 30 名病人的匿名信息輸入兩個版本的ChatGPT。結(jié)果顯示，在醫(yī)生的診斷中（每位醫(yī)生在病例上列出了他們認(rèn)為最有可能的5個診斷），有87%的病例包含正確的診斷。而ChatGPT 3.5在97%的病例中做出了正確的診斷，ChatGPT 4.0在87%的病例中做出了正確的診斷。
對于判斷標(biāo)準(zhǔn)較為多元的病癥比如癥狀繁多且個體差異較為多樣的“心靈感冒”抑郁癥，大模型也有望在保證醫(yī)療服務(wù)質(zhì)量和公正性方面發(fā)揮作用。近期發(fā)布在醫(yī)學(xué)期刊BMJ的研究顯示，ChatGPT在識別抑郁癥程度和確定治療方法上展現(xiàn)出更高的公正性和精準(zhǔn)性。具體來看，ChatGPT能夠更精準(zhǔn)地根據(jù)臨床指南調(diào)整治療方法，且對治療方案有著更高的遵循度，不會因?yàn)榛颊叩男詣e、年齡與社會經(jīng)濟(jì)地位而出現(xiàn)明顯偏差。
圍繞醫(yī)療大模型，科技企業(yè)已經(jīng)著手布局。
在模型開發(fā)方面，谷歌的醫(yī)療大模型Med-PaLM2在美國醫(yī)療執(zhí)照考試(USMLE)的MedQA數(shù)據(jù)集實(shí)現(xiàn)了86.5%的準(zhǔn)確率。微軟推出了用于生物醫(yī)學(xué)領(lǐng)域的大型語言和視覺模型LLaVA-Med, 能根據(jù)開放性指令輔助回答關(guān)于生物醫(yī)學(xué)圖像的問題。百度的“產(chǎn)業(yè)級”醫(yī)療大模型“靈醫(yī)”，已定向向公立醫(yī)院、藥械企業(yè)、互聯(lián)網(wǎng)醫(yī)院平臺、連鎖藥房等200多家醫(yī)療機(jī)構(gòu)開放體驗(yàn)。
在行業(yè)發(fā)展方面，大模型正在被引入臨床診斷決策、病例數(shù)據(jù)管理等領(lǐng)域，衍生出一系列AI應(yīng)用。
比如惠每科技以其CDSS（臨床決策支持系統(tǒng)）產(chǎn)品和海量醫(yī)療數(shù)據(jù)為基礎(chǔ)，積極引入大模型技術(shù)來為醫(yī)療機(jī)構(gòu)打造更高品質(zhì)的醫(yī)療 AI 應(yīng)用。其面向醫(yī)院的核心應(yīng)用Dr.Mayson，融入了PDCA（計(jì)劃-執(zhí)行-檢查-處理）過程管理和CDSS。具體來看，Dr.Mayson利用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、大數(shù)據(jù)挖掘等技術(shù)，一方面能夠智能識別并分析病歷文書、LIS（實(shí)驗(yàn)室信息管理系統(tǒng)）/RIS（放射信息管理系統(tǒng)）報告等患者完整病歷數(shù)據(jù)，另一方面能夠?yàn)獒t(yī)院構(gòu)建專門的醫(yī)學(xué)知識庫，為醫(yī)生、醫(yī)技、護(hù)士、管理方提供實(shí)時智能參考與建議。
在惠每科技最新發(fā)布的CDSS 3.0架構(gòu)中，新一代 AI 大數(shù)據(jù)處理平臺已集成了醫(yī)療大模型，并已經(jīng)在某合作醫(yī)院的病歷生成等場景中獲得了醫(yī)生的認(rèn)可。
如何實(shí)現(xiàn)部署和普及？性價比是關(guān)鍵
數(shù)據(jù)安全和算力成本，是醫(yī)療大模型部署落地的兩大難題。由于行業(yè)特殊性，醫(yī)療機(jī)構(gòu)對于數(shù)據(jù)和隱私安全極其重視，任何醫(yī)療數(shù)據(jù)都要在安全可控的內(nèi)網(wǎng)環(huán)境存儲和傳輸，因此醫(yī)療大模型更適合私有化的部署環(huán)境。而大模型的訓(xùn)練和推理，要堆疊大量的專用加速芯片，其高額成本和較長的供貨周期，往往令醫(yī)療機(jī)構(gòu)望而卻步。
因此，醫(yī)療大模型要實(shí)現(xiàn)在醫(yī)療機(jī)構(gòu)的落地和擴(kuò)展，需要一套具有性價比且安全穩(wěn)定的部署方案。
惠每科技便攜手英特爾，基于第四代英特爾至強(qiáng)可擴(kuò)展處理器，打造了量化和非量化兩種醫(yī)療大模型優(yōu)化方案。
量化能夠?yàn)榇竽Ｐ?ldquo;瘦身”。理論上，模型的參數(shù)精度越高，占用的存儲資源越多。因此，量化可以從降低參數(shù)精度著手，將訓(xùn)練好的模型的權(quán)值、激活值等從高精度數(shù)據(jù)格式 (如 FP32 等) 轉(zhuǎn)化為低精度數(shù)據(jù)格式 (如 INT4 /INT8 等)，從而降低推理過程中對內(nèi)存等資源的需求，讓平臺可以容納更大參數(shù)規(guī)模的大模型，并大幅提升推理速度。
在惠每科技與英特爾的合作中，雙方基于第四代英特爾至強(qiáng)可擴(kuò)展處理器內(nèi)置的指令集，通過英特爾開發(fā)和開源的BigDL-LLM 大模型庫來實(shí)現(xiàn)推理加速量化方案。BigDL-LLM提供了面向不同低精度數(shù)據(jù)格式的支持和優(yōu)化，還可以給予不同處理器內(nèi)置指令集（如英特爾 AVX-512_VNNI、英特爾AMX等）及配套的軟件實(shí)施推理加速，使大模型在英特爾架構(gòu)平臺上實(shí)現(xiàn)更高的推理效率。
在實(shí)際使用中，BigDL-LLM 為醫(yī)療大模型提供了便捷命令和編程接口兩種使用方式，通過便捷命令方法，惠每科技可以方便地完成模型量化并評估量化后的推理效果，判斷該量化方案是否適用于當(dāng)前模型。基于BigDL-LLM 提供的HuggingFace 和 LangChain編程接口，用戶能夠?qū)⒘炕桨缚旖莸卣系紿uggingFace 或 LangChain 的項(xiàng)目代碼，高效完成模型部署。
在非量化優(yōu)化方案中，英特爾提供了鍵值（KV）緩存、算子融合的OpenVINO 加速方案。
KV緩存用于通過鍵值對的方式存儲數(shù)據(jù)，能加速和優(yōu)化數(shù)據(jù)訪問。在惠每科技主要使用的開源基座大模型ChatGLM上，英特爾OpenVINO非量化方案利用零拷貝（Zero-Copy）視圖來傳遞預(yù)分配KV 所需的內(nèi)存副本空間，避免數(shù)據(jù)的多次拷貝，有效實(shí)現(xiàn) KV 緩存加速。
還可以引入第四代至強(qiáng)可擴(kuò)展處理器內(nèi)置的英特爾AMX指令集，助力ChatGLM 等醫(yī)療大模型加速BF16/INT8 精度數(shù)據(jù)格式的模型推理，實(shí)現(xiàn)算子融合，在保證精度的同時提高醫(yī)療大模型的運(yùn)算效率，加速推理過程。
OpenVINO工具套件還提供了在 HuggingFace 上的 Optimum 接口，讓優(yōu)化效果更便捷地擴(kuò)展到更多醫(yī)療大模型的推理應(yīng)用中。
通過惠每科技與英特爾的協(xié)同優(yōu)化，基于惠每科技醫(yī)療大模型構(gòu)建的醫(yī)療AI應(yīng)用能在保證精度的前提下有效提升醫(yī)療大模型的推理速度，幫助醫(yī)療機(jī)構(gòu)有效地節(jié)約成本。接下來，雙方將對大模型技術(shù)在醫(yī)療領(lǐng)域中更廣泛和深入的應(yīng)用開展更多探索，進(jìn)而推動醫(yī)療全流程的 AI 技術(shù)加持或智能化，讓智慧醫(yī)療惠及更多醫(yī)與患，從而普惠大眾。
作者丨
張心怡
編輯丨趙晨
美編丨馬利亞
監(jiān)制丨連曉東
