器審專家：AI醫(yī)療器械“學(xué)然后知不足”

zhg

機器學(xué)習(xí)（ML）是人工智能的核心領(lǐng)域，專門研究計算機模擬人類學(xué)習(xí)行為的方法。深度學(xué)習(xí)（DL）于2006年正式提出，作為新一代人工智能技術(shù)的代表引領(lǐng)了本次人工智能熱潮，幾乎成為人工智能的代稱。深度學(xué)習(xí)實為人工神經(jīng)網(wǎng)絡(luò)算法，特征提取無須人為干預(yù)自動完成，是基于海量數(shù)據(jù)和高算力的黑盒算法。

人工智能醫(yī)療器械是指使用人工智能技術(shù)的醫(yī)療器械，包括人工智能獨立軟件和人工智能軟件組件。人工智能技術(shù)在醫(yī)療器械的應(yīng)用主要包括前處理（如成像速度提升）、流程優(yōu)化（如一鍵操作）、常規(guī)后處理（如圖像分割）、輔助決策（如輔助篩查、輔助識別、輔助診斷、輔助治療）等方面，能夠提高診治的準(zhǔn)確性和效率，降低醫(yī)生誤診漏診率和工作強度，具有良好的臨床價值和應(yīng)用前景。

在我國，使用傳統(tǒng)人工智能技術(shù)的醫(yī)療器械已有多款產(chǎn)品注冊上市，如乳腺癌、肺結(jié)節(jié)、結(jié)腸息肉等輔助識別軟件和心電分析軟件。而使用深度學(xué)習(xí)等新一代人工智能技術(shù)的醫(yī)療器械典型產(chǎn)品有眼底照片糖網(wǎng)輔助篩查軟件、CT圖像肺結(jié)節(jié)輔助識別軟件、病理圖像輔助識別軟件，目前仍主要處于研發(fā)、檢測、臨床試驗階段。

   

深度學(xué)習(xí)雖然在商業(yè)領(lǐng)域已取得成功，但在醫(yī)學(xué)領(lǐng)域應(yīng)用還存在諸多問題。由于醫(yī)學(xué)是經(jīng)驗科學(xué)，本身存在著不確定性和開放性，決策路徑復(fù)雜，簡單將商業(yè)成功經(jīng)驗移植到醫(yī)學(xué)場景并不能達到預(yù)期效果。

   

首先，深度學(xué)習(xí)是個“黑盒”，可解釋性差。醫(yī)生知其然但不知其所以然，影響后續(xù)醫(yī)療活動的開展，特別是長期使用產(chǎn)生依賴性之后較難發(fā)現(xiàn)產(chǎn)品出錯。

   

其次，深度學(xué)習(xí)以數(shù)據(jù)為基礎(chǔ)，但醫(yī)療數(shù)據(jù)不能完全代表臨床決策要素，同時其反映的是數(shù)據(jù)之間的相關(guān)性而非因果性，需要權(quán)衡對于醫(yī)生臨床決策的影響及其受益與風(fēng)險。

   

第三，深度學(xué)習(xí)需要大量高質(zhì)量數(shù)據(jù)進行訓(xùn)練，滿足相應(yīng)條件的醫(yī)療數(shù)據(jù)相對較少。一是醫(yī)療數(shù)據(jù)較為復(fù)雜，具有多維度特征，增加數(shù)據(jù)標(biāo)注和算法訓(xùn)練難度；二是醫(yī)療數(shù)據(jù)相對封閉，數(shù)據(jù)產(chǎn)權(quán)關(guān)系不清，數(shù)據(jù)獲取較為困難；三是醫(yī)療數(shù)據(jù)需要人工標(biāo)注形成標(biāo)簽以供訓(xùn)練，人為因素影響嚴重。

   

最后，訓(xùn)練數(shù)據(jù)缺乏多樣性，數(shù)據(jù)量不足，缺乏魯棒性設(shè)計，導(dǎo)致算法泛化能力弱，重復(fù)性和再現(xiàn)性差，臨床難以落地和推廣。

因此，只有在數(shù)據(jù)質(zhì)量控制、算法泛化能力以及臨床使用風(fēng)險等方面扎實做好工作，才能保證深度學(xué)習(xí)醫(yī)療器械的安全性和有效性。此外，需要數(shù)據(jù)驅(qū)動與知識驅(qū)動相結(jié)合，以提升深度學(xué)習(xí)的可解釋性。