概要

美國FDA正在為人工智慧和機器學習技術制定一個全面的基於產品生命週期的監管框架，該框架將允許人工智慧和機器學習軟體從現實世界的學習和適應中進化，同時仍然確保其作為醫療器械的安全性和有效性。

FDA設想在基於AI/ML的醫療器械軟體的上市前審查中引入“預先確定的變更控制計劃”。

2020年9月《NPJ Digital Medicine》雜誌發表的一篇文章顯示，目前有64種獲FDA批准的基於AI/ML的醫療器械軟體。

01 前言

人工智慧（AI）和機器學習（ML）技術，能夠從醫療服務生成的大量資料中獲得新的重要資訊，在醫學診斷、治療、管理方面有巨大的潛力，有可能改變醫療保健。

圖1 AI（圖片來自參考資料1）

基於AI/ML的醫療器械軟體能夠透過學習現實世界的反饋來提升其效能，這正在推動新型醫療器械的發展。

那麼，美國FDA當前如何監管醫療AI呢？有哪些產品獲批？

02 基於AI/ML的醫療器械軟體

根據美國FDA的定義，醫療器械軟體（Software as a Medical Device, SaMD）是指任何符合醫療器械法律定義的軟體，包括一個或多個軟體元件、部件、附件或僅由軟體組成的器械。

國際醫療器械監管機構論壇（International Medical Device Regulators Forum, IMDRF）將醫療器械軟體定義為：擬用於一個或多個醫療目的的軟體，在執行這些目的時，不作為醫療器械硬體的一部分。

軟體開發人員可以使用機器學習建立“鎖定”的演算法，使醫療器械軟體的效能保持不變；或者建立“自適應”演算法，使醫療器械軟體的效能可以根據新資料隨時變化。

鎖定的演算法（“Locked” Algorithm）

鎖定的演算法將固定的函式應用到輸入集，因此每次提供相同輸入時都給出相同結果。鎖定的演算法使用手動的過程來更新或驗證。

自適應演算法（Adaptive Algorithm）

自適應演算法採用一個學習過程改變其效能，因此對於給定的輸入集，在效能變化之前和之後的輸出可能是不同的。這種演算法的更改通常是透過一個定義良好的、可能是完全自動化的流程來實現和驗證，旨在基於對新資料或附加資料的分析來提高效能。

自適應演算法的AI/ML醫療器械軟體不同於其他醫療器械軟體，它們有潛力實時最佳化效能，可以在真實世界的使用中學習新的使用者資料而不斷進化，不需要手動修改來增加學習或更新。

03 FDA如何對基於AI/ML的醫療器械軟體進行監管

FDA傳統的醫療器械監管模式並不是為基於AI/ML的醫療器械軟體設計的。FDA預計，根據他們目前對於軟體變更的審批方式，許多AI/ML驅動的醫療器械軟體的每一次變更或自適應更改都有可能需要進行上市前審查。這促使FDA重新構想這些醫療器械的監管方法。

目前FDA批准的所有基於AI/ML的醫療器械軟體產品都是“鎖定”的演算法。FDA從2019年開始專注於自適應AI。

在這個框架下，在上市前需提交的資料中，FDA引入了一個“預先確定的變更控制計劃”。該計劃將包括預先變更型別（被稱為“醫療器械軟體預先規格說明”），以及用於完成這些變更的相關方法學（該方法學被稱為“演算法變更協議”）。

預先規格說明（SaMD Pre-Specifications, SPS）

預先規格說明是製造商對基於AI/ML的醫療器械軟體的“效能”或“輸入”的預期的更改，或對“預期用途”相關的更改。包含醫療器械軟體在使用時，製造商計劃獲得的更改的型別。SPS在軟體的初始規格和標記周圍繪製了一個“潛在變化區域”，這就是製造商希望演算法在學習過程中變成的樣子。

演算法變更協議（Algorithm Change Protocol, ACP）

演算法變更協議是指製造商有何實現SPS中描述的預期更改型別的方法，以及適當控制SPS中描述的預期更改型別的相關風險的方法。ACP是一個循序漸進的資料和程式的描述，以使更改達到目標，並使軟體在更改後保持安全和有效。

FDA期望從製造商那裡獲得基於AI/ML的醫療器械軟體的透明度和真實世界效能的承諾，同時定期向FDA更新：在已批准的“預先規格說明”和“演算法變更協議”中，哪些變更已經實施了。

這個擬議的監管框架使AI/ML醫療器械軟體的迭代改進能力在FDA的監管範圍之內，保證患者的安全。

該討論稿依賴IMDRF風險分類原則，FDA的獲益-風險框架，軟體修改指南中的風險管理原則，以及數字健康軟體預認證（Pre-Cert）計劃中設想的基於組織的產品全生命週期管理（Total Product Life Cycle, TPLC）方法，還結合了當前的上市前監管程式，包括510(k)、De Novo和上市前審批（PMA）路徑。

醫療器械軟體的IMDRF風險分類

基於AI/ML的軟體，當用於治療、診斷、治療、減輕或預防疾病或其他情況時，屬於FDA和IMDRF所稱的醫療裝置軟體的範疇。與其他醫療器械軟體類似，基於AI/ML的醫療器械軟體的預期用途可能會對患者產生一系列影響，於是按照IMDRF醫療器械軟體風險分類框架進行分類。

表1 IMDRF醫療器械軟體的風險分類（表格來自參考資料2）

基於AI/ML的醫療器械軟體的風險從最低(I)到最高(IV)可以分為四類。

基於AI/ML的醫療器械軟體的更改的型別

基於AI/ML的醫療器械軟體有許多可能的更改。這些更改都涉及演算法架構的更改和使用新資料集的再訓練。更改的種類一般可分為三大類：與效能相關的更改、與輸入相關的更改、與預期用途相關的更改。

基於AI/ML的醫療器械軟體的產品全生命週期管理方法

按照Pre-Cert的設想，將TPLC方法應用於基於AI/ML的醫療器械軟體尤為重要，因為它能夠在真實世界的使用中適應和改進。這種TPLC方法能夠評估和監控軟體產品從上市前開發到上市後的表現。

為了充分發揮AI/ML演算法的力量，同時能夠持續改善其效能並限制退化，FDA提出的TPLC方法基於以下4個原則:

A 建立質量體系和良好的ML操作規程（GMLP）。

圖3 FDA的TPLC方法對AI/ML工作流程的覆蓋（圖片來自參考資料2）

FDA希望每一個醫療器械製造商都建立一個質量體系，該體系的目標是在整個生命週期中開發、交付和維護符合相應標準和法規的高質量產品。而且AI/ML演算法開發涉及到從資料中學習，因此要體現GMLP的獨特考慮。

B 上市前對基於AI/ML的醫療器械軟體的安全性和有效性的初步保證。對需要上市前批准的醫療器械軟體進行上市前稽核，以證明其安全性和有效性的合理保證，並對基於AI/ML的醫療器械軟體製造商建立明確的期望，以便在整個生命週期持續管理患者的風險。

C 期望製造商在開發、驗證和執行演算法更改的時候監控AI/ML器械，並納入風險管理方法和“決定何時向現有器械提交510(k)軟體更改”指南中的其他方法。

D 使用上市後真實世界的表現報告，來持續提高軟體對於使用者和FDA的透明度，以保持產品的安全性和有效性。

這些原則為保證基於AI/ML的醫療器械軟體的安全性和有效性提供了實現途徑。

05 美國FDA醫療AI的批准產品

在2020年9月11日《NPJ Digital Medicine》發表的一篇文章中，Stan Benjamens等人整理了目前可以找到的FDA批准的基於AI/ML的醫療器械和演算法，並建立和啟動了第一個全面的、開放獲取的基於AI/ML的醫療技術的資料庫，該資料庫獲得了FDA的批准。

表2 29種FDA批准的基於AI的醫療器械軟體

在醫療硬體或軟體產品合法進入美國市場之前，產品的母公司必須將其提交給FDA進行評估。對於面向醫療的基於AI/ML的演算法產品，有三個級別的審批，即510(k)、PMA和de novo途徑（de novo pathway），每一個級別都需要滿足特定的標準才能獲得批准。

表3 FDA批准的基於AI/ML的醫療技術的型別

這64種醫療器械軟體中，大多數通過了FDA的510(k)審批，8個通過了de novo途徑審批，1個通過了PMA。

06 醫療中自適應AI的未來

自適應AI允許軟體從新的資料中學習，並結合臨床醫生的反饋來最佳化其效能。這種反饋機制在非醫療AI服務中比較常見。然而目前，所有FDA批准的基於AI/ML的醫療器械軟體產品都是“鎖定”的，這些產品的所有演算法更新均由製造商控制，並非軟體自主控制，並且此類更新都需要進行新的FDA上市前審查，即使先前的版本已經獲得FDA批准。

這很大程度上是由於自適應AI在帶來優勢的同時，也有不可忽視的潛在風險。比如，自適應AI可能會從臨床醫生或機構那裡學習到錯誤的經驗教訓。發表在2019年《Science》雜誌上的一項研究報告稱，美國醫療保健系統廣泛使用的一種指導健康決策的演算法顯示出明顯的種族偏見：被該演算法確定為相同風險水平的黑人患者的病情比白人患者的病情要嚴重得多。如果醫療AI產品無法實時評估和測試醫療保健系統中的隱性偏差，那麼這將影響到醫療AI的公平和有效性。

兩種醫療器械軟體的市場授權為自適應AI奠定了基礎。其中一個是IDx-DR，可以在不需要臨床醫生解釋影象或結果的情況下，診斷糖尿病性視網膜病變，從而提供篩查決策。第二個則是2020年初的Caption Guidance。Caption Guidance能夠提供影象的實時指導和診斷質量評估，使那些未經專業培訓的醫學專業人員也可以捕獲高質量的診斷影象。這兩種產品為FDA的“預先審查”開創了先例。

儘管由於FDA採取了積極的措施，監管框架正變得越來越清晰，然而自適應AI的成熟可能還需要一段時間。另外，雖然自適應演算法的潛力巨大，但自適應演算法的AI是否比鎖定演算法的AI具有更好的實際臨床效益，還需要證據來說明。

自適應演算法AI的自我控制可能是未來，但不是現在。

基於AI/ML的醫療器械軟體的自動進化許可權，至少目前還需要掌握在人類的手中。

參考資料

1.https://www.medicalplasticsnews.com/news/opinion/the-regulatory-changes-ai-brings-to-life-sciences/

2.https://www.regulations.gov/document?D=FDA-2019-N-1185-0001

3.Benjamens, S., P. Dhunnoo, and B. Mesko,The state of artificial intelligence-based FDA-approved medical devices andalgorithms: an online database. NPJ Digit Med, 2020. 3: p. 118.

4.https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-software-medical-device#regulation

5.https://www.fda.gov/news-events/press-announcements/statement-fda-commissioner-scott-gottlieb-md-steps-toward-new-tailored-review-framework-artificial

6.https://www.mddionline.com/regulatory-quality/new-developments-fda-regulation-ai

7.Obermeyer, Z., et al., Dissecting racialbias in an algorithm used to manage the health of populations. Science, 2019. 366(6464):p. 447-453.

8.https://www.statnews.com/2020/10/02/how-should-fda-regulate-adaptive-ai/

（Chris）