【洪存正專欄】《新英格蘭醫學期刊》明年將推出NEJM AI

各行各業都跟上人工智能的風潮，醫學界的領頭羊《新英格蘭醫學期刊》(NEJM)，明年也將推出NEJM AI。波士頓的哈佛大學公共衛生學院 (ALB) 流行病學系和哈佛醫學院 (ISK, AKM) 生物醫學資訊學系的Andrew L. Beam 博士，Jeffrey M. Drazen博士等人最新在《新英格蘭醫學期刊》(NEJM)發表的<醫學中的人工智能>(Artificial Intelligence in Medicine)論文中做此宣告。

文 / 洪存正 綜合報導

隨著深度學習模型的發布，人工智能 (AI) 最近獲得了公眾的關注，這些模型可以在最少的人工干預下生成從藝術作品到學期論文的任何東西。這一發展重新激發了對人工智能在生活各個方面的現有和潛在作用的討論。然而，在可能應用 AI 的眾多領域中，醫學脫穎而出，因為它具有巨大的潛力和同樣巨大的挑戰。在Journal上，我們看到越來越多的手稿提交考慮了 AI 應用於醫學的某些方面。鑑於這種巨大的興趣，我們現在已經在本期雜誌上發表了新系列 AI in Medicine 的第一篇文章將考慮 AI 和機器學習技術在健康和醫療保健各個方面的合理確立和不斷增長的可能作用。此外，為了進一步推進我們對這一領域的承諾，我們還宣布將於 2024 年推出新期刊NEJM AI ( ai.nejm.org. 在新標籤頁中打開)，旨在為醫學人工智能的高質量證據和資源共享提供一個論壇，並就其潛力和局限性進行知情討論。

AI不一定是萬靈藥；它可能很脆弱

作為醫學期刊， NEJM AI面臨兩個新的出版挑戰. 首先是潛在人工智能應用的廣度。在醫療和護理服務領域，幾乎沒有哪個領域未被 AI 觸及。例如，人工智能驅動的應用程序可用於捕捉醫療筆記的口述；許多此類應用程序都在嘗試綜合患者訪談和實驗室測試結果，以便在沒有臨床醫生干預的情況下直接寫筆記。人工智能在健康保險範圍內發揮著越來越大的作用，協助護理人員提出索賠並協助付款人裁定索賠。

我們已經看到許多已發表的報告使用 AI 來解讀圖像——射線照片、組織學和眼底。利用人工智能的工具越來越多地用於分析和解釋包含從實驗室發現到臨床數據的信息的大型研究數據庫。所有這些工具都提供了提高效率的潛力，並且可能會提供更傳統的數據分析方法難以獲得的見解。

然而，新的 AI 方法不一定是萬靈藥；它們可能很脆弱，它們可能只在一個狹窄的領域內工作，並且它們可能有內在的偏見，這些偏見會對邊緣化群體產生不成比例的影響。這一系列的人工智能應用需要各種各樣的作者、編輯和審稿人，儘管擁有適當知識的人仍然相對較少。並且它們可能具有不成比例地影響邊緣化群體的內在偏見。

這一系列的人工智能應用需要各種各樣的作者、編輯和審稿人，儘管擁有適當知識的人仍然相對較少。並且它們可能具有不成比例地影響邊緣化群體的內在偏見。這一系列的人工智能應用需要各種各樣的作者、編輯和審稿人，儘管擁有適當知識的人仍然相對較少。

遵循透明和披露的政策

其次，人工智能和機器學習領域的專業知識與商業應用密切相關。基礎技術正在迅速變化，在許多情況下，這些技術是由對其產品有經濟利益的公司和學術研究人員開發的。對於越來越多的大型人工智能模型，擁有必要資源的公司可能是唯一能夠推動人工智能係統前沿發展的公司。由於許多此類模型尚未廣泛使用，因此通常只有少數模型開發人員擁有實際操作經驗和對模型操作特性的詳細了解。儘管可能會產生利益衝突的經濟激勵措施，但對人工智能和機器學習及其在醫學中的應用的深入理解需要參與其開發的人員的參與。因此，在期刊和NEJM AI中，該刊不會將作者身份和編輯控制權限制在沒有相關財務關係的人身上，但會遵循透明和披露的政策。

對於 AI進行道德、治理的監管

醫學與應用人工智能的其他領域有很大不同。人工智能在整個醫療保健連續體中實現新發現和改進流程；道德、治理和監管方面的考慮對於 AI 應用程序和系統的每個組件的設計、實施和集成至關重要。出於對實用性和安全性的考慮，新應用程序通常必須遵守適用於其他醫療技術的相同標準。這將需要與其他醫學領域類似的嚴格測試水平，但它也可能帶來挑戰，例如當 AI 系統與數據集不匹配時可能導致的「數據集偏移」已開發以及部署它的數據。今年夏天，我們希望開始評估NEJM AI的研究，這些研究為理解如何在醫學中使用 AI 和機器學習方法提供了謹慎的方法。該刊很高興能夠利用原有的資源來鼓勵 AI 領域的高質量工作，並按照該刊發布的所有內容所採用的相同標準來傳播它。