現今人工智慧（AI）已滲透到醫療保健的各個層面，從診所的記錄摘要到醫學影像分析，但專家們普遍認為，消費者應更廣泛地利用AI來輔助理解自身健康狀況。AI藥物發現公司的創辦人Alex Zhavoronkov堅稱，AI模型的能力已接近，甚至超越部分醫生的水準，建議民眾利用AI來解答「應吃什麼」、「是否該節食」等基礎健康問題，這樣能節省與實體醫生諮詢的時間。在市場應用方面，OpenAI推出了ChatGPT Health，允許用戶安全連接醫療記錄；亞馬遜也為其醫療體系開發了HealthAI工具，能根據病歷和化驗報告提供建議。然而，來自生物科技公司Biocon的CEO Shreehas Tambe則持謹慎態度，指出AI技術的過度應用存在明顯的「學習曲線」，若使用者掌握不夠，可能會導致比益處更多的錯誤結果。儘管AI在藥物研發方面顯示出巨大威力，能將藥物開發的準備階段時間從四年以上縮短至僅十八個月，大型藥廠已簽訂天價交易驗證此趨勢。但Tambe也強調，對於新藥開發的AI模型，必須有「人類在環」（human in the loop）的介入，由具備專業科學知識的人類專家進行驗證，以推動模型的邊界發展，確保技術的準確性與實用性。
在我看來，這篇報導精準地捕捉了當前醫療科技領域最核心的矛盾點：革命性的巨大潛能與尚未成熟的落地風險之間的張力。支持者過度描繪了AI模型的能力邊界，使其看起來像是一個近乎完美的「數位醫生」，這極具市場推動的動能，也為企業（如OpenAI、亞馬遜）提供了擴展服務的藉口。然而，從Tambe的觀點來看，技術的「易用性」（ease of use）不等於「可靠性」（reliability）。消費者在看到AI能快速、便捷地提供答案時，很容易產生過度的信任，將AI的「建議」等同於「診斷」或「治療方案」。這是一個極度危險的邏輯飛躍。產業的發展方向，不應是「讓AI取代醫生」，而應該是「設計機制，讓AI成為醫生的最強大輔助工具」。未來，所有的落地產品，無論是消費者級還是臨床級，都必須將「可追溯性」（traceability）和「專家覆核機制」（expert validation）作為最高優先級，否則再快、再先進的AI，也只會成為一個美麗的、但極度致命的烏龍代碼。
原文網頁：Can AI outperform doctors? Experts weigh the pros and cons (by Lucy Handley)
發佈留言