Enews436 人工智慧聊天機器人 (ChatGPT) 可以為醫學提供什麼？(2)

出自KMU e-News

---

當前修訂版本

高雄醫學大學e快報 第436期　 分享園地

人工智慧聊天機器人 (ChatGPT) 可以為醫學提供什麼？(2)

■本校醫學院 劉克明名譽教授

來源不明 (Unknown Sources)：

　　Dr. Ute Schmid 在 ” ChatGPT 和其他語言模型：炒作與爭議之間的活動中(ChatGPT and Other Linguistic Models: Between Hype and Controversy.)” 說，一個重要的限制是，目前無法知道 AI 在製作其特定回應時，從哪些來源獲取訊息。Dr. Schmid 領導德國班貝格大學電腦科學院的認知系統工作小組 (Cognitive Systems Working Group at the Faculty of Computer Science at the University of Bamberg, Germany)。

　　在 Dr. Kleesiek 看來，並以醫療報告為例，由於其局限性，語言模型面臨以下的挑戰：

• 必須可靠、簡潔地陳述事實。
• 為了患者安全，建議的藥物和劑量必須正確。
• ChatGPT 的使用必須節省組合的時間，並且必須很好地整合到工作流程中。
• 必須解決有關責任、數據保護和版權的問題。

　　阿姆斯特丹大學臨床心理學教授Dr. Claudi L. Bockting及其同事在 Nature 的一篇評論中，列出了在進一步開發和研究ChatGPT，應考慮的以下五個面向：

1. 規定對人們的反應進行審核。
2. 制定責任制度。
3. 投資於真正開放的語言模型（取決於模型的訓練方式，它們包含來自製造商的一定偏見；潛在的意見制定目標）。
4. 利用人工智慧的好處。
5. 擴大辯論並批判性地處理技術。

　　Dr. Kleesiek看到了 ChatGPT 和類似工具在醫學上的大量潛在應用，例如：

• 數據結構化（回顧性的/輸入期間）。
• 數據過濾。
• 病史總結（要求可靠性）。
• 收集病歷（與患者互動）。
• 客制化語言的訊息調解。
• 發現結果的 “翻譯”。
• 文獻研究。
• 替換了與護理人員的一些對話。
• 醫學寫作。
• 與生成圖像模型連。

　　Dr. Kleesiek 將 ChatGPT 與其他 AI 算法的結合描述為醫學上“ 非常令人興奮”。在最近發表在《放射學》雜誌上的一項研究中，研究人員研究了 ChatGPT 可以在多大程度上，提高乳腺 X 光攝影 (Mammography) 中電腦輔助診斷 (CAD) 的可解釋性。通過將 ChatGPT 整合到 CAD 系統中，可以查詢某些患者或圖像。 AI 學習還可以用於獲得有關支持現有指南的數據之見解，並發現潛在的、新的基於影像的生物標誌物 (New image-based biomarkers)。

　　“在使用 ChatGPT 等基於人工智慧 (AI) 的技術時，謹慎地行事很重要” 研究者寫道。儘管面臨挑戰，但他們認為該技術在支持臨床決策，甚至提高成像過程的便利性方面具有 “巨大潛力”。

正在調查的應用程序 (Applications Under Investigation) ：

　　Dr. Kleesiek 介紹了 OpenAI 的 “生成式預訓練 Transformer 3 (Generative Pre-trained Transformer 3，簡稱GPT-3)” 使用的同一類別的 Transformer 語言模型的兩項研究。在第一項研究中，語言模型用於快速查尋文本中有關發現的特定訊息。提示的一個例子是，“病人有感染嗎“？

　　Dr. Kleesiek 解釋說：“我們看到並沒有自由地做出反應的模式，而是以能夠理解地代替之。然後我們在文本中突出顯示這些訊息，以實現適當的可追溯性和一定的可靠性” 。這樣，能夠瞭解到沒有任何想像或捏造，並且是基於事實的回應。

　　“使用自然語言查詢從結構鬆散的放射學報告中提取訊息”的研究稿件目前正在審查中。

　　一份已經發表的研究，評估了對放射學發現的治療反應。這個想法是聊天機器人或語言模型可以用來摘要複雜的病史。Dr. Kleesiek 說 “這是為了發現，在腫瘤疾病的情況下，是否有惡化、改善、或部分的治療反應。由此，我們發現，如果有明確的發現，機器的表現與放射科醫生一樣好”。“但是，如果發現不確定的結果怎麼辦？例如，如果患者肺部有病變，肝臟也有病變，一個變大，另一個變小” 。對於放射科醫師來說，這也比明確的發現更困難。“但我們已經看到，在沒有定論的情況下，機器的評估性能下降幅度明顯超過放射科醫師。因此必須批判性地看待它”。

臨床實踐 (Clinical Practice)

　　Dr. Schmid 現在想檢查 ChatGPT 是否可以用於醫療報告中的 ”命名實體識別 (Named-entity recognition)”。 “命名實體識別” 是電腦語言學 (Computer linguistics) 的一個方面。其目標是自動地識別命名實體，並將其分配到預先定義的類別。

　　醫療報告中的訊息並不那麼容易獲取，因為它不是以數字形式構建的。 “這對我們來說似乎不是一個難題。從一份醫療報告中，我們可以確定診斷、患者是男性還是女性、存在哪些既往病症、是否有專科醫師參與治療等等”。Dr. Schmid 說，關鍵區別在於人們處理語義，而 ChatGPT 和類似的模型則基於模式識別和模式處理。

　　Dr. Kleesiek 保證在 ChatGPT 和其他語言模型的開發中 “還有很多事情要做”。 他指出，ChatGPT 目前的功能，尚未準備好用於臨床實踐。

　　Dr. Schmid 認為社會技術的整合很重要。 “我相信 ChatGPT 代表了醫學領域的機遇”。然而，該工具不應被視為為害相思病的青少年提供建議的工具。 Dr. Schmid 警告說：“如果[有人]進入，‘我感覺太糟糕了，我想自殺’，然後 GPT-3 說，‘聽到這個消息我很難過。我可以幫助你”。ChatGPT 和其他語言模型所基於的 “模式識別 (Pattern recognition)” 導致了災難性的句子，“我可以幫助你”，以回應自殺意念的表達。聊天機器人 (GPT-3) 主要用於互聯網上的客戶服務查詢。 “我想要”這句話最常跟在 “我可以幫助”之後，所以 “我可以幫助你（用那個）” 是下一個合乎邏輯的回答。

致謝：

　　承蒙Dr. Ute Eppinger (Professor, Redaktionsbüro für Medizin & Wissenschaftsgeschichte, Karlsruher Institut für Technologie (KIT), Mannheim, Baden-Württemberg, Germany) 提供資料，謹此致謝。

1. Eppinger U. What Can ChatGPT Offer to Medicine? Medscape. February 27, 2023 Medscape. https://www.medscape.com/viewarticle/988795.

enews436