驚爆 | AI編造澳女病歷，稱患者服用違禁藥！涉事醫生道歉
Rebecca Green第一次到泌尿科醫生處就診時，被問到是否同意讓人工智慧（AI）把預約內容轉錄下來。
她沒有猶豫便答應了，「我不想讓她對我有壞印象，也不想當一個佔用她更多時間的麻煩病人。」
沒想到，這個決定隨後令她承受巨大壓力。AI記錄員憑空生成一項嚴重卻不實的說法，稱她正在服用非法藥物。
「我當時目瞪口呆，哭了起來……系統編造說我服用了（迷幻）蘑菇。我這輩子從來沒有吃過蘑菇。」
隱私監督機構一項新研究對醫療場景使用AI提出嚴重警告，原因是這類系統容易「產生幻覺」，捏造虛假的癥狀或病情。研究還警告，患者可能因此面臨風險。
Rebecca Green的醫療記錄出現錯誤，虛假聲稱她服用過迷幻蘑菇。（ABC News：Madeline Grace）
直到3月接受腎結石手術后，Green閱讀專科醫生髮給她的家庭醫生的術后信件，才發現病歷中的錯誤。
信中寫道，她曾微量服用蘑菇，這可能是此前腎臟周圍出血的原因。
她說：「這封信寫下了一些沒有任何證據、卻可能給我帶來巨大後果的事情……這相當可怕。」
「這讓我覺得非常沒有人情味。在這樣脆弱的情況下，我沒有從醫生那裡得到自己所希望的那種照護，也沒有感受到應有的熟悉感。」
Green是在閱讀專科醫生的術后信件后，發現自己的醫療記錄出現錯誤。（ABC News：Madeline Grace）
Green正在領取工傷賠償，因此尤其感到不安。她擔心，病歷中任何提及非法藥物的內容都可能影響她的案件。
澳洲醫療從業人員監管局（AHPRA）是醫療從業人員的最高監管機構。該機構表示，臨床醫生必須逐一核實AI記錄員生成的內容，確保準確無誤，以履行職業義務。
Green表示，她的醫生顯然沒有這樣做。「如果你檢查過那封信，就能在發出去之前糾正錯誤……你為什麼不了解自己的每一位患者，以及他們正在經歷什麼？」
Green提出投訴后，泌尿科醫生髮信致歉。信中寫道：「請放心，我們非常認真地對待文件記錄的準確性，對於發生這樣的事情，我們深表歉意。」
醫生說，她無法確定有關蘑菇的說法為何會被寫入信中，但看起來是「口述或轉錄過程」出錯所致。
她隨後更正了相關信件，並表示會檢討診所使用AI的方式。對於ABC詢問此後做出了哪些改變（如果有的話），醫生沒有作出回應。
AI混淆了哪一側乳房患癌
Green慶幸自己及時發現錯誤，但她擔心，其他人可能不會察覺病歷中的問題，後果則可能波及健康、事業或保險。
ABC本周披露，有私人醫療保險公司要求醫療服務提供者提供患者的完整臨床病史，作為「激進」審計做法的一部分。
AI記錄員如今已在醫療行業普遍使用。澳洲皇家全科醫生學院（RACGP）去年估計，40%的全科醫生經常使用這類工具，但該數字被認為仍屬保守估計。
澳洲全科醫生的最高代表機構估計，40%的全科醫生在工作中經常使用AI記錄員。（ABC News：Tim Swanston）
研究顯示，讓AI轉錄預約內容可以減輕全科醫生的行政負擔，讓他們把更多注意力放在患者身上，而不是電腦上。
但便利背後也有風險。
倡導組織Digital Rights Watch（DRW）最近一份報告發現，澳洲人正接觸到未經監管的AI醫療記錄員，有時甚至是在未同意的情況下。報告說，系統出錯可能改變臨床決策。
報告列舉的錯誤包括：一名AI記錄員在乳腺癌診斷中記錯了患癌的乳房，還稱一名沒有癲癇的人患有癲癇。
澳洲消費者健康論壇（Consumers Health Forum of Australia）行政總裁Elizabeth Deveny說，她經常聽到有關AI混淆詞語的投訴，而患者往往只是偶然發現問題。
「人們反映，既要找出錯誤最初的源頭，又要把記錄改正，這兩件事都令人沮喪。」
Elizabeth Deveny說，錯誤發生后，患者還必須設法修正記錄，這令人沮喪。（ABC News：Darryl Torpy）
Deveny博士目前參与一個大型AI醫療記錄員研究項目。她說，醫生可能會逐漸過度信任AI。
「有證據顯示，剛開始使用AI的幾周內，人們會相當仔細地檢查內容。但到了某個時候，他們會停止檢查，因為以為系統應該是對的。」
在珀斯執業的全科醫生Sean Stevens博士使用AI記錄員已有3年。他說，檢查每份轉錄稿是醫生應盡的責任，但他認為這項技術正變得更加準確。
「3年前，我每份轉錄稿都要糾正多處內容。如今，大概每三四份轉錄稿才需要糾正一處。」
Sean Stevens博士說，AI轉錄越來越準確，但醫生仍需要檢查轉錄內容。（供圖）
Stevens是科技的大力支持者。他擔任RACGP數字健康與創新主席，也是大型AI記錄員之一的顧問。不過，他承認AI仍有弱點，可能生成聽起來合理卻不正確的結果。
「最典型的情況是，它會弄錯身體部位的一側：你說的是左邊，它卻寫成右邊……所以你需要非常仔細地檢查，尤其是藥物劑量之類的信息。」
他說，使用AI並不代表自己可以接診更多患者，但他因此更經常能夠按時完成診療，也能寫出更詳盡的轉診信。
同意AI參与
DRW發現，醫生取得患者同意的做法差異很大。有些醫生只在候診室張貼告示，這並不符合隱私法的要求。
另一些情況下，患者必須在網上預約時作出同意。更令人擔憂的是，有些患者甚至會因為不同意而被拒絕預約。
Deveny博士說，患者必須是在充分知情后明確、主動地同意使用AI；即使提問讓人感到膽怯，也應該能夠放心提出問題。
DRW的報告還指出，當人們知道AI正在監聽時，可能不願談及家庭暴力等敏感問題。
Stevens博士說，因此即使面對長期患者，他也會在每次預約中徵求同意。
「患者披露所有與健康有關的事情非常重要……他們也必須知道自己可以拒絕（AI）……作為醫生，你必須尊重這一點。」
TGA警告，將處理違規行為
澳洲目前約有12種AI醫療記錄員可用，但沒有一種獲得監管機構治療用品管理局（Therapeutic Goods Administration，TGA）的批准。
如果產品聲稱僅用於轉錄和總結，就可以免受監管；TGA只有在工具執行建議診斷或治療方案等功能時，才會將其視為「醫療器械」。
目前沒有AI記錄員走完監管程序，儘管有些工具聲稱能夠提供臨床建議。
TGA承認，這意味著一些記錄員可能違反法律。
該機構過去一年一直在審查AI記錄員，並表示調查結果將在未來幾周公布，任何違規行為都將受到處理。
醫療記錄中的錯誤讓Rebecca Green重新考慮自己是否還會同意AI再次進行轉錄。（ABC News：Madeline Grace）
Patients Australia行政總裁Lisa Robins博士認為，所有記錄員都應該受到監管，因為總結患者情況這一過程仍涉及AI參与決策。
Stevens博士則擔心，擴大監管範圍只會扼殺未來的創新。
DRW呼籲新成立的AI安全研究所（AI Safety Institute）對AI記錄員進行測試，並公布獲批准工具的名單。
這將類似於紐西蘭的做法。當地國家級AI諮詢小組審查相關工具后，于去年批准臨床醫生使用兩種AI工具——Heidi Health和iMed。
Deveny博士說，確保醫生安全使用AI也可以通過其他方式實現，例如在軟體中加入強制性的檢查和平衡機制，或在每3年進行一次的診所認證過程中落實要求。
Green說，這件事動搖了她對AI的信任。現在，只有在她與醫生已經建立關係的情況下，她才會同意使用AI。
「我喜歡AI……但不可或缺的因素是人。歸根結底，這裏發生的一切更多是因為缺少人的參与。」
*以上內容系網友會火自行轉載自僑居澳洲資訊，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。