首頁 > 科技

患者痛不欲生,但AI說:別給她開止疼藥

2021-08-24 03:04:04

博雯 發自 凹非寺量子位 報道 | 公眾號 QbitAI

因為嚴重痛經入院,在醫囑下注射阿片類藥物(Opioid)以緩解痛苦。

結果入院四天後,就突然被AI告知:

你將不會再接受任何阿片類藥物。

然後就抱著尚未被消除的病痛,立即「被出院」了。

這就是2020年7月份,32歲的Kathryn所遭遇的情況。

而更讓她無法理解的是,兩週後,長期保持聯絡的婦科醫生突然又向她聲明:要終止他們之間的關係。

一番查證之後,Kathryn最終發現——

源頭竟來自她的兩隻寵物狗?

寵物狗生病讓主人被禁止買藥

其實,在住院期間,Kathryn在被告知「不能再使用阿片類藥物」時,工作人員同時也表示:

你完全沒有意識到自己的圖表中有多高的分數。

當時的Kathryn並不明白「圖表」和「分數」是什麼意思。

而兩週後她的醫生送來的終止關係的聲明中,又有這樣一段描述:

(關係的終止)來自NarxCare資料庫中的一份報告。

或許這裡提到的NarxCare和之前所說的「圖表分數」有關?

Kathryn和她周圍的人都沒有聽過這個名字,於是她馬上去Google了一下:

原來,這是一個面向醫生、藥店和醫院的分析工具和護理管理平臺。

NarxCare可以利用AI演算法對病患的處方藥資料進行統計和分析,最終得到一個風險報告。

它主要使用來自國家藥品登記處的資料。

除此之外,醫療索賠資料、電子健康記錄、 EMS 資料和刑事司法資料也在使用範圍之內。

NarxCare會通過機器學習演算法對這些資料進行統計和分析,最終得到一個預測模型。

根據這一模型,每位患者都會得到一個屬於自己的的「處方藥使用風險評估報告」:

如果評分過高,就有可能被認為是有藥物濫用情況,從而被拒絕出售相關處方藥。

但這仍然不能解決Kathryn的疑惑:

她所患有的子宮內膜異位症導致了常年的生理病痛,因此她確實有長期服用阿片類藥物的習慣。

但這一切都是在醫生指導下所開的處方藥啊,怎麼突然就被叫停了?

在與各種論壇上的慢性疼痛病患者的交流之後,Kathryn最終找到了這場意外的源頭。

而結果讓她感到無比離奇——

原來,Kathryn的兩隻寵物狗,都曾因疾病而服用過大量的阿片類藥物、苯二氮卓類藥物,甚至巴比妥類藥物:

由於代謝原因,狗狗們所服用的劑量會高出人類。

而買藥的全部流程掛的都是主人,也就是Kathryn的名字。

因此,Kathryn去過的藥店數量、去醫院的路程,以及她收到的處方藥組合,全都被NarxCare記錄了下來。

她的寵物狗們的服藥經歷,全都算到了她的頭上。

美國處方藥監控項目

這場非常荒謬的意外,或許是由於平臺演算法的缺陷所導致的。

不過讓Kathryn更在意的是另外一點:

這樣一個暗中收集處方藥資料的項目,她和身邊的大多數人從來都沒聽過。

誰允許的?

其實,這是來自過去20年內,美國已投入了數十億美元的處方藥監控項目

司法部一直在致力於開發和維護州級處方藥資料庫。

他們希望通過這一電子登記系統實時跟蹤某些受管制藥物的藥方,密切關注製藥市場。

現在,幾乎美國的所有洲都有一個這樣的處方藥監控項目(PDMP)。

而在過去的幾年裡,一家名為Appriss的公司慢慢主導了這些州處方資料庫的管理。

NarxCare,就是Appriss公司旗下的產品。

Appriss希望通過NarxCare所產生的報告來幫助處理藥物濫用情況,並輔助醫生進行更好的診斷決策。

在目前的美國,幾乎每個州都會要求醫生和藥劑師在開具處方藥的同時,諮詢和參考NarxCare中的醫療資訊,否則就有可能被吊銷執照。

而對於Kathryn這樣的例子,Appriss則表示:

寵物狗提高了主人的評分,這是一個非常罕見的例子。

但不論這是怎樣的一個卡夫卡式的發展,對於現在的Kathryn來說,每次進入藥店時,總能有人看到她過去的那些「圖示和分數」。

她對此表示:

這讓我感到我走入的不是藥店,而是宗教審判所。

不公開的專利演算法

而像是Kathryn這樣的例子並不少見。

她在慢性疼痛患者論壇中,就曾遇到一位擁有相似經歷的女士。

在對醫生進行自我介紹之前,就先被要求披露自己為什麼長期服用阿片類藥物。

回答了自己患有PTSD後,還被要求進一步解釋精神創傷的原因。

而目前NarxCare並不需要獲得FDA的批准,這也讓一些醫學專家提出了質疑:

它(NarxCare)是一種專有的演算法,既沒有學術界的同行評審,也沒有政府監管。

NarxCare用於過量風險評估的演算法並不對外公開。

不過根據官網的一些已有的資料,我們可以瞭解它們大致的思路:

在得到來自處方藥監控項目的大量資料,並開發了一個大的變數集後,再將資料分解為一個訓練集和一個測試集。

有了訓練資料之後,演算法就開始將服藥過量和未服藥過量的模式進行對比。

比如,如果某位病患擁有同一醫生開出的三張阿片類處方藥,那麼他的藥物濫用風險就遠遠低於三位不同醫生開出處方藥的病患。

在這種重複的對比和學習中,最終就得到了一個用於評估病患風險的預測模型。

這一演算法近年來在生命的多個領域得到了廣泛應用。

比如,常常被用來預測哪些病人最有可能從特定的治療中受益,並估計ICU病人出院後惡化或死亡的可能性。

但也就像很多人說的那樣,NarxCare並不透明,沒有辦法從底層去檢查它們是否存在錯誤或偏見:

有很多病人並沒有意識到他們正在被測量分析。

甚至不僅是病患,連使用這一輔助臨床決策系統的醫生也無法完全知曉它的原理。

就像是親身體會的Kathryn所說的那樣:

對於大多數美國人來說,這是一個祕密的信用評分系統。

參考連結:[1]https://www.wired.com/story/opioid-drug-addiction-algorithm-chronic-pain/[2]https://twitter.com/Annaleen/status/1425493523076304898

NarxCare官網:https://apprisshealth.com/solutions/narxcare/


IT145.com E-mail:sddin#qq.com