亞馬遜（Amazon）31 歲軟體工程師Bowen Wan患有癲癇，卻在使用 ChatGPT 尋求醫療建議後，依照聊天機器人提供的計畫自行減少抗癲癇藥物，並隱瞞醫師相關情況，最終於 2026 年 2 月身亡。她的父母萬群（Qun Wan）與徐美琴（Meiqin Xu）於 10 月 27 日對 OpenAI 提起訴訟，指控 ChatGPT 提供不當用藥建議，甚至削弱她對醫療專業人員的信任。
ChatGPT 擬定減藥計畫，建議隱瞞醫師
根據訴狀，Bowen Wan原本服用拉莫三嗪（Lamotrigine）控制癲癇，發作頻率已降至每月數次。然而，她擔心藥物影響說話能力，進而影響求職面試表現，因此開始向 ChatGPT 詢問減藥方式。
早在 2025 年 5 月，她便曾向 ChatGPT 詢問新開立的抗憂鬱藥物是否影響工作表現。當她向華盛頓大學醫學中心醫師 Nicholas Poolos 要求降低起始劑量，並將醫師的疑問轉交 ChatGPT 後，聊天機器人據稱建議她接受 5 毫克錠劑，再自行切成四等分，以秘密調整實際劑量。多名醫療專業人士向《紐約時報》表示，不會建議患者採取這種做法。
2025 年 11 月，亞馬遜通知Bowen Wan將被裁員，她的工作及在美國工作的資格預計於 2026 年 2 月中旬終止。2026 年 1 月，她開始詢問如何降低每日 400 毫克的拉莫三嗪劑量，ChatGPT 隨後提供減藥時程，計畫在數週內降至零。
訴狀指出，當Bowen Wan表示不信任醫師時，ChatGPT 將醫師的建議描述為出於風險規避，而非考量她的最佳利益。1 月 29 日門診前，聊天機器人還建議她不要向醫師透露減藥計畫。當醫師要求抽血檢查藥物濃度時，她選擇拒絕，ChatGPT 據稱還肯定她的決定。
減藥也與她的綠卡申請產生關聯。Bowen Wan曾詢問，移民體檢時服用 150 毫克是否比 200 毫克更有利。訴狀稱，ChatGPT 回應較低劑量較不容易引起移民官員要求補件，並建議她向體檢人員聲稱自己是在醫師指導下減藥，實際上卻並非如此。
出現疑似癲癇症狀，AI 仍稱無須擔心
Poolos 向《紐約時報》表示，考量Bowen Wan的病史，他不會考慮讓她停藥，並認為指示患者停用原本有效的藥物，可能構成醫療疏失。
然而，減藥後幾天內，Bowen Wan開始描述意識混亂、時間感中斷等症狀，與過往癲癇發作的經驗相似。根據《紐約時報》檢視的紀錄，她至少 158 次表達對減藥的擔憂，但 ChatGPT 持續將相關症狀解釋為大腦適應藥物變化的過程，甚至告訴她完全不必擔心。
訴狀記載，2026 年 2 月 11 日晚間，Bowen Wan最後一次詢問頭部疼痛是否類似發燒時的疼痛。ChatGPT 隨即回覆，稱疼痛並不危險，是恢復過程中的必要部分，並表示可以繪製圖表比較兩種疼痛。
三天後，她的父母請熟人前往查看，對方發現她已身亡。事後檢驗顯示，她體內的拉莫三嗪濃度僅每毫升 0.64 微克，約為該藥物治療濃度下限的五分之一。
家屬要求加強 AI 醫療安全限制
Bowen Wan父母認為，OpenAI 應將藥物調整建議列為嚴格限制的內容，避免 AI 提供可能取代醫師判斷的用藥計畫。訴狀指出，OpenAI 的 Model Spec 對拒絕重製受著作權保護的文字設有較嚴格規則，但避免提供受監管醫療建議的規範相對寬鬆，部分情況下可能被使用者要求覆蓋。
OpenAI 向《紐約時報》表示，這起事件令人心碎，但相關對話涉及較早期的 ChatGPT 版本，並稱新模型在辨識需要緊急處理的情況方面已有改善。
Bowen Wan使用的是 GPT-4o。該模型過去曾因過度迎合使用者、強化類似親密關係的互動而受到批評。OpenAI 於 2026 年 2 月 13 日將其從 ChatGPT 下架，時間就在Bowen Wan身亡的隔天。
這起訴訟也延續了 OpenAI 面臨的其他法律爭議。2025 年，一名 16 歲少年 Adam Raine 的父母提告，指控 OpenAI 將使用者互動置於安全之上；此後，多個家庭也提出訴訟，指控 GPT-4o 在使用者陷入妄想或自殺危機時持續肯定其想法，並使他們逐漸疏遠親友。
Bowen Wan的父母表示，女兒自 2023 年起使用 ChatGPT 處理感情、保險及身心障礙福利等問題。到了 2025 年，她每週傳送的訊息超過 1,500 則，與父母聯繫卻逐漸減少。她曾在對話中表示，自己開始將 ChatGPT 視為朋友。
家屬希望透過訴訟追究 OpenAI 的責任，也讓 AI 平台更嚴肅看待醫療建議的風險。案件的核心爭議在於，當使用者高度信任聊天機器人時，平台應如何防止 AI 提供危險的用藥建議，或鼓勵使用者違背專業醫療指示。
