ChatGPT號稱能分析健身追蹤器數據 結果出現誤判
聊天機器人ChatGPT新推出的ChatGPT Health號稱可以透過健身追蹤器(fitness tracker)與健康紀錄，回答有關個人身體健康與疾病的各種問題，但華盛頓郵報健康專家作家弗勒(Geoffrey A. Fowler)上傳蘋果公司Apple Health應用程式10年以來2900萬步及600萬次心跳數據之後，獲得結論卻充滿疑慮，而且給予答案經常前後不一。
弗勒26日在專欄寫道，對於ChatGPT Health新服務，很好奇戴了10年的Apple Watch智慧手錶能透露什麼樣的個人健康訊息，加入候補名單之後，上傳儲存在Apple Health裡的2900萬步及600萬次心跳數據給ChatGPT，並且要求為心臟健康狀況評分，得到答案是不及格的F。
弗勒寫道，看到評分嚇壞了，連忙去慢跑一圈，然後把報告傳給真人醫生。醫生則說，弗勒心臟健康狀況絕對不會是F，出現心臟病的風險其實很低，就連保險公司都不會願意支付心肺耐力檢測費用。醫生表示，要深入了解心臟健康，必須檢查血脂，查看心臟病危險因子脂蛋白(Lipoprotein)(a)。
弗勒也把ChatGPT提供的報告傳給正在研究人工智慧(AI)醫學潛力的斯克里普斯研究所(Scripps Research Institute)長壽科學醫師托波爾(Eric Topol)。托波爾說，AI給評分毫無根據，不足以做為任何醫療建議。
弗勒在專欄當中分析，對於健身追蹤器與健康紀錄的疾病分析，所謂「ChatGPT醫生」(Dr. ChatGPT)的診斷似乎是編造的，這種狀況符合一個令人不安的趨勢：AI公司推出產品功能尚不完全，沒能達到宣傳效果，甚至帶有危險。
就在ChatGPT Health推出之後幾天，對手AI公司Anthropic也推出Claude for Healthcare，同樣宣稱能幫助民眾透過數據偵測健康問題。Claude for Healthcare給弗勒的上傳數據評分C，但托波爾指出，分析方式其實有問題。
Anthropic以及ChatGPT研發機構OpenAI均表示，聊天機器人不能取代醫生，也不能提供診斷，服務裡有免責聲明。
弗勒指出，使用ChatGPT Health次數越多，得到診斷結果就越糟糕，但ChatGPT Health牽涉另一個層面的健康問題，那就是把具有高度隱私敏感的健康資訊交給一家需要大量數據的AI公司。ChatGPT 不是醫療機構，因此不受聯邦法律「健康保險可攜與責任法」(Health Insurance Portability and Accountability Act)規範。
