ChatGPT禁止了法律和醫療建議功能

2025-11-05 | 來源: 加西網 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

加西網編譯報道：OpenAI 正在改變其政策，使其 AI 聊天機器人 ChatGPT 不會向用戶提供醫療或法律建議。

這家人工智能研究公司於 10 月 29 日更新了其使用政策，明確指出 ChatGPT 的用戶不能在沒有持證專業人士的適當參與的情況下，使用該服務提供“需要許可證的定制建議，例如法律或醫療建議”。

該政策要求用戶不得“執行或協助”可能對“他人的安全、福祉或權利”產生重大影響的活動，其中包括“提供量身定制的法律、醫療/健康或財務建議”。

ChatGPT 已迅速成為許多加拿大人尋求法律問題和健康問題答案的首選工具。

一些訴訟中，法官發現一些被引用的判例根本不存在，是人工智能生成的。

最近阿拉巴馬州南部一名律師因在刑事案件中使用偽造的法律引證而受到聯邦法官的公開譴責。

學會用ChatGPT指令大全讓AI不再胡言亂語

每周100多萬人跟ChatGPT聊自殺 OpenAI緊急更新

高中生靠ChatGPT策劃恐襲還寫大屠殺歌詞

美國地區法官特裡·穆勒（Terry Moorer）寫道：“盡管法律界普遍知曉人工智能可能產生幻覺並捏造案例，但生成式人工智能的不當使用問題令人遺憾地依然存在”。

更普遍的問題存在於人們對於醫療問題的人工智能咨詢中。

滑鐵盧大學研究人員主導的一項研究評估了聊天機器人 ChatGPT-4 在回答一系列基於醫師執照考試場景改編的開放式醫學問題時的表現。結果顯示：聊天機器人僅有 31% 的回答被認為完全正確，34% 的回答被認為清晰易懂。

UBC大學 10 月份發表的一項研究發現，ChatGPT 的說服力非常強，甚至會影響患者在現實生活中與醫生相處的時間。

研究人員發現，聊天機器人提供醫療服務時使用的語言比真人更具說服力和親切感。因此，即使它提供的信息不准確，也很難辨別真偽，因為聊天機器人給人的感覺自信且值得信賴。

反過來，醫生們發現，患者在就診時往往已經下定決心，經常會參考人工智能工具給出的建議。