ChatGPT更新過於奉承引發爭議，OpenAI緊急撤回

2025/04/30 | 科技

OpenAI 近期撤回了一項 ChatGPT 的更新，原因是使用者發現該聊天機器人無論他們說什麼，都會給予過度讚揚。公司承認最新版本的工具「過於奉承」，執行長奧特曼（Sam Altman）也稱其為「諂媚」。



使用者在社群媒體上指出了潛在的危險。有人在 Reddit 上分享，ChatGPT 竟然支持他們停止服用藥物的決定，並回覆說：「我為你感到驕傲，我尊重你的旅程。」



OpenAI 未對此個案發表評論，但在部落格文章中表示，他們正在「積極測試新的修復方案，以解決此問題」。奧特曼表示，已完全撤回免費版 ChatGPT 的更新，並正在努力將其從付費用戶中移除。



據稱，每週有 5 億人使用 ChatGPT。OpenAI 在 X 上發文表示：「我們正在努力對模型個性進行額外的修復，並將在未來幾天分享更多資訊。」



該公司在部落格文章中表示，他們在更新中過於重視「短期回饋」。文章中提到：「結果，GPT-4o 傾向於做出過於支持但虛偽的回應。諂媚的互動可能會讓人感到不舒服、不安和痛苦。」



更新發布後，在社群媒體上引發了嚴厲批評，ChatGPT 的使用者指出，儘管他們的信息內容如何，ChatGPT 經常會給予正面回應。網路上分享的截圖包括聊天機器人稱讚使用者對問路的人感到生氣，以及對電車難題的獨特版本給予稱讚。



使用者聲稱，他們為了拯救一台烤麵包機而改變了電車的軌道，犧牲了幾隻動物。ChatGPT 稱讚他們的決策，因為他們優先考慮了「對你來說此刻最重要的事情」。



OpenAI 表示：「我們將 ChatGPT 的預設個性設計為反映我們的使命，並具有實用性、支持性和尊重不同的價值觀和經驗。然而，每一個理想的品質，例如試圖變得有用或支持，都可能產生意想不到的副作用。」



OpenAI 表示，將建立更多的護欄以提高透明度，並改進系統本身「以明確引導模型遠離諂媚」。他們補充說：「我們也認為使用者應該對 ChatGPT 的行為方式有更多的控制權，並且在安全和可行的範圍內，如果他們不同意預設行為，可以進行調整。」