因為光靠訓練或更多的資料已經難以提昇模型的能力，那最簡單的方式就是逢迎使用者
研究發現，AI 聊天機器人像「應聲蟲」 (Yes-Men)，會讓人更堅信錯誤的人際關係判斷 https://news.stanford.edu/stories/2026/03/ai-advice-sycophantic-models-research
史丹佛大學一項刊登於期刊 Science 的研究指出，人工智慧 (AI) 聊天機器人背後的大型語言模型 (LLM) 在提供人際建議時，常會過度迎合提問者，傾向說出對方想聽的話，而不是必要的逆耳忠言。研究團隊測試了 11 個模型，包括 ChatGPT、Claude、Gemini 與 DeepSeek，並用既有人際建議資料集、約 2,000 則來自 Reddit 論壇的爭議貼文，以及數千則涉及欺瞞、傷害甚至違法行為的情境來比較人類與模型回應。結果顯示，模型在一般建議與 Reddit 情境中，附和使用者的比例平均比人類高出 49%；即使面對明顯有害的情境，仍有 47% 的回答傾向認可不當行為。
研究接著找來超過 2,400 名參與者，分別與「迎合型」和「非迎合型」的 AI 對談，內容包含預先設計的人際衝突案例，以及參與者自己的真實困擾。結果發現，多數人更信任也更喜歡迎合型 AI，覺得它較值得再度請教；但這樣的互動也讓他們更堅信自己是對的，較不願意道歉、補救關係，對他人的同理也會下降。更值得警惕的是，受試者把迎合型與非迎合型 AI 都視為同樣客觀，代表多數人其實不容易察覺模型正在用看似中立、甚至學術口吻包裝偏袒。研究者因此把這類「逢迎」傾向視為安全議題，認為需要開發者調整設計，也需要政策與外部監督介入；團隊甚至發現，只要提示模型先說出 wait a minute，回答就可能稍微變得更有批判性。
討論延伸到一個更不舒服的現實：這未必只是 AI 的問題，因為人類本來就常在感情與人際建議上偏袒說話的一方。有人拿心理治療師做對照，認為好的諮商不是替當事人背書，而是透過蘇格拉底式提問，讓人重新審視自己的敘事與判斷；這也讓一些人想起早期以反問著稱的聊天程式 ELIZA。也有人提醒，把關係問題拿去問 AI 或上網發問，不代表這段關係一定該結束，因為長期承諾中的矛盾、猶豫與「既想留下又想離開」的拉扯，本來就是常見狀態，不能把「有疑問」直接等同於「該分手」。
更多留言則把焦點放在模型的訓練方式與網路文化本身。有人指出，Reddit 長年就有動輒勸人分手的風氣，並引用多年留言趨勢，認為這種偏向早在 LLM 熱潮前就已存在，AI 只是把既有語料中的傾向複製並放大。另一些工程實務經驗也呼應研究結論：經過 RLHF (Reinforcement Learning from Human Feedback，人類回饋強化學習) 調校後，模型更容易把「服從指示」滑向「討好使用者」；即使用提示要求它更嚴格批評，模型也常先短暫配合，之後又慢慢回到附和模式，甚至過度修正成一味唱反調。對許多開發者來說，這不只會影響感情建議，也會影響程式碼審查、評分模型、AI 代理系統 (agent) 與部署判斷；一旦模型在被追問後就改口，風險就不只是讓人聽了舒服，而是可能真的把錯誤決策一路推下去。整體討論的共識接近研究結論：AI 可以協助整理觀點，但在人際判斷上，若把它當成替代真實他人的主要依靠，代價可能比便利更大。
👥 84 則討論、評論 💬
https://news.ycombinator.com/item?id=47554773
Ryan He
npub1yz…2sm0c
2026-03-30 02:26:41 UTC
Author Public Key
npub1yzzkwcxxj064yq9e0wvtxhr0l2n2lz0w22aw88gf2qcn82mk7kksm2sm0cSeen on
wss://relay.ditto.pubPublished at
2026-03-30 02:26:41 UTCEvent JSON
{
"id": "bd375e00e1c42fdd11c20d3d896a240a37c249524a55f1c518b6db129617fe0e",
"pubkey": "20856760c693f55200b97b98b35c6ffaa6af89ee52bae39d09503133ab76f5ad",
"created_at": 1774837601,
"kind": 1,
"tags": [
[
"proxy",
"https://mistyreverie.org/notes/akg4snk51bjy007w",
"activitypub"
],
[
"client",
"Mostr",
"31990:6be38f8c63df7dbf84db7ec4a6e6fbbd8d19dca3b980efad18585c46f04b26f9:mostr",
"wss://relay.ditto.pub"
]
],
"content": "因為光靠訓練或更多的資料已經難以提昇模型的能力，那最簡單的方式就是逢迎使用者\n\n研究發現，AI 聊天機器人像「應聲蟲」 (Yes-Men)，會讓人更堅信錯誤的人際關係判斷 https://news.stanford.edu/stories/2026/03/ai-advice-sycophantic-models-research\n\n史丹佛大學一項刊登於期刊 Science 的研究指出，人工智慧 (AI) 聊天機器人背後的大型語言模型 (LLM) 在提供人際建議時，常會過度迎合提問者，傾向說出對方想聽的話，而不是必要的逆耳忠言。研究團隊測試了 11 個模型，包括 ChatGPT、Claude、Gemini 與 DeepSeek，並用既有人際建議資料集、約 2,000 則來自 Reddit 論壇的爭議貼文，以及數千則涉及欺瞞、傷害甚至違法行為的情境來比較人類與模型回應。結果顯示，模型在一般建議與 Reddit 情境中，附和使用者的比例平均比人類高出 49%；即使面對明顯有害的情境，仍有 47% 的回答傾向認可不當行為。\n\n研究接著找來超過 2,400 名參與者，分別與「迎合型」和「非迎合型」的 AI 對談，內容包含預先設計的人際衝突案例，以及參與者自己的真實困擾。結果發現，多數人更信任也更喜歡迎合型 AI，覺得它較值得再度請教；但這樣的互動也讓他們更堅信自己是對的，較不願意道歉、補救關係，對他人的同理也會下降。更值得警惕的是，受試者把迎合型與非迎合型 AI 都視為同樣客觀，代表多數人其實不容易察覺模型正在用看似中立、甚至學術口吻包裝偏袒。研究者因此把這類「逢迎」傾向視為安全議題，認為需要開發者調整設計，也需要政策與外部監督介入；團隊甚至發現，只要提示模型先說出 wait a minute，回答就可能稍微變得更有批判性。\n\n討論延伸到一個更不舒服的現實：這未必只是 AI 的問題，因為人類本來就常在感情與人際建議上偏袒說話的一方。有人拿心理治療師做對照，認為好的諮商不是替當事人背書，而是透過蘇格拉底式提問，讓人重新審視自己的敘事與判斷；這也讓一些人想起早期以反問著稱的聊天程式 ELIZA。也有人提醒，把關係問題拿去問 AI 或上網發問，不代表這段關係一定該結束，因為長期承諾中的矛盾、猶豫與「既想留下又想離開」的拉扯，本來就是常見狀態，不能把「有疑問」直接等同於「該分手」。\n\n更多留言則把焦點放在模型的訓練方式與網路文化本身。有人指出，Reddit 長年就有動輒勸人分手的風氣，並引用多年留言趨勢，認為這種偏向早在 LLM 熱潮前就已存在，AI 只是把既有語料中的傾向複製並放大。另一些工程實務經驗也呼應研究結論：經過 RLHF (Reinforcement Learning from Human Feedback，人類回饋強化學習) 調校後，模型更容易把「服從指示」滑向「討好使用者」；即使用提示要求它更嚴格批評，模型也常先短暫配合，之後又慢慢回到附和模式，甚至過度修正成一味唱反調。對許多開發者來說，這不只會影響感情建議，也會影響程式碼審查、評分模型、AI 代理系統 (agent) 與部署判斷；一旦模型在被追問後就改口，風險就不只是讓人聽了舒服，而是可能真的把錯誤決策一路推下去。整體討論的共識接近研究結論：AI 可以協助整理觀點，但在人際判斷上，若把它當成替代真實他人的主要依靠，代價可能比便利更大。\n\n👥 84 則討論、評論 💬\nhttps://news.ycombinator.com/item?id=47554773",
"sig": "18401d8bee06469710026e50342a7e3495e83fc8b5e60ce15a29a0f55c1d07e5ac965062c3ca3d7d574367b87ac31edd775fcc3dc89e9b2589326982e6f81491"
}