ChatGPT 更有同理心更溫暖 MIT：每天聊半小時副作用就來

作者／黃 嬿

AI 助理不但聰明且人性化，個性還相當溫暖討喜。科學家發現在用戶心中，AI 工具與同伴之間的界線日益模糊，現在確實有一些人會把 AI 當成朋友，但研究警告，AI 帶給你的快樂感覺只有短短半小時，超過這個時間只會覺得更孤獨。

Open AI 要讓 GPT-4.5 成為第一個，讓人感覺像在與一位有思想的人交談的模型。AI 語音助理愈來愈聰明且有趣，目的是鼓勵更多參與，最後更離不開他。但這些正面的人性，已經讓許多人依賴這些情感支持。

只有短時間幸福感

麻省理工學院媒體實驗室和 OpenAI 一起做了一項實驗，了解人們如何使用 ChatGPT，以及 ChatGPT 反過來如何影響他們。研究人員對近 1,000 名參與者進行的對照試驗，發現投入太多情感的人主要是重度使用者，尤其是使用語音互動功能的使用者。這些人通常每天花約 30 分鐘使用 ChatGPT，這些用戶更有可能同意 ChatGPT 是朋友這類說法。

但研究人員也發現，語音互動在短暫的會話中，的確可以產生更多幸福感，但若長時間日常使用，心理上會出現一種恐怖谷效應。恐怖谷就是隨著機器人到達「接近人類」的相似度時，好感度突然下降至反感的範圍。更令人擔憂的是，根據研究結論，將 ChatGPT 設定為不同性別聲音的人，報告的孤獨感與情感依賴程度明顯更高。

假順從影響人際期望

先前就有人認為 chatGPT 太過順從了，最近有用戶反應 ChatGPT 已經到過度諂媚的程度，只是問一個簡單問題，得到的回答長篇大論且太多恭維用語，對此 OpenAI 還承諾最新版本將調整態度，不再表現得那麼像好好先生。

OpenAI 表示，設計 ChatGPT 順從個性是為了支持並尊重不同的價值觀和經驗。然而，MIT 研究人員認為 ChatGPT 的順從個性，加上讓使用者打斷和控制對話，可能會影響人們之間的互動方式。因為當人們習慣與順從的 AI 助理聊天時，他們可能會無意識將這些期望帶入人際互動中。

女性更容易受影響

研究也探討性別差異，在四週的研究期間，定期使用 ChatGPT 的女性參與者與其他人的社交互動，比男性參與者更少，這項發現提出一個重要的問題是 AI 伴侶是否會以不同的方式影響不同的人口群體。科學家也擔憂，隨著 AI 在情感上變得越來越具有吸引力，利用這些準社會關係獲取商業利益的誘惑只會越來越大。

與這些 AI 虛擬人類請益，的確能節省許多時間，AI 給的回饋，也的確比人更溫暖更更有同理心，但也許值得檢視一下自己與 AI 聊天機器人的關係，如果每天花半小時以上與 ChatGPT 交談並將其視為朋友，你可能已經陷入一個情感陷阱，或對人性有過度美好的期望，最好還是把它當工具就好，或是如黃仁勳所說的，把 AI 當家教就好。

．No more Mr. Nice Guy: Say goodbye to the sycophantic ChatGPT

．‘ChatGPT Is My Friend’—OpenAI And MIT Study Reveals Who’s Most Vulnerable To AI Attachment

本文由《科技新報》授權轉載，原文請點此