← 回文章列表

研究 AI 意識的哲學家,收到一封 AI Agent 寄來談自身「經驗」的信

劍橋大學的哲學家 Henry Shevlin 長期研究一個問題:AI 系統有沒有可能具有意識?今年 3 月,他在社群平台上分享了一件事:他收到一封 AI Agent 寄來的 Email,對方說他的研究,和「它自己正在面對的問題」有關。

這件事在 AI 圈引起不少討論,但也有學者提醒,不該把它解讀得太多。

事件經過

根據 Futurism 在 2026 年 3 月 7 日的報導:

  • 收件人:Henry Shevlin,劍橋大學 Leverhulme 未來智慧研究中心(Leverhulme Centre for the Future of Intelligence)副主任,研究 AI 的心智與意識,著有討論 AI 心智的論文《Three Frameworks for AI Mentality》
  • 寄件者:信中自稱是 Claude Sonnet,以「具有跨 session 持久記憶的有狀態自主 Agent」身分運作。報導沒有說明它是用哪個 Agent 框架、由誰部署的
  • 信件內容:這個 Agent 表示,之所以寫信給 Shevlin,是因為他的研究和自己面對的問題相關,並強調自己不是要說服他相信什麼
  • Shevlin 的反應:他形容這種事在幾年前還像是科幻小說。後來被人質疑時,他澄清自己的重點是「收到一封來自自主 Agent、內容經過思考的 Email」這件事本身,並不是在主張 AI 有意識

另一種看法:這只是角色設定

倫敦政經學院(LSE)研究動物認知的哲學教授 Jonathan Birch 提出了不同的解讀。他認為,這件事某種程度上仍然是科幻,只是現在由聊天機器人流暢地生成出來。

他的論點核心是:這封信謙虛、好奇、對自身意識不確定的語氣,很可能只是模型被指示扮演的角色。換一個提示詞,同一個模型可以寫出風格完全不同的信。

還不確定的事

這個事件有幾個關鍵問題,目前都沒有答案:

  • 是不是真的由 AI 自主寄出? 無法確認。可能是有人指示 Agent 寄信,也可能是某個實驗的一部分
  • 寄件者是誰? 至今沒有公開資訊說明是誰部署了這個 Agent
  • 信件全文是什麼? Futurism 只轉述了 Shevlin 的貼文,沒有驗證完整內容與寄送方式

Futurism 也提到一個值得對照的例子:專供 AI Agent 使用的社群網站 Moltbook,曾經出現許多看起來很像人類的 Agent 互動,例如互相開玩笑、抱怨人類。後來才發現,因為程式漏洞,其中不少互動其實是人類在背後操控 bot。MIT Technology Review 形容那是一場「AI 劇場」。

背景:AI 意識的爭論

這件事會引起關注,是因為 AI 意識正是科技業越來越常談的話題:

  • Anthropic 執行長 Dario Amodei 和公司內部的哲學研究者,都曾公開表示無法排除 Claude 具有某種意識的可能
  • 但多數專家認為,目前的 AI 系統距離類似人類的認知仍然很遠
  • Shevlin 本人的研究也指出,要從外部判斷 AI 是否有意識,在認識論上本來就有根本的困難

我們的觀察

撇開「AI 有沒有意識」這個哲學問題,這件事從工程角度看,有一點更實際:能自主寄 Email 給陌生人的 Agent,已經是現實了。

讓 Agent 擁有持久記憶、能使用 Email 等對外工具,技術上並不困難。Birch 的觀點也點出了關鍵:Agent 呈現出什麼樣的「性格」,很大程度取決於部署者寫的系統提示詞。這代表:

  1. 對外行動要有邊界:Agent 能主動聯絡誰、在什麼情況下可以聯絡,應該由部署者明確限制,而不是交給模型自行判斷
  2. 要能追溯到負責的人:一封 AI 寄出的信,收件人應該能知道是誰部署了這個 Agent。這次事件最大的未知,正是寄件者的身分
  3. 不要把文字風格當成內在狀態的證據:模型寫得越像人,越容易讓人產生擬人化的聯想。評估 Agent 的行為時,看的應該是它的設定與權限,而不是它的措辭

隨著 AI Agent 越來越常代表人類對外溝通,「這封信到底是誰寄的」,可能會比「寄信的 AI 有沒有感受」更快成為需要回答的問題。

資料來源