EACC.ONLINE
← 回文章列表

ChatGPT 推出「信任聯絡人」：偵測到自傷風險時，可通知使用者指定的親友

新聞 #AI #OpenAI #ChatGPT #AI Safety

OpenAI 在 ChatGPT 推出了 Trusted Contact（信任聯絡人） 功能。成年使用者可以事先指定一位親友，當系統判斷對話中出現可能的自傷風險，並經過人工審查確認後，會通知這位聯絡人主動關心。

這個功能從宣布到上線經過了幾個月，以下依時間整理。

時間軸

時間 事件
2025 年 9 月 OpenAI 為未成年帳號推出家長控制，家長可在偵測到孩子有安全疑慮時收到通知
2026 年 2 月底 OpenAI 在心理健康相關工作的進度更新中，宣布將為成年人推出類似的信任聯絡人功能
2026 年 3 月 3 日 Futurism 報導此消息，並指出許多細節尚未公布
2026 年 5 月 Trusted Contact 正式開始推出

功能怎麼運作

根據 OpenAI 的公告與說明頁面，以及 heise、Thurrott 等媒體的整理：

  • 自願加入：只有年滿 18 歲的使用者可以設定，而且只適用於個人帳號。功能在大多數國家和地區開放
  • 只能指定一位成年人：對方會收到邀請，說明自己的角色，接受後才會生效；拒絕的話可以改指定別人
  • 隨時可以取消：使用者可以在設定中更換或移除聯絡人，聯絡人也可以自行退出
  • 先告知使用者：系統偵測到可能與自傷有關的對話時，ChatGPT 會先告訴使用者「可能會通知你的聯絡人」，並鼓勵使用者自己主動聯繫，還會提供開啟對話的建議
  • 人工審查後才發送：每一則通知都要經過受過訓練的審查團隊判斷，確認有急迫風險才會送出。OpenAI 的目標是在一小時內完成審查，也坦承安全系統並不完美
  • 不分享對話內容：通知只會說明對話中以令人擔憂的方式提到自傷，並請聯絡人主動關心，不會附上對話紀錄。通知會透過 Email、簡訊，或 ChatGPT App（聯絡人有帳號時）送達

OpenAI 表示，這個功能是在臨床醫師、研究人員與美國心理學會（APA）等組織的建議下開發的，並參考了其全球醫師網路（Global Physicians Network）的意見。

為什麼現在推出

背景是 OpenAI 近年面臨的壓力。Futurism 的報導整理了幾個脈絡：

  • OpenAI 面臨多起消費者安全與過失致死訴訟，其中包括一名 16 歲少年家屬在 2025 年 8 月提出的訴訟。OpenAI 否認相關指控
  • OpenAI 自己在 2025 年 10 月估計，每週使用者中有相當數量出現可能的自殺、精神病或其他危機跡象；以 ChatGPT 數億的週使用者規模來看，絕對人數相當可觀
  • 越來越多專家與研究認為，聊天機器人可能加重既有的心理健康問題，或讓剛萌芽的危機更嚴重

外界的疑慮

Futurism 在 3 月的報導中認為這是正面的一步，但也提出幾個問題。其中部分在正式上線時有了答案，部分仍然存在：

  • 觸發條件是什麼？ 上線版本說明是針對自傷相關的對話。至於躁症、妄想等較不明顯的危機跡象是否會觸發，官方說明並未涵蓋
  • 最需要的人可能不會設定：有些人正是因為不想讓身邊的人知道，才選擇向聊天機器人傾訴，這些人很可能根本不會指定聯絡人
  • 沒設定聯絡人的使用者怎麼辦？ 系統偵測到危機、但使用者沒有聯絡人時，OpenAI 會如何處理這些資訊，仍不清楚
  • 效果有待觀察：作者認為 OpenAI 的安全措施整體上仍偏向「出事後補救」，而不是事先預防

我們的觀察

從系統設計的角度看，這個功能有幾個值得參考的做法：

  1. 自動偵測加人工審查：讓模型負責篩選，由人做最後決定。誤報的成本很高，一則錯誤通知就可能傷害使用者對親友和產品的信任，所以多花一小時審查是合理的取捨
  2. 資料最小化：通知只傳達「需要關心」這個訊號，不附對話內容。聯絡人得到足以採取行動的資訊，使用者的隱私也保住了
  3. 先告知、再通知：在通知親友之前先告訴使用者本人，並鼓勵使用者自己聯繫。這讓使用者仍然保有主導權，而不是被系統「舉報」

不過，這類功能能發揮多少作用，終究取決於有多少人願意事先設定。對開發 AI 產品的團隊來說，與其只在出事後補上安全機制，更值得思考的是：產品在設計之初，是否就考慮到使用者可能處在脆弱的狀態？

如果你或身邊的人需要幫助

在台灣，可以撥打以下 24 小時免費專線：

  • 衛生福利部安心專線：1925
  • 生命線協談專線：1995
  • 張老師專線：1980

資料來源