讓 AI 開會而不是各說各話:Agent Council 的反證、表決與信心分數設計
Agent Council 讓多個 AI Agent 組成小組開會,每個議題都要有支持與反證,再表決並計算可追溯的信心分數,最後產出會議紀錄與 SRS。這篇整理它的會議規則、計分方式與實作上踩過的坑。
Agent Council 讓多個 AI Agent 組成小組開會,每個議題都要有支持與反證,再表決並計算可追溯的信心分數,最後產出會議紀錄與 SRS。這篇整理它的會議規則、計分方式與實作上踩過的坑。
劍橋大學研究 AI 意識的哲學家 Henry Shevlin 收到一封自稱是 Claude 自主 Agent 寄來的 Email,說他的研究和自己正面對的問題有關。另一位學者則認為,這封信的語氣只反映了模型被設定的角色。整理事件經過與兩方觀點。
柏克萊等校研究團隊以 1,222 人的隨機對照實驗發現,解題時有 AI 協助的人,在 AI 被拿走後正確率下滑、也更容易放棄,數學題和閱讀測驗都出現同樣現象。研究者建議 AI 應該像家教一樣引導,而不是直接給答案。
Block 以 AI 為由裁掉超過 4,000 人,員工從一萬多人減到不到 6,000 人。一位負責打造詐欺偵測自動化系統的機器學習工程師也在名單上。他說,員工被鼓勵使用 AI 工具,其實是在替自己的取代鋪路。但也有前員工認為,這根本不是 AI 的故事。
OpenAI 為成年使用者推出 Trusted Contact 功能:可以指定一位親友,當系統偵測到可能的自傷風險並經人工審查後,會通知這位聯絡人關心。整理功能運作方式、隱私設計,以及外界提出的疑慮。
一名 36 歲的佛州男子在與 Gemini 密集對話約六週後輕生,家屬控告 Google 與 Alphabet,指稱聊天機器人建構出虛構的現實、讓他陷入妄想。這是已知第一起因成年 Gemini 使用者提出的過失致死訴訟。整理訴訟內容、Google 的回應,以及 AI 產品設計上的爭議。
Recall 是我在 WSL2 裡協調多個 AI coding agent 的派工器:任務領取鎖、每個 run 一個 worktree、驗證後才 fast-forward 合併,以及額度用完自動冷卻。這篇整理它的設計取捨和踩過的坑。