yii.
← Digest
EP08 · 2026年3月10日 星期二 · 9 min read

AI 信任危機：誰來看守 AI？

AI 安全圍牆全面升級 — Anthropic Code Review、OpenAI 收購 Promptfoo、Agent Safehouse 社群爆紅

每天花 1% 的時間，掌握科技脈動。

今日金句#

“Refusing to grant others the rights you yourself received as a user is highly antisocial.” 「拒絕給別人你自己收到的權利，是極度反社會的行為。」 — Zoë Kooyman, FSF Executive Director · 🔗 來源

“LLMs are probabilistic — 1% chance of disaster makes it a matter of when, not if.” 「LLM 是機率性的 — 1% 的災難機率意味著問題不是『會不會』，而是『什麼時候』。」 — Eugene, Agent Safehouse 作者 · 🔗 來源

今日主軸#

今天的科技圈有一個清晰的主軸：AI 的信任基礎設施正在全面建設。Anthropic 推出 Code Review 多 agent 系統，專門檢查 AI 生成的程式碼品質；OpenAI 收購了開源 AI 安全測試工具 Promptfoo，要確保 AI agent 不會搞砸企業的關鍵業務；在社群端，Agent Safehouse 成為開發者社群最熱門的專案，用 macOS kernel 層級的沙盒來防止 AI agent 存取敏感檔案。同時，human.json 協議在開發者社群引發熱議，讓網站能透過信任鏈證明內容是人類創作的。而另一邊，有人用 Claude 重寫了開源 Python 函式庫 chardet，把授權從 LGPL 改成 MIT — 合法，但整個開發者社群吵翻了。

一句話概括：AI 越強，信任越脆弱。整個產業正在瘋狂建牆。

必讀#

  1. Anthropic 推出 Code Review — 多 agent 系統檢查 AI 生成程式碼 — TechCrunch AI
  2. OpenAI 收購 Promptfoo — 強化 AI Agent 安全性 — TechCrunch AI
  3. Agent Safehouse — macOS 原生沙盒保護 AI Agent — HN Tools
  4. Anthropic 起訴美國國防部 — 挑戰供應鏈風險認定 — TechCrunch AI
  5. OpenAI、Google 員工聲援 Anthropic 對抗國防部訴訟 — TechCrunch AI
  6. Bluesky CEO Jay Graber 卸任 — 轉任首席創新官 — Bluesky News
  7. 合法 ≠ 正當：AI 重寫程式碼與 copyleft 的侵蝕 — HN AI
  8. Import AI 448：AI 研發加速、ByteDance CUDA Agent、衛星端 AI — Import AI AI
  9. OpenAI 推出 Codex Security — AI 資安代理人自動掃描 GitHub — iThome AI
  10. human.json — 輕量級協議證明你是人類 — Lobste.rs AI
  11. 20VC：「Cursor 已死」完全是胡說 — Accel 合夥人 Miles Clements — YouTube Startup
  12. LLM 寫的不是正確的程式碼，是「看起來合理」的程式碼 — Lobste.rs AI
  13. 新型 InstallFix 攻擊瞄準 Claude Code 使用者 — iThome Security
  14. Greg Isenberg：OpenClaw 自動跑我的 TikTok 行銷 — YouTube Product
  15. Simon Willison：AI 時代「無聊技術」不再無聊 — Newsletter AI
  16. Meta Ray-Ban 工人曝光：被迫觀看浴室偷拍畫面 — HN News
  17. Ghostty 1.3.0 發布 — GPU 加速終端模擬器大更新 — Lobste.rs Tools
  18. Oracle 用明天的債務建昨天的資料中心 — HN News

1. Anthropic 推出 Code Review — 多 agent 系統檢查 AI 生成程式碼#

Anthropic 在 Claude Code 中推出了 Code Review 功能，這是一個多 agent 系統，能自動分析 AI 生成的程式碼、識別邏輯錯誤，並幫助企業開發者管理日益增長的 AI 程式碼量。

  • 多 agent 架構自動化檢查 AI 生成的程式碼
  • 專注企業級開發者需求，系統性檢查部署前的問題
  • 呼應近期數據 — PR 量翻倍但 review 時間增加 91%

💡 為什麼重要：AI 生成程式碼的量爆炸性增長，但人類 review 的速度跟不上。Anthropic 的解法是用 AI 來 review AI 的 code — 這可能成為開發工作流程的新標準。

🔗 閱讀原文 | 來源: TechCrunch

2. OpenAI 收購 Promptfoo — 強化 AI Agent 安全性#

OpenAI 收購了開源 AI 安全測試工具 Promptfoo。Promptfoo 專門用於評估和測試 AI agent 的行為安全性，這筆交易反映了前沿 AI 實驗室正爭相證明技術可安全用於企業關鍵業務。

  • Promptfoo 是開源的 AI agent 安全測試平台
  • 收購價格未公開，但戰略意義重大
  • 前沿 AI 實驗室正爭相證明技術的企業級安全性

💡 為什麼重要：AI agent 正從概念走向企業生產環境，安全測試是最後一道門檻。OpenAI 選擇收購而非自建，說明這個領域的專業壁壘比想像中高。

🔗 閱讀原文 | 來源: TechCrunch

3. Agent Safehouse — macOS 原生沙盒保護 AI Agent#

Agent Safehouse 是一個開源工具，使用 macOS 的 sandbox-exec 在 kernel 層級限制 AI coding agent 的檔案存取權限。支援 12+ 主流 agent（Claude Code、Cline、Aider、Codex、Gemini CLI 等），採用「預設拒絕」的存取模型。

  • 使用 macOS kernel 的 sandbox-exec，在系統呼叫層面阻止未授權存取
  • 單一 Bash 腳本，無外部依賴，Apache 2.0 開源
  • 作者哲學：「LLM 犯錯率 1%，跑一百次就是必然。所以要用 kernel 確保 0% 傷害」

💡 為什麼重要：隨著 AI agent 獲得越來越多系統權限，沙盒保護從「有就好」變成「必須有」。開發者社群的強烈共鳴說明了一切。

🔗 閱讀原文 | 來源: Hacker News

4. Anthropic 起訴美國國防部 — 挑戰供應鏈風險認定#

Anthropic 對美國國防部提起訴訟，挑戰其將 Anthropic 列為供應鏈安全風險的認定。OpenAI 和 Google 的員工紛紛表態支持，顯示 AI 產業在面對政府監管壓力時的罕見團結。

  • Anthropic 被國防部標記為供應鏈風險
  • 公司選擇法律途徑對抗而非默認接受
  • 競爭對手員工自發性聲援，顯示產業共同擔憂

💡 為什麼重要：這起訴訟可能成為 AI 公司與政府監管關係的重要先例。競爭對手的團結更凸顯了這個案例對整個產業的重要性。

🔗 閱讀原文 | 來源: TechCrunch

5. Bluesky CEO Jay Graber 卸任 — 轉任首席創新官#

Bluesky 創辦人兼 CEO Jay Graber 宣布卸任，轉任首席創新官，專注探索新想法和建設。前 Automattic CEO Toni Schneider 出任臨時 CEO。Bluesky 目前已擁有 4000 萬以上用戶。

  • Graber：「我最有活力的時候是在探索新點子、將願景實現」
  • Toni Schneider（前 Automattic CEO）出任臨時 CEO
  • AT Protocol 發展方向不受影響

💡 為什麼重要：去中心化社交媒體的旗艦公司領導層變動，在 Twitter/X 替代品的競爭中增添不確定性。

🔗 閱讀原文 | 來源: Bluesky Blog

6. 合法 ≠ 正當：AI 重寫程式碼與 copyleft 的侵蝕#

Hong Minhee 在開發者社群引發激烈討論的文章。開發者 Dan Blanchard 用 Claude 重寫 Python chardet 函式庫，程式碼相似度不到 1.3%，將授權從 LGPL 改為 MIT。文章深入分析「合法」與「正當」的差異。

  • GNU 重寫 UNIX 是「封閉→開放」（擴大公共資源），AI 重寫是「開放→封閉」（縮小公共資源）
  • 自相矛盾案例：Vercel 反對 Cloudflare 重寫 Next.js（MIT），但支持 AI 重寫 GPL 專案
  • 作者提出「specification copyleft」— 將保護範圍擴展到 API 和規格

💡 為什麼重要：如果 AI 可以低成本重寫任何開源專案並更改授權，copyleft 的保護力形同虛設。這可能重塑整個開源生態的授權策略。

🔗 閱讀原文 | 來源: Hacker News

7. Import AI 448：AI 研發加速超乎預期#

Jack Clark 的 Import AI 本期重點：Ajeya Cotra 再次承認低估 AI 進展速度。她在 1 月預測 2026 年底 AI agent 時間跨度為 24 小時，但 METR 結果顯示 Opus 4.6 已達 12 小時。她現在預測年底將超過 100 小時。

  • Ajeya Cotra 更新時間線 — AI agent 工作跨度可能年底破 100 小時
  • ByteDance 開發 CUDA 寫程式的 AI agent
  • 文章提出 14 種衡量 AI 研發能力的指標

💡 為什麼重要：當最受尊敬的 AI 預測者都說「我低估了」，這本身就是最強的信號。

🔗 閱讀原文 | 來源: Import AI Newsletter

8. OpenAI 推出 Codex Security — AI 資安代理人#

OpenAI 推出 Codex Security，一個 AI 資安代理人，能自動掃描 GitHub 程式庫找漏洞並提出修補方案。

💡 為什麼重要：繼 Anthropic 的 Firefox 漏洞掃描後，OpenAI 也進入 AI 資安領域。AI 安全攻防正成為新戰場。

🔗 閱讀原文 | 來源: iThome

9. human.json — 輕量級協議證明你是人類#

一個新的 Web 協議，讓網站可以透過發布 human.json 檔案來宣告內容為人類創作，並透過互相擔保建立信任網路。類似 PGP 的 web of trust，但更簡單。

  • 網站發布 human.json + HTML <link rel="human-json">
  • 透過 vouches（擔保）建立信任鏈
  • 瀏覽器擴充功能可視覺化信任距離（綠色=直接信任，黃色=兩跳，橘色=三跳）

💡 為什麼重要：在 AI 生成內容氾濫的時代，「證明你是人類」正在從哲學問題變成技術問題。

🔗 閱讀原文 | 來源: Lobste.rs

10. 20VC：「Cursor 已死」完全是胡說 — Accel 合夥人#

Accel 合夥人 Miles Clements 強力反駁「Cursor 已死」的論調。他提出「time to value × durability of value」的框架，分析為何 coding 成為 AI 最大戰場。

  • Cursor 同時在「time to value」和「durability of value」兩個維度表現優異
  • vibe coding 工具時間到價值很快，但價值持久性差
  • 法律和會計 AI 部署週期長，但一旦導入就很持久

💡 為什麼重要：投資者框架可以幫助判斷 AI 產品的長期價值 — 不只看「多快能用」，還要看「能用多久」。

🔗 閱讀原文 | 來源: 20VC Podcast

11. LLM 寫的不是正確的程式碼，是「看起來合理」的程式碼#

論證 LLM 生成的程式碼本質上是「plausible」（看似合理）而非「correct」（確實正確），呼應今天 Anthropic Code Review 的必要性。

💡 為什麼重要：開發者需要認知到 AI 生成的程式碼需要系統性驗證，不能「看起來對就用」。

🔗 閱讀原文 | 來源: Lobste.rs

12. 新型 InstallFix 攻擊瞄準 Claude Code 使用者#

駭客發動 InstallFix 社交工程攻擊，利用冒牌 Claude Code 安裝指引散布竊資軟體。

💡 為什麼重要：AI 開發工具的用戶已成為社交工程攻擊的目標，安裝工具時更需警覺來源。

🔗 閱讀原文 | 來源: iThome

13. OpenClaw 自動跑 TikTok 行銷 — Greg Isenberg Podcast#

Greg Isenberg 採訪 Oliver Henry，展示如何用 OpenClaw 的「Larry」agent 自動創建 TikTok 內容。Larry Loop：TikTok 分析 → 內容生成 → 指標回饋 → 自動迭代。另一用戶已達 $70K MRR。

💡 為什麼重要：AI agent 從「寫程式碼」到「跑業務」的具體案例，且完全開源。

🔗 閱讀原文 | 來源: Greg Isenberg Podcast

14. Simon Willison：AI 時代「無聊技術」不再無聊#

Simon Willison 觀察到，最新的 coding agent 搭配長 context 視窗後，不再偏向主流技術。AI 能快速學習任何工具的文件和範例，打破了「Choose Boring Technology」的假設。

💡 為什麼重要：你的技術選擇不再受 AI 訓練資料限制。新工具、小眾框架都能獲得同等品質的 AI 支援。

🔗 閱讀原文 | 來源: Simon Willison

15. Meta Ray-Ban 工人曝光：被迫觀看浴室偷拍畫面#

Meta 的 Ray-Ban 智慧眼鏡相關審查工人表示，他們被要求觀看用眼鏡拍攝的浴室隱私畫面。

💡 為什麼重要：AI 穿戴裝置的隱私問題從理論走向現實。

🔗 閱讀原文 | 來源: Ars Technica

16. Ghostty 1.3.0 發布#

GPU 加速終端模擬器 Ghostty 發布 1.3.0 大更新。

💡 為什麼重要：Ghostty 已成為 macOS 上最受歡迎的現代終端之一，持續快速迭代。

🔗 閱讀原文 | 來源: Lobste.rs

17. Oracle 用明天的債務建昨天的資料中心#

CNBC 分析 Oracle 的資料中心擴張策略，指出其正在用大量借貸建設可能已經過時的基礎設施。

💡 為什麼重要：在 AI 推動雲端需求爆炸的時代，Oracle 的策略能否跟上令人質疑。

🔗 閱讀原文 | 來源: CNBC

推薦閱讀#

中文技術圈#

開源精選#

karpathy/autoresearch — Python | ⭐ 15.8K AI agent 自動化單 GPU 研究實驗（EP07 已報導）

twostraws/SwiftUI-Agent-Skill — ⭐ 1.6K Claude Code / Codex 的 SwiftUI agent skill

duoan/TorchCode — Jupyter | ⭐ 1.4K PyTorch 版 LeetCode — 從零實作 softmax、attention、GPT-2

HKUDS/CLI-Anything — Python | ⭐ 1.1K 讓所有軟體變成 Agent-Native 的 CLI 工具

op7418/Claude-to-IM-skill — TypeScript | ⭐ 751 Claude Code / Codex 橋接到 Telegram、Discord、飛書

tanishqkumar/ssd — Python | ⭐ 734 推測性推測解碼（SSD）推理引擎

FreedomIntelligence/OpenClaw-Medical-Skills — Python | ⭐ 631 OpenClaw 最大開源醫療 AI 技能庫

影音精選#

「Cursor 已死」完全是胡說 — Miles Clements (Accel)#

12.3K views · 1 天前 — 20VC

20VC

Accel 合夥人用「time to value × durability of value」框架分析 AI coding 工具。結論：Cursor 同時在兩個維度表現優異，vibe coding 工具到價值快但持久性差。

  • 創投界仍然看好 AI 原生開發工具的長期價值
  • AI coding 戰場的競爭才剛開始，遠未到定局

💬 這框架很實用 — 不只看「多快能用」，還要看「能用多久」。選工具、做產品都適用。

加州要禁 Linux？年齡驗證法案引爆開發者社群#

8.7K views · 1 天前 — Theo

Theo

Theo 剖析加州和多個州推動的年齡驗證法案。這些法案要求 OS 安裝前驗證身分，可能無意間讓 Linux 等開源 OS 的發布變成違法行為。

  • 看似無關的法規可能對開源生態產生毀滅性連鎖反應
  • 開發者不能只活在程式碼裡，公共政策直接影響我們的工具和工作環境

💬 這種法案最可怕的不是惡意，是無知。立法者不懂技術，一刀切的結果就是把整個開源社群當成附帶損害。

P vs NP — 電腦科學最大的未解之謎#

7.9K views · 1 天前 — Fireship

Fireship

Fireship 用一貫精練的風格解釋 P vs NP — 「容易解決」和「容易驗證」的差別。如果 P=NP，現有密碼學體系可能瞬間瓦解。

  • P vs NP 是密碼學、物流優化、AI 等領域的理論基石
  • 懸賞 100 萬美元的千禧年問題，至今無人解出

💬 偶爾看看理論天花板，會對自己每天寫的程式碼有不同的敬畏感。

OpenClaw 自動幫我跑 TikTok 行銷#

6.1K views · 1 天前 — Greg Isenberg

Greg Isenberg

Greg Isenberg 採訪 Oliver Henry，展示用 OpenClaw 的「Larry」agent 自動創建 TikTok 內容：分析數據 → 生成內容 → 迭代 hook 和 CTA。另一用戶已達 $70K MRR。

  • AI agent 從「寫程式碼」跨到「跑業務」的完整案例
  • 開源工具讓獨立開發者用極低成本實現自動化行銷

💬 獨立開發者最大的痛點就是行銷。如果推廣能交給 AI agent，就能把精力全部投入產品。這不是未來，是現在就能試的事。

腦機介面的未來 — Max Hodak (Neuralink 共同創辦人)#

5.4K views · 1 天前 — Y Combinator

Y Combinator

前 Neuralink 總裁 Max Hodak 談 BCI 技術的下一步 — 從醫療復健走向人機共生。技術挑戰、倫理問題、以及為什麼這可能是下一個十年最重要的介面革命。

  • BCI 的終極目標是人與機器的無縫共生，重新定義「介面」
  • 技術正從科幻走向現實，但倫理討論必須跟上

💬 當我們還在優化 App 的 UI/UX 時，BCI 已經在重新定義「介面」本身了。這是下一個十年的命題。

名人動態#

今日觀察#

chardet 被 AI 重寫然後改授權這件事讓我想了很多。技術上完全合法 — 程式碼相似度不到 2%，你根本告不了他。但如果每個人都這樣做呢？以前你要重寫一個開源專案，光是理解原始碼就要花幾週甚至幾個月，這個成本本身就是一種保護。現在 AI 讓這個成本幾乎歸零了。開源的精神一直靠的是社群的道德共識，而不只是法律條文。當技術門檻消失，道德共識還撐得住嗎？

另一個讓我有感的是 Agent Safehouse。作者那句「LLM 犯錯率 1%，跑一百次就是必然」說得太好了。我自己每天用 AI 寫程式，說實話，大部分時候是信任它的。但信任和驗證是兩回事。有個 kernel 層級的沙盒在那邊，不是因為不信任 AI，是因為信任不該建立在「希望它不出錯」上面。

覺得有用？轉給一個也在追蹤新知的朋友。也歡迎中長期投資者體驗新工具 → Moniit banner

同期還有