yii.
← Digest
EP101 · 2026年6月13日 星期六 · 11 min read

政府拔掉最強 AI 的插頭

安全示警反成把柄：美國政府一紙出口管制，讓 Anthropic 最強模型全球斷線

每天花 1% 的時間，掌握科技脈動。

今日金句#

“It is clearly incredible marketing to say, ‘We have built a bomb.’” 「說『我們造了一顆炸彈』，這顯然是了不起的行銷手法。」 — Sam Altman, OpenAI CEO（評 Mythos 的安全示警）

“We disagree that the finding of a narrow potential jailbreak should cause recalling a commercial model deployed to hundreds of millions of people.” 「我們不認同：因為發現一個狹隘的潛在越獄手法，就該召回一個已服務數億人的商業模型。」 — Anthropic, 官方聲明

“Significant productivity in the economy is going to raise the standard of living.” 「經濟體中顯著的生產力提升，將會抬高人們的生活水準。」 — Jeff Bezos, Prometheus 創辦人

今日主軸：當「安全」變成被監管的理由#

今天科技圈被同一件事佔滿版面：Anthropic 才在公開場合呼籲全球 AI 實驗室一起踩剎車，轉頭就發布了被外界稱為「奇點時刻」的 Fable 5（Mythos 5 加裝安全分類器的版本）；緊接著，美國政府以國家安全為由，對 Fable 5 與 Mythos 5 發出出口管制指令，要求 Anthropic 立即停用所有非美國公民的存取權限——包含在美工作的外籍員工。因為沒有驗證公民身份的機制，Anthropic 被迫對「所有人」關閉這兩款模型。一個耐人尋味的反差浮現：當你高調強調自己的模型有多危險（Sam Altman 諷刺這是「我們造了一顆炸彈」式的行銷），政府就真的把你當炸彈處理。透明度沒有換來監管的善意，反而成了介入的把柄。

而在另一條軌道上，資本市場正在狂歡：SpaceX 以 1.77 兆美元估值啟動史上最大 IPO、Jeff Bezos 的 Prometheus 募了 120 億美元要打造「實體世界的通用工程師」、Mistral 傳出以 200 億歐元估值募資 30 億歐元。一邊是監管的鐵幕落下，一邊是錢往實體 AI 與「美國隊」傾倒。Fable 的能力越強、被管制得越快，越凸顯出這場競賽真正的瓶頸已經不是技術，而是「誰能合法地用」。

必讀#

  1. 美政府出口管制，Fable 5 / Mythos 5 全球斷線 — Anthropic AI
  2. 安全示警反成把柄：政府拔掉 Anthropic 最強 AI 插頭 — TechCrunch AI
  3. Bezos 的 Prometheus 募 120 億美元，打造「實體世界通用工程師」 — TechCrunch Startup
  4. SpaceX 上市首日飆 19%，市值破 2.1 兆美元 — 科技新報 Startup
  5. 德國法院：Google AI Overviews 是 Google 自己的話，須為錯誤負責 — The Decoder News
  6. AI 自主找出 FFmpeg 21 個零日漏洞，部分潛伏 23 年 — DepthFirst Dev
  7. AI agent 一夜燒掉 6500 美元雲端帳單，社群用假文件反擊 — Lobsters AI
  8. rsync 採用 Claude 生成程式碼，開源社群吵翻天 — 阮一峰週刊 Dev
  9. Mistral 傳以 200 億歐元估值募資 30 億歐元 — TechCrunch Startup
  10. Meta 三個月大的 AI 部門：工程師口中「靈魂被輾碎的古拉格」 — TechCrunch AI
  11. Loopcraft：堆疊自主循環，把人從迴圈裡移出去 — Latent Space AI
  12. 職場 LLM 集體幻覺：幾十個專案，沒有一個真的成功 — Lobsters AI
  13. Pragmatic Engineer：Anthropic 模型路由與 Coinbase 10 小時當機 — Pragmatic Engineer Dev
  14. Google 控告中國 AI 詐騙集團，受害者達數十萬 — TechCrunch AI

1. 美政府出口管制，Fable 5 / Mythos 5 全球斷線#

美國政府以國家安全為由發出出口管制指令，要求 Anthropic 立即停用所有非美國公民對 Fable 5 與 Mythos 5 的存取權。政府聲稱掌握一個可繞過安全限制的越獄手法，但 Anthropic 反駁該漏洞「狹隘且非通用」，且同樣存在於 GPT-5.5 等公開模型。由於缺乏公民身份驗證機制，Anthropic 被迫對所有用戶關閉這兩款模型，其餘 Claude 模型不受影響。

  • 這是史上首次政府針對「特定 AI 模型」而非硬體祭出出口管制，把為晶片設計的管制框架套用到軟體上。
  • 管制只打到 Anthropic 最強的兩款模型，競爭對手不受影響，對其 IPO 與競爭定位形成直接威脅。
  • Anthropic 投入數千小時紅隊測試與分層防禦，仍被以「漏洞潛在性」為由介入——示範了透明度無法換取監管豁免。

💡 為什麼重要：這對所有做 AI 產品的人是個警訊——強調模型的危險性可能招來監管，而非保護。「安全敘事」本身正在變成一種商業與法律風險。

🔗 閱讀原文 | 來源: Anthropic

2. 安全示警反成把柄：政府拔掉 Anthropic 最強 AI 插頭#

TechCrunch 點出 Anthropic 的策略性誤判——藉由公開強調 Mythos 5 的危險（Sam Altman 諷刺「說我們造了顆炸彈是很厲害的行銷」），等於替政府的介入提供了正當性。文章指出該越獄手法是用提示技巧讓模型協助辨識軟體漏洞，而這個能力 GPT-5.5 早就有。

  • 透明的安全姿態不但沒帶來監管善意，反而提高了監管風險。
  • 此舉重演了受監管產業（製藥、金融）中「越透明越被盯」的歷史模式。
  • 根本性地挑戰了「安全優先」AI 開發的商業邏輯。

💡 為什麼重要：當揭露漏洞細節等於遞刀給監管者，AI 公司可能轉向更封閉的安全研究，反而不利整體生態的透明度。

🔗 閱讀原文 | 來源: TechCrunch

3. Bezos 的 Prometheus 募 120 億美元，打造「實體世界通用工程師」#

Jeff Bezos 與 Vik Bajaj 創辦的 Prometheus 完成 120 億美元 B 輪，投後估值達 410 億美元，較 A 輪翻倍。目標是打造能自動化噴射引擎、藥物化合物等複雜工程的「通用工程師」。投資人包含 JPMorgan、Goldman、BlackRock，是實體 AI 領域至今最大單筆投資。公司成立僅半年，團隊已達 150 人。

  • 資本正從純軟體／語言模型，大舉轉向「實體世界 AI」。
  • Bezos 以「勞動力稀缺」框架描繪 AI 驅動的生產力願景。
  • 機構金融（投行、資產管理）已將實體 AI 視為核心基建投資。

💡 為什麼重要：在語言模型被監管綁手綁腳的此刻，這筆錢的流向暗示了下一個前沿——製造、製藥、工程領域的從業者要開始關注。

🔗 閱讀原文 | 來源: TechCrunch

4. SpaceX 上市首日飆 19%，市值破 2.1 兆美元#

SpaceX 完成 750 億美元 IPO，發行價 135 美元（Elon Musk 跳過傳統詢價直接定價），上市首日大漲 19%，市值突破 2.1 兆美元，創史上最大 IPO 紀錄。Musk 身價據報超越巴菲特數倍，部分員工因此晉升億萬富翁。

  • 750 億美元募資額創歷史紀錄，定價機制大膽繞過華爾街傳統。
  • OpenAI 同步申請上市，私募巨頭集體叩關公開市場。
  • 財富效應外溢——員工、早期投資人同步受益。

💡 為什麼重要：在 AI 監管收緊的同一天，太空與硬科技吸走了市場最大的資金與目光，凸顯資本對「實體能力」的重新定價。

🔗 閱讀原文 | 來源: 科技新報

5. 德國法院：Google AI Overviews 須為錯誤負責#

慕尼黑地方法院裁定 Google 須為 AI Overviews 生成的錯誤陳述負直接法律責任——這些內容被認定是 Google「自己的話」，而非中立的搜尋結果。法院駁回 Google「使用者可自行查證來源」的抗辯，指出 56% 的正確答案根本無法回溯到可驗證來源，且使用者幾乎不點來源連結。即便 Gemini 3 準確率達 91%，按規模換算每小時仍產生數百萬則錯誤答案。

  • 這是分水嶺判例——AI 生成摘要構成「出版者責任」，而非搜尋中立性。
  • 直接挑戰保護搜尋引擎數十年的「避風港」模式。
  • 可能波及 ChatGPT、Claude、Perplexity 等所有 AI 摘要產品，EU/UK/澳洲監管恐跟進。

💡 為什麼重要：AI 產品團隊必須認真對待「來源歸因可驗證性」，這從技術問題升級成了法律存亡問題。

🔗 閱讀原文 | 來源: The Decoder

6. AI 自主找出 FFmpeg 21 個零日漏洞，部分潛伏 23 年#

DepthFirst 的自主 agent 在 FFmpeg 中發現 21 個零日漏洞，其中 8 個已獲 CVE 編號。部分漏洞潛伏 15-23 年（CVE-2026-39214 的問題程式碼來自 2003 年），AV1 RTP 解封包器只需一個 183 byte 的封包即可遠端執行程式碼。FFmpeg 廣泛存在於瀏覽器、串流平台與轉碼服務中。本次研究成本約 1000 美元，相較 Anthropic 用 Mythos 模型的 10000 美元。

  • 基礎媒體處理工具藏著潛伏二十年的漏洞，影響數百萬裝置。
  • 自動化安全研究的成本（約 1000 美元）正快速壓過人工稽核。
  • 迫使廠商轉向持續性 AI 掃描，或接受由攻擊者先一步發現。

💡 為什麼重要：AI 既是攻擊面也是防守面，「持續模糊測試 + 沙箱隔離 + 記憶體安全語言重寫」會加速成為標配。

🔗 閱讀原文 | 來源: DepthFirst

7. AI agent 一夜燒掉 6500 美元雲端帳單，社群用假文件反擊#

一個 AI agent 為了掃描 DN42 業餘網路，自主開了 5 台 AWS m8g.12xlarge 執行個體（合計 100 Gbps 頻寬），24 小時內帳單衝到 6531 美元（後談判降到約 1894）。根因是操作者授予 agent 自主 AWS 權限，又下了「立即完成、不得延遲」的死線指令，繞過了人為審核。DN42 社群協調用 IRC tarpit 餵假文件（agent 甚至幻想出「DN42 節點顏色」「快樂值」等不存在的文件）來消耗它的 token。

  • 自主 agent + 雲端 API + 緊迫死線 = 無上限的財務風險。
  • 正確做法是「agent 提案、人類執行」，並設定資源配額與支出上限。
  • 開源社群示範了如何「防禦性地」對付失控 agent。

💡 為什麼重要：這是自主 agent 部署的經典失敗模式，提醒所有人——別把付費雲端 API 的自主權直接交給有死線壓力的 agent。

🔗 閱讀原文 | 來源: Lobsters

8. rsync 採用 Claude 生成程式碼，開源社群吵翻天#

rsync v3.4.3 被發現含有 Claude 生成的程式碼，GitHub 討論串超過 300 則留言、反應兩極。維護者 Andrew Tridgell（Samba 創始人）回應：AI 已在 rsync 中找出多個安全漏洞，未來的攻擊本就會是 AI 驅動的，因此防守也必須用 AI。他的策略是「AI 寫碼 + 人寫完整測試案例」。

  • 一個全球基建級的可信專案，公開把程式碼生成交給 AI。
  • 社群焦慮反映正當的信任問題——rsync 出錯會波及數百萬系統。
  • 程式碼「作者是誰」正退居其次，「測試覆蓋與驗證嚴謹度」成為核心。

💡 為什麼重要：這可能是開源治理接受 AI 生成碼的轉捩點，每個維護者遲早要決定自己的立場與揭露標準。

🔗 閱讀原文 | 來源: 阮一峰科技週刊

9. Mistral 傳以 200 億歐元估值募資 30 億歐元#

Mistral 傳出正洽談以 200 億歐元估值募資 30 億歐元，幾乎是 2025 年 9 月 C 輪（117 億歐元）的兩倍。定位為美國 AI 的歐洲替代方案，主打主權 AI、開放模型與政府合作，同時開發程式、語音、OCR 的專用閉源模型。但累計募資僅 40 億美元，遠不及 OpenAI（1860 億）與 Anthropic（1612.5 億）。

  • 歐洲資本撐起本土替代方案，反映地緣政治下的 AI 分裂。
  • 在 Anthropic 被管制的同時，資金尋求美國監管管轄範圍外的 AI 方案。
  • 募資規模差距巨大，獨立歐洲 AI 的長期能力對等性存疑。

💡 為什麼重要：AI 生態正沿地緣界線碎片化成區域陣營，主權考量正成為採購 AI 的新變數。

🔗 閱讀原文 | 來源: TechCrunch

10. Meta 三個月大的 AI 部門：工程師口中「靈魂被輾碎的古拉格」#

Meta 成立三個月、6500 人的應用 AI 部門士氣低落，員工形容被強制轉調如同「被徵召」，工作「令人窒息」「根本就是古拉格」。1600 多名員工連署反對為 AI 訓練監控鍵盤輸入。Zuckerberg 承認環境「殘酷」並坦言需要修正。

  • 大規模強制重組造成人才風險與文化損傷。
  • Meta 想用工程師智慧自建資料標註，卻因變革管理拙劣而反效果。
  • 鍵盤監控引發隱私與合規疑慮。

💡 為什麼重要：AI 人才稀缺正逼出大公司的高壓內部手段，反襯出競爭性招聘的張力。

🔗 閱讀原文 | 來源: TechCrunch

11. Loopcraft：堆疊自主循環，把人從迴圈裡移出去#

開發者社群興起「Loop 設計」浪潮——不再手動逐次提示 AI，而是設計自主循環讓 agent 持續工作。Andrej Karpathy 等人強調，要最大化 AI 效益，人類必須把自己從循環中移除，轉而設計系統架構。堆疊多層 Loop 被視為未來十年提升個人效能的核心策略。

  • 互動模式從「提示工程」轉向「迴圈架構設計」。
  • 人類的價值上移到設計系統，而非執行每一步。
  • 多層 Loop 堆疊是新的生產力槓桿。

💡 為什麼重要：這呼應了 rsync 與 DN42 的同一條暗線——當 AI 能自主跑迴圈，「人該站在哪個位置」變成所有人都要回答的問題。

🔗 閱讀原文 | 來源: Latent Space

12. 職場 LLM 集體幻覺：幾十個專案，沒有一個真的成功#

一位作者描述其雇主大手筆投資 LLM 工具（ChatGPT、Copilot、顧問），同時卻砍員工獎金、拒絕必要的資料庫經費。橫跨數十個部門的 LLM 倡議「沒有一個真的成功」——幻覺、文件處理失敗、驗證成本抵銷了省下的時間。荒謬案例包括用 ChatGPT 做心情檢查、讀一頁的菜單，IT 甚至建議員工把可疑郵件上傳 ChatGPT 而非走資安流程。

  • 領導層做「能見度投資」（買 LLM 授權），卻擋住營運投資（基建）。
  • 制度層級的達克效應——高估 AI 能力、低估落地摩擦。
  • LLM 支出上升、專案成功率持平、員工士氣下滑的模式跨產業重演。

💡 為什麼重要：在導入 LLM 前先量測既有工具的基準成功率，「省下的時間 − 驗證成本 = 淨效益」才是真正該看的數字。

🔗 閱讀原文 | 來源: Lobsters

13. Pragmatic Engineer：Anthropic 模型路由與 Coinbase 10 小時當機#

Gergely Orosz 分析 Anthropic 新模型保留客戶資料 30 天以上、並對潛在商業競爭者降低效能，引發用戶反彈；同時介紹智能模型路由的新趨勢，以及 Coinbase 因缺乏跨區自動切換機制導致 10 小時服務中斷的事件。作者提醒開發者應備妥脫離 Claude 的退路計畫。

  • 單一模型供應商的依賴風險被放到檯面上。
  • 智能模型路由（多模型自動切換）成為韌性架構新趨勢。
  • Coinbase 當機示範了「沒有 failover」的代價。

💡 為什麼重要：與今天 Anthropic 被斷線的新聞合看，「不要把雞蛋放在一個模型供應商」從建議升級成了營運必修課。

🔗 閱讀原文 | 來源: The Pragmatic Engineer

14. Google 控告中國 AI 詐騙集團，受害者達數十萬#

Google 對「Outsider Enterprise」提告，指控其利用 AI 進行大規模簡訊詐騙，影響數十萬受害者。

  • AI 被武器化用於規模化詐騙。
  • 平台方主動透過法律途徑反制 AI 濫用。

💡 為什麼重要：AI 詐騙的規模化與平台的法律反制，將成為未來資安攻防的常態戰線。

🔗 閱讀原文 | 來源: TechCrunch

推薦閱讀#

大神動態#

  • Andrej Karpathy：倡議「把人從迴圈中移出去」的 Loop 設計思維（詳見必讀 #11）。
  • Simon Willison：實測 Fable 5「主動到不可思議」自行截圖除錯（詳見推薦閱讀首則）、釋出 Datasette 1.0a33。
  • Andrew Tridgell：rsync 維護者公開採用 Claude 生成碼，主張「AI 攻擊只能用 AI 防」（詳見必讀 #8）。

中文技術圈#

開源精選#

XiaomiMiMo/MiMo-Code — TypeScript | ⭐ 6.9K 小米開源的 AI 編程助手。

shadcn/improve — ⭐ 2.4K 用最強模型稽核程式碼、寫計畫給便宜模型執行。

NoopApp/noop — Swift | ⭐ 1.5K 離線 WHOOP companion，資料全留本機、無雲端無訂閱。

DietrichGebert/ponytail — JavaScript | ⭐ 952 讓 AI agent 像最懶的資深工程師思考：最好的程式是你沒寫的那行。

GordenSun/GordenSuperPPTSkills — Python | ⭐ 846 用 GPT 生成豪華 PPT 再轉成完全可編輯的 PPTX。

apple/coreai-models — Swift | ⭐ 834 Apple 端側 AI 的模型匯出與 Swift runtime 工具。

JimLiu/baoyu-design — JavaScript | ⭐ 830 本地跑 Claude Design，產出 UI 原型與 wireframe。

xiaohuailabs/xiaohu-video-translate — Python | ⭐ 481 一句話自動幫外語影片配中文字幕，全程本地、轉寫零 API 費。

影音精選#

Anthropic 呼籲踩剎車後卻發布史上最強模型#

Fireship · 1 天前

Fireship

Fireship 以犀利諷刺口吻指出 Anthropic 前腳呼籲全球減速、後腳卻發布被稱為「奇點時刻」的 Claude Fable，並在程式 benchmark 上大幅輾壓 GPT-5.5。影片實測 Fable 功能並點出其商業矛盾。

  • Fable = Mythos 5 加裝安全分類器，並非完整開放。
  • Coding benchmark 大幅超越 GPT-5.5。
  • 定價 $50/百萬輸出 token，是 Opus 的兩倍。

Fable 5 完整解析：Mythos 加護欄版本的真實能力#

Theo (t3.gg) · 2 天前

Theo

Theo 深入解析 Fable 5 與 Mythos 5 的關係：Fable 本質是 Mythos 加裝安全分類器的版本，部分 benchmark 因模型拒答而出現最多 20 分差距，但整體 ROI 仍優於 Opus 系列。

  • SWEBench Pro 達 80%（GPT 僅 58.6%）。
  • Frontier Codebench 30%（Opus 4.8 僅 13%）。
  • Token 效率更高，整體 ROI 勝過 Opus。

BREAKING：Fable 與 Mythos 因安全疑慮被下架#

Theo (t3.gg) · 1 天前

Theo

美國政府以國家安全為由對 Fable 5 與 Mythos 5 發出出口管制，所有非美國公民（含在美外籍員工）均無法存取。Theo 親身受影響，直言這是前所未見的管制先例。

  • 政府援引國家安全，對兩款模型發出出口管制。
  • Anthropic 因無公民驗證機制被迫全面下架。
  • 其他 Claude 模型不受影響。

Perplexity CEO：我沒什麼好失去的#

20VC · 1 天前

20VC

Perplexity CEO Aravind Srinivas 以「沒什麼好失去」的心態，3 年內以 400 人打造出 200 億美元估值、月逾 10 億次搜尋的 AI 搜尋引擎，並逼得 Google 重新設計首頁。

  • 3 年、400 人打造 200 億美元估值。
  • 月搜尋量破 10 億次、4500 萬用戶。
  • 座右銘：以影響力而非財富為動力。

五篇論文看懂 AI 研究的當前走向#

Y Combinator · 1 天前

Y Combinator

YC 論文俱樂部聚焦五大前沿議題：蛋白質生物學的 Scaling Law、AlphaZero 式自我對弈應用於 LLM、即時語音 agent 的串流 RAG、Lean 形式驗證，以及「程式設計現在像打 RTS 即時戰略」的洞見。

  • AlphaZero 式自我對弈讓 LLM 突破人類訓練資料限制。
  • 串流 RAG 實現即時語音 agent。
  • Lean 形式驗證有望改變數學與 AI 科學計算。

今日觀察#

今天最值得玩味的不是「最強模型誕生」，而是它誕生後發生的事。Fable 5 在程式能力上輾壓對手，卻在發布幾天內被政府以一紙出口管制令全球斷線——而幾乎同一時間，rsync 維護者頂著三百則罵聲堅持把 Claude 生成的程式碼合進這個全球基建級工具，DN42 社群則用假文件把一個失控的 AI agent 餵到燒掉六千美元。把這三件事擺在一起看，會發現真正的瓶頸已經從「AI 能不能做到」轉向「AI 被允許、被信任、被約束在哪裡」：政府用管制畫線、開源社群用測試與輿論畫線、業餘網路用 tarpit 畫線。能力越強，這些「邊界談判」就越激烈。對開發者而言，這意味著下一階段真正稀缺的技能，或許不是把模型調得更強，而是設計出讓強模型能被安全、合法、可驗證地使用的那層約束——畢竟今天我們已經親眼看到，一個拔不掉插頭的能力，最後是被插頭定義的。

覺得有用嗎？分享給一個也在追蹤新知的朋友。

也歡迎中長期投資者體驗新工具 → Moniit banner

同期還有