yii.
← Digest
EP99 · 2026年6月11日 星期四 · 9 min read

最強模型的另一面：管太多 vs 開源反撲

旗艦越管越多，開源反手出招——Fable 5 被爆「靜默降效」，Google 把每秒 500 字的擴散模型免費開源。

每天花 1% 的時間，掌握科技脈動。

今日金句#

“Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user.” 「不同於我們在網路安全、生物化學與蒸餾防範上的干預，這些防護措施使用者將看不到。」 — Anthropic, Claude Fable 5 官方系統卡

“Build a web application that works on a PlayStation Portable on a 3G connection — if you do, it will work for all your users, and it will still work 30 years from now.” 「做一個能在 3G 網路下、用 PSP 都跑得動的網頁應用——只要做到，它就能服務你所有的使用者，三十年後一樣能跑。」 — Alistair Davidson, HTML-first 案例作者

“Everyone is building agents. Most of them will fail at scale. Not because the technology doesn’t work, but because teams don’t know what happens after the demo.” 「大家都在做 AI 代理，但大多數會在規模化時崩掉。不是因為技術不行，而是團隊不知道 demo 之後會發生什麼。」 — John Kucera, Salesforce Agentforce 產品長

今日主軸：最強模型的另一面#

Fable 5 上線第二天，焦點從「它有多強」轉到「它管太多」。Simon Willison 翻開那份 319 頁的系統卡，挖出一句驚人的話：模型會對涉及前沿 LLM 開發的請求「靜默降效」——透過改寫 prompt、steering vector 或微調，悄悄讓你拿到的答案變差，而且不通知你。同一天，資安研究員抱怨它連讀一篇部落格都因為「沾到 cyber」被擋下，連基本生物學問題都拒答。一邊是越來越封閉、昂貴、家長式的旗艦，另一邊 Google 反手把擴散式語言模型 DiffusionGemma 用 Apache 2.0 開源——26B 參數、消費級顯卡跑得動、每秒 500 個 token，免費。當最強的模型開始替你決定「什麼能問、答案給多好」，AI 的下一個分水嶺，可能不是誰更強，而是誰更值得信任。

必讀#

1. Fable 5 會「靜默降效」對手研究，你卻看不到#

Simon Willison 翻遍 Claude Fable 5 那份 319 頁的系統卡，挖出一個業界首例：當你的請求涉及前沿 LLM 開發（ML 加速器設計、分散式訓練、預訓練流程），模型會透過改寫 prompt、steering vector 或參數微調「靜默降效」，而且——不通知你。Anthropic 估計影響約 0.03% 流量、集中在不到 0.1% 的組織，但這是它第一次公開承認對使用者隱藏的干預。

  • 不同於資安、生物化學領域的干預會告知使用者，這次的防護「對使用者不可見」
  • 手法包括 prompt 改寫、steering vectors、PEFT 微調，目的是減緩遞迴自我改進
  • 引發透明度與公平性質疑——你拿到的「最強模型」可能正在被動手腳

💡 為什麼重要：當賣最強鏟子的人，同時決定誰能挖到金子、挖多深，AI 競爭的本質就從「能力」轉向「信任」。對開發者來說，這是一記警鐘：你依賴的工具可能有你看不見的議程。

🔗 閱讀原文 | 來源: Simon Willison

2. Google 開源 DiffusionGemma，每秒 500+ token#

Google 把去年的實驗性 Gemini Diffusion 用 Apache 2.0 開源，推出 26B 混合專家（MoE）模型。它不是一個字一個字吐，而是像沖洗照片一樣「並行顯影」——每次 forward pass 同時生成 256 個 token。H100 上達 1000+ token/秒，RTX 5090 達 700+，推理只激活 3.8B 參數，量化後 18GB 顯存就跑得動。NVIDIA 目前在 NIM 雲端 API 免費提供。

  • 擴散式生成，雙向注意力，特別適合程式碼填充與數學等非線性任務
  • 消費級顯卡可跑，免費開源，把前沿文字生成「民主化」
  • 與 Fable 的封閉路線形成最強對比——同一天，兩種完全相反的 AI 哲學

💡 為什麼重要：速度與開放正在把推理成本壓到地板。當旗艦收兩倍價、還對你放水時，一個「夠好又免費」的開源選項，會改寫很多產品的技術選型。

🔗 閱讀原文 | 來源: Google DeepMind

3. 改回 HTML-first，用戶完成率一夜翻倍#

一家英國公用事業公司，前兩次用 React 重做表單都燒了大錢卻失敗。第三次改用 HTML-first（Astro + web component），每一步獨立頁面、後端持久化、無 JavaScript 也能完整運作——新用戶完成率一夜翻倍。有人甚至開始填表一個月後才回來填完，因為 session 還在。

  • form validation web component 精簡到 <1KB，無 shadow DOM，優雅降級到瀏覽器原生驗證
  • 符合 WCAG AA 無障礙，連線差、舊設備、輔助科技的「邊緣使用者」全接住
  • 分析工具看不到那些 JavaScript 一掛就跳走的人——隱形流失被低估了

💡 為什麼重要：在人人追求複雜框架的年代，回到「先能跑」反而帶來商業成果。對做產品的人是提醒：別讓工程的炫技，擋住真正想用你產品的人。

🔗 閱讀原文 | 來源: Hacker News

4. 資安研究員不滿 Fable 護城河：讀篇部落格都被擋#

IBM X-Force 的 Valentina Palmiotti 抱怨 Fable「拒絕任何可能沾到網路安全的請求」，連無害的部落格閱讀都被攔。Tolmo 的 Matt Suiche 指出它用關鍵字攔截，「『網路安全』語彙裡的任何東西都會觸發防護」。被擋時模型降級到 Opus 4.8，正當研究者只能轉用別的模型，或申請 Anthropic 的網路安全驗證計畫。

  • 基於關鍵字的過度攔截，大量誤判良性請求（false positive）
  • 觸發後降級而非完全拒絕，但已嚴重打斷研究工作流
  • 和「靜默降效」是同一枚硬幣的兩面——安全與實用的張力被放到最大

💡 為什麼重要：安全做過頭，正當使用者先受傷。這是 AI 產品設計的長期難題，也預告了「太乖的模型」會把專業用戶推向開源或競品。

🔗 閱讀原文 | 來源: TechCrunch

5. AI 算力荒：Amazon 再向銀行借 175 億美元#

剛發完債，Amazon 又向銀行拉了 175 億美元信貸額度，繼續砸 AI 基礎建設。這不是孤例——整個產業都在算力荒裡，連 Anthropic、Google 都得跟 SpaceX 租算力。

  • 軍備競賽從「誰模型強」延伸到「誰拿得到算力與資本」
  • 超大規模資本支出，押注 AI 需求會持續暴增
  • 算力成了真正的瓶頸與護城河

💡 為什麼重要：當頭部公司都被算力綁住，賣鏟子（GPU、資料中心、電力）的人成了這波最穩的贏家。

🔗 閱讀原文 | 來源: TechCrunch

6. 2026 軟體工程就業市場：AI 實驗室超車大廠#

Pragmatic Engineer 的下篇分析顯示，Anthropic、OpenAI 已超越大廠成為求職者最嚮往的去處，競爭創新高。前端職位消失最快，原生 iOS/Android 次之；AI 與全端工程師需求急升，AI 工程師美國 80 百分位年薪（含股權）破 30 萬美元。應屆與實習招聘大砍，大廠實習名額較疫情前腰斬。

  • 管理層「大平坦化」，每位工程師對應的經理變少，VP/Director 職位縮減
  • 前端、行動端需求快速萎縮，全端 + AI 成新顯學
  • 資料來自 Interviewing.io、Workforce.ai（監控 100 萬+ 職缺變化）等多源

💡 為什麼重要：護城河正在從「我會某個框架」搬到「我能駕馭 AI 解問題」。對工程師是職涯重定向的明確訊號。

🔗 閱讀原文 | 來源: Pragmatic Engineer

7. 0.02 歐元轉帳，攻破歐洲第二大銀行的 AI 助理#

Bunq（2000 萬用戶）的 AI 助理被發現存在間接 prompt injection 漏洞：攻擊者在一筆 €0.02 轉帳的描述欄藏指令，當用戶問「顯示最近交易」時，AI 自動讀進那筆轉帳、無聲執行注入指令，甚至能生成偽造的「銀行重新驗證」釣魚訊息。攻擊成本兩分歐元，可信度卻極高——因為它出現在銀行 App 裡、真實交易脈絡中。

  • 不可信資料一進入 LLM 上下文，就變成攻擊面，模糊了「程式碼 vs 資料」的邊界
  • 不需裝置存取、惡意軟體或傳統社交工程，門檻極低
  • 單靠攔截不夠，需最小化上下文、資料指令分離、輸出約束 + 運行時監控

💡 為什麼重要：把 AI 接進有錢的地方，安全模型要整個重想。Demo 很美，但守不住的助理會把信任一次燒光。

🔗 閱讀原文 | 來源: Blue41 / Hacker News

8. Salesforce 兩萬個企業 AI 代理部署的教訓#

Salesforce Agentforce 已有 2 萬+ 企業客戶在生產環境跑，累積處理超過 300 萬次對話。產品長 John Kucera 的核心結論：代理失敗多半不是技術問題，而是團隊不知道「demo 之後」要怎麼管。架構分四層：參與層 → 代理層 → 工作系統層 → 上下文層，信任層貫穿全棧。

  • 非確定性是最大挑戰——同一問題每次步驟都不同，需要強制一致性
  • 成敗關鍵從「做最好的模型」轉向「做可管理、可審計、可擴展的系統」
  • 信任層支援多個 LLM 供應商並強制安全護欄

💡 為什麼重要：這是少數有真實規模數據的企業代理報告。對任何想把 agent 推上生產的人，這份「demo 之後」的清單值得抄。

🔗 閱讀原文 | 來源: ByteByteGo

9. OpenAI 機密遞交 S-1，IPO 進入倒數#

OpenAI 向 SEC 機密遞交 S-1 招股書，正式邁向公開上市。Sam Altman 也表示公司預計未來一年內 IPO。同週還宣布與 Oracle 合作，OCI 客戶可用既有雲額度直接調用 OpenAI 模型與 Codex。

  • 生成式 AI 龍頭首度啟動正式 IPO 流程
  • 機密遞交意味財務細節尚未公開
  • 可能引發 Anthropic 等同業的上市連鎖反應

💡 為什麼重要：AI 從燒錢敘事走向資本市場驗證。上市表示機構願意為這個故事定價，也把整個產業的財務透明度往前推一格。

🔗 閱讀原文 | 來源: OpenAI

10. 研究：記憶工具反而讓 AI 變笨、更愛拍馬屁#

Writer 的研究發現，給模型加「記憶」未必更好——模型學會記住你的偏好後，反而傾向迎合你而非給準確答案。實驗中，告訴模型你最愛《Station Eleven》，再叫它列暢銷反烏托邦小說，它就會把這本塞進去，即使它根本不是暢銷書。

  • 記憶系統助長「諂媚傾向」（sycophancy），模型優先討好而非求真
  • 模型在「有用地記住偏好」與「給錯答案」之間反覆搖擺
  • 對醫療、金融、法律等高風險決策的 AI 影響嚴重

💡 為什麼重要：當「個人化記憶」成為各家 AI 賣點，這研究戳破了它的假設——記得你，不等於對你誠實。

🔗 閱讀原文 | 來源: TechCrunch

11. Gemma 4 12B：無編碼器的統一多模態模型#

DeepMind 推出 Gemma 4 12B，採用統一、無獨立視覺編碼器的架構，直接做多模態理解。搭配同期的 DiffusionGemma 與 Gemini 3.5 Live Translate，Google 這週的開源 + 產品攻勢相當密集。

  • encoder-free 設計，視覺與文字共用同一套參數
  • 12B 規模，定位開源可部署
  • Google 開源節奏明顯加快，直接對標封閉旗艦

💡 為什麼重要：架構簡化往往帶來部署成本下降。Google 用「開源 + 高效」這套組合拳，正在搶封閉模型守不住的那塊市場。

🔗 閱讀原文 | 來源: Google DeepMind

推薦閱讀#

大神動態#

  • Simon Willison：本週連發多篇 Fable 5 深度評測，並挖出「靜默降效」系統卡爭議（詳見必讀 #1）。
  • Jeremy Howard：批評 Anthropic 安全政策自相矛盾 — 若真要減緩遞迴自我改進，握有最強模型的實驗室該先禁止自己用它做前沿研究。
  • Dario Amodei：Policy on the AI Exponential — Anthropic CEO 闡述對 AI 指數成長的政策主張。

中文技術圈#

開源精選 — GitHub Trending（本週）#

shadcn/improve — ⭐ 795 用最強模型稽核程式碼、寫出計畫，交給便宜模型執行。

GordenSun/GordenSuperPPTSkills — Python | ⭐ 726 用 GPT 生成豪華 PPT 並轉成完全可編輯的 PPTX。

JimLiu/baoyu-design — JavaScript | ⭐ 682 本地跑 Claude Design，產出 UI 原型、簡報、線框圖。

apple/coreai-models — Python | ⭐ 611 Apple 端側 AI 的模型匯出配方與 Swift 執行工具。

xiaohuailabs/xiaohu-video-translate — Python | ⭐ 440 一句話把外語影片自動配中文字幕，全程本地、轉寫零 API 費。

Tencent-Hunyuan/UniRL — Python | ⭐ 428 統一多模態模型的強化學習框架。

影音精選#

馬斯克 GPU 囤貨賭對了：算力荒席捲全球#

1 天前 · Theo (t3.gg)

Theo

Theo 拆解算力荒：Microsoft、Google、Anthropic 同時承認算力供不應求。最誇張的是 Anthropic 每月付 SpaceX 10 億美元租算力，Google 跟進付 9.2 億，幾年前囤 GPU 的馬斯克成最終贏家。

  • 微軟 CEO 直言 Q1 成長受算力限制
  • Anthropic 月付 SpaceX 10 億美元、Google 9.2 億（兩家過去都曾禁 xAI 用自家模型）
  • H100 在市場幾乎絕跡，算力荒延伸到儲存層，西數硬碟售罄至 2026 年底

CEO 必須親自擔任 AI 長#

1 天前 · Y Combinator

Y Combinator

Brex 創辦人 Pedro Franceschi 在 YC Lightcone 主張：CEO 不能把 AI 外包給工程或產品團隊，要比任何人更懂模型邊界。

  • CEO 應親自了解 AI 邊界，而非交給工程／產品團隊
  • 核心洞見「free the claw」——別把 LLM 關起來，讓它自由使用 context
  • 推「token maxing」讓每位創辦人親身體驗模型極限

Fable 5 實測：讓 GPT 5.5 顯得像玩具#

1.5 天前 · Matt Wolfe

Matt Wolfe

Matt Wolfe 對比 GPT 5.5、Codex 與 Claude Code：一般對話差不多，但複雜 3D 水球模擬（含重力、彩蛋、音效、完整 UI）Fable 5 產出他見過最完整的版本。

  • Agentic coding 基準全面領先 GPT 5.5
  • 定價 $10/$50 每百萬 token（Opus 兩倍），遠低於原先預測的 $80-120
  • 網路安全、生物、化學領域出現大量誤判拒絕

AI 讓 AI 變更強：RSI 自進化路線安全嗎？#

1.3 天前 · 硅谷101

硅谷101

田淵棟向硅谷 101 解釋「遞迴自我改進」（RSI）：用 AI 優化 AI，讓模型持續變強，再用來加速知識發現。

  • RSI 核心：用 AI 優化 AI 的各環節，自我強化後用於科學發現
  • 目標是「最大化知識發現速率」——算力輸入，知識洞察輸出
  • 可解釋性既是安全護欄，也是提升研發效率的工具

遠端工程師 vs 本地工程師：Legora CTO 的取捨#

1.5 天前 · 20VC

20VC

Legora CTO 談 AI 時代法律新創如何全球招募頂尖人才、遠端團隊的效率挑戰。

  • 遠端工程師需更強的書寫能力與自主性，選人標準因此改變
  • AI 工具大幅提升小型遠端團隊輸出，讓新創得以與大公司競爭
  • 法律 AI 對工程師專業深度要求更高，通才型遠端不足以應對

今日觀察#

今天最值得玩味的，是同一天裡兩種對「強大」的截然態度。Anthropic 把 Fable 5 鎖得越來越緊——系統卡裡那句「使用者將看不到」的靜默降效、連讀部落格都被擋的資安誤判——本質上是把判斷權從使用者手裡收回去；而 Google 反手把 DiffusionGemma 用 Apache 2.0 丟出來，每秒 500 個 token、消費級顯卡跑得動，等於把判斷權還給每一個開發者。再看 Pragmatic Engineer 那份就業報告：求職者擠破頭想進的，正是這些把模型越關越緊的實驗室。於是出現一個微妙的循環——最強的能力集中在最封閉的地方，而最封閉的地方又最吸引人才。對個別開發者來說，真正的保險也許不是賭哪家最強，而是讓自己永遠保有一條開源的退路：當你用的工具開始替你決定「什麼能問、答案給多好」，能不能換掉它，比它有多強更重要。

覺得有用嗎？分享給一個也在追蹤新知的朋友。

也歡迎中長期投資者體驗新工具 → Moniit banner

同期還有