yii.
← Digest
EP116 · 2026年6月25日 星期四 · 9 min read

AI 拚的不再是模型,是地基與紀律

模型分數彼此追平後,戰場往下移到晶片與冷卻、往上移到工程紀律

每天花 1% 的時間,掌握科技脈動。

今日金句#

“If your agent is tackling high-variance problems, reasoning usually isn’t the bottleneck. Context supply is.” 「如果你的 agent 在處理高變異的問題,瓶頸通常不是推理能力,而是上下文的供給。」 — PostHog 工程團隊

“They’re suddenly a lot more productive, and there’s endless work for them to do.” 「他們突然變得高效許多,而且有做不完的工作等著他們。」 — Asher Bantock, SignalFire 研究主管

“Thinking matters a lot more than typing.” 「思考遠比打字重要得多。」 — Greptile

今日主軸:模型之下拚地基,模型之上拚紀律#

今天的新聞攤開來看,其實在講同一件事的兩端:當各家模型的分數越來越接近,真正的競爭已經不在「模型本身」,而是往兩個方向延伸。往下,是基礎設施與成本的地基之戰——OpenAI 推出自製推理晶片 Jalapeño,由 Broadcom 代工,要把推理成本與對 Nvidia 的依賴一起壓下來;NVIDIA Rubin 世代做到 100% 液冷,光是 50MW 等級的資料中心一年就省下超過 400 萬美元、耗水幾乎歸零;而 GLM-5.2 這類開源權重模型,已經能在 Claude Code 裡以約五分之一的成本取代 Opus。往上,是工程紀律的反撲——最新數據顯示工程師職位反而最抗 AI(Jevons 悖論:工具越強,工作越多);Meta 卻因為「AI 寫、AI 審、人全裁掉」釀成連歐巴馬帳號都能被改 email 的安全災難;開源世界則被 AI 灌爆 PR,合併率從 48% 崩到 9%。當模型變成商品,護城河正在從「模型」流向它的下方(晶片、冷卻、開源)與上方(上下文、判斷力、信任)。

必讀#

  1. OpenAI 推出首顆自製推理晶片 Jalapeño,由 Broadcom 代工 — TechCrunch AI
  2. GLM-5.2:我在 Claude Code 裡用它取代 Opus — Lenny’s Newsletter AI
  3. AI 本該殺死工程師職位,新數據卻說它們最抗跌 — TechCrunch News
  4. Gemini 3.5 Flash 內建電腦操作能力 — Google AI
  5. PR 垃圾潮:開源的「2000 年代電郵垃圾」時刻 — Greptile Dev
  6. PostHog 用上下文工程把轉換率拉高 5 倍 — PostHog AI
  7. 先慢才能快:Meta 的 AI 安全災難 — Pragmatic Engineer Dev
  8. NVIDIA Rubin 100% 液冷,資料中心耗水歸零 — NVIDIA Dev
  9. Bunny DNS 全面免費 — bunny.net Tools

1. OpenAI 推出首顆自製推理晶片 Jalapeño,由 Broadcom 代工#

OpenAI 發表名為 Jalapeño 的自製推理晶片,由 Broadcom 代工,專為加速 AI 推理並優化低成本運行即時編程模型。合作於 2025 年 10 月宣布,目前仍在測試階段;較密集的任務(如預訓練)仍依賴 Nvidia。OpenAI 自家模型也參與了晶片開發,顯示其對「從晶片到部署」整條堆疊的掌控企圖。

  • 推理專用晶片,主打效能功耗比,瞄準降低即時編碼模型的運行成本
  • 與 Google TPU、Amazon Trainium 自製晶片戰略呼應,意在打破對 Nvidia 的單一依賴
  • 預訓練等重任務仍用 Nvidia,短期非全面取代

💡 為什麼重要:當大廠把手伸到晶片層,AI 競爭從「模型誰聰明」轉成「誰的推理成本更低、供應鏈更穩」——這會直接影響定價與獲利。

“We have a deep understanding of the workload… how can we build something that will accelerate what’s possible?” — Greg Brockman, OpenAI President

🔗 閱讀原文 | 來源: TechCrunch

2. GLM-5.2:我在 Claude Code 裡用它取代 Opus#

Lenny’s Newsletter 的 Claire Vo 實測 Z.AI 的開源權重編程模型 GLM-5.2,以不到 3.4 美元(約 600 萬 tokens)完成程式碼庫審計、UI 重設計、架構文件與 45 分鐘自主除錯共四項真實任務。成本僅為 Claude Opus 的一小部分,且首次嘗試就能匹配既有設計系統,作者已將其納入日常工作流程。

  • 透過 OpenRouter 接入 Cursor 與 Claude Code,四項生產級任務成本約 3.36 美元
  • 在 SWE-Bench Pro 等基準上具競爭力;開源權重消除供應商鎖定風險
  • 編碼任務成為開源模型追平閉源的首個突破口

💡 為什麼重要:開源模型在編碼上追平頂尖閉源模型,等於給開發者「不被單一供應商綁住」的真實選項——對被 token 帳單壓著的個人開發者尤其有感。

“Open-weight models enable vendor independence and significant cost advantages while matching closed-source performance on coding tasks.” — Claire Vo

🔗 閱讀原文 | 來源: Lenny’s Newsletter

3. AI 本該殺死工程師職位,新數據卻說它們最抗跌#

SignalFire 分析逾 8,000 萬家公司的職涯數據發現:科技業整體招聘較 2019 年下降 25%,但工程師職位招聘僅下降 11%。2025 年大型科技公司新聘者中工程師占比升至 55%(2019 年為 46%),早期新創的工程師招聘甚至較 2019 年成長 7%。這是 Jevons 悖論的體現——AI 提升生產力反而擴大工作量。

  • 工程師招聘降幅(11%)遠低於科技業整體(25%)
  • 新創工程師招聘逆勢成長 7%,工程師占大廠新聘比例升至 55%
  • 角色從「低階寫程式」轉向「系統架構、agent 工作流設計、AI 整合」

💡 為什麼重要:這直接打臉「AI 取代工程師」的恐慌敘事——AI 取代的是「只會寫程式」,把價值推向判斷與系統思考。

“They’re suddenly a lot more productive, and there’s endless work for them to do.” — Asher Bantock, SignalFire

🔗 閱讀原文 | 來源: TechCrunch

4. Gemini 3.5 Flash 內建電腦操作能力#

Google 將「電腦操作(computer use)」能力原生內建進 Gemini 3.5 Flash,讓 AI agent 能在瀏覽器、行動與桌面環境中「看、推理、採取行動」。採用對抗性訓練降低提示注入風險,企業版加上使用者確認與間接提示注入偵測。應用場景涵蓋長期行動自動化、連續軟體測試與文件稽核。

  • computer use 原生內建於 Flash,API 與 GitHub 參考實作可用
  • 對抗性訓練 + 企業級確認機制,針對提示注入這個老問題下手
  • 可替代傳統 RPA,重新定義企業流程自動化市場

💡 為什麼重要:電腦操作從概念驗證走向生產就緒,agent 真正開始「動手做事」,RPA 廠商要開始緊張了。

🔗 閱讀原文 | 來源: Google

5. PR 垃圾潮:開源的「2000 年代電郵垃圾」時刻#

Greptile 分析 OpenClaw 專案發現,PR 數量從去年 12 月每週 2 個暴增到 2 月每週 3,400 個,同期合併率從 48% 崩到 9.3%。曾有單一貢獻者一天提交 106 個 PR(中位數間隔 3 秒),多名開發者提交完全相同的 PR。關鍵發現:重構類 PR 合併率 35%、新功能僅 9%,差距 4 倍——深度理解比工作量重要。

  • PR 量爆增 1,700 倍、合併率崩盤,AI 同質化輸出灌爆開源
  • 重構(35%)合併率是新功能(9%)的近 4 倍,理解 > 數量
  • 解方指向貢獻者信譽系統(如 Mitchell Hashimoto 的 Vouch)

💡 為什麼重要:當大家用同樣的 AI、同樣的提示詞,開源最寶貴的「多元觀點」正在被稀釋——這是 agent 時代的治理難題縮影。

“Thinking matters a lot more than typing.” — Greptile

🔗 閱讀原文 | 來源: Greptile

6. PostHog 用上下文工程把轉換率拉高 5 倍#

PostHog 分享用 AI 打造 onboarding wizard 的實戰:付費轉換率提升 5 倍(14.2% vs 2.6%)、啟用速度提升 2 倍(1.9 小時 vs 3.8 小時)。核心洞察是「上下文供給」而非「推理能力」才是高變異 agent 問題的瓶頸。他們甚至建立「上下文工程師」新角色,把分散知識轉成版本化、可移植的技能包(Context Mill)。

  • 轉換率 5 倍、啟用速度 2 倍,靠的是上下文而非更強模型
  • 用 YAML 規格把上下文片段組成可重用技能,首月 MRR 增長 80%
  • 催生「上下文工程師」這個新興基礎設施角色

💡 為什麼重要:agent 系統的競爭優勢正從「模型本身」轉向「知識基礎設施」——該投資的是上下文工廠,不是一味升級 LLM。

“If your agent is tackling high-variance problems, reasoning usually isn’t the bottleneck. Context supply is.” — PostHog

🔗 閱讀原文 | 來源: PostHog

7. 先慢才能快:Meta 的 AI 安全災難#

Pragmatic Engineer 以 Meta 史上最難堪的安全事故為例——AI bot 可被要求修改任何帳號(包括前總統歐巴馬)的 email。根因是「AI 生成程式碼、只由 AI 審查、安全人員大量被裁或轉派 AI 標註工作」。Instagram 信任與安全團隊裁員 50%、設計 44%、文件與支援 95%。問題還是靠新聞報導才被發現,而非內部監控。

  • 「AI 寫、AI 審、零人工」近月成為常態,釀成帳號接管漏洞
  • Instagram 信任安全團隊裁半、文件支援裁 95%,品質防線同時失守
  • 這是治理失敗而非技術故障——速度壓垮了審查

💡 為什麼重要:在安全關鍵系統裡,AI 的生產力增益不該以犧牲人工審查為代價——「先慢才能快」是 agent 時代的必修課。

“AI-generated changes with zero human input, with just an additional AI code review, have been very common in recent months across the codebase.” — Meta 工程師內部留言

🔗 閱讀原文 | 來源: Pragmatic Engineer

8. NVIDIA Rubin 100% 液冷,資料中心耗水歸零#

NVIDIA Rubin 世代達成 100% 液冷,每個晶片與網路元件都在密閉迴路中,冷卻劑為 75% 水 + 25% 丙二醇,運作溫度達 45°C。伺服器尺寸從 6U 縮到 2U、消除 85 分貝以上的風扇噪音、閉合迴路幾乎零耗水。冷卻廠房溫度每升 1°C 可省約 4% 能源;50MW 等級設施一年省下冷卻能耗與水費超過 400 萬美元。

  • 100% 液冷、45°C 運作,水耗從 260 萬加侖/MW/年降至近零
  • 空間效率 3 倍(2U vs 6U)、消除風扇噪音
  • 傳統冷卻占資料中心 40% 電耗,液冷直接改寫 AI 工廠經濟學

💡 為什麼重要:當推理成本與電水帳單成為 AI 規模化的真正瓶頸,冷卻技術的優化就是實打實的獲利——這是「地基之戰」的另一面。

“Raising chiller plant temperatures by just one degree can cut cooling energy costs by about 4%.” — NVIDIA

🔗 閱讀原文 | 來源: NVIDIA

9. Bunny DNS 全面免費#

CDN 業者 Bunny 宣布 DNS 全面免費,單帳戶最多 500 個域名、查詢無上限,取消所有按查詢計費,月最低消費降至 1 美元。Bunny 每月處理近 200 億次查詢、橫跨 30 萬個域名。同時支援 IPv6 雙堆疊、DNSSEC(NSEC Black Lies)、HTTPS/SVCB/TLSA 等新紀錄類型,並有「一鍵加速」「一鍵安全」整合進 CDN 與 Shield。

  • DNS 免費、查詢無上限、最多 500 域名,消除流量尖峰的驚人帳單
  • 免費層含 IPv6、DNSSEC、智能紀錄與健康監控等企業功能
  • DNS 作為流量入口,免費策略意在導流到高利潤的加速與安全服務

💡 為什麼重要:把基礎層做成免費、靠上層生態變現,是 Cloudflare 當年「Workers 免費」的同款打法——可能逼整個 DNS 市場重新定價。

“The fundamental system that sits between your users and your services shouldn’t be a premium add-on.” — Bunny Team

🔗 閱讀原文 | 來源: bunny.net

推薦閱讀#

大神動態#

  • Simon Willison:一日連發三篇——Tom MacWright「LLM 讓求職者變隱形人」、Datasette 1.0a35 UI 建表、OPFS+Pyodide 在瀏覽器持久化 SQLite(詳見推薦閱讀)
  • Claire Vo:實測 GLM-5.2 取代 Claude Opus,4 項任務僅花 3.4 美元(詳見必讀 #2)

中文技術圈#

開源精選#

bozhouDev/codex-orange-book — HTML | ⭐ 1.4K Codex 橙皮書:從安裝到實戰的全鏈路使用指南(含 PDF)

Forsy-AI/agent-apprenticeship — ⭐ 905 讓 AI agent 從真實工作迭代學習的生態系統

aidenybai/cnfast — TypeScript | ⭐ 877 cn 的高速直接替代品

sums001/Windows-Copilot-API — Python | ⭐ 657 把 Windows Copilot 逆向成 OpenAI 相容 API

raiyanyahya/recall — Python | ⭐ 471 給 Claude Code 的離線持久記憶,省 token 不用每次重講專案

overflowy/make-look-scanned — Go | ⭐ 402 把 PDF 變成像掃描過的(CLI 或瀏覽器 WASM)

HKUDS/AgentSpace — TypeScript | ⭐ 350 人類 + Agent 同一團隊、同一工作區

samasante/liquid-glass — TypeScript | ⭐ 287 Apple 風 Liquid Glass for web,零依賴折射 DOM

影音精選#

GLM 5.2 本地模型實戰:Cursor / Codex 整合與 5 倍省錢策略#

Greg Isenberg

Greg Isenberg

Greg Isenberg 邀 Amir 示範在 Cursor / Codex 透過 OpenRouter 接入 ZAI 的 GLM 5.2,搭配 Fusion 鏈策略:以 Opus 規劃、GLM 5.2 執行,同任務成本大幅下降。

  • 100 萬 token 上下文,Terminal Bench 81 分僅落後 Opus 4.8 四分
  • Fusion 策略讓同任務成本從 2.38 美元降到 0.44 美元,約省 5 倍
  • 深入討論 token 成本數學與本地模型的補貼時鐘

OpenClaw 作者新計畫 Crabbox:解決百個平行 Agent 的 PR 審查瓶頸#

AI Jason

AI Jason

OpenClaw 作者 Peter Steinberg 開發新工具 Crabbox,專門解決同時跑數十個平行 agent 時 PR 審查爆量的問題。

  • 真正的瓶頸已從「寫程式」變成「合併程式」
  • 介紹讓 agent 自動跑瀏覽器測試、輸出錄影當 PR 證據的方法
  • 解決多 agent 共用本地資料庫與 port 衝突的隔離問題

Midjourney 推出醫療影像裝置,欲顛覆健康檢查市場#

Fireship

Fireship

Midjourney 成立醫療部門,開發超音波 CT 掃描裝置,使用者站入水池由數十萬微型感測器掃描全身,宣稱比 MRI 快近百倍且無輻射。

  • Midjourney 以自籌資金且獲利的優勢切入昂貴繁瑣的醫療影像市場
  • 號稱掃描速度比 MRI 快近百倍、無輻射
  • Fireship 以幽默筆法解析技術可行性與潛在影響

Palo Alto Networks CEO:企業不該自建 AI 工具,應等專業廠商#

20VC

20VC

Palo Alto Networks CEO 認為企業不該自己打造 AI 行銷/HR/ERP 工具,應等下一代 Salesforce、SAP 提供更高效的通用解法。

  • 只在擁有獨特資料與組織記憶的領域才值得自建
  • 以每週兩次會議推動全公司 AI 問責制
  • 呼應今日主軸:地基層的工具終將由專業廠商提供

今日觀察#

今天最值得玩味的,是兩組「同一週、相反方向」的新聞。一邊,OpenAI 自製晶片、NVIDIA 全面液冷、GLM-5.2 開源逼近 Opus,大家拚命往「地基」鑽——誰能把每一塊推理成本壓到最低;另一邊,PostHog 說瓶頸根本不是模型推理而是上下文、數據說工程師職位最抗 AI、Meta 卻因為砍掉人工審查而出包、開源被 AI 灌爆 PR,提醒你價值正在往「判斷」與「信任」漂。把這兩端放在一起看會發現:當模型本身變成可替換的商品,真正稀缺的東西同時往它的下方(晶片、冷卻、開源權重)和上方(上下文、判斷力、人對品質的把關)逃逸。對個別工作者來說,這其實是個好消息——你能站的位置,正好就在 AI 還站不穩的那兩端。


覺得有用嗎?分享給一個也在追蹤新知的朋友。

也歡迎中長期投資者體驗新工具 → Moniit banner

同期還有