System Design Interview · 第 10 章Triton 覆蓋度:🟢 高Triton 線
Design A Notification System
十萬封一樣的信,要印幾份?
原書設計一個每天送 1,000 萬則推播、100 萬則簡訊、500 萬封 email 的通知系統:notification servers 把每一則通知變成一個 event 丟進 message queue,再由 workers 交給 APNs、FCM、簡訊與 email 服務。Triton 不反對 MQ + worker,他反對的是廣播時一個 device token 一則 message:「這樣子,你的推送內容就會重覆了10萬次」。
給文組
全程只用一個社區管委會發停水通知,一階一階爬 11 個概念。頁首標 延伸基礎 的頁是補基礎,懂的人可以跳過。
給工程師
第 6–28 頁完整講原書(14 張圖全部重繪),後面是 Triton 的批判與補充,最後一頁列出所有出處(materials/core)。
標籤怎麼看
📖 原書 🗣️ Triton 本人說 🔭 依 Triton 原則推論 📅 2026 補充
先用生活理解管委會發停水通知
可以晚一點到、順序亂一點,但不能漏掉任何一戶
總幹事要通知 12 戶明天停水。有人用 App 推播、有人只收簡訊、有人看 email,還有人說「別再通知我了」。通知晚 10 分鐘沒關係,但漏掉一戶,那戶明天就沒水洗澡。
這一章的對照表
| 管委會 | 通知系統 |
|---|---|
| 總幹事 | notification server |
| 每戶留的 LINE / 電話 / email | contact info:device token、電話、email |
| 「別再通知我」 | notification setting 的 opt-out |
| 電信公司、郵局 | 第三方服務:APNs、FCM、SMS、email |
| 待寄籃 + 晚點再寄 | message queue + retry |
學習地圖本章的概念階梯
今天爬 11 階。每一階只用前面講過的東西。
- 1push notification推播、簡訊、email
- 2前幾章的基礎一句話複習
- 3APNs / FCM手機的郵局和門牌
- 4message queue待寄籃和跑腿員
- 5retry晚點再寄一次
- 6at-least-once寧可多寄一次
- 7idempotency已寄清單
- 8persistence寫在紙本登記簿
- 9fan-out一份公告配名單
- 10CDN warm-up先暖好影本架
- 11polling一直打電話問
第 1–3 階 · 一則通知怎麼送到手機
要回答:總幹事要透過誰、用什麼地址送?
第 4–7 階 · 送不到怎麼辦
要回答:怎麼做到「可以晚、不能漏」?為什麼會多收一次?
第 8–9 階 · Triton 的 MQ
要回答:待寄籃要放哪?十萬封一樣的信怎麼裝?
第 10–11 階 · 送出去之後
要回答:千萬人同時點開、郵局不回報,怎麼辦?
全程只用一個社區:幸福社區管委會(虛構)
每爬 3–4 階,有一頁「到這裡你已經會了」。
延伸基礎第 1 階 · push notification懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
停水通知,要用哪一種方式送?
① 先想像
總幹事要通知 12 戶。有人裝了社區 App,有人只留手機號碼,有人只看 email。
你猜猜看:3F-B 沒裝 App、只留了手機號碼。停水通知用哪種方式送得到?
沒裝 App 就收不到 App 通知,沒留 email 也寄不了。手上有哪種地址,才能用哪種方式送。
③ 這叫做 push notification、channel
push notification(推播):App 在手機螢幕上跳出來的通知。channel:送通知的管道,推播、簡訊(SMS)、email 各是一種。
④ 跟這章的關係
原書的系統要同時支援這三種管道:每天 1,000 萬則推播、100 萬則簡訊、500 萬封 email(第 6 頁)。
② 動手玩:選管委會要用哪幾種方式送(可複選)
延伸基礎第 2 階 · 前幾章的基礎懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
前幾份簡報學過的四個詞,一句話複習
① 先想像
總幹事有一本住戶名冊(正本),口袋裡有一張常用電話的小抄。全社區只有他一位總幹事。
你猜猜看:總幹事今天請病假,停水通知會怎樣?
只有一個人、他一倒全部停,這就是 SPOF。原書的初版設計就有這個問題(第 14 頁)。
③ 這叫做 QPS、database、cache、SPOF(複習)
QPS:每秒幾則;看最忙那一秒database:記正本的帳本(名冊)cache:放手邊的小抄,快但不是正本SPOF:只有一個、它一壞全部停
④ 跟這章的關係
原書的需求用「每天幾則」講;聯絡資訊放 database 和 cache;初版只有一台 server,就是 SPOF。
② 動手玩:原書的推播量,換成每秒
原書 Step 1釐清需求
面試一開始:先問清楚要送哪些通知、送多少
這一步要解決的問題要送哪幾種、送多少、多急?題目故意很模糊,先問清楚才知道要設計什麼。
📖 原書 應徵者 × 面試官
| 應徵者問 | 面試官答 |
|---|---|
| 系統支援哪些類型的通知? | Push notification、SMS message、email |
| 是即時系統嗎? | Soft real-time:希望使用者盡快收到;系統高負載時,稍微延遲可以接受 |
| 支援哪些裝置? | iOS、Android、laptop / desktop |
| 什麼會觸發通知? | Client 端的 App 可以觸發,也可以在 server 端排程 |
| 使用者可以 opt-out 嗎? | 可以,opt-out 的使用者不再收到通知 |
| 每天送多少? | 1,000 萬則 mobile push、100 萬則 SMS、500 萬封 email |
📖 原書 每天送出數百萬則通知的可擴展系統「並非易事」,需要深入理解通知的生態系;題目故意開放而模糊,釐清需求是應徵者的責任。
白話:push notification=推播;SMS=手機簡訊;laptop / desktop=筆電、桌機;server 端排程=系統定時自動發;opt-out=說「別再通知我」。
換算成每秒(簡報補充,原書沒算)
每秒幾則就是 QPS(第 5 頁)。
這是平均值。通知的流量不平均:一次行銷廣播可能在同一秒對幾百萬人發送。平均看起來很小,尖峰才是設計重點,見第 34–36 頁。
文組翻譯:soft real-time
「盡量馬上到,但塞車時晚一點也行」。像管委會的公告:停水通知晚 10 分鐘貼沒關係,但一定要貼。這個需求讓「先排隊、再慢慢送」變成合理的設計。
原書 Step 2三種通知格式 · Figure 1
通知不只是手機推播
這一步要解決的問題通知有哪幾種樣子?原書整章分成哪三段講?
📖 原書 通知會用重要資訊提醒使用者:最新消息、產品更新、活動、優惠。三種格式:mobile push notification、SMS message、email。
📖 原書 高階設計分成三段:
1 · 不同類型的通知怎麼運作iOS、Android、SMS、email 各自走哪個第三方服務第 9–10 頁 2 · 聯絡資訊收集流程device token、電話、email 存在哪第 12 頁 3 · 通知發送 / 接收流程初版設計、三個問題、改良版第 13–17 頁延伸基礎第 3 階 · APNs / FCM懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
管委會能直接把通知塞進住戶的 iPhone 嗎?
① 先想像
手機像一棟有門禁的大樓,只有 Apple(iPhone)或 Google(Android)的郵差進得去。信封上要寫這支手機的門牌。
你猜猜看:2F-A 換了一支新手機。總幹事還用舊門牌寄,會怎樣?
門牌是發給「這一支手機上的這個 App」的。換手機、重裝 App 都會拿到新門牌,所以要把門牌存起來,一個人可以有好幾個(第 12 頁)。
③ 這叫做 APNs / FCM、device token
APNs / FCM:Apple 和 Google 開的推播郵局,只有它們能把通知送進 iPhone、Android。device token:這支手機上這個 App 的門牌號碼。
④ 跟這章的關係
原書的 Provider(就是我們的系統)帶著 device token 和通知內容去找 APNs 或 FCM(第 9 頁)。
② 動手玩:2F-A 的手機
原書 Step 2iOS 與 Android 推播 · Figure 2–3
推播要三樣東西:Provider、Apple 或 Google 的服務、手機
這一步要解決的問題我們的系統怎麼把一則推播送進 iPhone、Android?(第 8 頁的郵局和門牌)
- 📖 Provider:建立通知 request 送給 Apple Push Notification Service(APNs)。要提供兩樣東西:device token(發推播用的唯一識別碼)與 payload(一個 JSON dictionary)
- 📖 APNs:Apple 提供的遠端服務,把推播傳到 iOS 裝置;iOS device:終端,收推播
- 📖 Android 流程類似,通常用 Firebase Cloud Messaging(FCM) 取代 APNs
動手改 payload 📖 原書的範例
原書範例的 aps.alert 還有 "action-loc-key": "PLAY"。改左邊欄位,JSON 和鎖定畫面一起變。
白話:JSON=用 { } 包起來、「欄位名:值」一行一行的資料格式;dictionary=這種「欄位名:值」的清單;badge=App 圖示右上角的紅色數字。
原書 Step 2SMS 與 Email · Figure 4–6
簡訊和 email 也交給第三方
這一步要解決的問題簡訊和 email 也要自己送嗎?Figure 6 把所有第三方排在一起。
📖 原書 SMS message
常用第三方簡訊服務,例如 Twilio [1]、Nexmo [2],大多是商業服務。
📖 原書 Email
公司可以自己架 email server,但很多公司選商業服務。Sendgrid [3] 和 Mailchimp [4] 最受歡迎,提供更好的送達率和數據分析。
文組翻譯
寄掛號信不用自己開郵局。簡訊找電信商、email 找專門寄信的公司:他們跟各家信箱的關係好,信比較不會被當成垃圾信。Figure 6 就是把四家「郵局」排在一起。
到這裡你已經會了小結 1 / 4
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
到這裡你已經會了:一則通知怎麼送到手機
- 通知有三種管道(channel):推播、簡訊、email。手上有哪種地址,才能用哪種送。
- 推播要交給 Apple 的 APNs 或 Google 的 FCM,信封上寫手機的門牌 device token。
- 簡訊、email 也交給第三方郵局(Twilio、Sendgrid…)。名冊是 database,常用的放 cache。
下一階要解決的問題
門牌從哪裡來?一位總幹事包辦所有事,請假那天怎麼辦?先看原書的初版設計。
原書 Step 2Contact info gathering flow · Figure 7–8
先要有門牌:裝 App 或註冊時收集聯絡資訊
這一步要解決的問題門牌(device token)、電話、email 從哪裡來、存在哪?
📖 原書 要發通知,就要先收集 mobile device token、電話號碼或 email。使用者第一次安裝 App 或註冊時,API servers 收集聯絡資訊存進資料庫。
白話:load balancer=帶位員,把 request 分給好幾台 API server(01 章);API server=接 request 的櫃台電腦;1 對多=一個人可以有好幾支手機。
原書 Step 2High-level design(初版)· Figure 9
初版:所有服務都把通知丟給一台 notification system
這一步要解決的問題最簡單、能動的版本長什麼樣?誰會叫我們發通知?
- 📖 Service 1 到 N:可以是 micro-service、cron job 或分散式系統,觸發「送通知」的事件。例:帳單服務寄 email 提醒繳款,購物網站用簡訊說包裹明天到
- 📖 Notification system:收發通知的核心。先從簡單的開始:只用一台 notification server。它提供 API 給 service 1 到 N,並替第三方服務組好 notification payload
- 📖 Third-party services:負責把通知送到使用者手上。要特別注意擴充性:能輕鬆插拔第三方服務。第三方可能在新市場或未來不能用,例如 FCM 在中國不能用,當地改用 Jpush、PushY 等
- 📖 iOS、Android、SMS、Email:使用者在自己的裝置上收到通知
白話:micro-service=把大系統拆成很多小服務,各管一件事;cron job=定時自動跑的工作(例如每月 1 號寄帳單);擴充性=以後要換、要加都容易。
原書 Step 2初版的三個問題
一個總幹事包辦所有事,會出什麼事?
這一步要解決的問題只有一台 notification server,哪裡會出事?(SPOF 見第 5 頁)
📖 原書 1 · Single point of failure
只有一台 notification server,就是 SPOF。
📖 原書 2 · Hard to scale
所有跟推播有關的事都在一台 server 上處理,很難各自獨立擴充資料庫、cache 和不同的通知處理元件。
📖 原書 3 · Performance bottleneck
處理和送出通知可能很吃資源,例如組 HTML 頁面、等第三方服務回應都要時間。全部在同一個系統處理,尖峰時段容易過載。
白話:scale=加機器擴充;bottleneck=瓶頸,最慢、最先塞住的那一段;HTML 頁面=email 裡排好版的內容。
延伸基礎第 4 階 · message queue懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
總幹事要站在郵局門口,等每一封寄出嗎?
① 先想像
總幹事寫好通知就丟進「待寄籃」,馬上回去做別的。幾位跑腿員從籃子拿信,一封一封送去郵局。
你猜猜看:籃子裡有 60 封信,3 位跑腿員每人每秒送 1 封。幾秒送完?
3 人合起來每秒送 3 封,60 ÷ 3 = 20。籃子越堆越高,就多請幾位跑腿員。
③ 這叫做 message queue、worker
message queue(MQ):待寄籃,工作先放進去排隊,之後再慢慢處理。worker:從籃子拿工作出來做的跑腿員。
④ 跟這章的關係
原書的改良版就是「每種通知一個籃子+一群 worker」(下兩頁)。另見 01 章的外帶看板。
② 動手玩:一次來 60 封停水通知
原書 Step 2High-level design(改良版)· Figure 10
改良版:拆開、加機器、每種通知一條 queue
這一步要解決的問題怎麼把初版的三個問題拆掉?答案是第 15 頁的待寄籃和跑腿員。
📖 原書 三個改法:① 把資料庫和 cache 移出 notification server;② 加更多 notification servers,設定自動水平擴充;③ 引入 message queues 解耦系統元件。白話:水平擴充=多開幾台一樣的機器;解耦=元件之間不必互相等,一個掛了不拖累別人。
📖 原書 讀這張圖最好的方式是從左到右。按「下一步」照原書的 1–6 步走一次,第 4 步之後 worker 送失敗會沿虛線回到 queue 重試。
原書 Step 2改良版的每個元件
Notification servers 做四件事,queue 一種通知一條
這一步要解決的問題改良版的每個元件各做什麼?一家第三方掛掉,為什麼不會拖累其他通知?
📖 原書 Notification servers
- 提供 API 讓 service 送通知;API 只開放給內部或驗證過的 client,防止垃圾訊息
- 做基本驗證:email、電話號碼格式等
- 查資料庫或 cache,拿組通知需要的資料
- 把通知資料放進 message queue 平行處理
📖 原書 寄 email 的 API 範例
POST https://api.example.com/v/sms/send
{ "to": [ { "user_id": 123456 } ],
"from": { "email": "from_address@example.com" },
"subject": "Hello World!",
"content": [ { "type": "text/plain",
"value": "Hello, World!" } ] }
原書文字說這是「寄 email 的 API」,路徑卻寫 /v/sms/send,照原書保留。
- 📖 Cache:快取 user info、device info、notification templates
- 📖 DB:存 user、notification、settings 等資料
- 📖 Message queues:消除元件之間的依賴;大量發送時當緩衝。每種通知類型各自一條 queue,一個第三方服務掛掉不會影響其他類型
- 📖 Workers:一群 server,從 queue 拉通知事件,送給對應的第三方服務
動手玩:SMS 服務掛了
延伸基礎第 5 階 · retry懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
郵局今天故障不收件,信要丟掉嗎?
① 先想像
跑腿員到郵局,發現今天故障不收件。他不丟信,把信放回待寄籃,晚點再跑一趟。
你猜猜看:1 萬封信被退回,每一封都在 1 秒後一起重寄。郵局每秒只收 2,000 封,那一秒會怎樣?
大家約好同一秒回來,郵局又被擠爆。所以每次等久一點(1、2、4、8 秒),再加一點隨機,把回來的時間錯開。
③ 這叫做 retry、exponential backoff
retry:失敗了,晚點再試一次。exponential backoff:每失敗一次,等的時間加倍(1、2、4、8 秒),再隨機錯開一點。
④ 跟這章的關係
原書:送失敗就放回 queue 重試(第 25 頁)。「越等越久、隨機錯開」是 Triton 補的(第 41 頁)。
② 動手玩:郵局故障 5 秒,1 萬封要重寄
延伸基礎第 6 階 · at-least-once懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
回執沒回來,信到底送到沒?
① 先想像
掛號信送到,住戶要簽一張回執,讓跑腿員帶回來。今天跑腿員回來了,回執卻弄丟了。
你猜猜看:沒拿到回執。總幹事知道信送到了嗎?
從總幹事這邊看,兩種情況一模一樣。他只能選:不重寄(可能漏掉一戶),或重寄(可能多收一張)。
③ 這叫做 ack、at-least-once
ack:收件那邊回一句「收到了」,就是回執。at-least-once:沒收到 ack 就重送,保證至少到一次,代價是偶爾重複。
④ 跟這章的關係
原書要「絕不能遺失」,所以只能選 at-least-once;剛好一次(exactly once)做不到,第 21 頁。
② 動手玩:兩種意外 × 兩種規則
延伸基礎第 7 階 · idempotency懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
同一張通知重寄了兩次,怎麼讓住戶只收到一張?
① 先想像
每張通知蓋一個編號。跑腿員出發前先翻「已寄清單」:這個編號寄過就不寄,沒寄過才寄,並且記下來。
你猜猜看:通知 #42 因為重試,被放進待寄籃 3 次。有已寄清單時,住戶收到幾張?
第一次寄出並記下 #42;後兩次一查清單,寄過了就丟掉。同一件事做幾次,結果都跟做一次一樣。
③ 這叫做 idempotency、dedupe
idempotency(冪等):同一件事做一次和做好幾次,結果一樣。dedupe(去重):用編號(event ID)認出重複的,丟掉。
④ 跟這章的關係
at-least-once 會重複,原書用 event ID dedupe 把重複降到很少(第 21–22 頁)。
② 動手玩:通知進待寄籃
已寄清單
2F-A 的信箱
原書 Step 3Reliability · Figure 11
通知可以晚、可以亂序,但絕對不能掉
這一步要解決的問題怎麼做到「可以晚、不能漏」?會不會有人收到兩次?(第 18–20 頁的三階)
📖 原書 怎麼防止資料遺失?
通知系統最重要的需求之一是不能掉資料。通知通常可以延遲或重新排序,但絕不能遺失。做法:把通知資料持久化到資料庫,並實作重試機制。Figure 11 加了 notification log 資料庫做持久化。
📖 原書 收件者會剛好收到一次嗎?
簡短回答:不會。大部分時候剛好一次,但分散式的特性可能造成重複。為了減少重複,原書加了 dedupe,並仔細處理每種失敗情況:
通知事件第一次到達時,用 event ID 檢查是否看過。看過就丟掉,沒看過就送出。為什麼做不到 exactly once,原書請讀者看參考資料 [5]〈You Cannot Have Exactly-Once Delivery〉。
白話:持久化=寫進資料庫存起來;dedupe=去掉重複;event ID=每則通知的編號;exactly once=剛好一次。
原書 Step 3 · 動手玩Retry + dedupe 跟著 event ID 走一次
evt-42 會被收到幾次?
這一步要解決的問題重試和去重放在一起,event ID 什麼時候記下來才對?
六種組合,走過的會填進來
結論:「一到就記」擋得住重複,但真的失敗時,重試的那一次會被當成重複丟掉,通知掉了。「送成功才記」不會掉,但 timeout 時會重複。
原書為什麼說「做不到 exactly once」
worker 呼叫 APNs 之後如果沒收到回應,它無法分辨「沒送到」和「送到了只是回應丟了」。要嘛冒著掉的風險不重試,要嘛冒著重複的風險重試。原書的需求是「絕不能遺失」,所以只能選後者,用 dedupe 把重複降到很少,而不是零。這是對原書參考資料 [5] 論點的說明。
到這裡你已經會了小結 2 / 4
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
到這裡你已經會了:原書怎麼做到「可以晚、不能漏」
- 總幹事把通知丟進待寄籃(MQ),跑腿員(worker)慢慢送;每種管道一個籃子,一家郵局故障不拖累別家。
- 送失敗就放回籃子重試(retry),每次等久一點、隨機錯開。
- 沒拿到回執就重寄:至少一次(at-least-once),偶爾重複;用已寄清單(dedupe)把重複擋掉。
下一階要解決的問題
原書還有範本、退訂、監控這些零件。講完原書,換 Triton 問:待寄籃要放在哪?十萬封一樣的信怎麼裝?
原書 Step 3Notification template · Notification setting · Rate limiting
範本、退訂、頻率上限:尊重使用者的三個零件
這一步要解決的問題怎麼讓通知格式一致、尊重使用者的選擇、又不吵人?
📖 原書 Notification template
大系統每天送數百萬則通知,很多格式相似。範本是預先排好格式的通知,自訂參數、樣式、追蹤連結就變成你的通知。好處:格式一致、減少錯誤、省時間。
原書範本:BODY: You dreamed of it. We dared it. [ITEM NAME] is back — only until [DATE]. CTA: Order Now. Or, Save My [ITEM NAME]
📖 原書 Notification setting
使用者每天收太多通知會覺得煩,所以很多網站與 App 讓使用者細部控制。存在 notification setting 表:
user_id bigInt channel varchar # push notification, email or SMS opt_in boolean # opt-in to receive notification
送任何通知之前,先檢查這位使用者有沒有 opt-in 這一類通知。點下面切換 opt_in,再送一則:
📖 原書 Rate limiting
為了不讓使用者被通知淹沒,可以限制一個人能收到的通知數。很重要:送太頻繁,使用者可能直接把通知全部關掉。
原書 Step 3Retry · Security · Monitor queued notifications · Figure 12
重試、驗證身分、盯著 queue 的長度
這一步要解決的問題送失敗、被冒用、跑太慢,各要怎麼處理和發現?
📖 原書 Retry mechanism
第三方服務送失敗時,通知加回 message queue 重試。問題持續的話,發警報給開發人員。
📖 原書 Security in push notifications
iOS 或 Android App 用 appKey 和 appSecret 保護推播 API [6]。只有通過驗證的 client 才能用我們的 API 送推播。
白話:appKey / appSecret=App 的帳號和密碼。
📖 原書 Monitor queued notifications
關鍵指標是 queue 裡的通知總數。數字很大,代表 workers 處理不夠快;為了不延誤送達,需要加更多 workers。Figure 12 是一個 queue 訊息數的例子。
原書 Step 3Events tracking · Figure 13
一則通知的一生:pending、sent、deliver、click
這一步要解決的問題送出去之後,怎麼知道有沒有送到、有沒有人點開?
📖 原書 Events tracking
Open rate、click rate、engagement 這些通知指標,對理解客戶行為很重要(open rate=打開的比例;engagement=互動程度)。事件追蹤由 analytics service 實作,通常需要整合通知系統和 analytics service。Figure 13 是可能被追蹤的事件。
文組翻譯
掛號信的追蹤碼:交寄(pending)、已寄出(sent)、已投遞(deliver)、收件人拆開(click)或退回「以後別寄了」(unsubscribe)。中間任何一站都可能出錯(error)。
原書 Step 3Updated design · Figure 14
全部組起來:驗證、限流、範本、log、重試、分析
這一步要解決的問題前面所有零件放在一起,一則推播會走哪條路?失敗時又走哪條?
📖 原書 新增:① notification servers 多了兩個關鍵功能 authentication 與 rate-limiting;② retry:送失敗就放回 queue,workers 重試預先設定的次數;③ notification template 讓建立通知一致又有效率;④ monitoring 與 tracking,做健康檢查與未來改進。
原書 Step 4Wrap up
原書的收尾:五個重點
這一步要解決的問題設計完之後,原書要你記得哪些重點?
📖 原書 這章做了什麼
通知讓我們隨時知道重要資訊:Netflix 推你最愛的電影、新產品折扣的 email、網購付款確認的訊息。本章設計了支援 push、SMS、email 的可擴充通知系統,用 message queue 解耦元件。
📖 原書 深入探討的五點
- Reliability:強健的重試機制,降低失敗率
- Security:appKey / appSecret,只有驗證過的 client 能送通知
- Tracking and monitoring:通知流程的任何階段都能收集重要數據
- Respect user settings:使用者可以 opt-out,送之前先查設定
- Rate limiting:使用者會感謝通知數量的頻率上限
讀原書時順手注意的兩件事
- 需求裡有 laptop / desktop,但設計只畫了 iOS、Android、SMS、email,桌機只靠 email
- 寄 email 的 API 範例,路徑寫成
/v/sms/send(第 17 頁) - 整章沒有討論「同一則內容發給很多人」的廣播情境,每則通知都是一個 event
Triton 觀點先看全貌
Triton 同意 MQ + worker,不同意的是「怎麼放進 MQ」
你猜猜看:Triton 會反對原書用 MQ + worker 嗎?
通知可以晚點送、等第三方又很久,正是 Triton 認可的 MQ 用途。他開砲的是一戶一則 message。
✅ 同意 原書做對的地方
- 推播走 APNs / GCM,不要自己架:「如果你是要把 Message 推送到手機上,請使用 GCM / APNS,別自行來架 Server」073
- 用 worker 隔離第三方(第 38 頁)071 · 012 · 073
- 看 queue 剩多少決定 worker 數:「你可以視 Queue中的剩餘 Message 量,動態決定增減Worker Server」073
- 通知是可以晚點做、會跑很久的工作,符合 MQ 的使用理由(第 40 頁)185
❌ 不同意 / 原書沒講
- 廣播時一個 token 一則 message:「智障架構」(第 33–34 頁)078
- 推播之後的流量:千萬人同時點開,CDN 還沒暖(第 36 頁)137
- MQ 要是真的 MQ,Redis 不是 queue(第 31、39 頁)078 · 030 · 138
- dedupe 的資料放哪、能不能掉(第 41 頁);第三方沒 callback 時怎麼追狀態(第 43 頁)071 · 073 · 020
文組版:原書教總幹事「把信交給郵局,別自己騎車送」,Triton 完全同意。Triton 罵的是:要寄 10 萬封一模一樣的停水通知,總幹事把公告全文影印 10 萬份,每份釘上一個地址,再全部塞進郵局的收件櫃。
延伸基礎第 8 階 · persistence懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
待寄清單記在電子白板上,停電會怎樣?
① 先想像
待寄的信,一份記在插電的電子白板,一份寫在紙本登記簿。晚上大樓停電又復電。
你猜猜看:電子白板上記著 5 封待寄的停水通知。停電再復電,還剩幾封?
電子白板的字存在電裡,斷電就沒了;那 5 戶沒人記得要寄。寫在紙本登記簿上的才留得下來。
③ 這叫做 memory、persistence
memory(記憶體):電子白板,讀寫很快,斷電就清空。persistence(持久化):先寫進磁碟(紙本登記簿),斷電也不會消失。
④ 跟這章的關係
04 章的 Redis 就是放在記憶體裡的共用白板(04 章)。Triton 說真的 MQ 要先寫磁碟才回「收到」(下一頁)。
② 動手玩:待寄清單記在哪?
電子白板
Triton 補充078 MQ 淺談 · 什麼才叫 MQ
MQ 的 M 是 Message:一定要跑完一次
你猜猜看:通知放在 Redis Pub/Sub 裡傳,收的程式做到一半當掉。這則通知會?
Pub/Sub 只是喊一聲給正在聽的人,沒有寫進登記簿(第 30 頁)。Triton 怎麼定義真的 MQ,按 → 看右邊。
「MQ的M是Message(廢話)所謂的Message – 就是帶著工作內容的的訊息 – 相對上能等一下才完成的工作 – 一定要跑完一次 所以正常的MQ Server – 會把收到的Message先存到HDD,然後才回應成功 – 會等待收件者回傳「工作完成」,才真的把訊息刪掉 – 如果收件者趴掉,則把訊息丟給其他的 channel listener」🗣️ Triton 本人說 078-mq-intro.pdf.md · 第 7 頁「溫習一下」
「Signal – 要高度即時性 – 丟失沒太大差 Message – 可以排隊一個一個工作慢慢來~ – 絕對不能丟失」「Redis的 PubSub 簡單而言:把 persistence刪掉的 MQ … 可以用在 Signal的傳遞」🗣️ Triton 本人說 078 · 第 8、10 頁
🔭 推論 原書的需求「可以延遲、可以亂序、絕不能遺失」,正是 Triton 定義的 Message。所以這裡的 queue 必須是會先寫磁碟、等 ack 才刪的真 MQ。
延伸基礎第 9 階 · fan-out懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
10 萬戶要收同一張公告,要影印幾份?
① 先想像
社區擴大成 10 萬戶(示意)。停水公告內容一模一樣,只有地址不同。
你猜猜看:每個信封裝 1 份公告+5,000 個地址的名單。10 萬戶要幾個信封?
100,000 ÷ 5,000 = 20。公告只要印 20 份,不是 10 萬份。
③ 這叫做 fan-out、batch
fan-out:一則內容,展開送給很多人。batch(批次):把很多件小事裝成一包,一起送。
④ 跟這章的關係
原書一戶一個 event,等於公告影印 10 萬份。Triton 罵的就是這個(下一頁)。
② 動手玩:一袋裝幾個地址?
Triton 不同意直球 · 078「我要發 10萬個相同內容的 Notification」
❌ 智障架構 一個 token 一則 message,內容重複十萬次
你猜猜看:照原書一則通知一個 event,對 10 萬人發同一則促銷,MQ 裡會有什麼?
原書第 3 步是一則通知一個 event,內容跟著複製 10 萬次。Triton 怎麼說,按 → 看下面。
🔭 推論 跟原書的關係
原書 Figure 10 第 3 步是「一則通知一個 event 送進對應的 queue」,event 裡帶著組好的 payload 和 device token。要對 10 萬人廣播同一則促銷,照原書的流程就是 10 萬個 event、每個都帶一份完整 payload,等同 Triton 的智障架構 2。原書整章沒有討論廣播,這是把 Triton 的案例套到原書流程上的推論。
文組翻譯
智障 1:總幹事一個人拿著名冊,一戶一戶親自送,最後一戶下個月才收到。智障 2:公告影印 10 萬份,每份寫一個地址塞進郵局,郵局的倉庫爆掉。正確:公告一份,附上 5000 個地址的名單裝一個信封,壓縮打包,20 個信封就搞定。
Triton 的解法 · 動手算廣播計算機
10 萬人 × 一則推播,MQ 要吞多少?
看什麼
- token 本身省不掉:10 萬個 token 不管怎麼打包都要送
- 省掉的是重複的 payload,和 message 的數量:078 說真的 MQ 每則 message 都要先寫磁碟、再等 ack,10 萬則和 20 則的成本差很多
- 智障 1 的 message 最小,但「Worker工作所需時間跟用戶數量正比」,你沒辦法替它設 ACK timeout
延伸基礎第 10 階 · CDN warm-up懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
大廳的影本架是空的,住戶去哪裡拿?
① 先想像
停水通知寫「詳情請看說明」。住戶先到樓下大廳的影本架拿;架上沒有,才跑上樓去管委會辦公室要。
你猜猜看:架上是空的,同一秒 1,000 人都來拿同一份說明。辦公室會被跑幾趟?
第一個人把影本帶下來之前,架上一直是空的,後面的人全都跑上樓。先讓一小群人來過、架上補好影本,大批人來時就不用上樓。
③ 這叫做 cache miss、warm-up
cache miss:小抄上找不到,只好回正本去拿。warm-up(暖機):先讓少量的人把小抄填好,再放大批人進來。
④ 跟這章的關係
大廳影本架就是 CDN(01 章)。推播送出後千萬人同時點開,Triton 提醒 CDN 還冷(第 36 頁)。
② 動手玩:辦公室每秒最多應付 500 趟(示意)
Triton 補充137 喵談 push notification · 推播之後的流量
一千萬人同一秒點開,CDN 還沒暖
「如果你有10M active user 你想過發promotional notification給這10M user,讓用戶同秒收到 就只1% 點開來也好,流量足夠穿過CDN讓你的backend支持不了給blank page了」🗣️ Triton 本人說 137-喵談 push notification.md · 主文
「CDN也要時間warm-up的 你同秒太多相同的request,就是cache-miss讓你server 來面對 所以智障手段:那10M user,先random抽一小部份人來push notification 讓CDN和你的server收到這一小波流量後,warm-up後再push剩下的」💬 討論串回覆,作者未標示 137 · 原檔沒有標發言者;「智障手段」是 Triton 慣用語,但不能確定是他本人
原書只管「通知送到手機」為止。Triton 提醒的是下一秒:使用者點開通知,流量打到你的 CDN 和 backend。
你猜猜看:對 1,000 萬人同一秒推播,只有 1% 點開。backend 會怎樣?
1% 的 1,000 萬就是 10 萬人,而且擠在同一秒。影本架還是空的,全部跑上樓(第 35 頁)。Triton 怎麼說,按 → 看左邊。
到這裡你已經會了小結 3 / 4
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
到這裡你已經會了:Triton 的 MQ 與大廣播
- 不能掉的待寄籃要寫在紙本(persistence):真的 MQ 先寫磁碟才回「收到」;Redis Pub/Sub 只適合掉了也沒差的 Signal。
- 同一則內容發給 10 萬人:一份公告配 5,000 個地址一袋(batch),不是影印 10 萬份。
- 推播之後大家同時點開:CDN 還冷,全部 cache miss 打回 backend。
下一階要解決的問題
第三方郵局當掉,會不會把我們拖下水?郵局不回報「送到了」,要怎麼追?
Triton 補充GCM 該不該放到獨立 worker
原書直接給答案,Triton 把它當成取捨
你猜猜看:App server 直接呼叫 GCM、沒設 timeout。GCM 開始不回應,會怎樣?
每個卡住的呼叫都佔著一個工人(thread),工人用完,整台都不能接客。上面按「GCM 開始不回應」驗證。Triton 怎麼說,按 → 看右邊。
「安全 vs 快速開發? 例子:應該把呼叫 GCM 放到獨立 worker 嗎 – 多了一個 worker,便多了一個 worker 要管 – 如果使用 worker,便需要建立 MQ server – 可是有了 worker,GCM service 發生什麼事也影響不了我的主系統耶」🗣️ Triton 本人說 073-lesson3.pdf.md · 第 10 頁(同一章前一頁是「越少模組越好」)
「我們沒有跟第三方系統結拜 別讓他們系統死掉時,我們系統也一起當掉 例子:你使用GCM服務時,你的HTTP POST沒有設定 timeout … 如果你使用Worker來發GCM,會當掉的也只有你的GCM Worker,而不是整個系統 即使GCM 當掉了也好,這段時間的Message 停留在MQ中,等待 GCM 恢復了便能重新傳送,不會有訊息丟失」🗣️ Triton 本人說 071-lesson2.pdf.md · 第 54 頁「Worker 與第三方系統」;012 也寫「Google GCM也試過當掉」「請不要「有難同當」」
Triton 補充原書沒說用哪一種 MQ
「不能掉」的 queue,不要放在 Redis
🗣️ Triton 本人說 Redis 不能當 queue 的原因
- 「sidekiq是基建於redis的,然後redis本身沒法做到high persistence(斷電後redis會有data loss的)(Kafka / rabbitmq都有mirroring / quorum機制保護)」
- 「一個data structure只會存放於單台的redie上,那很容易造成cluster的local hotspot。」
- 「如果你的consumer消化速度追不上producer生產速度 你的redis很容易就會爆炸掉。rabbitmq / Kafka是使用HDD來存放buffer的。」
- 「你的application有bug的風險遠比kafka / rabbitmq有bug大~~~」
030-Redis 不能當 queue 原因.md
套到通知系統
你猜猜看:大廣播一口氣塞進幾百萬則,worker 追不上。queue 放在 Redis 會怎樣?
Redis 放在記憶體裡(第 30 頁)。Triton 的四個原因在左邊。
🔭 推論 第 3 點正好是原書的場景:大廣播時 producer 一口氣塞進幾百萬則,worker 追不上,queue 會暴漲。放在 RAM 裡的 queue 先爆,放在 HDD 的 MQ 只是變長。
🗣️ 073 的課程投影片曾寫「如果你的應用比較簡單,Redis 某程度上也能當作MQ 使用」,同一頁也提醒「有些MQ 不保證絕對性的 FIFO 和 no-duplicate,使用上請注意(例子:Amazon SQS)」。兩者不矛盾:簡單應用可以,「絕不能遺失」的通知不行。073 · 第 31 頁
🗣️ Triton 本人說 也不用一開始就 Kafka
「Kafka不是rabbitMQ的evolution結果」「如果系統還沒到每秒1K Message的,kafka對你會是overkill。」138-喵談 rabbitMQ 和 kafka.md
🔭 推論 原書平均每秒約 116 則推播;照 078 每 5000 個 token 一則 message,一千萬人的廣播也只有 2,000 則 message。這個量級用 RabbitMQ 或 SQS 就夠了。
🗣️ 另一個基本功:「你知道如何善用MessageQueue的blocking機制,寫出一個background worker,在沒有工作時那個worker接近不使用CPU嗎?」113 · 第 11 題
Triton 同意185 · 什麼時候才該用 MQ
✅ 通知是 MQ 的正當用途,購物不是
「把工作先丟MQ再慢慢處理,一般而且有3個原因:1 這Request需要拿大量資源,而且很可能跑很久,不適合在App. Server上直接來跑。(例子:報表類的工作)2 這工作是慢慢做也死不了人的,我想把MQ當成一個buffer,讓peak hours的工作可以在non-peak hours時來做。(例子:user profiling的分析)3 你家主管不知從那邊聽到MQ好棒棒高大上,強迫你來用MQ。」🗣️ Triton 本人說 185-電商用 queue-.md
🔭 推論 原書的通知同時符合理由 1(「等第三方服務回應可能耗時」)和理由 2(soft real-time,高負載時稍微延遲可以接受)。所以 Triton 對這章用 MQ 沒有意見;他在 185 反對的是電商購物:「一個「購物」的Request才只改動數筆資料,不是長時間也不太吃資源啊。」
動手分類:點卡片看答案
Triton 補充原書的 dedupe 和 notification log,資料放哪
能掉的放 Redis,不能掉的放 RDBMS 和真 MQ
你猜猜看:「看過的 event ID」清單弄丟了,最壞會怎樣?
清單只是用來擋重複。丟了就少擋幾次重複,通知本身還在 MQ 裡。所以它和「待送的通知」可以放不同地方。
🗣️ Triton 本人說 dedupe 要成本
「Deduplication需要 locking和 response 暫存,需要一個高效能的 Redis – 要看閣下的需求,才能決定是否值得」071 · 第 37 頁 Idempotent API
「Hot Data DB 跟 cache 是不同的 暫時性的,丟失了也死不了的數據 – 像 LOL 的對戰狀態 – Deduplication 用數據 … 建議作Replication去保護資料」073 · 第 27 頁
🔭 推論 「看過的 event ID」丟了,最壞是某人多收一次通知,屬於 hot data,可以放 Redis 並設 TTL。檢查和記錄要是同一個原子動作(例如 Triton 在 087 用來做 lock 的 SET … NX EX),否則兩個 worker 同時「沒看過」會一起送。
分層:這份資料丟了會怎樣
| 資料 | 丟了會怎樣 | 放哪 |
|---|---|---|
| 待送的通知(queue) | 通知掉了 | 真 MQ(030、078) |
| notification log、等第三方回報的工作 | 工作變孤兒 | RDBMS(020:「不使用redis的原因是怕redis當掉後data loss有工作變成孤兒」) |
| 看過的 event ID | 偶爾多收一次 | Redis / hot data DB(071、073) |
| CDN 上的推播落地頁 | 回源,可能打爆 backend | CDN,先暖(137 討論串回覆,作者未標示) |
🔭 表格是把四份檔案的原則排在一起,分層方式是推論。
重試要有節制
🗣️ 「用戶 retry十次,便有 11台 AS 當掉。你猜用戶 retry比較快,還是你加開 AS 的速度比較快」073 · 第 13 頁「軟體災難」
🗣️ Redis lock 搶不到時:「如果不成功,則用 for-loop 重試 – 關鍵字: exponential backoff, jitter」087 · 第 19 頁
🔭 推論 原書的「重試預先設定的次數」再加上兩件事:每次間隔變長、加隨機抖動,不要讓幾萬則失敗的通知在同一秒一起重打第三方。
延伸基礎第 11 階 · polling懂的人可以跳過
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
郵局不會說「送到了」,要一直打電話問嗎?
① 先想像
寄了 100 封掛號信,想知道哪幾封已投遞。有的郵局會傳簡訊告訴你;有的不會,只能自己打電話問。
你猜猜看:100 封信,每分鐘打電話問一次每一封,10 分鐘後全部送到。總共打了幾通?
100 封 × 10 分鐘 = 1,000 通,大部分都問到「還沒」。郵局主動通知的話,只要 100 則。
③ 這叫做 polling、callback
polling(輪詢):每隔一段時間主動去問一次。callback(回呼,也叫 webhook):事情好了,對方主動來通知你。
④ 跟這章的關係
原書要追蹤 sent → deliver,但只有第三方知道送到沒。第三方不給 callback 時怎麼辦,是下一頁 Triton 的 020。
② 動手玩:每封信都要 10 分鐘才送到(示意)
Triton 補充020 MQ解法 · 第三方不給 callback 怎麼辦
sent 之後有沒有 deliver?要問第三方
這一步要解決的問題第三方不給 callback,只能 polling(第 42 頁)。待確認的工作要記在哪、怎麼問才不會越問越慢?
🔭 推論 原書 Figure 13 要追蹤 sent → deliver,但送達與否只有簡訊、email 供應商知道。供應商有 callback(webhook)就簡單;沒有的話,就是 Triton 020 這封信的情境:「只能不停地發HTTP GET去看看工作做完了沒有」。
- 路邊小酸酸的最佳解:「換一家有支持Callback的服務供應商便好。」
- 邪惡暴力解:「建立一個outstanding_tasks的table(不使用redis的原因是怕redis當掉後data loss有工作變成孤兒)」,一個
while(1)每秒把全部 records 拿出來一個一個問。「唯一優點是五分鐘便寫完其架構,缺點是流量大一點便會出現問題」 - 不太優雅的無奈哭哭解 ①②:outstanding_tasks 加
create_time和 index;建立 async task 時同時寫 record,「並且把create_time作為message丟進message queue server中」 - 哭哭解 ③④:worker 收到 message 就
select * from outstanding_tasks where create_time >=…,存在 local memory;另一個 thread 每秒一筆一筆去問第三方(「請以mutex去保護」) - 哭哭解 ⑤:「第三方服務上做完的工作,便把其ID丟到message queue,然後讓另一個worker來做後續工作,做完後才刪掉對應的outstanding_tasks。」
020-MQ解法.md · 結論:「message queue可以讓你做出優雅而且高穩定性系統。而高效能的系統,其實很多時都是把簡單東西用到極限。」
🗣️ Triton 本人說 推,不要輪詢
「如果你的客戶端需要持續更新資料(比如說股票價格,籃球比賽分數),你知道不應該每數秒做一次Get request,而是應該打開websocket / Firebase push notification(或是相似的技術)」113-喵的 backend 測驗.md · 第 6 題
「不好架構:B使用polling,每2秒就問A:「我的食材呢」 好架構:A建立websocket(或任何server push技術),安靜地等A去買東西和告訴結果。」185
文組翻譯
寄了掛號信,郵局不會主動告訴你送到沒。最好的辦法是換一家會傳簡訊通知「已投遞」的郵局;換不了,就在本子上記下每封還沒確認的信(outstanding_tasks),每天打電話問。本子要用紙寫(RDBMS),不要用白板(Redis),白板一擦就忘了哪幾封還沒確認。
到這裡你已經會了小結 4 / 4
- push notification
- 前幾章的基礎
- APNs / FCM
- message queue
- retry
- at-least-once
- idempotency
- persistence
- fan-out
- CDN warm-up
- polling
到這裡你已經會了:Triton 怎麼補原書
- 呼叫第三方放在獨立 worker、一定設 timeout:第三方當掉時,只有 worker 卡住,訊息留在 MQ 等它恢復。
- 不能掉的放真 MQ 和 RDBMS;能掉的 dedupe 清單放 Redis 並設期限;重試要越等越久、隨機錯開。
- 第三方不回報就 polling,但待確認的工作要記在 table(outstanding_tasks),不要只記在 Redis。
11 階全部走完了
下一頁是書出版後的時間差(📅 2026 補充),再來一句話收尾和名詞小卡。
📅 2026 補充書本身的時間差
GCM 已經不在了,APNs 和 FCM 也換過介面
📅 2026 補充 GCM → FCM
Triton 的講義寫 GCM(Google Cloud Messaging)。Google 在 2018 年宣布淘汰 GCM,2019 年關閉,由原書寫的 FCM 取代。讀 Triton 的 GCM 時,換成 FCM 就對了,論點不變。
📅 2026 補充 第三方 API 仍是一個 token 一個請求
FCM 的舊版 legacy API 已在 2024 年起停用,現行的 HTTP v1 API 一個請求送一個 token(Admin SDK 的 multicast 一次最多 500 個,底下仍是逐一送);APNs 也只剩 HTTP/2 的 provider API,每個 device token 一個請求。所以 078 的「每 5000 個 token 一則 message」是 MQ 這一段的打包,worker 拿到之後仍要逐一(並行)呼叫第三方。FCM 另有 topic 訂閱可以一次發給訂閱者。
📅 2026 補充 原書提到的廠商
Nexmo 已更名為 Vonage;Sendgrid 在 2019 年被 Twilio 收購。服務本身還在,名字和歸屬變了。原書強調的「能插拔第三方」在這種變動下更顯重要。
一句話記住
公告印一份,地址名單分袋裝;
寄出去之前,先把 CDN 暖好。
原書對的地方
- 推播交給 APNs / FCM,簡訊、email 交給第三方
- MQ + workers 解耦,每種通知一條 queue
- 持久化 + retry 防遺失,event ID dedupe 減少重複
- 範本、opt-out 設定、頻率上限、監控 queue 長度
Triton 不同意 / 原書沒講
- 廣播時一個 token 一則 message:payload 重複十萬次,MQ 爆掉
- 推播把流量導回自己:千萬人同秒點開,CDN 還冷
- queue 用 Redis:斷電會掉、追不上就爆 RAM
- 放不放獨立 worker 是取捨,不是預設
Triton 的做法
- message 寫「目標用戶範圍」,WorkerA 每 5000 個 token 打包一則、gzip
- 先推隨機小樣本暖 CDN,再推剩下的
- 不能掉的放真 MQ 與 RDBMS,能掉的 dedupe 資料放 Redis
- 第三方要有 timeout,沒 callback 就用 outstanding_tasks table
本章名詞小卡課後複習用 · 每個名詞一句白話
今天出現的名詞,一句話講完
給工程師的重點出處與標籤
引述來源(materials/core)與原書對照
Triton 本人的講義 / 文章
- 078-mq-intro.pdf.md — MQ淺談:Message 的定義、MQ 先寫 HDD 才回成功、等「工作完成」才刪、Signal vs Message、Redis PubSub、第 12–15 頁「10萬個相同內容的 Notification」智障架構 1 / 2 與正確架構(每 5000 個 token、gzip)
- 137-喵談 push notification.md — 主文(Triton):10M user 同秒推播、1% 點開就穿過 CDN;「先推隨機小樣本 warm-up」出自作者未標示的回覆,不算 Triton 原話
- 073-lesson3.pdf.md — 是否把 GCM 放獨立 worker 的取捨、推送用 GCM / APNS 別自架、依 queue 剩餘量增減 worker、Redis 某程度可當 MQ、SQS 不保證 FIFO / no-duplicate、Hot Data DB 放 dedupe 數據、retry 十次 11 台 AS 當掉
- 071-lesson2.pdf.md — Worker 與第三方系統(GCM 沒設 timeout、訊息留在 MQ 不丟失)、Deduplication 需要 Redis
- 012-Advanced_Database_Skills.pdf.md — 用獨立 worker 跟第三方溝通、GCM 也當過
- 020-MQ解法.md — 第三方不支援 callback:outstanding_tasks table + MQ,不用 Redis
- 030 Redis 不能當 queue 的四個原因 · 138 Kafka 不是 RabbitMQ 的進化、<1K msg/s 是 overkill · 185 用 MQ 的三個原因、polling vs push · 113 第 6、11 題 · 087 SET NX EX 與 exponential backoff、jitter
不引用:190–192(AI 生成的「Triton 題庫 / 面試指南」)、040(Clarence 的心得)、061、092、095(Roy 的專案報告)。
原書對照
Alex Xu, System Design Interview Vol.1 Ch.10。開頭與 Figure 1(第 7 頁);Step 1 需求(6);iOS / Android push 與 Figure 2–3、payload 範例(9);SMS、Email 與 Figure 4–6(10);Contact info gathering 與 Figure 7–8(12);High-level design 與 Figure 9(13);初版三個問題(14);改良版與 Figure 10(16);各元件、email API 範例(17);Reliability、Figure 11、dedupe(21–22);Template、Setting、Rate limiting(24);Retry、Security、Monitor 與 Figure 12(25);Events tracking 與 Figure 13(26);Updated design 與 Figure 14(27);Wrap up(28)。原書 14 張圖都依圖說與 alt 描述重繪,不是原圖;Figure 1 是產品截圖,只畫線框。
循序漸進(文組版)的頁面
學習地圖(第 3 頁);延伸基礎 11 階:push notification(4)、前幾章的基礎(5,連到 01、02、07 章)、APNs / FCM(8)、message queue(15)、retry(18)、at-least-once(19)、idempotency(20)、persistence(30)、fan-out(32)、CDN warm-up(35)、polling(42);小結(11、23、37、44);名詞小卡(47)。幸福社區是虛構的示範情境;延伸基礎頁的數字都是示意值。
一個可以直接問自己的問題
你下一次對全體使用者發推播時,MQ 裡會有幾則 message?payload 會被複製幾次?點開那一秒,CDN 是熱的還是冷的?