System Design Interview · 第 3 章Triton 覆蓋度:🟡 中Triton 線
A Framework For System Design Interviews
45 分鐘的合作解題
原書給你一套四步驟的面試框架:先問清楚、再畫方框圖、挑重點深入、最後收尾。這套框架很實用。但 Triton 在自己的講義第 2 頁寫的是:「今天目的是教學 不是求職面試 所以不採用 top-down approach」。這份簡報先把原書完整講完,再看 Triton 的另一種順序:先搞懂真的問題和 N、先找 root cause 再開藥、先把基本功做好再畫架構。
給文組
全程只用一個情境:請室內設計師幫陳家裝潢,一階一階爬 12 個概念。頁首標 延伸基礎 的頁是補基礎,懂的人可以跳過。
給工程師
原書 4 張圖都重繪成可播放的流程圖;最後一頁列出所有引述的出處檔案(materials/core)。
標籤怎麼看
📖 原書 🗣️ Triton 本人說 📝 上課筆記 🔭 依 Triton 原則推論
先用生活理解為什麼要先問問題
你請了一位室內設計師來家裡
設計師 A 一進門就說「開放式廚房、打掉兩面牆」,聽起來很專業。問題是:他根本不知道這是誰的家。
設計師 B 先問「幾個人住?房子是租的嗎?有養貓嗎?預算多少?」。四個問題問完,方案自然就出來了,而且是對的方案。
📖 原書 系統設計面試在模擬的就是這件事:「兩位同事合作處理一個模糊的問題,並提出符合目標的解決方案」。
設計師 A 有個名字,叫 Jimmy。他是原書 Step 1 的主角,第 7 頁會出場。
學習地圖本章的概念階梯
今天爬 12 階。每一階只用前面講過的東西。
- 1需求範圍先問清楚要什麼
- 2DAU / QPS每天幾人、每秒幾次
- 3client / server客人端、公司端
- 4database / cache檔案櫃、樣品冊
- 5load balancer櫃台總機
- 6message queue工單看板
- 7CDN各區展示間
- 8top-down先畫全屋平面圖
- 9N問題有多大
- 10root cause漏水的源頭
- 11connection pool浴室塞幾個師傅
- 12premature optimization還沒入住先升級
第 1–4 階 · 面試開場
要回答:Step 1 要問什麼?方框圖上的方框是什麼?
第 5–7 階 · 原書的四張圖
要回答:發一篇文、看一次動態,背後走了哪幾步?
第 8–11 階 · Triton 的順序
要回答:為什麼 Triton 上課不 top-down?
第 12 階 · 別過度設計
要回答:什麼時候才值得變複雜?
全程只用一個情境:陳家裝潢(虛構)
陳家就是上一頁那一家:兩個大人、一個 1 歲小孩、三隻貓,房子是租的,預算 80 萬。每爬 3–4 階,有一頁「到這裡你已經會了」。
原書 · 開場面試官在找什麼
一小時設計一個上千人做出來的產品?沒人期待你做到
這一步要解決的問題面試官丟出一個又大又模糊的題目,她到底想看你什麼?
📖 原書 為什麼可怕
- 題目可能模糊到「設計一個知名產品 X?」,又含糊又廣
- 熱門產品是數百甚至數千名工程師打造的。Google 搜尋「看似簡單」,背後的技術量令人驚嘆
- 好消息:沒有人期望你一小時做出真實世界的系統
📖 原書 那面試在考什麼
- 模擬兩位同事合作處理一個模糊的問題
- 開放式,沒有完美答案;最終設計不如設計過程重要
- 讓你展示設計技巧、捍衛設計選擇、以建設性方式回應回饋
- 面試官的主要目標是準確評估你;她最怕訊號不足、無法做出明確評價
📖 原書 訊號 vs 紅旗
點一下,看原書怎麼歸類:
📖 原書 過度設計(over-engineering)是許多工程師的通病:沉迷設計的純粹性、忽略 tradeoff,不知道過度設計的系統會產生複合成本,許多公司為此付出高昂代價。🗣️ Triton 非常同意這一點,見第 37 頁
白話:tradeoff=取捨,得到一樣就要放掉另一樣;signal(訊號)=讓面試官能下判斷的表現;red flag(紅旗)=會被扣分的警訊。
原書A 4-step process
每場面試都不同,但有四個共同步驟
這一步要解決的問題45 分鐘、一個模糊的題目,要怎麼安排才不會講到一半就亂掉?
文組翻譯:裝潢的四步
- 到現場丈量、問清楚誰住、預算多少
- 畫一張平面配置圖,請屋主點頭
- 挑最重要的地方做細部設計:廚房、浴室
- 交屋前說明哪裡還能改、壞了怎麼修
延伸基礎第 1 階 · 需求範圍懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
設計師什麼都不問,猜中這個家的機會有多大?
① 先想像
設計師不知道三件事:房子是租的還是買的、有沒有養寵物、有沒有小孩。每件事都有兩種可能。
你猜猜看:三件事都不問,總共有幾種可能的家?
2 × 2 × 2 = 8。閉著眼睛猜,只有 1/8 的機會猜中。每問一題,可能性就少一半。
③ 這叫做 requirement、assumption
requirement(需求):客戶真正要的東西。assumption(假設):問不到答案時,自己先定下、寫在白板上的條件。
④ 跟這章的關係
原書 Step 1 就在做這件事:先問,把設計範圍縮到一種,再開始畫。
② 動手玩:問一題,少一半
按上面的問題,聽陳家怎麼回答。
原書 Step 1Understand the problem and establish design scope
不要當 Jimmy
這一步要解決的問題題目很模糊的時候,怎麼避免設計出一個「很漂亮、但不是對方要的」系統?
- 不經思考就快速給答案,不會加分;沒徹底了解需求就回答是大紅旗。面試不是知識競賽,沒有正確答案
- 放慢、深入思考、問問題,釐清需求和假設。工程師喜歡直接跳到最終設計,這很可能讓你設計出錯的系統
- 面試官會直接回答你,或請你自己做假設。後者的話,把假設寫在白板上,之後可能用得到
📖 原書 開始時可以問的四個問題
點卡片翻面,看裝潢版的同一個問題。
白話:feature=功能;scale up=規模長大;technology stack(技術棧)=公司現在用的程式語言、資料庫等工具組合。這就是第 6 頁「問一題,少一半」的那幾題。
📖 原書 Jimmy 從小就是班上第一個舉手的人,不管他知不知道答案。考試總是第一個寫完,是老師參加學術競賽的首選。原書接著只說了一句:DON'T be like Jimmy.
延伸基礎第 2 階 · DAU / QPS懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
LINE 官方帳號有 3 萬人加好友,每天真的有幾人來?
① 先想像
好室設計的 LINE 官方帳號有 3 萬人加好友,可是每天真的打開來問問題的,只有 3,000 人。
你猜猜看:每天 3,000 人、每人傳 10 則。一天約 10 萬秒,平均每秒幾則?
3,000 × 10 = 30,000 則,÷ 100,000 秒 ≈ 0.3。可是訊息會擠在晚上下班後,最忙那一秒會多好幾倍。
③ 這叫做 DAU、QPS
DAU(daily active users):每天真的有來用的人數。QPS(queries per second):每秒進來幾次請求(request)。
④ 跟這章的關係
下一頁原書的面試官答「10 million DAU」。Triton 要你先知道的 N,就包括這兩個數字。
② 動手玩:從 DAU 算出 QPS
原書範例只給了 DAU,沒說每人每天看幾次動態;「每人每天 10 次」是示意。尖峰怎麼估,第 2 章簡報有細講。
原書 Step 1 · 範例Design a news feed system
一句一句播:釐清 news feed 的需求
這一步要解決的問題把「設計一個 news feed」這種一句話的題目,變成白板上一張可以拿來設計的需求清單。
白板上的需求
白話:news feed=動態牆,打開 Facebook 首頁看到的朋友貼文;reverse chronological=新的排最前面;DAU=每天的活躍用戶(第 8 頁)。
🔭 依 Triton 原則推論 用 Triton 的「N」對一次
Triton 說好的開發者要「了解 N (像是 QPS / user count / data size )」064。對照這段對話:
- user count:✓ 10M DAU、每人最多 5000 個朋友
- QPS:✗ 沒問,發文和看動態各多少次?
- data size:△ 知道有圖片影片,不知道多大
延伸基礎第 3 階 · client / server懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
陳家在手機上按「我要報價」,是誰在算錢?
① 先想像
陳家在手機 LINE 按「我要報價」。這則訊息送到好室設計公司的電腦,公司的電腦查好價格,再回一則訊息。
你猜猜看:陳家的手機和公司的電腦,誰負責算報價?
手機只負責送出和顯示。價目表、所有客戶的資料都在公司那端;改用網頁來問也一樣。
③ 這叫做 client、server
client:客人那一端,手機 app 或網頁。server:公司那端、真正做事的電腦,原書叫 web servers。
④ 跟這章的關係
原書範例「web 和 mobile 都要」:兩種 client,共用同一組 server。方框圖的第一格就是 clients。
② 動手玩:兩種 client,同一個 server
(按「送出詢價」)
延伸基礎第 4 階 · database / cache懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
倉庫的檔案櫃 vs 櫃台上的樣品冊
① 先想像
所有客戶的圖面、合約、磁磚型錄都放在倉庫的檔案櫃。最常被問的 10 款磁磚,另外做一本樣品冊放在櫃台。
你猜猜看:翻倉庫一次 30 秒、翻樣品冊 1 秒。一天 100 次詢問,90 次問那 10 款。用樣品冊,一天共花多久?
熱門 90 次 × 1 秒 = 90 秒;冷門 10 次還是要去倉庫,10 × 30 = 300 秒。合計 390 秒,不到原本 3,000 秒的七分之一。
③ 這叫做 database、cache
database(DB):存全部資料的檔案櫃,最完整、最不能錯。cache:放在手邊的常用小抄,拿得快,但不是正本。
④ 跟這章的關係
原書的圖裡,DB 前面幾乎都擺一個 Cache:Post Cache、User Cache、News Feed Cache。
② 動手玩:熱門的放樣品冊
到這裡你已經會了小結 1 / 4
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
到這裡你已經會了:面試開場要問什麼、方框是什麼
- 先問清楚 requirement,問不到就寫下 assumption。每問一題,可能的設計少一半。
- 要知道規模:每天幾人用(DAU)、每秒來幾次(QPS)。
- 手機和網頁是 client,做事的是 server;資料放 database,常用的放 cache。
下一階要解決的問題
這些零件怎麼排成一張圖,還要讓面試官點頭?看原書 Step 2。
原書 Step 2Propose high-level design and get buy-in
畫一張藍圖,請面試官點頭
這一步要解決的問題需求問完了,怎麼在白板上畫出一張大家都同意的藍圖?
📖 原書 目標:做出高階設計,並和面試官對設計達成共識。過程中和面試官合作是個好主意。
- 提出初步藍圖、尋求回饋。把面試官當隊友,很多好的面試官喜歡交流、積極參與
- 在白板或紙上畫方框圖:clients(mobile / web)、APIs、web servers、data stores、cache、CDN、message queue 等
- 做 back-of-the-envelope 估算,看藍圖是否符合規模限制;邊想邊說出來。要估算前,先問面試官有沒有必要
- 可能的話,走幾個具體的 use case。這能幫你框出高階設計,也可能讓你發現還沒想到的 edge case
白話:buy-in=對方點頭同意;data store=存資料的地方;message queue、CDN 在第 17、19 頁細講;back-of-the-envelope=信封背面的心算(第 2 章);use case=一個具體情境,例如「陳家發一篇文」;edge case=少見但會出事的情況。
動手畫:把元件放上白板
📖 原書 這一步要寫 API endpoints 和 DB schema 嗎?
看題目。「Design Google search engine」這種大題,太細了;多人撲克遊戲的後端,就很合理。跟面試官溝通。🔭 Triton 的講義常把 API 和 schema 排在架構圖前面,見第 27 頁
白話:API endpoint=每個窗口的網址,例如 /v1/me/feed;DB schema=資料表有哪些欄位。
延伸基礎第 5 階 · load balancer懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
三位設計師,客人一進門要找誰?
① 先想像
好室設計有 3 位接待設計師,每位客人談 15 分鐘。客人一進門,由櫃台總機決定交給誰。
你猜猜看:一小時來 12 位客人,總機全交給第 1 位設計師。最後一位要等多久才談完?
12 × 15 分鐘 = 180 分鐘 = 3 小時,另外兩位閒著。平均分給 3 位,每位 4 個,1 小時就談完。
③ 這叫做 load balancer、DNS
load balancer:櫃台總機,把 request 平均分給好幾台 server。DNS:網路的地址簿,把網址查成機器的位址。
④ 跟這章的關係
原書 Figure 1、2 最左邊:User 先問 DNS,再經 load balancer 到 web servers(下一頁)。
② 動手玩:總機怎麼分?
原書 Step 2 · 範例Figure 1–2
News feed 的高階設計:一條寫、一條讀
這一步要解決的問題原書示範 Step 2 該畫到多細:發一篇文和看動態,各要經過哪些方框?
白話:DNS、load balancer 見第 14 頁;Post Service=專門處理發文的程式;Fanout=把貼文分送到每位朋友的動態;Notification=通知;auth_token=登入後拿到的通行證。
📖 原書 Feed publishing
使用者發文時,資料寫進 cache / database,貼文再被推到朋友的 news feed。
📖 原書 News feed building
把朋友的貼文依時間倒序聚合起來,建出 news feed。
原書特別說:這裡不需要懂系統怎麼運作,細節在「Design A News Feed System」那一章。這裡只示範 Step 2 該畫到多細。
原書 Step 3Design deep dive
挑重點深入,別在小細節裡迷路
這一步要解決的問題藍圖有了、時間剩一半,該把力氣花在哪一塊?
📖 原書 到這一步你應該已經……
- 同意整體目標與功能範圍
- 畫好整體設計的高階藍圖
- 拿到面試官對高階設計的回饋
- 根據回饋,對要深入的地方有初步想法
接著和面試官一起找出並排序架構裡的元件。
📖 原書 每場面試想聽的不一樣
白話:bottleneck(瓶頸)=最慢、最先撐不住的那一站;hash function=把長網址算成短代碼的公式;latency=要等多久。
📖 原書 時間管理
很容易陷入不能展現能力的細節。你要準備好給面試官看的訊號,避免不必要的細節。
原書的例子:在面試裡詳細講 Facebook feed 排名的 EdgeRank 演算法並不理想:花掉很多寶貴時間,又證明不了你設計 scalable 系統的能力。
📖 原書的範例 面試官滿意高階設計後,深入兩個最重要的 use case:① Feed publishing、② News feed retrieval(Figure 3、4,第 18、20 頁)。
白話:EdgeRank=Facebook 早年決定動態排序的公式;scalable=人變多也撐得住。
延伸基礎第 6 階 · message queue懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
簽約了,要通知 5 個工班:打完電話才回客人?
① 先想像
陳家簽約了,要通知 5 個工班。設計師可以一通一通打完才回陳家,也可以把工單貼上看板,先回「收到了」。
你猜猜看:每通電話 2 分鐘。設計師打完 5 通才回陳家,陳家要等多久?
5 × 2 = 10 分鐘。貼上看板的話,陳家幾秒就收到「收到了」,電話由助理之後慢慢打。
③ 這叫做 message queue、worker
message queue(MQ):工單看板,工作先排隊,之後再慢慢做。worker:從看板拿工單、一張一張做的助理。
④ 跟這章的關係
原書 Figure 3:發文要通知最多 5,000 位朋友,先丟進 Message Queue,再由 Fanout Workers 慢慢寫進每個人的動態。
② 動手玩:工單看板
原書 Step 3 · 範例Figure 3 · Feed publishing 細部設計
發一篇文,背後走了五步
這一步要解決的問題發一篇文時,怎麼讓最多 5,000 位朋友都看得到,又不讓發文的人一直等?
白話:authentication=確認你是誰;rate limiting=擋掉送太多次的人(第 4 章);Graph DB=專存「誰跟誰是朋友」的資料庫;Message Queue、Fanout Workers 見第 17 頁。
延伸基礎第 7 階 · CDN懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
完工影片只放在台北總公司,高雄客人也要等台北寄?
① 先想像
好室設計的完工影片很大,原本只放在台北總公司。台中、高雄的客人想看,每次都要從台北寄過去。
你猜猜看:全台 1,000 位客人要看同一部影片。北、中、南展示間各放一份,總公司要寄出幾份?
只要寄給 3 間展示間,客人去最近的那間看。總公司少寄 997 份,客人也不用等台北寄來。
③ 這叫做 CDN
CDN(content delivery network):散在各地、離客人最近的 cache,專放圖片、影片這類又大、又不常改的檔案。
④ 跟這章的關係
原書 Figure 4 第 ⑥ 步:動態裡的圖片影片直接從 CDN 拿,不經過 web servers(下一頁)。
② 動手玩:開不開展示間?
原書 Step 3 · 範例Figure 4 · News feed retrieval 細部設計
打開 App 看動態,也是一連串的步驟
這一步要解決的問題打開 App 的那一下,要從哪些地方把一頁動態湊齊?
白話:先找 cache,cache 沒有才去 DB(第 11 頁);CDN=離你最近、專放圖片影片的 cache(第 19 頁)。
到這裡你已經會了小結 2 / 4
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
到這裡你已經會了:原書四張圖的零件
- 客人先查 DNS 找到位址,再由 load balancer 平均分給好幾台 server。
- 晚一點做也沒關係的工作(通知 5,000 位朋友),先貼上 message queue,由 worker 慢慢做。
- 圖片影片放在離客人最近的 CDN;常用的資料放 cache,正本在 database。
下一階要解決的問題
原書最後 5 分鐘怎麼收尾、45 分鐘怎麼分?接著看 Triton 為什麼上課不照這個順序。
原書 Step 4Wrap up
收尾:最後五分鐘還能加分
這一步要解決的問題設計講完了,最後幾分鐘怎麼讓面試官記得你會挑自己的毛病?
📖 原書 面試官可能問幾個追問,或讓你自由討論。原書給的方向:
🔍 找出瓶頸
討論可能的改進。千萬不要說你的設計完美、沒有可改進之處。總有可以改的,這是展現批判性思考、留下好印象的機會。
🧾 回顧設計
幫面試官回想你的設計。提過好幾個方案時尤其重要,長時間面試後很有幫助。
💥 錯誤案例
server 故障、網路中斷等,都是有趣的話題。
📈 營運問題
怎麼監控 metrics 和 error logs?怎麼 roll out 系統?
🚀 下一個規模
目前支援 100 萬使用者,要支援 1000 萬,需要改什麼?
➕ 有更多時間的話
提出其他你想做的優化。
白話:metrics=一直在量的數字儀表(第 31 頁);error log=錯誤紀錄;roll out=把新版本分批上線。
文組翻譯:交屋時,好的設計師不會說「完美,沒什麼好改的」。他會說「這面牆以後可以加書櫃、熱水器五年後要換、小孩長大可以把這間隔成兩間」。🗣️ Triton 怎麼找瓶頸,見第 33 頁
原書 Step 4Dos and Don'ts
原書整理的應做與不應做
這一步要解決的問題前面四步的提醒很多,原書把它們濃縮成一張「應做/不應做」清單。
✅ Dos
- 務必尋求澄清。不要假設你的假設是正確的
- 理解問題的需求
- 沒有正確答案,也沒有最佳答案。為年輕新創設計的方案,和為擁有數百萬用戶的成熟公司設計的不同。務必理解需求
- 讓面試官知道你在想什麼,保持溝通
- 可能的話,提出多種做法
- 藍圖達成共識後,再深入每個元件。先設計最關鍵的元件
- 跟面試官交流想法。好的面試官會像隊友一樣和你合作
- 永不放棄
❌ Don'ts
- 不要對典型面試題毫無準備
- 還沒釐清需求與假設,不要急著給解法
- 一開始不要對單一元件講太多細節。先給高階設計,再往下鑽
- 卡住了,不要猶豫,請求提示
- 再說一次:保持溝通,不要默默思考
- 不要以為給出設計就結束了。面試官說結束才算結束。及早、經常請求回饋
原書Time allocation on each step
45 分鐘怎麼分?拖拖看
這一步要解決的問題45 分鐘講不完一個完整的系統,四步各該分多少時間?
拖白色圓點(或按 Tab 選取後用 ← →)
📖 原書 題目通常很廣,45 分鐘或一小時不夠涵蓋完整設計,所以時間管理很重要。原書強調這只是非常粗略的指南,實際分配取決於題目範圍和面試官的要求。
延伸基礎第 8 階 · top-down懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
先畫全屋平面圖,還是先打開牆看水管?
① 先想像
設計師習慣先畫全屋平面圖:客廳在哪、房間幾間,再一間一間做細部。水電師傅習慣先打開牆,看水管會不會漏。
你猜猜看:屋主只有 45 分鐘聽簡報,想知道「整間房子大概長怎樣」。先講哪一個?
時間很短時,先給全貌最划算,這就是面試用 top-down 的理由。可是房子會不會漏水,看的是防水層。
③ 這叫做 top-down、bottom-up
top-down:先畫全貌,再往下挑重點深入。bottom-up:先把最容易出事的細節弄對,再組成全貌。
④ 跟這章的關係
原書 Don'ts 說「先給高階設計,再往下鑽」,就是 top-down。下一頁 Triton 說他上課不這樣做。
② 動手玩:同樣 45 分鐘,兩種講法
按播放,看 45 分鐘講到了哪些。
Triton 的出發點不是面試表演
Triton 的講義第 2 頁:「不採用 top-down approach」
你猜猜看:原書教你面試時 top-down(第 25 頁)。如果上課也這樣教新手做系統,最可能出什麼事?
方框圖人人會畫,系統卻常死在細節。Triton 的講義開頭就把話說在前面,按 → 看原文。
「今天目的是教學 不是求職面試 所以不採用 top-down approach」🗣️ Triton 本人說 059-ecom-system design.pdf.md · 前言(以搶票為例)
「今天目的是教學 不是求職面試 所以不採用 top-down approach」🗣️ Triton 本人說 062-im-system design.pdf.md · 前言(以 Instant messenger 為例)
「We focus on solving actual real-world problem, Not on passing system design interview」🗣️ Triton 本人說 084-order matching-system design.pdf.md · Preface
top-down 是什麼?
就是原書 Don'ts 那一條:📖「先給高階設計,再往下鑽」(第 23 頁)。先畫整張方框圖,再挑元件深入。在 45 分鐘裡,這樣做最容易讓面試官看到你的廣度。
🔭 依 Triton 原則推論 為什麼教學要反過來
Triton 認為系統會死在細節,不是死在方框圖:
「不管你們架構設計得怎漂亮也好,細節上犯錯,系統還是會坦白地當給你看。」🗣️ 126-喵談 Keep it simple, stupid
所以他的講義從「這個問題哪裡會出事」開始,而不是從方框圖開始。
文組翻譯:面試像建案的樣品屋導覽,45 分鐘要讓你看到全貌。Triton 的課像水電師傅帶你看管線,漂不漂亮其次,先確定不會漏水。
Triton 的出發點講義的順序
同樣是設計一個系統,先講什麼?
這一頁要回答的問題不 top-down 的話,Triton 的講義是用什麼順序講一個系統?
顏色代表什麼
🔭 依講義順序觀察
Triton 自己的文組比喻(059):搶票時,如果廁所是稀有資源,「進廁所前請預先鬆開褲子」「嚴禁在廁所內玩手機 / 看報紙」「盡可能讓使用者加速拉屎拉尿」。他從資源被誰佔住講起,不是從方框圖講起。059 · 第 5 頁
延伸基礎第 9 階 · N懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
10 件家具兩兩比對,要比幾次?
① 先想像
設計師想替每件家具,找出風格最搭的另一件。最笨的方法:每兩件都拿來比一次。
你猜猜看:10 件家具兩兩比一次,要比幾次?
10 × 9 ÷ 2 = 45。家具變成 100 件,要比 4,950 次:數量多 10 倍,次數多將近 100 倍。
③ 這叫做 N、brute force
N:問題的大小,例如 user count、QPS、data size。brute force(暴力解):不用技巧、全部比一遍的笨方法。
④ 跟這章的關係
N 小,笨方法就夠快;N 大,才值得用聰明的方法。所以 Triton 要你先知道 N(下一頁和第 30 頁)。
② 動手玩:拉 N,看要比幾次
| N | 要比幾次 | 電腦每秒比 1 億次(示意) |
|---|---|---|
| 10,000 | 約 5,000 萬 | 約 0.5 秒 |
| 1,000,000 | 約 5,000 億 | 約 1.4 小時 |
Triton 同意的地方Step 1 其實是共識
先搞懂問題,這一點 Triton 比原書還堅持
🗣️ Triton 本人說 好的開發者應該
- 「先正確地理解問題(請看後頁)」
- 「了解 N (像是 QPS / user count / data size )」
- 「給 PM 說明不同解法的開發時間和其預測界限 找出平衝的方案」
- 「開發後,清楚寫下你用了那種解法」
- 「管理系統中的 tech debt ,在 N 變大時換上更好解法」
064-introToAlgorithm.pdf.md · 羅馬不是一天建成的
🗣️ Triton 本人說 需求說不清就答不出
「你說不清的的需求,別人除非會「問米」,否則是沒可能答得出什麼有意思的回答的。」166 · 有人問 server cost 要多少錢,他答「5K到5M NTD吧」
「問米」是請靈媒通靈。翻成文組:你不說清楚,設計師只能去廟裡問。
🗣️ Triton 本人說 他自己的 Step 1
062 先定範圍:「1 個 chatroom 內最多有上限 100 人」「每個用戶可以加入上限 100 個 chatroom」;今天不包:黑名單 / 踢人、「對方已讀」、能容納 10 萬人的 chatroom、50ms 內的 notification、數 MB 的圖片。
059 先定義「搶票」:「有限定數量(通常 1000 內)」「絕對不能 over-sell」「有過萬人想買到該商品」。
對照原書:原書 Step 1 的「establish design scope」,Triton 寫成一張明確的「今天不包內容」清單。原書說「把假設寫在白板上」,Triton 把絕對不能違反的條件(不能 over-sell)寫在最前面的定義裡。
Triton 補充知道 N 再選解法
一萬個點找最近鄰居:要 Quadtree 嗎?
064 的背景:有人在 Python 版問「我有 10000 個點,我想找出每一個點的最近鄰居」,「然後,一堆人回答: R-tree, Quadtree......」
「如果才 10000 個點 單純 2 層 for-loop , O(n^2) solution 吧 – 現實跑起來應該少於1秒」
「如果 n > 1M 則肯定不能暴力解」🗣️ Triton 本人說 064 · 我的回應
「Engineering 是 – 在有限資源(開發時間/ server cost /效能)下 找出最可行解法」🗣️ 064 · 我想說……
而且要「正確地理解問題」:只算一次的話,「暴力解法跑完後把結果存起來就好」;如果是對任意點反覆 query,「因為 m 可以很大,所以暴力解法不一定能接受」。064
你猜猜看:一萬個點用暴力解兩兩比(第 28 頁),大概要跑多久?
一萬個點約 5,000 萬次比對,電腦一秒內就做完。網友一窩蜂推薦 R-tree、Quadtree,是還沒先算 N。按 → 看 Triton 怎麼回。
示意:假設一台機器每秒做 1 億次距離計算,數量級對得上 064「一萬個點少於 1 秒」。真實數字請自己量。
延伸基礎第 10 階 · root cause懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
天花板漏水:重刷油漆,還是先找漏點?
① 先想像
陳家浴室天花板漏水。A 師傅直接重刷油漆;B 師傅先看儀表、爬上去找,發現樓上的水管接頭鬆了。
你猜猜看:A 師傅每兩週就得重刷一次,每次 1 萬元。一年要花多少?
一年 52 週,每兩週一次 = 26 次 × 1 萬 = 26 萬。B 師傅把接頭鎖緊,可能 2,000 元就解決了。
③ 這叫做 root cause、metrics
root cause:問題真正的源頭。metrics:一直在量的數字儀表;在系統裡是 CPU、連線數、回應時間這些。
④ 跟這章的關係
原書 Step 4 說要監控 metrics。Triton 更直接:沒找 root cause 就開藥,他當面試官會給 Strong Reject(第 33 頁)。
② 動手玩:先看儀表,再動手
點上面的儀表,看哪一個不正常。
延伸基礎第 11 階 · connection pool懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
浴室只容得下 3 個師傅,派 10 個會比較快嗎?
① 先想像
陳家的浴室很小,同時只容得下 3 個師傅做事。工頭覺得人多好辦事,一口氣派 10 個進去。
你猜猜看:派 10 個進去,會比派 3 個快嗎?
只有 3 個人能動手,其他人在門口等、互相擋路。人數要照浴室的大小來定,不是越多越好。
③ 這叫做 connection、connection pool
connection:server 和 database 之間的一條通話線。connection pool:事先開好、數量固定的幾條線,大家輪流用。
④ 跟這章的關係
database 就是那間小浴室。下一頁的案例裡,pool 開到預設的 100 條;Triton 說那台機器 8–24 條就夠了。
② 動手玩:派幾個師傅?
Triton 補充先找 root cause,再開藥
「PostgreSQL 很慢」:你會開什麼藥?
141 的背景:有一篇文章說有人告訴他「postgresql資料庫很慢」,作者就建議三件事。你是醫生,先選一個:
白話:pgpool=夾在程式和資料庫中間、幫忙管連線的軟體;async IO=不等資料存好就先回覆;connection pool 見第 32 頁。
有趣的是,這裡 Triton 自己站在 interviewer 的位置。他給 Strong Reject 的理由,和原書 Don'ts 的「還沒釐清需求與假設,不要急著給解法」是同一個精神,只是場景從面試換成了線上事故。
你猜猜看:有人說「資料庫很慢」,作者沒做任何檢查,就建議加大機器、加 pgpool、改 async IO。最可能出什麼事?
就像 A 師傅直接重刷油漆(第 31 頁)。按 → 看 Triton 的原話;左邊三帖藥也可以點點看。
「為何我會說這篇文章有毒,我是interviewer就會給他Strong Reject的原因:
他一點也沒說到他如果查找「資料庫很慢」的root cause
單純叫大家做ABC solution」🗣️ Triton 本人說 141-喵談postgresql資料庫很慢.md
「這就跟你發燒去看醫生,然後醫生什麼檢查也不做。」141
「System visibility,就是理解現在系統狀態,才能對症下藥的。」所以 newrelic、aws cloudwatch、grafana 這些是基本。141
到這裡你已經會了小結 3 / 4
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
到這裡你已經會了:Triton 為什麼換順序
- 面試用 top-down,45 分鐘先給全貌;Triton 的課是教學,從會出事的細節講起。
- 先知道 N:N 小就用 brute force,N 大才值得上聰明的方法。
- 先看 metrics 找 root cause 再開藥;connection pool 不是開越多越好。
下一階要解決的問題
方框圖畫得再漂亮,系統還是會當掉。問題出在哪?
Triton 補充基本功先於架構
方框圖不會當機,設定錯誤才會
你猜猜看:照原書 Step 2 的方框圖(web servers、cache、CDN)做出來上線,最可能因為什麼當機?
Triton 見過的當機,六成是程式 bug,兩成是有人在正式系統上做笨事;「架構不夠漂亮」不在清單上。按 → 看。
🗣️ Triton 本人說 系統趴掉的原因
「基本上我這3年內見證過的系統趴掉的原因:」155
「如果有正確設定好的系統,其實是不會因為高流量而當掉的。」155
🗣️ Triton 本人說 先做好的基本功
「首先,不管你是否面對C10K,所有的基本功夫請先做好。」126 你的系統做到幾項?
- read-only 頁面有設定好 CDN?商品餘額有做好 caching?
- 測過資料庫每秒流量上限,並以此設定 max connection?
- Application 的 connection pool 有好好設定?
- Application 的 max worker thread 有設定好?
- Load balancer 有設定好?
🔭 依 Triton 原則推論 原書 Step 2 的方框圖裡有 web servers、cache、CDN。Triton 會追問的是方框裡面:pool 設多少、TTL 設多少、max_conn 設多少。「要系統不趴掉,就是忍住沉悶,平日做stress testing去正確設定好系統容量,和設定好每一層的max_conn之類的參數囉。」155
延伸基礎第 12 階 · premature optimization懂的人可以跳過
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
還沒搬進去,就先花 30 萬裝全屋智慧燈光?
① 先想像
陳家還沒搬進去,設計師就建議花 30 萬裝全屋智慧燈光,說「一年可以省 1,000 元電費」。
你猜猜看:花 30 萬、一年省 1,000 元,幾年才回本?
300,000 ÷ 1,000 = 300 年。同樣 30 萬,換成一棟 300 戶大樓的公共照明,每戶每年省 1,000 元,一年就回本。值不值得,看規模。
③ 這叫做 optimization、premature optimization
optimization(優化):花力氣讓東西更快、更省。premature optimization:還不知道規模多大、瓶頸在哪,就先優化。
④ 跟這章的關係
原書說 over-engineering(過度設計)是紅旗;Triton 說「premature optimization」這句要喊十次(下一頁)。
② 動手玩:規模決定值不值得
Triton 同意的地方Over-engineering ≈ premature optimization
原書說過度設計是病,Triton 說要喊十次
📖 原書 紅旗
Over-engineering:沉迷設計純粹性、忽略 tradeoff、不知道複合成本。
「premature optimization is the root of all evil」「(這句太重要,請大家跟我多喊10次)」🗣️ Triton 本人說 151
「在專案開始的第一天,你首先需要的是normalization而絕對不是optimization。」🗣️ 151
「系統越是複雜,設計失誤/執行上有coding bug的可能性便越高。」🗣️ 126
白話:normalization=把資料表照規矩整理好、同一筆資料不重複存;t2.nano、t2.micro=AWS 上最小的兩種機器規格;C10、C10K=同時 10 人、同時一萬人的等級。
原書 Step 4「下一個規模」
原書問:100 萬使用者要變 1000 萬,要改什麼?Triton 的版本是:「C10K其用上的東西,和C10其實是沒分別的。」「但是,C10時你做的笨事也許不會被發現,C10K就很容易server outage / partial outage。」166
還有「即使是老手工程師,也常常會預計錯誤系統的效能瓶頸的。」所以上線後看資源用量,再 optimize。151
Triton 直球對 ByteByteGo 的公開批評
五分鐘看完一張圖,就以為學會了?
背景:ByteByteGo 是原書作者 Alex Xu 的品牌。Triton 在 017 批評的是 ByteByteGo 一篇談 High Availability 的貼文(「3 nines」「4 nines」、hot-hot、hot-warm),不是這一章。
你猜猜看:新手花五分鐘看完一張畫滿 hot-hot、cache、MQ 的架構圖。最可能出什麼事?
方框背後的痛,圖上看不到。按 → 看 Triton 的原話。
「過份簡化的知識/或是知識內的一點點偽資訊,其毒性甚至tiktok更甚……」
「如果新手是會自己去google還好;但大半的新手,就只會花五分鐘看完這種文後就自以為學會了。」🗣️ Triton 本人說 017-High Availability stateful component vs stateless component.md
「啊,bytebytego他亂說的什麼hot-hot HA;他肯定沒有真正動手做過,不知其相關痛苦,也不知道其中關鍵缺少了什麼東西……」017
🗣️ Triton 的 HA 定義
- 系統中沒有 single point of failure
- single component 掛掉,不需要人類即時行動
「有HA不代表系統完全零秒的Downtime, 有HA只代表有single component掛了後系統能自動短時間內回復。」017
白話:HA=high availability(第 2 章簡報);single point of failure=壞了就全停的那一個零件;hot-hot=兩套同時在跑、互相備援;dedupe=把重複的去掉。
🔭 依 Triton 原則推論 跟這一章有什麼關係
框架教你在白板上畫出 hot-hot、cache、MQ 這些方框,很快就能「看起來會」。Triton 擔心的是方框背後的痛:誰來 dedupe、master 掛了那一分鐘發生什麼事。所以他的講義總是從「Epic fail」和失敗流程講起。用這個框架面試沒問題,但別把畫得出方框圖當成會做系統。
📝 上課筆記 Roy 在 IM 課的筆記裡記下一句:「不要看 bytebytego」009 · 非本人原文
Triton 補充框架之外,你得真的會
喵的 backend 測驗:20 題自我評分
「這是一份自我評分的題目表,讓大家知道真正的backend開發者需要知道什麼的。」
「(個人看法:如果你回答是<5分的,還是別自稱fullstack好一點點)」🗣️ Triton 本人說 113-喵的 backend 測驗.md
🔭 推論 原書的框架教「怎麼講」;這張表考的是「講的內容對不對」。面試框架拿得到 buy-in,拿不到 optimistic lock 的正確寫法。
題目依 113 原文縮寫;完整題目請看原檔。
把兩邊合起來戴上 Triton 的眼鏡走一次框架
框架照用,每一步多問一個 Triton 的問題
白話:PK(primary key)=每筆資料的編號欄位;strong consistency=每個人任何時候看到的數字都一樣;hotspot=大家都擠向同一台機器(第 4 章簡報);IN 查詢=一次把 10 個人的資料一起拿回來。
🔭 依 Triton 原則推論 這一頁是把 Triton 各篇文章的原則套到原書框架上,Triton 本人沒有寫過「四步驟的 Triton 版」。引號裡的句子才是原文,附檔名。
到這裡你已經會了小結 4 / 4
- 需求範圍
- DAU / QPS
- client / server
- DB / cache
- load balancer
- MQ
- CDN
- top-down
- N
- root cause
- connection pool
- premature optimization
到這裡你已經會了:框架照用,內容要真的會
- 系統多半死在方框裡的設定(pool、max_conn、CDN、caching),不是死在方框圖畫得不夠漂亮。
- 還不知道 N 和瓶頸,就別做 premature optimization;專案第一天要的是 normalization。
- 面試照原書四步走,每一步多問一個 Triton 的問題:N 是多少?哪裡會出事?量過了嗎?
12 階全部走完了
下一頁用一句話收尾;再下一頁是名詞小卡,給大家課後複習。
一句話記住
面試時先問清楚,上線前先查清楚;
知道 N 之前,別急著畫大框框。
原書對的地方
- 四步驟:釐清範圍 → 高階設計 + buy-in → 深入 → 收尾
- 不要當 Jimmy:先問需求、寫下假設
- Over-engineering 是紅旗
- 沒有正確答案,新創和大公司的解法不同
Triton 不一樣的地方
- 目的不同:教學不是求職面試,所以不 top-down
- 順序不同:先講會出事的地方、API 和資料,再畫架構
- 過份簡化的知識有毒:畫得出方框 ≠ 會做系統
Triton 的做法
- 先正確理解問題,了解 N(QPS / user count / data size)
- 沒找到 root cause 就開藥 = Strong Reject
- 基本功先做好:CDN、pool、max_conn、壓測
- 第一天要 normalization,不要 optimization
本章名詞小卡課後複習用 · 每個名詞一句白話
今天出現的名詞,一句話講完
給工程師的重點出處與標籤
引述來源(materials/core)
Triton 本人的講義 / 文章
- 059-ecom-system design.pdf.md — 以搶票為例:「今天目的是教學 不是求職面試 所以不採用 top-down approach」、定義搶票、廁所比喻、講義順序
- 062-im-system design.pdf.md — 以 IM 為例:同一句前言、MVP 範圍與「今天不包內容」、Epic fail、講義大綱
- 084-order matching-system design.pdf.md — 「Not on passing system design interview」、API → schema → architecture 的順序
- 064-introToAlgorithm.pdf.md — 先正確理解問題、了解 N、一萬個點用 O(n²)、Engineering 的定義、tech debt
- 141-喵談postgresql資料庫很慢.md — 沒找 root cause 就給解法 = Strong Reject、看醫生比喻、pool size 100 vs 8–24
- 126-喵談 Keep it simple, stupid….md — 基本功清單、「細節上犯錯,系統還是會坦白地當給你看」、複雜度與 bug
- 151-在專案開始的第一天….md — premature optimization、normalization、t2.nano vs t2.micro、老手也會猜錯瓶頸
- 155-如果有正確設定好的系統….md — 系統趴掉的原因比例、stress testing、每一層的 max_conn
- 166-有人問一個系統的server cost….md — 「問米」、C10 與 C10K 用的東西沒分別
- 017-High Availability….md — 對 ByteByteGo HA 貼文的批評、HA 定義
- 113-喵的 backend 測驗.md — 20 題自我評分
- 150-在一般的留言版….md — 一筆一查 vs
IN/ JOIN(推論套用到 Figure 4)
上課筆記(非本人原文):009-…System_Design_on_a_MVP_IM.pdf.md — Roy 的 IM 課筆記:「不要看 bytebytego」。
原書對照
Alex Xu, System Design Interview Vol.1 Ch.3。開場與面試官視角(第 4 頁)、4-step process(5)、Step 1 與 Jimmy、四個起手問題(7)、Step 1 範例對話(9)、Step 2(13)與 Figure 1–2(15)、Step 3(16)與 Figure 3(18)、Figure 4(20)、Step 4 Wrap up(22)、Dos and Don'ts(23)、Time allocation(24)。原書 4 張圖都依原書的圖說與描述重繪,不是原圖。
循序漸進(文組版)的頁面
學習地圖(第 3 頁);延伸基礎 12 階:需求範圍(6)、DAU / QPS(8)、client / server(10)、database / cache(11)、load balancer(14)、message queue(17)、CDN(19)、top-down(25)、N(28)、root cause(31)、connection pool(32)、premature optimization(36);小結(12、21、34、41);名詞小卡(43)。陳家與好室設計是虛構的示範情境,示意數字不是實測值。
一個可以直接問自己的問題
你上一次說「系統很慢」的時候,手上有沒有 metrics?你知道你的 N 嗎?