System Design Interview · 第 3 章Triton 覆蓋度:🟡 中Triton 線

A Framework For System Design Interviews
45 分鐘的合作解題

原書給你一套四步驟的面試框架:先問清楚、再畫方框圖、挑重點深入、最後收尾。這套框架很實用。但 Triton 在自己的講義第 2 頁寫的是:「今天目的是教學 不是求職面試 所以不採用 top-down approach」。這份簡報先把原書完整講完,再看 Triton 的另一種順序:先搞懂真的問題和 N、先找 root cause 再開藥、先把基本功做好再畫架構。

給文組

全程只用一個情境:請室內設計師幫陳家裝潢,一階一階爬 12 個概念。頁首標 延伸基礎 的頁是補基礎,懂的人可以跳過。

給工程師

原書 4 張圖都重繪成可播放的流程圖;最後一頁列出所有引述的出處檔案(materials/core)。

標籤怎麼看

📖 原書 🗣️ Triton 本人說 📝 上課筆記 🔭 依 Triton 原則推論

先用生活理解為什麼要先問問題

你請了一位室內設計師來家裡

設計師 A 一進門就說「開放式廚房、打掉兩面牆」,聽起來很專業。問題是:他根本不知道這是誰的家。

設計師 B 先問「幾個人住?房子是租的嗎?有養貓嗎?預算多少?」。四個問題問完,方案自然就出來了,而且是對的方案。

📖 原書 系統設計面試在模擬的就是這件事:「兩位同事合作處理一個模糊的問題,並提出符合目標的解決方案」。

設計師 A 有個名字,叫 Jimmy。他是原書 Step 1 的主角,第 7 頁會出場。

學習地圖本章的概念階梯

今天爬 12 階。每一階只用前面講過的東西。

  1. 1需求範圍先問清楚要什麼
  2. 2DAU / QPS每天幾人、每秒幾次
  3. 3client / server客人端、公司端
  4. 4database / cache檔案櫃、樣品冊
  5. 5load balancer櫃台總機
  6. 6message queue工單看板
  7. 7CDN各區展示間
  8. 8top-down先畫全屋平面圖
  9. 9N問題有多大
  10. 10root cause漏水的源頭
  11. 11connection pool浴室塞幾個師傅
  12. 12premature optimization還沒入住先升級

第 1–4 階 · 面試開場

要回答:Step 1 要問什麼?方框圖上的方框是什麼?

第 5–7 階 · 原書的四張圖

要回答:發一篇文、看一次動態,背後走了哪幾步?

第 8–11 階 · Triton 的順序

要回答:為什麼 Triton 上課不 top-down?

第 12 階 · 別過度設計

要回答:什麼時候才值得變複雜?

全程只用一個情境:陳家裝潢(虛構)

屋主陳家 = 使用者陳家傳 LINE 詢價 = request好室設計公司的電腦 = server倉庫的檔案櫃 = database櫃台的樣品冊 = cache櫃台總機 = load balancer工單看板 = message queue各區展示間 = CDN

陳家就是上一頁那一家:兩個大人、一個 1 歲小孩、三隻貓,房子是租的,預算 80 萬。每爬 3–4 階,有一頁「到這裡你已經會了」。

原書 · 開場面試官在找什麼

一小時設計一個上千人做出來的產品?沒人期待你做到

這一步要解決的問題面試官丟出一個又大又模糊的題目,她到底想看你什麼?

📖 原書 為什麼可怕

  • 題目可能模糊到「設計一個知名產品 X?」,又含糊又廣
  • 熱門產品是數百甚至數千名工程師打造的。Google 搜尋「看似簡單」,背後的技術量令人驚嘆
  • 好消息:沒有人期望你一小時做出真實世界的系統

📖 原書 那面試在考什麼

  • 模擬兩位同事合作處理一個模糊的問題
  • 開放式,沒有完美答案;最終設計不如設計過程重要
  • 讓你展示設計技巧、捍衛設計選擇、以建設性方式回應回饋
  • 面試官的主要目標是準確評估你;她最怕訊號不足、無法做出明確評價

📖 原書 訊號 vs 紅旗

點一下,看原書怎麼歸類:

📖 原書 過度設計(over-engineering)是許多工程師的通病:沉迷設計的純粹性、忽略 tradeoff,不知道過度設計的系統會產生複合成本,許多公司為此付出高昂代價。🗣️ Triton 非常同意這一點,見第 37 頁

白話:tradeoff=取捨,得到一樣就要放掉另一樣;signal(訊號)=讓面試官能下判斷的表現;red flag(紅旗)=會被扣分的警訊。

原書A 4-step process

每場面試都不同,但有四個共同步驟

這一步要解決的問題45 分鐘、一個模糊的題目,要怎麼安排才不會講到一半就亂掉?

文組翻譯:裝潢的四步

  1. 到現場丈量、問清楚誰住、預算多少
  2. 畫一張平面配置圖,請屋主點頭
  3. 挑最重要的地方做細部設計:廚房、浴室
  4. 交屋前說明哪裡還能改、壞了怎麼修

延伸基礎第 1 階 · 需求範圍懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

設計師什麼都不問,猜中這個家的機會有多大?

① 先想像

設計師不知道三件事:房子是租的還是買的、有沒有養寵物、有沒有小孩。每件事都有兩種可能。

你猜猜看:三件事都不問,總共有幾種可能的家?

③ 這叫做 requirement、assumption

requirement(需求):客戶真正要的東西。assumption(假設):問不到答案時,自己先定下、寫在白板上的條件。

④ 跟這章的關係

原書 Step 1 就在做這件事:先問,把設計範圍縮到一種,再開始畫。

② 動手玩:問一題,少一半

8還剩幾種可能的家1/8瞎猜猜中的機會

按上面的問題,聽陳家怎麼回答。

原書 Step 1Understand the problem and establish design scope

不要當 Jimmy

這一步要解決的問題題目很模糊的時候,怎麼避免設計出一個「很漂亮、但不是對方要的」系統?

  • 不經思考就快速給答案,不會加分;沒徹底了解需求就回答是大紅旗。面試不是知識競賽,沒有正確答案
  • 放慢、深入思考、問問題,釐清需求和假設。工程師喜歡直接跳到最終設計,這很可能讓你設計出錯的系統
  • 面試官會直接回答你,或請你自己做假設。後者的話,把假設寫在白板上,之後可能用得到

📖 原書 開始時可以問的四個問題

點卡片翻面,看裝潢版的同一個問題。

白話:feature=功能;scale up=規模長大;technology stack(技術棧)=公司現在用的程式語言、資料庫等工具組合。這就是第 6 頁「問一題,少一半」的那幾題。

📖 原書 Jimmy 從小就是班上第一個舉手的人,不管他知不知道答案。考試總是第一個寫完,是老師參加學術競賽的首選。原書接著只說了一句:DON'T be like Jimmy.

延伸基礎第 2 階 · DAU / QPS懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

LINE 官方帳號有 3 萬人加好友,每天真的有幾人來?

① 先想像

好室設計的 LINE 官方帳號有 3 萬人加好友,可是每天真的打開來問問題的,只有 3,000 人。

你猜猜看:每天 3,000 人、每人傳 10 則。一天約 10 萬秒,平均每秒幾則?

③ 這叫做 DAU、QPS

DAU(daily active users):每天真的有來用的人數。QPS(queries per second):每秒進來幾次請求(request)。

④ 跟這章的關係

下一頁原書的面試官答「10 million DAU」。Triton 要你先知道的 N,就包括這兩個數字。

② 動手玩:從 DAU 算出 QPS

30,000一天幾次0.3平均 QPS

原書範例只給了 DAU,沒說每人每天看幾次動態;「每人每天 10 次」是示意。尖峰怎麼估,第 2 章簡報有細講。

原書 Step 1 · 範例Design a news feed system

一句一句播:釐清 news feed 的需求

這一步要解決的問題把「設計一個 news feed」這種一句話的題目,變成白板上一張可以拿來設計的需求清單。

白板上的需求

白話:news feed=動態牆,打開 Facebook 首頁看到的朋友貼文;reverse chronological=新的排最前面;DAU=每天的活躍用戶(第 8 頁)。

延伸基礎第 3 階 · client / server懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

陳家在手機上按「我要報價」,是誰在算錢?

① 先想像

陳家在手機 LINE 按「我要報價」。這則訊息送到好室設計公司的電腦,公司的電腦查好價格,再回一則訊息。

你猜猜看:陳家的手機和公司的電腦,誰負責算報價?

③ 這叫做 client、server

client:客人那一端,手機 app 或網頁。server:公司那端、真正做事的電腦,原書叫 web servers。

④ 跟這章的關係

原書範例「web 和 mobile 都要」:兩種 client,共用同一組 server。方框圖的第一格就是 clients。

② 動手玩:兩種 client,同一個 server

(按「送出詢價」)
0server 收到幾則詢價

延伸基礎第 4 階 · database / cache懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

倉庫的檔案櫃 vs 櫃台上的樣品冊

① 先想像

所有客戶的圖面、合約、磁磚型錄都放在倉庫的檔案櫃。最常被問的 10 款磁磚,另外做一本樣品冊放在櫃台。

你猜猜看:翻倉庫一次 30 秒、翻樣品冊 1 秒。一天 100 次詢問,90 次問那 10 款。用樣品冊,一天共花多久?

③ 這叫做 database、cache

database(DB):存全部資料的檔案櫃,最完整、最不能錯。cache:放在手邊的常用小抄,拿得快,但不是正本。

④ 跟這章的關係

原書的圖裡,DB 前面幾乎都擺一個 Cache:Post Cache、User Cache、News Feed Cache。

② 動手玩:熱門的放樣品冊

到這裡你已經會了小結 1 / 4

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

到這裡你已經會了:面試開場要問什麼、方框是什麼

下一階要解決的問題

這些零件怎麼排成一張圖,還要讓面試官點頭?看原書 Step 2。

原書 Step 2Propose high-level design and get buy-in

畫一張藍圖,請面試官點頭

這一步要解決的問題需求問完了,怎麼在白板上畫出一張大家都同意的藍圖?

📖 原書 目標:做出高階設計,並和面試官對設計達成共識。過程中和面試官合作是個好主意。

  • 提出初步藍圖、尋求回饋。把面試官當隊友,很多好的面試官喜歡交流、積極參與
  • 在白板或紙上畫方框圖:clients(mobile / web)、APIs、web servers、data stores、cache、CDN、message queue 等
  • 做 back-of-the-envelope 估算,看藍圖是否符合規模限制;邊想邊說出來。要估算前,先問面試官有沒有必要
  • 可能的話,走幾個具體的 use case。這能幫你框出高階設計,也可能讓你發現還沒想到的 edge case

白話:buy-in=對方點頭同意;data store=存資料的地方;message queue、CDN 在第 17、19 頁細講;back-of-the-envelope=信封背面的心算(第 2 章);use case=一個具體情境,例如「陳家發一篇文」;edge case=少見但會出事的情況。

動手畫:把元件放上白板

📖 原書 這一步要寫 API endpoints 和 DB schema 嗎?

看題目。「Design Google search engine」這種大題,太細了;多人撲克遊戲的後端,就很合理。跟面試官溝通。🔭 Triton 的講義常把 API 和 schema 排在架構圖前面,見第 27 頁

白話:API endpoint=每個窗口的網址,例如 /v1/me/feed;DB schema=資料表有哪些欄位。

延伸基礎第 5 階 · load balancer懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

三位設計師,客人一進門要找誰?

① 先想像

好室設計有 3 位接待設計師,每位客人談 15 分鐘。客人一進門,由櫃台總機決定交給誰。

你猜猜看:一小時來 12 位客人,總機全交給第 1 位設計師。最後一位要等多久才談完?

③ 這叫做 load balancer、DNS

load balancer:櫃台總機,把 request 平均分給好幾台 server。DNS:網路的地址簿,把網址查成機器的位址。

④ 跟這章的關係

原書 Figure 1、2 最左邊:User 先問 DNS,再經 load balancer 到 web servers(下一頁)。

② 動手玩:總機怎麼分?

3 小時最後一位客人談完要等

原書 Step 2 · 範例Figure 1–2

News feed 的高階設計:一條寫、一條讀

這一步要解決的問題原書示範 Step 2 該畫到多細:發一篇文和看動態,各要經過哪些方框?

📖 原書 Figure 1Feed publishing 的高階設計(依原書內容重繪)

白話:DNS、load balancer 見第 14 頁;Post Service=專門處理發文的程式;Fanout=把貼文分送到每位朋友的動態;Notification=通知;auth_token=登入後拿到的通行證。

📖 原書 Feed publishing

使用者發文時,資料寫進 cache / database,貼文再被推到朋友的 news feed。

📖 原書 News feed building

把朋友的貼文依時間倒序聚合起來,建出 news feed。

原書特別說:這裡不需要懂系統怎麼運作,細節在「Design A News Feed System」那一章。這裡只示範 Step 2 該畫到多細。

原書 Step 3Design deep dive

挑重點深入,別在小細節裡迷路

這一步要解決的問題藍圖有了、時間剩一半,該把力氣花在哪一塊?

📖 原書 到這一步你應該已經……

  • 同意整體目標與功能範圍
  • 畫好整體設計的高階藍圖
  • 拿到面試官對高階設計的回饋
  • 根據回饋,對要深入的地方有初步想法

接著和面試官一起找出並排序架構裡的元件。

📖 原書 每場面試想聽的不一樣

白話:bottleneck(瓶頸)=最慢、最先撐不住的那一站;hash function=把長網址算成短代碼的公式;latency=要等多久。

📖 原書 時間管理

很容易陷入不能展現能力的細節。你要準備好給面試官看的訊號,避免不必要的細節。

原書的例子:在面試裡詳細講 Facebook feed 排名的 EdgeRank 演算法並不理想:花掉很多寶貴時間,又證明不了你設計 scalable 系統的能力。

📖 原書的範例 面試官滿意高階設計後,深入兩個最重要的 use case:① Feed publishing、② News feed retrieval(Figure 3、4,第 18、20 頁)。

白話:EdgeRank=Facebook 早年決定動態排序的公式;scalable=人變多也撐得住。

延伸基礎第 6 階 · message queue懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

簽約了,要通知 5 個工班:打完電話才回客人?

① 先想像

陳家簽約了,要通知 5 個工班。設計師可以一通一通打完才回陳家,也可以把工單貼上看板,先回「收到了」。

你猜猜看:每通電話 2 分鐘。設計師打完 5 通才回陳家,陳家要等多久?

③ 這叫做 message queue、worker

message queue(MQ):工單看板,工作先排隊,之後再慢慢做。worker:從看板拿工單、一張一張做的助理。

④ 跟這章的關係

原書 Figure 3:發文要通知最多 5,000 位朋友,先丟進 Message Queue,再由 Fanout Workers 慢慢寫進每個人的動態。

② 動手玩:工單看板

10 分鐘陳家等多久才收到回覆10 分鐘全部通知完

原書 Step 3 · 範例Figure 3 · Feed publishing 細部設計

發一篇文,背後走了五步

這一步要解決的問題發一篇文時,怎麼讓最多 5,000 位朋友都看得到,又不讓發文的人一直等?

📖 原書 Figure 3Feed publishing 的細部設計,編號 1–5 為資料流(依原書內容重繪)

白話:authentication=確認你是誰;rate limiting=擋掉送太多次的人(第 4 章);Graph DB=專存「誰跟誰是朋友」的資料庫;Message Queue、Fanout Workers 見第 17 頁。

延伸基礎第 7 階 · CDN懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

完工影片只放在台北總公司,高雄客人也要等台北寄?

① 先想像

好室設計的完工影片很大,原本只放在台北總公司。台中、高雄的客人想看,每次都要從台北寄過去。

你猜猜看:全台 1,000 位客人要看同一部影片。北、中、南展示間各放一份,總公司要寄出幾份?

③ 這叫做 CDN

CDN(content delivery network):散在各地、離客人最近的 cache,專放圖片、影片這類又大、又不常改的檔案。

④ 跟這章的關係

原書 Figure 4 第 ⑥ 步:動態裡的圖片影片直接從 CDN 拿,不經過 web servers(下一頁)。

② 動手玩:開不開展示間?

1,000總公司要送出幾份約 2 天高雄客人等多久(示意)

原書 Step 3 · 範例Figure 4 · News feed retrieval 細部設計

打開 App 看動態,也是一連串的步驟

這一步要解決的問題打開 App 的那一下,要從哪些地方把一頁動態湊齊?

📖 原書 Figure 4News feed retrieval 的細部設計,編號 1–6 為 request 的流向(依原書內容重繪)

白話:先找 cache,cache 沒有才去 DB(第 11 頁);CDN=離你最近、專放圖片影片的 cache(第 19 頁)。

到這裡你已經會了小結 2 / 4

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

到這裡你已經會了:原書四張圖的零件

下一階要解決的問題

原書最後 5 分鐘怎麼收尾、45 分鐘怎麼分?接著看 Triton 為什麼上課不照這個順序。

原書 Step 4Wrap up

收尾:最後五分鐘還能加分

這一步要解決的問題設計講完了,最後幾分鐘怎麼讓面試官記得你會挑自己的毛病?

📖 原書 面試官可能問幾個追問,或讓你自由討論。原書給的方向:

🔍 找出瓶頸

討論可能的改進。千萬不要說你的設計完美、沒有可改進之處。總有可以改的,這是展現批判性思考、留下好印象的機會。

🧾 回顧設計

幫面試官回想你的設計。提過好幾個方案時尤其重要,長時間面試後很有幫助。

💥 錯誤案例

server 故障、網路中斷等,都是有趣的話題。

📈 營運問題

怎麼監控 metrics 和 error logs?怎麼 roll out 系統?

🚀 下一個規模

目前支援 100 萬使用者,要支援 1000 萬,需要改什麼?

➕ 有更多時間的話

提出其他你想做的優化。

白話:metrics=一直在量的數字儀表(第 31 頁);error log=錯誤紀錄;roll out=把新版本分批上線。

文組翻譯:交屋時,好的設計師不會說「完美,沒什麼好改的」。他會說「這面牆以後可以加書櫃、熱水器五年後要換、小孩長大可以把這間隔成兩間」。🗣️ Triton 怎麼找瓶頸,見第 33 頁

原書 Step 4Dos and Don'ts

原書整理的應做與不應做

這一步要解決的問題前面四步的提醒很多,原書把它們濃縮成一張「應做/不應做」清單。

✅ Dos

  • 務必尋求澄清。不要假設你的假設是正確的
  • 理解問題的需求
  • 沒有正確答案,也沒有最佳答案。為年輕新創設計的方案,和為擁有數百萬用戶的成熟公司設計的不同。務必理解需求
  • 讓面試官知道你在想什麼,保持溝通
  • 可能的話,提出多種做法
  • 藍圖達成共識後,再深入每個元件。先設計最關鍵的元件
  • 跟面試官交流想法。好的面試官會像隊友一樣和你合作
  • 永不放棄

❌ Don'ts

  • 不要對典型面試題毫無準備
  • 還沒釐清需求與假設,不要急著給解法
  • 一開始不要對單一元件講太多細節。先給高階設計,再往下鑽
  • 卡住了,不要猶豫,請求提示
  • 再說一次:保持溝通,不要默默思考
  • 不要以為給出設計就結束了。面試官說結束才算結束。及早、經常請求回饋

原書Time allocation on each step

45 分鐘怎麼分?拖拖看

這一步要解決的問題45 分鐘講不完一個完整的系統,四步各該分多少時間?

拖白色圓點(或按 Tab 選取後用 ← →)

📖 原書 題目通常很廣,45 分鐘或一小時不夠涵蓋完整設計,所以時間管理很重要。原書強調這只是非常粗略的指南,實際分配取決於題目範圍和面試官的要求。

延伸基礎第 8 階 · top-down懂的人可以跳過

  1. 需求範圍
  2. DAU / QPS
  3. client / server
  4. DB / cache
  5. load balancer
  6. MQ
  7. CDN
  8. top-down
  9. N
  10. root cause
  11. connection pool
  12. premature optimization

先畫全屋平面圖,還是先打開牆看水管?

① 先想像

設計師習慣先畫全屋平面圖:客廳在哪、房間幾間,再一間一間做細部。水電師傅習慣先打開牆,看水管會不會漏。

你猜猜看:屋主只有 45 分鐘聽簡報,想知道「整間房子大概長怎樣」。先講哪一個?

③ 這叫做 top-down、bottom-up

top-down:先畫全貌,再往下挑重點深入。bottom-up:先把最容易出事的細節弄對,再組成全貌。

④ 跟這章的關係

原書 Don'ts 說「先給高階設計,再往下鑽」,就是 top-down。下一頁 Triton 說他上課不這樣做。

② 動手玩:同樣 45 分鐘,兩種講法

按播放,看 45 分鐘講到了哪些。

Triton 的出發點不是面試表演

Triton 的講義第 2 頁:「不採用 top-down approach」

你猜猜看:原書教你面試時 top-down(第 25 頁)。如果上課也這樣教新手做系統,最可能出什麼事?

「今天目的是教學 不是求職面試 所以不採用 top-down approach」🗣️ Triton 本人說 059-ecom-system design.pdf.md · 前言(以搶票為例)

「今天目的是教學 不是求職面試 所以不採用 top-down approach」🗣️ Triton 本人說 062-im-system design.pdf.md · 前言(以 Instant messenger 為例)

「We focus on solving actual real-world problem, Not on passing system design interview」🗣️ Triton 本人說 084-order matching-system design.pdf.md · Preface

top-down 是什麼?

就是原書 Don'ts 那一條:📖「先給高階設計,再往下鑽」(第 23 頁)。先畫整張方框圖,再挑元件深入。在 45 分鐘裡,這樣做最容易讓面試官看到你的廣度。

🔭 依 Triton 原則推論 為什麼教學要反過來

Triton 認為系統會死在細節,不是死在方框圖:

「不管你們架構設計得怎漂亮也好,細節上犯錯,系統還是會坦白地當給你看。」🗣️ 126-喵談 Keep it simple, stupid

所以他的講義從「這個問題哪裡會出事」開始,而不是從方框圖開始。

文組翻譯:面試像建案的樣品屋導覽,45 分鐘要讓你看到全貌。Triton 的課像水電師傅帶你看管線,漂不漂亮其次,先確定不會漏水。

Triton 的出發點講義的順序

同樣是設計一個系統,先講什麼?

這一頁要回答的問題不 top-down 的話,Triton 的講義是用什麼順序講一個系統?

    顏色代表什麼

    🔭 依講義順序觀察

    Triton 自己的文組比喻(059):搶票時,如果廁所是稀有資源,「進廁所前請預先鬆開褲子」「嚴禁在廁所內玩手機 / 看報紙」「盡可能讓使用者加速拉屎拉尿」。他從資源被誰佔住講起,不是從方框圖講起。059 · 第 5 頁

    延伸基礎第 9 階 · N懂的人可以跳過

    1. 需求範圍
    2. DAU / QPS
    3. client / server
    4. DB / cache
    5. load balancer
    6. MQ
    7. CDN
    8. top-down
    9. N
    10. root cause
    11. connection pool
    12. premature optimization

    10 件家具兩兩比對,要比幾次?

    ① 先想像

    設計師想替每件家具,找出風格最搭的另一件。最笨的方法:每兩件都拿來比一次。

    你猜猜看:10 件家具兩兩比一次,要比幾次?

    ③ 這叫做 N、brute force

    N:問題的大小,例如 user count、QPS、data size。brute force(暴力解):不用技巧、全部比一遍的笨方法。

    ④ 跟這章的關係

    N 小,笨方法就夠快;N 大,才值得用聰明的方法。所以 Triton 要你先知道 N(下一頁和第 30 頁)。

    ② 動手玩:拉 N,看要比幾次

    45要比幾次
    N要比幾次電腦每秒比 1 億次(示意)
    10,000約 5,000 萬約 0.5 秒
    1,000,000約 5,000 億約 1.4 小時

    Triton 同意的地方Step 1 其實是共識

    先搞懂問題,這一點 Triton 比原書還堅持

    🗣️ Triton 本人說 好的開發者應該

    • 「先正確地理解問題(請看後頁)」
    • 「了解 N (像是 QPS / user count / data size )」
    • 「給 PM 說明不同解法的開發時間和其預測界限 找出平衝的方案」
    • 「開發後,清楚寫下你用了那種解法」
    • 「管理系統中的 tech debt ,在 N 變大時換上更好解法」

    064-introToAlgorithm.pdf.md · 羅馬不是一天建成的

    🗣️ Triton 本人說 需求說不清就答不出

    「你說不清的的需求,別人除非會「問米」,否則是沒可能答得出什麼有意思的回答的。」166 · 有人問 server cost 要多少錢,他答「5K到5M NTD吧」

    「問米」是請靈媒通靈。翻成文組:你不說清楚,設計師只能去廟裡問。

    🗣️ Triton 本人說 他自己的 Step 1

    062 先定範圍:「1 個 chatroom 內最多有上限 100 人」「每個用戶可以加入上限 100 個 chatroom」;今天不包:黑名單 / 踢人、「對方已讀」、能容納 10 萬人的 chatroom、50ms 內的 notification、數 MB 的圖片。

    059 先定義「搶票」:「有限定數量(通常 1000 內)」「絕對不能 over-sell」「有過萬人想買到該商品」。

    對照原書:原書 Step 1 的「establish design scope」,Triton 寫成一張明確的「今天不包內容」清單。原書說「把假設寫在白板上」,Triton 把絕對不能違反的條件(不能 over-sell)寫在最前面的定義裡。

    Triton 補充知道 N 再選解法

    一萬個點找最近鄰居:要 Quadtree 嗎?

    064 的背景:有人在 Python 版問「我有 10000 個點,我想找出每一個點的最近鄰居」,「然後,一堆人回答: R-tree, Quadtree......」

    「如果才 10000 個點 單純 2 層 for-loop , O(n^2) solution 吧 – 現實跑起來應該少於1秒」
    「如果 n > 1M 則肯定不能暴力解」🗣️ Triton 本人說 064 · 我的回應

    「Engineering 是 – 在有限資源(開發時間/ server cost /效能)下 找出最可行解法」🗣️ 064 · 我想說……

    而且要「正確地理解問題」:只算一次的話,「暴力解法跑完後把結果存起來就好」;如果是對任意點反覆 query,「因為 m 可以很大,所以暴力解法不一定能接受」。064

    你猜猜看:一萬個點用暴力解兩兩比(第 28 頁),大概要跑多久?

    示意:假設一台機器每秒做 1 億次距離計算,數量級對得上 064「一萬個點少於 1 秒」。真實數字請自己量。

    延伸基礎第 10 階 · root cause懂的人可以跳過

    1. 需求範圍
    2. DAU / QPS
    3. client / server
    4. DB / cache
    5. load balancer
    6. MQ
    7. CDN
    8. top-down
    9. N
    10. root cause
    11. connection pool
    12. premature optimization

    天花板漏水:重刷油漆,還是先找漏點?

    ① 先想像

    陳家浴室天花板漏水。A 師傅直接重刷油漆;B 師傅先看儀表、爬上去找,發現樓上的水管接頭鬆了。

    你猜猜看:A 師傅每兩週就得重刷一次,每次 1 萬元。一年要花多少?

    ③ 這叫做 root cause、metrics

    root cause:問題真正的源頭。metrics:一直在量的數字儀表;在系統裡是 CPU、連線數、回應時間這些。

    ④ 跟這章的關係

    原書 Step 4 說要監控 metrics。Triton 更直接:沒找 root cause 就開藥,他當面試官會給 Strong Reject(第 33 頁)。

    ② 動手玩:先看儀表,再動手

    點上面的儀表,看哪一個不正常。

    延伸基礎第 11 階 · connection pool懂的人可以跳過

    1. 需求範圍
    2. DAU / QPS
    3. client / server
    4. DB / cache
    5. load balancer
    6. MQ
    7. CDN
    8. top-down
    9. N
    10. root cause
    11. connection pool
    12. premature optimization

    浴室只容得下 3 個師傅,派 10 個會比較快嗎?

    ① 先想像

    陳家的浴室很小,同時只容得下 3 個師傅做事。工頭覺得人多好辦事,一口氣派 10 個進去。

    你猜猜看:派 10 個進去,會比派 3 個快嗎?

    ③ 這叫做 connection、connection pool

    connection:server 和 database 之間的一條通話線。connection pool:事先開好、數量固定的幾條線,大家輪流用。

    ④ 跟這章的關係

    database 就是那間小浴室。下一頁的案例裡,pool 開到預設的 100 條;Triton 說那台機器 8–24 條就夠了。

    ② 動手玩:派幾個師傅?

    15.6 小時浴室完工要多久(示意)7 位在門口等、擋路的師傅

    Triton 補充先找 root cause,再開藥

    「PostgreSQL 很慢」:你會開什麼藥?

    141 的背景:有一篇文章說有人告訴他「postgresql資料庫很慢」,作者就建議三件事。你是醫生,先選一個:

    白話:pgpool=夾在程式和資料庫中間、幫忙管連線的軟體;async IO=不等資料存好就先回覆;connection pool 見第 32 頁。

    有趣的是,這裡 Triton 自己站在 interviewer 的位置。他給 Strong Reject 的理由,和原書 Don'ts 的「還沒釐清需求與假設,不要急著給解法」是同一個精神,只是場景從面試換成了線上事故。

    你猜猜看:有人說「資料庫很慢」,作者沒做任何檢查,就建議加大機器、加 pgpool、改 async IO。最可能出什麼事?

    「為何我會說這篇文章有毒,我是interviewer就會給他Strong Reject的原因:
    他一點也沒說到他如果查找「資料庫很慢」的root cause
    單純叫大家做ABC solution」🗣️ Triton 本人說 141-喵談postgresql資料庫很慢.md

    「這就跟你發燒去看醫生,然後醫生什麼檢查也不做。」141

    「System visibility,就是理解現在系統狀態,才能對症下藥的。」所以 newrelic、aws cloudwatch、grafana 這些是基本。141

    到這裡你已經會了小結 3 / 4

    1. 需求範圍
    2. DAU / QPS
    3. client / server
    4. DB / cache
    5. load balancer
    6. MQ
    7. CDN
    8. top-down
    9. N
    10. root cause
    11. connection pool
    12. premature optimization

    到這裡你已經會了:Triton 為什麼換順序

    下一階要解決的問題

    方框圖畫得再漂亮,系統還是會當掉。問題出在哪?

    Triton 補充基本功先於架構

    方框圖不會當機,設定錯誤才會

    你猜猜看:照原書 Step 2 的方框圖(web servers、cache、CDN)做出來上線,最可能因為什麼當機?

    🗣️ Triton 本人說 系統趴掉的原因

    「基本上我這3年內見證過的系統趴掉的原因:」155

    「如果有正確設定好的系統,其實是不會因為高流量而當掉的。」155

    🗣️ Triton 本人說 先做好的基本功

    「首先,不管你是否面對C10K,所有的基本功夫請先做好。」126 你的系統做到幾項?

    • read-only 頁面有設定好 CDN?商品餘額有做好 caching?
    • 測過資料庫每秒流量上限,並以此設定 max connection?
    • Application 的 connection pool 有好好設定?
    • Application 的 max worker thread 有設定好?
    • Load balancer 有設定好?

    🔭 依 Triton 原則推論 原書 Step 2 的方框圖裡有 web servers、cache、CDN。Triton 會追問的是方框裡面:pool 設多少、TTL 設多少、max_conn 設多少。「要系統不趴掉,就是忍住沉悶,平日做stress testing去正確設定好系統容量,和設定好每一層的max_conn之類的參數囉。」155

    延伸基礎第 12 階 · premature optimization懂的人可以跳過

    1. 需求範圍
    2. DAU / QPS
    3. client / server
    4. DB / cache
    5. load balancer
    6. MQ
    7. CDN
    8. top-down
    9. N
    10. root cause
    11. connection pool
    12. premature optimization

    還沒搬進去,就先花 30 萬裝全屋智慧燈光?

    ① 先想像

    陳家還沒搬進去,設計師就建議花 30 萬裝全屋智慧燈光,說「一年可以省 1,000 元電費」。

    你猜猜看:花 30 萬、一年省 1,000 元,幾年才回本?

    ③ 這叫做 optimization、premature optimization

    optimization(優化):花力氣讓東西更快、更省。premature optimization:還不知道規模多大、瓶頸在哪,就先優化。

    ④ 跟這章的關係

    原書說 over-engineering(過度設計)是紅旗;Triton 說「premature optimization」這句要喊十次(下一頁)。

    ② 動手玩:規模決定值不值得

    300 年回本要幾年

    Triton 同意的地方Over-engineering ≈ premature optimization

    原書說過度設計是病,Triton 說要喊十次

    📖 原書 紅旗

    Over-engineering:沉迷設計純粹性、忽略 tradeoff、不知道複合成本。

    「premature optimization is the root of all evil」「(這句太重要,請大家跟我多喊10次)」🗣️ Triton 本人說 151

    「在專案開始的第一天,你首先需要的是normalization而絕對不是optimization。」🗣️ 151

    「系統越是複雜,設計失誤/執行上有coding bug的可能性便越高。」🗣️ 126

    白話:normalization=把資料表照規矩整理好、同一筆資料不重複存;t2.nano、t2.micro=AWS 上最小的兩種機器規格;C10、C10K=同時 10 人、同時一萬人的等級。

    原書 Step 4「下一個規模」

    原書問:100 萬使用者要變 1000 萬,要改什麼?Triton 的版本是:「C10K其用上的東西,和C10其實是沒分別的。」「但是,C10時你做的笨事也許不會被發現,C10K就很容易server outage / partial outage。」166

    還有「即使是老手工程師,也常常會預計錯誤系統的效能瓶頸的。」所以上線後看資源用量,再 optimize。151

    Triton 直球對 ByteByteGo 的公開批評

    五分鐘看完一張圖,就以為學會了?

    背景:ByteByteGo 是原書作者 Alex Xu 的品牌。Triton 在 017 批評的是 ByteByteGo 一篇談 High Availability 的貼文(「3 nines」「4 nines」、hot-hot、hot-warm),不是這一章。

    你猜猜看:新手花五分鐘看完一張畫滿 hot-hot、cache、MQ 的架構圖。最可能出什麼事?

    「過份簡化的知識/或是知識內的一點點偽資訊,其毒性甚至tiktok更甚……」
    「如果新手是會自己去google還好;但大半的新手,就只會花五分鐘看完這種文後就自以為學會了。」🗣️ Triton 本人說 017-High Availability stateful component vs stateless component.md

    「啊,bytebytego他亂說的什麼hot-hot HA;他肯定沒有真正動手做過,不知其相關痛苦,也不知道其中關鍵缺少了什麼東西……」017

    🗣️ Triton 的 HA 定義

    1. 系統中沒有 single point of failure
    2. single component 掛掉,不需要人類即時行動

    「有HA不代表系統完全零秒的Downtime, 有HA只代表有single component掛了後系統能自動短時間內回復。」017

    白話:HA=high availability(第 2 章簡報);single point of failure=壞了就全停的那一個零件;hot-hot=兩套同時在跑、互相備援;dedupe=把重複的去掉。

    🔭 依 Triton 原則推論 跟這一章有什麼關係

    框架教你在白板上畫出 hot-hot、cache、MQ 這些方框,很快就能「看起來會」。Triton 擔心的是方框背後的痛:誰來 dedupe、master 掛了那一分鐘發生什麼事。所以他的講義總是從「Epic fail」和失敗流程講起。用這個框架面試沒問題,但別把畫得出方框圖當成會做系統。

    📝 上課筆記 Roy 在 IM 課的筆記裡記下一句:「不要看 bytebytego」009 · 非本人原文

    Triton 補充框架之外,你得真的會

    喵的 backend 測驗:20 題自我評分

    「這是一份自我評分的題目表,讓大家知道真正的backend開發者需要知道什麼的。」
    「(個人看法:如果你回答是<5分的,還是別自稱fullstack好一點點)」🗣️ Triton 本人說 113-喵的 backend 測驗.md

    0 / 20你會的題數

    🔭 推論 原書的框架教「怎麼講」;這張表考的是「講的內容對不對」。面試框架拿得到 buy-in,拿不到 optimistic lock 的正確寫法。

    題目依 113 原文縮寫;完整題目請看原檔。

    把兩邊合起來戴上 Triton 的眼鏡走一次框架

    框架照用,每一步多問一個 Triton 的問題

    白話:PK(primary key)=每筆資料的編號欄位;strong consistency=每個人任何時候看到的數字都一樣;hotspot=大家都擠向同一台機器(第 4 章簡報);IN 查詢=一次把 10 個人的資料一起拿回來。

    🔭 依 Triton 原則推論 這一頁是把 Triton 各篇文章的原則套到原書框架上,Triton 本人沒有寫過「四步驟的 Triton 版」。引號裡的句子才是原文,附檔名。

    到這裡你已經會了小結 4 / 4

    1. 需求範圍
    2. DAU / QPS
    3. client / server
    4. DB / cache
    5. load balancer
    6. MQ
    7. CDN
    8. top-down
    9. N
    10. root cause
    11. connection pool
    12. premature optimization

    到這裡你已經會了:框架照用,內容要真的會

    12 階全部走完了

    下一頁用一句話收尾;再下一頁是名詞小卡,給大家課後複習。

    一句話記住

    面試時先問清楚,上線前先查清楚;
    知道 N 之前,別急著畫大框框。

    原書對的地方

    • 四步驟:釐清範圍 → 高階設計 + buy-in → 深入 → 收尾
    • 不要當 Jimmy:先問需求、寫下假設
    • Over-engineering 是紅旗
    • 沒有正確答案,新創和大公司的解法不同

    Triton 不一樣的地方

    • 目的不同:教學不是求職面試,所以不 top-down
    • 順序不同:先講會出事的地方、API 和資料,再畫架構
    • 過份簡化的知識有毒:畫得出方框 ≠ 會做系統

    Triton 的做法

    • 先正確理解問題,了解 N(QPS / user count / data size)
    • 沒找到 root cause 就開藥 = Strong Reject
    • 基本功先做好:CDN、pool、max_conn、壓測
    • 第一天要 normalization,不要 optimization

    本章名詞小卡課後複習用 · 每個名詞一句白話

    今天出現的名詞,一句話講完

    requirement客戶真正要的東西
    assumption問不到時自己先定下、寫在白板上的條件
    design scope這次要做和這次不做的範圍
    technology stack公司現在用的程式語言、資料庫等工具組合
    DAU每天真的有來用的人數
    QPS每秒進來幾次 request
    request送出去的一則請求,例如一則詢價
    client客人那一端:手機 app、網頁
    server公司那端、真正做事的電腦(web servers)
    API公司公開的窗口,例如 /v1/me/feed
    database(DB)存全部資料的檔案櫃,正本
    cache放在手邊的常用小抄,快但不是正本

    給工程師的重點出處與標籤

    引述來源(materials/core)

    Triton 本人的講義 / 文章

    • 059-ecom-system design.pdf.md — 以搶票為例:「今天目的是教學 不是求職面試 所以不採用 top-down approach」、定義搶票、廁所比喻、講義順序
    • 062-im-system design.pdf.md — 以 IM 為例:同一句前言、MVP 範圍與「今天不包內容」、Epic fail、講義大綱
    • 084-order matching-system design.pdf.md — 「Not on passing system design interview」、API → schema → architecture 的順序
    • 064-introToAlgorithm.pdf.md — 先正確理解問題、了解 N、一萬個點用 O(n²)、Engineering 的定義、tech debt
    • 141-喵談postgresql資料庫很慢.md — 沒找 root cause 就給解法 = Strong Reject、看醫生比喻、pool size 100 vs 8–24
    • 126-喵談 Keep it simple, stupid….md — 基本功清單、「細節上犯錯,系統還是會坦白地當給你看」、複雜度與 bug
    • 151-在專案開始的第一天….md — premature optimization、normalization、t2.nano vs t2.micro、老手也會猜錯瓶頸
    • 155-如果有正確設定好的系統….md — 系統趴掉的原因比例、stress testing、每一層的 max_conn
    • 166-有人問一個系統的server cost….md — 「問米」、C10 與 C10K 用的東西沒分別
    • 017-High Availability….md — 對 ByteByteGo HA 貼文的批評、HA 定義
    • 113-喵的 backend 測驗.md — 20 題自我評分
    • 150-在一般的留言版….md — 一筆一查 vs IN / JOIN(推論套用到 Figure 4)

    上課筆記(非本人原文):009-…System_Design_on_a_MVP_IM.pdf.md — Roy 的 IM 課筆記:「不要看 bytebytego」。

    原書對照

    Alex Xu, System Design Interview Vol.1 Ch.3。開場與面試官視角(第 4 頁)、4-step process(5)、Step 1 與 Jimmy、四個起手問題(7)、Step 1 範例對話(9)、Step 2(13)與 Figure 1–2(15)、Step 3(16)與 Figure 3(18)、Figure 4(20)、Step 4 Wrap up(22)、Dos and Don'ts(23)、Time allocation(24)。原書 4 張圖都依原書的圖說與描述重繪,不是原圖。

    循序漸進(文組版)的頁面

    學習地圖(第 3 頁);延伸基礎 12 階:需求範圍(6)、DAU / QPS(8)、client / server(10)、database / cache(11)、load balancer(14)、message queue(17)、CDN(19)、top-down(25)、N(28)、root cause(31)、connection pool(32)、premature optimization(36);小結(12、21、34、41);名詞小卡(43)。陳家與好室設計是虛構的示範情境,示意數字不是實測值。

    一個可以直接問自己的問題

    你上一次說「系統很慢」的時候,手上有沒有 metrics?你知道你的 N 嗎?

    ← → 翻頁 · S 講者備註 · D 深/淺色
    1 / 1目錄