System Design Interview · 第 14 章Triton 覆蓋度:🟡 中Triton 線
Design YouTube
上傳一次,全世界看一億次
原書用現成的 blob storage 和 CDN,加上一條 DAG 轉碼 pipeline,設計一個 500 萬 DAU 的影片平台;光是 CDN 流量,一天就要 15 萬美元。Triton 沒寫過 YouTube 這題,但他講過三件剛好用得上的事:檔案要當 stream、讀可以走 CDN,寫不行、跑很久的工作放進真的 MQ。
給文組
全程用「中央廚房 + 便利商店」比喻和同一支「小美的 300MB 滷肉飯教學」,一階一階爬 12 個概念。頁首標 延伸基礎 的頁是補基礎,懂的人可以跳過。
給工程師
前半完整講原書(28 張圖全部重繪),後半是 Triton 的引述與推論,最後一頁列出所有出處(materials/core)與原書段落對照。
標籤怎麼看
📖 原書 🗣️ Triton 本人說 🔭 依 Triton 原則推論 💬 討論串回覆,作者未標示 📅 2026 補充
先用生活理解下載 vs 串流
「下載」是整桌外燴送到才開動,「串流」是迴轉壽司
外燴:200 道菜全部送到才開動,桌子還要夠大。迴轉壽司:廚房做幾盤你吃幾盤,桌上永遠只有幾盤。只要廚房出盤的速度比你吃得快,就不會斷。
這一章的對照表
| 生活 | YouTube 系統 |
|---|---|
| 食材送進中央廚房 | 上傳到 original storage(blob) |
| 切成大、中、小份 | transcoding:360p 到 4K |
| 切菜流程表 | DAG:哪些工作先做、哪些可以同時做 |
| 熱門商品擺進各地超商 | 熱門影片放 CDN |
| 冷門商品從倉庫寄 | 長尾影片由自家 video servers 送 |
| 迴轉壽司 | streaming:一次只拿一小段 |
學習地圖本章的概念階梯
今天爬 12 階。每一階只用前面講過的東西。
- 1blob storage大檔案的倉庫
- 2CDN 計費照送出的 GB 收錢
- 3bitrate每秒用掉多少資料
- 4streaming protocol一段一段點菜
- 5codec / container壓法+盒子
- 6transcoding切成大中小份
- 7DAG工序圖
- 8GOP從完整那張開始
- 9priority queue急的先做
- 10pre-signed URL臨時門卡
- 11long tail暢銷書與倉庫書
- 12stream一次翻一頁
第 1–3 階 · 影片放哪、送出去多少錢
要回答:每天 15 萬美元從哪來?
第 4–7 階 · 手機怎麼看、平台怎麼轉
要回答:為什麼一支影片要變成好幾支?
第 8–11 階 · 轉碼工廠、上傳、省錢
要回答:怎麼又快、又安全、又省?
第 12 階 · Triton 的追問
要回答:1GB 的影片,worker 要用掉 1GB 記憶體嗎?
全程只用一個例子:小美的滷肉飯教學(虛構)
每爬 3–4 階,有一頁「到這裡你已經會了」。
原書開場Figure 1 · 2020 年的 YouTube
看起來很簡單:有人上傳,有人按播放
這一步要解決的問題擁有 20 億用戶的 YouTube,45 分鐘的面試要從哪裡開始?
📖 原書 這題的解法也能用在 Netflix、Hulu 這類影片分享平台。原書列出 2020 年的數字 [1][2]:
- 每月活躍用戶 20 億;每天觀看 50 億支影片
- 73% 的美國成年人用 YouTube;5,000 萬創作者
- 2019 全年廣告收入 151 億美元,比 2018 年成長 36%
- 佔所有行動網路流量的 37%;支援 80 種語言
結論:規模龐大、全球化、很會賺錢。首頁上還能留言、分享、按讚、加播放清單、訂閱頻道……45 到 60 分鐘的面試不可能全做,所以要先問問題縮小範圍。
原書 Step 1釐清需求
面試一開始:只做「上傳」和「觀看」
這一步要解決的問題功能那麼多,只能做哪幾樣?要做到什麼程度?
📖 原書 應徵者 × 面試官
| 應徵者問 | 面試官答 |
|---|---|
| 哪些功能重要? | 能上傳影片、能看影片 |
| 要支援哪些 client? | Mobile app、web browser、smart TV |
| DAU 多少? | 500 萬 |
| 每人每天平均用多久? | 30 分鐘 |
| 要支援國際用戶嗎? | 要,很大比例是國際用戶 |
| 支援哪些解析度? | 接受大多數解析度和格式 |
| 需要加密嗎? | 需要 |
| 影片大小有限制嗎? | 專注中小型影片,最大 1GB |
| 能用 Amazon、Google、Microsoft 現成的雲端嗎? | 好問題。對多數公司來說從零自建不實際,建議利用現成的雲端服務 |
白話:client=看影片的那一端(手機 app、瀏覽器、電視);DAU=每天有幾個人用(02 章第 22 頁);加密=把影片鎖起來,沒鑰匙看不懂。
📖 原書 這一章要做到
- 快速上傳影片
- 流暢的串流
- 可以切換畫質
- 低 infrastructure 成本
- 高可用、可擴展、可靠
- 支援 mobile app、web browser、smart TV
文組翻譯
開店前先問老闆:只賣便當還是也要外送?一天幾個客人?要不要開分店到國外?可以跟大盤商叫貨嗎?最後一題的答案「可以」,決定了整章的方向:冷藏車(CDN)和倉庫(blob storage)用租的。
延伸基礎第 1 階 · blob storage懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
300MB 的影片,要寫進帳本的一格嗎?
① 先想像
小美拍了一支 5 分鐘、300MB 的滷肉飯教學。平台的帳本每一格通常只寫幾個字:片名、誰上傳、幾點上傳。
你猜猜看:把整支 300MB 影片塞進帳本的一格,會怎樣?
帳本是給「常常查、常常改」的小資料用的。影片又大、上傳後幾乎不改,該放倉庫;帳本只記「放在哪個架子」。
③ 這叫做 blob storage、metadata
blob storage:專放大檔案的倉庫,例如 Amazon S3。metadata:描述檔案的寄件單:檔名、大小、格式、放在哪。
④ 跟這章的關係
原書的 original storage、transcoded storage 都是 blob storage;metadata 放 metadata DB。帳本(database)見 01 章第 8 頁。
② 動手玩:平台收了幾支影片?
延伸基礎第 2 階 · CDN 計費懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
便當送到巷口超商,物流公司怎麼收錢?
① 先想像
平台的總倉在美國,全世界都有加盟超商。熱門影片先擺在你家巷口那一間。物流公司照「每天送出幾公斤」收錢。
你猜猜看:每公斤運費 2 元,每天送出 100 箱、每箱 3 公斤。一天運費多少?
100 × 3 × 2 = 600。運費只看「送出多少重量」,跟倉庫裡放了多少貨無關。
③ 這叫做 CDN、data transfer
CDN:開在各地、離你很近的分店(01 章第 21 頁)。data transfer:從 CDN 送出去的資料量,雲端 CDN 照它按 GB 收錢。
④ 跟這章的關係
原書的成本估算只算這一筆(下一頁)。看的人越多、影片越大,帳單越大。
② 動手玩:同樣每 GB $0.02,誰的帳單多大?
原書 Step 1Back of the envelope estimation · Figure 2
每天新增 150TB,CDN 每天 15 萬美元
這一步要解決的問題每天要多存多少影片?光是把影片送出去,一天要付多少錢?
📖 原書 估算建立在很多假設上,要跟面試官確認彼此理解一致。
- DAU 500 萬,每人每天看 5 支影片
- 10% 的用戶每天上傳 1 支影片,平均 300 MB
- 每天新增儲存:500 萬 × 10% × 300 MB = 150TB
白話:TB=一千 GB;這些影片放倉庫(blob storage,第 6 頁)。CDN 按 GB 收錢的算法見第 7 頁。
📖 原書 CDN 成本:雲端 CDN 送出影片時,按「從 CDN 傳出的資料量」收費。用 Amazon CloudFront 估(Figure 2)[3],假設 100% 流量來自美國,每 GB 平均 $0.02,只算影片串流:
500 萬 × 5 支 × 0.3GB × $0.02 = $150,000 / 天
即使雲端廠商願意給大客戶大幅折扣,這筆錢還是很可觀。怎麼省,放到 deep dive(第 41 頁)。
原書圖的描述把它寫成「cloud storage 價格」,但內文說這是 CloudFront 的資料傳輸價,以內文為準。描述也說價格「亞洲普遍較高、美洲與歐洲較低」。點表格中的格子看說明。
原書 Step 1 · 動手算CDN 成本計算機
這 15 萬美元是怎麼長出來的?
這一步要解決的問題哪一個數字讓 CDN 帳單最貴?自己拉拉看。
文組翻譯
CDN 像是按「出貨重量」收費的物流公司。每天 2,500 萬支影片 × 每支 0.3GB = 每天出貨 7.5 PB。單價再便宜,乘上這個重量都是大錢。
看什麼
- 成本跟「看的次數 × 影片大小」成正比,跟上傳量無關。所以原書後面的省錢方法都在減少 CDN 送出的量(第 41–42 頁)
- 儲存只算原始檔。轉碼後每種解析度還各有一份,原書沒算進去(簡報補充)
- 試試把影片大小拉到 1GB(原書的上限):一天就是 50 萬美元
🗣️ Triton 被問「server cost 要多少錢」時的回答:「5K到5M NTD吧」,因為「你說不清的的需求,別人除非會「問米」,否則是沒可能答得出什麼有意思的回答的。」166 原書這裡先把需求問清楚才估,正是這個態度。
原書 Step 2High-level design · Figure 3
只有三個元件:Client、CDN、API servers
這一步要解決的問題哪些東西自己做、哪些用租的?
📖 原書 照面試官的建議,CDN 和 blob storage 用雲端現成的。為什麼不自己做?
- 系統設計面試不是從零打造一切。時間有限,選對技術比解釋技術細節重要。例如說「用 blob storage 存原始影片」就夠了,講 blob storage 的詳細設計可能是 overkill
- 自建可擴展的 blob storage 或 CDN 極為複雜、昂貴。連 Netflix、Facebook 都不全部自己做:Netflix 用 Amazon 的雲端服務 [4],Facebook 用 Akamai 的 CDN [5]
- Client:電腦、手機、smart TV
- CDN:影片存在 CDN,按下播放就從 CDN 串流
- API servers:串流以外的一切:feed 推薦、產生上傳 URL、更新 metadata DB 與 cache、使用者註冊……
白話:API server=櫃台電腦;cache=放手邊的小抄(01 章第 18 頁)。
面試官對兩個流程有興趣:影片上傳和影片串流。
文組版:便當(影片)從離你最近的超商拿;點餐、會員、推薦這些「櫃台業務」才找總店。
原書 Step 2Video uploading flow · Figure 4
上傳流程的 11 個元件
這一步要解決的問題一支影片從手機到可以播放,中間要經過哪些站?
📖 原書 上傳拆成兩個同時跑的流程:a. 上傳實際影片;b. 更新影片 metadata(URL、大小、解析度、格式、使用者資訊……)。
原書 Step 2Flow a:上傳實際影片 · Figure 5
傳上去 → 轉碼 → 兩件事同時做 → 通知 client
這一步要解決的問題影片檔本身怎麼一步一步變成「可以播」?
- 1. 影片上傳到 original storage
- 2. Transcoding servers 從 original storage 抓影片,開始轉碼
- 3a. 轉碼完成後同時做兩件事:轉好的影片送到 transcoded storage
- 3a.1. 轉好的影片分發到 CDN
- 3b. 「轉碼完成」事件放進 completion queue
- 3b.1. Completion handler 的一群 workers 持續從 queue 拉事件
- 3b.1.a / 3b.1.b. Completion handler 更新 metadata DB 和 cache
- 4. API servers 通知 client:影片上傳成功,可以串流了
文組版:食材送到中央廚房(1),師傅拿去切(2)。切好的一邊送去冷凍庫、再配送到各地超商(3a、3a.1);同時在白板上寫「這批好了」(3b),櫃台人員看到白板就更新菜單(3b.1),最後打電話告訴你可以來拿了(4)。
原書 Step 2Flow b:更新 metadata · Figure 6
檔案還在傳,metadata 已經先寫進去了
這一步要解決的問題檔名、大小這些「寄件單」資料,什麼時候寫進去?
📖 原書 檔案正在上傳到 original storage 時,client 同時送一個 request 更新影片的 metadata:檔名、大小、格式等。API servers 更新 metadata cache 和 database。
📖 原書圖的描述 request 經過 load balancer 分配到多台 API servers;API servers 先看 metadata cache,cache 裡沒有才去 Metadata DB 拿。
文組翻譯
寄大型包裹時,貨車還在路上,你已經先在網站上填好寄件單(寄件人、品名、重量)。等貨到了,對方系統裡早就有這筆資料。兩件事同時做,總時間只看比較久的那一件。
延伸基礎第 3 階 · bitrate懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
小美的影片,每秒要送多少資料才不會卡?
① 先想像
影片像水管裡的水:每播一秒,就要喝掉固定的一份資料。網路這條水管不夠粗,畫面就停下來轉圈圈。
你猜猜看:小美的影片 5 分鐘(300 秒)、300MB。每秒至少要送多少?
300MB ÷ 300 秒 = 每秒 1MB。1 byte = 8 bit,所以是每秒 8 百萬 bit,寫成 8 Mbps。
③ 這叫做 bitrate、Mbps
bitrate:每秒要用掉幾個 bit;越高通常越清楚,檔案也越大。Mbps:每秒百萬個 bit,網速和 bitrate 都用它當單位。
④ 跟這章的關係
原書要「可以切換畫質」:同一支影片準備好幾種 bitrate,網速不夠就改拿小的。
② 動手玩:畫質 × 網速
到這裡你已經會了小結 1 / 4
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
到這裡你已經會了:影片放哪、送出去要多少錢
- 影片這種大檔案放倉庫(blob storage),帳本只記寄件單(metadata)。
- 雲端 CDN 照送出多少 GB 收錢:觀看次數 × 影片大小 × 單價,一天 15 萬美元。
- bitrate 是每秒要用掉多少資料;網速比它小,畫面就卡。
下一階要解決的問題
手機怎麼一段一段跟 CDN 拿影片?網速忽快忽慢,還能自己換畫質嗎?
延伸基礎第 4 階 · streaming protocol懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
迴轉壽司:先看菜單,再一盤一盤拿
① 先想像
店家先給你一張菜單:每一盤是第幾道、各有大中小三種份量。吃完一盤再拿下一盤;趕時間就拿小份。
你猜猜看:捷運進隧道,網速從 8 掉到 1 Mbps。聰明的播放器會?
每一段都有好幾種畫質。下一段換小份,畫面糊一點但不會停;出了隧道再換回來。
③ 這叫做 streaming protocol、manifest
streaming protocol:手機和 CDN 約好「怎麼分段、怎麼點」的規則,例如 HLS、MPEG-DASH。manifest:那張菜單,列出每一段、每種畫質放在哪。
④ 跟這章的關係
原書列了四種 streaming protocol,提醒「不同協定支援不同的編碼和播放器」(下一頁)。
② 動手玩:10 段影片,每段 4 秒
原書 Step 2Video streaming flow · Figure 7
串流協定:不用背名字,但要知道它們不一樣
這一步要解決的問題手機怎麼一段一段跟 CDN 拿影片?要選哪一種約定?
📖 原書 下載是整支影片複製到你的裝置;串流是裝置持續從遠端接收影片串流,一次只載入一點點,所以能立刻、連續地看。
📖 原書 常見的 streaming protocol
| 名稱 | 全名 |
|---|---|
| MPEG–DASH | MPEG = Moving Picture Experts Group;DASH = Dynamic Adaptive Streaming over HTTP |
| Apple HLS | HTTP Live Streaming |
| Microsoft Smooth Streaming | — |
| Adobe HDS | HTTP Dynamic Streaming |
原書:這些是需要領域知識的低階細節,不必完全理解或記住。重要的是:不同協定支援不同的影片編碼和播放器,設計時要選對協定。推薦延伸閱讀 [7]。
📖 原書 影片直接從 CDN 串流,離你最近的 edge server 送影片給你,所以延遲很低。
延伸基礎第 5 階 · codec / container懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
一秒 30 張照片,為什麼 5 分鐘只有 300MB?
① 先想像
搬家打包:羽絨衣先用真空袋抽扁,再放進紙箱,紙箱外貼一張內容物標籤。影片也一樣:畫面和聲音先壓扁,再裝進一個盒子。
你猜猜看:每秒 30 張畫面,每張不壓縮約 6MB。5 分鐘(300 秒)不壓縮有多大?
30 × 6MB = 每秒 180MB,再 × 300 秒 = 54,000MB ≈ 54GB。小美的影片只有 300MB,是被壓了約 180 倍。
③ 這叫做 codec、container
codec:壓扁與解開的方法,例如 H.264、VP9、HEVC。container:裝畫面、聲音、metadata 的盒子,看副檔名就知道:.mp4、.mov、.avi。
④ 跟這章的關係
原書說「編碼格式」就由這兩部分組成(第 20 頁的籃子)。
② 動手玩:同一支 5 分鐘 1080p 影片
延伸基礎第 6 階 · transcoding懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
一大塊肉進中央廚房,要切成幾種份量?
① 先想像
中央廚房收到一大塊豬肉。便當店要大份、早餐店要小份、學校要另一種包裝。師傅得照每家店的需求各切一份。
你猜猜看:小美上傳 1 支影片。平台要準備 360p、720p、1080p 三種畫質,每種都要 H.264 和 VP9 兩種壓法。要做出幾個檔案?
3 種畫質 × 2 種壓法 = 6 個檔案。每一個都是一份要排隊、要花 CPU 的工作。
③ 這叫做 transcoding、resolution
transcoding:把影片從一種編碼、畫質,轉成另外好幾種。resolution:畫面有幾行點;360p、1080p、4K,數字越大越清楚。
④ 跟這章的關係
原書 Step 3 的第一件事就是轉碼(下一頁),而且說它「很耗運算、很花時間」。
② 動手玩:小美這支要準備哪些版本?
原書 Step 3Video transcoding
為什麼一定要轉碼:一支影片要準備好幾種份量
這一步要解決的問題為什麼不能直接播原始檔?
📖 原書 手機或相機錄影時會給檔案某種格式。要在其他裝置順暢播放,必須編碼成相容的 bitrate 和格式。Bitrate 是每單位時間處理的位元數;越高通常畫質越好,但需要更多運算能力和更快的網路。
📖 原書 四個理由
- 原始影片很佔空間:60 fps 的一小時高畫質影片可能要幾百 GB
- 很多裝置和瀏覽器只支援某些格式,為了相容要編成多種格式
- 頻寬高的人給高解析度,頻寬低的人給低解析度,兼顧畫質與流暢
- 網路狀況會變(尤其手機),要能自動或手動切換畫質才能連續播放
📖 原書 編碼格式的兩部分:點開這個 .mp4
- Container:像一個籃子,裝著影片、音訊和 metadata。看副檔名就知道:.avi、.mov、.mp4
- Codecs:壓縮與解壓縮演算法,目標是縮小檔案、保留畫質。最常用的是 H.264、VP9、HEVC
延伸基礎第 7 階 · DAG懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
滷肉飯便當:哪些步驟可以同時做?
① 先想像
做便當要洗米、煮飯、切肉、滷肉、裝盒。煮飯一定在洗米之後;裝盒要等飯和肉都好。洗米和切肉可以兩個人同時做。
你猜猜看:洗米 5、煮飯 20、切肉 10、滷肉 40、裝盒 5 分鐘。一個人做要 80 分鐘;兩個人分工最快幾分鐘?
切肉 10 → 滷肉 40 → 裝盒 5 = 55。洗米加煮飯只要 25,另一個人等得起。最長那一條決定總時間。
③ 這叫做 DAG、stage
DAG(directed acyclic graph):有箭頭、不會繞回頭的工序圖。stage:同一輪、彼此不用等的那幾件工作。
④ 跟這章的關係
原書用 DAG 寫「這支影片要做哪些處理」,讓轉碼能平行做(下一頁)。
② 動手玩:請幾位師傅?
原書 Step 3Directed acyclic graph (DAG) model · Figure 8–9
每位創作者要的處理不一樣:用 DAG 描述工作
這一步要解決的問題每位創作者要的處理不一樣,怎麼寫下「要做哪些事、誰先誰後」?
📖 原書 轉碼很耗運算、很花時間,而且創作者需求不同:有人要浮水印、有人自己提供縮圖、有人上傳高畫質。要支援不同的 pipeline 又維持高平行度,就加一層抽象,讓 client programmer 定義要執行哪些任務。Facebook 的 streaming video engine 用 DAG 程式模型,把任務分成 stage,可以依序或平行執行 [8]。
📖 原書 原始影片拆成 video、audio、metadata,video 可以做:
- Inspection:確認品質良好、檔案沒有損壞
- Video encodings:轉成不同解析度、codec、bitrate(Figure 9)
- Thumbnail:使用者上傳,或系統自動產生
- Watermark:疊在影片上的圖片,帶有影片的識別資訊
文組版:DAG 就是中央廚房的「工序圖」:洗菜和煮飯可以同時做,但切菜一定在洗菜之後;箭頭不會繞回頭(acyclic)。
原書 Step 3 · 動手玩DAG builder
自己排一張工序圖:哪些可以同時做?
這一步要解決的問題工序圖排得好,能快多少?
玩法
- 多勾幾種解析度:任務變多,但只要 worker 夠,平行做的時間只看最慢的那一個(通常是 4k)
- 改成「創作者自己上傳縮圖」:Thumbnail 這個任務就不用跑
- 關掉 Watermark:少一層 stage
📖 原書 這就是原書要的「彈性」與「平行度」:每支影片的 DAG 由設定檔產生(第 28 頁),排程器再把它拆成 stage(第 30 頁)。
時間單位是示意值:4k 編碼最貴,1080p 次之,縮圖、檢查、浮水印、合併都很快。真實數字取決於影片長度、codec 和機器。
到這裡你已經會了小結 2 / 4
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
到這裡你已經會了:手機怎麼看、平台怎麼轉
- 手機照菜單(manifest)一段一段拿,網速變了就換畫質:這套約定叫 streaming protocol。
- 影片先用 codec 壓扁、再裝進 container;transcoding 就是轉成好幾種畫質和壓法。
- 要做的處理寫成 DAG:同一個 stage 的工作可以同時做,最長那條決定時間。
下一階要解決的問題
轉碼工廠裡,影片要先怎麼切?工作那麼多、師傅那麼少,誰先做?
延伸基礎第 8 階 · GOP懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
描圖紙動畫:從第 6 張開始看,看得懂嗎?
① 先想像
做翻頁動畫時,第 1 張畫完整的場景。之後每張描圖紙只畫「跟上一張不一樣的地方」:嘴巴動了、手舉起來了。
你猜猜看:只拿到第 6 張描圖紙,看得出完整畫面嗎?
第 6 張只畫了嘴巴,背景和身體在前面幾張。所以影片每隔幾秒就重畫一張完整的,讓人能從那裡開始看。
③ 這叫做 keyframe、GOP
keyframe:完整畫好的那一張。GOP(group of pictures):從一張 keyframe 開始的一小組畫面,自己就能播,通常幾秒長。
④ 跟這章的關係
原書的 preprocessor 先把影片依 GOP 切開(第 27 頁);之後平行上傳也照 GOP 切。
② 動手玩:點一張,從那裡開始看
原書 Step 3Video transcoding architecture · Figure 10
轉碼架構:六個元件
這一步要解決的問題轉碼這座工廠由哪幾個部門組成?
原書 Step 3Preprocessor · Figure 11
Preprocessor:先把影片切成一段一段能獨立播放的 GOP
這一步要解決的問題影片進工廠的第一站,要先做哪些準備?
📖 原書 四項職責
- Video splitting:影片串流切成(或再切成)更小的 Group of Pictures(GOP)對齊單位。GOP 是依特定順序排列的一組 frame,每塊都能獨立播放,通常幾秒長
- 有些舊手機或瀏覽器不支援切割,preprocessor 替舊 client 依 GOP 對齊切割
- DAG generation:依 client programmer 寫的設定檔產生 DAG(第 28 頁)
- Cache data:preprocessor 是分段影片的 cache。為了可靠,把 GOP 和 metadata 存進 temporary storage;編碼失敗時可以用這些持久化的資料重試
動手切:什麼叫「能獨立播放」
簡報補充(原書沒寫):每個 GOP 以一個完整畫面(keyframe,I)開頭,後面的 frame 只記「和前面差多少」。從 keyframe 切,每塊才看得懂;從中間切,後半塊缺了參考畫面。
原書 Step 3Preprocessor · DAG generation · Figure 12–13
兩個設定檔,產生一張兩個節點、一條邊的 DAG
這一步要解決的問題工序圖是誰畫的?用什麼格式寫?
📖 原書 Preprocessor 依 client programmer 寫的設定檔產生 DAG。Figure 12 由右邊兩個設定檔產生(Figure 13,來源:微博的影片處理架構 [9])。
讀法:左邊的任務叫 download-input,做完把檔案放進 context.inputVideo,然後 next 'transcode'。右邊的 transcode 從 context.inputVideo 拿輸入。「next」就是那條邊,「context」就是兩個節點交換資料的地方。
延伸基礎第 9 階 · priority queue懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
急診室不是先來先看
① 先想像
中央廚房的出單機一直吐出工作單,師傅誰空下來誰去拿一張。有些單特別急,就像急診室不是先來先看。
你猜猜看:急診依序來了感冒(輕)、骨折(中)、心臟病(重)。只有一位醫生空著,先看誰?
照嚴重程度排,不照到達順序。工作單也可以照「多急」排。
③ 這叫做 queue、priority queue
queue:排隊等著被做的工作單。priority queue:照優先順序、不照先來後到拿的 queue。做事的師傅叫 worker。
④ 跟這章的關係
原書的 resource manager 有三個 priority queue(下兩頁)。存在硬碟、停電也不掉的 queue 叫 message queue,見 01 章第 30 頁。
② 動手玩:一位師傅、一排工作單
還在排隊的工作單
師傅做過的順序
原書 Step 3DAG scheduler · Figure 14–15
DAG scheduler:把圖拆成一層一層的 stage
這一步要解決的問題工序圖怎麼拆成「這一輪可以同時做的工作」?
📖 原書 DAG scheduler 把 DAG 拆成多個 stage 的任務,放進 resource manager 的 task queue。
- Stage 1:原始影片拆成 video、audio、metadata
- Stage 2:video 再拆成兩個任務:video encoding 和 thumbnail;audio 做 audio encoding
原書內文寫「split into three stages」,但只描述了 Stage 1 和 Stage 2,圖上也是兩個 stage;這裡照圖畫兩個。
文組版:同一層的工作可以分給不同師傅同時做;下一層要等這一層的材料齊了才開始。
原書 Step 3Resource manager · Figure 16–17
Resource manager:三個 queue,一個 task scheduler
這一步要解決的問題工作那麼多、worker 那麼少:先做哪一件、交給誰?
- Task queue:priority queue,放待執行的任務
- Worker queue:priority queue,放 worker 的使用率資訊
- Running queue:正在跑的任務,以及跑它的 worker
- Task scheduler:挑出最佳的 task / worker,叫選中的 worker 去執行
- 1. 從 task queue 拿最高優先權的任務
- 2. 從 worker queue 拿最適合的 worker
- 3. 指示選中的 worker 執行任務
- 4. 綁定 task / worker 資訊,放進 running queue
- 5. 任務完成後,從 running queue 移除
原書 Step 3Task workers · Temporary storage · Encoded video · Figure 18–21
真的去做事的 workers、放半成品的地方、最後的成品
這一步要解決的問題真正動手的是誰?做到一半的東西放哪?
📖 原書 Task workers
執行 DAG 裡定義的任務。不同的 worker 跑不同的任務:Watermark、Encoder、Thumbnail、Merger……
📖 原書 Temporary storage
這裡用了好幾種儲存系統,看資料型態、大小、存取頻率、壽命來選。例如 metadata 常被 worker 讀、又小 → 放記憶體 cache;影片和音訊 → 放 blob storage。對應的影片處理完成後,temporary storage 的資料就釋放。
📖 原書 Encoded video
整條編碼 pipeline 的最終輸出,例如 funny_720p.mp4。
原書 Step 3Speed optimization:平行上傳 · Figure 22–23
整支上傳太慢:client 先依 GOP 切好再傳
這一步要解決的問題1GB 的影片一次傳,斷線就要重來,怎麼辦?
📖 原書 把影片當一整塊上傳很沒效率。依 GOP 對齊切成小塊,上次上傳失敗時可以快速續傳。
📖 原書 依 GOP 切檔這件事可以在 client 端做,提升上傳速度。舊版 client 不會切的話,整支影片傳到 server,由 server 切(錯誤處理,第 43 頁)。
文組版:搬家時把家具拆成一箱一箱,好幾台車同時載;其中一台半路拋錨,只要重送那幾箱,不用整間屋子重搬。下一頁可以自己試。
原書 Step 3 · 動手玩平行上傳 + 斷線續傳
網路斷一次,要重傳多少?
這一步要解決的問題切塊上傳到底省多少?自己按斷線試試。
模擬的假設(示意)
- 300 MB 的影片(原書的平均大小)切成 16 塊
- 單一連線每秒 10 MB;你家網路總頻寬每秒最多 40 MB,所以同時傳 4 塊以上就不會更快
- 斷線 1 秒後自動恢復
看什麼
- 整支一次傳:傳到 90% 斷線,從頭再來
- 切 GOP:已完成的塊留著,只重傳斷線那一刻傳到一半的塊
- 平行讓單一連線的速度上限不再是瓶頸,直到碰到你家總頻寬
原書 Step 3Speed optimization:上傳中心靠近使用者 · Figure 24
在全球設好幾個上傳中心,用 CDN 當上傳中心
這一步要解決的問題人在巴西,上傳到美國很慢,怎麼辦?
📖 原書 另一個加快上傳的方法是在全球設多個上傳中心。美國的人上傳到北美上傳中心,中國的人上傳到亞洲上傳中心。做法是用 CDN 當上傳中心。
文組翻譯
寄包裹到總公司,不用自己開車去台北,交給巷口的便利商店就好。超商幫你把包裹併車送到總公司,路上的事它比你熟。
距離是城市之間的大圓距離取整;來回時間用「光在光纖裡每毫秒約 200 公里」換算,是物理下限,真實網路更慢。
🔭 Triton 會追問 「CDN 當上傳中心」和 Triton 說的「Write不能用CDN」矛盾嗎?見第 50 頁。
原書 Step 3Speed optimization:parallelism everywhere · Figure 25–26
每一段都在等上一段:加 message queue 解耦
這一步要解決的問題每一站都在等上一站,怎麼讓大家同時動?
📖 原書 低延遲需要下苦工。另一個優化是做成鬆耦合的系統、開啟高平行度。放大看影片從 original storage 到 CDN 的過程(Figure 25):每一步的輸出都依賴上一步的輸入,這個依賴讓平行很難。
白話:鬆耦合=每一站不用盯著下一站,各做各的;message queue=站與站之間、存在硬碟上的工作單籃子(第 29 頁、01 章第 30 頁)。
加 MQ 之前
Encoding module 必須等 download module 的輸出。
加 MQ 之後
Encoding module 不用再等。MQ 裡只要有事件,就可以平行執行那些工作。
甘特圖是示意:download 每段 1 秒、encoding 2 秒、upload 1 秒。上面的分頁切到 Figure 25 是「整批做完才交給下一段」,切到 Figure 26 是「每段一好就丟進 MQ」。
延伸基礎第 10 階 · pre-signed URL懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
外送員要上 12 樓,管理員給他一張臨時門卡
① 先想像
大包裹要送到 12 樓 A 戶。管理員不用自己扛上樓,只要給外送員一張卡:只開 12A、今晚 8 點前有效,蓋了管理員的鋼印。
你猜猜看:外送員把卡上的「12A」塗改成「15B」,15B 的門會開嗎?
鋼印蓋在「12A、8 點前」這整串字上。改一個字,門口的機器一驗就知道。
③ 這叫做 pre-signed URL、signature
pre-signed URL:先簽好名、限時、只能上傳到指定位置的網址。signature:那個鋼印,改網址裡任何一個字就對不上。
④ 跟這章的關係
原書用它確保「對的人傳到對的位置」(下一頁)。順便的好處:影片不必經過 API server。
② 動手玩:管理員(API server)要扛多少?
原書 Step 3Safety optimization:pre-signed upload URL · Figure 27
只讓有權限的人,傳到對的位置
這一步要解決的問題怎麼確定只有對的人,把影片傳到對的位置?
- Client 向 API servers 發 HTTP request 拿 pre-signed URL,這個 URL 給予「URL 指定的那個物件」的存取權限
- API servers 回傳 pre-signed URL
- Client 收到後,用這個 URL 上傳影片
📖 原書 「pre-signed URL」是 Amazon S3 的用語;Microsoft Azure blob storage 有同樣功能,叫「Shared Access Signature」[10]。
動手試:這張「單次通行證」能拿來做什麼?
URL 和錯誤訊息仿 S3 的格式,是示意。重點是簽章蓋住了「哪個 bucket、哪個 key、什麼方法、幾點到期」,改任何一個字,簽章就對不上。
原書 Step 3Safety optimization:保護影片
創作者怕影片被偷:三種保護方式,選一種
這一步要解決的問題創作者怕影片被偷,有哪些保護方式?
📖 原書 Digital rights management(DRM)
三大 DRM 系統:Apple FairPlay、Google Widevine、Microsoft PlayReady。
📖 原書 AES encryption
把影片加密並設定授權政策,播放時才解密。確保只有被授權的使用者能看。
📖 原書 Visual watermarking
疊在影片上、帶有影片識別資訊的圖片,可以是公司 logo 或公司名稱。
文組版:浮水印像書上蓋「某某圖書館藏書」,偷了也看得出是誰的;加密像把書鎖在箱子裡,沒有鑰匙打不開;DRM 是整套「鑰匙由誰保管、誰能借」的制度。
延伸基礎第 11 階 · long tail懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
書店門口的平台,該放哪幾本?
① 先想像
書店有 100 本書。門口平台那幾本天天有人買;後面倉庫的很多本,一年賣不到一次。
你猜猜看:第 1 名每月賣 100 本、第 2 名 50、第 3 名 33……第 k 名賣 100 ÷ k。前 10 名約佔總銷量多少?
前 10 名加起來約 293 本,100 本全部約 519 本,佔 56%。只佔 10% 的書,賣掉了一半多。
③ 這叫做 long tail
long tail(長尾):少數很紅、大多數很冷。把銷量由高到低畫成圖,冷門那段拖著一條很長的尾巴。
④ 跟這章的關係
原書省 CDN 錢的方法全靠這個形狀:只有最紅的影片放 CDN(下一頁)。
② 動手玩:平台放前幾名?
原書 Step 3Cost-saving optimization · Figure 28
少數影片被看很多次,大多數影片幾乎沒人看
這一步要解決的問題每天 15 萬美元的 CDN 帳單,怎麼省?
📖 原書 CDN 確保全球快速送達,但很貴,資料量大時尤其貴。研究顯示 YouTube 的影片串流是長尾分布 [11][12]:少數熱門影片被頻繁觀看,很多影片很少人看或沒人看。據此做幾個優化:
- 只有最熱門的影片從 CDN 送,其他從自家大容量儲存的 video servers 送(Figure 28)
- 冷門內容不一定要存很多種編碼版本。短影片可以 on-demand 編碼
- 有些影片只在某些地區熱門,不用分發到其他地區
- 像 Netflix 一樣自建 CDN、和 ISP(Comcast、AT&T、Verizon……)合作。自建 CDN 是巨大工程,但對大型串流公司合理。ISP 遍布全球、靠近使用者,合作能改善觀看體驗、降低頻寬費用
這些優化都建立在內容熱門度、使用者存取模式、影片大小等條件上。做任何優化前,先分析歷史觀看模式 [12][13]。
文組版:超商冷藏櫃很貴,只放每天都賣得掉的飯糰和便當;一年賣不到三份的特殊口味,客人下單才從倉庫寄。下一頁可以拉拉看「放多少進冷藏櫃」。
原書 Step 3 · 動手算熱門放 CDN、長尾放自家
只把前 1% 的影片放 CDN,能省多少?
這一步要解決的問題只把最紅的放 CDN,到底能省多少?
模擬的假設(示意)
- 10 萬支影片,觀看次數照 Zipf 分布:第 k 名的觀看數 ∝ 1 / ks。s 越大,熱門越集中
- 總觀看與每 GB 單價照原書:每天 2,500 萬次、全部走 CDN 時 $150,000 / 天
- 自家 video servers 不是免費的,原書沒給成本,這裡只算它要送多少觀看
看什麼
前 1% 的影片就扛了大半的觀看。CDN 帳單跟著「CDN 送出的觀看」下降,代價是自家機房要扛剩下的長尾。這也是原書最後那句的理由:先分析歷史觀看模式,分布的形狀決定這招值不值得。
原書 Step 3Error handling
錯誤一定會發生:能救的重試,救不了的停下來回錯誤碼
這一步要解決的問題轉碼失敗、機器當掉,各要怎麼處理?
📖 原書 兩種錯誤
- Recoverable error:例如某個影片片段轉碼失敗。做法是重試幾次;持續失敗、系統認定救不回來,就回適當的錯誤碼給 client
- Non-recoverable error:例如影片格式損壞(malformed)。停掉這支影片相關的所有任務,回適當的錯誤碼給 client
白話:右邊的 master=正本帳本、slave=影本(01 章第 14 頁);stateless=櫃台不記客人,換一台照樣接。
文組翻譯
切菜切到手 → 包紮好繼續切(重試)。送來的食材已經壞了 → 不管切幾次都沒用,直接退貨並告訴客人原因。
🗣️ Triton 原書對 DB 的處理和 Triton 的課程投影片一致:「監察系統發現 Master RDBMS 當掉後,應該懂得自動把 Slave DB提升成 Master並進行切換」;worker 那條也一樣:「交給 Job Farm 的工作,在本來的 Worker Instance 當掉後,會自動由其他Worker 重做」073 · 第 16 頁
📖 原書 各元件的 playbook:點一張卡,看壞了怎麼辦
原書 Step 4Wrap up
面試還有時間的話,可以再談這四件事
這一步要解決的問題主體設計完,還有時間可以多聊什麼?
📖 原書 Scale the API tier
API servers 是 stateless,所以很容易水平擴展。
📖 原書 Scale the database
可以談 database replication 和 sharding。
白話:replication=把帳本影印幾份;sharding=把帳本拆成幾本分開放(01 章第 34 頁)。
📖 原書 Video takedowns
侵權、色情或其他違法的影片要下架。有些在上傳過程中由系統發現,有些透過使用者檢舉發現。
📖 原書 Live streaming
即時錄製、即時廣播。這章的系統不是專為直播設計,但兩者都要上傳、編碼、串流。差別:
- 直播的延遲要求更高,可能需要不同的串流協定
- 直播對平行度要求較低,因為小段資料已經是即時處理的
- 直播需要不同的錯誤處理,花太多時間的錯誤處理都不能接受
原書整章的骨架到這裡講完:上傳(pre-signed URL、GOP 平行、上傳中心)→ 轉碼(DAG、preprocessor、scheduler、resource manager、workers)→ 串流(CDN、協定)→ 省錢(長尾)→ 錯誤處理。接下來看 Triton。
到這裡你已經會了小結 3 / 4
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
到這裡你已經會了:原書的完整設計
- 影片依 GOP 切:每塊從 keyframe 開始,能獨立轉碼、獨立重傳。
- 工作單放 priority queue,急的先做;worker 誰空誰接,壞了換一台重試。
- pre-signed URL 讓手機直接把影片傳進倉庫;熱門影片放 CDN、long tail 放自家。
下一階要解決的問題
原書講完了。接下來看 Triton:worker 處理一支 1GB 的影片,記憶體要用掉 1GB 嗎?CDN 真的什麼都能扛嗎?
Triton 觀點先看全貌
Triton 沒設計過 YouTube,但這章的骨架他都講過
✅ 同意 / 一致
- 串流就是固定大小的 buffer:「即使你看完總共23GB的影片也好,你也只用上了固定的很小塊Memory。」(第 48 頁)130
- 大檔案不放 main DB(第 49 頁)073
- 影片是讀多寫少,讀交給 CDN(第 50 頁)166 · 073
- 轉碼是 MQ 的正當用途:吃資源、跑很久(第 53 頁)185 · 073
- 雲端省人力,對新創划算(第 52 頁)046
🔭 原書沒講、Triton 會追問
- Worker 讀影片是 stream 還是整檔讀進記憶體?(第 49 頁)
- 「CDN 當上傳中心」:寫真的能交給 CDN 嗎?(第 50 頁)
- 新影片剛上架,CDN 是冷的(第 51 頁)137
- Resource manager 的 queue 用什麼做?整支影片一個任務,ACK timeout 怎麼設?(第 53–54 頁)078 · 030
- 轉碼狀態怎麼追、怎麼通知 client(第 55 頁)020 · 185
文組版:原書教中央廚房「切菜要分工、冷藏車用租的」,Triton 都同意。他會追問的是更底層的細節:師傅是不是把整頭豬扛上砧板才開始切?訂單白板用粉筆寫還是用簿子記?
延伸基礎第 12 階 · stream懂的人可以跳過
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
抄一本 1,000 頁的書,桌上要攤幾頁?
① 先想像
桌子很小。一種抄法是先把整本書影印一份攤在桌上;另一種是書放書架,一次只翻開一頁,抄完翻下一頁。
你猜猜看:一次只翻開一頁,抄 1,000 頁的書,桌上最多同時攤著幾頁?
不管書多厚,桌上永遠只有正在抄的那一頁。書再厚,桌子也不用變大。
③ 這叫做 stream、buffer
stream:資料像水流,一小段一小段讀、處理完就丟。buffer:桌上那一小疊,放著正在處理的那一段。
④ 跟這章的關係
桌子就是記憶體(02 章第 12 頁)。Triton 130 講的正是這件事(下一頁)。
② 動手玩:一台轉碼 worker,記憶體 8GB
Triton 本人說130 喵談 io streaming · 128
23GB 的電影,只用一小塊固定的記憶體
你猜猜看:8 小時的 4K 電影約 23GB,手機記憶體只有 8GB。看得完嗎?
手機只拿一小塊固定的記憶體當 buffer:放滿就請網站等一下,播完就丟。Triton 的原文在下面。
「一套4K的8小時影像,很可能需要0.8 x 8 x 3600 = 23GB的空間。」「你打開url時,你的browser / App會拿固定量(例如128 MB)的Memory作為buffer。」「只要buffer還沒滿,OS就會告訴網站來傳送更多的data並且放到buffer內。」「你的應用程式就只是從buffer拿data來做H265解壓和顯示到畫面。」
「即使你看完總共23GB的影片也好,你也只用上了固定的很小塊Memory。」(原文重複了五次)🗣️ Triton 本人說 130-喵談 io streaming.md · 2024 年 RDBMS 收費課程內容
「我們應該把File當成Stream而不是ByteArray」(原文重複五次)「java是有BufferedReader的」🗣️ Triton 本人說 128-喵談 buffer stream and local cache.md · 主文第一段
依 Triton 原則推論把 130 套到上傳與轉碼
原書沒講的一層:worker 是把整支影片讀進記憶體嗎?
原書這樣做會出什麼事?轉碼 worker 記憶體 8GB,同時接到 10 支 1GB 的影片,每支都先整份讀進來再轉。
10 × 1GB = 10GB,超過 8GB。原書沒說 worker 怎麼讀檔;Triton 的原則在下面三張卡。
🗣️ Triton 本人說 多階段就用 Reader / Writer 串起來
「如果一份data只會用一次的,你應該用streaming的手段來處理。」「如果這份data要做多個階段的……你的Application code應該是把不同階段的上下游,用 Reader(如果是data input)/Writer(如果是data output)串接起來。千萬不要先做一個階段再把整份data放memory。」「有用上io streaming和沒有用io streaming的程式,其效能差距是差距倍計的。」130 · 結論
🔭 推論 套到 YouTube
- 上傳:原書的 pre-signed URL 讓 client 直接傳到 blob storage,影片的 byte 根本不經過 API server,API server 不必替 1GB 的檔案開 buffer
- 轉碼:worker 從 blob 讀 → 解碼 → 編碼 → 寫回 blob,應該是一條 Reader → Writer 的管線,而不是
ReadAll一支 1GB 影片再處理 - GOP 切塊:每個任務只碰幾秒的影片,記憶體上限固定,跟影片總長無關
- Inspection:130 擔心「zip bomb」;影片的對應是「malformed」或解開後超大的檔案。用 stream 處理,就能在超過上限時停下來
🗣️ Triton 本人說 檔案不要放進 main DB
「有人說: File 應該以 BLOB物件放到 Main DB ,但是 – File 一般建立後極少被改動 – RDBMS 一般用上系統中最高級的 SSD ,而 File 一般不需要這種效能」「延伸思考:在檔案名字中額外加上 MD5 ,許多能解決很多 File caching 問題」073-lesson3.pdf.md · 第 30 頁 File DB
🔭 原書的 original / transcoded storage 用 blob storage、metadata 才放 DB,和這頁一致。073 的「檔名加 MD5」套到 funny_720p.mp4:內容變了檔名就變,CDN 不會拿到舊的。
🗣️ 「別在 AS 上執行 async API 的工作,會害 AS 當掉的」073 · 第 15 頁
Triton 本人說166 server cost · 073 對 Surge 有抵抗性
讀可以交給 CDN,寫不行
原書說可以用 CDN 當上傳中心。每天 150TB 的上傳,有了 CDN 之後,original storage 每天要寫入多少?
CDN 只是離你近的入口,幫你把 byte 搬回總倉。讀可以讓分店替你回答,寫不行:每個 byte 最後都要寫進倉庫。
「Write不能用CDN,Read可以。所以Write越重的系統(像是電商購物),比單純的blogging / 討論區(像某mobile01)更花錢」🗣️ Triton 本人說 166-有人問一個系統的server cost要用上多少錢。.md · 第 2 點
「READ 能用 Cache 支撐,WRITE 不行」「吃大量資源的 endpoint ,可以考慮轉用 async 模式」🗣️ Triton 本人說 073-lesson3.pdf.md · 第 15 頁「對 Surge 有抵抗性」
🗣️ 166 列的其他成本因素:「你要求越低latency,你系統一定要預留更多CPU / IO給相同的user,自然更貴。」「如果你的logging要能快速找到(像是你要用kibana),這也是一筆大錢。」「server效能跟developer的笨事度成反比。」
🔭 推論 用原書的數字看讀寫比
YouTube 是 166 說的「便宜那一型」:讀遠多於寫,讀幾乎全能交給 CDN。所以原書的成本估算只算 CDN,而且所有省錢方法都在讀那一側。
🔭 推論 那「CDN 當上傳中心」呢?
不矛盾,但要講清楚:上傳時 CDN 只是離你近的入口,幫你把 byte 更快搬回 origin;它不能替你「吸收」寫入。每一個上傳的 byte 最後都要寫進 original storage、被轉碼、再存成好幾份。所以每天 150TB 的寫入成本,不會因為 CDN 而少一分。
Triton 補充137 喵談 push notification · CDN warm-up
新影片剛上架,CDN 是冷的
原書這樣做會出什麼事?影片要「先變熱門」才進 CDN。大頻道新片一上架,1,000 萬訂閱者同一秒收到通知,CDN 上還沒有這支片。誰先倒?
CDN 沒貨,每個 request 都穿過 CDN 回總倉拿(cache miss)。10 章用「大廳的影本架」講過同一件事(連結在下面)。
「如果你有10M active user 你想過發promotional notification給這10M user,讓用戶同秒收到 就只1% 點開來也好,流量足夠穿過CDN讓你的backend支持不了給blank page了」🗣️ Triton 本人說 137-喵談 push notification.md · 主文
「CDN也要時間warm-up的 你同秒太多相同的request,就是cache-miss讓你server 來面對 所以智障手段:那10M user,先random抽一小部份人來push notification 讓CDN和你的server收到這一小波流量後,warm-up後再push剩下的」💬 討論串回覆,作者未標示 137 · 原檔沒有標發言者,不當成 Triton 原話
🔭 推論 原書「只有熱門影片放 CDN」隱含一個問題:一支影片要先「變熱門」才進 CDN。但大頻道的新片一上架、訂閱通知一發,第一秒就是熱門,而那一刻 CDN 還沒有它。
白話:origin=CDN 背後的總倉(自家的 server);cache miss、warm-up 見 10 章第 35 頁。
Triton 本人說046 Server Side Refactoring@AWS(HYPEBEAST)
用雲端,Triton 同意;但他會問「哪一個服務值這個錢」
你猜猜看:Triton 同意新創用雲端省人力。那雲端上每一個現成服務(managed service)都該買嗎?
他在 HYPEBEAST 的經驗:CDN 和 S3 值得租;cache 放在 App server 本機,比租來的還快。
✅ 同意原書:人力比機器貴
「AWS is good for startup to save manpower」046 · 第 26 頁 Conclusion
HYPEBEAST 當時的挑戰第一條是「High traffic! High traffic! High traffic!」,第二條是「Lack of manpower – 猫の手も借りたい」;搬 ElasticSearch 到 AWS ES 的理由也是缺人力。架構裡用的正是原書那兩樣:Fastly CDN 和 Amazon S3。046 · 第 3、5、20 頁
🗣️ Triton 本人說 但不是每個 managed service 都值得
- ElastiCache:「Just waste your money」「Application server is CPU-bound, Cache server is RAM-bound – Combining them is perfect」「Using localhost memcache, the avg time on cache decreased from 30ms to 8ms」第 25 頁
- RDS Multi-AZ:「Robbery, 2x price but no readonly-slave」;「EXTRA 1MS DOES MATTER FOR BAD CODE」第 15 頁
- 「But AWS feature is not enough for advanced usage – Especially you have technical debt」第 26 頁
🔭 推論 套到原書
原書的 metadata cache 是每個 request 都會碰的東西。046 的經驗是把 memcache 放在 AS 本機,平均從 30ms 降到 8ms;原書沒指定 cache 放哪,這是可以追問的細節。
CDN 和 blob storage 這種「自建極難、規模經濟極大」的服務,租是對的(原書也說連 Netflix、Facebook 都租);cache 這種「自己裝很簡單」的,Triton 會先算一下帳。
Triton 同意185 · 078 · 073 · 030 · 什麼工作該放 MQ
✅ 轉碼是 MQ 的教科書用途,但 queue 要是真的 MQ
原書這樣做會出什麼事?Resource manager 的 task queue 沒說用什麼做。如果放在 Redis 的記憶體裡,尖峰時上傳追過轉碼,會怎樣?
轉碼任務一定要跑完一次,不能掉。真的 MQ 長什麼樣、為什麼不放 Redis,看下面三張卡;MQ 的基本概念見 01 章第 30 頁。
🗣️ Triton 本人說 用 MQ 的理由
「把工作先丟MQ再慢慢處理,一般而且有3個原因:1 這Request需要拿大量資源,而且很可能跑很久,不適合在App. Server上直接來跑。(例子:報表類的工作)2 這工作是慢慢做也死不了人的,我想把MQ當成一個buffer,讓peak hours的工作可以在non-peak hours時來做。……3 你家主管不知從那邊聽到MQ好棒棒高大上,強迫你來用MQ。」185-電商用 queue-.md
🔭 轉碼完全符合理由 1:吃大量 CPU、跑很久。原書 Figure 26 加 MQ,Triton 不會有意見。
🗣️ Triton 本人說 真的 MQ 長什麼樣
「正常的MQ Server – 會把收到的Message先存到HDD,然後才回應成功 – 會等待收件者回傳「工作完成」,才真的把訊息刪掉 – 如果收件者趴掉,則把訊息丟給其他的 channel listener」078 · 第 7 頁
「交給 Job Farm 的工作,在本來的 Worker Instance 當掉後,會自動由其他Worker 重做」「你可以視 Queue中的剩餘 Message 量,動態決定增減Worker Server」073 · 第 16、35 頁
🔭 原書的「Task worker down:在新的 worker 上重試」,就是真 MQ 的 ack 機制免費送的。
🗣️ Triton 本人說 Redis 不是 queue
「sidekiq是基建於redis的,然後redis本身沒法做到high persistence(斷電後redis會有data loss的)」「如果你的consumer消化速度追不上producer生產速度 你的redis很容易就會爆炸掉。rabbitmq / Kafka是使用HDD來存放buffer的。」030
🔭 原書 resource manager 的 task queue 沒說用什麼做。轉碼任務「一定要跑完一次」,是 078 定義的 Message,不是可以掉的 Signal;尖峰時上傳量追過轉碼量,queue 會變很長。照 030,這個 queue 不該放在 Redis 的 RAM 裡。
依 Triton 原則推論078 智障架構 1 · 任務大小要固定
整支影片一個任務,ACK timeout 要設多久?
原書這樣做會出什麼事?一支 60 分鐘的影片當成一個任務,要跑 30 分鐘;MQ 等 worker 回「做完了」最多只等 10 分鐘。
等不到回執(ack)就當作沒做完,交給下一台。結果同一支影片被轉了好幾次。
「Worker工作所需時間跟用戶數量正比 你怎決定MQ Server等待 ACK的 Timeout?」🗣️ Triton 本人說 078-mq-intro.pdf.md · 第 13 頁「智障架構1」
「WorkerA每 5000個 Firebase Token建立一個 Message丟到 MQ Server – 註: 5000這數字視你具體系統設定會有所不同」🗣️ Triton 本人說 078 · 第 15 頁「正確架構」
🔭 推論 078 談的是推播,不是影片。但結構一樣:一則 message 的工作量如果跟某個會變大的東西成正比(用戶數、影片長度),timeout 就沒辦法設。Triton 的解法是把工作切成固定大小。原書的 GOP 切塊剛好做到這件事:每個轉碼任務只處理幾秒的影片,不管原片是 3 分鐘還是 3 小時。
白話:ack=「做完了」的回執,沒收到就重送(10 章第 19 頁);timeout=最多等多久。
Triton 補充020 MQ解法 · 185 · 027 · 轉碼狀態與通知 client
轉碼要幾分鐘:狀態記在哪、怎麼告訴 client?
🗣️ Triton 本人說 長時間的 async 工作
讀者問:第三方服務的工作「會跑得比較久,可能會到數分鐘以上的」,又不支援 callback。Triton 的「路邊小酸酸的最佳解」:「換一家有支持Callback的服務供應商便好。」換不了的話:「建立一個outstanding_tasks的table(不使用redis的原因是怕redis當掉後data loss有工作變成孤兒)」……「第三方服務上做完的工作,便把其ID丟到message queue,然後讓另一個worker來做後續工作,做完後才刪掉對應的outstanding_tasks。」020-MQ解法.md
🔭 推論 原書的 completion queue + completion handler(第 12 頁)跟 020 的最後一步幾乎一樣:做完的事件丟進 MQ,由另一組 worker 做後續、更新資料庫。020 多講了一件原書沒講的事:「還沒做完的工作」要記在 table 裡,不要只放 Redis。如果轉碼外包給雲端轉碼服務,就是 020 的原題。
文組翻譯
送洗衣服:店員收衣服時說「收到了,明天好」(202)。好的洗衣店洗好會傳簡訊給你(push);爛的讓你每兩小時打電話問一次(polling)。店裡的待洗單要寫在本子上(table),寫在白板(Redis)上,一擦就不知道誰的衣服還沒洗。
原書這樣做會出什麼事?第 4 步只寫「通知 client」。如果改成手機每 2 秒問一次「轉好了沒」,100 萬人同時在等,API server 每秒被問幾次?
100 萬 ÷ 2 秒 = 每秒 50 萬次,幾乎全是白問。polling 和 push 的差別見 10 章第 42 頁;Triton 的答案在下面。
🗣️ Triton 本人說 告訴 client:推,不要輪詢
「不好架構:B使用polling,每2秒就問A:「我的食材呢」 好架構:A建立websocket(或任何server push技術),安靜地等A去買東西和告訴結果。」185
「202(Accepted) – 伺服器收到請求,並且確定請求是沒問題的 – 不過,這請求需要很多時間來工作,為了避免客戶端白白等待。即使工作還沒完成也好,先回答客戶端:「工作收到了」 – 沒事別亂用」027 · 常用 HTTP 回答碼
📅 2026 補充書本身的時間差
協定、codec、續傳:書寫完之後變了什麼
📅 2026 補充 串流協定收斂
原書列的四種裡,Microsoft Smooth Streaming 和 Adobe HDS 已經很少見;主流是 HLS 和 MPEG-DASH,而且兩者可以共用 CMAF 格式的同一份影片片段,不必各存一份。直播的低延遲需求多用 LL-HLS、WebRTC 這類方案。
📅 2026 補充 Codec 多了 AV1
原書列 H.264、VP9、HEVC。之後 AV1(免授權金)被 YouTube、Netflix 等大量用於串流。codec 越新、壓縮率越好,但編碼越吃 CPU:省下 CDN 流量的錢,一部分付在轉碼上。這正好強化原書「冷門影片不必存每種版本」的取捨。
📅 2026 補充 續傳通常按 byte 切
原書說 client 依 GOP 切再傳。實務上常見的續傳協定,例如 S3 multipart upload、YouTube Data API 的 resumable upload,都是按 byte 範圍切,client 不用懂影片格式;依 GOP 對齊的切割在 server 端的 preprocessor 做。兩者目的相同:斷線只重傳一小段。
到這裡你已經會了小結 4 / 4
- blob storage
- CDN 計費
- bitrate
- streaming protocol
- codec / container
- transcoding
- DAG
- GOP
- priority queue
- pre-signed URL
- long tail
- stream
到這裡你已經會了:Triton 會追問的事
- 檔案當 stream:手機和 worker 都只用一塊固定的小 buffer,跟影片多長無關。
- CDN 只扛讀;上傳的每個 byte 都是真的寫入。新片一上架 CDN 還是冷的,要先暖。
- 轉碼放真的 MQ,任務切成固定大小 timeout 才設得了;未完成的記在 table,做完用 push 通知。
12 階全部走完了
下一頁用一句話收尾;再下一頁是名詞小卡,給大家課後複習。
一句話記住
影片切小塊、一段一段流;
讀交給 CDN,寫老實付錢,跑很久的放真 MQ。
原書對的地方
- CDN、blob storage 用雲端,自己只做 API 與轉碼
- 上傳:pre-signed URL、GOP 平行、就近上傳中心
- 轉碼:DAG + scheduler + resource manager + workers
- 省錢:熱門放 CDN、長尾放自家、先分析觀看模式
原書沒講、Triton 會追問
- Worker 是整檔讀進記憶體,還是 Reader → Writer 串流?
- CDN 只能扛讀;上傳的每個 byte 都是真的寫入
- 大頻道新片一上架就熱門,CDN 還沒暖
- Queue 用真 MQ;任務大小固定,ACK timeout 才設得了
Triton 的做法
- 「我們應該把File當成Stream而不是ByteArray」
- 檔案放 blob,檔名帶 MD5,DB 只放 metadata
- 未完成的工作記在 table,做完的事件丟 MQ
- 用 push 通知 client,不要讓它輪詢
本章名詞小卡課後複習用 · 每個名詞一句白話
今天出現的名詞,一句話講完
給工程師的重點出處與標籤
引述來源(materials/core)與原書對照
Triton 本人的講義 / 文章
- 130-喵談 io streaming.md — 23GB 4K 影片、128MB buffer、「固定的很小塊Memory」×5、ReadAll vs Reader、1.1MB / request、zip bomb、多階段用 Reader / Writer 串接(2024 RDBMS 課程內容)
- 128-喵談 buffer stream and local cache.md — 主文:「我們應該把File當成Stream而不是ByteArray」×5、BufferedReader(後段為討論串回覆與 AI 生成段落,不引用)
- 166-有人問一個系統的server cost要用上多少錢。.md — 「5K到5M NTD」、「Write不能用CDN,Read可以」、latency / logging / 笨事度的成本
- 137-喵談 push notification.md — 只有主文確定是 Triton(10M user、1% 點開穿過 CDN);warm-up 與 c100k 兩段是未標作者的回覆
- 046-aws-sharing.pdf.md — HYPEBEAST AWS 重構:省人力、Fastly + S3、ElastiCache「Just waste your money」、localhost memcache 30ms→8ms、Multi-AZ
- 073-lesson3.pdf.md — 第 15 頁 READ 能用 cache、WRITE 不行、別在 AS 跑 async;第 16 頁 DB failover、Job Farm 重做;第 30 頁 File DB 與 MD5 檔名;第 35 頁依 queue 量增減 worker
- 078 真 MQ 的定義、智障架構 1 的 ACK timeout、每 5000 個一則 · 030 Redis 不能當 queue · 185 用 MQ 的三個原因、push vs polling · 020 outstanding_tasks table、不用 Redis · 027 202 Accepted「沒事別亂用」
不引用:139(整篇是 ChatGPT 的回答,只有標題和 128 的那句相同)、061(Roy 的專案報告,裡面用了 S3 Presigned URL,可當「Roy 的實作」參考,不是 Triton 觀點)、187–195(AI 生成)。
原書對照
Alex Xu, System Design Interview Vol.1 Ch.14。開頭統計與 Figure 1(第 4 頁);Step 1 需求(5);估算與 Figure 2(8–9);Step 2 高階設計與 Figure 3(10);上傳流程與 Figure 4–6(11–13);串流流程、協定與 Figure 7(17);Video transcoding(20);DAG model 與 Figure 8–9(22–23);轉碼架構與 Figure 10(26);Preprocessor 與 Figure 11–13(27–28);DAG scheduler 與 Figure 14–15(30);Resource manager 與 Figure 16–17(31);Task workers、Temporary storage、Encoded video 與 Figure 18–21(32);平行上傳與 Figure 22–23(33–34);上傳中心與 Figure 24(35);Parallelism everywhere 與 Figure 25–26(36);Pre-signed URL 與 Figure 27(38);保護影片(39);Cost-saving 與 Figure 28(41–42);Error handling(43);Wrap up(44)。原書 28 張圖都依圖說與描述重繪,不是原圖;Figure 1 是產品截圖,只畫線框;Figure 2 只填描述給出的兩格。
循序漸進(文組版)的頁面
學習地圖(第 3 頁);延伸基礎 12 階:blob storage(6)、CDN 計費(7)、bitrate(14)、streaming protocol(16)、codec / container(18)、transcoding(19)、DAG(21)、GOP(25)、priority queue(29)、pre-signed URL(37)、long tail(40)、stream(47);小結(15、24、45、57);名詞小卡(59)。前幾章講過的詞直接連回:database、cache、CDN、replication、sharding、message queue(01 章)、byte、DAU、memory(02 章)、cache miss / warm-up、ack(10 章)。小美的影片是虛構的示範;bitrate、檔案大小、書店銷量等是示意數字。
一個可以直接問自己的問題:你的轉碼 worker 處理一支 1GB 的影片時,記憶體用量是 1GB,還是一個固定的小 buffer?一個任務最長跑多久,你的 MQ ACK timeout 又設多少?