System Design Interview · 第 14 章Triton 覆蓋度:🟡 中Triton 線

Design YouTube
上傳一次,全世界看一億次

原書用現成的 blob storage 和 CDN,加上一條 DAG 轉碼 pipeline,設計一個 500 萬 DAU 的影片平台;光是 CDN 流量,一天就要 15 萬美元。Triton 沒寫過 YouTube 這題,但他講過三件剛好用得上的事:檔案要當 stream、讀可以走 CDN,寫不行、跑很久的工作放進真的 MQ。

給文組

全程用「中央廚房 + 便利商店」比喻和同一支「小美的 300MB 滷肉飯教學」,一階一階爬 12 個概念。頁首標 延伸基礎 的頁是補基礎,懂的人可以跳過。

給工程師

前半完整講原書(28 張圖全部重繪),後半是 Triton 的引述與推論,最後一頁列出所有出處(materials/core)與原書段落對照。

標籤怎麼看

📖 原書 🗣️ Triton 本人說 🔭 依 Triton 原則推論 💬 討論串回覆,作者未標示 📅 2026 補充

先用生活理解下載 vs 串流

「下載」是整桌外燴送到才開動,「串流」是迴轉壽司

–按下播放到開始播–中途卡住幾次–手機上最多放了多少

外燴:200 道菜全部送到才開動,桌子還要夠大。迴轉壽司:廚房做幾盤你吃幾盤,桌上永遠只有幾盤。只要廚房出盤的速度比你吃得快,就不會斷。

這一章的對照表

生活YouTube 系統
食材送進中央廚房上傳到 original storage(blob)
切成大、中、小份transcoding:360p 到 4K
切菜流程表DAG:哪些工作先做、哪些可以同時做
熱門商品擺進各地超商熱門影片放 CDN
冷門商品從倉庫寄長尾影片由自家 video servers 送
迴轉壽司streaming:一次只拿一小段

學習地圖本章的概念階梯

今天爬 12 階。每一階只用前面講過的東西。

  1. 1blob storage大檔案的倉庫
  2. 2CDN 計費照送出的 GB 收錢
  3. 3bitrate每秒用掉多少資料
  4. 4streaming protocol一段一段點菜
  5. 5codec / container壓法+盒子
  6. 6transcoding切成大中小份
  7. 7DAG工序圖
  8. 8GOP從完整那張開始
  9. 9priority queue急的先做
  10. 10pre-signed URL臨時門卡
  11. 11long tail暢銷書與倉庫書
  12. 12stream一次翻一頁

第 1–3 階 · 影片放哪、送出去多少錢

要回答:每天 15 萬美元從哪來?

第 4–7 階 · 手機怎麼看、平台怎麼轉

要回答:為什麼一支影片要變成好幾支?

第 8–11 階 · 轉碼工廠、上傳、省錢

要回答:怎麼又快、又安全、又省?

第 12 階 · Triton 的追問

要回答:1GB 的影片,worker 要用掉 1GB 記憶體嗎?

全程只用一個例子:小美的滷肉飯教學(虛構)

小美的影片 = 5 分鐘、300MB平台 = 中央廚房大檔案的倉庫 = blob storage巷口超商 = CDN迴轉壽司 = streaming工序圖 = DAG

每爬 3–4 階,有一頁「到這裡你已經會了」。

原書開場Figure 1 · 2020 年的 YouTube

看起來很簡單:有人上傳,有人按播放

這一步要解決的問題擁有 20 億用戶的 YouTube,45 分鐘的面試要從哪裡開始?

📖 原書 Figure 1YouTube 首頁(依原書內容重繪;原圖是產品截圖,這裡只畫線框,選單與影片標題取自原書圖的描述)

📖 原書 這題的解法也能用在 Netflix、Hulu 這類影片分享平台。原書列出 2020 年的數字 [1][2]:

  • 每月活躍用戶 20 億;每天觀看 50 億支影片
  • 73% 的美國成年人用 YouTube;5,000 萬創作者
  • 2019 全年廣告收入 151 億美元,比 2018 年成長 36%
  • 佔所有行動網路流量的 37%;支援 80 種語言

結論:規模龐大、全球化、很會賺錢。首頁上還能留言、分享、按讚、加播放清單、訂閱頻道……45 到 60 分鐘的面試不可能全做,所以要先問問題縮小範圍。

原書 Step 1釐清需求

面試一開始:只做「上傳」和「觀看」

這一步要解決的問題功能那麼多,只能做哪幾樣?要做到什麼程度?

📖 原書 應徵者 × 面試官

應徵者問面試官答
哪些功能重要?能上傳影片、能看影片
要支援哪些 client?Mobile app、web browser、smart TV
DAU 多少?500 萬
每人每天平均用多久?30 分鐘
要支援國際用戶嗎?要,很大比例是國際用戶
支援哪些解析度?接受大多數解析度和格式
需要加密嗎?需要
影片大小有限制嗎?專注中小型影片,最大 1GB
能用 Amazon、Google、Microsoft 現成的雲端嗎?好問題。對多數公司來說從零自建不實際,建議利用現成的雲端服務

白話:client=看影片的那一端(手機 app、瀏覽器、電視);DAU=每天有幾個人用(02 章第 22 頁);加密=把影片鎖起來,沒鑰匙看不懂。

📖 原書 這一章要做到

  1. 快速上傳影片
  2. 流暢的串流
  3. 可以切換畫質
  4. 低 infrastructure 成本
  5. 高可用、可擴展、可靠
  6. 支援 mobile app、web browser、smart TV

文組翻譯

開店前先問老闆:只賣便當還是也要外送?一天幾個客人?要不要開分店到國外?可以跟大盤商叫貨嗎?最後一題的答案「可以」,決定了整章的方向:冷藏車(CDN)和倉庫(blob storage)用租的。

延伸基礎第 1 階 · blob storage懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

300MB 的影片,要寫進帳本的一格嗎?

① 先想像

小美拍了一支 5 分鐘、300MB 的滷肉飯教學。平台的帳本每一格通常只寫幾個字:片名、誰上傳、幾點上傳。

你猜猜看:把整支 300MB 影片塞進帳本的一格,會怎樣?

③ 這叫做 blob storage、metadata

blob storage:專放大檔案的倉庫,例如 Amazon S3。metadata:描述檔案的寄件單:檔名、大小、格式、放在哪。

④ 跟這章的關係

原書的 original storage、transcoded storage 都是 blob storage;metadata 放 metadata DB。帳本(database)見 01 章第 8 頁。

② 動手玩:平台收了幾支影片?


    

延伸基礎第 2 階 · CDN 計費懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

便當送到巷口超商,物流公司怎麼收錢?

① 先想像

平台的總倉在美國,全世界都有加盟超商。熱門影片先擺在你家巷口那一間。物流公司照「每天送出幾公斤」收錢。

你猜猜看:每公斤運費 2 元,每天送出 100 箱、每箱 3 公斤。一天運費多少?

③ 這叫做 CDN、data transfer

CDN:開在各地、離你很近的分店(01 章第 21 頁)。data transfer:從 CDN 送出去的資料量,雲端 CDN 照它按 GB 收錢。

④ 跟這章的關係

原書的成本估算只算這一筆(下一頁)。看的人越多、影片越大,帳單越大。

② 動手玩:同樣每 GB $0.02,誰的帳單多大?

–每天送出–每天 CDN 費用

原書 Step 1Back of the envelope estimation · Figure 2

每天新增 150TB,CDN 每天 15 萬美元

這一步要解決的問題每天要多存多少影片?光是把影片送出去,一天要付多少錢?

📖 原書 估算建立在很多假設上,要跟面試官確認彼此理解一致。

  • DAU 500 萬,每人每天看 5 支影片
  • 10% 的用戶每天上傳 1 支影片,平均 300 MB
  • 每天新增儲存:500 萬 × 10% × 300 MB = 150TB

白話:TB=一千 GB;這些影片放倉庫(blob storage,第 6 頁)。CDN 按 GB 收錢的算法見第 7 頁。

📖 原書 CDN 成本:雲端 CDN 送出影片時,按「從 CDN 傳出的資料量」收費。用 Amazon CloudFront 估(Figure 2)[3],假設 100% 流量來自美國,每 GB 平均 $0.02,只算影片串流:

500 萬 × 5 支 × 0.3GB × $0.02 = $150,000 / 天

即使雲端廠商願意給大客戶大幅折扣,這筆錢還是很可觀。怎麼省,放到 deep dive(第 41 頁)。

📖 原書 Figure 2CloudFront 價格表:8 個地區 × 7 個用量級距(依原書內容重繪;原書圖的描述只給出兩格數字,其餘格子不臆造)

原書圖的描述把它寫成「cloud storage 價格」,但內文說這是 CloudFront 的資料傳輸價,以內文為準。描述也說價格「亞洲普遍較高、美洲與歐洲較低」。點表格中的格子看說明。

原書 Step 1 · 動手算CDN 成本計算機

這 15 萬美元是怎麼長出來的?

這一步要解決的問題哪一個數字讓 CDN 帳單最貴?自己拉拉看。

–CDN 每天送出–CDN 每天–CDN 一年–每天新增原始檔

文組翻譯

CDN 像是按「出貨重量」收費的物流公司。每天 2,500 萬支影片 × 每支 0.3GB = 每天出貨 7.5 PB。單價再便宜,乘上這個重量都是大錢。

看什麼

  • 成本跟「看的次數 × 影片大小」成正比,跟上傳量無關。所以原書後面的省錢方法都在減少 CDN 送出的量(第 41–42 頁)
  • 儲存只算原始檔。轉碼後每種解析度還各有一份,原書沒算進去(簡報補充)
  • 試試把影片大小拉到 1GB(原書的上限):一天就是 50 萬美元

🗣️ Triton 被問「server cost 要多少錢」時的回答:「5K到5M NTD吧」,因為「你說不清的的需求,別人除非會「問米」,否則是沒可能答得出什麼有意思的回答的。」166 原書這裡先把需求問清楚才估,正是這個態度。

原書 Step 2High-level design · Figure 3

只有三個元件:Client、CDN、API servers

這一步要解決的問題哪些東西自己做、哪些用租的?

📖 原書 照面試官的建議,CDN 和 blob storage 用雲端現成的。為什麼不自己做?

  1. 系統設計面試不是從零打造一切。時間有限,選對技術比解釋技術細節重要。例如說「用 blob storage 存原始影片」就夠了,講 blob storage 的詳細設計可能是 overkill
  2. 自建可擴展的 blob storage 或 CDN 極為複雜、昂貴。連 Netflix、Facebook 都不全部自己做:Netflix 用 Amazon 的雲端服務 [4],Facebook 用 Akamai 的 CDN [5]
  • Client:電腦、手機、smart TV
  • CDN:影片存在 CDN,按下播放就從 CDN 串流
  • API servers:串流以外的一切:feed 推薦、產生上傳 URL、更新 metadata DB 與 cache、使用者註冊……

白話:API server=櫃台電腦;cache=放手邊的小抄(01 章第 18 頁)。

面試官對兩個流程有興趣:影片上傳和影片串流。

📖 原書 Figure 3串流走 CDN,其他一切走 API servers(依原書內容重繪)

文組版:便當(影片)從離你最近的超商拿;點餐、會員、推薦這些「櫃台業務」才找總店。

原書 Step 2Video uploading flow · Figure 4

上傳流程的 11 個元件

這一步要解決的問題一支影片從手機到可以播放,中間要經過哪些站?

📖 原書 Figure 4影片上傳的高階設計(依原書內容重繪)
點右邊的元件名稱,圖上會亮起來

📖 原書 上傳拆成兩個同時跑的流程:a. 上傳實際影片;b. 更新影片 metadata(URL、大小、解析度、格式、使用者資訊……)。

原書 Step 2Flow a:上傳實際影片 · Figure 5

傳上去 → 轉碼 → 兩件事同時做 → 通知 client

這一步要解決的問題影片檔本身怎麼一步一步變成「可以播」?

📖 原書 Figure 5上傳實際影片,箭頭上的編號對應步驟(依原書內容重繪)
  1. 1. 影片上傳到 original storage
  2. 2. Transcoding servers 從 original storage 抓影片,開始轉碼
  3. 3a. 轉碼完成後同時做兩件事:轉好的影片送到 transcoded storage
  4. 3a.1. 轉好的影片分發到 CDN
  5. 3b. 「轉碼完成」事件放進 completion queue
  6. 3b.1. Completion handler 的一群 workers 持續從 queue 拉事件
  7. 3b.1.a / 3b.1.b. Completion handler 更新 metadata DB 和 cache
  8. 4. API servers 通知 client:影片上傳成功,可以串流了

文組版:食材送到中央廚房(1),師傅拿去切(2)。切好的一邊送去冷凍庫、再配送到各地超商(3a、3a.1);同時在白板上寫「這批好了」(3b),櫃台人員看到白板就更新菜單(3b.1),最後打電話告訴你可以來拿了(4)。

原書 Step 2Flow b:更新 metadata · Figure 6

檔案還在傳,metadata 已經先寫進去了

這一步要解決的問題檔名、大小這些「寄件單」資料,什麼時候寫進去?

📖 原書 Figure 6更新 metadata(依原書內容重繪)

📖 原書 檔案正在上傳到 original storage 時,client 同時送一個 request 更新影片的 metadata:檔名、大小、格式等。API servers 更新 metadata cache 和 database。

📖 原書圖的描述 request 經過 load balancer 分配到多台 API servers;API servers 先看 metadata cache,cache 裡沒有才去 Metadata DB 拿。

文組翻譯

寄大型包裹時,貨車還在路上,你已經先在網站上填好寄件單(寄件人、品名、重量)。等貨到了,對方系統裡早就有這筆資料。兩件事同時做,總時間只看比較久的那一件。

延伸基礎第 3 階 · bitrate懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

小美的影片,每秒要送多少資料才不會卡?

① 先想像

影片像水管裡的水:每播一秒,就要喝掉固定的一份資料。網路這條水管不夠粗,畫面就停下來轉圈圈。

你猜猜看:小美的影片 5 分鐘(300 秒)、300MB。每秒至少要送多少?

③ 這叫做 bitrate、Mbps

bitrate:每秒要用掉幾個 bit;越高通常越清楚,檔案也越大。Mbps:每秒百萬個 bit,網速和 bitrate 都用它當單位。

④ 跟這章的關係

原書要「可以切換畫質」:同一支影片準備好幾種 bitrate,網速不夠就改拿小的。

② 動手玩:畫質 × 網速

–播起來–5 分鐘的檔案大小

到這裡你已經會了小結 1 / 4

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

到這裡你已經會了:影片放哪、送出去要多少錢

下一階要解決的問題

手機怎麼一段一段跟 CDN 拿影片?網速忽快忽慢,還能自己換畫質嗎?

延伸基礎第 4 階 · streaming protocol懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

迴轉壽司:先看菜單,再一盤一盤拿

① 先想像

店家先給你一張菜單:每一盤是第幾道、各有大中小三種份量。吃完一盤再拿下一盤;趕時間就拿小份。

你猜猜看:捷運進隧道,網速從 8 掉到 1 Mbps。聰明的播放器會?

③ 這叫做 streaming protocol、manifest

streaming protocol:手機和 CDN 約好「怎麼分段、怎麼點」的規則,例如 HLS、MPEG-DASH。manifest:那張菜單,列出每一段、每種畫質放在哪。

④ 跟這章的關係

原書列了四種 streaming protocol,提醒「不同協定支援不同的編碼和播放器」(下一頁)。

② 動手玩:10 段影片,每段 4 秒

–卡住幾次–拿到 1080p 的段數

原書 Step 2Video streaming flow · Figure 7

串流協定:不用背名字,但要知道它們不一樣

這一步要解決的問題手機怎麼一段一段跟 CDN 拿影片?要選哪一種約定?

📖 原書 下載是整支影片複製到你的裝置;串流是裝置持續從遠端接收影片串流,一次只載入一點點,所以能立刻、連續地看。

📖 原書 常見的 streaming protocol

名稱全名
MPEG–DASHMPEG = Moving Picture Experts Group;DASH = Dynamic Adaptive Streaming over HTTP
Apple HLSHTTP Live Streaming
Microsoft Smooth Streaming—
Adobe HDSHTTP Dynamic Streaming

原書:這些是需要領域知識的低階細節,不必完全理解或記住。重要的是:不同協定支援不同的影片編碼和播放器,設計時要選對協定。推薦延伸閱讀 [7]。

📖 原書 Figure 7影片直接從 CDN 串流(依原書內容重繪)

📖 原書 影片直接從 CDN 串流,離你最近的 edge server 送影片給你,所以延遲很低。

延伸基礎第 5 階 · codec / container懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

一秒 30 張照片,為什麼 5 分鐘只有 300MB?

① 先想像

搬家打包:羽絨衣先用真空袋抽扁,再放進紙箱,紙箱外貼一張內容物標籤。影片也一樣:畫面和聲音先壓扁,再裝進一個盒子。

你猜猜看:每秒 30 張畫面,每張不壓縮約 6MB。5 分鐘(300 秒)不壓縮有多大?

③ 這叫做 codec、container

codec:壓扁與解開的方法,例如 H.264、VP9、HEVC。container:裝畫面、聲音、metadata 的盒子,看副檔名就知道:.mp4、.mov、.avi。

④ 跟這章的關係

原書說「編碼格式」就由這兩部分組成(第 20 頁的籃子)。

② 動手玩:同一支 5 分鐘 1080p 影片

延伸基礎第 6 階 · transcoding懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

一大塊肉進中央廚房,要切成幾種份量?

① 先想像

中央廚房收到一大塊豬肉。便當店要大份、早餐店要小份、學校要另一種包裝。師傅得照每家店的需求各切一份。

你猜猜看:小美上傳 1 支影片。平台要準備 360p、720p、1080p 三種畫質,每種都要 H.264 和 VP9 兩種壓法。要做出幾個檔案?

③ 這叫做 transcoding、resolution

transcoding:把影片從一種編碼、畫質,轉成另外好幾種。resolution:畫面有幾行點;360p、1080p、4K,數字越大越清楚。

④ 跟這章的關係

原書 Step 3 的第一件事就是轉碼(下一頁),而且說它「很耗運算、很花時間」。

② 動手玩:小美這支要準備哪些版本?

–要做幾份工作–轉完總共多大300 MB原始檔

原書 Step 3Video transcoding

為什麼一定要轉碼:一支影片要準備好幾種份量

這一步要解決的問題為什麼不能直接播原始檔?

📖 原書 手機或相機錄影時會給檔案某種格式。要在其他裝置順暢播放,必須編碼成相容的 bitrate 和格式。Bitrate 是每單位時間處理的位元數;越高通常畫質越好,但需要更多運算能力和更快的網路。

📖 原書 四個理由

  1. 原始影片很佔空間:60 fps 的一小時高畫質影片可能要幾百 GB
  2. 很多裝置和瀏覽器只支援某些格式,為了相容要編成多種格式
  3. 頻寬高的人給高解析度,頻寬低的人給低解析度,兼顧畫質與流暢
  4. 網路狀況會變(尤其手機),要能自動或手動切換畫質才能連續播放

📖 原書 編碼格式的兩部分:點開這個 .mp4

funny_720p.mp4
  • Container:像一個籃子,裝著影片、音訊和 metadata。看副檔名就知道:.avi、.mov、.mp4
  • Codecs:壓縮與解壓縮演算法,目標是縮小檔案、保留畫質。最常用的是 H.264、VP9、HEVC

延伸基礎第 7 階 · DAG懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

滷肉飯便當:哪些步驟可以同時做?

① 先想像

做便當要洗米、煮飯、切肉、滷肉、裝盒。煮飯一定在洗米之後;裝盒要等飯和肉都好。洗米和切肉可以兩個人同時做。

你猜猜看:洗米 5、煮飯 20、切肉 10、滷肉 40、裝盒 5 分鐘。一個人做要 80 分鐘;兩個人分工最快幾分鐘?

③ 這叫做 DAG、stage

DAG(directed acyclic graph):有箭頭、不會繞回頭的工序圖。stage:同一輪、彼此不用等的那幾件工作。

④ 跟這章的關係

原書用 DAG 寫「這支影片要做哪些處理」,讓轉碼能平行做(下一頁)。

② 動手玩:請幾位師傅?

–便當做好要幾分鐘

原書 Step 3Directed acyclic graph (DAG) model · Figure 8–9

每位創作者要的處理不一樣:用 DAG 描述工作

這一步要解決的問題每位創作者要的處理不一樣,怎麼寫下「要做哪些事、誰先誰後」?

📖 原書 Figure 8影片轉碼的 DAG(依原書內容重繪;方框文字照原圖截斷)

📖 原書 轉碼很耗運算、很花時間,而且創作者需求不同:有人要浮水印、有人自己提供縮圖、有人上傳高畫質。要支援不同的 pipeline 又維持高平行度,就加一層抽象,讓 client programmer 定義要執行哪些任務。Facebook 的 streaming video engine 用 DAG 程式模型,把任務分成 stage,可以依序或平行執行 [8]。

📖 原書 原始影片拆成 video、audio、metadata,video 可以做:

  • Inspection:確認品質良好、檔案沒有損壞
  • Video encodings:轉成不同解析度、codec、bitrate(Figure 9)
  • Thumbnail:使用者上傳,或系統自動產生
  • Watermark:疊在影片上的圖片,帶有影片的識別資訊

文組版:DAG 就是中央廚房的「工序圖」:洗菜和煮飯可以同時做,但切菜一定在洗菜之後;箭頭不會繞回頭(acyclic)。

原書 Step 3 · 動手玩DAG builder

自己排一張工序圖:哪些可以同時做?

這一步要解決的問題工序圖排得好,能快多少?

–任務數–一台機器依序做–依 DAG 平行做–stage 數

玩法

  • 多勾幾種解析度:任務變多,但只要 worker 夠,平行做的時間只看最慢的那一個(通常是 4k)
  • 改成「創作者自己上傳縮圖」:Thumbnail 這個任務就不用跑
  • 關掉 Watermark:少一層 stage

📖 原書 這就是原書要的「彈性」與「平行度」:每支影片的 DAG 由設定檔產生(第 28 頁),排程器再把它拆成 stage(第 30 頁)。

時間單位是示意值:4k 編碼最貴,1080p 次之,縮圖、檢查、浮水印、合併都很快。真實數字取決於影片長度、codec 和機器。

到這裡你已經會了小結 2 / 4

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

到這裡你已經會了:手機怎麼看、平台怎麼轉

下一階要解決的問題

轉碼工廠裡,影片要先怎麼切?工作那麼多、師傅那麼少,誰先做?

延伸基礎第 8 階 · GOP懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

描圖紙動畫:從第 6 張開始看,看得懂嗎?

① 先想像

做翻頁動畫時,第 1 張畫完整的場景。之後每張描圖紙只畫「跟上一張不一樣的地方」:嘴巴動了、手舉起來了。

你猜猜看:只拿到第 6 張描圖紙,看得出完整畫面嗎?

③ 這叫做 keyframe、GOP

keyframe:完整畫好的那一張。GOP(group of pictures):從一張 keyframe 開始的一小組畫面,自己就能播,通常幾秒長。

④ 跟這章的關係

原書的 preprocessor 先把影片依 GOP 切開(第 27 頁);之後平行上傳也照 GOP 切。

② 動手玩:點一張,從那裡開始看

–要先載入幾張–從第幾張開始疊

原書 Step 3Video transcoding architecture · Figure 10

轉碼架構:六個元件

這一步要解決的問題轉碼這座工廠由哪幾個部門組成?

📖 原書 Figure 10利用雲端服務的影片轉碼架構(依原書內容重繪;「Temporary...」照原圖截斷)
點下面的元件,圖上會亮起來

原書 Step 3Preprocessor · Figure 11

Preprocessor:先把影片切成一段一段能獨立播放的 GOP

這一步要解決的問題影片進工廠的第一站,要先做哪些準備?

📖 原書 Figure 11架構圖中的 Preprocessor(依原書內容重繪)

📖 原書 四項職責

  1. Video splitting:影片串流切成(或再切成)更小的 Group of Pictures(GOP)對齊單位。GOP 是依特定順序排列的一組 frame,每塊都能獨立播放,通常幾秒長
  2. 有些舊手機或瀏覽器不支援切割,preprocessor 替舊 client 依 GOP 對齊切割
  3. DAG generation:依 client programmer 寫的設定檔產生 DAG(第 28 頁)
  4. Cache data:preprocessor 是分段影片的 cache。為了可靠,把 GOP 和 metadata 存進 temporary storage;編碼失敗時可以用這些持久化的資料重試

動手切:什麼叫「能獨立播放」

簡報補充(原書沒寫):每個 GOP 以一個完整畫面(keyframe,I)開頭,後面的 frame 只記「和前面差多少」。從 keyframe 切,每塊才看得懂;從中間切,後半塊缺了參考畫面。

原書 Step 3Preprocessor · DAG generation · Figure 12–13

兩個設定檔,產生一張兩個節點、一條邊的 DAG

這一步要解決的問題工序圖是誰畫的?用什麼格式寫?

📖 原書 Figure 12簡化的 DAG:2 個節點、1 條邊(依原書內容重繪)

📖 原書 Preprocessor 依 client programmer 寫的設定檔產生 DAG。Figure 12 由右邊兩個設定檔產生(Figure 13,來源:微博的影片處理架構 [9])。

讀法:左邊的任務叫 download-input,做完把檔案放進 context.inputVideo,然後 next 'transcode'。右邊的 transcode 從 context.inputVideo 拿輸入。「next」就是那條邊,「context」就是兩個節點交換資料的地方。

📖 原書 Figure 13兩個 task 設定檔(依原書圖的描述重建;欄位照描述,語法細節可能與原圖不同)

延伸基礎第 9 階 · priority queue懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

急診室不是先來先看

① 先想像

中央廚房的出單機一直吐出工作單,師傅誰空下來誰去拿一張。有些單特別急,就像急診室不是先來先看。

你猜猜看:急診依序來了感冒(輕)、骨折(中)、心臟病(重)。只有一位醫生空著,先看誰?

③ 這叫做 queue、priority queue

queue:排隊等著被做的工作單。priority queue:照優先順序、不照先來後到拿的 queue。做事的師傅叫 worker。

④ 跟這章的關係

原書的 resource manager 有三個 priority queue(下兩頁)。存在硬碟、停電也不掉的 queue 叫 message queue,見 01 章第 30 頁。

② 動手玩:一位師傅、一排工作單

還在排隊的工作單

師傅做過的順序

原書 Step 3DAG scheduler · Figure 14–15

DAG scheduler:把圖拆成一層一層的 stage

這一步要解決的問題工序圖怎麼拆成「這一輪可以同時做的工作」?

📖 原書 Figure 15DAG scheduler 的例子(依原書內容重繪;方框文字照原圖截斷)
📖 原書 Figure 14架構圖中的 DAG scheduler(依原書內容重繪)

📖 原書 DAG scheduler 把 DAG 拆成多個 stage 的任務,放進 resource manager 的 task queue。

  • Stage 1:原始影片拆成 video、audio、metadata
  • Stage 2:video 再拆成兩個任務:video encoding 和 thumbnail;audio 做 audio encoding

原書內文寫「split into three stages」,但只描述了 Stage 1 和 Stage 2,圖上也是兩個 stage;這裡照圖畫兩個。

文組版:同一層的工作可以分給不同師傅同時做;下一層要等這一層的材料齊了才開始。

原書 Step 3Resource manager · Figure 16–17

Resource manager:三個 queue,一個 task scheduler

這一步要解決的問題工作那麼多、worker 那麼少:先做哪一件、交給誰?

📖 原書 Figure 17Resource manager(依原書內容重繪;queue 裡的任務與 worker 是簡報示意)
📖 原書 Figure 16架構圖中的 Resource manager(依原書內容重繪)
  • Task queue:priority queue,放待執行的任務
  • Worker queue:priority queue,放 worker 的使用率資訊
  • Running queue:正在跑的任務,以及跑它的 worker
  • Task scheduler:挑出最佳的 task / worker,叫選中的 worker 去執行
  1. 1. 從 task queue 拿最高優先權的任務
  2. 2. 從 worker queue 拿最適合的 worker
  3. 3. 指示選中的 worker 執行任務
  4. 4. 綁定 task / worker 資訊,放進 running queue
  5. 5. 任務完成後,從 running queue 移除

原書 Step 3Task workers · Temporary storage · Encoded video · Figure 18–21

真的去做事的 workers、放半成品的地方、最後的成品

這一步要解決的問題真正動手的是誰?做到一半的東西放哪?

📖 原書 Figure 18架構圖中的 Task workers(依原書內容重繪)

📖 原書 Task workers

執行 DAG 裡定義的任務。不同的 worker 跑不同的任務:Watermark、Encoder、Thumbnail、Merger……

📖 原書 Temporary storage

這裡用了好幾種儲存系統,看資料型態、大小、存取頻率、壽命來選。例如 metadata 常被 worker 讀、又小 → 放記憶體 cache;影片和音訊 → 放 blob storage。對應的影片處理完成後,temporary storage 的資料就釋放。

📖 原書 Encoded video

整條編碼 pipeline 的最終輸出,例如 funny_720p.mp4。

原書 Step 3Speed optimization:平行上傳 · Figure 22–23

整支上傳太慢:client 先依 GOP 切好再傳

這一步要解決的問題1GB 的影片一次傳,斷線就要重來,怎麼辦?

📖 原書 Figure 22依 GOP 對齊切割影片(依原書內容重繪;箭頭上的字照原圖截斷)

📖 原書 把影片當一整塊上傳很沒效率。依 GOP 對齊切成小塊,上次上傳失敗時可以快速續傳。

📖 原書 Figure 23client 端切 GOP、平行上傳(依原書內容重繪;描述對箭頭方向寫得矛盾,依內文畫成由 client 傳往 storage)

📖 原書 依 GOP 切檔這件事可以在 client 端做,提升上傳速度。舊版 client 不會切的話,整支影片傳到 server,由 server 切(錯誤處理,第 43 頁)。

文組版:搬家時把家具拆成一箱一箱,好幾台車同時載;其中一台半路拋錨,只要重送那幾箱,不用整間屋子重搬。下一頁可以自己試。

原書 Step 3 · 動手玩平行上傳 + 斷線續傳

網路斷一次,要重傳多少?

這一步要解決的問題切塊上傳到底省多少?自己按斷線試試。

0.0經過秒數0%完成0白傳的 MB

模擬的假設(示意)

  • 300 MB 的影片(原書的平均大小)切成 16 塊
  • 單一連線每秒 10 MB;你家網路總頻寬每秒最多 40 MB,所以同時傳 4 塊以上就不會更快
  • 斷線 1 秒後自動恢復

看什麼

  • 整支一次傳:傳到 90% 斷線,從頭再來
  • 切 GOP:已完成的塊留著,只重傳斷線那一刻傳到一半的塊
  • 平行讓單一連線的速度上限不再是瓶頸,直到碰到你家總頻寬

原書 Step 3Speed optimization:上傳中心靠近使用者 · Figure 24

在全球設好幾個上傳中心,用 CDN 當上傳中心

這一步要解決的問題人在巴西,上傳到美國很慢,怎麼辦?

📖 原書 Figure 24分散在全球的上傳中心(依原書內容重繪;地圖輪廓為示意)
–上傳要跑的距離(約)–光在光纖裡來回一趟至少

📖 原書 另一個加快上傳的方法是在全球設多個上傳中心。美國的人上傳到北美上傳中心,中國的人上傳到亞洲上傳中心。做法是用 CDN 當上傳中心。

文組翻譯

寄包裹到總公司,不用自己開車去台北,交給巷口的便利商店就好。超商幫你把包裹併車送到總公司,路上的事它比你熟。

距離是城市之間的大圓距離取整;來回時間用「光在光纖裡每毫秒約 200 公里」換算,是物理下限,真實網路更慢。

🔭 Triton 會追問 「CDN 當上傳中心」和 Triton 說的「Write不能用CDN」矛盾嗎?見第 50 頁。

原書 Step 3Speed optimization:parallelism everywhere · Figure 25–26

每一段都在等上一段:加 message queue 解耦

這一步要解決的問題每一站都在等上一站,怎麼讓大家同時動?

📖 原書 Figure 25從 original storage 到 CDN,每段的輸出是下一段的輸入(依原書內容重繪;字照原圖截斷)

📖 原書 低延遲需要下苦工。另一個優化是做成鬆耦合的系統、開啟高平行度。放大看影片從 original storage 到 CDN 的過程(Figure 25):每一步的輸出都依賴上一步的輸入,這個依賴讓平行很難。

白話:鬆耦合=每一站不用盯著下一站,各做各的;message queue=站與站之間、存在硬碟上的工作單籃子(第 29 頁、01 章第 30 頁)。

加 MQ 之前

Encoding module 必須等 download module 的輸出。

加 MQ 之後

Encoding module 不用再等。MQ 裡只要有事件,就可以平行執行那些工作。

甘特圖是示意:download 每段 1 秒、encoding 2 秒、upload 1 秒。上面的分頁切到 Figure 25 是「整批做完才交給下一段」,切到 Figure 26 是「每段一好就丟進 MQ」。

延伸基礎第 10 階 · pre-signed URL懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

外送員要上 12 樓,管理員給他一張臨時門卡

① 先想像

大包裹要送到 12 樓 A 戶。管理員不用自己扛上樓,只要給外送員一張卡:只開 12A、今晚 8 點前有效,蓋了管理員的鋼印。

你猜猜看:外送員把卡上的「12A」塗改成「15B」,15B 的門會開嗎?

③ 這叫做 pre-signed URL、signature

pre-signed URL:先簽好名、限時、只能上傳到指定位置的網址。signature:那個鋼印,改網址裡任何一個字就對不上。

④ 跟這章的關係

原書用它確保「對的人傳到對的位置」(下一頁)。順便的好處:影片不必經過 API server。

② 動手玩:管理員(API server)要扛多少?

–API server 每天要搬–倉庫每天收到

原書 Step 3Safety optimization:pre-signed upload URL · Figure 27

只讓有權限的人,傳到對的位置

這一步要解決的問題怎麼確定只有對的人,把影片傳到對的位置?

📖 原書 Figure 27用 pre-signed URL 上傳(依原書內容重繪)
  1. Client 向 API servers 發 HTTP request 拿 pre-signed URL,這個 URL 給予「URL 指定的那個物件」的存取權限
  2. API servers 回傳 pre-signed URL
  3. Client 收到後,用這個 URL 上傳影片

📖 原書 「pre-signed URL」是 Amazon S3 的用語;Microsoft Azure blob storage 有同樣功能,叫「Shared Access Signature」[10]。

動手試:這張「單次通行證」能拿來做什麼?


      

      

URL 和錯誤訊息仿 S3 的格式,是示意。重點是簽章蓋住了「哪個 bucket、哪個 key、什麼方法、幾點到期」,改任何一個字,簽章就對不上。

原書 Step 3Safety optimization:保護影片

創作者怕影片被偷:三種保護方式,選一種

這一步要解決的問題創作者怕影片被偷,有哪些保護方式?

📖 原書 Digital rights management(DRM)

三大 DRM 系統:Apple FairPlay、Google Widevine、Microsoft PlayReady。

📖 原書 AES encryption

把影片加密並設定授權政策,播放時才解密。確保只有被授權的使用者能看。

📖 原書 Visual watermarking

疊在影片上、帶有影片識別資訊的圖片,可以是公司 logo 或公司名稱。

文組版:浮水印像書上蓋「某某圖書館藏書」,偷了也看得出是誰的;加密像把書鎖在箱子裡,沒有鑰匙打不開;DRM 是整套「鑰匙由誰保管、誰能借」的制度。

延伸基礎第 11 階 · long tail懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

書店門口的平台,該放哪幾本?

① 先想像

書店有 100 本書。門口平台那幾本天天有人買;後面倉庫的很多本,一年賣不到一次。

你猜猜看:第 1 名每月賣 100 本、第 2 名 50、第 3 名 33……第 k 名賣 100 ÷ k。前 10 名約佔總銷量多少?

③ 這叫做 long tail

long tail(長尾):少數很紅、大多數很冷。把銷量由高到低畫成圖,冷門那段拖著一條很長的尾巴。

④ 跟這章的關係

原書省 CDN 錢的方法全靠這個形狀:只有最紅的影片放 CDN(下一頁)。

② 動手玩:平台放前幾名?

–平台上的書賣掉–其他書合起來

原書 Step 3Cost-saving optimization · Figure 28

少數影片被看很多次,大多數影片幾乎沒人看

這一步要解決的問題每天 15 萬美元的 CDN 帳單,怎麼省?

📖 原書 CDN 確保全球快速送達,但很貴,資料量大時尤其貴。研究顯示 YouTube 的影片串流是長尾分布 [11][12]:少數熱門影片被頻繁觀看,很多影片很少人看或沒人看。據此做幾個優化:

  1. 只有最熱門的影片從 CDN 送,其他從自家大容量儲存的 video servers 送(Figure 28)
  2. 冷門內容不一定要存很多種編碼版本。短影片可以 on-demand 編碼
  3. 有些影片只在某些地區熱門,不用分發到其他地區
  4. 像 Netflix 一樣自建 CDN、和 ISP(Comcast、AT&T、Verizon……)合作。自建 CDN 是巨大工程,但對大型串流公司合理。ISP 遍布全球、靠近使用者,合作能改善觀看體驗、降低頻寬費用

這些優化都建立在內容熱門度、使用者存取模式、影片大小等條件上。做任何優化前,先分析歷史觀看模式 [12][13]。

📖 原書 Figure 28熱門影片走 CDN,其他走 video servers(依原書內容重繪)

文組版:超商冷藏櫃很貴,只放每天都賣得掉的飯糰和便當;一年賣不到三份的特殊口味,客人下單才從倉庫寄。下一頁可以拉拉看「放多少進冷藏櫃」。

原書 Step 3 · 動手算熱門放 CDN、長尾放自家

只把前 1% 的影片放 CDN,能省多少?

這一步要解決的問題只把最紅的放 CDN,到底能省多少?

–由 CDN 送出的觀看–CDN 每天–自家 video servers 每天要送

模擬的假設(示意)

  • 10 萬支影片,觀看次數照 Zipf 分布:第 k 名的觀看數 ∝ 1 / ks。s 越大,熱門越集中
  • 總觀看與每 GB 單價照原書:每天 2,500 萬次、全部走 CDN 時 $150,000 / 天
  • 自家 video servers 不是免費的,原書沒給成本,這裡只算它要送多少觀看

看什麼

前 1% 的影片就扛了大半的觀看。CDN 帳單跟著「CDN 送出的觀看」下降,代價是自家機房要扛剩下的長尾。這也是原書最後那句的理由:先分析歷史觀看模式,分布的形狀決定這招值不值得。

原書 Step 3Error handling

錯誤一定會發生:能救的重試,救不了的停下來回錯誤碼

這一步要解決的問題轉碼失敗、機器當掉,各要怎麼處理?

📖 原書 兩種錯誤

  • Recoverable error:例如某個影片片段轉碼失敗。做法是重試幾次;持續失敗、系統認定救不回來,就回適當的錯誤碼給 client
  • Non-recoverable error:例如影片格式損壞(malformed)。停掉這支影片相關的所有任務,回適當的錯誤碼給 client

白話:右邊的 master=正本帳本、slave=影本(01 章第 14 頁);stateless=櫃台不記客人,換一台照樣接。

文組翻譯

切菜切到手 → 包紮好繼續切(重試)。送來的食材已經壞了 → 不管切幾次都沒用,直接退貨並告訴客人原因。

🗣️ Triton 原書對 DB 的處理和 Triton 的課程投影片一致:「監察系統發現 Master RDBMS 當掉後,應該懂得自動把 Slave DB提升成 Master並進行切換」;worker 那條也一樣:「交給 Job Farm 的工作,在本來的 Worker Instance 當掉後,會自動由其他Worker 重做」073 · 第 16 頁

📖 原書 各元件的 playbook:點一張卡,看壞了怎麼辦

原書 Step 4Wrap up

面試還有時間的話,可以再談這四件事

這一步要解決的問題主體設計完,還有時間可以多聊什麼?

📖 原書 Scale the API tier

API servers 是 stateless,所以很容易水平擴展。

📖 原書 Scale the database

可以談 database replication 和 sharding。

白話:replication=把帳本影印幾份;sharding=把帳本拆成幾本分開放(01 章第 34 頁)。

📖 原書 Video takedowns

侵權、色情或其他違法的影片要下架。有些在上傳過程中由系統發現,有些透過使用者檢舉發現。

📖 原書 Live streaming

即時錄製、即時廣播。這章的系統不是專為直播設計,但兩者都要上傳、編碼、串流。差別:

  • 直播的延遲要求更高,可能需要不同的串流協定
  • 直播對平行度要求較低,因為小段資料已經是即時處理的
  • 直播需要不同的錯誤處理,花太多時間的錯誤處理都不能接受

原書整章的骨架到這裡講完:上傳(pre-signed URL、GOP 平行、上傳中心)→ 轉碼(DAG、preprocessor、scheduler、resource manager、workers)→ 串流(CDN、協定)→ 省錢(長尾)→ 錯誤處理。接下來看 Triton。

到這裡你已經會了小結 3 / 4

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

到這裡你已經會了:原書的完整設計

下一階要解決的問題

原書講完了。接下來看 Triton:worker 處理一支 1GB 的影片,記憶體要用掉 1GB 嗎?CDN 真的什麼都能扛嗎?

Triton 觀點先看全貌

Triton 沒設計過 YouTube,但這章的骨架他都講過

✅ 同意 / 一致

  • 串流就是固定大小的 buffer:「即使你看完總共23GB的影片也好,你也只用上了固定的很小塊Memory。」(第 48 頁)130
  • 大檔案不放 main DB(第 49 頁)073
  • 影片是讀多寫少,讀交給 CDN(第 50 頁)166 · 073
  • 轉碼是 MQ 的正當用途:吃資源、跑很久(第 53 頁)185 · 073
  • 雲端省人力,對新創划算(第 52 頁)046

🔭 原書沒講、Triton 會追問

  • Worker 讀影片是 stream 還是整檔讀進記憶體?(第 49 頁)
  • 「CDN 當上傳中心」:寫真的能交給 CDN 嗎?(第 50 頁)
  • 新影片剛上架,CDN 是冷的(第 51 頁)137
  • Resource manager 的 queue 用什麼做?整支影片一個任務,ACK timeout 怎麼設?(第 53–54 頁)078 · 030
  • 轉碼狀態怎麼追、怎麼通知 client(第 55 頁)020 · 185

文組版:原書教中央廚房「切菜要分工、冷藏車用租的」,Triton 都同意。他會追問的是更底層的細節:師傅是不是把整頭豬扛上砧板才開始切?訂單白板用粉筆寫還是用簿子記?

延伸基礎第 12 階 · stream懂的人可以跳過

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

抄一本 1,000 頁的書,桌上要攤幾頁?

① 先想像

桌子很小。一種抄法是先把整本書影印一份攤在桌上;另一種是書放書架,一次只翻開一頁,抄完翻下一頁。

你猜猜看:一次只翻開一頁,抄 1,000 頁的書,桌上最多同時攤著幾頁?

③ 這叫做 stream、buffer

stream:資料像水流,一小段一小段讀、處理完就丟。buffer:桌上那一小疊,放著正在處理的那一段。

④ 跟這章的關係

桌子就是記憶體(02 章第 12 頁)。Triton 130 講的正是這件事(下一頁)。

② 動手玩:一台轉碼 worker,記憶體 8GB

–記憶體用了–worker 狀態

Triton 本人說130 喵談 io streaming · 128

23GB 的電影,只用一小塊固定的記憶體

你猜猜看:8 小時的 4K 電影約 23GB,手機記憶體只有 8GB。看得完嗎?

「一套4K的8小時影像,很可能需要0.8 x 8 x 3600 = 23GB的空間。」「你打開url時,你的browser / App會拿固定量(例如128 MB)的Memory作為buffer。」「只要buffer還沒滿,OS就會告訴網站來傳送更多的data並且放到buffer內。」「你的應用程式就只是從buffer拿data來做H265解壓和顯示到畫面。」
「即使你看完總共23GB的影片也好,你也只用上了固定的很小塊Memory。」(原文重複了五次)🗣️ Triton 本人說 130-喵談 io streaming.md · 2024 年 RDBMS 收費課程內容

「我們應該把File當成Stream而不是ByteArray」(原文重複五次)「java是有BufferedReader的」🗣️ Triton 本人說 128-喵談 buffer stream and local cache.md · 主文第一段

依 Triton 原則推論把 130 套到上傳與轉碼

原書沒講的一層:worker 是把整支影片讀進記憶體嗎?

原書這樣做會出什麼事?轉碼 worker 記憶體 8GB,同時接到 10 支 1GB 的影片,每支都先整份讀進來再轉。

🗣️ Triton 本人說 多階段就用 Reader / Writer 串起來

「如果一份data只會用一次的,你應該用streaming的手段來處理。」「如果這份data要做多個階段的……你的Application code應該是把不同階段的上下游,用 Reader(如果是data input)/Writer(如果是data output)串接起來。千萬不要先做一個階段再把整份data放memory。」「有用上io streaming和沒有用io streaming的程式,其效能差距是差距倍計的。」130 · 結論

🔭 推論 套到 YouTube

  • 上傳:原書的 pre-signed URL 讓 client 直接傳到 blob storage,影片的 byte 根本不經過 API server,API server 不必替 1GB 的檔案開 buffer
  • 轉碼:worker 從 blob 讀 → 解碼 → 編碼 → 寫回 blob,應該是一條 Reader → Writer 的管線,而不是 ReadAll 一支 1GB 影片再處理
  • GOP 切塊:每個任務只碰幾秒的影片,記憶體上限固定,跟影片總長無關
  • Inspection:130 擔心「zip bomb」;影片的對應是「malformed」或解開後超大的檔案。用 stream 處理,就能在超過上限時停下來

🗣️ Triton 本人說 檔案不要放進 main DB

「有人說: File 應該以 BLOB物件放到 Main DB ,但是 – File 一般建立後極少被改動 – RDBMS 一般用上系統中最高級的 SSD ,而 File 一般不需要這種效能」「延伸思考:在檔案名字中額外加上 MD5 ,許多能解決很多 File caching 問題」073-lesson3.pdf.md · 第 30 頁 File DB

🔭 原書的 original / transcoded storage 用 blob storage、metadata 才放 DB,和這頁一致。073 的「檔名加 MD5」套到 funny_720p.mp4:內容變了檔名就變,CDN 不會拿到舊的。

🗣️ 「別在 AS 上執行 async API 的工作,會害 AS 當掉的」073 · 第 15 頁

Triton 本人說166 server cost · 073 對 Surge 有抵抗性

讀可以交給 CDN,寫不行

原書說可以用 CDN 當上傳中心。每天 150TB 的上傳,有了 CDN 之後,original storage 每天要寫入多少?

「Write不能用CDN,Read可以。所以Write越重的系統(像是電商購物),比單純的blogging / 討論區(像某mobile01)更花錢」🗣️ Triton 本人說 166-有人問一個系統的server cost要用上多少錢。.md · 第 2 點

「READ 能用 Cache 支撐,WRITE 不行」「吃大量資源的 endpoint ,可以考慮轉用 async 模式」🗣️ Triton 本人說 073-lesson3.pdf.md · 第 15 頁「對 Surge 有抵抗性」

🗣️ 166 列的其他成本因素:「你要求越低latency,你系統一定要預留更多CPU / IO給相同的user,自然更貴。」「如果你的logging要能快速找到(像是你要用kibana),這也是一筆大錢。」「server效能跟developer的笨事度成反比。」

🔭 推論 用原書的數字看讀寫比

2,500 萬每天觀看(讀)50 萬每天上傳(寫)50 : 1讀 : 寫(次數)

YouTube 是 166 說的「便宜那一型」:讀遠多於寫,讀幾乎全能交給 CDN。所以原書的成本估算只算 CDN,而且所有省錢方法都在讀那一側。

🔭 推論 那「CDN 當上傳中心」呢?

不矛盾,但要講清楚:上傳時 CDN 只是離你近的入口,幫你把 byte 更快搬回 origin;它不能替你「吸收」寫入。每一個上傳的 byte 最後都要寫進 original storage、被轉碼、再存成好幾份。所以每天 150TB 的寫入成本,不會因為 CDN 而少一分。

Triton 補充137 喵談 push notification · CDN warm-up

新影片剛上架,CDN 是冷的

原書這樣做會出什麼事?影片要「先變熱門」才進 CDN。大頻道新片一上架,1,000 萬訂閱者同一秒收到通知,CDN 上還沒有這支片。誰先倒?

「如果你有10M active user 你想過發promotional notification給這10M user,讓用戶同秒收到 就只1% 點開來也好,流量足夠穿過CDN讓你的backend支持不了給blank page了」🗣️ Triton 本人說 137-喵談 push notification.md · 主文

「CDN也要時間warm-up的 你同秒太多相同的request,就是cache-miss讓你server 來面對 所以智障手段:那10M user,先random抽一小部份人來push notification 讓CDN和你的server收到這一小波流量後,warm-up後再push剩下的」💬 討論串回覆,作者未標示 137 · 原檔沒有標發言者,不當成 Triton 原話

🔭 推論 原書「只有熱門影片放 CDN」隱含一個問題:一支影片要先「變熱門」才進 CDN。但大頻道的新片一上架、訂閱通知一發,第一秒就是熱門,而那一刻 CDN 還沒有它。

白話:origin=CDN 背後的總倉(自家的 server);cache miss、warm-up 見 10 章第 35 頁。

–origin 尖峰 req/s(上限 5,000)–回不了、看到轉圈圈的

Triton 本人說046 Server Side Refactoring@AWS(HYPEBEAST)

用雲端,Triton 同意;但他會問「哪一個服務值這個錢」

你猜猜看:Triton 同意新創用雲端省人力。那雲端上每一個現成服務(managed service)都該買嗎?

✅ 同意原書:人力比機器貴

「AWS is good for startup to save manpower」046 · 第 26 頁 Conclusion

HYPEBEAST 當時的挑戰第一條是「High traffic! High traffic! High traffic!」,第二條是「Lack of manpower – 猫の手も借りたい」;搬 ElasticSearch 到 AWS ES 的理由也是缺人力。架構裡用的正是原書那兩樣:Fastly CDN 和 Amazon S3。046 · 第 3、5、20 頁

🗣️ Triton 本人說 但不是每個 managed service 都值得

  • ElastiCache:「Just waste your money」「Application server is CPU-bound, Cache server is RAM-bound – Combining them is perfect」「Using localhost memcache, the avg time on cache decreased from 30ms to 8ms」第 25 頁
  • RDS Multi-AZ:「Robbery, 2x price but no readonly-slave」;「EXTRA 1MS DOES MATTER FOR BAD CODE」第 15 頁
  • 「But AWS feature is not enough for advanced usage – Especially you have technical debt」第 26 頁

🔭 推論 套到原書

原書的 metadata cache 是每個 request 都會碰的東西。046 的經驗是把 memcache 放在 AS 本機,平均從 30ms 降到 8ms;原書沒指定 cache 放哪,這是可以追問的細節。

CDN 和 blob storage 這種「自建極難、規模經濟極大」的服務,租是對的(原書也說連 Netflix、Facebook 都租);cache 這種「自己裝很簡單」的,Triton 會先算一下帳。

Triton 同意185 · 078 · 073 · 030 · 什麼工作該放 MQ

✅ 轉碼是 MQ 的教科書用途,但 queue 要是真的 MQ

原書這樣做會出什麼事?Resource manager 的 task queue 沒說用什麼做。如果放在 Redis 的記憶體裡,尖峰時上傳追過轉碼,會怎樣?

🗣️ Triton 本人說 用 MQ 的理由

「把工作先丟MQ再慢慢處理,一般而且有3個原因:1 這Request需要拿大量資源,而且很可能跑很久,不適合在App. Server上直接來跑。(例子:報表類的工作)2 這工作是慢慢做也死不了人的,我想把MQ當成一個buffer,讓peak hours的工作可以在non-peak hours時來做。……3 你家主管不知從那邊聽到MQ好棒棒高大上,強迫你來用MQ。」185-電商用 queue-.md

🔭 轉碼完全符合理由 1:吃大量 CPU、跑很久。原書 Figure 26 加 MQ,Triton 不會有意見。

🗣️ Triton 本人說 真的 MQ 長什麼樣

「正常的MQ Server – 會把收到的Message先存到HDD,然後才回應成功 – 會等待收件者回傳「工作完成」,才真的把訊息刪掉 – 如果收件者趴掉,則把訊息丟給其他的 channel listener」078 · 第 7 頁

「交給 Job Farm 的工作,在本來的 Worker Instance 當掉後,會自動由其他Worker 重做」「你可以視 Queue中的剩餘 Message 量,動態決定增減Worker Server」073 · 第 16、35 頁

🔭 原書的「Task worker down:在新的 worker 上重試」,就是真 MQ 的 ack 機制免費送的。

🗣️ Triton 本人說 Redis 不是 queue

「sidekiq是基建於redis的,然後redis本身沒法做到high persistence(斷電後redis會有data loss的)」「如果你的consumer消化速度追不上producer生產速度 你的redis很容易就會爆炸掉。rabbitmq / Kafka是使用HDD來存放buffer的。」030

🔭 原書 resource manager 的 task queue 沒說用什麼做。轉碼任務「一定要跑完一次」,是 078 定義的 Message,不是可以掉的 Signal;尖峰時上傳量追過轉碼量,queue 會變很長。照 030,這個 queue 不該放在 Redis 的 RAM 裡。

依 Triton 原則推論078 智障架構 1 · 任務大小要固定

整支影片一個任務,ACK timeout 要設多久?

–單一任務要跑–MQ 會不會誤判 worker 死了–worker 真的當機,最多白做

原書這樣做會出什麼事?一支 60 分鐘的影片當成一個任務,要跑 30 分鐘;MQ 等 worker 回「做完了」最多只等 10 分鐘。

「Worker工作所需時間跟用戶數量正比 你怎決定MQ Server等待 ACK的 Timeout?」🗣️ Triton 本人說 078-mq-intro.pdf.md · 第 13 頁「智障架構1」

「WorkerA每 5000個 Firebase Token建立一個 Message丟到 MQ Server – 註: 5000這數字視你具體系統設定會有所不同」🗣️ Triton 本人說 078 · 第 15 頁「正確架構」

🔭 推論 078 談的是推播,不是影片。但結構一樣:一則 message 的工作量如果跟某個會變大的東西成正比(用戶數、影片長度),timeout 就沒辦法設。Triton 的解法是把工作切成固定大小。原書的 GOP 切塊剛好做到這件事:每個轉碼任務只處理幾秒的影片,不管原片是 3 分鐘還是 3 小時。

白話:ack=「做完了」的回執,沒收到就重送(10 章第 19 頁);timeout=最多等多久。

Triton 補充020 MQ解法 · 185 · 027 · 轉碼狀態與通知 client

轉碼要幾分鐘:狀態記在哪、怎麼告訴 client?

🗣️ Triton 本人說 長時間的 async 工作

讀者問:第三方服務的工作「會跑得比較久,可能會到數分鐘以上的」,又不支援 callback。Triton 的「路邊小酸酸的最佳解」:「換一家有支持Callback的服務供應商便好。」換不了的話:「建立一個outstanding_tasks的table(不使用redis的原因是怕redis當掉後data loss有工作變成孤兒)」……「第三方服務上做完的工作,便把其ID丟到message queue,然後讓另一個worker來做後續工作,做完後才刪掉對應的outstanding_tasks。」020-MQ解法.md

🔭 推論 原書的 completion queue + completion handler(第 12 頁)跟 020 的最後一步幾乎一樣:做完的事件丟進 MQ,由另一組 worker 做後續、更新資料庫。020 多講了一件原書沒講的事:「還沒做完的工作」要記在 table 裡,不要只放 Redis。如果轉碼外包給雲端轉碼服務,就是 020 的原題。

文組翻譯

送洗衣服:店員收衣服時說「收到了,明天好」(202)。好的洗衣店洗好會傳簡訊給你(push);爛的讓你每兩小時打電話問一次(polling)。店裡的待洗單要寫在本子上(table),寫在白板(Redis)上,一擦就不知道誰的衣服還沒洗。

原書這樣做會出什麼事?第 4 步只寫「通知 client」。如果改成手機每 2 秒問一次「轉好了沒」,100 萬人同時在等,API server 每秒被問幾次?

🗣️ Triton 本人說 告訴 client:推,不要輪詢

「不好架構:B使用polling,每2秒就問A:「我的食材呢」 好架構:A建立websocket(或任何server push技術),安靜地等A去買東西和告訴結果。」185

「202(Accepted) – 伺服器收到請求,並且確定請求是沒問題的 – 不過,這請求需要很多時間來工作,為了避免客戶端白白等待。即使工作還沒完成也好,先回答客戶端:「工作收到了」 – 沒事別亂用」027 · 常用 HTTP 回答碼

📅 2026 補充書本身的時間差

協定、codec、續傳:書寫完之後變了什麼

📅 2026 補充 串流協定收斂

原書列的四種裡,Microsoft Smooth Streaming 和 Adobe HDS 已經很少見;主流是 HLS 和 MPEG-DASH,而且兩者可以共用 CMAF 格式的同一份影片片段,不必各存一份。直播的低延遲需求多用 LL-HLS、WebRTC 這類方案。

📅 2026 補充 Codec 多了 AV1

原書列 H.264、VP9、HEVC。之後 AV1(免授權金)被 YouTube、Netflix 等大量用於串流。codec 越新、壓縮率越好,但編碼越吃 CPU:省下 CDN 流量的錢,一部分付在轉碼上。這正好強化原書「冷門影片不必存每種版本」的取捨。

📅 2026 補充 續傳通常按 byte 切

原書說 client 依 GOP 切再傳。實務上常見的續傳協定,例如 S3 multipart upload、YouTube Data API 的 resumable upload,都是按 byte 範圍切,client 不用懂影片格式;依 GOP 對齊的切割在 server 端的 preprocessor 做。兩者目的相同:斷線只重傳一小段。

到這裡你已經會了小結 4 / 4

  1. blob storage
  2. CDN 計費
  3. bitrate
  4. streaming protocol
  5. codec / container
  6. transcoding
  7. DAG
  8. GOP
  9. priority queue
  10. pre-signed URL
  11. long tail
  12. stream

到這裡你已經會了:Triton 會追問的事

12 階全部走完了

下一頁用一句話收尾;再下一頁是名詞小卡,給大家課後複習。

一句話記住

影片切小塊、一段一段流;
讀交給 CDN,寫老實付錢,跑很久的放真 MQ。

原書對的地方

  • CDN、blob storage 用雲端,自己只做 API 與轉碼
  • 上傳:pre-signed URL、GOP 平行、就近上傳中心
  • 轉碼:DAG + scheduler + resource manager + workers
  • 省錢:熱門放 CDN、長尾放自家、先分析觀看模式

原書沒講、Triton 會追問

  • Worker 是整檔讀進記憶體,還是 Reader → Writer 串流?
  • CDN 只能扛讀;上傳的每個 byte 都是真的寫入
  • 大頻道新片一上架就熱門,CDN 還沒暖
  • Queue 用真 MQ;任務大小固定,ACK timeout 才設得了

Triton 的做法

  • 「我們應該把File當成Stream而不是ByteArray」
  • 檔案放 blob,檔名帶 MD5,DB 只放 metadata
  • 未完成的工作記在 table,做完的事件丟 MQ
  • 用 push 通知 client,不要讓它輪詢

本章名詞小卡課後複習用 · 每個名詞一句白話

今天出現的名詞,一句話講完

blob storage專放大檔案的倉庫,例如 Amazon S3
metadata描述檔案的寄件單:檔名、大小、格式、放哪
database(DB)記正本的帳本,放小而常改的資料
DAU每天有幾個人用(daily active users)
CDN開在各地、離你很近的分店,放大家都要看的東西
edge serverCDN 開在你家附近的那一台
data transfer從 CDN 送出去的資料量,按 GB 收錢
bitrate、Mbps每秒用掉幾個 bit/每秒百萬個 bit
streaming一次只拿一小段,邊拿邊看
streaming protocol手機和 CDN 約好怎麼分段、怎麼點(HLS、MPEG-DASH)
manifest菜單:列出每一段、每種畫質放在哪
API server櫃台電腦:串流以外的所有 request 都找它

給工程師的重點出處與標籤

引述來源(materials/core)與原書對照

Triton 本人的講義 / 文章

  • 130-喵談 io streaming.md — 23GB 4K 影片、128MB buffer、「固定的很小塊Memory」×5、ReadAll vs Reader、1.1MB / request、zip bomb、多階段用 Reader / Writer 串接(2024 RDBMS 課程內容)
  • 128-喵談 buffer stream and local cache.md — 主文:「我們應該把File當成Stream而不是ByteArray」×5、BufferedReader(後段為討論串回覆與 AI 生成段落,不引用)
  • 166-有人問一個系統的server cost要用上多少錢。.md — 「5K到5M NTD」、「Write不能用CDN,Read可以」、latency / logging / 笨事度的成本
  • 137-喵談 push notification.md — 只有主文確定是 Triton(10M user、1% 點開穿過 CDN);warm-up 與 c100k 兩段是未標作者的回覆
  • 046-aws-sharing.pdf.md — HYPEBEAST AWS 重構:省人力、Fastly + S3、ElastiCache「Just waste your money」、localhost memcache 30ms→8ms、Multi-AZ
  • 073-lesson3.pdf.md — 第 15 頁 READ 能用 cache、WRITE 不行、別在 AS 跑 async;第 16 頁 DB failover、Job Farm 重做;第 30 頁 File DB 與 MD5 檔名;第 35 頁依 queue 量增減 worker
  • 078 真 MQ 的定義、智障架構 1 的 ACK timeout、每 5000 個一則 · 030 Redis 不能當 queue · 185 用 MQ 的三個原因、push vs polling · 020 outstanding_tasks table、不用 Redis · 027 202 Accepted「沒事別亂用」

不引用:139(整篇是 ChatGPT 的回答,只有標題和 128 的那句相同)、061(Roy 的專案報告,裡面用了 S3 Presigned URL,可當「Roy 的實作」參考,不是 Triton 觀點)、187–195(AI 生成)。

原書對照

Alex Xu, System Design Interview Vol.1 Ch.14。開頭統計與 Figure 1(第 4 頁);Step 1 需求(5);估算與 Figure 2(8–9);Step 2 高階設計與 Figure 3(10);上傳流程與 Figure 4–6(11–13);串流流程、協定與 Figure 7(17);Video transcoding(20);DAG model 與 Figure 8–9(22–23);轉碼架構與 Figure 10(26);Preprocessor 與 Figure 11–13(27–28);DAG scheduler 與 Figure 14–15(30);Resource manager 與 Figure 16–17(31);Task workers、Temporary storage、Encoded video 與 Figure 18–21(32);平行上傳與 Figure 22–23(33–34);上傳中心與 Figure 24(35);Parallelism everywhere 與 Figure 25–26(36);Pre-signed URL 與 Figure 27(38);保護影片(39);Cost-saving 與 Figure 28(41–42);Error handling(43);Wrap up(44)。原書 28 張圖都依圖說與描述重繪,不是原圖;Figure 1 是產品截圖,只畫線框;Figure 2 只填描述給出的兩格。

循序漸進(文組版)的頁面

學習地圖(第 3 頁);延伸基礎 12 階:blob storage(6)、CDN 計費(7)、bitrate(14)、streaming protocol(16)、codec / container(18)、transcoding(19)、DAG(21)、GOP(25)、priority queue(29)、pre-signed URL(37)、long tail(40)、stream(47);小結(15、24、45、57);名詞小卡(59)。前幾章講過的詞直接連回:database、cache、CDN、replication、sharding、message queue(01 章)、byte、DAU、memory(02 章)、cache miss / warm-up、ack(10 章)。小美的影片是虛構的示範;bitrate、檔案大小、書店銷量等是示意數字。

一個可以直接問自己的問題:你的轉碼 worker 處理一支 1GB 的影片時,記憶體用量是 1GB,還是一個固定的小 buffer?一個任務最長跑多久,你的 MQ ACK timeout 又設多少?

← → 翻頁 · S 講者備註 · D 深/淺色
1 / 1目錄