ML System Design · 第 10 章教學線:受李宏毅教學風格啟發Triton 覆蓋度:🟢 高(只有 infra:hashtag 打分、200 毫秒、撈新貼文、爆紅計數器)
Personalized News Feed
其實就是:先猜「你會不會按讚」,再排名次而已
你打開 Facebook,第一則為什麼是同事的生日照,不是剛剛才發的八卦?原書用這個題目,把「動態牆怎麼排」從題目、特徵、模型、評估一路講到上線。
今天的路線
先爬 14 階基礎(第 4 頁的地圖),一邊爬一邊對照原書:題目怎麼定 → 人和貼文怎麼變成數字 → 一個模型猜好幾種反應 → 怎麼打分數 → 怎麼在 200 毫秒內上線。最後是 2026 補充和四張 Triton 客座卡。
標籤怎麼看
📖 原書 🎓 李宏毅課堂 📅 2026 補充 🗣️ Triton 本人說 📝 上課筆記 🔭 依 Triton 原則推論
頁首標 延伸基礎 的頁是補基礎,只用高中數學,懂的人可以跳過。
說明
這份的講法受李宏毅教學風格啟發,不是本人。只討論方法的取捨與演進,不評論任何公司、產品或作者。全程的使用者「小晴」和她的五則候選貼文都是虛構的示範資料。
先講跟你有關的動手玩 · 你來排動態牆
小晴晚上 10 點打開 app。五則新貼文,你會把哪一則放第一?
先憑直覺點一則,當作你要放第一的。
你可能會想說,照時間排就好啦,最新的放最上面。
可是最新的那則,是八卦粉專的「你絕對想不到…」。小晴多半會點進去,然後覺得被騙,按「隱藏」。真正會讓她按讚的,是三小時前同事標記她的生日照。
今天只回答一個問題:小晴看到這一則,會做哪些反應?各有幾成機率?算出來之後,乘上「每種反應值多少」加起來,由高到低排。然後呢?然後就結束了。難的是「算出來」。
原書Introduction · Figure 10.1
原書的開場:動態牆讓你一直看下去
📖 原書 news feed(動態牆)是社群平台的一個功能:在你的時間軸上,顯示朋友最近的動態,讓你一直留在平台上。
原書舉的例子是 Facebook、Twitter、LinkedIn:它們都會個人化動態牆,也就是每個人看到的順序都不一樣,來維持使用者的 engagement(參與度:你有多投入,會不會按讚、留言、一直滑)。
這一章的題目:設計一個個人化的動態牆系統。
跟第 8 章廣告點擊預測很像:一樣是「先猜機率,再排名次」。差別是這章要同時猜好幾種反應,而且有些反應是負的(隱藏、封鎖)。
學習地圖本章的概念階梯 · 每一階只用前面講過的東西
今天爬 14 階。英文名字等爬到那一階才給。
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
第 1–3 階 · 題目是什麼
要回答:「排動態牆」怎麼變成一道機器能算的題目?按讚和隱藏,怎麼合成一個分數?
第 4–6 階 · 變成數字
要回答:小晴、一則照片、她跟阿凱有多熟,怎麼餵給模型?
第 7–10 階 · 模型與訓練
要回答:一個模型怎麼同時猜七種反應?只看不按的人怎麼辦?
第 11–13 階 · 打分數
要回答:模型排得準不準?上線後大家真的比較喜歡嗎?
第 14 階 · 上線
要回答:幾十億則貼文,怎麼在 200 毫秒內排好?
全程只用一個例子:小晴的動態牆
小晴,22 歲,住台北,晚上 10 點用手機。五則新貼文:P1 摯友阿凱的墾丁照片、P2 媽媽分享的養生長文、P3 籃球粉專的 NBA 影片、P4 同事小王標記她的生日照、P5 八卦粉專的「你絕對想不到…」。每爬 3–4 階,有一頁「到這裡你已經會了」。
原書Clarifying Requirements
原書的題目:先把「做一個個人化動態牆」問清楚
這一步要解決的問題面試官只丟一句「設計個人化動態牆」。要優化什麼?多快?多少人?先問清楚。
📖 原書 應徵者 × 面試官
| 應徵者問 | 面試官答 |
|---|---|
| 做個人化動態牆,是為了讓使用者一直留在平台上嗎? | 是。貼文之間會放贊助廣告,參與度越高,收入越多 |
| 使用者重新整理時,顯示「有新動態」的貼文。新動態包含沒看過的貼文,和有沒看過留言的貼文? | 合理的假設 |
| 貼文可以有文字、圖片、影片,或任意組合嗎? | 任意組合都可以 |
| 為了讓使用者投入,最吸引人的放最上面,因為大家比較會跟前幾則互動? | 對 |
| 要優化哪一種互動?點擊、按讚、分享各有不同吧? | 好問題。不同反應價值不同,例如按讚比只點擊更有價值。排名時應該考慮主要的反應。「互動」怎麼定義、模型要優化什麼,交給你決定 |
| 主要的反應有哪些?我猜有點擊、按讚、分享、留言、隱藏、封鎖別人、送交友邀請 | 你說的就是主要的,專注在這些 |
| 系統要多快? | 重新整理或打開 app 後要很快出現,太慢使用者會無聊離開。假設 200 毫秒內 |
| 每天有多少活躍使用者?每天更新幾次時間軸? | 總共將近 30 億使用者,約 20 億每日活躍,每人每天看兩次 |
原書Problem statement
整理成一段話,再心算一下有多大
📖 原書 問題陳述
設計一個個人化動態牆系統。系統撈出沒看過的貼文、或有沒看過留言的貼文,依照「對這個使用者有多吸引人」排名次。整個過程不超過 200 毫秒。目標是提升使用者的參與度。
這段話裡有兩個動詞:撈和排。等一下你會發現,原書的整個系統(第 41 頁)就是照這兩個動詞拆成好幾段的。
心算:一秒要排幾次?(原書沒算,這是示意)
一天約 86,400 秒,粗估成 10 萬秒:40 億 ÷ 10 萬 ≈ 每秒 4 萬次。每一次都要在 200 毫秒內排好。
延伸基礎第 1 階 · 猜機率 · binary classification懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
「她會不會按讚」只有兩個答案,但模型要回答「有幾成」
① 先想像
氣象主播不會說「明天會下雨」,他說「降雨機率 70%」。猜「小晴會不會按讚」也一樣:答案只有會或不會,但最好講成幾成。
你猜猜看:阿凱以前貼了 10 張照片,小晴按讚 7 張。這次她按讚的機率,大概多少?
10 次裡 7 次:7 ÷ 10 = 70%。只有兩種結果,不代表機率是一半。右邊點點看。
③ 這叫做 binary classification
binary classification(二元分類):答案只有兩類的題目。模型輸出的是「是」那一類的機率,0% 到 100%。
「假設你有兩個類別 那你就希望類神經網路給你兩個數字 那每一個數字就代表 那個類別的信心分數」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講
④ 跟這章的關係
原書對每一種反應各問一題是非題:會不會點?會不會按讚?會不會隱藏?每一題都輸出一個機率(第 11 頁)。
② 動手玩:點一點,改小晴以前的反應
阿凱以前的 10 張照片(綠色 = 小晴按了讚):
延伸基礎第 2 階 · 排名次 · pointwise LTR懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
每一則各自打一個分數,再由高到低排,就排好了
① 先想像
美食評審試吃五家攤位,每一家各給一個分數,不用拿兩家來比。最後照分數高低排,就是推薦清單。
你猜猜看:只知道每則貼文「被按讚的機率」,就能排出動態牆嗎?
每一則一個數字,排序就好。這是最簡單、也最常見的做法。右邊按「照機率排」。
③ 這叫做 pointwise LTR
LTR(learning to rank):學會排名次。pointwise:一則一則打分,再排序。
④ 跟這章的關係
原書說 pointwise LTR「簡單又有效」,就選它。第 7 章活動推薦也是同一招。
② 動手玩:五則貼文,小晴按讚的機率(示意)
延伸基礎第 3 階 · 加權總分 · engagement score懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
點擊、按讚、隱藏都想算進去?每一種乘一個「值多少」,再加起來
① 先想像
學期成績:作業、期中、期末各有比重。期末考得好,比作業交得多更值錢;作弊被抓還要倒扣。
你猜猜看:如果只看「點擊」(點擊值 1 分,其他全部 0 分),誰會排第一?
P5 點擊機率 80% 最高。可是它的隱藏機率 10%,乘上 −20 是 −2 分。右邊把按讚、留言、隱藏的分數調回來看看。
③ 這叫做 engagement score
engagement score(參與度分數):每種反應的機率 × 這種反應值幾分,全部加起來。負面反應的分數是負的。
④ 跟這章的關係
原書 Table 10.1 給的分數:點擊 1、按讚 5、留言 10、分享 20、交友邀請 30、隱藏 −20、封鎖 −50(第 10 頁)。
② 動手玩:調每種反應「值幾分」,看排名怎麼變
原書Frame the problem as an ML task · Defining the ML objective
「提升參與度」要翻譯成模型聽得懂的目標:原書比了三種
這一步要解決的問題面試官把「互動」的定義丟給你。要讓模型拚點擊、拚按讚,還是拚一個總分?
選項 1:拚隱性反應
implicit reaction(隱性反應:沒有明說喜不喜歡),例如停留時間、點擊。
優點:資料多,訓練資料多通常模型比較準。
缺點:不一定代表真心。點進去,可能發現不值得看。
選項 2:拚顯性反應
explicit reaction(顯性反應:明確表態),例如按讚、分享、隱藏。
優點:訊號比較強。按讚比只點擊更能代表投入。
缺點:很少人會表態。覺得好看也不一定按,資料太少,模型難猜準。
選項 3:拚加權總分 原書選這個
隱性、顯性一起用,每種反應依「對我們多有價值」給一個權重,讓系統最大化加權總分。
理由:可以依商業上重要的東西來調權重。
📖 原書 Table 10.1 Weights of different reactions(權重可依商業需求調整)
| Reaction | Click | Like | Comment | Share | Friendship request | Hide | Block |
|---|---|---|---|---|---|---|---|
| Weight | 1 | 5 | 10 | 20 | 30 | −20 | −50 |
原書Input / output · Choosing the right ML category · Figure 10.2、10.3
輸入一個人,輸出一串排好的貼文;中間是好幾個是非題
📖 原書 輸入:一個使用者。輸出:沒看過的貼文、或有沒看過留言的貼文,依 engagement score 排好的清單。
ML 類別:pointwise LTR(第 8 頁),依 engagement score 排序,簡單又有效。
怎麼算一對〈使用者, 貼文〉的分數?原書用好幾個 binary classifier(第 7 頁的是非題),每一種隱性、顯性反應各猜一個機率。
Figure 10.3 的數字:點擊 23%、按讚 48%、留言 12%、分享 4%、交友邀請 0.1%、隱藏 0.005%、封鎖 0.0003%。下一頁把它們乘上權重。
原書Figure 10.4 · Calculate the engagement score
原書的算式:七個機率 × 七個權重,加起來 = 4.65885
📖 原書 Figure 10.4原書這張是表格,這裡做成可以一格一格算的表;「原書例子」的數字照原書。
這一步要解決的問題七個機率要變成一個能排序的數字。
📖 原書 機率預測出來之後,乘上每種反應的 value(權重),加總就是 engagement score。
心算一下原書的例子:0.23 + 2.4 + 1.2 + 0.8 + 0.03 − 0.001 − 0.00015 = 4.65885。
你會發現:封鎖的權重是 −50,看起來很兇,可是機率只有 0.0003%,乘起來幾乎是 0。分數 = 機率 × 權重,兩個都要大,才有影響。
切到小晴的 P5 八卦:隱藏機率 10% × −20 = −2,一下子把總分拉到負的。
到這裡你已經會了小結 1 / 5
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
到這裡你已經會了:題目是什麼
- 每一種反應各問一題是非題,模型回答「有幾成機率」(binary classification)。
- 每則貼文各打一個分數,由高到低排(pointwise LTR)。
- 分數 = 每種反應的機率 × 它值幾分,加起來;隱藏、封鎖是負分(engagement score)。
下一階要解決的問題
模型要怎麼「猜」出小晴按讚的機率?它看不懂照片、也不認識阿凱。得先把人和貼文翻譯成一串數字。
延伸基礎第 4 階 · 特徵 · feature懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
模型只看得懂數字。先問:要告訴它哪些事?
① 先想像
朋友問你「這部電影你會喜歡嗎?」你會想三件事:你自己的口味、這部片是什麼、推薦人是誰。少一件,就猜不準。
你猜猜看:「小晴按過阿凱 8 成的貼文」是在描述誰?
換一個作者,這個數字就變了;換一個讀者,也變了。它屬於「兩個人之間」。
③ 這叫做 feature
feature(特徵):描述一件事的一個數字。模型拿一長串 feature 去猜答案。
④ 跟這章的關係
原書的 feature 正好分三類:貼文的、使用者的、使用者和作者之間的(affinity)。
② 動手玩:點每一張卡,把它分到對的那一類
原書Data Preparation · Data engineering · Table 10.2–10.5
原書手上有四種原始資料:使用者、貼文、互動、友誼
這一步要解決的問題做 feature 之前,先看手上有什麼原始資料。
📖 原書 Table 10.2User data schema
| ID | Username | Age | Gender | City | Country | Language | Time zone |
|---|
原書只列欄位,沒有範例資料。
📖 原書 Table 10.3Post data
| Author ID | Textual content | Hashtags | Mentions | Images or videos | Timestamp |
|---|---|---|---|---|---|
| 5 | Today at our fav place with my best friend | life_is_good, happy | hs2008 | - | 1658450539 |
| 1 | It was the best trip we ever had | Travel, Maldives | Alexish, shan.tony | htcdn.mysite.com/maldives.jpg | 1658451341 |
| 29 | Today I had a bad experience I would like to tell you about. I went... | - | - | - | 1658451365 |
📖 原書 Table 10.4User-post interaction data
| User ID | Post ID | Interaction type | Interaction value | Location (lat, long) | Timestamp |
|---|---|---|---|---|---|
| 4 | 18 | Like | - | 38.8951 -77.0364 | 1658450539 |
| 4 | 18 | Share | User 9 | 41.9241 -89.0389 | 1658451365 |
| 9 | 18 | Comment | You look amazing | 22.7531 47.9642 | 1658435948 |
| 9 | 18 | Block | - | 22.7531 47.9642 | 1658451849 |
| 6 | 9 | Impression | 37.5189 122.6405 | 1658821820 |
Impression(曝光):貼文出現在螢幕上一次。沒有反應的曝光,等一下會變成負例(第 30 頁)。
📖 原書 Table 10.5Friendship data(假設使用者可以標出親密朋友和家人)
| User ID 1 | User ID 2 | Time when friendship was formed | Close friend | Family member |
|---|---|---|---|---|
| 28 | 3 | 1558451341 | True | False |
| 7 | 39 | 1559281720 | False | True |
| 11 | 25 | 1559312942 | False | False |
Users:是誰、在哪、講什麼語言。
Posts:誰發的、寫什麼、hashtag、標記誰、有沒有圖或影片、什麼時候。
Interactions:誰對哪則做了什麼,連 impression 都記。
Friendship:誰跟誰、何時成為朋友、是不是摯友或家人。
延伸基礎第 5 階 · 座標 · embedding懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
一張照片、一段文字,怎麼變成數字?給它一個地圖座標
① 先想像
「墾丁好熱」和「在海邊曬太陽」一個字都不一樣,意思卻很像。那就幫每段文字打兩個分數:「跟海邊多有關」和「跟籃球多有關」。
你猜猜看:「去墾丁衝浪好好玩」會落在誰旁邊?
它「海邊」分數高、「籃球」分數低,站在 P1 旁邊。右邊點它看看。
③ 這叫做 embedding
embedding:代表一段文字或一張圖意思的一組數字,像地圖上的座標。意思像,座標就近。
「意思相近的 Token 就會有相近的 Token Embedding」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 3 講(課堂講 token,貼文同理)
④ 跟這章的關係
原書用別人訓練好的模型(pre-trained model)幫貼文產生座標:文字用 BERT,圖片和影片用 ResNet 或 CLIP。
② 動手玩:點一段文字,把它放上地圖
原書Feature engineering · Post features
貼文這一側:五種 feature,各自變成數字
這一步要解決的問題貼文的屬性很多,原書只挑最重要的五種,每一種都回答三題:是什麼、為什麼重要、怎麼準備。
| Feature | 是什麼 | 為什麼重要 | 怎麼準備 |
|---|---|---|---|
| Textual content | 貼文的文字本體 | 判斷這則在講什麼 | 預處理後,用 pre-trained 語言模型變成向量(一組數字)。句子要看上下文,所以用 BERT 這種懂上下文的模型 |
| Images or videos | 貼文附的圖片或影片 | 圖裡有重要訊號。例如一張槍的圖,可能代表這則不適合兒童 | 先預處理,再用 pre-trained 模型(ResNet,或較新的 CLIP)把非結構化資料變成 embedding |
| Reactions | 按讚、分享、回覆的數量 | 有幾千個讚的貼文,比只有十個讚的更容易被互動 | 本來就是數字;做 scaling,把它們縮放到差不多的範圍 |
| Hashtags | 作者打的 #標籤 | 代表貼文的主題。例如 #women_in_tech 跟科技和女性有關,可以排高一點給對科技有興趣的人 | 三步:斷詞 → 轉 ID → 向量化(下一頁) |
| Post's age | 發文到現在過了多久 | 大家比較會跟新的內容互動 | 分成幾個區間(bucketize),再用 one-hot 表示(第 19 頁) |
原書Post features · Hashtags
#lifeisgood 是三個字黏在一起:hashtag 要先拆開,再變成數字
① Tokenization(斷詞)
「lifeisgood」「programmer_lifestyle」裡面有好幾個字。原書用 Viterbi 這類演算法來切:lifeisgood → life、is、good。
② Tokens to IDs(轉成編號)
hashtag 變得很快,流行來來去去。feature hashing 很適合:用固定的規則算出格子編號,沒看過的新標籤也分得到格子。
③ Vectorization(向量化)
用 TF-IDF 或 word2vec 這種簡單的方法,不用 Transformer。理由:Transformer 適合「上下文很重要」的資料;hashtag 通常是一個字或一個短語,不需要上下文就懂,所以選又快又輕的方法。
📖 原書 一般文字的預處理在第 4 章 YouTube Video Search 講過,這裡只講 hashtag 獨有的步驟。
動手拆:打一個 hashtag,看它被切成哪幾個字
切法是示意:從一本小字典裡,找「能切成最少個字」的切法。真的 Viterbi 會用每個字出現的機率挑最可能的切法。格子編號用一個簡單的公式算,只為了說明「同一個字永遠進同一格」。
原書Post features · Post's age · Figure 10.5
「2 小時前」要變成數字:先分區間,再在對的那格打勾
動手調:這則貼文發了多久?
📖 原書 六個區間:0 少於 1 小時、1 介於 1–5 小時、2 介於 5–24 小時、3 介於 1–7 天、4 介於 7–30 天、5 超過一個月。用 one-hot(只有一格是 1 的打勾表)表示。
原書Feature engineering · User features · Figure 10.6
使用者這一側:她是誰、她現在在哪、她以前按過什麼、有沒有被標記
📖 原書 四種使用者 feature:
- Demographics:年齡、性別、國家等
- Contextual information:裝置、一天中的時段等
- User-post historical interactions:她按讚過的所有貼文,記成一串貼文 ID;分享、留言同理
- Being mentioned in the post:這則有沒有標記她
前兩種前面幾章講過,原書只細講後兩種:
歷史互動:過去的互動通常能幫忙猜未來。怎麼準備?把她互動過的每一則貼文,各自做一次貼文 feature(上一頁那套),再合起來。
被標記:大家比較注意標記到自己的貼文。用 0 或 1 表示。小晴 × P4 生日照:1。
延伸基礎第 6 階 · 熟不熟 · affinity懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
同一句「我今天好累」,摯友說的你會回,不熟的你滑過
① 先想像
你的反應不只看貼文寫什麼,也看是誰寫的。兩個人有多熟,可以從以前的互動數出來。
你猜猜看:阿凱以前貼了 10 篇,小晴按讚 8 篇、留言 3 篇。她對阿凱的 like rate 是多少?
按讚 8 篇 ÷ 10 篇 = 0.8。留言另外算 comment rate = 0.3,不會加在一起。
③ 這叫做 affinity
affinity(親和力):描述「這個讀者和這個作者有多熟」的 feature,例如對他的按讚率、當朋友多久、是不是摯友。
④ 跟這章的關係
原書引用研究:在 Facebook 上,這類 affinity feature 是預測互動最重要的因素之一。
② 動手玩:小晴 × 阿凱,算出一串「熟不熟」的數字
阿凱以前的 10 篇(點一下切換:沒反應 → 按讚 → 按讚 + 留言)
原書Feature engineering · User-author affinities · Figure 10.7
原書的三種 affinity:互動率、當朋友多久、是不是摯友或家人
Like / click / comment / share rate
這個使用者對這位作者以前貼文的反應比例。例如 like rate 0.95,代表她按讚了這位作者 95% 的貼文。
Length of friendship
兩人在平台上當朋友幾天,從 friendship 表算出來。為什麼重要?大家比較會跟朋友互動。
Close friends and family
一個 0/1:兩人有沒有把對方放進摯友和家人名單。大家比較注意摯友和家人的貼文。
原書的數字:Like rate 0.68、Click rate 0.23、Share rate 0.11、Friendship length 1325、Close friends and family 1。
到這裡你已經會了小結 2 / 5
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
到這裡你已經會了:人和貼文怎麼變成數字
- feature 分三類:貼文的、使用者的、兩人之間的。少一類就猜不準。
- 文字、圖片交給 pre-trained 模型變成座標(embedding);時間分區間再打勾(one-hot);hashtag 先斷詞再 hashing。
- 「誰寫的」很重要:按讚率、當朋友多久、是不是摯友,這些 affinity 是最強的 feature 之一。
下一階要解決的問題
一串數字進去,七個機率出來。要訓練七個模型,還是一個?
原書Model Development · Model selection
模型選 neural network:原書給三個理由
① 吃得下非結構化資料
neural network 很擅長文字、圖片這類資料。
② 有 embedding layer
可以用 embedding layer 表示類別型 feature,例如城市、語言。
③ 能一起微調
做 feature 時用的 pre-trained 模型(BERT、CLIP),可以接在網路裡一起 fine-tune(微調)。原書說其他模型做不到。
選好 neural network 之後,還要決定架構。原書比兩種:N 個獨立的 DNN,或一個 multi-task DNN。DNN(deep neural network)就是層數很多的 neural network。
「那如果你有很多 Hidden Layer 就是深度學習 就是 Deep Learning」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講
延伸基礎第 7 階 · 一身多頭 · multi-task learning懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
七種反應,要請七個人各看一次,還是一個人看完回答七題?
① 先想像
健康檢查:與其抽七次血、每個科各驗一管,不如抽一管,七個科各自看報告。「看懂這管血」只做一次。
你猜猜看:七種反應各訓練一個獨立模型,「看懂貼文和使用者」這件事要學幾次?
每個模型都要從頭學一次。共用一個身體,就只學 1 次,七個頭各自很小。
③ 這叫做 multi-task learning
multi-task learning(多任務學習):一個模型同時學好幾題。共用的那段叫 shared layers,每題各長一個 head(頭)。
「那一堆 Neuron 排成一排 也就是乘上一個 W 再加 b 這一個操作 我們叫它一個 Layer」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講
④ 跟這章的關係
分享、封鎖很少發生,資料少。共用身體時,它們也能借用「按讚、點擊」學到的東西。原書選這個。
② 動手玩:同樣七題,兩種蓋法差多少?
原書Model Development · Figure 10.8、10.9
原書的兩種架構:N 個獨立的 DNN vs. 一個 multi-task DNN
選項 1:N 個獨立 DNN,每種反應一個
缺點 1:訓練很貴。好幾個 DNN 各自訓練,又耗算力又耗時間。
缺點 2:不常發生的反應,訓練資料可能不夠,機率就猜不準。
選項 2:multi-task DNN 原書選這個
同時學好幾題。模型能學到題目之間的相似處,也省掉重複的計算。
架構和超參數(hyperparameter,人要先設定的參數,例如共用幾層)通常靠實驗決定:多試幾種,選結果最好的。
延伸基礎第 8 階 · 只看不按 · passive user · regression懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
小晴的阿姨每天滑一小時,從來不按讚。模型要怎麼排她的動態牆?
① 先想像
阿姨不按讚、不留言,可是看到喜歡的會停下來,看很久。不喜歡的,手指一滑就過去了。
你猜猜看:模型猜阿姨對每一則的按讚機率都約 0.1%。能用它排名次嗎?
五則都約 0.1%,排出來跟亂排差不多。要換一個她「會留下痕跡」的訊號:停多久、有沒有滑過。
③ 這叫做 passive user、regression
passive user(被動使用者):只看不按的人。猜「停幾秒」這種答案是一個數字的題目叫 regression。
「輸入一個東西 輸出一個數字的這種任務……在機器學習裡面叫做 Regression」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講
④ 跟這章的關係
原書多加兩題:dwell-time(停留幾秒,regression)和 skip(停不到 t 秒,例如 0.5 秒,就算滑過)。
② 動手玩:同五則貼文,換成阿姨的反應(示意)
原書Improving the DNN architecture for passive users · Figure 10.10
原書的解法:在 multi-task DNN 上,多長兩個頭
這一步要解決的問題很多人被動地使用平台。對他們,現有的 DNN 會把所有反應都猜得很低,因為他們很少反應。
📖 原書 在任務清單裡加兩個隱性反應:
- Dwell-time:使用者在一則貼文上停留的時間。
- Skip:停不到 t 秒(例如 0.5 秒),就假設他跳過了這則。
圖上 skip head 和 dwell-time head 到 click head 之間有兩條虛線。原書沒有解釋,圖說描述成「可能有次要的影響或資訊共享」。我們照畫,不多猜。
延伸基礎第 9 階 · 少數派 · class imbalance懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
100 次曝光只有 3 次按讚。一個「永遠說不會」的模型,居然考 97 分?
① 先想像
班上 100 人只有 3 人感冒。校護偷懶,對每個人都說「你沒感冒」,答對 97 人。她是好校護嗎?
你猜猜看:模型對 100 次曝光都猜「不會按讚」,正確率是多少?
97 次沒按讚都猜對了。正確率很高,可是 3 個真的會按讚的,一個都沒抓到。
③ 這叫做 class imbalance
class imbalance(類別不平衡):一類很多、一類很少。模型會學到「猜多數那邊就好」。
④ 跟這章的關係
原書的做法:負例(沒按讚的曝光)只抽跟正例一樣多,讓資料變成一半一半。
② 動手玩:負例要留幾筆?
原書Model training · Constructing the dataset · Figure 10.11、10.12
每一題各做一份考卷:按讚題標正負,停留題標秒數
這一步要解決的問題DNN 要學好幾題,每一題都要有正例和負例。
按讚題怎麼做
正例:每次有人按讚,就加一筆資料,算出〈user, post〉的 feature,標成 Positive。
負例:挑「有曝光、但沒按讚」的。負例通常比正例多很多;為了避免不平衡,負例只做到跟正例一樣多。
其他題
點擊、分享等其他反應,用同一套流程做正負例。dwell-time 是 regression,做法不同:標準答案就是那次曝光的停留秒數。
延伸基礎第 10 階 · 驚訝分數 · binary cross-entropy懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
模型猜錯了,要罰多重?看它有多驚訝
① 先想像
主播說降雨機率 90%,結果下雨了,你不驚訝。他說 1%,結果下大雨,你很驚訝。越有把握地說錯,越該被罰。
你猜猜看:模型說小晴按讚的機率只有 1%(0.01),結果她按了。數一數機率後面有幾個零,驚訝分數是多少?
0.1 是 1、0.01 是 2、0.001 是 3。猜 1% 卻發生了,驚訝 2 分;猜 90% 發生了,驚訝不到 0.05 分。
③ 這叫做 binary cross-entropy
binary cross-entropy(BCE):每一筆看「真正發生的那件事,模型給了幾 %」,算驚訝分數,再平均。越小越好。
「這兩個機率分布越接近 那這個 Loss 算出來呢就會越小」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講
④ 跟這章的關係
原書:每個是非題的頭都用 BCE;停留時間那題是猜數字,用 MAE、MSE 或 Huber loss。
② 動手玩:調模型的猜測,看驚訝分數
原書Model training · Choosing the loss function · Figure 10.13
每個頭各算一個 loss,加權加起來,就是總 loss
這一步要解決的問題一個模型同時學好幾題,要怎麼算「整體錯多少」?
📖 原書 每一題依它的 ML 類別各定一個 loss:
- 是非題(skip、like、share…):binary cross-entropy
- 猜數字(dwell-time):MAE、MSE 或 Huber loss
Loss = λ·Ldwell + Lskip + Llike + … + Lshare
λ(念 lambda)就是一個「放大縮小」的數字。秒數的誤差可能是 11 秒,機率的誤差頂多 1,不調一下,總 loss 會被秒數那題主宰。
到這裡你已經會了小結 3 / 5
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
到這裡你已經會了:一個模型怎麼同時學七題
- 共用一個身體、每題一個頭(multi-task DNN):省算力,少見的反應也學得到。
- 只看不按的人,多猜兩題:停幾秒(regression)、有沒有滑過(skip)。
- 負例只抽跟正例一樣多(class imbalance);是非題用驚訝分數(BCE),猜秒數用 MAE/MSE/Huber,加權加起來。
下一階要解決的問題
模型訓練好了。它排得準不準?上線以後,小晴真的比較開心嗎?
延伸基礎第 11 階 · 門檻 · TPR、FPR懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
模型給的是機率。「幾 % 以上算會按讚」,是你自己畫的線
① 先想像
網路上 10 次曝光,小晴實際按讚 4 次。你畫一條線:模型說機率超過這條線的,就算「猜她會按讚」。線越低,抓得越多,也誤抓越多。
你猜猜看:線畫在 0%(全部都猜會按讚),真的按讚的 4 次,抓到幾成?
全部都猜會,當然 4 個都抓到;代價是 6 個沒按讚的也全部誤抓。右邊把線拉到 0 看看。
③ 這叫做 TPR、FPR
TPR:真的按讚的,抓到幾成(就是 recall)。FPR:沒按讚的,被誤抓幾成。
④ 跟這章的關係
原書說:precision、recall 只看一條線,不夠。要看所有線上 TPR 和 FPR 怎麼一起變(下一頁)。
② 動手玩:拉門檻,看抓到和誤抓
延伸基礎第 12 階 · 排隊比賽 · ROC-AUC懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
不想選門檻?每一條線都試一次,畫成曲線,量面積
① 先想像
換個看法:把每一個「按了」和每一個「沒按」配成一對比賽,模型給「按了」的分數比較高就贏。4 × 6 = 24 場。
你猜猜看:分數完全亂給的模型,大約贏幾成?
亂給就像擲硬幣,贏一半。所以 0.5 是「完全沒學到」,1 是「每一場都贏」。
③ 這叫做 ROC curve、ROC-AUC
ROC curve:門檻從高拉到低,把每個 (FPR, TPR) 連成線。ROC-AUC:曲線下的面積,剛好等於比賽贏的比例。
④ 跟這章的關係
原書的離線指標:每一種反應各畫一條 ROC,各算一個 ROC-AUC。
② 動手玩:拖動點改分數,看曲線和面積
原書Evaluation · Offline metrics
離線考試:每一種反應各考一張,都看 ROC-AUC
這一步要解決的問題上線前,先用歷史資料考模型:它預測各種反應準不準?
📖 原書 單一反應可以用二元分類的指標,例如 precision、recall。
但只看它們,可能不足以了解整體表現。所以用 ROC curve 看 TPR 和 FPR 之間的取捨,再算 ROC-AUC,用一個數字總結。
「雖然我們在訓練的時候 用 Cross-Entropy 但是你最後在做驗證跟測試的時候 你仍然會用 Accuracy 因為 Accuracy 才是你真正關心的東西」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講
示意:小晴這個模型的成績單
每個頭各一個 ROC-AUC。數字是虛構的示意;dwell-time 是猜秒數,不能算 ROC-AUC,看平均差幾秒。
延伸基礎第 13 階 · 線上考試 · online metrics懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
模擬考考得好,不代表大家真的喜歡:上線以後再考一次
① 先想像
兩種動態牆各給一萬人用一週:A 把八卦放前面,B 用加權總分排。哪一種比較好,要看好幾個數字,不能只看一個。
你猜猜看:哪一種的點擊率(點擊 ÷ 曝光)比較高?
八卦就是很會被點。可是隱藏率、滿意度一看,A 輸很多。只盯著點擊率,就會被釣魚標題騙。
③ 這叫做 online metrics
online metrics(線上指標):上線後,從真實使用者的行為算出的數字。例如 CTR(click-through rate)= 點擊 ÷ 曝光。
「一旦一項指標啊 被當作目標 它就不再是一個好的指標」🎓 李宏毅課堂 生成式AI時代下的機器學習(2025) · 第九講(Goodhart's Law)
④ 跟這章的關係
原書看四類:CTR、各種反應率、總使用時間、問卷滿意度。
② 動手玩:同一週、各一萬人,兩種動態牆(示意)
原書Evaluation · Online metrics
原書的線上指標:從點擊,一路看到「大家滿不滿意」
CTR
CTR = 被點擊的貼文數 ÷ 曝光數
CTR 高不一定代表更投入:使用者可能點了低價值的釣魚貼文,馬上發現不值得看。但它仍然是重要的指標。
Reaction rates
Like rate = 被按讚的貼文數 ÷ 曝光數
同理還有 share、comment、hide、block、skip rate。這些是比 CTR 強的訊號,因為使用者明確表達了偏好。
可是被動使用者呢?他們對大部分貼文都沒反應,上面的指標量不到他們。原書加兩個:
Total time spent
一段固定期間(例如一週)內,使用者花在時間軸上的總時間。主動、被動使用者都量得到。
User satisfaction rate(問卷)
直接問使用者覺得動態牆怎樣、貼文吸不吸引人。因為是明確的回饋,原書說這是準確量效果的方法。
到這裡你已經會了小結 4 / 5
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
到這裡你已經會了:怎麼替動態牆打分數
- 機率要變成「會/不會」得畫一條線(門檻);線一動,抓到的(TPR)和誤抓的(FPR)一起變。
- 每條線都試一次畫成 ROC curve,面積就是 ROC-AUC,等於「按了 vs 沒按」比賽的勝率。
- 上線後看 CTR、反應率、總使用時間、問卷;只盯一個數字,就會被它騙(Goodhart's Law)。
下一階要解決的問題
每秒 4 萬次、每次 200 毫秒。幾十億則貼文,不可能每一則都請模型仔細打分。怎麼辦?
延伸基礎第 14 階 · 漏斗 · retrieval → ranking → re-ranking懂的人可以跳過
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
每一則都仔細打分?來不及。先粗篩,再細排,最後套規矩
① 先想像
選秀節目:海選只看「有沒有報名、年紀對不對」,複賽評審一個一個打分,決賽再加規矩(同一隊最多兩人)。越後面人越少、看得越仔細。
你猜猜看:模型打一則分要 0.2 毫秒。10 億則全部打,要多久?
10 億 × 0.2 毫秒 = 2 億毫秒 = 20 萬秒,大約 56 小時。我們只有 200 毫秒。
③ 這叫做 retrieval → ranking
retrieval:先用便宜的規則撈出一小批候選。ranking:只對這一小批用模型打分。後面再加一關 re-ranking 套規矩。
④ 跟這章的關係
原書的預測管線就是三段:retrieval service → ranking service → re-ranking service(下一頁)。
② 動手玩:要打分的貼文有多少,時間就花多少
原書Serving · Figure 10.14
整個系統:一條管線備料,一條管線即時排名
📖 原書 上線時,系統回應請求,輸出排好的貼文清單。兩條管線:
Data preparation pipeline
新資料和互動不斷流進 data store,batch feature computation 先算好 feature,放進 feature store(存放算好的 feature 的地方)。原書說它跟第 8 章廣告點擊預測很像,不細講。
Prediction pipeline
retrieval service 撈貼文 → ranking service 用 ML model 打分(feature 一部分從 feature store 拿,一部分 online 當下算)→ re-ranking service 調整 → 小晴的個人化動態牆。
原書Serving · Prediction pipeline
小晴按下重新整理:三個服務,各做一件事
一步一步看(示意)
Retrieval service
撈出小晴沒看過的貼文,或有她沒看過的留言的貼文。原書說怎麼有效率地撈,可以讀參考資料 [14]。
Ranking service
替每一則撈到的貼文打 engagement score,排名次。
Re-ranking service
加上額外的規則和使用者篩選條件,修改清單。原書的例子:使用者明確說過對某個主題有興趣,例如足球,就把相關貼文往前排。
原書Other Talking Points
面試還有時間,可能會被問到這四件事
① 正在爆紅的貼文怎麼處理?
原書參考 [15]:預測哪些貼文會爆紅。白話:一則貼文 10 分鐘內讚數暴衝,它的 reaction feature 一直在變,模型要跟得上。客座卡第 49 頁談它的 infra。
② 新使用者怎麼個人化?
原書參考 [16]:cold start(冷啟動)。新人沒有歷史互動、沒有 affinity,最強的 feature 都是空的。常見做法是先用人口統計、熱門內容,邊看邊學。
③ 位置偏差怎麼減輕?
原書參考 [17]:positional bias。排第一的本來就比較常被點,不一定是因為比較好看。用這種資料訓練,模型會把「排第一」誤學成「好看」。
④ 多久重新訓練一次?
原書參考 [18]:retraining frequency。口味和熱門話題一直在變,太久不重訓,模型就過時;太常重訓,又貴。
你猜猜看:第 1 名的貼文被點了 30%、第 5 名被點了 5%。第 1 名一定比較好看嗎?
把同一則放在第 5 名,點擊率可能也掉很多。這就是位置偏差:要分開「它好看」和「它排在前面」。
到這裡你已經會了小結 5 / 5
- 猜機率
- 排名次
- 加權總分
- 特徵
- 座標
- 熟不熟
- 一身多頭
- 只看不按
- 少數派
- 驚訝分數
- 門檻
- 排隊比賽
- 線上考試
- 漏斗
到這裡你已經會了:動態牆怎麼在 200 毫秒內上線
- 先撈(retrieval):只撈沒看過的貼文、或有新留言的貼文,把幾十億變成幾百。
- 再排(ranking):從 feature store 拿算好的、當下算即時的,multi-task 模型打出 engagement score。
- 最後套規矩(re-ranking):使用者說過喜歡的主題往前。還要顧爆紅、新人、位置偏差、重訓頻率。
接下來
原書寫完之後,這幾個零件有什麼新做法?然後請 Triton 從 infra 的角度講評:撈貼文、200 毫秒、爆紅計數器,資料要怎麼存。
📅 2026 補充方法的演進與限制
原書之後,這幾個零件換了做法
📅 2026 補充 多頭會打架
共用一個身體時,「點擊」和「停留」可能互相拉扯:一題變好,另一題變差。後來的架構讓每題挑自己要用的「專家」子網路,例如 MMoE(KDD 2018)、PLE(RecSys 2020)。
📅 2026 補充 從「一則一則猜」到「讀整串行為」
把使用者的行為當成一串 token 來讀,用 Transformer 一次預測,例如 Meta 的 generative recommenders(HSTU,ICML 2024)。pointwise 打分仍然很常見,但不再是唯一主流。
📅 2026 補充 問卷變成訓練目標
原書把問卷當線上指標。後來平台公開說明,也會拿「這則值不值得你花時間」這類問卷回答來訓練模型,彌補「點了不代表喜歡」。
📅 2026 補充 動態牆不只朋友
原書的 retrieval 只撈朋友的新貼文。2022 年後主流平台的動態牆,加進越來越多「你沒追蹤的帳號」的推薦內容,retrieval 變得更像第 6 章影片推薦的多路候選。
客座講評Triton 怎麼用 hashtag 打分 · 076Triton 客座 1 / 4
沒有語言專家,hashtag 還能拿來排貼文嗎?
這一步要解決的問題原書的 hashtag 要斷詞、hashing、TF-IDF(第 18 頁)。Triton 在 HYPEBEAST 做 suggestion feed 時,用的是另一條路。
先猜:團隊沒有語言專家,又要讓「#Nikes」和使用者喜歡的「Nike」對得上。Triton 怎麼做?
答案在下面的原文:挑大約 1000 個熱門 tag,人工合併。按 → 看原文。
「use hashtag to calculate the matchness of the article with user profile」「We have no linguistic experts」「We picked ~1000 popular tags」「Need manual(a.k.a.工人智慧 ) tag merging」「"Nikes" vs "Nike"」「"iphone 7" vs "iphone"」🗣️ Triton 本人說 076-mini-bigdata.pdf.md · Suggestion Feed
🔭 依 Triton 原則推論 套到這章:原書的 feature hashing 解決「沒看過的新 tag」;Triton 的人工合併解決「同一件事、不同寫法」。團隊小、tag 少的時候,1000 個 tag 加一張合併表,先讓系統動起來,再談 Viterbi 和 word2vec。
動手試:小晴的喜好分數 × 貼文的 hashtag
小晴的 profile(Triton 式 key-value,示意):{ "basketball": 80, "travel": 30, "food": 40 }
客座講評200 毫秒要怎麼花 · 150、076Triton 客座 2 / 4
模型 60 毫秒就排好了,為什麼動態牆還是超過 200 毫秒?
先猜:排好的 10 則貼文,每則要顯示作者的名字和頭像。一則一則去資料庫查,每次 5 毫秒,光查作者要多久?
10 次 × 5 毫秒 = 50 毫秒,四分之一的預算就沒了。Triton 在 150 用留言版講過一模一樣的算術。
「即使每個select只吃掉5ms(這是算很不錯的數字了),單單因為這些overhead便浪費掉10 * 5ms = 50ms!」「把要拿的userId先集中到一個array,然後用單一的query去拿全部的record」「這樣才只花一次的資料庫通訊」🗣️ Triton 本人說 150-在一般的留言版,很多時候頁面上會顯示留言者的名字和圖片,和他的留名吧。.md
「The user profile, the article content, the article score......」「Performance is MUCH more important then data freshness」「If multiple articles have cache miss, the HTTP Request is performed in multi-thread」🗣️ Triton 本人說 076 · Suggestion Feed Performance(這一頁的標題句是「All data is cached」)
動手算:200 毫秒的預算單(示意)
🔭 依 Triton 原則推論 原書的 200 毫秒,不是只給模型用的。撈貼文、拿 feature、補作者和內容,每多一次來回就多 5 毫秒;批次拿、能 cache 的就 cache,模型才有時間。
客座講評「沒看過的貼文」怎麼撈得快 · 058、062Triton 客座 3 / 4
retrieval 說「撈沒看過的貼文」。它們在硬碟上住哪裡?
先猜:小晴有 5 個朋友各發了 3 篇新貼文。如果每一篇都散在硬碟不同的地方,至少要跳著讀幾次?
15 篇散在 15 個地方,就要跳 15 次。如果同一個人的貼文依時間排在一起,5 個人只要讀 5 段。右邊切換看看。
「相同 chatroom 的 message record ,他們的 phyiscal storage position 應該是相鄰的 這樣子才是 seq IO 而不是 Random IO」「一定是 (chatroomId, createTs)」「Optional parameter: lastTs」🗣️ Triton 本人說 062-im-system design.pdf.md · Database、Message Primary Key、訊息相關 endpoint
「FB 如果⽤ Mysql post PK 會⽤哪個 Triton: post : postID (uuid) PK (postID + create_ts) ⼀個 Seq.Scan Io 依次拿出來 在動態牆」📝 上課筆記 058(Roy 的 columnar storage mini-talk 筆記,非 Triton 原文;記得很簡略)
動手比:同樣 15 篇新貼文,硬碟上怎麼放?
🔭 依 Triton 原則推論 062 談聊天室,原則可以搬過來:「同一個作者的貼文」像「同一個聊天室的訊息」,依時間相鄰存放;retrieval 帶著小晴上次看到的時間(像 lastTs)往後讀一段,就是「沒看過的」。筆記 058 記的主鍵寫法不完整,這裡不當成 Triton 的定論。
客座講評爆紅貼文的讚數 · 182、076Triton 客座 4 / 4
一則貼文爆紅,每秒一萬個讚。「讚數」這個 feature 要怎麼更新?
先猜:Figure 10.5 的「# Likes」feature,每多一個讚就寫一次資料庫,好嗎?
爆紅貼文的寫入全部擠在同一筆紀錄上。Triton 的兩份材料都在講這種「同一筆被狂寫」的情況。
「The Write is clustered, not random」「If some system component crash, some data loss can be tolerated」「Reduce database write operation」「Database Write is indepentent of traffic」🗣️ Triton 本人說 076 · Write Aggregation
「所以全部貓咪吃罐罐後要更新score的流量都跑到單一的redis node上。」「首先,在redis中會有 cat_id --> 其所吃罐罐數量的key-value pairs,散落在redis cluster上的每一個node上。」🗣️ Triton 本人說 182-資料結構很重要,他媽的重要!,用即時排名來講述.md
動手調:讚數有多兇,資料庫要寫幾次?(示意)
🔭 依 Triton 原則推論 給模型看的「讚數」差幾個沒關係,正好符合 076 的兩個前提:寫入集中、可以容忍少量遺失。可是「小晴按了讚」這筆紀錄本身不能掉,要照常存。兩者要分開放。
一句話記住
個人化動態牆,其實就是:
每一種反應猜一個機率,乘上它值幾分,加起來排名次而已
題目
pointwise LTR + 多個 binary classifier;權重是商業決定,隱藏和封鎖是負分。
模型
貼文、使用者、affinity 三類 feature;一個 multi-task DNN,被動使用者多猜停留時間和滑過。
評估
離線每個頭看 ROC-AUC;線上看 CTR、反應率、總時間、問卷,別只盯一個。
上線(Triton 客座)
200 毫秒不只給模型:批次查、能 cache 就 cache、依時間相鄰存放、爆紅計數先在記憶體加總。
本章名詞小卡課後複習用 · 每個名詞一句白話
今天出現的名詞,一句話講完
給工程師的重點出處與標籤
本章引用的來源
📖 原書段落 → 本簡報頁碼
Machine Learning System Design Interview · Personalized News Feed。Introduction、Fig 10.1(3)|Clarifying Requirements(5–6)|Defining the ML objective、Table 10.1(10)|Input/output、ML category、Fig 10.2–10.3(11)|Fig 10.4(12)|Data engineering、Table 10.2–10.5(15)|Post features(17)、Hashtags(18)、Post's age、Fig 10.5(19)|User features、Fig 10.6(20)|User-author affinities、Fig 10.7(22)|Model selection(24)|Independent vs multi-task DNN、Fig 10.8–10.9(26)|Passive users、Fig 10.10(28)|Constructing the dataset、Fig 10.11–10.12(30)|Loss、Fig 10.13(32)|Offline metrics(36)|Online metrics(38)|Serving、Fig 10.14(41)|Prediction pipeline(42)|Other talking points(43)。13 張圖依原書圖說與描述重繪,不是原圖;Figure 10.4 與 Table 10.1–10.5 原書是表格,以 HTML 表格呈現。
🗣️ Triton(materials/core)
- 076-mini-bigdata.pdf.md:Suggestion Feed 的 hashtag 打分、~1000 tags、工人智慧(46);Performance > freshness、multi-thread(47);Write Aggregation(49)
- 150:10 × 5ms = 50ms、集中成一次 query(47)
- 062-im-system design.pdf.md:(chatroomId, createTs)、seq IO、lastTs(48)
- 182:單一 redis node、key-value 散在 cluster(49)
- 058:Roy 的上課筆記,標 📝(48)
🎓 李宏毅課堂(逐字稿)
- 生成式人工智慧與機器學習導論 2025:第 3 講(Token Embedding)、第 5 講(Regression、Layer)、第 6 講(信心分數、cross-entropy、訓練 CE/測試 Accuracy、Accuracy 不能當 Loss)
- 生成式AI時代下的機器學習(2025):第九講(Goodhart's Law)
- 來源
.claude/skills/hung-yi-lee(受李宏毅教學風格啟發,非本人)
延伸基礎(14 階)
地圖 4|小結 13、23、33、39、44|小卡 51|猜機率 7、排名次 8、加權總分 9、feature 14、embedding 16、affinity 21、multi-task 25、passive/regression 27、imbalance 29、BCE 31、門檻 34、ROC-AUC 35、online metrics 37、漏斗 40。
📅 2026 補充的依據
- MMoE(Ma et al., KDD 2018)、PLE(Tang et al., RecSys 2020)
- HSTU〈Actions Speak Louder than Words〉ICML 2024
- Meta Feed ranking system cards(2023);Facebook「worth your time」問卷(2019)