ML System Design · 第 10 章教學線:受李宏毅教學風格啟發Triton 覆蓋度:🟢 高(只有 infra:hashtag 打分、200 毫秒、撈新貼文、爆紅計數器)

Personalized News Feed
其實就是:先猜「你會不會按讚」,再排名次而已

你打開 Facebook,第一則為什麼是同事的生日照,不是剛剛才發的八卦?原書用這個題目,把「動態牆怎麼排」從題目、特徵、模型、評估一路講到上線。

今天的路線

先爬 14 階基礎(第 4 頁的地圖),一邊爬一邊對照原書:題目怎麼定 → 人和貼文怎麼變成數字 → 一個模型猜好幾種反應 → 怎麼打分數 → 怎麼在 200 毫秒內上線。最後是 2026 補充和四張 Triton 客座卡。

標籤怎麼看

📖 原書 🎓 李宏毅課堂 📅 2026 補充 🗣️ Triton 本人說 📝 上課筆記 🔭 依 Triton 原則推論

頁首標 延伸基礎 的頁是補基礎,只用高中數學,懂的人可以跳過。

說明

這份的講法受李宏毅教學風格啟發,不是本人。只討論方法的取捨與演進,不評論任何公司、產品或作者。全程的使用者「小晴」和她的五則候選貼文都是虛構的示範資料。

先講跟你有關的動手玩 · 你來排動態牆

小晴晚上 10 點打開 app。五則新貼文,你會把哪一則放第一?

換一種排法:
—前 3 則:預計按讚幾次—前 3 則:預計隱藏幾次

先憑直覺點一則,當作你要放第一的。

你可能會想說,照時間排就好啦,最新的放最上面。

可是最新的那則,是八卦粉專的「你絕對想不到…」。小晴多半會點進去,然後覺得被騙,按「隱藏」。真正會讓她按讚的,是三小時前同事標記她的生日照。

今天只回答一個問題:小晴看到這一則,會做哪些反應?各有幾成機率?算出來之後,乘上「每種反應值多少」加起來,由高到低排。然後呢?然後就結束了。難的是「算出來」。

原書Introduction · Figure 10.1

原書的開場:動態牆讓你一直看下去

📖 原書 news feed(動態牆)是社群平台的一個功能:在你的時間軸上,顯示朋友最近的動態,讓你一直留在平台上。

原書舉的例子是 Facebook、Twitter、LinkedIn:它們都會個人化動態牆,也就是每個人看到的順序都不一樣,來維持使用者的 engagement(參與度:你有多投入,會不會按讚、留言、一直滑)。

這一章的題目:設計一個個人化的動態牆系統。

跟第 8 章廣告點擊預測很像:一樣是「先猜機率,再排名次」。差別是這章要同時猜好幾種反應,而且有些反應是負的(隱藏、封鎖)。

📖 原書 Figure 10.1User timeline with personalized feeds:時間軸上的兩則貼文,一則是影片、一則是圖片(依原書內容重繪)

學習地圖本章的概念階梯 · 每一階只用前面講過的東西

今天爬 14 階。英文名字等爬到那一階才給。

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

第 1–3 階 · 題目是什麼

要回答:「排動態牆」怎麼變成一道機器能算的題目?按讚和隱藏,怎麼合成一個分數?

第 4–6 階 · 變成數字

要回答:小晴、一則照片、她跟阿凱有多熟,怎麼餵給模型?

第 7–10 階 · 模型與訓練

要回答:一個模型怎麼同時猜七種反應?只看不按的人怎麼辦?

第 11–13 階 · 打分數

要回答:模型排得準不準?上線後大家真的比較喜歡嗎?

第 14 階 · 上線

要回答:幾十億則貼文,怎麼在 200 毫秒內排好?

全程只用一個例子:小晴的動態牆

小晴,22 歲,住台北,晚上 10 點用手機。五則新貼文:P1 摯友阿凱的墾丁照片、P2 媽媽分享的養生長文、P3 籃球粉專的 NBA 影片、P4 同事小王標記她的生日照、P5 八卦粉專的「你絕對想不到…」。每爬 3–4 階,有一頁「到這裡你已經會了」。

原書Clarifying Requirements

原書的題目:先把「做一個個人化動態牆」問清楚

這一步要解決的問題面試官只丟一句「設計個人化動態牆」。要優化什麼?多快?多少人?先問清楚。

📖 原書 應徵者 × 面試官

應徵者問面試官答
做個人化動態牆,是為了讓使用者一直留在平台上嗎?是。貼文之間會放贊助廣告,參與度越高,收入越多
使用者重新整理時,顯示「有新動態」的貼文。新動態包含沒看過的貼文,和有沒看過留言的貼文?合理的假設
貼文可以有文字、圖片、影片,或任意組合嗎?任意組合都可以
為了讓使用者投入,最吸引人的放最上面,因為大家比較會跟前幾則互動?對
要優化哪一種互動?點擊、按讚、分享各有不同吧?好問題。不同反應價值不同,例如按讚比只點擊更有價值。排名時應該考慮主要的反應。「互動」怎麼定義、模型要優化什麼,交給你決定
主要的反應有哪些?我猜有點擊、按讚、分享、留言、隱藏、封鎖別人、送交友邀請你說的就是主要的,專注在這些
系統要多快?重新整理或打開 app 後要很快出現,太慢使用者會無聊離開。假設 200 毫秒內
每天有多少活躍使用者?每天更新幾次時間軸?總共將近 30 億使用者,約 20 億每日活躍,每人每天看兩次

原書Problem statement

整理成一段話,再心算一下有多大

📖 原書 問題陳述

設計一個個人化動態牆系統。系統撈出沒看過的貼文、或有沒看過留言的貼文,依照「對這個使用者有多吸引人」排名次。整個過程不超過 200 毫秒。目標是提升使用者的參與度。

這段話裡有兩個動詞:撈和排。等一下你會發現,原書的整個系統(第 41 頁)就是照這兩個動詞拆成好幾段的。

心算:一秒要排幾次?(原書沒算,這是示意)

—每天要排幾次動態牆—平均每秒幾次(÷ 86,400 秒)

一天約 86,400 秒,粗估成 10 萬秒:40 億 ÷ 10 萬 ≈ 每秒 4 萬次。每一次都要在 200 毫秒內排好。

延伸基礎第 1 階 · 猜機率 · binary classification懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

「她會不會按讚」只有兩個答案,但模型要回答「有幾成」

① 先想像

氣象主播不會說「明天會下雨」,他說「降雨機率 70%」。猜「小晴會不會按讚」也一樣:答案只有會或不會,但最好講成幾成。

你猜猜看:阿凱以前貼了 10 張照片,小晴按讚 7 張。這次她按讚的機率,大概多少?

③ 這叫做 binary classification

binary classification(二元分類):答案只有兩類的題目。模型輸出的是「是」那一類的機率,0% 到 100%。

「假設你有兩個類別 那你就希望類神經網路給你兩個數字 那每一個數字就代表 那個類別的信心分數」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講

④ 跟這章的關係

原書對每一種反應各問一題是非題:會不會點?會不會按讚?會不會隱藏?每一題都輸出一個機率(第 11 頁)。

② 動手玩:點一點,改小晴以前的反應

阿凱以前的 10 張照片(綠色 = 小晴按了讚):

—這次按讚的機率(按了幾張 ÷ 10)

延伸基礎第 2 階 · 排名次 · pointwise LTR懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

每一則各自打一個分數,再由高到低排,就排好了

① 先想像

美食評審試吃五家攤位,每一家各給一個分數,不用拿兩家來比。最後照分數高低排,就是推薦清單。

你猜猜看:只知道每則貼文「被按讚的機率」,就能排出動態牆嗎?

③ 這叫做 pointwise LTR

LTR(learning to rank):學會排名次。pointwise:一則一則打分,再排序。

④ 跟這章的關係

原書說 pointwise LTR「簡單又有效」,就選它。第 7 章活動推薦也是同一招。

② 動手玩:五則貼文,小晴按讚的機率(示意)

延伸基礎第 3 階 · 加權總分 · engagement score懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

點擊、按讚、隱藏都想算進去?每一種乘一個「值多少」,再加起來

① 先想像

學期成績:作業、期中、期末各有比重。期末考得好,比作業交得多更值錢;作弊被抓還要倒扣。

你猜猜看:如果只看「點擊」(點擊值 1 分,其他全部 0 分),誰會排第一?

③ 這叫做 engagement score

engagement score(參與度分數):每種反應的機率 × 這種反應值幾分,全部加起來。負面反應的分數是負的。

④ 跟這章的關係

原書 Table 10.1 給的分數:點擊 1、按讚 5、留言 10、分享 20、交友邀請 30、隱藏 −20、封鎖 −50(第 10 頁)。

② 動手玩:調每種反應「值幾分」,看排名怎麼變

原書Frame the problem as an ML task · Defining the ML objective

「提升參與度」要翻譯成模型聽得懂的目標:原書比了三種

這一步要解決的問題面試官把「互動」的定義丟給你。要讓模型拚點擊、拚按讚,還是拚一個總分?

選項 1:拚隱性反應

implicit reaction(隱性反應:沒有明說喜不喜歡),例如停留時間、點擊。

優點:資料多,訓練資料多通常模型比較準。

缺點:不一定代表真心。點進去,可能發現不值得看。

選項 2:拚顯性反應

explicit reaction(顯性反應:明確表態),例如按讚、分享、隱藏。

優點:訊號比較強。按讚比只點擊更能代表投入。

缺點:很少人會表態。覺得好看也不一定按,資料太少,模型難猜準。

選項 3:拚加權總分 原書選這個

隱性、顯性一起用,每種反應依「對我們多有價值」給一個權重,讓系統最大化加權總分。

理由:可以依商業上重要的東西來調權重。

📖 原書 Table 10.1 Weights of different reactions(權重可依商業需求調整)

ReactionClickLikeCommentShareFriendship requestHideBlock
Weight15102030−20−50

原書Input / output · Choosing the right ML category · Figure 10.2、10.3

輸入一個人,輸出一串排好的貼文;中間是好幾個是非題

📖 原書 Figure 10.2A personalized news feed system's input-output(依原書內容重繪)
📖 原書 Figure 10.3Predicted probabilities of various reactions(依原書內容重繪)

📖 原書 輸入:一個使用者。輸出:沒看過的貼文、或有沒看過留言的貼文,依 engagement score 排好的清單。

ML 類別:pointwise LTR(第 8 頁),依 engagement score 排序,簡單又有效。

怎麼算一對〈使用者, 貼文〉的分數?原書用好幾個 binary classifier(第 7 頁的是非題),每一種隱性、顯性反應各猜一個機率。

Figure 10.3 的數字:點擊 23%、按讚 48%、留言 12%、分享 4%、交友邀請 0.1%、隱藏 0.005%、封鎖 0.0003%。下一頁把它們乘上權重。

原書Figure 10.4 · Calculate the engagement score

原書的算式:七個機率 × 七個權重,加起來 = 4.65885

算哪一則:
—Engagement score

📖 原書 Figure 10.4原書這張是表格,這裡做成可以一格一格算的表;「原書例子」的數字照原書。

這一步要解決的問題七個機率要變成一個能排序的數字。

📖 原書 機率預測出來之後,乘上每種反應的 value(權重),加總就是 engagement score。

心算一下原書的例子:0.23 + 2.4 + 1.2 + 0.8 + 0.03 − 0.001 − 0.00015 = 4.65885。

你會發現:封鎖的權重是 −50,看起來很兇,可是機率只有 0.0003%,乘起來幾乎是 0。分數 = 機率 × 權重,兩個都要大,才有影響。

切到小晴的 P5 八卦:隱藏機率 10% × −20 = −2,一下子把總分拉到負的。

到這裡你已經會了小結 1 / 5

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

到這裡你已經會了:題目是什麼

下一階要解決的問題

模型要怎麼「猜」出小晴按讚的機率?它看不懂照片、也不認識阿凱。得先把人和貼文翻譯成一串數字。

延伸基礎第 4 階 · 特徵 · feature懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

模型只看得懂數字。先問:要告訴它哪些事?

① 先想像

朋友問你「這部電影你會喜歡嗎?」你會想三件事:你自己的口味、這部片是什麼、推薦人是誰。少一件,就猜不準。

你猜猜看:「小晴按過阿凱 8 成的貼文」是在描述誰?

③ 這叫做 feature

feature(特徵):描述一件事的一個數字。模型拿一長串 feature 去猜答案。

④ 跟這章的關係

原書的 feature 正好分三類:貼文的、使用者的、使用者和作者之間的(affinity)。

② 動手玩:點每一張卡,把它分到對的那一類

原書Data Preparation · Data engineering · Table 10.2–10.5

原書手上有四種原始資料:使用者、貼文、互動、友誼

這一步要解決的問題做 feature 之前,先看手上有什麼原始資料。

📖 原書 Table 10.2User data schema

IDUsernameAgeGenderCityCountryLanguageTime zone

原書只列欄位,沒有範例資料。

Users:是誰、在哪、講什麼語言。

Posts:誰發的、寫什麼、hashtag、標記誰、有沒有圖或影片、什麼時候。

Interactions:誰對哪則做了什麼,連 impression 都記。

Friendship:誰跟誰、何時成為朋友、是不是摯友或家人。

延伸基礎第 5 階 · 座標 · embedding懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

一張照片、一段文字,怎麼變成數字?給它一個地圖座標

① 先想像

「墾丁好熱」和「在海邊曬太陽」一個字都不一樣,意思卻很像。那就幫每段文字打兩個分數:「跟海邊多有關」和「跟籃球多有關」。

你猜猜看:「去墾丁衝浪好好玩」會落在誰旁邊?

③ 這叫做 embedding

embedding:代表一段文字或一張圖意思的一組數字,像地圖上的座標。意思像,座標就近。

「意思相近的 Token 就會有相近的 Token Embedding」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 3 講(課堂講 token,貼文同理)

④ 跟這章的關係

原書用別人訓練好的模型(pre-trained model)幫貼文產生座標:文字用 BERT,圖片和影片用 ResNet 或 CLIP。

② 動手玩:點一段文字,把它放上地圖

原書Feature engineering · Post features

貼文這一側:五種 feature,各自變成數字

這一步要解決的問題貼文的屬性很多,原書只挑最重要的五種,每一種都回答三題:是什麼、為什麼重要、怎麼準備。

Feature是什麼為什麼重要怎麼準備
Textual content貼文的文字本體判斷這則在講什麼預處理後,用 pre-trained 語言模型變成向量(一組數字)。句子要看上下文,所以用 BERT 這種懂上下文的模型
Images or videos貼文附的圖片或影片圖裡有重要訊號。例如一張槍的圖,可能代表這則不適合兒童先預處理,再用 pre-trained 模型(ResNet,或較新的 CLIP)把非結構化資料變成 embedding
Reactions按讚、分享、回覆的數量有幾千個讚的貼文,比只有十個讚的更容易被互動本來就是數字;做 scaling,把它們縮放到差不多的範圍
Hashtags作者打的 #標籤代表貼文的主題。例如 #women_in_tech 跟科技和女性有關,可以排高一點給對科技有興趣的人三步:斷詞 → 轉 ID → 向量化(下一頁)
Post's age發文到現在過了多久大家比較會跟新的內容互動分成幾個區間(bucketize),再用 one-hot 表示(第 19 頁)

原書Post features · Hashtags

#lifeisgood 是三個字黏在一起:hashtag 要先拆開,再變成數字

① Tokenization(斷詞)

「lifeisgood」「programmer_lifestyle」裡面有好幾個字。原書用 Viterbi 這類演算法來切:lifeisgood → life、is、good。

② Tokens to IDs(轉成編號)

hashtag 變得很快,流行來來去去。feature hashing 很適合:用固定的規則算出格子編號,沒看過的新標籤也分得到格子。

③ Vectorization(向量化)

用 TF-IDF 或 word2vec 這種簡單的方法,不用 Transformer。理由:Transformer 適合「上下文很重要」的資料;hashtag 通常是一個字或一個短語,不需要上下文就懂,所以選又快又輕的方法。

📖 原書 一般文字的預處理在第 4 章 YouTube Video Search 講過,這裡只講 hashtag 獨有的步驟。

動手拆:打一個 hashtag,看它被切成哪幾個字

換一個:

切法是示意:從一本小字典裡,找「能切成最少個字」的切法。真的 Viterbi 會用每個字出現的機率挑最可能的切法。格子編號用一個簡單的公式算,只為了說明「同一個字永遠進同一格」。

原書Post features · Post's age · Figure 10.5

「2 小時前」要變成數字:先分區間,再在對的那格打勾

動手調:這則貼文發了多久?

📖 原書 六個區間:0 少於 1 小時、1 介於 1–5 小時、2 介於 5–24 小時、3 介於 1–7 天、4 介於 7–30 天、5 超過一個月。用 one-hot(只有一格是 1 的打勾表)表示。

📖 原書 Figure 10.5Post-related feature preparation:每種 feature 各自處理,最後接成一串(依原書內容重繪)

原書Feature engineering · User features · Figure 10.6

使用者這一側:她是誰、她現在在哪、她以前按過什麼、有沒有被標記

📖 原書 Figure 10.6Feature preparation for user-related data(依原書內容重繪)

📖 原書 四種使用者 feature:

  • Demographics:年齡、性別、國家等
  • Contextual information:裝置、一天中的時段等
  • User-post historical interactions:她按讚過的所有貼文,記成一串貼文 ID;分享、留言同理
  • Being mentioned in the post:這則有沒有標記她

前兩種前面幾章講過,原書只細講後兩種:

歷史互動:過去的互動通常能幫忙猜未來。怎麼準備?把她互動過的每一則貼文,各自做一次貼文 feature(上一頁那套),再合起來。

被標記:大家比較注意標記到自己的貼文。用 0 或 1 表示。小晴 × P4 生日照:1。

延伸基礎第 6 階 · 熟不熟 · affinity懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

同一句「我今天好累」,摯友說的你會回,不熟的你滑過

① 先想像

你的反應不只看貼文寫什麼,也看是誰寫的。兩個人有多熟,可以從以前的互動數出來。

你猜猜看:阿凱以前貼了 10 篇,小晴按讚 8 篇、留言 3 篇。她對阿凱的 like rate 是多少?

③ 這叫做 affinity

affinity(親和力):描述「這個讀者和這個作者有多熟」的 feature,例如對他的按讚率、當朋友多久、是不是摯友。

④ 跟這章的關係

原書引用研究:在 Facebook 上,這類 affinity feature 是預測互動最重要的因素之一。

② 動手玩:小晴 × 阿凱,算出一串「熟不熟」的數字

阿凱以前的 10 篇(點一下切換:沒反應 → 按讚 → 按讚 + 留言)

原書Feature engineering · User-author affinities · Figure 10.7

原書的三種 affinity:互動率、當朋友多久、是不是摯友或家人

Like / click / comment / share rate

這個使用者對這位作者以前貼文的反應比例。例如 like rate 0.95,代表她按讚了這位作者 95% 的貼文。

Length of friendship

兩人在平台上當朋友幾天,從 friendship 表算出來。為什麼重要?大家比較會跟朋友互動。

Close friends and family

一個 0/1:兩人有沒有把對方放進摯友和家人名單。大家比較注意摯友和家人的貼文。

📖 原書 Figure 10.7User-author affinity features:五個數字接成一串(依原書內容重繪)

原書的數字:Like rate 0.68、Click rate 0.23、Share rate 0.11、Friendship length 1325、Close friends and family 1。

到這裡你已經會了小結 2 / 5

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

到這裡你已經會了:人和貼文怎麼變成數字

下一階要解決的問題

一串數字進去,七個機率出來。要訓練七個模型,還是一個?

原書Model Development · Model selection

模型選 neural network:原書給三個理由

① 吃得下非結構化資料

neural network 很擅長文字、圖片這類資料。

② 有 embedding layer

可以用 embedding layer 表示類別型 feature,例如城市、語言。

③ 能一起微調

做 feature 時用的 pre-trained 模型(BERT、CLIP),可以接在網路裡一起 fine-tune(微調)。原書說其他模型做不到。

選好 neural network 之後,還要決定架構。原書比兩種:N 個獨立的 DNN,或一個 multi-task DNN。DNN(deep neural network)就是層數很多的 neural network。

「那如果你有很多 Hidden Layer 就是深度學習 就是 Deep Learning」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講

延伸基礎第 7 階 · 一身多頭 · multi-task learning懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

七種反應,要請七個人各看一次,還是一個人看完回答七題?

① 先想像

健康檢查:與其抽七次血、每個科各驗一管,不如抽一管,七個科各自看報告。「看懂這管血」只做一次。

你猜猜看:七種反應各訓練一個獨立模型,「看懂貼文和使用者」這件事要學幾次?

③ 這叫做 multi-task learning

multi-task learning(多任務學習):一個模型同時學好幾題。共用的那段叫 shared layers,每題各長一個 head(頭)。

「那一堆 Neuron 排成一排 也就是乘上一個 W 再加 b 這一個操作 我們叫它一個 Layer」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講

④ 跟這章的關係

分享、封鎖很少發生,資料少。共用身體時,它們也能借用「按讚、點擊」學到的東西。原書選這個。

② 動手玩:同樣七題,兩種蓋法差多少?

—訓練要算的量(示意單位)—「分享」那一題能用的資料

原書Model Development · Figure 10.8、10.9

原書的兩種架構:N 個獨立的 DNN vs. 一個 multi-task DNN

📖 原書 Figure 10.8Using independent DNNs(依原書內容重繪)
📖 原書 Figure 10.9Multi-task DNN(依原書內容重繪)

選項 1:N 個獨立 DNN,每種反應一個

缺點 1:訓練很貴。好幾個 DNN 各自訓練,又耗算力又耗時間。

缺點 2:不常發生的反應,訓練資料可能不夠,機率就猜不準。

選項 2:multi-task DNN 原書選這個

同時學好幾題。模型能學到題目之間的相似處,也省掉重複的計算。

架構和超參數(hyperparameter,人要先設定的參數,例如共用幾層)通常靠實驗決定:多試幾種,選結果最好的。

延伸基礎第 8 階 · 只看不按 · passive user · regression懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

小晴的阿姨每天滑一小時,從來不按讚。模型要怎麼排她的動態牆?

① 先想像

阿姨不按讚、不留言,可是看到喜歡的會停下來,看很久。不喜歡的,手指一滑就過去了。

你猜猜看:模型猜阿姨對每一則的按讚機率都約 0.1%。能用它排名次嗎?

③ 這叫做 passive user、regression

passive user(被動使用者):只看不按的人。猜「停幾秒」這種答案是一個數字的題目叫 regression。

「輸入一個東西 輸出一個數字的這種任務……在機器學習裡面叫做 Regression」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講

④ 跟這章的關係

原書多加兩題:dwell-time(停留幾秒,regression)和 skip(停不到 t 秒,例如 0.5 秒,就算滑過)。

② 動手玩:同五則貼文,換成阿姨的反應(示意)

原書Improving the DNN architecture for passive users · Figure 10.10

原書的解法:在 multi-task DNN 上,多長兩個頭

📖 原書 Figure 10.10Multi-task DNN model with two new tasks(依原書內容重繪;圖說只給了 skip 0.04、dwell 13.2,其他四個頭的數值沒寫)

這一步要解決的問題很多人被動地使用平台。對他們,現有的 DNN 會把所有反應都猜得很低,因為他們很少反應。

📖 原書 在任務清單裡加兩個隱性反應:

  • Dwell-time:使用者在一則貼文上停留的時間。
  • Skip:停不到 t 秒(例如 0.5 秒),就假設他跳過了這則。

圖上 skip head 和 dwell-time head 到 click head 之間有兩條虛線。原書沒有解釋,圖說描述成「可能有次要的影響或資訊共享」。我們照畫,不多猜。

延伸基礎第 9 階 · 少數派 · class imbalance懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

100 次曝光只有 3 次按讚。一個「永遠說不會」的模型,居然考 97 分?

① 先想像

班上 100 人只有 3 人感冒。校護偷懶,對每個人都說「你沒感冒」,答對 97 人。她是好校護嗎?

你猜猜看:模型對 100 次曝光都猜「不會按讚」,正確率是多少?

③ 這叫做 class imbalance

class imbalance(類別不平衡):一類很多、一類很少。模型會學到「猜多數那邊就好」。

④ 跟這章的關係

原書的做法:負例(沒按讚的曝光)只抽跟正例一樣多,讓資料變成一半一半。

② 動手玩:負例要留幾筆?

3按讚(正例)—「永遠說不會」的正確率

原書Model training · Constructing the dataset · Figure 10.11、10.12

每一題各做一份考卷:按讚題標正負,停留題標秒數

📖 原書 Figure 10.11Training data for like classification task(依原書內容重繪;圖說只給了第 1 列的數字)
📖 原書 Figure 10.12Training data for dwell-time task(依原書內容重繪;圖說沒給第 2 列的 feature 數字)

這一步要解決的問題DNN 要學好幾題,每一題都要有正例和負例。

按讚題怎麼做

正例:每次有人按讚,就加一筆資料,算出〈user, post〉的 feature,標成 Positive。

負例:挑「有曝光、但沒按讚」的。負例通常比正例多很多;為了避免不平衡,負例只做到跟正例一樣多。

其他題

點擊、分享等其他反應,用同一套流程做正負例。dwell-time 是 regression,做法不同:標準答案就是那次曝光的停留秒數。

延伸基礎第 10 階 · 驚訝分數 · binary cross-entropy懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

模型猜錯了,要罰多重?看它有多驚訝

① 先想像

主播說降雨機率 90%,結果下雨了,你不驚訝。他說 1%,結果下大雨,你很驚訝。越有把握地說錯,越該被罰。

你猜猜看:模型說小晴按讚的機率只有 1%(0.01),結果她按了。數一數機率後面有幾個零,驚訝分數是多少?

③ 這叫做 binary cross-entropy

binary cross-entropy(BCE):每一筆看「真正發生的那件事,模型給了幾 %」,算驚訝分數,再平均。越小越好。

「這兩個機率分布越接近 那這個 Loss 算出來呢就會越小」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講

④ 跟這章的關係

原書:每個是非題的頭都用 BCE;停留時間那題是猜數字,用 MAE、MSE 或 Huber loss。

② 動手玩:調模型的猜測,看驚訝分數

結果:

原書Model training · Choosing the loss function · Figure 10.13

每個頭各算一個 loss,加權加起來,就是總 loss

📖 原書 Figure 10.13Training workflow(依原書內容重繪)

這一步要解決的問題一個模型同時學好幾題,要怎麼算「整體錯多少」?

📖 原書 每一題依它的 ML 類別各定一個 loss:

  • 是非題(skip、like、share…):binary cross-entropy
  • 猜數字(dwell-time):MAE、MSE 或 Huber loss

Loss = λ·Ldwell + Lskip + Llike + … + Lshare

λ(念 lambda)就是一個「放大縮小」的數字。秒數的誤差可能是 11 秒,機率的誤差頂多 1,不調一下,總 loss 會被秒數那題主宰。

到這裡你已經會了小結 3 / 5

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

到這裡你已經會了:一個模型怎麼同時學七題

下一階要解決的問題

模型訓練好了。它排得準不準?上線以後,小晴真的比較開心嗎?

延伸基礎第 11 階 · 門檻 · TPR、FPR懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

模型給的是機率。「幾 % 以上算會按讚」,是你自己畫的線

① 先想像

網路上 10 次曝光,小晴實際按讚 4 次。你畫一條線:模型說機率超過這條線的,就算「猜她會按讚」。線越低,抓得越多,也誤抓越多。

你猜猜看:線畫在 0%(全部都猜會按讚),真的按讚的 4 次,抓到幾成?

③ 這叫做 TPR、FPR

TPR:真的按讚的,抓到幾成(就是 recall)。FPR:沒按讚的,被誤抓幾成。

④ 跟這章的關係

原書說:precision、recall 只看一條線,不夠。要看所有線上 TPR 和 FPR 怎麼一起變(下一頁)。

② 動手玩:拉門檻,看抓到和誤抓

—TPR:4 個按讚的,抓到幾個—FPR:6 個沒按的,誤抓幾個—抓得準:抓的裡面,真按讚的比例

延伸基礎第 12 階 · 排隊比賽 · ROC-AUC懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

不想選門檻?每一條線都試一次,畫成曲線,量面積

① 先想像

換個看法:把每一個「按了」和每一個「沒按」配成一對比賽,模型給「按了」的分數比較高就贏。4 × 6 = 24 場。

你猜猜看:分數完全亂給的模型,大約贏幾成?

③ 這叫做 ROC curve、ROC-AUC

ROC curve:門檻從高拉到低,把每個 (FPR, TPR) 連成線。ROC-AUC:曲線下的面積,剛好等於比賽贏的比例。

④ 跟這章的關係

原書的離線指標:每一種反應各畫一條 ROC,各算一個 ROC-AUC。

② 動手玩:拖動點改分數,看曲線和面積

—贏的場數 ÷ 24 = ROC-AUC

原書Evaluation · Offline metrics

離線考試:每一種反應各考一張,都看 ROC-AUC

這一步要解決的問題上線前,先用歷史資料考模型:它預測各種反應準不準?

📖 原書 單一反應可以用二元分類的指標,例如 precision、recall。

但只看它們,可能不足以了解整體表現。所以用 ROC curve 看 TPR 和 FPR 之間的取捨,再算 ROC-AUC,用一個數字總結。

「雖然我們在訓練的時候 用 Cross-Entropy 但是你最後在做驗證跟測試的時候 你仍然會用 Accuracy 因為 Accuracy 才是你真正關心的東西」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講

示意:小晴這個模型的成績單

每個頭各一個 ROC-AUC。數字是虛構的示意;dwell-time 是猜秒數,不能算 ROC-AUC,看平均差幾秒。

延伸基礎第 13 階 · 線上考試 · online metrics懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

模擬考考得好,不代表大家真的喜歡:上線以後再考一次

① 先想像

兩種動態牆各給一萬人用一週:A 把八卦放前面,B 用加權總分排。哪一種比較好,要看好幾個數字,不能只看一個。

你猜猜看:哪一種的點擊率(點擊 ÷ 曝光)比較高?

③ 這叫做 online metrics

online metrics(線上指標):上線後,從真實使用者的行為算出的數字。例如 CTR(click-through rate)= 點擊 ÷ 曝光。

「一旦一項指標啊 被當作目標 它就不再是一個好的指標」🎓 李宏毅課堂 生成式AI時代下的機器學習(2025) · 第九講(Goodhart's Law)

④ 跟這章的關係

原書看四類:CTR、各種反應率、總使用時間、問卷滿意度。

② 動手玩:同一週、各一萬人,兩種動態牆(示意)

原書Evaluation · Online metrics

原書的線上指標:從點擊,一路看到「大家滿不滿意」

CTR

CTR = 被點擊的貼文數 ÷ 曝光數

CTR 高不一定代表更投入:使用者可能點了低價值的釣魚貼文,馬上發現不值得看。但它仍然是重要的指標。

Reaction rates

Like rate = 被按讚的貼文數 ÷ 曝光數

同理還有 share、comment、hide、block、skip rate。這些是比 CTR 強的訊號,因為使用者明確表達了偏好。

可是被動使用者呢?他們對大部分貼文都沒反應,上面的指標量不到他們。原書加兩個:

Total time spent

一段固定期間(例如一週)內,使用者花在時間軸上的總時間。主動、被動使用者都量得到。

User satisfaction rate(問卷)

直接問使用者覺得動態牆怎樣、貼文吸不吸引人。因為是明確的回饋,原書說這是準確量效果的方法。

到這裡你已經會了小結 4 / 5

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

到這裡你已經會了:怎麼替動態牆打分數

下一階要解決的問題

每秒 4 萬次、每次 200 毫秒。幾十億則貼文,不可能每一則都請模型仔細打分。怎麼辦?

延伸基礎第 14 階 · 漏斗 · retrieval → ranking → re-ranking懂的人可以跳過

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

每一則都仔細打分?來不及。先粗篩,再細排,最後套規矩

① 先想像

選秀節目:海選只看「有沒有報名、年紀對不對」,複賽評審一個一個打分,決賽再加規矩(同一隊最多兩人)。越後面人越少、看得越仔細。

你猜猜看:模型打一則分要 0.2 毫秒。10 億則全部打,要多久?

③ 這叫做 retrieval → ranking

retrieval:先用便宜的規則撈出一小批候選。ranking:只對這一小批用模型打分。後面再加一關 re-ranking 套規矩。

④ 跟這章的關係

原書的預測管線就是三段:retrieval service → ranking service → re-ranking service(下一頁)。

② 動手玩:要打分的貼文有多少,時間就花多少

原書Serving · Figure 10.14

整個系統:一條管線備料,一條管線即時排名

📖 原書 Figure 10.14ML system design of a personalized news feed system(依原書內容重繪)

📖 原書 上線時,系統回應請求,輸出排好的貼文清單。兩條管線:

Data preparation pipeline

新資料和互動不斷流進 data store,batch feature computation 先算好 feature,放進 feature store(存放算好的 feature 的地方)。原書說它跟第 8 章廣告點擊預測很像,不細講。

Prediction pipeline

retrieval service 撈貼文 → ranking service 用 ML model 打分(feature 一部分從 feature store 拿,一部分 online 當下算)→ re-ranking service 調整 → 小晴的個人化動態牆。

原書Serving · Prediction pipeline

小晴按下重新整理:三個服務,各做一件事

一步一步看(示意)

Retrieval service

撈出小晴沒看過的貼文,或有她沒看過的留言的貼文。原書說怎麼有效率地撈,可以讀參考資料 [14]。

Ranking service

替每一則撈到的貼文打 engagement score,排名次。

Re-ranking service

加上額外的規則和使用者篩選條件,修改清單。原書的例子:使用者明確說過對某個主題有興趣,例如足球,就把相關貼文往前排。

原書Other Talking Points

面試還有時間,可能會被問到這四件事

① 正在爆紅的貼文怎麼處理?

原書參考 [15]:預測哪些貼文會爆紅。白話:一則貼文 10 分鐘內讚數暴衝,它的 reaction feature 一直在變,模型要跟得上。客座卡第 49 頁談它的 infra。

② 新使用者怎麼個人化?

原書參考 [16]:cold start(冷啟動)。新人沒有歷史互動、沒有 affinity,最強的 feature 都是空的。常見做法是先用人口統計、熱門內容,邊看邊學。

③ 位置偏差怎麼減輕?

原書參考 [17]:positional bias。排第一的本來就比較常被點,不一定是因為比較好看。用這種資料訓練,模型會把「排第一」誤學成「好看」。

④ 多久重新訓練一次?

原書參考 [18]:retraining frequency。口味和熱門話題一直在變,太久不重訓,模型就過時;太常重訓,又貴。

你猜猜看:第 1 名的貼文被點了 30%、第 5 名被點了 5%。第 1 名一定比較好看嗎?

到這裡你已經會了小結 5 / 5

  1. 猜機率
  2. 排名次
  3. 加權總分
  4. 特徵
  5. 座標
  6. 熟不熟
  7. 一身多頭
  8. 只看不按
  9. 少數派
  10. 驚訝分數
  11. 門檻
  12. 排隊比賽
  13. 線上考試
  14. 漏斗

到這裡你已經會了:動態牆怎麼在 200 毫秒內上線

接下來

原書寫完之後,這幾個零件有什麼新做法?然後請 Triton 從 infra 的角度講評:撈貼文、200 毫秒、爆紅計數器,資料要怎麼存。

📅 2026 補充方法的演進與限制

原書之後,這幾個零件換了做法

📅 2026 補充 多頭會打架

共用一個身體時,「點擊」和「停留」可能互相拉扯:一題變好,另一題變差。後來的架構讓每題挑自己要用的「專家」子網路,例如 MMoE(KDD 2018)、PLE(RecSys 2020)。

📅 2026 補充 從「一則一則猜」到「讀整串行為」

把使用者的行為當成一串 token 來讀,用 Transformer 一次預測,例如 Meta 的 generative recommenders(HSTU,ICML 2024)。pointwise 打分仍然很常見,但不再是唯一主流。

📅 2026 補充 問卷變成訓練目標

原書把問卷當線上指標。後來平台公開說明,也會拿「這則值不值得你花時間」這類問卷回答來訓練模型,彌補「點了不代表喜歡」。

📅 2026 補充 動態牆不只朋友

原書的 retrieval 只撈朋友的新貼文。2022 年後主流平台的動態牆,加進越來越多「你沒追蹤的帳號」的推薦內容,retrieval 變得更像第 6 章影片推薦的多路候選。

客座講評Triton 怎麼用 hashtag 打分 · 076Triton 客座 1 / 4

沒有語言專家,hashtag 還能拿來排貼文嗎?

這一步要解決的問題原書的 hashtag 要斷詞、hashing、TF-IDF(第 18 頁)。Triton 在 HYPEBEAST 做 suggestion feed 時,用的是另一條路。

先猜:團隊沒有語言專家,又要讓「#Nikes」和使用者喜歡的「Nike」對得上。Triton 怎麼做?

「use hashtag to calculate the matchness of the article with user profile」「We have no linguistic experts」「We picked ~1000 popular tags」「Need manual(a.k.a.工人智慧 ) tag merging」「"Nikes" vs "Nike"」「"iphone 7" vs "iphone"」🗣️ Triton 本人說 076-mini-bigdata.pdf.md · Suggestion Feed

🔭 依 Triton 原則推論 套到這章:原書的 feature hashing 解決「沒看過的新 tag」;Triton 的人工合併解決「同一件事、不同寫法」。團隊小、tag 少的時候,1000 個 tag 加一張合併表,先讓系統動起來,再談 Viterbi 和 word2vec。

動手試:小晴的喜好分數 × 貼文的 hashtag

小晴的 profile(Triton 式 key-value,示意):{ "basketball": 80, "travel": 30, "food": 40 }

客座講評200 毫秒要怎麼花 · 150、076Triton 客座 2 / 4

模型 60 毫秒就排好了,為什麼動態牆還是超過 200 毫秒?

先猜:排好的 10 則貼文,每則要顯示作者的名字和頭像。一則一則去資料庫查,每次 5 毫秒,光查作者要多久?

「即使每個select只吃掉5ms(這是算很不錯的數字了),單單因為這些overhead便浪費掉10 * 5ms = 50ms!」「把要拿的userId先集中到一個array,然後用單一的query去拿全部的record」「這樣才只花一次的資料庫通訊」🗣️ Triton 本人說 150-在一般的留言版,很多時候頁面上會顯示留言者的名字和圖片,和他的留名吧。.md

「The user profile, the article content, the article score......」「Performance is MUCH more important then data freshness」「If multiple articles have cache miss, the HTTP Request is performed in multi-thread」🗣️ Triton 本人說 076 · Suggestion Feed Performance(這一頁的標題句是「All data is cached」)

動手算:200 毫秒的預算單(示意)

作者資料:
貼文內容:

🔭 依 Triton 原則推論 原書的 200 毫秒,不是只給模型用的。撈貼文、拿 feature、補作者和內容,每多一次來回就多 5 毫秒;批次拿、能 cache 的就 cache,模型才有時間。

客座講評「沒看過的貼文」怎麼撈得快 · 058、062Triton 客座 3 / 4

retrieval 說「撈沒看過的貼文」。它們在硬碟上住哪裡?

先猜:小晴有 5 個朋友各發了 3 篇新貼文。如果每一篇都散在硬碟不同的地方,至少要跳著讀幾次?

「相同 chatroom 的 message record ,他們的 phyiscal storage position 應該是相鄰的 這樣子才是 seq IO 而不是 Random IO」「一定是 (chatroomId, createTs)」「Optional parameter: lastTs」🗣️ Triton 本人說 062-im-system design.pdf.md · Database、Message Primary Key、訊息相關 endpoint

「FB 如果⽤ Mysql post PK 會⽤哪個 Triton: post : postID (uuid) PK (postID + create_ts) ⼀個 Seq.Scan Io 依次拿出來 在動態牆」📝 上課筆記 058(Roy 的 columnar storage mini-talk 筆記,非 Triton 原文;記得很簡略)

動手比:同樣 15 篇新貼文,硬碟上怎麼放?

—要跳著讀幾次(random IO)

🔭 依 Triton 原則推論 062 談聊天室,原則可以搬過來:「同一個作者的貼文」像「同一個聊天室的訊息」,依時間相鄰存放;retrieval 帶著小晴上次看到的時間(像 lastTs)往後讀一段,就是「沒看過的」。筆記 058 記的主鍵寫法不完整,這裡不當成 Triton 的定論。

客座講評爆紅貼文的讚數 · 182、076Triton 客座 4 / 4

一則貼文爆紅,每秒一萬個讚。「讚數」這個 feature 要怎麼更新?

先猜:Figure 10.5 的「# Likes」feature,每多一個讚就寫一次資料庫,好嗎?

「The Write is clustered, not random」「If some system component crash, some data loss can be tolerated」「Reduce database write operation」「Database Write is indepentent of traffic」🗣️ Triton 本人說 076 · Write Aggregation

「所以全部貓咪吃罐罐後要更新score的流量都跑到單一的redis node上。」「首先,在redis中會有 cat_id --> 其所吃罐罐數量的key-value pairs,散落在redis cluster上的每一個node上。」🗣️ Triton 本人說 182-資料結構很重要,他媽的重要!,用即時排名來講述.md

動手調:讚數有多兇,資料庫要寫幾次?(示意)

🔭 依 Triton 原則推論 給模型看的「讚數」差幾個沒關係,正好符合 076 的兩個前提:寫入集中、可以容忍少量遺失。可是「小晴按了讚」這筆紀錄本身不能掉,要照常存。兩者要分開放。

一句話記住

個人化動態牆,其實就是:
每一種反應猜一個機率,乘上它值幾分,加起來排名次而已

題目

pointwise LTR + 多個 binary classifier;權重是商業決定,隱藏和封鎖是負分。

模型

貼文、使用者、affinity 三類 feature;一個 multi-task DNN,被動使用者多猜停留時間和滑過。

評估

離線每個頭看 ROC-AUC;線上看 CTR、反應率、總時間、問卷,別只盯一個。

上線(Triton 客座)

200 毫秒不只給模型:批次查、能 cache 就 cache、依時間相鄰存放、爆紅計數先在記憶體加總。

本章名詞小卡課後複習用 · 每個名詞一句白話

今天出現的名詞,一句話講完

news feed動態牆,時間軸上朋友的近況
engagement參與度:按讚、留言、分享、停下來看
binary classification答案只有兩類,輸出「是」的機率
pointwise LTR一則一則打分,再由高到低排
engagement score每種反應的機率 × 權重,加總
implicit reaction隱性反應:點擊、停留,沒明說喜不喜歡
explicit reaction顯性反應:按讚、分享、隱藏,明確表態
DAU每日活躍使用者

給工程師的重點出處與標籤

本章引用的來源

📖 原書段落 → 本簡報頁碼

Machine Learning System Design Interview · Personalized News Feed。Introduction、Fig 10.1(3)|Clarifying Requirements(5–6)|Defining the ML objective、Table 10.1(10)|Input/output、ML category、Fig 10.2–10.3(11)|Fig 10.4(12)|Data engineering、Table 10.2–10.5(15)|Post features(17)、Hashtags(18)、Post's age、Fig 10.5(19)|User features、Fig 10.6(20)|User-author affinities、Fig 10.7(22)|Model selection(24)|Independent vs multi-task DNN、Fig 10.8–10.9(26)|Passive users、Fig 10.10(28)|Constructing the dataset、Fig 10.11–10.12(30)|Loss、Fig 10.13(32)|Offline metrics(36)|Online metrics(38)|Serving、Fig 10.14(41)|Prediction pipeline(42)|Other talking points(43)。13 張圖依原書圖說與描述重繪,不是原圖;Figure 10.4 與 Table 10.1–10.5 原書是表格,以 HTML 表格呈現。

🗣️ Triton(materials/core)

  • 076-mini-bigdata.pdf.md:Suggestion Feed 的 hashtag 打分、~1000 tags、工人智慧(46);Performance > freshness、multi-thread(47);Write Aggregation(49)
  • 150:10 × 5ms = 50ms、集中成一次 query(47)
  • 062-im-system design.pdf.md:(chatroomId, createTs)、seq IO、lastTs(48)
  • 182:單一 redis node、key-value 散在 cluster(49)
  • 058:Roy 的上課筆記,標 📝(48)

🎓 李宏毅課堂(逐字稿)

  • 生成式人工智慧與機器學習導論 2025:第 3 講(Token Embedding)、第 5 講(Regression、Layer)、第 6 講(信心分數、cross-entropy、訓練 CE/測試 Accuracy、Accuracy 不能當 Loss)
  • 生成式AI時代下的機器學習(2025):第九講(Goodhart's Law)
  • 來源 .claude/skills/hung-yi-lee(受李宏毅教學風格啟發,非本人)

延伸基礎(14 階)

地圖 4|小結 13、23、33、39、44|小卡 51|猜機率 7、排名次 8、加權總分 9、feature 14、embedding 16、affinity 21、multi-task 25、passive/regression 27、imbalance 29、BCE 31、門檻 34、ROC-AUC 35、online metrics 37、漏斗 40。

📅 2026 補充的依據

  • MMoE(Ma et al., KDD 2018)、PLE(Tang et al., RecSys 2020)
  • HSTU〈Actions Speak Louder than Words〉ICML 2024
  • Meta Feed ranking system cards(2023);Facebook「worth your time」問卷(2019)
← → 翻頁 · S 講者備註 · D 深/淺色
1 / 1目錄