ML System Design · 第 8 章教學線:受李宏毅教學風格啟發Triton 覆蓋度:🟡 中(只有 infra:點擊事件與訓練資料的儲存)
Ad Click Prediction
其實就是:替每一則廣告猜「這個人會不會點」,再排名次而已
你滑 Instagram,每滑幾篇就出現一則「贊助」。為什麼是這一則,不是另一則?原書用這個題目,把「預測點擊機率」從資料、特徵、模型、評估一路講到上線。
今天的路線
先爬 16 階基礎(第 3 頁的地圖),一邊爬一邊對照原書:題目怎麼定 → 人和廣告怎麼變成數字 → 模型怎麼選 → 怎麼打分數 → 怎麼上線。最後是 2026 補充和 Triton 客座講評。
標籤怎麼看
📖 原書 🎓 李宏毅課堂 📅 2026 補充 🗣️ Triton 本人說 🔭 依 Triton 原則推論
頁首標 延伸基礎 的頁是補基礎,只用高中數學,懂的人可以跳過。
說明
這份的講法受李宏毅教學風格啟發,不是本人。只討論方法的取捨與演進,不評論任何公司、產品或作者。全程的使用者「小安」和四則廣告都是虛構的示範資料。
先講跟你有關的動手玩 · 你來當平台
小安滑到第 5 篇,有一格廣告位置。你要放哪一則?
先憑直覺點一則。
你可能會想說,這很簡單嘛,挑「最多人點」的那則。對,一格不難。
可是平台每天有幾億人在滑,手上有幾百萬則廣告,每滑一下就要決定一次。而且「最多人點」不等於「這個人會點」:小安是籃球迷,籃球鞋對他特別有吸引力。
今天整堂課只在回答一個問題:這個人、看到這則廣告,會點的機率是多少?算出來之後,由高到低排,放最前面那幾則。然後呢?然後就結束了。難的是「算出來」。
學習地圖本章的概念階梯 · 每一階只用前面講過的東西
今天爬 16 階。英文名字等爬到那一階才給。
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
第 1–2 階 · 題目是什麼
要回答:「推薦廣告」怎麼變成一道機器能算的題目?
第 3–6 階 · 變成數字
要回答:「台北」「籃球迷」「廣告主 #48213」怎麼餵給模型?
第 7–10 階 · 選模型
要回答:「年輕 × 籃球迷」這種組合效果,誰抓得到?
第 11–13 階 · 訓練與打分數
要回答:100 次只有 2 次點擊,模型怎麼學、怎麼考?
第 14–16 階 · 上線之後
要回答:排得對、說得準、跟得上,三件事怎麼顧?
全程只用一個例子:小安的動態牆
小安,22 歲,住台北,籃球迷,晚上 10 點在滑手機。四則候選廣告:A 機票特價(100 次曝光、2 次點擊)、B 汽車保險(100、1)、C 籃球鞋(100、5)、D 手遊(100、3)。每爬 3–4 階,有一頁「到這裡你已經會了」。
延伸基礎第 1 階 · 點擊率 · CTR懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
「多少人點」不夠,要看「看過的人裡面,幾成點了」
① 先想像
夜市兩攤雞排:甲攤一晚賣 20 塊,乙攤賣 10 塊。可是甲攤前面走過 1,000 人,乙攤只走過 100 人。哪一攤比較會抓客人?
你猜猜看:新廣告 E 只被看了 1 次,就被點了 1 次。它最該放上去嗎?
1 次裡中 1 次可能只是運氣。右邊按「再給 E 看 99 次」,百分比會掉下來。
③ 這叫做 CTR
CTR(click-through rate,點擊率):點擊次數 ÷ 被看到的次數。「被看到一次」叫一次 impression(曝光)。
④ 跟這章的關係
原書要「最大化收入」,又假設每次點擊收入一樣。所以目標就是:讓放出去的廣告,點擊率越高越好。
② 動手玩:四則廣告 + 一則新廣告,誰的點擊率最高?
原書Introduction · Figure 8.1
原書的開場:廣告放在動態牆上,平台要挑對的那則
📖 原書 題目從哪裡來
線上廣告讓廣告主在平台上出價投放廣告,換取看得到、算得出來的回應:曝光(impression)、點擊(click)、轉換(conversion,例如真的下單)。給使用者看相關的廣告,是 Google、Facebook、Instagram 這類平台的基本功。這一章要設計一套和熱門社群平台類似的廣告點擊預測系統。
原書這一章的路線
- Clarifying requirements(6)
- Frame as ML task(9)
- Data preparation(12–18)
- Model development(21–31)
- Model training(34)
- Evaluation(36–42)
- Serving(44–46)
- Other talking points(47)
原書Clarifying Requirements
原書的題目:先把「做一個廣告預測系統」問清楚
這一步要解決的問題面試官只丟一句話,要先確認:目標是什麼、廣告放哪、標準答案(label)從哪來。
📖 原書 應徵者 × 面試官
| 應徵者問 | 面試官答 |
|---|---|
| 商業目標是最大化收入嗎? | 是 |
| 廣告有影片、圖片,有時間軸、彈出式。可以只看時間軸,而且每次點擊收入一樣嗎? | 可以 |
| 同一則廣告可以給同一個人看不只一次嗎? | 可以。有時看了好幾次才點。實務上有「疲勞期」(fatigue period,一直被忽略就 X 天不再給他看),這題先假設沒有 |
| 支援「隱藏這則廣告」嗎?「封鎖這個廣告主」呢? | 支援隱藏;封鎖先不用 |
| 訓練資料用使用者和廣告的資料,label 用使用者和廣告的互動,可以嗎? | 可以 |
| 點擊可以當正例。負例(沒點的例子)怎麼來? | 好問題,你怎麼想?(下一頁) |
| 模型要不斷從新的互動學習(continual learning),可以假設這是必須的嗎? | 好點子。實驗顯示,模型更新晚 5 分鐘都會傷害效果 |
📖 原書 問題總結
- 設計一套廣告點擊預測系統
- 商業目標:最大化收入
- 廣告只放在時間軸,每次點擊收入相同
- 模型必須持續用新的互動訓練
- 資料集由使用者與廣告資料組成,依互動標 label
- 不討論 AdTech(廣告科技,例如競價拍賣)專屬的主題,因為和 ML 面試無關
記住兩件事:「label 從互動來」和「晚 5 分鐘都不行」。前者決定第 34 頁怎麼做訓練資料,後者決定第 25 頁為什麼不選某些模型。
原書Clarifying Requirements · 負例怎麼標
「沒點」就一定是「不想點」嗎?
這一步要解決的問題點擊很好認。可是小安滑太快、根本沒看到的那則,算不算「不想點」?他之後才點的呢?
動手玩:小安今晚的 5 次曝光,換一種標法看看
📖 原書 應徵者的三個想法
- 廣告在螢幕上停留一段時間卻沒被點,才算負例
- 另一種:曝光先一律當負例,直到看到點擊才改
- 再加上「隱藏這則廣告」這類負面回饋當負例
面試官:合理。實務上會用更複雜的技術標負例,面試就照你的建議。
你會發現,三種標法給同一筆資料的答案不一樣。標準答案本身就是設計出來的。等一下第 34 頁,原書會把它定成一條規則。
延伸基礎第 2 階 · 是或否 · binary classification懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
答案只有「點」和「不點」,但要回答「有幾成會點」
① 先想像
氣象主播只能說「明天下雨/不下雨」,還是可以說「降雨機率 30%」?後者讓你自己決定要不要帶傘。
你猜猜看:四則廣告小安會點的機會都不到一半。只准回答「會點/不會點」的模型會怎麼說?
每則都不到 50%,所以通通「不會點」。四則平手,根本排不出名次。右邊切換看看。
③ 這叫做 binary classification
binary classification(二元分類):答案只有兩類。模型對每一類給一個信心分數,常寫成「是」的機率。
「如果是分類的問題 假設你有兩個類別 那你就希望類神經網路給你兩個數字 那每一個數字就代表 那個類別的信心分數」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講
④ 跟這章的關係
每一則廣告各算一次「點的機率」,再由高到低排。原書叫它 pointwise(一則一則算)。
② 動手玩:同一個模型,兩種回答方式
原書Frame the Problem as an ML Task · Figure 8.2、8.3
把「放對的廣告」翻譯成 ML 題目
這一步要解決的問題「增加收入」不是一個能算的東西,要換成模型能學的目標。
📖 原書 三步翻譯
- ML 目標:預測一則廣告會不會被點。點擊機率猜得準,就能放相關的廣告,收入就上去
- Input/Output:輸入一個使用者,輸出依點擊機率排好的廣告清單(Figure 8.2)
- ML 類別:用第 7 章 Event Recommendation 介紹過的 pointwise LTR:一個二元分類模型,吃一對 ⟨使用者, 廣告⟩,預測會不會點(Figure 8.3)
套回小安:⟨小安, A⟩、⟨小安, B⟩、⟨小安, C⟩、⟨小安, D⟩ 各算一次 p,排好就是答案。所謂的廣告排序,其實就是四次是或否而已。
到這裡你已經會了小結 1 / 5
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
到這裡你已經會了:題目是什麼
- 點擊率(CTR)= 點擊 ÷ 曝光。看的次數太少,百分比不可信。
- 原書的目標:最大化收入;每次點擊收入一樣,所以要放「最可能被點」的廣告。
- 做法:對每一對 ⟨使用者, 廣告⟩ 做一次是或否(binary classification),輸出點的機率,再排名次。
下一階要解決的問題
模型要吃「小安」和「籃球鞋廣告」。可是模型只吃數字。一個人、一則廣告,要怎麼變成數字?
延伸基礎第 3 階 · 特徵 · feature懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
模型只吃數字。所以先把「小安」翻譯成一串數字
① 先想像
朋友要介紹對象給你,你會先問:幾歲?住哪?喜歡什麼?你其實是把「一個人」換成幾個問題的答案。
你猜猜看:「小安看過 50 則廣告、點了 2 則」,變成一個數字用哪個最好?
比例可以跟別人比:看過 5,000 則、點 200 則的人也是 4%。原書也說,這類數字要縮放到差不多的範圍。
③ 這叫做 feature
feature(特徵):描述一個東西的一個數字。一串 feature 排在一起,就是模型的輸入。
「那把一個東西表示成一些數值 這些數值要當作函式的輸入 這些數值就叫做 Feature」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講
④ 跟這章的關係
原書的 Data preparation 一整節,就在決定:要哪些 feature、每一個怎麼變成數字。
② 動手玩:按一下,把人看得懂的資料翻成數字
原書Data Preparation · Data engineering · Table 8.1–8.3
手上有三種原始資料:廣告、使用者、互動
這一步要解決的問題做 feature 之前,先看清楚手上有什麼原料。
📖 原書 Table 8.1 Ad data(實務上一則廣告有幾百個屬性,這裡只列重要的)
| Ad ID | Advertiser ID | Ad group ID | Campaign ID | Category | Subcategory | Images or Videos |
|---|---|---|---|---|---|---|
| 1 | 1 | 4 | 7 | travel | hotel | http://cdn.mysite.com/u1.jpg |
| 2 | 7 | 2 | 9 | insurance | car | http://cdn.mysite.com/t3.mp4 |
| 3 | 9 | 6 | 28 | travel | airline | http://cdn.mysite.com/t5.jpg |
📖 原書 Table 8.2 使用者資料的 schema(欄位)
| ID | Username | Age | Gender | City | Country | Language | Time zone |
|---|
套回小安:ID 11、22 歲、台北、台灣、中文、UTC+8(示意)。
📖 原書 Table 8.3 使用者與廣告的互動:曝光、點擊、轉換
| User ID | Ad ID | Interaction type | Dwell time | Location (lat, long) | Timestamp |
|---|---|---|---|---|---|
| 11 | 6 | Impression | 5 sec | 38.8951 -77.0364 | 165845053 |
| 11 | 7 | Impression | 0.4 sec | 41.9241 -89.0389 | 1658451365 |
| 4 | 20 | Click | - | 22.7531 47.9642 | 1658435948 |
| 11 | 6 | Conversion | - | 22.7531 47.9642 | 1658451849 |
延伸基礎第 4 階 · 打勾表 · one-hot · bucketize懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
「台北」不是一個數字。那就做成一張打勾表
① 先想像
問卷上「你住哪?□台北 □台中 □高雄 □花蓮」,你只會勾一格。勾的那格是 1,其他是 0。
你猜猜看:如果偷懶直接編號,台北 = 1、台中 = 2、高雄 = 3,模型會以為什麼?
模型會拿數字去乘去加,它真的會以為「台北 + 台中 = 高雄」。城市沒有大小,所以不能用編號。
③ 這叫做 one-hot
one-hot:一張只有一格是 1 的打勾表。數字型的年齡可以先分組再打勾,叫 bucketize(分桶)。
④ 跟這章的關係
原書 Figure 8.5:年齡、性別這類 feature,就是用「Bucketize + One-hot」處理。
② 動手玩:選一個城市、拉一下年齡
延伸基礎第 5 階 · 置物櫃 · hashing trick懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
廣告主有 100 萬家,打勾表就要 100 萬格?
① 先想像
健身房有 100 萬個會員,只有 1,000 個置物櫃。規則:看會員編號的最後三碼,就去那一櫃。偶爾兩個人要共用一櫃。
你猜猜看:只有 10 個櫃子(看最後一碼)。廣告主 48213 和 70553 會分到同一櫃嗎?
兩個的最後一碼都是 3,所以擠在 3 號櫃。這叫撞櫃。右邊輸入看看。
③ 這叫做 hashing trick
hashing trick:用固定規則把很多種 ID 分進固定數量的格子。兩個 ID 分到同一格叫 collision(撞格)。
④ 跟這章的關係
原書說 advertiser ID、user ID 可能有幾百萬種。格子變少,打勾表就變短;代價是偶爾撞格。今天沒看過的新 ID,也照樣分得到格子。
② 動手玩:輸入一個廣告主 ID,看它進哪一格
延伸基礎第 6 階 · 座標 · embedding懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
打勾表太長,也看不出誰像誰。換成地圖上的座標
① 先想像
打勾表裡,「籃球鞋」和「慢跑鞋」各佔一格,毫無關係。可是它們明明很像。那就替每則廣告在地圖上找一個位置:像的放近一點。
你猜猜看:籃球鞋在 [4, 1]、慢跑鞋 [4, 2]、汽車保險 [−3, 4]。誰跟籃球鞋比較像?
[4, 1] 和 [4, 2] 只差一格,汽車保險差了好遠。右邊點點看。
③ 這叫做 embedding
embedding:把一個 ID 換成一組短短的數字,像地圖座標。這組數字是模型自己學出來的。
「第一件做的事情是每一個 ID 都會被轉成一個 Token Embedding 也就是轉成一個向量」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 3 講
④ 跟這章的關係
原書:ID 這種又長又空的 feature,用 embedding layer 換成短短一串數字。每一種 ID 有自己的一套座標。
② 動手玩:點一則廣告,看它的座標
原書Feature engineering · Ad features · Figure 8.4
廣告這一側:四種 feature,各自變成數字再接起來
這一步要解決的問題同一則廣告有 ID、圖片、類別、成績單,每一種的「翻譯方法」都不一樣。
| Feature | 為什麼重要 | 怎麼準備 |
|---|---|---|
| IDs:advertiser、campaign、ad group、ad ID | 代表每個廣告主、活動、廣告群組、廣告自己的特性 | embedding layer 把 sparse 的 ID 變成 dense 向量(第 15 頁),每種 ID 一個 layer |
| Image/video | 看圖就知道廣告在講什麼:飛機的圖 → 可能是旅遊 | 先前處理,再用 pretrained(預先訓練好的)模型例如 SimCLR 變成 feature 向量 |
| Category/subcategory | 讓模型知道廣告屬於哪一類 | 廣告主從預先定好的清單裡選,例如 Arts & Entertainment、Autos & Vehicles、Beauty & Fitness;文字的處理見第 4 章 YouTube Video Search |
| Impressions/clicks:這則廣告、這個廣告主、這個活動的總曝光與總點擊 | 別人怎麼反應:CTR 高的廣告,使用者比較可能點 | (原書沒有另外寫;Figure 8.4 把它們當數值直接放進來) |
原書Feature engineering · User features · Figure 8.5
使用者這一側:他是誰、他現在在哪、他以前點過什麼
📖 原書 三組使用者 feature
- Demographics(人口統計):年齡、性別、城市、國家等
- Contextual information(當下情境):裝置、一天中的時段等
- Interaction-related(互動相關):
· Clicked ads:以前點過的廣告。常點保險廣告的人,下次也可能點類似的;準備方式同廣告 feature
· 歷史互動統計:總共看過幾則廣告、廣告點擊率。過去常點的人,未來也比較常點;數值要縮放到差不多的範圍(Scale)
套回小安:22 歲 → 分組打勾;台北 → embedding;晚上 10 點 → 分組打勾;點過籃球鞋、慢跑鞋、手遊 → 三個座標取平均(第 15 頁);點擊率 4% → 縮放。
原書Data preparation · 本章特有的挑戰
最後一個麻煩:幾百萬格的數字,幾乎全是 0
這一步要解決的問題原書說廣告系統有大量 high cardinality(種類非常多)的類別 feature,接起來的輸入會非常長、非常空。
動手玩:把小安的 feature 一塊一塊接起來
各區塊的種類數是示意。
📖 原書 怎麼說
「ad category」有一大串可能的類別;「advertiser ID」「user ID」可能有幾百萬種值,看平台上有多少活躍的人和廣告主。feature 空間非常大,常常有幾千、幾百萬個 feature,大部分是 0。這些獨特的挑戰,Model selection 那節會講怎麼克服。
這種「幾乎全是 0」叫 sparse(稀疏)。等一下選模型時,原書一直在問同一件事:這個模型,吃得下這麼空的輸入嗎?
到這裡你已經會了小結 2 / 5
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
到這裡你已經會了:人和廣告怎麼變成數字
- feature:描述一個東西的一個數字。數量用比例,大小差太多就縮放。
- 沒有大小的類別用打勾表(one-hot);年齡這種數字先分組再打勾(bucketize)。種類太多就分格(hashing),或換成座標(embedding)。
- 原書的三種原料(廣告、使用者、互動)全部翻成數字接起來,結果又長又空(sparse)。
下一階要解決的問題
數字有了。模型拿到「小安 × 籃球鞋」這一串數字,要怎麼算出一個 0 到 1 之間的機率?
延伸基礎第 7 階 · 壓成 0–1 · logistic regression懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
先打一個「加分表」的分數,再把分數壓成 0 到 1
① 先想像
替「小安 × 籃球鞋」打分:基本分 −4,籃球迷 +2,晚上在滑 +1。總分 −1。可是分數可以是 −10,也可以是 +10,機率卻只能在 0% 到 100% 之間。
你猜猜看:總分剛好是 0,會被壓成多少機率?
0 分就是「一半一半」。分數越大越接近 100%,越小越接近 0%,但永遠不會超出去。右邊拉拉看。
③ 這叫做 logistic regression
logistic regression(LR):加分表算總分,再用一條 S 形曲線 sigmoid 壓成 0 到 1 的機率。
「這其實就是sigmoid function 如果 I的戰力比J的戰力 大很多的話 算出來的數值就會趨近於1」🎓 李宏毅課堂 生成式AI時代下的機器學習 2025 · 第九講
④ 跟這章的關係
原書第一個候選模型就是 LR:訓練快、好實作,很多公司拿它當 baseline(比較用的起點)。
② 動手玩:勾選加分項,看總分和機率
原書Model development · Model selection · Logistic regression
原書的八個候選模型,從最簡單的 LR 開始
這一步要解決的問題二元分類有很多種做法。廣告系統常見的有八種,一個一個看它們撞到什麼牆。
📖 原書 八個候選
- Logistic regression(本頁)
- Feature crossing + LR(23)
- GBDT(25)
- GBDT + LR(25–26)
- Neural networks(28)
- Deep & Cross networks(29)
- Factorization Machines(30)
- Deep Factorization Machines(31)
📖 原書 LR 的兩個缺點
- 解不了非線性的問題:LR 用 feature 的線性組合(加分表),所以分界一定是一條直線(linear decision boundary)。廣告資料通常不是一條直線分得開的
- 抓不到 feature 之間的交互作用:一個 feature 的效果,常常取決於另一個 feature 的值;這時點擊機率不能寫成「各自效果相加」
結論:LR 不是最好的選擇,但因為快、好訓練,很多公司拿它做 baseline。
動手玩:手遊廣告,誰會點?試著用一條直線分開
「如果你劃在一個橫軸是 x_1 縱軸是 y 的這個圖上 它就一定是一條直線」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講
延伸基礎第 8 階 · 組合特徵 · feature crossing懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
「年輕」和「籃球迷」各加幾分都不對。那就加一個「年輕 × 籃球迷」
① 先想像
籃球鞋廣告:只有「年輕而且是籃球迷」的人特別愛點(12%),其他三種人都是 2%。光是年輕、光是籃球迷,都沒有用。
你猜猜看:國家有 3 種、語言有 2 種,兩兩組合起來,會多出幾個新 feature?
3 × 2 = 6:美國×英文、美國×中文、中國×英文……就是原書 Figure 8.6。
③ 這叫做 feature crossing
feature crossing:把兩個 feature 綁成一個新的「組合 feature」,例如「年輕 × 籃球迷」,讓它自己有一個加分。
④ 跟這章的關係
原書第二個候選:先人工做好組合 feature,再交給 LR。可是要組哪幾對,得靠人想。
② 動手玩:轉加分,讓四格都對(基本分 −4 → 2%)
原書Feature crossing + LR · Figure 8.6、8.7
原書第二個候選:人工組合 feature,再交給 LR
📖 原書 是什麼、怎麼做
從現有 feature 做出新 feature:把兩個以上的 feature 用乘積、加總或其他方式組成一個。這樣能抓到原始 feature 之間的非線性交互作用,例如「young and basketball」「USA and football」。做法是依事前知識人工挑選要交叉的 feature(Figure 8.6);再把原始 feature 和交叉 feature 一起餵給 LR(Figure 8.7)。
📖 原書 好處與缺點
能抓到某些兩兩(second-order)交互作用。但原書說有三個缺點,實際列了四個:
- 人工:要人挑哪些 feature 交叉,費時又貴
- 需要領域知識:得先懂問題,才知道哪些組合有用
- 抓不到複雜交互:幾千個 sparse feature,交叉不完
- 更稀疏:交叉後的種類數變更大(例如 300 城市 × 50 類別 = 15,000 格),更多 0
結論:不是理想的解法。
延伸基礎第 9 階 · 問答樹 · decision tree · GBDT懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
不用加分表,改用一連串「是或否」的問題
① 先想像
玩「猜猜我是誰」只能問是非題:是籃球迷嗎?30 歲以下嗎?幾題就猜到了。補習也一樣:第一次考完,老師不叫你全部重讀,只叫你補錯的那幾題。
你猜猜看:第一棵樹猜完,第二棵樹要學什麼?
第二棵只專心補差距,第三棵再補剩下的差距。一棵接一棵,越補越準。右邊按「再種一棵」。
③ 這叫做 decision tree 和 GBDT
decision tree:一連串是非題走到一片葉子,葉子上寫答案。GBDT:很多棵樹排隊,每一棵補前面還差的。
④ 跟這章的關係
問題的順序本身就是「組合」:先問籃球迷、再問年齡,等於自動做了「年輕 × 籃球迷」。但新資料進來時,樹通常要整片重種。
② 動手玩:小安走一遍第一棵樹,再一棵一棵補
原書GBDT · GBDT + LR
GBDT 好懂,但跟不上「晚 5 分鐘都不行」
這一步要解決的問題樹會自己找組合,不用人工交叉。那它在廣告系統裡會撞到什麼牆?
你猜猜看:新互動每幾分鐘就進來一批,GBDT 最大的麻煩是什麼?
原書:GBDT 不是設計來在新資料上 fine-tune 的,通常只能從頭訓練,規模大時很沒效率。看下面第一欄。
📖 原書 GBDT
優點
- 好解釋、好理解
缺點
- 不適合 continual learning:新資料一直進來,要嘛從頭訓練、要嘛在新資料上 fine-tune(微調)。GBDT 不是設計來 fine-tune 的,通常只能從頭訓練,規模大時很沒效率
- 不能訓練 embedding layer:廣告系統有很多 sparse 的類別 feature,embedding 是很有效的表示法,GBDT 用不到
📖 原書 GBDT + LR:兩步
- 先訓練 GBDT 學這個任務
- 不拿它直接預測,而是拿它挑出、做出新 feature,和原始 feature 一起餵給 LR 預測點擊
Feature selection(挑選):用樹算出的重要性,只留最有用的 feature 子集。Feature extraction(萃取):從現有 feature 做出更有預測力的新 feature(Figure 8.8,下一頁)。
📖 原書 GBDT + LR 的取捨
優點
- GBDT 做出的新 feature 更有預測力,LR 比較好學
缺點
- 抓不到複雜交互:和 LR 一樣,學不到兩兩交互作用
- continual learning 很慢:GBDT 在新資料上 fine-tune 要時間,拖慢整體
原書Figure 8.8、8.9 · 動手玩
樹怎麼「做出新 feature」?看小安落在哪片葉子
白話:葉子編號就是新 feature
小安走過 T1、T2、T3 三棵樹,各自落在一片葉子。每棵樹做一張打勾表(第 13 頁):落在哪片葉子,那格就是 1。三張接起來,就是 GBDT 萃取出來的 feature。
Extracted features:按「讓小安走一遍」
為什麼這樣有用?每一片葉子都是一串問題的答案,例如「籃球迷 → 30 歲以下」。所以每一格,其實就是一個樹幫你自動做好的組合 feature(第 22 頁)。LR 只要替每片葉子學一個加分就好。
延伸基礎第 10 階 · 兩兩配對 · dot product · FM懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
不想人工挑組合?替每個 feature 發一張「個性卡」
① 先想像
交友 app 讓每個人填一張兩格的卡:[愛運動, 愛熬夜]。兩個人合不合 = 第一格相乘 + 第二格相乘。
你猜猜看:小安的卡 [2, 1],籃球鞋廣告的卡 [1, 3]。合不合的分數是?
2 × 1 + 1 × 3 = 5。就是乘法和加法而已。
③ 這叫做 dot product 和 FM
dot product:兩張卡對應格相乘再相加。FM(Factorization Machine):每個 feature 一張卡,每一對都用 dot product 算合不合。
「這個相似度是用 dot product 來表示的」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 3 講
④ 跟這章的關係
不用人挑哪幾對:每一對都自動有分數,連資料裡很少一起出現的組合也算得出來。卡片就是第 6 階的座標(embedding)。
② 動手玩:「小安 × 籃球鞋」有四個 feature,兩兩配對有幾對?
原書Neural network · Figure 8.10、8.11
類神經網路:一個大網路,或兩座塔
這一步要解決的問題LR 只能畫直線。疊很多層「加分表 + 壓縮」,就能畫彎線,這就是 neural network(NN,類神經網路)。它適合廣告嗎?
📖 原書 兩種架構
- Single NN:原始 feature 進一個網路,輸出點擊機率(Figure 8.10)
- Two-tower:一座 user encoder、一座 ad encoder,各自把 feature 變成 embedding;兩個 embedding 的相似度就是點擊機率(Figure 8.11)
📖 原書 為什麼不選
- Sparsity:feature 空間又大又空,大部分是 0,NN 可能沒有足夠的資料點學好
- feature 太多,很難抓到所有兩兩交互作用
結論:這一章不用 NN。
原書Deep & Cross Network · Figure 8.12
DCN:一條路自動做交叉,一條路學複雜的 pattern
這一步要解決的問題人工交叉太累(第 23 頁),NN 又抓不全交互作用。能不能讓模型自己找交叉?
📖 原書 兩個平行的網路
2017 年 Google 提出 DCN,用來自動找 feature 交互作用,解決人工 feature crossing 的麻煩:
- Deep network:用 DNN(深層類神經網路)學複雜、可泛化的 feature
- Cross network:自動抓 feature 交互作用,學出好的交叉
兩邊的輸出接起來(concatenate),再做最後預測。DCN 有 stacked(疊起來)和 parallel(並排)兩種,Figure 8.12 是 parallel。面試通常不用講到 DCN 的細節。
📖 原書 取捨
優點:比 NN 有效,因為它會隱含地學 feature crossing。
缺點:cross network 只模擬某些特定的交互作用,可能影響效果。
原書Factorization Machines · Figure 8.13
FM:LR 的加分表,再加上「每一對都配對一次」
這一步要解決的問題想要所有兩兩交互作用,又不想人工挑、也不想要一個抓不全的大網路。
📖 原書 FM 怎麼運作
FM 是以 embedding 為基礎的模型,自動模擬所有兩兩 feature 交互作用,改良了 LR,因此在廣告點擊預測裡用得很廣。它替每個 feature 學一個 embedding,兩個 feature 的交互作用就是兩個 embedding 的 dot product(第 27 頁的個性卡)。
預測 = 基本分 + 每個 feature 的加分(就是 LR) + 每一對 feature 的卡片相乘(pairwise interactions)
原書的公式在講者備註與工程師頁。原書說:公式看起來複雜,其實很好懂,前兩項是 LR,第三項是兩兩交互。
📖 原書 限制
FM 和它的變形(例如 FFM)能有效抓兩兩交互;但 FM 學不到更複雜的高階交互(三個、四個 feature 一起才有的效果),這是 NN 做得到的。所以下一招:把 FM 和 DNN 合起來。
原書DeepFM · Figure 8.14 · 原書的選擇
DeepFM:FM 管兩兩配對,DNN 管更複雜的。原書最後怎麼選?
📖 原書 DeepFM 結合 NN 和 FM 的長處:DNN 抓複雜的高階 feature,FM 抓低階的兩兩交互。一個可能的改良是 GBDT + DeepFM:GBDT 先把原始 feature 變得更有預測力,DeepFM 再吃新 feature。這招贏過多場廣告預測競賽,但會拖慢訓練、推論速度,也拖慢 continual learning。
八個候選,一張表收起來
| 模型 | 交互作用 | 持續學習 | 原書評語 |
|---|---|---|---|
| LR | ✗ | 快 | baseline |
| Feature crossing + LR | 人工挑的兩兩 | 快 | 人工、需領域知識、更稀疏 |
| GBDT | 樹自己組 | 慢(常要重訓) | 好解釋;不能用 embedding |
| GBDT + LR | ✗(兩兩學不到) | 慢 | 新 feature 更有預測力 |
| NN/two-tower | 抓不全兩兩 | 可 | 太稀疏,不採用 |
| DCN | 自動交叉(部分) | 可 | 比 NN 有效;實驗候選 |
| FM | 所有兩兩 | 可 | 學不到高階 |
| DeepFM | 兩兩 + 高階 | 可 | 實驗候選 |
「持續學習」一欄依原書各段的說法整理;原書沒有逐一評的寫「可」。
📖 原書 結論
實務上用實驗決定模型。先用簡單的 LR 當 baseline,再實驗 DCN 和 DeepFM,因為兩者在業界都很常用。
到這裡你已經會了小結 3 / 5
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
到這裡你已經會了:模型怎麼從 feature 算出機率
- LR:加分表算總分,sigmoid 壓成 0–1。快、好做,但分界是直線,抓不到「年輕 × 籃球迷」這種組合。
- 補組合的三條路:人工交叉(feature crossing)、樹自己組(GBDT,但跟不上新資料)、每個 feature 發個性卡兩兩配對(FM;DCN、DeepFM 再加上深層網路)。
- 原書的選擇:LR 當 baseline,再實驗 DCN 和 DeepFM。
下一階要解決的問題
模型選好了,要拿資料訓練它。可是 100 次曝光只有 2 次點擊,訓練資料幾乎全是「沒點」。這會出什麼事?
延伸基礎第 11 階 · 少數派 · class imbalance · negative downsampling懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
100 次曝光只有 2 次點擊。一個「什麼都不做」的模型就有 98 分?
① 先想像
抽獎箱裡 100 張籤只有 2 張中獎。有個人每次都喊「沒中」,他幾乎每次都對。可是他完全沒有幫你找到中獎的那張。
你猜猜看:永遠回答「不會點」的模型,在 A 機票的 100 次曝光裡,答對幾成?
100 次裡有 98 次真的沒點,它全對;2 次點擊全錯。答對率 98%,卻一點用都沒有。
③ 這叫做 class imbalance
class imbalance(類別不平衡):一類多、一類少。常見對策 negative downsampling(負例降採樣):「沒點」的只留一部分來訓練。
④ 跟這章的關係
原書每一次曝光都做一筆資料,所以幾乎全是負例。只留一部分負例,訓練又快又不會被淹沒;代價是模型學到的點擊率會偏高(第 41 頁再倒回來)。
② 動手玩:1,000 次曝光、20 次點擊。負例要留幾成?
原書Model training · Constructing the dataset · Figure 8.15 · Loss
每一次曝光做一筆資料:t 秒內點了是正例,沒點是負例
這一步要解決的問題第 7 頁的三種標法,要定成一條能自動跑的規則,而且資料要一直產生。
動手玩:t 要設多大?
📖 原書 規則
- 每一次曝光,做一筆新的資料點;input feature 由使用者和廣告算出來
- 正例:廣告出現後,使用者在 t 秒內點了。t 是 hyperparameter(人要先設定的參數),用實驗調
- 負例:t 秒內沒點
- 實務上公司會用更複雜的方法找標負例的最佳策略(原書參考資料 [1])
- 模型要一直適應新資料,所以要用新的互動持續產生新的訓練資料(Serving 那節再談)
📖 原書 Loss function
訓練的是二元分類模型,所以用 cross-entropy 當分類的 loss(衡量「猜得多不準」的分數)。它到底在算什麼?下一頁。
延伸基礎第 12 階 · 驚訝分數 · cross-entropy懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
模型猜錯時有多驚訝?數一數機率後面有幾個零
① 先想像
主播說「明天降雨機率 1%」,結果下大雨,你超驚訝。說 90% 結果下雨,你一點也不驚訝。越有把握地猜錯,越驚訝。
你猜猜看:規則是「1/10 → 1 分、1/100 → 2 分」。模型說小安點擊機率 1%,結果他真的點了,驚訝幾分?
1% = 1/100,後面兩個零,所以 2 分。說 10% 的話只驚訝 1 分;說 100% 就是 0 分。
③ 這叫做 cross-entropy
cross-entropy(CE):每一筆,看模型給「真正發生的那件事」幾 % 的機率,換成驚訝分數,再加起來。越小越好。
「這兩個機率分布越接近 那這個 Loss 算出來呢就會越小」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講
④ 跟這章的關係
原書訓練用它當 loss,考試也用它當第一個離線指標。下一頁就照原書的例子算一次。
② 動手玩:模型說「會點」的機率是多少?結果呢?
原書Evaluation · Offline metrics · Cross-entropy · Figure 8.16
原書的例子:同三則廣告,模型 A 和 B 誰比較好?
這一步要解決的問題上線之前,先用已經知道答案的資料考模型。原書的第一個離線指標是 CE。
📖 原書 怎麼說
- CE 衡量模型預測的機率離正確答案多近
- 理想的系統:負例全猜 0、正例全猜 1,CE 就是 0。CE 越低,預測越準
- 二元分類時,每一筆只看兩種情況:點了就看「它說會點的機率」,沒點就看「1 減掉它」
- Figure 8.16:CE(A) = 0.273,CE(B) = 1.319,所以 A 比 B 好
- CE 除了當指標,也是分類任務訓練時的標準 loss
驗算一下 B:Ad 1 點了,B 只說 20%,驚訝約 0.70;Ad 2 沒點,B 說 60% 會點(40% 不會),驚訝約 0.40;Ad 3 點了,B 說 60%,驚訝約 0.22。加起來 1.32。原書的數字,就是把每一筆的驚訝分數加起來。
延伸基礎第 13 階 · 跟瞎猜比 · background CTR · NCE懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
驚訝分數 0.3 算好嗎?要先問:一個偷懶的人會拿幾分
① 先想像
有一位懶惰主播,從來不看雲,每天都報「降雨機率 = 去年的平均」。你辛苦做了一個預報系統,至少要比他準吧?
你猜猜看:「你的驚訝分數 ÷ 懶惰主播的驚訝分數」= 1,代表什麼?
比值 1 就是一樣驚訝,你白做了。比值越小越好;大於 1,比偷懶還差。
③ 這叫做 NCE
background CTR:訓練資料的平均點擊率,懶惰主播報的就是它。NCE(normalized cross-entropy):你的 CE ÷ 永遠猜平均的 CE。
④ 跟這章的關係
原書第二個離線指標。點擊率只有 2% 的時候,光看 CE 很難說好壞;跟瞎猜比,才知道模型有沒有學到東西。
② 動手玩:小安的 10 次曝光,點了 2 次
原書Normalized cross-entropy · Figure 8.17
原書的例子:模型 A 的 NCE = 0.324,比瞎猜好很多
📖 原書 怎麼說
- NCE = 模型的 CE ÷ background CTR(訓練資料的平均 CTR)的 CE
- 也就是拿模型和一個「永遠只猜 background CTR」的簡單 baseline 比
- NCE 低:模型贏過 baseline。NCE ≥ 1:模型沒有比 baseline 好
- Figure 8.17:baseline 永遠猜 0.6,CE = 0.842;模型 A 的 CE = 0.273;NCE = 0.273 ÷ 0.842 = 0.324,小於 1,A 贏過 baseline
驗算 baseline:兩則點了,各驚訝約 0.22;一則沒點,猜 60% 會點(40% 不會),驚訝約 0.40。0.22 + 0.22 + 0.40 = 0.84。
到這裡你已經會了小結 4 / 5
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
到這裡你已經會了:怎麼訓練、怎麼考試
- 每一次曝光一筆資料,t 秒內點了是正例。負例多到淹沒正例(class imbalance),常見做法是只留一部分負例。
- cross-entropy:越有把握地猜錯,驚訝分數越高。訓練時拿它當 loss,考試時也拿它當指標。
- NCE:拿自己的 CE 跟「永遠猜平均」比。小於 1 才算學到東西。
下一階要解決的問題
考過了,要上線。上線後要顧三件事:排得對不對、說的機率準不準、跟不跟得上新資料。
延伸基礎第 14 階 · 排隊比賽 · AUC懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
只想知道「排得對不對」?讓「點了」和「沒點」兩兩比賽
① 先想像
把每一個「有點」的曝光,跟每一個「沒點」的曝光配成一對比賽。模型給「有點」的那個分數比較高,就算模型贏一場。
你猜猜看:分數完全亂給的模型,大約能贏幾成?
亂給就像擲硬幣,一半贏一半輸。所以 AUC 0.5 是「完全沒學到」,1 是「每一場都贏」。
③ 這叫做 AUC
AUC:所有「點了 vs 沒點」的配對裡,模型排對的比例。它只看名次,不管機率本身準不準。
「但是雖然我們在訓練的時候 用 Cross-Entropy 但是你最後在做驗證跟測試的時候 你仍然會用 Accuracy」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講
④ 跟這章的關係
原書的離線指標是 CE 和 NCE。AUC 是業界另一個很常見的離線指標(📅 補充):訓練用驚訝分數,考試常常也看排名次。
② 動手玩:拖動點,改模型給的分數
延伸基礎第 15 階 · 說到做到 · calibration懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
名次排對了,機率還得「說到做到」
① 先想像
主播說「降雨機率 30%」的那些日子裡,真的有三成下雨嗎?如果說 30% 的日子天天下雨,名次排得再對,你也不敢信他。
你猜猜看:上一頁把分數全部減半,AUC 沒變。那模型說的機率還準嗎?
名次沒變,但每一個機率都少了一半。AUC 看不出來,要另外檢查「說 5% 的,是不是真的 5% 會點」。
③ 這叫做 calibration
calibration(校正):讓模型說的機率,等於實際發生的比例。說 3% 的那一群,就該有 3% 點了。
④ 跟這章的關係
原書的 Other talking points:廣告模型一定要校正。因為機率會直接拿去算錢:每次曝光值多少 = 點擊機率 × 每次點擊的價錢。
② 動手玩:第 11 階只留了 1/10 的負例,會發生什麼事?
原書Evaluation · Online metrics
上線之後看四個數字:點擊、轉換、收入、被隱藏
這一步要解決的問題離線考得好,不代表真的賺錢。上線後要看真實使用者的反應。
動手玩:這一週的 1,000 次曝光(示意)
| 指標 | 原書怎麼說 |
|---|---|
| CTR | 被點的廣告 ÷ 展示的廣告。很好的線上指標,因為點擊越多,收入直接越多 |
| Conversion rate(轉換率) | 轉換次數 ÷ 曝光次數。代表廣告主真的得到好處的次數;廣告沒帶來轉換,廣告主最後會不想再花錢 |
| Revenue lift(收入提升) | 收入隨時間增加的百分比 |
| Hide rate(隱藏率) | 被使用者隱藏的廣告 ÷ 展示的廣告。可以看出系統放了多少不相關的廣告,也就是 false positive(猜會點、其實不想看) |
延伸基礎第 16 階 · 一直在變 · continual learning懂的人可以跳過
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
上個月的爆紅廣告,這個月沒人點。模型跟得上嗎?
① 先想像
夜市排隊名店,上個月排一小時,這個月沒人。手遊廣告剛上架很新鮮,兩週後大家都看膩了。每天還有幾千則新廣告上架。
你猜猜看:模型一週才更新一次。今天新上架的廣告,模型怎麼看它?
模型學到的是上週的世界。新廣告要等到下次更新才「認識」,這一週都只能用猜的。
③ 這叫做 continual learning
continual learning:模型上線以後,一直用新資料繼續學,而不是學完一次就不動。
「那這種把一個已經通用的模型 再做進一步學習這件事呢 就叫做 Post training 那或者是呢 也叫做continual learning」🎓 李宏毅課堂 生成式AI時代下的機器學習 2025 · 第六講
④ 跟這章的關係
原書需求就寫了:晚 5 分鐘都會傷效果。這也是 GBDT 被打槍的原因(第 25 頁)。
② 動手玩:D 手遊上架 14 天的點擊率,模型多久更新一次?
原書Serving · Figure 8.18
整個系統:三條管線,一條備料、一條一直學、一條即時排名
這一步要解決的問題小安一滑,就要在一瞬間吐出排好的廣告;同時模型還要一直學新的互動。
① Data preparation pipeline
算 feature(批次與即時),並從新的廣告和互動持續產生訓練資料(第 45 頁)。
② Continual learning pipeline
在新的訓練資料上 fine-tune 模型、評估,指標變好才部署(第 45 頁)。
③ Prediction pipeline
輸入一個使用者,輸出依點擊機率排好的廣告(第 46 頁)。
原書Data preparation pipeline · Continual learning pipeline
有的 feature 可以先算好,有的一定要當下算
動手玩:這些 feature,哪些可以先算好存起來?
點一下切換你的猜測(先算好/當下算),再按「看答案」。
📖 原書 Data preparation pipeline 的兩件事
- 算 online 和 batch feature
- 從新的廣告和互動持續產生訓練資料
Batch feature computation(批次):有些 feature 是 static(很少變),例如廣告的圖片和類別。用批次工作定期算(每幾天或幾週),存進 feature store(存好算好 feature 的地方)。先算好,上線時就快。
Online feature computation(即時):有些 feature 是 dynamic(常常變),例如廣告的曝光數和點擊數,要在查詢當下算。
📖 原書 Continual learning pipeline
需求說持續學習很關鍵。這條管線負責:在新的訓練資料上 fine-tune 模型、評估新模型、指標變好才部署。確保預測用的永遠是適應最新資料的模型。
原書Prediction pipeline · 兩段式架構
小安滑一下:100 萬則廣告,怎麼在一瞬間挑出 4 則?
這一步要解決的問題不能每一則都跑一次模型,太慢。而且有 dynamic feature,不能事先把答案算好。
你猜猜看:為什麼不前一晚就把每個人的廣告排好(batch prediction)?
例如「這則廣告剛剛 5 分鐘的點擊數」「小安現在用什麼裝置」,前一晚還不存在。所以原書用 online prediction。
動手玩:一步一步走
📖 原書 Prediction pipeline
- 輸入查詢的使用者,輸出依點擊機率排好的廣告
- 有些 feature 是 dynamic,所以不能用 batch prediction(事先算好答案),要用 online prediction:請求一來就當場算
- 和前幾章一樣用兩段式:先用 candidate generation 把廣告池縮小到一小批;這裡用廣告主給的投放條件,例如目標年齡、性別、國家
- Ranking:拿到候選,從同一個 feature store 和 online feature computation 取 static 與 dynamic feature,用模型算每一則的點擊機率,排序,輸出最高的幾則
- Re-ranking:加上額外的邏輯和規則。例如把太像的廣告拿掉,增加多樣性
原書Other Talking Points
面試還有時間,可能會被問到這五件事
Data leakage
📖 原書 排序和推薦系統要避免資料洩漏。白話:訓練時偷看到「考試當下不會知道」的答案。例如用了曝光之後才發生的資訊當 feature。原書參考資料還附了依時間切分資料(拿過去訓練、拿未來考試)。
Calibration
📖 原書 廣告點擊預測的模型需要校正。討論校正是什麼、有哪些做法。第 41 頁的「說到做到」。
FFM
📖 原書 FM 常見的變形 field-aware FM,談它和 FM 的差別。白話:一個 feature 不是只有一張個性卡,而是面對不同「欄位」(例如廣告主、時段)各有一張。
XDeepFM
📖 原書 DeepFM 常見的變形,談它和 DeepFM 的差別(原書參考資料 [10])。
Catastrophic forgetting
📖 原書 持續學習有必要,但一直在新資料上學,可能把舊的能力忘光。談它是什麼、常見解法。
「所以如果我們說後訓練是給人工智慧的大腦動手術 那 Catastrophic Forgetting 就是手術成功了 但是病人卻死了」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 8 講
到這裡你已經會了小結 5 / 5
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
到這裡你已經會了:上線之後要顧的三件事
- 排得對:AUC 讓「點了」和「沒點」兩兩比賽。線上再看 CTR、轉換率、收入、隱藏率。
- 說得準:calibration 讓「說 3%」真的是 3%。負例降採樣之後一定要倒回來,因為機率會拿去算錢。
- 跟得上:continual learning 一直用新互動 fine-tune;預測用兩段式(候選 → 排序 → 重排)。
16 階全部走完了
接下來是方法的演進(📅 2026 補充),以及 Triton 怎麼看「大量點擊事件」這種 infra。
📅 2026 補充方法怎麼演進 · 只寫有把握的
從「一筆一筆猜」到「讀整串行為」,而且訊號越來越少
原書的很多招,來自同一篇論文
📅 2026 補充 Facebook 2014 年的〈Practical Lessons from Predicting Clicks on Ads at Facebook〉裡就有:GBDT 做 feature 再接 LR、Normalized Entropy(就是原書的 NCE)、資料越新越好、負例降採樣後再校正。原書的方法有很長的脈絡,不是憑空來的。
模型開始讀「整串行為」
📅 2026 補充 原書把「點過的廣告」取平均(第 15 頁)。後來的做法改成讓模型自己決定看哪幾個:2018 年的 DIN 用 attention(開書考試時決定看哪幾頁)挑出跟這則廣告有關的歷史點擊;DCN 也出了 V2(原書參考資料已列)。2024 年起,也有把使用者整串動作當成「一句話」、用類似語言模型的方式訓練的推薦模型(例如 Meta 的 generative recommenders)。
能用的訊號變少了
📅 2026 補充 iOS 從 2021 年起要求 app 先問使用者才能跨 app 追蹤(App Tracking Transparency);Safari、Firefox 預設擋第三方 cookie。廣告主那邊的轉換回報變少、變晚,第 34 頁「等多久才算負例」的 delayed feedback 問題更重要,平台內部的訊號(例如隱藏、停留時間)也更重要。
客座講評Triton 怎麼看這套 infra · 1 / 3
Triton 沒談過點擊預測模型,但他做過「大量點擊事件」的系統
「Event Receiver – 1st tier write buffering – unified interface to receive client-side events – Input validation and verification – Add event details for successive process – Pack multiple events to one SQS Message to save money」「Amazon Firehose and S3 – Store the events for future data mining」「Amazon SQS – 2nd tier of write buffering, providing unlimited queue」🗣️ Triton 本人說 076-mini-bigdata.pdf.md
🔭 依 Triton 原則推論 套到原書 Figure 8.18:「New data & interactions → Data lake → Dataset generation」那一路,就是 076 的 Firehose → S3「留著以後做 data mining」。每一筆曝光、點擊先進兩層 buffer(Event Receiver、SQS),再慢慢處理,前端不用等資料庫。
白話:buffer(緩衝)就是先排隊、再處理;SQS 是 AWS 的排隊服務;S3 是便宜的大型檔案倉庫。
客座講評Triton 怎麼看這套 infra · 2 / 3
一直在變的計數器:先在記憶體加總,再寫回資料庫
Write aggregation(聚合寫入)
「Prerequisite – The Write is clustered, not random i.e. if one record is updated, it is likely to be updated again very soon – If some system component crash, some data loss can be tolerated」「Benefits – Reduce database write operation – Database Write is indepentent of traffic」🗣️ Triton 本人說 076-mini-bigdata.pdf.md
🔭 推論 原書的 dynamic feature(這則廣告的曝光、點擊數)就是一直被寫的計數器。熱門廣告一直被點,寫入很集中,符合第一個前提。
可是「可以掉一點」不是到處都成立
你猜猜看:同一筆點擊,拿去「收廣告主的錢」,也可以掉幾筆沒關係嗎?
🔭 推論:當 feature 的點擊數少算幾次,模型幾乎沒感覺。可是廣告按點擊收錢,計費那份紀錄「some data loss can be tolerated」這個前提不成立,要走不會掉資料的路。同一個事件,兩種用途,兩種要求。
「Performance is MUCH more important then data freshness」🗣️ 076-mini-bigdata.pdf.md(Suggestion Feed Performance)
🔭 推論 這和原書「晚 5 分鐘都不行」看起來相反,其實是在不同地方取捨:模型要一直更新,但上線排名時讀到的 feature 可以是幾分鐘前算好、放在 cache 的版本。
動手玩:使用者興趣分數的「自然衰減」
「Natural decay is used, due to simplicity」「No “optimum” half-life, thus we store values of multiple half-life」🗣️ 076-mini-bigdata.pdf.md
🔭 這就是原書「歷史互動統計」可以怎麼做:同一個興趣,存三種半衰期,讓模型自己挑。
客座講評Triton 怎麼看這套 infra · 3 / 3
每天幾億筆曝光的訓練資料,要放哪?先算有多大
「資料量不夠大 (<100GB) 就乖乖回去用 RDBMS 就好啦」🗣️ Triton 本人說 054-data-analysis.pdf.md
「OLAP 常常 write-once only – Columnar storage 的 multiple Random IO 不是問題 – Columnar storage 更能有效 compression」「OLAP 常常用大量的 rows 但是只用一小部份 columns」🗣️ 054-data-analysis.pdf.md
「如果你的 schema錯亂/有人下了笨 Query 你的帳單會是天價!!!」🗣️ 054-data-analysis.pdf.md(談 BigQuery/Athena 這類按用量收費的服務)
「parquet配athena可以有超高報表類效能的 但是,其應用有點「劍走偏鋒」 高度吃ETL層整理資料能力」💬 討論串回覆,作者未標示 085-pure read-only的應用.md
「Apache Parquet 會省下很多 IO」📝 上課筆記(Roy),非 Triton 原文 058-…_columnar_storage_mini-talk.pdf.md
動手玩:你的曝光紀錄一年有多大?
🔭 依 Triton 原則推論 原書的訓練資料是 write-once(曝光發生了就不會改)、訓練時讀很多筆但只用部分欄位:正是 054 說的 OLAP 情境,適合 columnar(例如 Parquet)。但 054 的第一句更重要:先算 N。小平台可能根本不到 100GB。
回顧一句話記住
廣告點擊預測其實就是:把人和廣告變成數字,猜一個說到做到的機率,排名次,然後一直重學。
- 點擊率
- 是或否
- 特徵
- 打勾表
- 置物櫃
- 座標
- 壓成 0–1
- 組合特徵
- 問答樹
- 兩兩配對
- 少數派
- 驚訝分數
- 跟瞎猜比
- 排隊比賽
- 說到做到
- 一直在變
題目
最大化收入 → 每一對 ⟨使用者, 廣告⟩ 做一次是或否,用點擊機率排序。
變成數字
打勾表、分格、座標;接起來又長又空,所以模型要吃得下 sparse 的輸入。
選模型
關鍵是「組合」:LR 當 baseline,再實驗會自動配對的 DCN、DeepFM。
考試與上線
CE、NCE、AUC 考排名;校正讓機率說到做到;continual learning 跟上新廣告。
小安滑一下,四則廣告排好了。然後呢?然後就結束了。下一秒,再來一次。
本章名詞小卡課後複習用 · 每個名詞一句白話
今天出現的名詞,一句話講完
給工程師的重點出處與標籤
本章引用的來源
📖 原書段落 → 本簡報頁碼
Machine Learning System Design Interview · Ad Click Prediction on Social Platforms。Introduction、Fig 8.1(5)|Clarifying Requirements(6–7)|Frame as ML task、Fig 8.2–8.3(9)|Data engineering、Table 8.1–8.3(12)|Ad features、Fig 8.4(16)|User features、Fig 8.5(17)|high cardinality(18)|LR(21)|Feature crossing + LR、Fig 8.6–8.7(23)|GBDT、GBDT + LR(25)、Fig 8.8–8.9(26)|NN、Fig 8.10–8.11(28)|DCN、Fig 8.12(29)|FM、Fig 8.13(30)|DeepFM、Fig 8.14、模型選擇(31)|Constructing the dataset、Fig 8.15、Loss(34)|CE、Fig 8.16(36)|NCE、Fig 8.17(38)|Online metrics(42)|Serving、Fig 8.18(44)|Data preparation/Continual learning pipeline(45)|Prediction pipeline(46)|Other talking points(47)。18 張圖依原書圖說與描述重繪,不是原圖;本章原書沒有章末心智圖。
🗣️ Triton(materials/core)
- 076-mini-bigdata.pdf.md:Event Receiver、Firehose→S3、SQS 兩層 buffering、write aggregation 前提、performance > freshness、自然衰減(50–51)
- 054-data-analysis.pdf.md:<100GB 用 RDBMS、OLAP write-once、按用量收費的風險(52)
- 085:無署名,標 💬;058:Roy 的上課筆記,標 📝
🎓 李宏毅課堂(逐字稿)
- 生成式人工智慧與機器學習導論 2025:第 3 講(ID → embedding、dot product)、第 5 講(Feature、直線)、第 6 講(信心分數、cross-entropy、訓練 CE/測試 Accuracy)、第 8 講(Catastrophic Forgetting)
- 生成式AI時代下的機器學習 2025:第六講(continual learning)、第九講(sigmoid)
- 來源
.claude/skills/hung-yi-lee(受李宏毅教學風格啟發,非本人)
延伸基礎(16 階)
地圖 3|小結 10、19、32、39、48|小卡 54|CTR 4、是或否 8、feature 11、one-hot 13、hashing 14、embedding 15、LR 20、crossing 22、GBDT 24、FM 27、imbalance 33、CE 35、NCE 37、AUC 40、calibration 41、continual 43。hashing、AUC、負例降採樣與校正做法是補充,不是原書內文。
📅 2026 補充的依據
- He et al.〈Practical Lessons from Predicting Clicks on Ads at Facebook〉ADKDD 2014
- DIN(2018)、DCN V2(2020,原書參考資料)、generative recommenders(ICML 2024)
- Apple ATT(iOS 14.5,2021);Safari、Firefox 預設擋第三方 cookie