ML System Design · 第 8 章教學線:受李宏毅教學風格啟發Triton 覆蓋度:🟡 中(只有 infra:點擊事件與訓練資料的儲存)

Ad Click Prediction
其實就是:替每一則廣告猜「這個人會不會點」,再排名次而已

你滑 Instagram,每滑幾篇就出現一則「贊助」。為什麼是這一則,不是另一則?原書用這個題目,把「預測點擊機率」從資料、特徵、模型、評估一路講到上線。

今天的路線

先爬 16 階基礎(第 3 頁的地圖),一邊爬一邊對照原書:題目怎麼定 → 人和廣告怎麼變成數字 → 模型怎麼選 → 怎麼打分數 → 怎麼上線。最後是 2026 補充和 Triton 客座講評。

標籤怎麼看

📖 原書 🎓 李宏毅課堂 📅 2026 補充 🗣️ Triton 本人說 🔭 依 Triton 原則推論

頁首標 延伸基礎 的頁是補基礎,只用高中數學,懂的人可以跳過。

說明

這份的講法受李宏毅教學風格啟發,不是本人。只討論方法的取捨與演進,不評論任何公司、產品或作者。全程的使用者「小安」和四則廣告都是虛構的示範資料。

先講跟你有關的動手玩 · 你來當平台

小安滑到第 5 篇,有一格廣告位置。你要放哪一則?

—你選的廣告—給 100 個人看,預計幾次點擊—平台收入(每次點擊 10 元,示意)

先憑直覺點一則。

你可能會想說,這很簡單嘛,挑「最多人點」的那則。對,一格不難。

可是平台每天有幾億人在滑,手上有幾百萬則廣告,每滑一下就要決定一次。而且「最多人點」不等於「這個人會點」:小安是籃球迷,籃球鞋對他特別有吸引力。

今天整堂課只在回答一個問題:這個人、看到這則廣告,會點的機率是多少?算出來之後,由高到低排,放最前面那幾則。然後呢?然後就結束了。難的是「算出來」。

學習地圖本章的概念階梯 · 每一階只用前面講過的東西

今天爬 16 階。英文名字等爬到那一階才給。

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

第 1–2 階 · 題目是什麼

要回答:「推薦廣告」怎麼變成一道機器能算的題目?

第 3–6 階 · 變成數字

要回答:「台北」「籃球迷」「廣告主 #48213」怎麼餵給模型?

第 7–10 階 · 選模型

要回答:「年輕 × 籃球迷」這種組合效果,誰抓得到?

第 11–13 階 · 訓練與打分數

要回答:100 次只有 2 次點擊,模型怎麼學、怎麼考?

第 14–16 階 · 上線之後

要回答:排得對、說得準、跟得上,三件事怎麼顧?

全程只用一個例子:小安的動態牆

小安,22 歲,住台北,籃球迷,晚上 10 點在滑手機。四則候選廣告:A 機票特價(100 次曝光、2 次點擊)、B 汽車保險(100、1)、C 籃球鞋(100、5)、D 手遊(100、3)。每爬 3–4 階,有一頁「到這裡你已經會了」。

延伸基礎第 1 階 · 點擊率 · CTR懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

「多少人點」不夠,要看「看過的人裡面,幾成點了」

① 先想像

夜市兩攤雞排:甲攤一晚賣 20 塊,乙攤賣 10 塊。可是甲攤前面走過 1,000 人,乙攤只走過 100 人。哪一攤比較會抓客人?

你猜猜看:新廣告 E 只被看了 1 次,就被點了 1 次。它最該放上去嗎?

③ 這叫做 CTR

CTR(click-through rate,點擊率):點擊次數 ÷ 被看到的次數。「被看到一次」叫一次 impression(曝光)。

④ 跟這章的關係

原書要「最大化收入」,又假設每次點擊收入一樣。所以目標就是:讓放出去的廣告,點擊率越高越好。

② 動手玩:四則廣告 + 一則新廣告,誰的點擊率最高?

原書Introduction · Figure 8.1

原書的開場:廣告放在動態牆上,平台要挑對的那則

📖 原書 Figure 8.1放在使用者時間軸上的贊助廣告(原圖是手機畫面示意,依原書內容重繪)

📖 原書 題目從哪裡來

線上廣告讓廣告主在平台上出價投放廣告,換取看得到、算得出來的回應:曝光(impression)、點擊(click)、轉換(conversion,例如真的下單)。給使用者看相關的廣告,是 Google、Facebook、Instagram 這類平台的基本功。這一章要設計一套和熱門社群平台類似的廣告點擊預測系統。

原書這一章的路線

  1. Clarifying requirements(6)
  2. Frame as ML task(9)
  3. Data preparation(12–18)
  4. Model development(21–31)
  5. Model training(34)
  6. Evaluation(36–42)
  7. Serving(44–46)
  8. Other talking points(47)

原書Clarifying Requirements

原書的題目:先把「做一個廣告預測系統」問清楚

這一步要解決的問題面試官只丟一句話,要先確認:目標是什麼、廣告放哪、標準答案(label)從哪來。

📖 原書 應徵者 × 面試官

應徵者問面試官答
商業目標是最大化收入嗎?是
廣告有影片、圖片,有時間軸、彈出式。可以只看時間軸,而且每次點擊收入一樣嗎?可以
同一則廣告可以給同一個人看不只一次嗎?可以。有時看了好幾次才點。實務上有「疲勞期」(fatigue period,一直被忽略就 X 天不再給他看),這題先假設沒有
支援「隱藏這則廣告」嗎?「封鎖這個廣告主」呢?支援隱藏;封鎖先不用
訓練資料用使用者和廣告的資料,label 用使用者和廣告的互動,可以嗎?可以
點擊可以當正例。負例(沒點的例子)怎麼來?好問題,你怎麼想?(下一頁)
模型要不斷從新的互動學習(continual learning),可以假設這是必須的嗎?好點子。實驗顯示,模型更新晚 5 分鐘都會傷害效果

📖 原書 問題總結

  • 設計一套廣告點擊預測系統
  • 商業目標:最大化收入
  • 廣告只放在時間軸,每次點擊收入相同
  • 模型必須持續用新的互動訓練
  • 資料集由使用者與廣告資料組成,依互動標 label
  • 不討論 AdTech(廣告科技,例如競價拍賣)專屬的主題,因為和 ML 面試無關

記住兩件事:「label 從互動來」和「晚 5 分鐘都不行」。前者決定第 34 頁怎麼做訓練資料,後者決定第 25 頁為什麼不選某些模型。

原書Clarifying Requirements · 負例怎麼標

「沒點」就一定是「不想點」嗎?

這一步要解決的問題點擊很好認。可是小安滑太快、根本沒看到的那則,算不算「不想點」?他之後才點的呢?

動手玩:小安今晚的 5 次曝光,換一種標法看看

📖 原書 應徵者的三個想法

  • 廣告在螢幕上停留一段時間卻沒被點,才算負例
  • 另一種:曝光先一律當負例,直到看到點擊才改
  • 再加上「隱藏這則廣告」這類負面回饋當負例

面試官:合理。實務上會用更複雜的技術標負例,面試就照你的建議。

你會發現,三種標法給同一筆資料的答案不一樣。標準答案本身就是設計出來的。等一下第 34 頁,原書會把它定成一條規則。

延伸基礎第 2 階 · 是或否 · binary classification懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

答案只有「點」和「不點」,但要回答「有幾成會點」

① 先想像

氣象主播只能說「明天下雨/不下雨」,還是可以說「降雨機率 30%」?後者讓你自己決定要不要帶傘。

你猜猜看:四則廣告小安會點的機會都不到一半。只准回答「會點/不會點」的模型會怎麼說?

③ 這叫做 binary classification

binary classification(二元分類):答案只有兩類。模型對每一類給一個信心分數,常寫成「是」的機率。

「如果是分類的問題 假設你有兩個類別 那你就希望類神經網路給你兩個數字 那每一個數字就代表 那個類別的信心分數」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講

④ 跟這章的關係

每一則廣告各算一次「點的機率」,再由高到低排。原書叫它 pointwise(一則一則算)。

② 動手玩:同一個模型,兩種回答方式

原書Frame the Problem as an ML Task · Figure 8.2、8.3

把「放對的廣告」翻譯成 ML 題目

這一步要解決的問題「增加收入」不是一個能算的東西,要換成模型能學的目標。

📖 原書 Figure 8.2廣告點擊預測系統的輸入與輸出(依原書內容重繪)

📖 原書 三步翻譯

  • ML 目標:預測一則廣告會不會被點。點擊機率猜得準,就能放相關的廣告,收入就上去
  • Input/Output:輸入一個使用者,輸出依點擊機率排好的廣告清單(Figure 8.2)
  • ML 類別:用第 7 章 Event Recommendation 介紹過的 pointwise LTR:一個二元分類模型,吃一對 ⟨使用者, 廣告⟩,預測會不會點(Figure 8.3)

套回小安:⟨小安, A⟩、⟨小安, B⟩、⟨小安, C⟩、⟨小安, D⟩ 各算一次 p,排好就是答案。所謂的廣告排序,其實就是四次是或否而已。

到這裡你已經會了小結 1 / 5

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

到這裡你已經會了:題目是什麼

下一階要解決的問題

模型要吃「小安」和「籃球鞋廣告」。可是模型只吃數字。一個人、一則廣告,要怎麼變成數字?

延伸基礎第 3 階 · 特徵 · feature懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

模型只吃數字。所以先把「小安」翻譯成一串數字

① 先想像

朋友要介紹對象給你,你會先問:幾歲?住哪?喜歡什麼?你其實是把「一個人」換成幾個問題的答案。

你猜猜看:「小安看過 50 則廣告、點了 2 則」,變成一個數字用哪個最好?

③ 這叫做 feature

feature(特徵):描述一個東西的一個數字。一串 feature 排在一起,就是模型的輸入。

「那把一個東西表示成一些數值 這些數值要當作函式的輸入 這些數值就叫做 Feature」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講

④ 跟這章的關係

原書的 Data preparation 一整節,就在決定:要哪些 feature、每一個怎麼變成數字。

② 動手玩:按一下,把人看得懂的資料翻成數字

原書Data Preparation · Data engineering · Table 8.1–8.3

手上有三種原始資料:廣告、使用者、互動

這一步要解決的問題做 feature 之前,先看清楚手上有什麼原料。

📖 原書 Table 8.1 Ad data(實務上一則廣告有幾百個屬性,這裡只列重要的)

Ad IDAdvertiser IDAd group IDCampaign IDCategorySubcategoryImages or Videos
1147travelhotelhttp://cdn.mysite.com/u1.jpg
2729insurancecarhttp://cdn.mysite.com/t3.mp4
39628travelairlinehttp://cdn.mysite.com/t5.jpg

📖 原書 Table 8.2 使用者資料的 schema(欄位)

IDUsernameAgeGenderCityCountryLanguageTime zone

套回小安:ID 11、22 歲、台北、台灣、中文、UTC+8(示意)。

📖 原書 Table 8.3 使用者與廣告的互動:曝光、點擊、轉換

User IDAd IDInteraction typeDwell timeLocation (lat, long)Timestamp
116Impression5 sec38.8951 -77.0364165845053
117Impression0.4 sec41.9241 -89.03891658451365
420Click-22.7531 47.96421658435948
116Conversion-22.7531 47.96421658451849

延伸基礎第 4 階 · 打勾表 · one-hot · bucketize懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

「台北」不是一個數字。那就做成一張打勾表

① 先想像

問卷上「你住哪?□台北 □台中 □高雄 □花蓮」,你只會勾一格。勾的那格是 1,其他是 0。

你猜猜看:如果偷懶直接編號,台北 = 1、台中 = 2、高雄 = 3,模型會以為什麼?

③ 這叫做 one-hot

one-hot:一張只有一格是 1 的打勾表。數字型的年齡可以先分組再打勾,叫 bucketize(分桶)。

④ 跟這章的關係

原書 Figure 8.5:年齡、性別這類 feature,就是用「Bucketize + One-hot」處理。

② 動手玩:選一個城市、拉一下年齡

住哪:

延伸基礎第 5 階 · 置物櫃 · hashing trick懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

廣告主有 100 萬家,打勾表就要 100 萬格?

① 先想像

健身房有 100 萬個會員,只有 1,000 個置物櫃。規則:看會員編號的最後三碼,就去那一櫃。偶爾兩個人要共用一櫃。

你猜猜看:只有 10 個櫃子(看最後一碼)。廣告主 48213 和 70553 會分到同一櫃嗎?

③ 這叫做 hashing trick

hashing trick:用固定規則把很多種 ID 分進固定數量的格子。兩個 ID 分到同一格叫 collision(撞格)。

④ 跟這章的關係

原書說 advertiser ID、user ID 可能有幾百萬種。格子變少,打勾表就變短;代價是偶爾撞格。今天沒看過的新 ID,也照樣分得到格子。

② 動手玩:輸入一個廣告主 ID,看它進哪一格

櫃子數量:
—打勾表長度—100 萬家平均每格擠幾家

延伸基礎第 6 階 · 座標 · embedding懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

打勾表太長,也看不出誰像誰。換成地圖上的座標

① 先想像

打勾表裡,「籃球鞋」和「慢跑鞋」各佔一格,毫無關係。可是它們明明很像。那就替每則廣告在地圖上找一個位置:像的放近一點。

你猜猜看:籃球鞋在 [4, 1]、慢跑鞋 [4, 2]、汽車保險 [−3, 4]。誰跟籃球鞋比較像?

③ 這叫做 embedding

embedding:把一個 ID 換成一組短短的數字,像地圖座標。這組數字是模型自己學出來的。

「第一件做的事情是每一個 ID 都會被轉成一個 Token Embedding 也就是轉成一個向量」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 3 講

④ 跟這章的關係

原書:ID 這種又長又空的 feature,用 embedding layer 換成短短一串數字。每一種 ID 有自己的一套座標。

② 動手玩:點一則廣告,看它的座標

原書Feature engineering · Ad features · Figure 8.4

廣告這一側:四種 feature,各自變成數字再接起來

這一步要解決的問題同一則廣告有 ID、圖片、類別、成績單,每一種的「翻譯方法」都不一樣。

📖 原書 Figure 8.4廣告相關 feature 的準備方式總覽(依原書內容重繪)
Feature為什麼重要怎麼準備
IDs:advertiser、campaign、ad group、ad ID代表每個廣告主、活動、廣告群組、廣告自己的特性embedding layer 把 sparse 的 ID 變成 dense 向量(第 15 頁),每種 ID 一個 layer
Image/video看圖就知道廣告在講什麼:飛機的圖 → 可能是旅遊先前處理,再用 pretrained(預先訓練好的)模型例如 SimCLR 變成 feature 向量
Category/subcategory讓模型知道廣告屬於哪一類廣告主從預先定好的清單裡選,例如 Arts & Entertainment、Autos & Vehicles、Beauty & Fitness;文字的處理見第 4 章 YouTube Video Search
Impressions/clicks:這則廣告、這個廣告主、這個活動的總曝光與總點擊別人怎麼反應:CTR 高的廣告,使用者比較可能點(原書沒有另外寫;Figure 8.4 把它們當數值直接放進來)

原書Feature engineering · User features · Figure 8.5

使用者這一側:他是誰、他現在在哪、他以前點過什麼

📖 原書 Figure 8.5使用者資料與互動的 feature 準備方式(依原書內容重繪;Time of day、Device 的處理原書描述沒寫清楚,這裡比照 Age 畫)

📖 原書 三組使用者 feature

  • Demographics(人口統計):年齡、性別、城市、國家等
  • Contextual information(當下情境):裝置、一天中的時段等
  • Interaction-related(互動相關):
    · Clicked ads:以前點過的廣告。常點保險廣告的人,下次也可能點類似的;準備方式同廣告 feature
    · 歷史互動統計:總共看過幾則廣告、廣告點擊率。過去常點的人,未來也比較常點;數值要縮放到差不多的範圍(Scale)

套回小安:22 歲 → 分組打勾;台北 → embedding;晚上 10 點 → 分組打勾;點過籃球鞋、慢跑鞋、手遊 → 三個座標取平均(第 15 頁);點擊率 4% → 縮放。

原書Data preparation · 本章特有的挑戰

最後一個麻煩:幾百萬格的數字,幾乎全是 0

這一步要解決的問題原書說廣告系統有大量 high cardinality(種類非常多)的類別 feature,接起來的輸入會非常長、非常空。

動手玩:把小安的 feature 一塊一塊接起來

—總長度(幾個數字)—不是 0 的有幾個—是 0 的比例

各區塊的種類數是示意。

📖 原書 怎麼說

「ad category」有一大串可能的類別;「advertiser ID」「user ID」可能有幾百萬種值,看平台上有多少活躍的人和廣告主。feature 空間非常大,常常有幾千、幾百萬個 feature,大部分是 0。這些獨特的挑戰,Model selection 那節會講怎麼克服。

這種「幾乎全是 0」叫 sparse(稀疏)。等一下選模型時,原書一直在問同一件事:這個模型,吃得下這麼空的輸入嗎?

到這裡你已經會了小結 2 / 5

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

到這裡你已經會了:人和廣告怎麼變成數字

下一階要解決的問題

數字有了。模型拿到「小安 × 籃球鞋」這一串數字,要怎麼算出一個 0 到 1 之間的機率?

延伸基礎第 7 階 · 壓成 0–1 · logistic regression懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

先打一個「加分表」的分數,再把分數壓成 0 到 1

① 先想像

替「小安 × 籃球鞋」打分:基本分 −4,籃球迷 +2,晚上在滑 +1。總分 −1。可是分數可以是 −10,也可以是 +10,機率卻只能在 0% 到 100% 之間。

你猜猜看:總分剛好是 0,會被壓成多少機率?

③ 這叫做 logistic regression

logistic regression(LR):加分表算總分,再用一條 S 形曲線 sigmoid 壓成 0 到 1 的機率。

「這其實就是sigmoid function 如果 I的戰力比J的戰力 大很多的話 算出來的數值就會趨近於1」🎓 李宏毅課堂 生成式AI時代下的機器學習 2025 · 第九講

④ 跟這章的關係

原書第一個候選模型就是 LR:訓練快、好實作,很多公司拿它當 baseline(比較用的起點)。

② 動手玩:勾選加分項,看總分和機率

—點擊機率

原書Model development · Model selection · Logistic regression

原書的八個候選模型,從最簡單的 LR 開始

這一步要解決的問題二元分類有很多種做法。廣告系統常見的有八種,一個一個看它們撞到什麼牆。

📖 原書 八個候選

  1. Logistic regression(本頁)
  2. Feature crossing + LR(23)
  3. GBDT(25)
  4. GBDT + LR(25–26)
  5. Neural networks(28)
  6. Deep & Cross networks(29)
  7. Factorization Machines(30)
  8. Deep Factorization Machines(31)

📖 原書 LR 的兩個缺點

  • 解不了非線性的問題:LR 用 feature 的線性組合(加分表),所以分界一定是一條直線(linear decision boundary)。廣告資料通常不是一條直線分得開的
  • 抓不到 feature 之間的交互作用:一個 feature 的效果,常常取決於另一個 feature 的值;這時點擊機率不能寫成「各自效果相加」

結論:LR 不是最好的選擇,但因為快、好訓練,很多公司拿它做 baseline。

動手玩:手遊廣告,誰會點?試著用一條直線分開

—分錯的點(最少能到幾個?)

「如果你劃在一個橫軸是 x_1 縱軸是 y 的這個圖上 它就一定是一條直線」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 5 講

延伸基礎第 8 階 · 組合特徵 · feature crossing懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

「年輕」和「籃球迷」各加幾分都不對。那就加一個「年輕 × 籃球迷」

① 先想像

籃球鞋廣告:只有「年輕而且是籃球迷」的人特別愛點(12%),其他三種人都是 2%。光是年輕、光是籃球迷,都沒有用。

你猜猜看:國家有 3 種、語言有 2 種,兩兩組合起來,會多出幾個新 feature?

③ 這叫做 feature crossing

feature crossing:把兩個 feature 綁成一個新的「組合 feature」,例如「年輕 × 籃球迷」,讓它自己有一個加分。

④ 跟這章的關係

原書第二個候選:先人工做好組合 feature,再交給 LR。可是要組哪幾對,得靠人想。

② 動手玩:轉加分,讓四格都對(基本分 −4 → 2%)

原書Feature crossing + LR · Figure 8.6、8.7

原書第二個候選:人工組合 feature,再交給 LR

📖 原書 Figure 8.6交叉 country 和 language(依原書內容重繪;描述寫「八個」,內文和列出的都是六個,以內文為準)

📖 原書 是什麼、怎麼做

從現有 feature 做出新 feature:把兩個以上的 feature 用乘積、加總或其他方式組成一個。這樣能抓到原始 feature 之間的非線性交互作用,例如「young and basketball」「USA and football」。做法是依事前知識人工挑選要交叉的 feature(Figure 8.6);再把原始 feature 和交叉 feature 一起餵給 LR(Figure 8.7)。

📖 原書 好處與缺點

能抓到某些兩兩(second-order)交互作用。但原書說有三個缺點,實際列了四個:

  • 人工:要人挑哪些 feature 交叉,費時又貴
  • 需要領域知識:得先懂問題,才知道哪些組合有用
  • 抓不到複雜交互:幾千個 sparse feature,交叉不完
  • 更稀疏:交叉後的種類數變更大(例如 300 城市 × 50 類別 = 15,000 格),更多 0

結論:不是理想的解法。

延伸基礎第 9 階 · 問答樹 · decision tree · GBDT懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

不用加分表,改用一連串「是或否」的問題

① 先想像

玩「猜猜我是誰」只能問是非題:是籃球迷嗎?30 歲以下嗎?幾題就猜到了。補習也一樣:第一次考完,老師不叫你全部重讀,只叫你補錯的那幾題。

你猜猜看:第一棵樹猜完,第二棵樹要學什麼?

③ 這叫做 decision tree 和 GBDT

decision tree:一連串是非題走到一片葉子,葉子上寫答案。GBDT:很多棵樹排隊,每一棵補前面還差的。

④ 跟這章的關係

問題的順序本身就是「組合」:先問籃球迷、再問年齡,等於自動做了「年輕 × 籃球迷」。但新資料進來時,樹通常要整片重種。

② 動手玩:小安走一遍第一棵樹,再一棵一棵補

原書GBDT · GBDT + LR

GBDT 好懂,但跟不上「晚 5 分鐘都不行」

這一步要解決的問題樹會自己找組合,不用人工交叉。那它在廣告系統裡會撞到什麼牆?

你猜猜看:新互動每幾分鐘就進來一批,GBDT 最大的麻煩是什麼?

📖 原書 GBDT

優點

  • 好解釋、好理解

缺點

  • 不適合 continual learning:新資料一直進來,要嘛從頭訓練、要嘛在新資料上 fine-tune(微調)。GBDT 不是設計來 fine-tune 的,通常只能從頭訓練,規模大時很沒效率
  • 不能訓練 embedding layer:廣告系統有很多 sparse 的類別 feature,embedding 是很有效的表示法,GBDT 用不到

📖 原書 GBDT + LR:兩步

  1. 先訓練 GBDT 學這個任務
  2. 不拿它直接預測,而是拿它挑出、做出新 feature,和原始 feature 一起餵給 LR 預測點擊

Feature selection(挑選):用樹算出的重要性,只留最有用的 feature 子集。Feature extraction(萃取):從現有 feature 做出更有預測力的新 feature(Figure 8.8,下一頁)。

📖 原書 GBDT + LR 的取捨

優點

  • GBDT 做出的新 feature 更有預測力,LR 比較好學

缺點

  • 抓不到複雜交互:和 LR 一樣,學不到兩兩交互作用
  • continual learning 很慢:GBDT 在新資料上 fine-tune 要時間,拖慢整體

原書Figure 8.8、8.9 · 動手玩

樹怎麼「做出新 feature」?看小安落在哪片葉子

📖 原書 Figure 8.8用 GBDT 做 feature extraction(依原書內容重繪;小安的路徑是示意)

白話:葉子編號就是新 feature

小安走過 T1、T2、T3 三棵樹,各自落在一片葉子。每棵樹做一張打勾表(第 13 頁):落在哪片葉子,那格就是 1。三張接起來,就是 GBDT 萃取出來的 feature。

Extracted features:按「讓小安走一遍」

為什麼這樣有用?每一片葉子都是一串問題的答案,例如「籃球迷 → 30 歲以下」。所以每一格,其實就是一個樹幫你自動做好的組合 feature(第 22 頁)。LR 只要替每片葉子學一個加分就好。

延伸基礎第 10 階 · 兩兩配對 · dot product · FM懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

不想人工挑組合?替每個 feature 發一張「個性卡」

① 先想像

交友 app 讓每個人填一張兩格的卡:[愛運動, 愛熬夜]。兩個人合不合 = 第一格相乘 + 第二格相乘。

你猜猜看:小安的卡 [2, 1],籃球鞋廣告的卡 [1, 3]。合不合的分數是?

③ 這叫做 dot product 和 FM

dot product:兩張卡對應格相乘再相加。FM(Factorization Machine):每個 feature 一張卡,每一對都用 dot product 算合不合。

「這個相似度是用 dot product 來表示的」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 3 講

④ 跟這章的關係

不用人挑哪幾對:每一對都自動有分數,連資料裡很少一起出現的組合也算得出來。卡片就是第 6 階的座標(embedding)。

② 動手玩:「小安 × 籃球鞋」有四個 feature,兩兩配對有幾對?

原書Neural network · Figure 8.10、8.11

類神經網路:一個大網路,或兩座塔

這一步要解決的問題LR 只能畫直線。疊很多層「加分表 + 壓縮」,就能畫彎線,這就是 neural network(NN,類神經網路)。它適合廣告嗎?

📖 原書 Figure 8.10NN 架構(依原書內容重繪)

📖 原書 兩種架構

  • Single NN:原始 feature 進一個網路,輸出點擊機率(Figure 8.10)
  • Two-tower:一座 user encoder、一座 ad encoder,各自把 feature 變成 embedding;兩個 embedding 的相似度就是點擊機率(Figure 8.11)

📖 原書 為什麼不選

  • Sparsity:feature 空間又大又空,大部分是 0,NN 可能沒有足夠的資料點學好
  • feature 太多,很難抓到所有兩兩交互作用

結論:這一章不用 NN。

原書Deep & Cross Network · Figure 8.12

DCN:一條路自動做交叉,一條路學複雜的 pattern

這一步要解決的問題人工交叉太累(第 23 頁),NN 又抓不全交互作用。能不能讓模型自己找交叉?

📖 原書 Figure 8.12DCN 架構(parallel 版;依原書內容重繪)

📖 原書 兩個平行的網路

2017 年 Google 提出 DCN,用來自動找 feature 交互作用,解決人工 feature crossing 的麻煩:

  • Deep network:用 DNN(深層類神經網路)學複雜、可泛化的 feature
  • Cross network:自動抓 feature 交互作用,學出好的交叉

兩邊的輸出接起來(concatenate),再做最後預測。DCN 有 stacked(疊起來)和 parallel(並排)兩種,Figure 8.12 是 parallel。面試通常不用講到 DCN 的細節。

📖 原書 取捨

優點:比 NN 有效,因為它會隱含地學 feature crossing。
缺點:cross network 只模擬某些特定的交互作用,可能影響效果。

原書Factorization Machines · Figure 8.13

FM:LR 的加分表,再加上「每一對都配對一次」

這一步要解決的問題想要所有兩兩交互作用,又不想人工挑、也不想要一個抓不全的大網路。

📖 原書 Figure 8.13Factorization Machine 架構(依原書內容重繪)

📖 原書 FM 怎麼運作

FM 是以 embedding 為基礎的模型,自動模擬所有兩兩 feature 交互作用,改良了 LR,因此在廣告點擊預測裡用得很廣。它替每個 feature 學一個 embedding,兩個 feature 的交互作用就是兩個 embedding 的 dot product(第 27 頁的個性卡)。

預測 = 基本分 + 每個 feature 的加分(就是 LR) + 每一對 feature 的卡片相乘(pairwise interactions)

原書的公式在講者備註與工程師頁。原書說:公式看起來複雜,其實很好懂,前兩項是 LR,第三項是兩兩交互。

📖 原書 限制

FM 和它的變形(例如 FFM)能有效抓兩兩交互;但 FM 學不到更複雜的高階交互(三個、四個 feature 一起才有的效果),這是 NN 做得到的。所以下一招:把 FM 和 DNN 合起來。

原書DeepFM · Figure 8.14 · 原書的選擇

DeepFM:FM 管兩兩配對,DNN 管更複雜的。原書最後怎麼選?

📖 原書 Figure 8.14DeepFM 總覽(依原書內容重繪)

📖 原書 DeepFM 結合 NN 和 FM 的長處:DNN 抓複雜的高階 feature,FM 抓低階的兩兩交互。一個可能的改良是 GBDT + DeepFM:GBDT 先把原始 feature 變得更有預測力,DeepFM 再吃新 feature。這招贏過多場廣告預測競賽,但會拖慢訓練、推論速度,也拖慢 continual learning。

八個候選,一張表收起來

模型交互作用持續學習原書評語
LR✗快baseline
Feature crossing + LR人工挑的兩兩快人工、需領域知識、更稀疏
GBDT樹自己組慢(常要重訓)好解釋;不能用 embedding
GBDT + LR✗(兩兩學不到)慢新 feature 更有預測力
NN/two-tower抓不全兩兩可太稀疏,不採用
DCN自動交叉(部分)可比 NN 有效;實驗候選
FM所有兩兩可學不到高階
DeepFM兩兩 + 高階可實驗候選

「持續學習」一欄依原書各段的說法整理;原書沒有逐一評的寫「可」。

📖 原書 結論

實務上用實驗決定模型。先用簡單的 LR 當 baseline,再實驗 DCN 和 DeepFM,因為兩者在業界都很常用。

到這裡你已經會了小結 3 / 5

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

到這裡你已經會了:模型怎麼從 feature 算出機率

下一階要解決的問題

模型選好了,要拿資料訓練它。可是 100 次曝光只有 2 次點擊,訓練資料幾乎全是「沒點」。這會出什麼事?

延伸基礎第 11 階 · 少數派 · class imbalance · negative downsampling懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

100 次曝光只有 2 次點擊。一個「什麼都不做」的模型就有 98 分?

① 先想像

抽獎箱裡 100 張籤只有 2 張中獎。有個人每次都喊「沒中」,他幾乎每次都對。可是他完全沒有幫你找到中獎的那張。

你猜猜看:永遠回答「不會點」的模型,在 A 機票的 100 次曝光裡,答對幾成?

③ 這叫做 class imbalance

class imbalance(類別不平衡):一類多、一類少。常見對策 negative downsampling(負例降採樣):「沒點」的只留一部分來訓練。

④ 跟這章的關係

原書每一次曝光都做一筆資料,所以幾乎全是負例。只留一部分負例,訓練又快又不會被淹沒;代價是模型學到的點擊率會偏高(第 41 頁再倒回來)。

② 動手玩:1,000 次曝光、20 次點擊。負例要留幾成?

負例只留:
—訓練資料筆數—訓練資料裡的點擊率2%真實世界的點擊率

原書Model training · Constructing the dataset · Figure 8.15 · Loss

每一次曝光做一筆資料:t 秒內點了是正例,沒點是負例

這一步要解決的問題第 7 頁的三種標法,要定成一條能自動跑的規則,而且資料要一直產生。

動手玩:t 要設多大?

—每筆資料要等多久才能標好—最後有點、卻被標成負例
📖 原書 Figure 8.15建好的資料集(依原書內容重繪;第 2 列的數值原書描述沒給,這裡是示意)

📖 原書 規則

  • 每一次曝光,做一筆新的資料點;input feature 由使用者和廣告算出來
  • 正例:廣告出現後,使用者在 t 秒內點了。t 是 hyperparameter(人要先設定的參數),用實驗調
  • 負例:t 秒內沒點
  • 實務上公司會用更複雜的方法找標負例的最佳策略(原書參考資料 [1])
  • 模型要一直適應新資料,所以要用新的互動持續產生新的訓練資料(Serving 那節再談)

📖 原書 Loss function

訓練的是二元分類模型,所以用 cross-entropy 當分類的 loss(衡量「猜得多不準」的分數)。它到底在算什麼?下一頁。

延伸基礎第 12 階 · 驚訝分數 · cross-entropy懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

模型猜錯時有多驚訝?數一數機率後面有幾個零

① 先想像

主播說「明天降雨機率 1%」,結果下大雨,你超驚訝。說 90% 結果下雨,你一點也不驚訝。越有把握地猜錯,越驚訝。

你猜猜看:規則是「1/10 → 1 分、1/100 → 2 分」。模型說小安點擊機率 1%,結果他真的點了,驚訝幾分?

③ 這叫做 cross-entropy

cross-entropy(CE):每一筆,看模型給「真正發生的那件事」幾 % 的機率,換成驚訝分數,再加起來。越小越好。

「這兩個機率分布越接近 那這個 Loss 算出來呢就會越小」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講

④ 跟這章的關係

原書訓練用它當 loss,考試也用它當第一個離線指標。下一頁就照原書的例子算一次。

② 動手玩:模型說「會點」的機率是多少?結果呢?

—它給「真正發生的事」的機率—驚訝分數

原書Evaluation · Offline metrics · Cross-entropy · Figure 8.16

原書的例子:同三則廣告,模型 A 和 B 誰比較好?

這一步要解決的問題上線之前,先用已經知道答案的資料考模型。原書的第一個離線指標是 CE。

📖 原書 Figure 8.16兩個 ML 模型的 CE(依原書內容重繪;A 的三個預測值是示意,B 的值由原書的總分反推)

📖 原書 怎麼說

  • CE 衡量模型預測的機率離正確答案多近
  • 理想的系統:負例全猜 0、正例全猜 1,CE 就是 0。CE 越低,預測越準
  • 二元分類時,每一筆只看兩種情況:點了就看「它說會點的機率」,沒點就看「1 減掉它」
  • Figure 8.16:CE(A) = 0.273,CE(B) = 1.319,所以 A 比 B 好
  • CE 除了當指標,也是分類任務訓練時的標準 loss

驗算一下 B:Ad 1 點了,B 只說 20%,驚訝約 0.70;Ad 2 沒點,B 說 60% 會點(40% 不會),驚訝約 0.40;Ad 3 點了,B 說 60%,驚訝約 0.22。加起來 1.32。原書的數字,就是把每一筆的驚訝分數加起來。

延伸基礎第 13 階 · 跟瞎猜比 · background CTR · NCE懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

驚訝分數 0.3 算好嗎?要先問:一個偷懶的人會拿幾分

① 先想像

有一位懶惰主播,從來不看雲,每天都報「降雨機率 = 去年的平均」。你辛苦做了一個預報系統,至少要比他準吧?

你猜猜看:「你的驚訝分數 ÷ 懶惰主播的驚訝分數」= 1,代表什麼?

③ 這叫做 NCE

background CTR:訓練資料的平均點擊率,懶惰主播報的就是它。NCE(normalized cross-entropy):你的 CE ÷ 永遠猜平均的 CE。

④ 跟這章的關係

原書第二個離線指標。點擊率只有 2% 的時候,光看 CE 很難說好壞;跟瞎猜比,才知道模型有沒有學到東西。

② 動手玩:小安的 10 次曝光,點了 2 次

—你的 CE—懶惰主播的 CE(永遠 20%)—NCE = 相除

原書Normalized cross-entropy · Figure 8.17

原書的例子:模型 A 的 NCE = 0.324,比瞎猜好很多

📖 原書 Figure 8.17模型 A 的 NCE 計算(依原書內容重繪)

📖 原書 怎麼說

  • NCE = 模型的 CE ÷ background CTR(訓練資料的平均 CTR)的 CE
  • 也就是拿模型和一個「永遠只猜 background CTR」的簡單 baseline 比
  • NCE 低:模型贏過 baseline。NCE ≥ 1:模型沒有比 baseline 好
  • Figure 8.17:baseline 永遠猜 0.6,CE = 0.842;模型 A 的 CE = 0.273;NCE = 0.273 ÷ 0.842 = 0.324,小於 1,A 贏過 baseline

驗算 baseline:兩則點了,各驚訝約 0.22;一則沒點,猜 60% 會點(40% 不會),驚訝約 0.40。0.22 + 0.22 + 0.40 = 0.84。

到這裡你已經會了小結 4 / 5

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

到這裡你已經會了:怎麼訓練、怎麼考試

下一階要解決的問題

考過了,要上線。上線後要顧三件事:排得對不對、說的機率準不準、跟不跟得上新資料。

延伸基礎第 14 階 · 排隊比賽 · AUC懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

只想知道「排得對不對」?讓「點了」和「沒點」兩兩比賽

① 先想像

把每一個「有點」的曝光,跟每一個「沒點」的曝光配成一對比賽。模型給「有點」的那個分數比較高,就算模型贏一場。

你猜猜看:分數完全亂給的模型,大約能贏幾成?

③ 這叫做 AUC

AUC:所有「點了 vs 沒點」的配對裡,模型排對的比例。它只看名次,不管機率本身準不準。

「但是雖然我們在訓練的時候 用 Cross-Entropy 但是你最後在做驗證跟測試的時候 你仍然會用 Accuracy」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 6 講

④ 跟這章的關係

原書的離線指標是 CE 和 NCE。AUC 是業界另一個很常見的離線指標(📅 補充):訓練用驚訝分數,考試常常也看排名次。

② 動手玩:拖動點,改模型給的分數

—AUC(贏的比例)

延伸基礎第 15 階 · 說到做到 · calibration懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

名次排對了,機率還得「說到做到」

① 先想像

主播說「降雨機率 30%」的那些日子裡,真的有三成下雨嗎?如果說 30% 的日子天天下雨,名次排得再對,你也不敢信他。

你猜猜看:上一頁把分數全部減半,AUC 沒變。那模型說的機率還準嗎?

③ 這叫做 calibration

calibration(校正):讓模型說的機率,等於實際發生的比例。說 3% 的那一群,就該有 3% 點了。

④ 跟這章的關係

原書的 Other talking points:廣告模型一定要校正。因為機率會直接拿去算錢:每次曝光值多少 = 點擊機率 × 每次點擊的價錢。

② 動手玩:第 11 階只留了 1/10 的負例,會發生什麼事?

—小安 × C 籃球鞋:一次曝光估值(每次點擊 10 元,示意)

原書Evaluation · Online metrics

上線之後看四個數字:點擊、轉換、收入、被隱藏

這一步要解決的問題離線考得好,不代表真的賺錢。上線後要看真實使用者的反應。

動手玩:這一週的 1,000 次曝光(示意)

本週收入 = 點擊 × 10 元
—CTR = 點擊 ÷ 曝光
—Conversion rate = 轉換 ÷ 曝光
—Revenue lift(比上週)
—Hide rate = 隱藏 ÷ 曝光
指標原書怎麼說
CTR被點的廣告 ÷ 展示的廣告。很好的線上指標,因為點擊越多,收入直接越多
Conversion rate(轉換率)轉換次數 ÷ 曝光次數。代表廣告主真的得到好處的次數;廣告沒帶來轉換,廣告主最後會不想再花錢
Revenue lift(收入提升)收入隨時間增加的百分比
Hide rate(隱藏率)被使用者隱藏的廣告 ÷ 展示的廣告。可以看出系統放了多少不相關的廣告,也就是 false positive(猜會點、其實不想看)

延伸基礎第 16 階 · 一直在變 · continual learning懂的人可以跳過

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

上個月的爆紅廣告,這個月沒人點。模型跟得上嗎?

① 先想像

夜市排隊名店,上個月排一小時,這個月沒人。手遊廣告剛上架很新鮮,兩週後大家都看膩了。每天還有幾千則新廣告上架。

你猜猜看:模型一週才更新一次。今天新上架的廣告,模型怎麼看它?

③ 這叫做 continual learning

continual learning:模型上線以後,一直用新資料繼續學,而不是學完一次就不動。

「那這種把一個已經通用的模型 再做進一步學習這件事呢 就叫做 Post training 那或者是呢 也叫做continual learning」🎓 李宏毅課堂 生成式AI時代下的機器學習 2025 · 第六講

④ 跟這章的關係

原書需求就寫了:晚 5 分鐘都會傷效果。這也是 GBDT 被打槍的原因(第 25 頁)。

② 動手玩:D 手遊上架 14 天的點擊率,模型多久更新一次?

模型更新:
—平均猜差幾個百分點— 真實 — 模型以為的

原書Serving · Figure 8.18

整個系統:三條管線,一條備料、一條一直學、一條即時排名

這一步要解決的問題小安一滑,就要在一瞬間吐出排好的廣告;同時模型還要一直學新的互動。

📖 原書 Figure 8.18ML 系統設計(依原書內容重繪)

① Data preparation pipeline

算 feature(批次與即時),並從新的廣告和互動持續產生訓練資料(第 45 頁)。

② Continual learning pipeline

在新的訓練資料上 fine-tune 模型、評估,指標變好才部署(第 45 頁)。

③ Prediction pipeline

輸入一個使用者,輸出依點擊機率排好的廣告(第 46 頁)。

原書Data preparation pipeline · Continual learning pipeline

有的 feature 可以先算好,有的一定要當下算

動手玩:這些 feature,哪些可以先算好存起來?

點一下切換你的猜測(先算好/當下算),再按「看答案」。

📖 原書 Data preparation pipeline 的兩件事

  • 算 online 和 batch feature
  • 從新的廣告和互動持續產生訓練資料

Batch feature computation(批次):有些 feature 是 static(很少變),例如廣告的圖片和類別。用批次工作定期算(每幾天或幾週),存進 feature store(存好算好 feature 的地方)。先算好,上線時就快。

Online feature computation(即時):有些 feature 是 dynamic(常常變),例如廣告的曝光數和點擊數,要在查詢當下算。

📖 原書 Continual learning pipeline

需求說持續學習很關鍵。這條管線負責:在新的訓練資料上 fine-tune 模型、評估新模型、指標變好才部署。確保預測用的永遠是適應最新資料的模型。

原書Prediction pipeline · 兩段式架構

小安滑一下:100 萬則廣告,怎麼在一瞬間挑出 4 則?

這一步要解決的問題不能每一則都跑一次模型,太慢。而且有 dynamic feature,不能事先把答案算好。

你猜猜看:為什麼不前一晚就把每個人的廣告排好(batch prediction)?

動手玩:一步一步走

步驟 0 / 3

📖 原書 Prediction pipeline

  • 輸入查詢的使用者,輸出依點擊機率排好的廣告
  • 有些 feature 是 dynamic,所以不能用 batch prediction(事先算好答案),要用 online prediction:請求一來就當場算
  • 和前幾章一樣用兩段式:先用 candidate generation 把廣告池縮小到一小批;這裡用廣告主給的投放條件,例如目標年齡、性別、國家
  • Ranking:拿到候選,從同一個 feature store 和 online feature computation 取 static 與 dynamic feature,用模型算每一則的點擊機率,排序,輸出最高的幾則
  • Re-ranking:加上額外的邏輯和規則。例如把太像的廣告拿掉,增加多樣性

原書Other Talking Points

面試還有時間,可能會被問到這五件事

Data leakage

📖 原書 排序和推薦系統要避免資料洩漏。白話:訓練時偷看到「考試當下不會知道」的答案。例如用了曝光之後才發生的資訊當 feature。原書參考資料還附了依時間切分資料(拿過去訓練、拿未來考試)。

Calibration

📖 原書 廣告點擊預測的模型需要校正。討論校正是什麼、有哪些做法。第 41 頁的「說到做到」。

FFM

📖 原書 FM 常見的變形 field-aware FM,談它和 FM 的差別。白話:一個 feature 不是只有一張個性卡,而是面對不同「欄位」(例如廣告主、時段)各有一張。

XDeepFM

📖 原書 DeepFM 常見的變形,談它和 DeepFM 的差別(原書參考資料 [10])。

Catastrophic forgetting

📖 原書 持續學習有必要,但一直在新資料上學,可能把舊的能力忘光。談它是什麼、常見解法。

「所以如果我們說後訓練是給人工智慧的大腦動手術 那 Catastrophic Forgetting 就是手術成功了 但是病人卻死了」🎓 李宏毅課堂 生成式人工智慧與機器學習導論 2025 · 第 8 講

到這裡你已經會了小結 5 / 5

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

到這裡你已經會了:上線之後要顧的三件事

16 階全部走完了

接下來是方法的演進(📅 2026 補充),以及 Triton 怎麼看「大量點擊事件」這種 infra。

📅 2026 補充方法怎麼演進 · 只寫有把握的

從「一筆一筆猜」到「讀整串行為」,而且訊號越來越少

原書的很多招,來自同一篇論文

📅 2026 補充 Facebook 2014 年的〈Practical Lessons from Predicting Clicks on Ads at Facebook〉裡就有:GBDT 做 feature 再接 LR、Normalized Entropy(就是原書的 NCE)、資料越新越好、負例降採樣後再校正。原書的方法有很長的脈絡,不是憑空來的。

模型開始讀「整串行為」

📅 2026 補充 原書把「點過的廣告」取平均(第 15 頁)。後來的做法改成讓模型自己決定看哪幾個:2018 年的 DIN 用 attention(開書考試時決定看哪幾頁)挑出跟這則廣告有關的歷史點擊;DCN 也出了 V2(原書參考資料已列)。2024 年起,也有把使用者整串動作當成「一句話」、用類似語言模型的方式訓練的推薦模型(例如 Meta 的 generative recommenders)。

能用的訊號變少了

📅 2026 補充 iOS 從 2021 年起要求 app 先問使用者才能跨 app 追蹤(App Tracking Transparency);Safari、Firefox 預設擋第三方 cookie。廣告主那邊的轉換回報變少、變晚,第 34 頁「等多久才算負例」的 delayed feedback 問題更重要,平台內部的訊號(例如隱藏、停留時間)也更重要。

客座講評Triton 怎麼看這套 infra · 1 / 3

Triton 沒談過點擊預測模型,但他做過「大量點擊事件」的系統

🗣️ 076 的架構方塊HYPEBEAST 處理大量事件的高階設計(方塊名稱照投影片;箭頭是依投影片條列推得的 🔭)

「Event Receiver – 1st tier write buffering – unified interface to receive client-side events – Input validation and verification – Add event details for successive process – Pack multiple events to one SQS Message to save money」「Amazon Firehose and S3 – Store the events for future data mining」「Amazon SQS – 2nd tier of write buffering, providing unlimited queue」🗣️ Triton 本人說 076-mini-bigdata.pdf.md

🔭 依 Triton 原則推論 套到原書 Figure 8.18:「New data & interactions → Data lake → Dataset generation」那一路,就是 076 的 Firehose → S3「留著以後做 data mining」。每一筆曝光、點擊先進兩層 buffer(Event Receiver、SQS),再慢慢處理,前端不用等資料庫。

白話:buffer(緩衝)就是先排隊、再處理;SQS 是 AWS 的排隊服務;S3 是便宜的大型檔案倉庫。

客座講評Triton 怎麼看這套 infra · 2 / 3

一直在變的計數器:先在記憶體加總,再寫回資料庫

Write aggregation(聚合寫入)

「Prerequisite – The Write is clustered, not random i.e. if one record is updated, it is likely to be updated again very soon – If some system component crash, some data loss can be tolerated」「Benefits – Reduce database write operation – Database Write is indepentent of traffic」🗣️ Triton 本人說 076-mini-bigdata.pdf.md

🔭 推論 原書的 dynamic feature(這則廣告的曝光、點擊數)就是一直被寫的計數器。熱門廣告一直被點,寫入很集中,符合第一個前提。

可是「可以掉一點」不是到處都成立

你猜猜看:同一筆點擊,拿去「收廣告主的錢」,也可以掉幾筆沒關係嗎?

「Performance is MUCH more important then data freshness」🗣️ 076-mini-bigdata.pdf.md(Suggestion Feed Performance)

🔭 推論 這和原書「晚 5 分鐘都不行」看起來相反,其實是在不同地方取捨:模型要一直更新,但上線排名時讀到的 feature 可以是幾分鐘前算好、放在 cache 的版本。

動手玩:使用者興趣分數的「自然衰減」

「Natural decay is used, due to simplicity」「No “optimum” half-life, thus we store values of multiple half-life」🗣️ 076-mini-bigdata.pdf.md

🔭 這就是原書「歷史互動統計」可以怎麼做:同一個興趣,存三種半衰期,讓模型自己挑。

客座講評Triton 怎麼看這套 infra · 3 / 3

每天幾億筆曝光的訓練資料,要放哪?先算有多大

「資料量不夠大 (<100GB) 就乖乖回去用 RDBMS 就好啦」🗣️ Triton 本人說 054-data-analysis.pdf.md

「OLAP 常常 write-once only – Columnar storage 的 multiple Random IO 不是問題 – Columnar storage 更能有效 compression」「OLAP 常常用大量的 rows 但是只用一小部份 columns」🗣️ 054-data-analysis.pdf.md

「如果你的 schema錯亂/有人下了笨 Query 你的帳單會是天價!!!」🗣️ 054-data-analysis.pdf.md(談 BigQuery/Athena 這類按用量收費的服務)

「parquet配athena可以有超高報表類效能的 但是,其應用有點「劍走偏鋒」 高度吃ETL層整理資料能力」💬 討論串回覆,作者未標示 085-pure read-only的應用.md

「Apache Parquet 會省下很多 IO」📝 上課筆記(Roy),非 Triton 原文 058-…_columnar_storage_mini-talk.pdf.md

動手玩:你的曝光紀錄一年有多大?

—總大小(每筆約 200 bytes,示意)—粗估判斷

🔭 依 Triton 原則推論 原書的訓練資料是 write-once(曝光發生了就不會改)、訓練時讀很多筆但只用部分欄位:正是 054 說的 OLAP 情境,適合 columnar(例如 Parquet)。但 054 的第一句更重要:先算 N。小平台可能根本不到 100GB。

回顧一句話記住

廣告點擊預測其實就是:把人和廣告變成數字,猜一個說到做到的機率,排名次,然後一直重學。

  1. 點擊率
  2. 是或否
  3. 特徵
  4. 打勾表
  5. 置物櫃
  6. 座標
  7. 壓成 0–1
  8. 組合特徵
  9. 問答樹
  10. 兩兩配對
  11. 少數派
  12. 驚訝分數
  13. 跟瞎猜比
  14. 排隊比賽
  15. 說到做到
  16. 一直在變

題目

最大化收入 → 每一對 ⟨使用者, 廣告⟩ 做一次是或否,用點擊機率排序。

變成數字

打勾表、分格、座標;接起來又長又空,所以模型要吃得下 sparse 的輸入。

選模型

關鍵是「組合」:LR 當 baseline,再實驗會自動配對的 DCN、DeepFM。

考試與上線

CE、NCE、AUC 考排名;校正讓機率說到做到;continual learning 跟上新廣告。

小安滑一下,四則廣告排好了。然後呢?然後就結束了。下一秒,再來一次。

本章名詞小卡課後複習用 · 每個名詞一句白話

今天出現的名詞,一句話講完

impression廣告被看到一次(曝光)
CTR點擊 ÷ 曝光,點擊率
conversion點進去後真的完成某件事(例如下單)
binary classification答案只有兩類的題目,輸出「是」的機率
pointwise LTR一則一則算分數,再排名次
label標準答案:這筆最後有沒有點
feature描述一個東西的一個數字
one-hot只有一格是 1 的打勾表
bucketize數字先分組再打勾
hashing trick用固定規則把很多種 ID 分進固定數量的格子
embedding把 ID 換成一組短短的數字,像地圖座標
sparse又長又空、幾乎全是 0 的輸入

給工程師的重點出處與標籤

本章引用的來源

📖 原書段落 → 本簡報頁碼

Machine Learning System Design Interview · Ad Click Prediction on Social Platforms。Introduction、Fig 8.1(5)|Clarifying Requirements(6–7)|Frame as ML task、Fig 8.2–8.3(9)|Data engineering、Table 8.1–8.3(12)|Ad features、Fig 8.4(16)|User features、Fig 8.5(17)|high cardinality(18)|LR(21)|Feature crossing + LR、Fig 8.6–8.7(23)|GBDT、GBDT + LR(25)、Fig 8.8–8.9(26)|NN、Fig 8.10–8.11(28)|DCN、Fig 8.12(29)|FM、Fig 8.13(30)|DeepFM、Fig 8.14、模型選擇(31)|Constructing the dataset、Fig 8.15、Loss(34)|CE、Fig 8.16(36)|NCE、Fig 8.17(38)|Online metrics(42)|Serving、Fig 8.18(44)|Data preparation/Continual learning pipeline(45)|Prediction pipeline(46)|Other talking points(47)。18 張圖依原書圖說與描述重繪,不是原圖;本章原書沒有章末心智圖。

🗣️ Triton(materials/core)

  • 076-mini-bigdata.pdf.md:Event Receiver、Firehose→S3、SQS 兩層 buffering、write aggregation 前提、performance > freshness、自然衰減(50–51)
  • 054-data-analysis.pdf.md:<100GB 用 RDBMS、OLAP write-once、按用量收費的風險(52)
  • 085:無署名,標 💬;058:Roy 的上課筆記,標 📝

🎓 李宏毅課堂(逐字稿)

  • 生成式人工智慧與機器學習導論 2025:第 3 講(ID → embedding、dot product)、第 5 講(Feature、直線)、第 6 講(信心分數、cross-entropy、訓練 CE/測試 Accuracy)、第 8 講(Catastrophic Forgetting)
  • 生成式AI時代下的機器學習 2025:第六講(continual learning)、第九講(sigmoid)
  • 來源 .claude/skills/hung-yi-lee(受李宏毅教學風格啟發,非本人)

延伸基礎(16 階)

地圖 3|小結 10、19、32、39、48|小卡 54|CTR 4、是或否 8、feature 11、one-hot 13、hashing 14、embedding 15、LR 20、crossing 22、GBDT 24、FM 27、imbalance 33、CE 35、NCE 37、AUC 40、calibration 41、continual 43。hashing、AUC、負例降採樣與校正做法是補充,不是原書內文。

📅 2026 補充的依據

  • He et al.〈Practical Lessons from Predicting Clicks on Ads at Facebook〉ADKDD 2014
  • DIN(2018)、DCN V2(2020,原書參考資料)、generative recommenders(ICML 2024)
  • Apple ATT(iOS 14.5,2021);Safari、Firefox 預設擋第三方 cookie
← → 翻頁 · S 講者備註 · D 深/淺色
1 / 1目錄