內容已複查
40 分鐘 · 4 張概念卡 · 1 題對應考古題

把聯合機率表搬到新座標

題面來自台大官方試卷;解答與逐項自評標準(rubric)為本站技術覆核的非官方內容,申論與推導一律採自評。

第一次接觸也沒關係

這堂先懂這些詞

先記住白話意思,不必急著背英文。看到正文時,再把正式名稱接回來。

聯合機率質量函數

也會看到:joint PMF、joint probability mass function、p(X=x,Y=y)

聯合 PMF 列出兩個離散變數每一組可能配對的機率;PMF 逐字母讀作「P-M-F」,p(X=x,Y=y) 讀作「X 等於 x 且 Y 等於 y 的機率」。

生活例子:
同時記錄擲兩顆骰子的點數,表格每一格就是某一對點數一起出現的機率。
別搞混:
聯合 PMF 用於可逐項列舉的離散結果;連續資料要談密度,單一點的機率通常為 0。

可能值集合

也會看到:support、sample support、possible-value set

support 是隨機變數真正可能取到且需要納入計算的所有值或座標集合。

生活例子:
一顆六面骰子的 support 是 1 到 6,不包含 0 或 7。
別搞混:
support 不是目前樣本中剛好看見的值,而是模型允許出現的完整可能範圍。

正規化常數

也會看到:normalizing constant、normalization constant、c、1/c

正規化常數是把原始權重換成總和為 1 的機率所需的縮放數;c 讀作英文字母「c」,題目可能用除以 c 或乘上 c,須依公式判讀。

生活例子:
籃子裡各色票共有 12 張,每色張數除以 12 後才是抽到該色的機率。
別搞混:
若權重總和為 12,以「權重/c」表示時 c=12,以「c×權重」表示時則 c=1/12,不能只背固定答案。

映射、像點與原像

也會看到:mapping、image、preimage、transformation、Y=g(X)

映射是依規則把舊值換成新值,像點是換完後的位置,原像則是所有會被換到該位置的舊值;Y=g(X) 讀作「Y 等於 g 作用在 X」。

生活例子:
把不同郵遞區號分到同一行政區時,行政區是像點,所有屬於它的郵遞區號是原像。
別搞混:
多個舊值可映到同一新值,此時新值的機率要把所有原像機率相加。

邊際機率質量函數

也會看到:marginal PMF、marginal distribution、marginalization、邊際化、Σy p(x,y)

邊際 PMF 是只關心其中一個變數時,把另一個變數所有可能值的聯合機率加總;Σy p(x,y) 讀作「對所有 y,把 p(x,y) 加總」。

生活例子:
表格同時記錄時段與商品,若只想知道各商品總銷量,就把每個商品跨所有時段的格子加起來。
別搞混:
加總時要固定想保留的變數並消去另一維,方向弄反會得到不同邊際分配。

逐項自評標準

也會看到:rubric、評分規準

把完整推導拆成可以逐步核對的要點,幫你找到漏掉的條件或計算步驟。

生活例子:
像算完帳後依序檢查金額、單位、公式與最後結論。
別搞混:
它不是官方配分,也不會把合理但不同的推導方式判成錯誤。

用 115-3 練習正規化、離散變數轉換、合併重複像點與邊際化。

先抓住這幾件事

  • 從聯合機率表讀出 joint、marginal、conditional PMF
  • 由 support 權重求正規化常數 c 使總機率為 1
  • 逐點完成離散變數轉換,正確處理多對一映射(合併 preimage)
  • 由聯合 PMF 加總出邊際 PMF,並計算條件 PMF

先想像這個場景

抽獎券換籃子

每個舊格放著不同張數的抽獎券,新規則會把它們搬到標有 Y1、Y2 的籃子。

先別急著套公式,花十秒想一想:

兩個舊格搬到同一個新籃子時,機率應如何處理?

把故事換成統計語言

生活中的角色對應到統計概念
舊格子的票數未正規化權重
全部票數normalizing constant c
依新標籤搬票變數轉換 mapping
同籃票數相加preimage probabilities sum

題目出現這些字,先想到

  • joint PMF
  • support
  • normalizing constant
  • marginal

1.聯合 PMF:兩變數同時取值的機率表

聯合機率質量函數 (Joint PMF) p(x,y) = P(X=x, Y=y) 描述兩個離散隨機變數同時取某組值的機率。把所有 (x,y) 組合的機率列成表格,就是聯合機率表。表中所有格子的機率總和必為 1。 邊際 PMF (Marginal PMF) 是從聯合表中「壓縮」掉一個維度:p_X(x) = Σ_y p(x,y),也就是把 X=x 那一列(或一行)的所有機率加起來。直覺上,這就是「不管 Y 取什麼值,X=x 的整體機率是多少」。 條件 PMF 則是「在已知 Y=y 的前提下,X 的分佈」:P(X=x|Y=y) = p(x,y)/p_Y(y)。分母是 Y=y 的邊際機率。 【範例】班級程式能力 X∈{0,1,2} 和統計能力 Y∈{0,1}: Y=0 Y=1 p_X(x) X=0 0.10 0.20 0.30 X=1 0.15 0.25 0.40 X=2 0.20 0.10 0.30 p_Y(y) 0.45 0.55 1.00 讀表:P(X=1,Y=1)=0.25(聯合);P(X=1)=0.15+0.25=0.40(邊際);P(X=1|Y=1)=0.25/0.55≈0.4545(條件)。 考試陷阱:邊際是加總(不管另一變數),條件是除法(固定另一變數)。看到「given Y=1」就是條件;看到「不論 Y 為何」就是邊際。

  • Joint PMF: p(x,y) = P(X=x, Y=y),所有 (x,y) 的機率加總 = 1
  • Marginal PMF: p_X(x) = Σ_y p(x,y),把不關心的變數「加總掉」
  • Conditional PMF: P(X=x|Y=y) = p(x,y)/p_Y(y),分母是邊際不是聯合
  • 獨立性判定:X⊥Y 若且唯若 p(x,y) = p_X(x)·p_Y(y) 對所有 (x,y) 成立
  • 表格最後一行/一列就是邊際 PMF,可以用來快速驗算

2.正規化:讓權重變成機率

有時題目不直接給機率,而是給「權重」或「未正規化的 PMF」,例如 f(x,y) = c·g(x,y),要求先找 c 使得所有格子加總為 1。 方法很直接:Σ_x Σ_y g(x,y) = S(先加總所有權重),然後 c = 1/S。每格的機率就是 g(x,y)/S。 【範例】某二維分佈的權重為: Y=0 Y=1 X=0 2 3 X=1 4 1 X=2 1 1 總權重 S = 2+3+4+1+1+1 = 12,所以 c = 1/12。 P(X=0,Y=0) = 2/12 = 1/6 P(X=1,Y=0) = 4/12 = 1/3 驗算:所有格子 = (2+3+4+1+1+1)/12 = 12/12 = 1 ✓ 考試陷阱:有些題目的 support(X 和 Y 可能的取值範圍)不明顯,需要先確認 g(x,y)>0 的範圍。support 外的點機率為 0,不要列入計算。如果 g(x,y) 是公式而非表格(例如 g(x,y)=x+y),要先列出所有 (x,y) 點,才不會漏。

  • 正規化:c = 1/Σ_all g(x,y),使得 Σ c·g(x,y) = 1
  • support 外的點機率 = 0,只對 g(x,y)>0 的 (x,y) 加總
  • 如果 g 是公式,先列出所有合法 (x,y) 組合再加總
  • 正規化後立刻驗算總和是否為 1,避免算錯帶到後面
  • 正規化常數 c 通常是一個分數(如 1/12),不是整數

3.離散變數轉換:逐點映射與合併

離散變數轉換是把 (X,Y) 透過函數 (Y1,Y2)=(g1(X,Y), g2(X,Y)) 映射到新座標。步驟: 第一步:對每個原始 support 點 (x,y),算出對應的 (y1,y2) = (g1(x,y), g2(x,y))。 第二步:如果兩個不同的 (x,y) 映射到同一個 (y1,y2)(多對一),把它們的機率相加。這叫做「合併 preimage」。 第三步:寫出新的 Joint PMF p_{Y1,Y2}(y1,y2)。 【範例】X∈{1,2,3}, Y∈{0,1},定義 Y1=X+Y, Y2=X-Y。 原始 (X,Y) → (Y1,Y2): (1,0) → (1,1) 機率 a (1,1) → (2,0) 機率 b (2,0) → (2,2) 機率 c (2,1) → (3,1) 機率 d (3,0) → (3,3) 機率 e (3,1) → (4,2) 機率 f 這個例子中每個 (y1,y2) 都只有一個 preimage,所以機率直接搬過去。但如果 (1,1) 和 (2,0) 都映到同一個 (y1,y2),就要把 b 和 c 加起來。 考試陷阱:最常犯的錯是漏掉某個 preimage 點。建議用表格列出所有 (x,y) 對應的 (y1,y2),不要跳步。

  • 步驟:列所有 (x,y) → 算 (y1,y2) → 合併同一個 (y1,y2) 的機率
  • 多對一映射:不同 (x,y) 映到同一 (y1,y2) 時機率要相加
  • 一對一映射:每個新點只有一個 preimage,機率直接搬
  • 轉換後的新 PMF 總和仍然 = 1(只是重新分配,總量不變)
  • 用表格逐點列出映射關係,比在腦中算安全得多

4.邊際化與獨立性檢驗

拿到新的 Joint PMF p_{Y1,Y2}(y1,y2) 後,常見的後續操作是: (1) 求邊際:p_{Y1}(y1) = Σ_{y2} p_{Y1,Y2}(y1,y2)。把 Y2 加總掉,得到 Y1 單獨的分佈。 (2) 檢驗獨立性:如果對每一組 (y1,y2),p(y1,y2) = p_{Y1}(y1)·p_{Y2}(y2) 都成立,則 Y1⊥Y2。只要找到一組不等,就是不獨立。 【範例】延續上面的表: Y2=0 Y2=1 Y2=2 Y2=3 p_{Y1} Y1=1 0 a 0 0 a Y1=2 b 0 c 0 b+c Y1=3 0 d 0 e d+e Y1=4 0 0 f 0 f p_{Y2} b a+d c+f e 1 檢驗:p(Y1=1,Y2=1) = a,p_{Y1}(1)·p_{Y2}(1) = a·(a+d)。 只有 d=0 時才相等。如果 d≠0,Y1 和 Y2 不獨立。 考試技巧:不需要驗每一格。找最容易算的格子(最好有 0 的),如果 p(y1,y2)=0 但 p_{Y1}(y1)>0 且 p_{Y2}(y2)>0,立刻判定不獨立。一個反例就夠了。 最後檢查:邊際 PMF 的總和必須是 1。如果加起來不是 1,代表前面某步算錯了。

  • 邊際化:固定 Y1,對 Y2 的所有可能值加總(反之亦然)
  • 獨立性:需要對所有 (y1,y2) 都成立 p(y1,y2)=p_{Y1}(y1)·p_{Y2}(y2)
  • 快速反證:找一格 p(y1,y2)=0 但兩個邊際都 >0 → 不獨立
  • 邊際 PMF 的總和必為 1,可當作最終驗算
  • 條件分佈 P(Y1|Y2=y2) = p(y1,y2)/p_{Y2}(y2),分母是邊際機率

一起拆計算

範例 1Joint 權重表(6 個 support 點):(1,1)→2, (1,2)→1, (2,1)→3, (2,2)→4, (3,1)→1, (3,2)→1。求正規化常數、P(X=2)、P(X=2|Y=1)。

  1. 總權重 S = 2+1+3+4+1+1 = 12,c = 1/12
  2. 正規化:P(1,1)=2/12, P(1,2)=1/12, P(2,1)=3/12, P(2,2)=4/12, P(3,1)=1/12, P(3,2)=1/12
  3. P(X=2) = P(2,1)+P(2,2) = 3/12+4/12 = 7/12(邊際:加總 Y)
  4. P(Y=1) = P(1,1)+P(2,1)+P(3,1) = 2/12+3/12+1/12 = 6/12 = 1/2
  5. P(X=2|Y=1) = P(2,1)/P(Y=1) = (3/12)/(1/2) = (1/4)/(1/2) = 1/2

所以答案是:c=1/12, P(X=2)=7/12, P(X=2|Y=1)=1/2

範例 2定義 Y1=X+Y, Y2=XY。原始 support:(1,0), (1,1), (2,0), (2,1),各機率 1/4。寫出 Y1,Y2 的 Joint PMF。

  1. (1,0)→(Y1=1,Y2=0), p=1/4
  2. (1,1)→(Y1=2,Y2=1), p=1/4
  3. (2,0)→(Y1=2,Y2=0), p=1/4
  4. (2,1)→(Y1=3,Y2=2), p=1/4
  5. Y1=2 有兩個 preimage 但映到不同 Y2(Y2=1 和 Y2=0),所以不需合併
  6. Joint PMF: p(1,0)=1/4, p(2,0)=1/4, p(2,1)=1/4, p(3,2)=1/4

所以答案是:4 個 support 點各 1/4,無合併發生

這裡最容易算錯

  • 漏列 support 點:先完整列出所有 (x,y) 再做轉換
  • 多對一時忘記合併機率:同一個 (y1,y2) 出現兩次要加總
  • 邊際化時加錯維度:固定 X 就對 Y 加總,不是反過來
  • 搞混邊際和條件:邊際是加總(Σ),條件是除法(÷ 邊際機率)
  • 正規化後忘記驗算總和 = 1

換你快速判斷

先口述定義、條件與下一步,再展開答案;公式不是取代條件檢查的捷徑。

1未正規化權重如何變成 PMF?

每個權重除以權重總和

最後總機率必須為 1。

2由 joint PMF 求 Y1 marginal?

固定 Y1,對所有 Y2 加總

加總方向由要保留的變數決定。

3多個舊點映到同一新點時?

把所有 preimage 的機率相加

不能只保留其中一點。

4離散轉換完成後最基本檢查?

新 support 的機率總和為 1

也要確認沒有遺漏舊 support。

最後用考古題自評

請先在紙上完成推導,再依非官方解析與逐項自評標準檢查;本流程不產生虛假的 A–E 分數。

開始本課考古題自評

參考來源