內容已複查
約 25 分鐘 · 4 張概念卡 · 2 題對應考古題

生成式 AI 與治理：從 GPT/RAG 題型到風險責任

本頁為依教材與考古題整理的原創摘要；考古題答案經技術覆核，但不是官方答案。

考古題證據邊界： im-it-ai-ethics-governance 沒有 direct primary past-paper refs，屬 foundational coverage；對應 cards 不掛考古 refs。RAG 只保留 q-pp-im-it-115-30 直接支持的「生成前查詢外部權威知識庫」層次。

第一次接觸也沒關係

這堂先懂這些詞

先記住白話意思，不必急著背英文。看到正文時，再把正式名稱接回來。

生成式 AI 風險治理

也會看到：AI RMF、bias、privacy、accountability、GenAI Profile

用明確責任與持續風險流程，管理生成錯誤、偏誤、隱私與使用影響。

生活例子：
像出版社不因文章流暢就直接刊登，仍要查證、審稿、標示責任並處理更正。
別搞混：
加上 RAG 或人工抽查能降低部分風險，但都不能保證輸出永遠正確。

注意力機制與 Transformer

也會看到：attention、self-attention、Transformer、注意力機制

attention 讓模型依當下任務衡量不同內容的重要性，Transformer 以此處理序列關係。

生活例子：
讀代名詞「他」時，回頭特別注意前文可能指的是誰。
別搞混：
attention 不是模型具有人的專注或理解；Transformer 也不只用於文字。

AI 幻覺

也會看到：hallucination、confabulation、生成錯誤

生成模型說出語句通順但沒有可靠根據或事實錯誤的內容。

生活例子：
像同學忘記資料卻講得很肯定，甚至編出不存在的書名。
別搞混：
幻覺不是模型真的看見東西，也不能只靠更有自信的語氣判斷。

大型語言模型與 token

也會看到：LLM、Large Language Model、token、GPT、大型語言模型

LLM 從大量 token 序列學習下一個 token 的機率，token 是模型切分文字的基本單位。

生活例子：
像根據前文玩的超大型接龍，但每一步選的是文字片段而非必然完整單字。
別搞混：
token 不等於一個中文字或一個英文單字；流暢輸出也不保證事實正確。

檢索增強生成

也會看到：RAG、Retrieval-Augmented Generation、retrieval、檢索增強生成

先從外部資料找相關內容，再把找到的內容交給生成模型回答。

生活例子：
像先翻課本找頁碼，再根據那些段落整理答案。
別搞混：
RAG 不會自動保證正確；檢索錯、資料舊或模型誤讀仍會出錯。

先掌握考題直接要求的 GPT 展開與 RAG 定義，再以 NIST AI RMF 與 GenAI Profile 區分 confabulation、bias、privacy 與 accountability，不把檢索或流暢文字當成正確保證。

先抓住這幾件事

  • 正確展開 GPT
  • 說明考題中 RAG 在生成前加入外部知識檢索
  • 區分 confabulation 與系統性 bias
  • 以 NIST AI RMF 理解風險治理與 accountability

先想像這個場景

校園知識助手上線審查

學校的生成式助手會回答校規。團隊讓它回答前先查詢校規庫，但仍要檢查檢索到的版本、回答是否有根據，以及誰對高風險決定負責。

先別急著往下看，花十秒想一想：

助手接上外部知識庫後，是否就能保證每次檢索、生成與決定都正確而公平？

把故事換成電腦語言

生活中的角色對應到技術概念
助手在幾個字後根據 context 繼續寫下去Generative language model produces likely continuations
回答前先從校規庫找相關段落RAG adds external retrieval before generation
找到過期文件或根本沒根據卻寫得流暢Retrieval failure or confabulation risk
對某些群體持續產生不利偏差Systematic bias and fairness risk
指定負責人、留下記錄並允許人工介入Governance, accountability and human oversight

題目出現這些字，先想到

  • GPT 是 Generative Pre-trained Transformer。
  • RAG 在生成前參考外部知識庫，不是 pruning、隨機回答或純 RLHF。
  • 流暢不等於有根據；confabulation 與 poor retrieval 是不同故障點。
  • AI 治理要連結情境、風險、監測、責任與人工介入。

1.GPT 與生成

GPT 展開為 Generative Pre-trained Transformer。Language model 根據 context 生成後續 tokens；可讀性不能單獨證明 factual correctness。

  • Generative 指生成輸出
  • Pre-trained 指先在大量資料學習
  • Transformer 是所採架構家族

2.RAG 只加入檢索 context

考題中 RAG 指在生成前查詢模型訓練資料外的權威知識庫，再把相關內容放入 context。

  • RAG 不是模型 pruning
  • RAG 不是只靠 RLHF 訓練
  • 過期或不相關檢索結果仍會導致錯誤

3.生成式 AI 風險需分類

NIST GenAI Profile 將 generative AI 放進風險管理。本課區分無根據內容、系統性偏差、privacy 與 security 風險，不用單一 accuracy 代替全部評估。

  • Confabulation 是缺乏根據或錯誤內容
  • Bias 可在資料、模型或部署情境產生
  • Privacy 與 security 需獨立風險處理

4.治理是持續的風險責任

NIST AI RMF 用於將 trustworthiness 考量納入 AI 設計、開發、使用與評估。高風險用途要有明確 owner、monitoring、audit trail、escalation 與 human oversight。

  • Framework 不是自動合規證書
  • 風險要依情境與影響評估
  • 人工介入要有可執行流程，不是口號

一起拆題目

範例 1：題目問「生成前參考外部權威知識庫」是什麼？

  1. 先找 external retrieval。
  2. 檢索結果被放入 generation context。
  3. 不是 pruning 或純 RLHF。

所以答案是：這是 Retrieval-Augmented Generation (RAG)。

範例 2：助手檢索到過期校規並生成流暢回答。要如何分層處理？

  1. 先標記 retrieval freshness 故障。
  2. 再檢查 generation 是否有根據。
  3. 以版本篩選、引用、監測與高風險人工介入降低影響。

所以答案是：RAG 不能保證正確；要同時管理 retrieval、generation 與部署責任。

這裡最容易選錯

  • 把 GPT 展開成其他詞組
  • 把 RAG 誤當成修改模型參數
  • 認為外部知識庫保證回答正確
  • 把 confabulation 與 bias 當同一風險
  • 把 AI RMF 當成自動合規或零風險保證

換你快速判斷

先在心中作答，再展開答案。答不出來時，回頭找本課的對照關係。

1GPT 的全名是什麼？

Generative Pre-trained Transformer。

選項若都不是此完整名稱，應選 none of the above。

2RAG 在生成前增加什麼步驟？

先從外部 knowledge base 檢索相關內容，再把結果放入 generation context。

RAG 不等於修改模型參數，也不保證檢索或生成正確。

3Confabulation 與 bias 有何差異？

Confabulation 是產生缺乏依據或錯誤內容；bias 是系統性地對某些模式或群體產生偏差。

兩者可同時發生，但需不同 evaluation；目前沒有 direct primary ref。

4高風險 AI 為何需要 accountability？

必須明確指定資料、模型、部署與決策的責任人，保留 audit trail、escalation 與人工介入。

NIST AI RMF 與 GenAI Profile 提供風險管理邊界；本 subtopic 目前沒有 direct primary ref。

最後用考古題驗證

本課連結的題目都已通過可重現的技術覆核，可逐題練習與判分。

開始本課考古題練習

參考來源