AI 安全與 CTF 影音資源
AI 安全與 CTF 影音資源
這份清單適合做什麼
這份整理適合用來補：
- AI 安全基本觀念
- LLM 與提示詞安全
- CTF 實作與 Python 自動化
特別適合 ICOA 備賽時當作快速補充資源表。
1. AI 安全觀念與對抗攻擊
台大李宏毅教授 - Adversarial Attack（對抗性攻擊）
| 項目 | 內容 |
|---|---|
| 連結 | https://www.youtube.com/watch?v=NI7beX_T58M |
| 語言 | 中文 |
| 重點 | 解釋如何透過 FGSM 等方法生成對抗樣本，讓影像辨識模型誤判 |
| 建議用途 | 適合學生快速建立 Adversarial ML 的核心概念 |
CISPA: Trustworthy Machine Learning
| 項目 | 內容 |
|---|---|
| 連結 | https://www.youtube.com/@TrustworthyML |
| 語言 | 英文 |
| 重點 | 聚焦 Trustworthy ML、機器學習攻擊與防禦 |
| 建議影片方向 | 可優先找 Attacks against Machine Learning、Model Stealing 相關影片 |
| 建議用途 | 適合進一步補模型竊取、攻擊面與研究脈絡 |
2. LLM 與提示詞安全
ISC2 - AI for Cybersecurity
| 項目 | 內容 |
|---|---|
| 連結 | https://www.isc2.org/Insights/AI-Resources |
| 語言 | 英文 |
| 重點 | 從資安角度快速建立 AI 全局觀，理解 AI 如何被攻擊與防禦 |
| 建議用途 | 適合老師或學生在短時間內補整體概念 |
OWASP Top 10 for LLM
| 項目 | 內容 |
|---|---|
| 連結 | https://llmtop10.com/ |
| 語言 | 英文為主 |
| 重點 | 整理大型語言模型常見風險與漏洞類型 |
| 建議影片方向 | 可優先看 OWASP Top 10 for LLM Applications Explained |
| 建議用途 | 比賽前熟悉 Prompt Injection、Data Poisoning、Insecure Output Handling 等高頻概念 |
3. CTF 實作與腳本編寫
John Hammond
| 項目 | 內容 |
|---|---|
| 連結 | https://www.youtube.com/@JohnHammond010 |
| 語言 | 英文 |
| 重點 | 資安實戰、CTF 解題、自動化腳本、工具操作 |
| 搜尋建議 | John Hammond LLM Prompt Injection、John Hammond picoCTF |
| 建議用途 | 觀察如何用 Python 快速寫解題腳本與自動化流程 |
AIS3
| 項目 | 內容 |
|---|---|
| 連結 | https://www.youtube.com/@ais3_tw |
| 語言 | 中文 |
| 重點 | 台灣資安教育與培訓相關講座、課程與錄影 |
| 搜尋建議 | Web 安全、Python 資安應用 |
| 建議用途 | 適合台灣學生以中文補 CTF 與資安實作觀念 |
快速建議
| 如果你現在要補 | 先看什麼 |
|---|---|
| Adversarial ML | 李宏毅教授、CISPA Trustworthy ML |
| LLM 安全 | OWASP Top 10 for LLM、ISC2 AI for Cybersecurity |
| Python 與 CTF 實作 | John Hammond、AIS3 |
讀法建議
- 先用中文資源建立觀念，例如李宏毅教授與 AIS3。
- 再用英文資源補正式術語與更完整的案例。
- 觀看影片時不要只看，最好同步整理：
- 這支影片在講什麼攻擊面
- 這和 ICOA 哪一類題型有關
- 有沒有能直接變成筆記或模板的內容
