臺大 AI Safety 讀書會- AI ALIGNMENT WORKSHOP
國立臺灣大學 資訊網路與多媒體研究所
Hi 大家好，我們是 臺大 AI Safety 讀書會，由來自臺大學生與校友們創辦，今年年初有在板上宣傳且有不少同學踴躍參與，可惜的是讀書會並沒有辦法容納那麼多的同學。所以經過討論後，決定在今年暑假舉辦兩個梯次的 AI Alignment Workshop，日期分別在 8/2-3 與 8/16-17，歡迎各位同學踴躍參與。
以下是我們這次活動的介紹。
---
台灣首次系統性 AI ALIGNMENT WORKSHOP 來了！
你知道嗎？當國際間越來越重視 AI 安全性研究時，台灣在這塊領域還相對空白。AI Safety Taiwan 決定改變這個現況。
課程內容：ARENA 3.0
ARENA (Alignment Research Engineer Accelerator) 是國外已驗證有效的 AI 安全性技術課程。這次我們引進台灣，讓大家能系統性地學習 AI Alignment 相關技術。
兩天你會學到：
Day 1: AI Safety基礎與機制解釋性
- AI Alignment 重要性與當前挑戰
- Transformer 架構深度理解
- Sparse Autoencoders (SAE) 解釋性技術實作
- Mechanistic Interpretability 分析
Day 2: 強化學習與模型評估
- 人類反饋強化學習 (RLHF) 原理與實作
- LLM 評估方法論
- Inspect 評估框架應用
師資與 TAs 陣容
主講：劉禹彤 (Tik Tok Software Engineer)、呂栢頤 (網媒博四)、劉祖丞 (Travo AI Lead)
TAs：張嘉泰 (資訊二)、蔡侑宸 (數學四)、胡皓雍 (電信碩零)、蔡鎮宇 (Junyi Academy Data Team Lead)
活動資訊
時間：第一梯次 8/2-3、第二梯次 8/16-17 (週末)，10:00--18:00
地點：台大德田館 R309
人數：每梯次 25 人
費用：免費 (感謝 Open Philanthropy 贊助)，並提供免費的午餐 & 下午茶
適合誰參加？
- 有 Python 程式設計經驗
- 對深度學習有基本認識
- 能完整參與兩天課程
- 對 AI 安全性有學習動機
主要歡迎：大學生 (資訊/電機/數學/物理)、碩士生、對AI有興趣的高中生或工作人士
實際期待
兩天無法讓你成為專家，但能夠：
- 建立對 AI Alignment 領域的系統性認知
- 掌握基礎的機制解釋性分析工具，理解 RLHF 在 AI 對齊中的作用
- 獲得後續深入學習的明確方向
報名方式
官網：報名表：這是很好的入門機會，建議有興趣的同學儘早申請
如果你身邊有對 AI 安全性感興趣的朋友，歡迎標記他們或分享這篇貼文！
主辦：AI Safety Taiwan (EA Taiwan)
協辦：NTU AI Safety 讀書會
#AISafety #AIAlignment #MachineLearning #Taiwan #ARENA
