交大修課心得-113-2

背景：NYCU CS 大四

都2026了還在寫2025上半年心得文，不過，有始有終，把這段旅程做個總結吧！
其實也沒修什麼重要的課，稍微寫寫四年的流水帳和心得。

選修

邊緣人工智慧

教授：吳凱強/學分：3

我還是把這堂課叫做ML System (DL System)吧，老師自己也說了是為了吸引學生修課才叫這個名子，但其實這門課並不是教硬體上的應用，而是如何「加速」AI System，在國外這種課大多都叫ML Systems之類的，大致來說就是教怎麼加速AI模型的training和inferencing，這真的是AI時代下最重要的一堂課了，現在AI或者說LLM已經脫離學術，在實務上漸漸變得重要，再產品化之前，如何讓模型能夠降低成本、加強服務速度變成是很重要的問題。這堂課前期主要講ChatGPT出現以前比較常出現的加速作法：Pruning, Quantization，主要用在ConvNet比較多，主要是減少模型參數達到加速效果，還有講在矩陣乘法上如何加速，但沒有講很深入的parallel programming，作業上也是稍微體驗了一下triton，大部分的課程比較偏概論，不會到很深入。課程後期就講比較多LLM加速的部分，因為目前基礎架構都是transformers，很多優化都是為了attention去設計，包含flash attention, page attention, kv cache和LoRA之類的，其實這些也是這一兩年才火起來的技術，LLM真的發展地很快啊，課程最後的project還讓大家比賽llm加速，當時我才認識了sglang, vllm這些加速引擎，大為震驚，我之前一直很喜歡工程和算法的結合，但大多AI research還是以算法為重，這些MLsys的框架在工程和算法上是同時evolve的，我非常有興趣，這堂課算成功把我引進門了，之後碩班想多探索這樣的題目，總而言之，這堂課，從夯到拉，我給到直接夯。

其他

霸權興衰史

教授：忘了/學分：2

寫這個的時候我E3登不進去了，懶得查了。我記得這堂課很涼，上課可以做自己的事，但分數沒到很甜，人上人吧。

游泳

教授：忘了/學分：0

早八游泳直接拉完了，我翹了好幾次，幸好他沒檔我。

畢業撒花

時間過得不算快但又不算慢，可能代表我過得很充實吧。發了頂會paper、交了女朋友（已分）、做了很有趣的研究、學習很多知識和技術、在最後一刻總算是找到實習，雖然不是真的完美，但以我大一的角度看現在的自己，大概會覺得很厲害。
以下擷取ig

整個四年感覺一直在追求的道路上
我覺得大學很適合清楚自己要做什麼的人
能夠一直埋頭去做自己喜歡的事情是很開心的事
回想大一時候的自己，雖然沒有達成當時的所有目標
但對當時的我來說，是個很大的achievement
不過有趣的就在於，小時候會覺得完成目標是一個突然outcome的結果，會突然變得很開心很快樂
但現在才知道，完成一個目標是是緩慢且確定的結果，是有gradient的，在達到之前是感覺得到「應該完成了」的感覺，達到的時候不太有極樂的心情，因為心中已經有下一個目標。
一山還有一山更高，雖然是個追求不完的感覺，但其實有個目標並埋頭苦幹是件很快樂的事吧，Stay hungry stay foolish並不是說要謙卑地去追求技術與知識，而是享受當下那個渴望技術和知識的過程。

四年雖然不是很多事都完美，但更加認識了自己
回首大一目標確立向上的自己，我覺得確實可以說「嗯 你做得還不錯！」
也許未來有一天，我可能會失去初衷、因為巨大的困難而失去熱情
但不要忘記那個想到一個絕妙點子的當下、寫程式解決問題的快感，可以讓人眼睛為之一亮的想法，一勞永逸解決難題，雖然現實中大概沒有什麼Optimal solution，但能夠一直做gradient ascent是件很有趣的事情吧

接下來就是邁向下一階段了，繼續挑戰自己，保持熱情。