背景:NYCU CS 大四
都2026了還在寫2025上半年心得文,不過,有始有終,把這段旅程做個總結吧! 其實也沒修什麼重要的課,稍微寫寫四年的流水帳和心得。
選修
邊緣人工智慧
教授:吳凱強/學分:3
我還是把這堂課叫做ML System (DL System)吧,老師自己也說了是為了吸引學生修課才叫這個名子,但其實這門課並不是教硬體上的應用,而是如何「加速」AI System,在國外這種課大多都叫ML Systems之類的,大致來說就是教怎麼加速AI模型的training和inferencing,這真的是AI時代下最重要的一堂課了,現在AI或者說LLM已經脫離學術,在實務上漸漸變得重要,再產品化之前,如何讓模型能夠降低成本、加強服務速度變成是很重要的問題。這堂課前期主要講ChatGPT出現以前比較常出現的加速作法:Pruning, Quantization,主要用在ConvNet比較多,主要是減少模型參數達到加速效果,還有講在矩陣乘法上如何加速,但沒有講很深入的parallel programming,作業上也是稍微體驗了一下triton,大部分的課程比較偏概論,不會到很深入。課程後期就講比較多LLM加速的部分,因為目前基礎架構都是transformers,很多優化都是為了attention去設計,包含flash attention, page attention, kv cache和LoRA之類的,其實這些也是這一兩年才火起來的技術,LLM真的發展地很快啊,課程最後的project還讓大家比賽llm加速,當時我才認識了sglang, vllm這些加速引擎,大為震驚,我之前一直很喜歡工程和算法的結合,但大多AI research還是以算法為重,這些MLsys的框架在工程和算法上是同時evolve的,我非常有興趣,這堂課算成功把我引進門了,之後碩班想多探索這樣的題目,總而言之,這堂課,從夯到拉,我給到直接夯。
其他
霸權興衰史
教授:忘了/學分:2
寫這個的時候我E3登不進去了,懶得查了。我記得這堂課很涼,上課可以做自己的事,但分數沒到很甜,人上人吧。
游泳
教授:忘了/學分:0
早八游泳直接拉完了,我翹了好幾次,幸好他沒檔我。
畢業撒花
時間過得不算快但又不算慢,可能代表我過得很充實吧。發了頂會paper、交了女朋友(已分)、做了很有趣的研究、學習很多知識和技術、在最後一刻總算是找到實習,雖然不是真的完美,但以我大一的角度看現在的自己,大概會覺得很厲害。 以下擷取ig 1
2
3
4
5
6
7
8
9
10
11
12
13整個四年感覺一直在追求的道路上
我覺得大學很適合清楚自己要做什麼的人
能夠一直埋頭去做自己喜歡的事情是很開心的事
回想大一時候的自己,雖然沒有達成當時的所有目標
但對當時的我來說,是個很大的achievement
不過有趣的就在於,小時候會覺得完成目標是一個突然outcome的結果,會突然變得很開心很快樂
但現在才知道,完成一個目標是是緩慢且確定的結果,是有gradient的,在達到之前是感覺得到「應該完成了」的感覺,達到的時候不太有極樂的心情,因為心中已經有下一個目標。
一山還有一山更高,雖然是個追求不完的感覺,但其實有個目標並埋頭苦幹是件很快樂的事吧,Stay hungry stay foolish並不是說要謙卑地去追求技術與知識,而是享受當下那個渴望技術和知識的過程。
四年雖然不是很多事都完美,但更加認識了自己
回首大一目標確立向上的自己,我覺得確實可以說「嗯 你做得還不錯!」
也許未來有一天,我可能會失去初衷、因為巨大的困難而失去熱情
但不要忘記那個想到一個絕妙點子的當下、寫程式解決問題的快感,可以讓人眼睛為之一亮的想法,一勞永逸解決難題,雖然現實中大概沒有什麼Optimal solution,但能夠一直做gradient ascent是件很有趣的事情吧