此為 機器學習中的優化器 系列文章 - 第 1 篇：

1. 機器學習中的優化器 (1) - Gradient descent 梯度下降與其變體
2. 機器學習中的優化器 (2) - 從梯度下降問題到動量優化
3. 機器學習中的優化器 (3) - AdaGrad、RMSProp 與 Adam

什麼是優化器 Optimizer？

在機器學習和深度學習中，優化器（Optimizer） 是訓練模型的核心組件。它的主要任務是找到一組最佳的模型參數，使得損失函數達到最小值，從而讓模型能夠做出最準確的預測，此篇文章所要介紹的 Gradient descent 就是其中一種優化器

為什麼需要 Gradient descent？

在機器學習與深度學習中，我們常要找到一組最佳的模型參數，使 損失函數 (Loss function) 達到最小值，此時找到最佳的權重參數 $w$ 使得預測值 $\hat{y}$ 與實際值 $y$ 之間的誤差最小，這代表模型在預測時的誤差最小，預測效果最佳。而 梯度下降 (Gradient descent) 則是在尋找 損失函數 (Loss function) 最小值過程中的一個關鍵技術。

前言

L1 Loss 和 L2 Loss 是兩種常用的損失函數（Loss Function），主要用於衡量模型預測值與真實值之間的誤差，尤其廣泛用於回歸問題。

平均絕對誤差 (L1 Loss, MAE)

L1 Loss(Mean Absolute Error, MAE) 計算預測值與真實值誤差的 絕對值 的平均。

公式：

$$
\text{MAE} = \frac{1}{n} \sum_{i=1}^n |y_i - \hat{y}_i|
$$

• $y_i$：真實值
• $\hat{y}_i$：預測值
• $n$：樣本數

今天中午前往台北府城隍廟，習俗上親人過世的百日內不能前往道教的寺廟拜拜，但由於需要詢問祖先牌位的問題所以在廟外先對城隍說明如有冒犯希望他能諒解，拜完一輪神明後接著到城隍前說明前因後果，詢問下週出殯時處理牌位的兩種方案：

方案 1. 將目前靈堂的牌位於出殯當天直接帶回家祭拜，但由於家裡無法燒香的因素，希望能於初一、十五拜飯以及供俸餅乾、水果、糖果等，詢問城隍這種不燒香的方式跟傳統習俗上不一樣是否可以呢？

方案 2. 將牌位於出殯當天火化掉成灰並裝進香火袋裡帶回家祭拜，這種方式就不需要早、晚進行燒香，但根據王老師的說法將牌位燒掉可能導致爺爺的靈無法跟隨回家，...

今天準備爺爺告別式要穿的衣服，襯衫、褲子、鱷魚牌外套、內衣、內褲，因為爺爺後來都只有穿紙尿褲，在家裡好像也找不到以前穿過的內褲，只好拿我自己之前新買的給他穿，在靈堂前跟爺爺講最近親人們的狀況，最近辦完的事情：塔位已經申請在南港軍人公墓，到時會在一個牆壁裡面，半山腰的位置看出去超漂亮，藍天白雲，四周都是綠油油的山。

現在大部分事情都已經準備好了，唯一還沒決定的是祖先牌位的置放地點，這幾天研究後我大概弄了 3 個方案，接下來就一一講給爺爺您聽了，第一個方案是將牌位移到台北府城隍廟那邊有一個叫做普陀廳的地方，那邊離我們家大概 5~10 分鐘的車程而已，在那邊會 24 小時播...

早上 10:00 跟大姑姑約在南港軍人公墓申請爺爺的塔位，第一次到這邊不知道原來這麼大，爬上兩三百層階梯才到放置骨灰罐的忠靈堂跟壁葬區，今天天氣非常的好萬里無雲，從最上面的壁葬區看下去真的風景優美，當天將資料交過去後等了十幾分鐘馬上電腦就配好骨灰罈安放的號碼了，接下來就是聯絡廠商之後負責刻墓碑上的字

晚上 9:00 ~ 11:00 是爺爺的頭七，原來習俗上的頭七時間是死後第六天的跨子時也就是晚上 11:00 後，一開始先把靈堂的牌位請到廳裡，接著拈香拜拜將爺爺的靈引到這裡，總共歷經了四個笑筊，第五個才成功是聖筊，接下是三位師姐誦經的時間，特別的是帶頭的師姐唸的口齒清晰...

中午 1 點帶著咖哩飯拜飯，把水果、衣服都換過，添加了兩罐八寶粥，今天爺爺的靈堂終於把照片放上去了，原本跟小姑姑約一點殯儀館去看爺爺結果竟然拖到了四點人才出現…

接著大家一起到 B2 冰櫃探視爺爺，每次只能看 5 分鐘，工作人員拉開櫃子後發現爺爺已經跟剛去世時長得很不一樣了，臉明顯變黃很多，雖然嘴巴還是張的很開，但眼睛終於闔上沒有那種死不瞑目的感覺了

晚上回家奶奶一直說著好恐怖好恐怖，什麼電風扇會自動開啟、廁所的毛巾會自己變黑、爺爺房間陽台的盆栽被鳥挖掉很大一個洞等，一直問大家不會覺得恐怖嗎？我說我又沒有做虧心事怎麼會覺得恐怖，小姑姑打字給奶奶看叫他去參...

早上 10：00 前往冬瓜行旅討論告別式的方案，選擇的是簡約型加上頭七尾七（滿七）儀式，其實要挑選的東西沒有想像中複雜，主要是看要做幾個七而已，加上其他的晉塔、冰存、靈位等費用粗估不會超過 15 萬，剩下要思考的是祖先牌位到時候告別式後燒掉是不是要裝成化香火的紅包袋形式帶回家供奉，花了兩個小時討論完後前往殯儀館，今天準備的是涼麵拜飯，還有大姑姑從四川帶回來的餅乾糖果等，再把爺爺衣物袋裡的衣服換上剛洗好的

下午前往奶奶家，一進房門他就問爺爺是不是真的走了，怎麼辦怎麼辦…，搞了半天原來他現在才搞清楚爺爺已經走了嗎？問他說告別式要不要去，又是一律的拒絕說很累他不去，一直碎唸...

早上先前往醫院申請死亡證明書，爺爺住了差不多半年的時間，但因為有重大傷病卡的給付，出院結帳只花了一千多塊，死亡證明書申請了 20 份

接著去以前最常買的阿美自助餐，夾了爺爺平常吃的絲瓜、蝦仁炒蛋、韭黃豆皮、煎鱈魚，順便跟老板說這餐是拿去祭拜爺爺的便當，去家樂福買了三罐爺爺最愛吃的甘露川貝枇杷糖，回家後拿了三份死亡證明書給奶奶，以及再次找找爺爺需要換穿的內衣、褲子、拖鞋，奶奶有幫忙挖出爺爺以前在家裡穿過的內衣，還特別交代帶出去的衣服絕對不能帶回來，還有棉被是他自己的不准拿走，原本想在家裡找爺爺的照片拿來當遺照使用，但能看到的只有一兩張爺爺抱著小時候的我的照片，近期的照片...

午休買完金菊雞肉飯後，發現剛剛沒接到的是醫院打來的電話，回電後聽到的是爺爺呼氣量只剩 20 幾的消息，護士說爺爺大概今天或明天就會過世了

在去醫院前先去奶奶家跟他說爺爺今天的狀況：
醫院剛打電話來說爺爺大概今天或明天會過世，你有要去醫院看嗎？ 14:08

看完後奶奶直接說他身體很累無法過去，接著又說有什麼很重要的事情要說但他忘記了，過了一會他才回想起要講的東西，竟然是抱怨昨天買的冰太甜了以後不要弄那麼甜，我想有些人真的是自私自利啊，共度大半輩子的丈夫將要過世了，腦子裡想的卻只有自己吃的東西，唉，這世界很多事情真的不是可以理解的

下午兩...

前言

在進行影像壓縮、AI 影像重建、或品質評估時，常會使用 MSE、PSNR、SSIM 三種指標來衡量影像品質，這篇文章學習如何用數學計算出這三種指標

1. MSE（Mean Squared Error）

均方誤差，是最基本的誤差評估指標

定義：

計算兩張圖的對應像素差的平方平均：

$$
\text{MSE} = \frac{1}{mn} \sum_{i=1}^{m} \sum_{j=1}^{n} (I_{i,j} - K_{i,j})^2
$$

• $I$：原始影像像素值
• $K$：比較影像像素值
• $m, n$：影像的寬高