損失函數(shù)：參數(shù)的真值為（θ），決策的結(jié)果為d ，兩者的不一致會帶來一定的損失，這種損失是一個隨機變量，用L(θ,d)表示，稱為損失函數(shù)。

常見的損失函數(shù)有L(θ,d) = c(θ − d)²(稱為二次損失函數(shù)）和L(θ,d) = c | θ − d | （稱為絕對損失函數(shù)）。