本書介紹了馬爾科夫決策過程及其它相關方法在公共安全領域的應用,主要面向安全科學與工程專業的高年級本科生,作為其安全決策方法類課程的教材,同時也可作為其它學科運籌學馬爾科夫過程部分的參考資料。
在廣與深的關系上,本書從處理大多數實際問題使用的馬爾科夫假設開始,圍繞著馬氏決策過程和動態規劃貝爾曼方程,依次介紹有限狀態問題、無限狀態問題和折扣成本問題,之后分別針對馬氏過程的各個要素,從狀態集、動作集等方面向外擴展出Q學習、近似線性規劃、隱馬爾科夫模型和部分可觀測馬爾科夫模型,并用一章簡略介紹其它常用決策算法,這使得本書在重點突出的同時具有一定的廣度;
在難與易的關系上,本書力求避免復雜艱深的數學概念,書中的定理證明和公式推導只需要最基本的高等數學知識,同時對于有關數學內容以附錄形式做出了說明,此外,書中每一個部分都有緊貼內容的例子輔助理解,同時設有一章專門討論相關方法用于安全領域決策的典型案例,使得讀者能清楚地理解本書意圖闡述的內容。