本书内容分为3大部分共7章。第1部分内容包括概率论基础知识、统计量与抽样分布、参数估计及贝叶斯推断；第2部分内容是滤波和随机线性系统的控制及优化方法；第3部分以无线传传感器网络的覆盖与目标探测为例，介绍如何利用前两部分中的知识和方法进行系统的设计、性能分析及优化。第1部分和第2部分中的各章均配有习题。

本书适合作为相关专业的研究生和高年级本科生教材，对从事工程应用研究的人员也大有帮助。

现代工程系统包括通信、制造和物流等很多领域。我们通常能够从实际的系统中采集到大量的数据。要优化这些系统的运行模式、提高其运行效率，通常需要对系统进行建模，然后根据实际数据估计模型中的参数，进一步进行预测、控制或优化。在此过程中需要许多的随机方法，本书讲解其中常用的方法及其理论基础。

本书的初稿曾作为清华大学自动化系的研究生专业基础课程的讲义。虽然有关随机方法的内容很多，但考虑到课程的时间限制，我们只选取最常用的基础理论和方法。本书内容分为3大部分；第1部分介绍参数估计及贝叶斯方法；第2部分介绍随机系统的滤波、控制及优化方法；第3部分以无线传感器网络的覆盖与目标探测为例，介绍如何利用前两部分中的知识和方法进行系统的设计、性能分析及优化。本书适合作为相关专业的研究生和高年级本科生教材。对从事工程应用研究的人员也大有帮助。

感谢阅读本书草稿并对文字表述提出建议、指出排版错误的多位同学： 黄永皓、柳哲、聂春凯、郭瑛、王靖远等。特别感谢柳哲同学帮助修改和绘制部分插图。感谢刘颖老师所做的技术编辑工作。

由于编者水平有限，虽经多次修改，书中一定还存有不妥甚至错误之处，恳请读者和专家批评指正。

编者

2013年3月于北京清华园

第1章概率论基础知识1

1.1随机变量2

1.2随机变量的性质4

1.2.1期望与方差4

1.2.2母函数5

1.2.3特征函数6

1.3随机向量及其分布7

1.3.1随机向量7

1.3.2边缘分布9

1.3.3随机变量的独立性10

1.3.4随机向量函数的分布10

1.3.5条件分布12

1.4随机向量的数字特征17

1.5常用分布、定理和不等式19

1.5.1正态分布19

1.5.2二项分布，指数分布与泊松分布20

1.5.3数理统计中的三大分布25

1.5.4重要的定理和不等式29

1.6小结31

1.7习题32

第2章统计量与抽样分布35

2.1总体和样本35

2.2统计量36

2.2.1常用统计量36

2.2.2经验分布函数37

2.2.3充分统计量与完备统计量39

2.3抽样分布42

2.3.1正态总体样本均值和方差的分布42

2.3.2一些非正态总体样本均值的分布43

2.3.3渐进分布43

2.4次序统计量45

2.5小结48

2.6习题48

第3章参数估计51

3.1点估计51

3.1.1矩方法52

3.1.2极大似然估计53

3.1.3矩方法与极大似然法的比较55

3.2点估计的评价56

3.2.1无偏估计56

3.2.2均方误差准则56

3.2.3相合估计58

3.2.4渐近正态估计59

3.3克拉默劳下界60

3.3.1费歇尔信息量60

3.3.2有效估计63

3.4最小二乘估计64

3.4.1线性最小方差估计64

3.4.2最小二乘估计65

3.4.3加权最小二乘67

3.4.4递推最小二乘估计67

3.5区间估计71

3.5.1正态总体数学期望与方差的置信区间72

3.5.2单侧置信区间74

3.5.3非正态总体参数的区间估计74

3.6小结75

3.7习题76

第4章贝叶斯推断79

4.1先验分布与后验分布79

4.1.1三种信息79

4.1.2贝叶斯公式80

4.1.3共轭先验分布82

4.2直接由后验分布得到的估计85

4.2.1贝叶斯估计85

4.2.2贝叶斯估计的误差87

4.2.3贝叶斯区间估计88

4.2.4预测89

4.3先验分布的确定91

4.3.1贝叶斯假设91

4.3.2主观概率92

4.3.3用先验信息确定先验分布93

4.4决策问题94

4.4.1决策问题的三要素95

4.4.2决策准则96

4.4.3贝叶斯决策问题100

4.4.4决策函数与后验风险准则102

4.5常用损失函数下的估计104

4.5.1线性损失函数104

4.5.2绝对值损失函数105

4.5.3平方损失函数105

4.5.4最小最大准则107

4.6小结107

4.7习题108

第5章滤波112

5.1离散系统的卡尔曼滤波112

5.1.1离散随机线性系统的数学模型112

5.1.2卡尔曼滤波方程113

5.2预测118

5.3系统噪声与观测噪声相关的卡尔曼滤波118

5.4滤波的稳定与发散120

5.4.1滤波的稳定性121

5.4.2滤波的发散123

5.5联邦滤波125

5.5.1联邦卡尔曼滤波125

5.5.2联邦卡尔曼滤波的最优性127

5.5.3联邦最小二乘滤波128

5.5.4联邦最小二乘滤波与联邦卡尔曼滤波的区别129

5.6小结130

5.7习题130

第6章线性二次最优控制问题134

6.1线性二次最优控制问题的背景134

6.2确定性的线性二次最优控制问题136

6.2.1连续时间线性二次最优控制问题136

6.2.2离散时间线性二次最优控制问题138

6.3随机动态规划139

6.3.1问题模型139

6.3.2动态规划的算法141

6.4离散时间线性二次高斯问题142

6.4.1完全能观线性二次高斯问题142

6.4.2部分能观线性二次高斯问题145

6.5小结149

6.6习题150

第7章应用： 无线传感器网络覆盖153

7.1无线传感器网络简介153

7.2无线传感器网络覆盖问题156

7.2.1随机布撒网络覆盖性能157

7.2.2节点调度机制与网络寿命158

7.3动态目标的概率覆盖161

7.3.1状态切换机制162

7.3.2动态目标探测性能分析162

7.4应用实例168

7.4.1森林火灾监测系统设计168

7.4.2边境监测系统设计与优化169

7.5结束语173

索引174参考文献178