例 1d:圆内均匀分布
在半径为 R 的圆内随机选一点,服从均匀分布。
设 (X,Y) 为坐标,则联合密度:
f(x,y)={c,x2+y2≤R20,否则 f(x,y) = \begin{cases} c, & x^2 + y^2 \leq R^2 \\ 0, & \text{否则} \end{cases} f(x,y)={c,0,x2+y2≤R2否则
(a) 求常数 c :
!NOTE
对于平面上的一个区域 D \\subset \\mathbb{R}\^2 ,其面积可以用二重积分表示为:
Area(D)=∬D1 dx dy \text{Area}(D) = \iint_D 1 \, dx\,dy Area(D)=∬D1dxdy
也就是说:在整个区域上对常数函数 1 积分,结果就是该区域的面积。
所以:
∬x2+y2≤R2dx dy=以原点为中心、半径为 R 的圆的面积=πR2 \iint_{x^2 + y^2 \leq R^2} dx\,dy = \text{以原点为中心、半径为 } R \text{ 的圆的面积} = \pi R^2 ∬x2+y2≤R2dxdy=以原点为中心、半径为 R 的圆的面积=πR2
∬x2+y2≤R2c dx dy=c⋅πR2=1⇒c=1πR2 \iint_{x^2+y^2 \leq R^2} c\,dx\,dy = c \cdot \pi R^2 = 1 \Rightarrow c = \frac{1}{\pi R^2} ∬x2+y2≤R2cdxdy=c⋅πR2=1⇒c=πR21
(b) 边缘密度 f_X(x) :
fX(x)=∫−R2−x2R2−x21πR2dy=2πR2R2−x2,∣x∣≤R f_X(x) = \int_{-\sqrt{R^2 - x^2}}^{\sqrt{R^2 - x^2}} \frac{1}{\pi R^2} dy = \frac{2}{\pi R^2} \sqrt{R^2 - x^2}, \quad |x| \leq R fX(x)=∫−R2−x2 R2−x2 πR21dy=πR22R2−x2 ,∣x∣≤R
同理, f_Y(y) = \\frac{2}{\\pi R\^2} \\sqrt{R\^2 - y\^2},\\ \|y\| \\leq R
!NOTE
边缘密度 f_X(x) 是通过对联合密度 f(x,y) 关于 y 积分得到的:
fX(x)=∫−∞∞f(x,y) dy f_X(x) = \int_{-\infty}^{\infty} f(x, y)\, dy fX(x)=∫−∞∞f(x,y)dy
但由于 f(x,y) 只在圆 x\^2 + y\^2 \\leq R\^2 内非零,所以我们只需要对满足这个条件的 y 积分。
对于一个固定的 x ,要使得 (x, y) 落在圆内,必须满足:
x2+y2≤R2⇒y2≤R2−x2⇒∣y∣≤R2−x2 x^2 + y^2 \leq R^2 \quad \Rightarrow \quad y^2 \leq R^2 - x^2 \quad \Rightarrow \quad |y| \leq \sqrt{R^2 - x^2} x2+y2≤R2⇒y2≤R2−x2⇒∣y∣≤R2−x2
所以:
当 \|x\| \> R :没有 y 满足条件 → f_X(x) = 0
当 \|x\| \\leq R ::: y \\in \\left\[ -\\sqrt{R\^2 - x^2}, \\sqrt{R^2 - x\^2} \\right\]
情况 1:当 \|x\| \> R 时
fX(x)=0 f_X(x) = 0 fX(x)=0
因为联合密度在这些 x 处恒为 0。
情况 2:当 \|x\| \\leq R 时
fX(x)=∫−∞∞f(x,y) dy=∫y=−R2−x2R2−x21πR2 dy(因为在该区间内 f(x,y)=1πR2)=1πR2⋅yy=−R2−x2R2−x2=1πR2⋅(R2−x2−(−R2−x2))=1πR2⋅2R2−x2=2πR2R2−x2 \begin{aligned} f_X(x) &= \int_{-\infty}^{\infty} f(x, y)\, dy \\ &= \int_{y = -\sqrt{R^2 - x^2}}^{\sqrt{R^2 - x^2}} \frac{1}{\pi R^2}\, dy \quad \text{(因为在该区间内 } f(x,y) = \frac{1}{\pi R^2} \text{)} \\ &= \frac{1}{\pi R^2} \cdot \left y \\right_{y = -\sqrt{R^2 - x^2}}^{\sqrt{R^2 - x^2}} \\ &= \frac{1}{\pi R^2} \cdot \left( \sqrt{R^2 - x^2} - (-\sqrt{R^2 - x^2}) \right) \\ &= \frac{1}{\pi R^2} \cdot 2\sqrt{R^2 - x^2} \\ &= \frac{2}{\pi R^2} \sqrt{R^2 - x^2} \end{aligned} fX(x)=∫−∞∞f(x,y)dy=∫y=−R2−x2 R2−x2 πR21dy(因为在该区间内 f(x,y)=πR21)=πR21⋅yy=−R2−x2 R2−x2 =πR21⋅(R2−x2 −(−R2−x2 ))=πR21⋅2R2−x2 =πR22R2−x2
综上:
fX(x)={2πR2R2−x2,∣x∣≤R0,∣x∣>R f_X(x) = \begin{cases} \displaystyle \frac{2}{\pi R^2} \sqrt{R^2 - x^2}, & |x| \leq R \\ 0, & |x| > R \end{cases} fX(x)=⎩ ⎨ ⎧πR22R2−x2 ,0,∣x∣≤R∣x∣>R
© 原点距离 D = \\sqrt{X\^2 + Y\^2} 的分布:
FD(a)=P(D≤a)=P(X2+Y2≤a2)=πa2πR2=a2R2,0≤a≤R F_D(a) = P(D \leq a) = P(X^2 + Y^2 \leq a^2) = \frac{\pi a^2}{\pi R^2} = \frac{a^2}{R^2},\quad 0 \leq a \leq R FD(a)=P(D≤a)=P(X2+Y2≤a2)=πR2πa2=R2a2,0≤a≤R
(d) E\[D\] :
fD(a)=ddaFD(a)=2aR2,0≤a≤R⇒ED=∫0Ra⋅2aR2da=2R2∫0Ra2da=2R3 f_D(a) = \frac{d}{da} F_D(a) = \frac{2a}{R^2},\quad 0 \leq a \leq R \Rightarrow ED = \int_0^R a \cdot \frac{2a}{R^2} da = \frac{2}{R^2} \int_0^R a^2 da = \frac{2R}{3} fD(a)=dadFD(a)=R22a,0≤a≤R⇒ED=∫0Ra⋅R22ada=R22∫0Ra2da=32R
例 1e:比值分布
设 f(x,y) = e\^{-(x+y)},\\ x\>0,y\>0
求 Z = X/Y 的密度函数。
先求分布函数:
FZ(a)=P(XY≤a)=∬x/y≤ae−(x+y)dxdy=∫0∞∫0aye−(x+y)dxdy=∫0∞(1−e−ay)e−ydy=∫0∞e−ydy−∫0∞e−(a+1)ydy=1−1a+1 \begin{aligned} F_Z(a) &= P\left(\frac{X}{Y} \leq a\right) = \iint_{x/y \leq a} e^{-(x+y)} dx dy \\ &= \int_0^\infty \int_0^{ay} e^{-(x+y)} dx dy = \int_0^\infty (1 - e^{-ay}) e^{-y} dy \\ &= \int_0^\infty e^{-y} dy - \int_0^\infty e^{-(a+1)y} dy = 1 - \frac{1}{a+1} \end{aligned} FZ(a)=P(YX≤a)=∬x/y≤ae−(x+y)dxdy=∫0∞∫0aye−(x+y)dxdy=∫0∞(1−e−ay)e−ydy=∫0∞e−ydy−∫0∞e−(a+1)ydy=1−a+11
求导得密度:
fZ(a)=ddaFZ(a)=1(a+1)2,a>0 f_Z(a) = \frac{d}{da} F_Z(a) = \frac{1}{(a+1)^2},\quad a > 0 fZ(a)=dadFZ(a)=(a+1)21,a>0
n 维联合分布
推广到 n 个随机变量 X_1,\\dots,X_n :
联合分布函数:
F(a1,...,an)=P{X1≤a1,...,Xn≤an} F(a_1,\dots,a_n) = P\{X_1 \leq a_1, \dots, X_n \leq a_n\} F(a1,...,an)=P{X1≤a1,...,Xn≤an}
若存在函数 f(x_1,\\dots,x_n) ,使得:
KaTeX parse error: Undefined control sequence: \idotsint at position 30: ...,X_n)\in C\} = \̲i̲d̲o̲t̲s̲i̲n̲t̲\limits_{(x_i)\...
则称其为联合密度函数。
特别地:
P{X1∈A1,...,Xn∈An}=∫An⋯∫A1f(x1,...,xn)dx1⋯dxn P\{X_1 \in A_1, \dots, X_n \in A_n\} = \int_{A_n} \cdots \int_{A_1} f(x_1,\dots,x_n) dx_1\cdots dx_n P{X1∈A1,...,Xn∈An}=∫An⋯∫A1f(x1,...,xn)dx1⋯dxn
例 1f:多项分布(Multinomial Distribution)
进行 n 次独立试验,每次有 r 种结果,概率分别为 p_1,\\dots,p_r ,且 \\sum p_i = 1 。
令 X_i :第 i 种结果出现的次数。
则联合分布列为:
P{X1=n1,...,Xr=nr}=n!n1!⋯nr!p1n1⋯prnr,∑ni=n(1.5) P\{X_1=n_1,\dots,X_r=n_r\} = \frac{n!}{n_1!\cdots n_r!} p_1^{n_1} \cdots p_r^{n_r}, \quad \sum n_i = n \tag{1.5} P{X1=n1,...,Xr=nr}=n1!⋯nr!n!p1n1⋯prnr,∑ni=n(1.5)
证明思路:固定结果出现次数,共有 \\frac{n!}{\\prod n_i!} 种排列方式,每种概率为 \\prod p_i\^{n_i} 。
当 r=2 时,退化为二项分布。
应用举例 :掷骰子 9 次,求 1 出现 3 次,2、3 各 2 次,4、5 各 1 次,6 出现 0 次的概率:
P=9!3!2!2!1!1!0!(16)9=9!3!2!2!(16)9 P = \frac{9!}{3!2!2!1!1!0!} \left(\frac{1}{6}\right)^9 = \frac{9!}{3!2!2!} \left(\frac{1}{6}\right)^9 P=3!2!2!1!1!0!9!(61)9=3!2!2!9!(61)9
!IMPORTANT
这需要对之前曾经提到过的分组概率进行复习
6.2 独立随机变量
定义
随机变量 X 和 Y 独立,当且仅当对任意集合 A,B :
P{X∈A,Y∈B}=P{X∈A}P{Y∈B}(2.1) P\{X \in A, Y \in B\} = P\{X \in A\} P\{Y \in B\} \tag{2.1} P{X∈A,Y∈B}=P{X∈A}P{Y∈B}(2.1)
等价地:
F(a,b)=FX(a)FY(b),∀a,b F(a,b) = F_X(a) F_Y(b),\quad \forall a,b F(a,b)=FX(a)FY(b),∀a,b
离散情形下的独立性
p(x,y)=pX(x)pY(y),∀x,y(2.2) p(x,y) = p_X(x) p_Y(y),\quad \forall x,y \tag{2.2} p(x,y)=pX(x)pY(y),∀x,y(2.2)
连续情形下的独立性
f(x,y)=fX(x)fY(y),∀x,y f(x,y) = f_X(x) f_Y(y),\quad \forall x,y f(x,y)=fX(x)fY(y),∀x,y
独立性的等价条
X,Y 独立 \\iff 联合密度(或分布列)可分解为:
fX,Y(x,y)=h(x)g(y) f_{X,Y}(x,y) = h(x) g(y) fX,Y(x,y)=h(x)g(y)
证明(连续情形):
设 f(x,y) = h(x)g(y) ,则:
1=∫∫h(x)g(y)dxdy=(∫h(x)dx)(∫g(y)dy)=C1C2 1 = \int\int h(x)g(y) dx dy = \left(\int h(x)dx\right)\left(\int g(y)dy\right) = C_1 C_2 1=∫∫h(x)g(y)dxdy=(∫h(x)dx)(∫g(y)dy)=C1C2
令:
f_X(x) = C_1 h(x)
f_Y(y) = C_2 g(y)
则 f(x,y) = f_X(x) f_Y(y) ,故独立。
例题
例 2a:二项试验的独立性
进行 n+m 次独立伯努利试验, X :前 n 次成功次数, Y :后 m 次成功次数。
由于试验独立, X,Y 独立。
验证:
P(X=x,Y=y)=(nx)px(1−p)n−x(my)py(1−p)m−y=P(X=x)P(Y=y) P(X=x,Y=y) = \binom{n}{x} p^x (1-p)^{n-x} \binom{m}{y} p^y (1-p)^{m-y} = P(X=x)P(Y=y) P(X=x,Y=y)=(xn)px(1−p)n−x(ym)py(1−p)m−y=P(X=x)P(Y=y)
但 X 与总成功数 Z = X+Y 相关。
例 2b:泊松拆分
设进入邮局总人数为参数 \\lambda 的泊松变量。每人是男性概率 p ,女性 1-p ,且独立。
令 X :男性人数,:男性人数,:男性人数, Y :女性人数。
结论 : X \\sim \\text{Poisson}(\\lambda p) ,,, Y \\sim \\text{Poisson}(\\lambda(1-p)) ,且 X,Y 独立。
证明:
P(X=i,Y=j)=P(X=i,Y=j∣X+Y=i+j)P(X+Y=i+j)=(i+ji)pi(1−p)j⋅e−λλi+j(i+j)!=e−λ(λp)ii!λ(1−p)jj!=e−λp(λp)ii!e−λ(1−p)\[λ(1−p)jj!] \begin{aligned} P(X=i,Y=j) &= P(X=i,Y=j \mid X+Y=i+j) P(X+Y=i+j) \\ &= \binom{i+j}{i} p^i (1-p)^j \cdot e^{-\lambda} \frac{\lambda^{i+j}}{(i+j)!} \\ &= e^{-\lambda} \frac{(\lambda p)^i}{i!} \frac{\\lambda(1-p)^j}{j!} \\ &= \lefte\^{-\\lambda p} \\frac{(\\lambda p)\^i}{i!}\\right \lefte\^{-\\lambda(1-p)} \\frac{\[\\lambda(1-p)^j}{j!}\right] \end{aligned} P(X=i,Y=j)=P(X=i,Y=j∣X+Y=i+j)P(X+Y=i+j)=(ii+j)pi(1−p)j⋅e−λ(i+j)!λi+j=e−λi!(λp)ij!λ(1−p)j=e−λpi!(λp)ie−λ(1−p)j!\[λ(1−p)j]
故 P(X=i,Y=j) = P(X=i)P(Y=j) ,独立得证。
例 2c:等待时间问题
两人约定 12:00--13:00 见面,到达时间独立且服从 (0,60) 上的均匀分布。
求先到者等待超过 10 分钟的概率。
设 X,Y \\sim U(0,60) ,独立。
所求概率为:
!NOTE
观察这两个概率:
P(Y \> X + 10) :女士比男士晚到超过 10 分钟
P(X \> Y + 10) :男士比女士晚到超过 10 分钟
由于:
X 和 Y 都服从相同的分布: U(0,60)
X 和 Y 相互独立
两人的行为完全对称(没有谁"优先")
所以这两个事件的概率是相等的!
P(∣X−Y∣>10)=P(X+10 10) = P(X + 10 < Y) + P(Y + 10 < X) = 2P(X + 10 < Y) P(∣X−Y∣>10)=P(X+10
2P(X+10
例 2d:蒲丰投针问题
平行线间距 D ,针长 L \\leq D 。随机投针,求与某线相交的概率。
设:
X :针中点到最近线的距离,:针中点到最近线的距离,:针中点到最近线的距离, X \\sim U(0, D/2)
\\theta :针与垂线夹角,:针与垂线夹角,:针与垂线夹角, \\theta \\sim U(0, \\pi/2)
X,\\theta 独立
相交条件: X \< \\frac{L}{2} \\cos\\theta
P(相交)=∬x
例 2e:正态分布的特征性质
假设:
X,Y 独立、连续、密度可微;
联合密度 f(x,y) = f_X(x)f_Y(y) 仅依赖于 x\^2 + y\^2
则 X,Y 为独立同分布正态变量,均值 0
设 f_X(x)f_Y(y) = g(x\^2 + y\^2)
两边对 x 求导:
fX′(x)fY(y)=2xg′(x2+y2) f_X'(x) f_Y(y) = 2x g'(x^2 + y^2) fX′(x)fY(y)=2xg′(x2+y2)
除以原式:
fX′(x)fX(x)=2xg′(x2+y2)g(x2+y2)⇒fX′(x)2xfX(x)=g′(x2+y2)g(x2+y2) \frac{f_X'(x)}{f_X(x)} = \frac{2x g'(x^2 + y^2)}{g(x^2 + y^2)} \Rightarrow \frac{f_X'(x)}{2x f_X(x)} = \frac{g'(x^2 + y^2)}{g(x^2 + y^2)} fX(x)fX′(x)=g(x2+y2)2xg′(x2+y2)⇒2xfX(x)fX′(x)=g(x2+y2)g′(x2+y2)
左边仅含 x ,右边仅含 x\^2 + y\^2 ,故必为常数 c :
fX′(x)xfX(x)=2c⇒ddxlnfX(x)=2cx⇒lnfX(x)=a+cx2⇒fX(x)=kecx2 \frac{f_X'(x)}{x f_X(x)} = 2c \Rightarrow \frac{d}{dx} \ln f_X(x) = 2c x \Rightarrow \ln f_X(x) = a + c x^2 \Rightarrow f_X(x) = k e^{c x^2} xfX(x)fX′(x)=2c⇒dxdlnfX(x)=2cx⇒lnfX(x)=a+cx2⇒fX(x)=kecx2
!NOTE
对于密度函数需要满足:
非负性:自动满足,因为指数函数恒正
归一化 :必须有
∫−∞∞fX(x) dx=1 \int_{-\infty}^{\infty} f_X(x)\, dx = 1 ∫−∞∞fX(x)dx=1
如果c > 0,则没法收敛
归一化要求 c \< 0 ,令 c = -1/(2\\sigma\^2) ,得正态密度。
同理 f_Y(y) 也为正态,且方差相同。
例 2f:判断独立性
(1) f(x,y) = 6e^{-2x}e^{-3y},\\ x\>0,y\>0
可分解为 (6e^{-2x})(e^{-3y}) ,故独立。
(2) f(x,y) = 24xy I(x,y) ,其中 I(x,y)=1 当 0\
支持集不是矩形,无法分解,故不独立。
如果联合密度函数的支持集(support)不是矩形区域(即不能写成 A \\times B 的形式),那么 X 和 Y 一定不独立。
关键点
第6章 随机变量的联合分布 6.1 联合分布函数 联合分布函数用于多个随机变量同时出现的概率特性。 定义 联合分布 设 X 和 Y 是两个随机变量,