Math

Mathematics | 数学

核与核密度估计

Kernel & Kernel Density Estimation

核密度估计（Kernel density estimation, KDE）是统计学中一种常见的对于概率密度函数（Probability density function, pdf）的非参数（non-parametric）估计。要搞清楚什么是 KDE，首先需要明白什么是核（Kernel）。核函数 Kernel 在信号处理中，窗函数（Window function）被广泛使用。窗函数是...

卡方分布的期望和方差

Expectation and Variance of Chi-Squared Distribution

证明 Reference 转载自自由度为n的卡方分布χ²（n）的期望等于n、方差等于2n的证明 - 征丶舤 - CSDN博客

从有限期望到以1概率有限

Finite Expectation Induces Finite Almost Surely

Theorem \[E(\vert X \vert)<\infty \quad \Rightarrow \quad \Pr(\vert X \vert<\infty)=1 \quad\text{i.e.}\quad \vert X \vert<\infty \;\text{a.s.}\] Proof If not $\vert X \vert<∞$ a.s., ...

矩阵乘法 - 分块矩阵与舒尔补

Matrix Multiplication: Block Matrix and Schur Complement

矩阵乘法的灵活应用非常重要。矩阵乘法以 $2\times2$ 矩阵为例 Component-wise 对于矩阵乘法，按照定义有 \[\left[\begin{matrix} a_1 & b_1 \\ c_1 & d_1 \end{matrix}\right] \cdot \left[\begin{matrix} a_2 & b_2 \\ c_2 &...

行列式与迹

Determinant and Trace of Matrices

行列式的加法不等式对于相同维数的半正定矩阵 $A,B,C$, \[\det(A+B+C)+\det(C)\geq \det(A+C)+\det(B+C) \\ \det(A+B) \geq \det(A)+\det(B)\] 行列式的乘法定理方块矩阵的乘积的行列式等于行列式的乘积若 $A, B$ 是相同维数的方块矩阵， \[\det(AB)=\det(A)\det(B)\]...

常见概率分布

Common Probability Distributions

二项分布及相关二项分布（Binomial Distribution） n次独立重复实验，每次实验的成功概率为p，若成功实验的次数为x， \[p(x)=C_n^xp^x(1-p)^{1-x}\] 期望：$E(X)=np$ 方差：$Var(X)=np(1-p)$ 矩母函数：$M(t)=[(1-p)+pe^t]^n$ 特殊性质若 $X_1,X_2,…,X_n$ 相互独立，$X_...

从伴随矩阵到克莱姆法则

From Cofactor Matrix To Cramer's Rule

伴随矩阵法求逆余子式与伴随矩阵设A是一个实系数的 n×n 矩阵。 \[\begin{equation} A = \left[ \begin{matrix} A_{11} & A_{12} & \cdots & A_{1n} \\ A_{21} & A_{22} &...

矩阵与向量的乘法

Vector-Matrix Multiplication

矩阵与向量相乘是线性代数中最基础的知识之一。区别开其定义形式和分量计算形式是非常重要的。通用记号矩阵 A 为 \(M*N\) 维的矩阵。以下下为一些记号。其中，\(A_k\) 表示矩阵 A 的各列，\(a_k\) 表示矩阵 A 的各行，\(A_{mn}\) 表示矩阵 A 的各元素。 \(A = \left[ \begin{array}{c|c|c} \qu...