Положительно определённая матрица

В линейной алгебре, положи́тельно определённая ма́трица — это эрмитова матрица, которая во многом аналогична положительному вещественному числу. Это понятие тесно связано с положительно определённой симметрической двулинейной формой (или полуторалинейной формой в случае с комплексными числами).

Формулировки

Пусть $M$ будет эрмитовой матрицей размерности $n \times n$. Обозначим транспонированный вектор $a$ посредством $a^{T}$, а сопряжённый транспонированный вектор — посредством $a^{*}$.

Матрица $M$ является положительно определённой, если она удовлетворяет любому из следующих равнозначных критериев:

1.	Для всех ненулевых комплексных векторов $z \in \mathbb{C}^n$, $\textbf{z}^{*} M \textbf{z} > 0.$ Отметим, что величина $z^{*} M z$ всегда вещественна, поскольку $M$ — эрмитова матрица.
2.	Все собственные значения $M$, $\lambda_i, i = 1, 2, \dots, n$, положительны. Любая эрмитова матрица по теореме о спектральном разложении может быть представлена как вещественная диагональная матрица $D$, переведённая в другую систему координат (то есть $M = P^{-1}DP$, где $P$ — унитарная матрица, строками которой являются ортонормальные собственные векторы $M$, образующие базис). По этому определению $M$ — положительно определённая матрица, если все элементы главной диагонали $D$ (или, другими словами, собственные значения $M$) положительны. То есть в базисе, состоящем из собственных векторов $M$, действие $M$ на вектор $z \in \mathbb{C}^n$ равносильно покомпонентному умножению $z$ на положительный вектор.
3.	Полуторалинейная форма $\langle \textbf{x},\textbf{y}\rangle = \textbf{x}^{*} M \textbf{y}$ определяет внутреннее произведение в $\mathbb{C}^n$. Обобщая сказанное, любое внутреннее произведение в $\mathbb{C}^n$ образуется из эрмитовой положительно определённой матрицы.
4.	$M$ — матрица Грама, образованная из множества линейно независимых векторов $\textbf{x}_1,\ldots,\textbf{x}_n \in \mathbb{C}^k$ для какого-то $k$. Другими словами, элементы $M$ определены следующим образом $M_{ij} = \langle \textbf{x}_i, \textbf{x}_j\rangle = \textbf{x}_i^{*} \textbf{x}_j.$ Таким образом, $M = A^{*}A$, где $A$ инъективная, но не обязательно квадратная матрица.
5.	Определители всех угловых миноров матриц положительны (критерий Сильвестра). В соответствии с этим критерием у положительно полуопределённых матриц все угловые миноры неотрицательны, что, тем не менее, не является достаточным условием для положительной полуопределённости матрицы, как видно из следующего примера $\begin{bmatrix} 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 1 & 0 \end{bmatrix}.$

Для вещественных симметричных матриц в вышеприведённых свойствах пространство $\mathbb{C}^n$ может быть заменено на $\mathbb{R}^n$, а сопряжённые транспонированные векторы на транспонированные.

Квадратичные формы

Также можно сформулировать положительную определённость через квадратичные формы. Пусть $K$ будет полем вещественных ($\mathbb{R}$) или комплексных ($\mathbb{C}$) чисел, а $\mathbb{V}$ будет векторным пространством над $K$. Эрмитова форма

$B : V \times V \rightarrow K$

является билинейным отображением, притом числом, сопряженным $B\left(x, y\right)$, будет $B\left(y, x\right)$. Такая функция $B$ называется положительно определённой, когда $B\left(x, x\right) > 0$ для любого ненулевого $x \in V$.

Отрицательно определённая, полуопределённая и неопределённая матрицы

Эрмитова матрица $M$ размерности $n \times n$ будет называться отрицательно определённой, если

$x^{*} M x < 0\,$

для всех ненулевых $x \in \mathbb{R}^n$ (или, эквивалентным образом, для всех ненулевых $x \in \mathbb{C}^n$).

$M$ будет называться положительно полуопределённой, если

$x^{*} M x \geq 0$

для всех $x \in \mathbb{R}^n$ (или, эквивалентным образом, для всех $\mathbb{C}^n$).

$M$ будет называться отрицательно полуопределённой, если

$x^{*} M x \leq 0$

для всех $x \in \mathbb{R}^n$ (или, эквивалентным образом, для всех $\mathbb{C}^n$).

Таким образом, матрица будет отрицательно определённой, если все её собственные значения отрицательны, положительно полуопределённой, если все её собственные значения неотрицательны, и отрицательно полуопределённой, если все её собственные значения неположительны.

Матрица $M$ будет положительно полуопределённой тогда и только тогда, когда она является матрицей Грама какого-нибудь множества векторов. В отличие от положительно определённой матрицы данные векторы не обязательно линейно независимы.

Для любой матрицы $A$ выполняется следующее: $A^{*}A$ — положительно полуопределённая, а $\operatorname{rank}\left(A\right) = \operatorname{rank}\left(A^{*}A\right)$. Обратное утверждение также верно: любая положительно полуопределённая матрица $M$ может быть выражена как $M = A^{*}A$ (разложение Холецкого).

Эрмитова матрица не являющаяся ни положительно, ни отрицательно полуопределённой называется неопределённой.

Дополнительные свойства

Введём обозначение $M \succeq 0$ для положительно полуопределённых матриц и $M \succ 0$ — для положительно определённых матриц.

Для произвольных квадратных матриц $M, N$ будем писать $M \succeq N$, если $M - N \succeq 0$, то есть $M - N$ положительно полуопределённая матрица. Таким образом, отношение $\succeq$ определяет частичный порядок на множестве квадратных матриц. Подобным образом можно определить отношение полного порядка $M \succ N$.

1.	Любая положительно определённая матрица обратима, а её обратная матрица также положительно определённая. Если $M \succeq N \succ 0$, то $N^{-1} \succeq M^{-1} \succ 0$.
2.	Если $M$ — положительно определённая матрица и $0 < r \in \mathbb{R}$, то $r \cdot M$ положительно определённая матрица. Если $M$ and $N$ — положительно определённые матрицы, то произведения $MNM$ и $NMN$ тоже положительно определённые. Если $M N = N M$, то $M N$ тоже положительно определённая.
3.	Если $M$ — положительно определённая матрица, то элементы главной диагонали $m_{ii}$ положительны. Следовательно, $\operatorname{trace}\left(M\right) > 0$. Более того, $| m_{ij} | \leq \sqrt{m_{ii} m_{jj}} \leq \frac{m_{ii}+m_{jj}}{2}$.
4.	$M$ — положительно определённая матрица тогда и только тогда, когда существует положительно определённая $B \succ 0$ такая, что $B^2 = M$. Обозначим $B = M^{\frac{1}{2}}$. Такая матрица $B$ единственна при условии, что $B \succ 0$. Если $M \succ N \succ 0$, то $M^{\frac{1}{2}} > N^{\frac{1}{2}}>0$.
5.	Если $M$ and $N$ — положительно определённые матрицы, то $M\otimes N \succ 0$ (где $\otimes$ обозначает произведение Кронекера).
6.	Если $M$ and $N$ — положительно определённые матрицы, то $M\circ N \succ 0$ (где $\circ$ обозначает произведение Адамара). Когда $M,N$ вещественные матрицы, выполняется также следующее неравенство (неравенство Оппенхейма): $\det(M\circ N) \geq (\det N) \prod_{i} m_{ii}$.
7.	Если $M$ — положительно определённая матрица, а $N$ — эрмитова матрица и $MN + NM \succeq 0$ $\left( MN+NM \succ 0 \right)$, то $N \succeq 0$ $\left( N \succ 0 \right)$.
8.	Если $M$ and $N$ — положительно полуопределённые вещественные матрицы, то $\operatorname{trace}\left(MN\right)\succeq 0$.
9.	Если $M$ — положительно определённая вещественная матрица, то существует число $\delta>0$ такое, что $M\succeq \delta I$, где $I$ — единичная матрица.

Неэрмитовы матрицы

Вещественные несимметрические матрицы тоже могут удовлетворять неравенству $x^T M x > 0$ для всех ненулевых вещественных векторов $x$. Такой, к примеру, является матрица

$\begin{bmatrix} 1 & 1 \\ -1 & 1 \end{bmatrix},$

поскольку для всех ненулевых вещественных векторов $x = (x_1, x_2)^T$

$\begin{bmatrix} x_1 & x_2 \end{bmatrix} \begin{bmatrix} 1 & 1 \\ -1 & 1 \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \end{bmatrix} = x_1^2 + x_2^2 > 0 .$

Обобщая, $x^T M x > 0$ для всех ненулевых вещественных векторов $x$ тогда и только тогда, когда симметрическая часть $\frac{M + M^T}{2}$ положительно определённая.

Для комплексных матриц существует несколько обобщений неравенства $x^{*} M x > 0$. Если $x^{*} M x > 0$ для всех ненулевых комплексных векторов $x$, тогда матрица $M$ эрмитова. То есть если $x^{*} M x > 0$, то $M$ эрмитова. С другой стороны, $\operatorname{Re}\left(x^{*} M x\right) > 0$ для всех ненулевых комплексных векторов $x$ тогда и только тогда, когда эрмитова часть $\frac{M + M^{*}}{2}$ положительно определённая.

Литература

• R. A. Horn, C. R. Johnson. Matrix Analysis, Cambridge University Press, Ch. 7, 1985.
• R. Bhatia, Positive definite matrices, Princeton Series in Applied Mathematics, 2007.

См. также

• Квадратный корень
• Дополнение Шура
• Разложение Холецкого