Норма (математика)

У этого термина существуют и другие значения, см. норма.

Норма — функционал, заданный на векторном пространстве и обобщающий понятие длины вектора или абсолютного значения числа.

Определение

Норма вектора

Норма в векторном пространстве $V\$ над полем вещественных или комплексных чисел — это функционал $p\colon V \to \mathbb{R}$, обладающий следующими свойствами:

1. $p(x)=0 \Rightarrow x=0_V;$
2. $\forall x,y \in V, p(x+y)\leqslant p(x)+p(y)$ (неравенство треугольника);
3. $\forall \alpha \in \mathbb{R} (\mathbb{C}), \forall x \in V, p(\alpha\, x)=|\alpha|p(x).$

Эти условия являются аксиомами нормы.

Векторное пространство с нормой называется нормированным пространством, а условия (1-3) — также аксиомами нормированного пространства.

Нетрудно видеть, что из аксиом нормы вытекает свойство неотрицательности нормы:

4. $\forall x \in V, p(x)\geqslant 0;$

Действительно:

Из 3 получаем, что $p(0_V)=p(0\cdot0_V)=0\cdot p(0_V)=0$. Теперь из 2 получаем $\forall x\in V\colon 0=p(0_V)=p(x-x)\leqslant p(x)+p(-x)=2p(x)$. Таким образом, $p(x)\geqslant 0$.

Чаще всего норму обозначают в виде: $\| \cdot \|$. В частности, $\| x\|$ — это норма элемента $x$ векторного пространства $\mathbb{R}$.

Вектор с единичной нормой ($\| x\|=1$) называется нормальным или нормированным.

Любой ненулевой вектор $x$ можно нормировать, то есть разделить его на свою норму: вектор $\frac{x}{\|x\|}$ имеет единичную норму. С геометрической точки зрения это значит, что мы берем сонаправленный вектор единичной длины.

Норма матрицы

Нормой матрицы $A$ называется вещественное число $\|A\|$, удовлетворяющее первым трём из следующих условий:

1. $\|A\| \geqslant 0$, причём $\|A\| = 0$ только при $A = 0\$;
2. $\|\alpha A\| = |\alpha| \cdot \|A\|$, где $\alpha\in\R$;
3. $\|A + B\| \leqslant \|A\| + \|B\|$;
4. $\|AB\| \leqslant \|A\| \cdot \|B\|$.

Если выполняется также и четвёртое свойство, норма называется мультипликативной. Матричная норма, составленная как операторная, называется подчинённой по отношению к норме, использованной в пространствах векторов. Очевидно, что все подчинённые матричные нормы мультипликативны. Немультипликативные нормы для матриц являются простыми нормами, заданными в линейных пространствах матриц.

Матричная норма $\| \cdot \|_{ab}$ из $K^{m \times n}$ называется согласованной с векторной нормой $\| \cdot \|_{a}$ из $K^n$ и векторной нормой $\| \cdot \|_{b}$ из $K^m$ если справедливо:

$\|Ax\|_b \leqslant \|A\|_{ab} \|x\|_a$

для всех $A \in K^{m \times n}, x \in K^n$.

Объяснение "на пальцах"

Многие после прочтения данного текста задаются следующим вопросом: "Так что это такое? Есть какие-то аксиомы, которые должны выполняться, но зачем эта норма нужна в принципе?". Есть несколько распространенных вариантов ответа:

• Норма матрицы представляет собой некоторое число, отличное от нуля. Норма нужна для того, чтобы сравнивать, какая матрица "больше", а какая "меньше".
• Норма матрицы есть некоторая числовая характеристика отклонения ее от нуля. (Но это скорее относится к норме вообще).

Норма оператора

Норма оператора $A$ — число, которое определяется, как:

$\|A\| = \sup_{\|x\|\leqslant1} \|Ax\|$,

где $A$ — оператор, действующий из нормированного пространства $L$ в нормированное пространство $K$.

Это определение эквивалентно следующему:

$\|A\| = \sup_{x\ne 0}\frac{\|Ax\|}{\|x\|}$

• Свойства операторных норм:

1. $\|A\| \geqslant 0$, причём $\|A\| = 0$ только при $A = 0$;
2. $\|\alpha A\| = |\alpha| \cdot \|A\|$, где $\alpha\in\mathbb{R}$;
3. $\|A + B\| \leqslant \|A\| + \|B\|$;
4. $\|AB\| \leqslant \|A\| \cdot \|B\|$.

Оператору в некотором базисе соответствует матрица — матрица оператора. Поэтому свойства нормы оператора полностью повторяют аналогичные свойства нормы матрицы.

Свойства нормы

1. $\mid \| x \| - \| y \| \mid \le \| x \pm y \| \le \| x\| + \| y \|$
2. $(\| x \| - \| y \|)^2 \le \| x+y \|^2 \le (\| x \| + \|y \|)^2$
3. $\frac {\|x\|^2+\|y\|^2-\|x-y\|^2}{2\|x\|\|y\|}\in [-1,1]$ [косинус угла]
4. $\|0_V\|=\|x-x\|=\|0x\|=0\cdot\|x\|=0$
5. $0=\|x-x\|\leqslant\|x\|+\|-x\|=2\|x\| \Rightarrow \|x\|\geqslant0$ [аксиома 1]

Эквивалентность норм

• Две нормы $p$ и $q$ на пространстве $V$ называются эквивалентными, если существует две положительные константы $C_1$ и $C_2$ такие, что для любого $x \in V$ выполняется $C_1 p(x) \leqslant q(x) \leqslant C_2 p(x)$. Эквивалентные нормы задают на пространстве одинаковую топологию. В конечномерном пространстве все нормы эквивалентны.

Примеры

Линейные нормированные пространства

• Любое предгильбертово пространство можно считать нормированным, так как скалярное произведение порождает естественную норму

$\| x \| = \sqrt{\langle x, x \rangle},\quad x \in X.$

• Гёльдеровы нормы $n$-мерных векторов (семейство): $\|x\|_p = (\sum_{i} |x_i|^p)^{\frac 1p}$,

где $p \geqslant 1$ (обычно подразумевается, что это натуральное число). В частности:

• $\|x\|_1 = \sum_{i} |x_{i}|$
• $\|x\|_2 = \sqrt{\sum_{i} |x_{i}|^2}$ (евклидова норма),
• $\|x\|_\infty = \max |x_{i}|$ (это предельный случай $p \rightarrow \infty$).

• Нормы функций в $C[0,1]$ — пространстве вещественных (или комплексных) непрерывных функций на отрезке [0,1]:
  • $\|f\|_{C[0,1]} = \max_{x \in [0,1]}|f(x)|$ — в смысле этой нормы пространство $C[0,1]$ непрерывных на отрезке функций образует полное линейное пространство. Этого нельзя сказать о следующих двух примерах нормы на этом пространстве, тем не менее, законных:
  • $\|f\|=\int\limits_0^1 |f(t)|\,dt$
  • $\|f\|=\sqrt{\int\limits_0^1 |f(t)|^2\,dt}$

• Аналогично можно ввести нормы для конечномерных векторных функций конечномерных векторных аргументов, заменив $|f(x)|\$ на $\|f(x)\|\$, а интегрирование по отрезку интегрированием по области (максимум же на отрезке — в соответствующем случае — максимумом на области).

Некоторые виды матричных норм

• $m$-норма: $\|A\|_m = \max_i \sum_j |a_{ij}|$
• $l$-норма: $\|A\|_l = \max_j \sum_i |a_{ij}|$
• Норма Фробениуса: $\|A\|_2 = \sqrt{\sum_{i, j} |a_{ij}|^2} = \sqrt{\mathrm{Tr}\, A^\dagger A}$.

Здесь $A^\dagger$ — сопряжённая к $A$ матрица, $\mathrm{Tr}$ — след матрицы.

• p-норма ($p>0$): $\|A\|_p = \left( \sum_{i, j} |a_{ij}|^p \right)^{1/p}$
• В случае p = 2 (евклидова норма) и m = n (квадратные матрицы), подчиненная норма матрицы называется спектральная норма. Спектральная норма матрицы A равна наибольшему сингулярному числу матрицы A или квадратному корню из наибольшего собственного числа положительно полуопределённой матрицы $A^\dagger A$:

$\left \| A \right \| _2=\sqrt{\lambda_{\text{max}}(A^\dagger A)}$

где $A^\dagger$ обозначает матрицу, сопряжённую к матрице $A$.

Связанные понятия

Топология пространства и норма

Норма задаёт на пространстве метрику (в смысле — функцию расстояния метрического пространства), порождая таким образом метрическое пространство, а значит топологию, базой которой являются всевозможные открытые шары, то есть множества вида $B(x,r)=\{y\colon\|x-y\|<r\}$. Понятия сходимости, определённой на языке теоретико-множественной топологии в такой топологии и определённой на языке нормы, при этом совпадают.

См. также

• Полунорма
• Метрика
• Скалярное произведение