11. Skalární součin

Skalární součin je jeden ze základních matematických pojmů. Je to pokročilejší způsob, jak měřit vzdálenosti a úhly ve vektorových prostorech. Budeme se jej ilustrovat na nejjednodušším případu, měření úhlů a vzdáleností v rovině. V aritmetickém reálném vektorovém prostoru R^{2} dimenze 2 si zvolíme dva nenulové vektory x = (x_{1}, x_{2}) a y = (y_{1}, y_{2}). Pro jednoduchost je zvolíme oba z prvního kvadrantu. Buď α úhel, který svírá spojnice bodu (x_{1}, x_{2}) s počátkem souřadnic s kladným směrem vodorovné osy, a β úhel, který svírá spojnice bodu (y_{1}, y_{2}) s počátkem souřadnic s kladným směrem vodorovné osy. Dále předpokládejme, že 0 < β < α < 90^{∘} (nakreslete si obrázek). Pomocí trigonometrických vzorců dostáváme

cos(α − β) = cosαcosβ + sinαsinβ = \frac{x_{1}y_{1} + x_{2}y_{2}}{||x|| · ||y||} ,

kde ||x|| = \sqrt{x_{1}^{2} + x_{2}^{2}} označuje délku vektoru ||x||.

Výraz x_{1}y_{1} + x_{2}y_{2} nazýváme skalární součin vektorů x = (x_{1}, x_{2}) a y = (y_{1}, y_{2}) a označujeme ho (x, y). Ze skalárního součinu (x, y) pak můžeme vypočítat kosinus úhlu η mezi vektory x a y pomocí vztahu

cosη = \frac{(x, y)}{||x|| · ||y||} ,

známe-li délky vektorů x a y. Ty ale také spočítáme pomocí skalárního součinu, neboť ||x|| = \sqrt{(x, x)} a ||y|| = \sqrt{(y, y)}.

Definice 11.28. Skalární součin na reálném vektorovém prostoru V (tj. vektorovém prostoru nad reálnými čísly R) je funkce, která každé uspořádané dvojici vektorů x, y ∈ V přiřazuje číslo (x, y) ∈ R takové, že platí podmínky

a) (x, y) = (y, x) pro každé dva vektory x, y ∈ V,

b) (a_{1}x_{1} + a_{2}x_{2}, y) = a_{1}(x_{1}, y) + a_{2}(x_{2}, y) pro každé vektory x_{1}, x_{2}, y ∈ V a skaláry a_{1}, a_{2} ∈ R,

c) (x, x) ≥ 0 pro každé x ∈ V, přičemž (x, x) = 0 právě když x = 0.

V prostoru V se skalárním součinem nazýváme číslo \sqrt{(x, x)} = ||x|| délka (norma) vektoru x. Reálný prostor V se skalárním součinem se také nazývá euklidovský prostor.

Je-li V vektorový prostor nad komplexními čísly, pak skalárním součinem na prostoru V nazýváme funkci, která přiřazuje každé uspořádané dvojici vektorů x, y ∈ V komplexní číslo (x, y) takové, že platí

a) (x, y) = \overline{(y, x)} pro každé dva vektory x, y ∈ V,

b) (a_{1}x_{1} + a_{2}x_{2}, y) = a_{1}(x_{1}, y) + a_{2}(x_{2}, y) pro každé vektory x_{1}, x_{2}, y ∈ V a skaláry a_{1}, a_{2} ∈ C,

Typeset by AMS-TEX

c) (x, x) ≥ 0 pro každé x ∈ V, přičemž (x, x) = 0 právě když x = 0.

Zde \overline{c} označuje číslo komplexně sdružené k c. Vzhledem k podmínce a) je první část podmínky c) splněna. Komplexní vektorový prostor V se skalárním součinem se nazývá unitární prostor.

V euklidovském prostoru V se skalárním součinem (· , ·) bychom rádi definovali úhel φ mezi libovolnými dvěma nenulovými vektory x a y. Aby byla naše definice úhlu v souladu s geometrickými úvahami, kterými jsme motivovali skalární součin, mělo by platit

cosφ = \frac{(x, y)}{||x|| · ||y||} .

K tomu ale potřebujeme vědět, že platí

−1 ≤ \frac{(x, y)}{||x|| · ||y||} ≤ 1

pro libovolné dva vektory x, y ∈ V. To je obsahem následující věty.

Věta 11.51. Cauchy-Schwarzova-Bunjakovského nerovnost. Je-li V euklidovský prostor, pak pro každé dva vektory x, y ∈ V platí

|(x, y)| ≤ ||x|| · ||y||.

Důkaz. Buď t libovolné reálné číslo. Potom platí

0 ≤ (x − ty, x − ty) = (x, x) − (x, ty) − (ty, x) + (ty, ty) = t^{2}(y, y) − 2t(x, y) + (x, x).

Poslední výraz je polynom druhého stupně v reálné proměnné t. Má-li platit 0 ≤ t^{2}(y, y)− 2t(x, y)+(x, x) pro každé reálné číslo t, nemůže být diskriminant tohoto polynomu kladný. Platí proto

4(x, y)^{2} − 4(x, x)(y, y) ≤ 0,

neboli |(x, y)| ≤ ||x|| · ||y||. □

Důsledek 11.52. Pro libovolné dva vektory x, y v euklidovském prostoru V platí ||x+y|| ≤ ||x|| + ||y||. Speciálně platí, že jsou-li vektory x, y ortogonální, tj. platí (x, y) = 0, pak ||x + y||^{2} = ||x||^{2} + ||y||^{2} (Pythagorova věta).

Důkaz. Platí

||x + y||^{2} = (x + y, x + y) = (x, x) + 2(x, y) + (y, y) = ||x||^{2} + 2(x, y) + ||y||^{2}.

Odtud ihned plyne Pythagorova věta. Použitím Věty 11.51 dostaneme dále

||x + y||^{2} = ||x||^{2} + 2(x, y) + ||y||^{2} ≤ ||x||^{2} + 2||x|| · ||y|| + ||y||^{2} = (||x|| + ||y||)^{2}.

□

Definice 11.29. Nenulové vektory e_{1}, …, e_{n} tvoří ortogonální bázi v n-dimenzionálním euklidovském vektoru V, platí-li

(e_{i}, e_{j}) = 0, kdykoliv i ≠ j.

Je-li navíc ||e_{i}|| = 1 pro všechna i = 1, …, n, nazýváme e_{1}, …, e_{n} ortonormální báze ve V.

Věta 11.53. Vektory v libovolné ortogonální bázi e_{1}, …, e_{n} jsou lineárně nezávislé.

Důkaz. Kdyby byly vektory e_{1}, …, e_{n} lineárně závislé, existovalo by i ≥ 1 takové, že vektor e_{i+1} by byl lineárně závislý na vektorech e_{1}, …, e_{i}. Platilo by tedy e_{i+1} = a_{1}e_{1} + ⋯ a_{i}e_{i}. Pak ale

(e_{i+1} , e_{i+1} ) = (e_{i+1} , a_{1}e_{1} + ⋯ + a_{i}e_{i}) = a_{1}(e_{i+1} , e_{1}) + ⋯ + a_{i}(e_{i+1} , e_{i}) = 0.

Z vlastnosti c) skalárního součinu odtud plyne e_{i+1} = 0, což je ve sporu s tím, že prvky ortogonální báze jsou nenulové. □

Dále si ukážeme, že v každém euklidovském prostoru existuje ortonormální báze. K důkazu použijeme metodu, které se říká Gramm-Schmidtova ortogonalizace. Uděláme to takhle: buď x_{1}, …, x_{n} lineárně nezávislé vektory v euklidovském prostoru V. Sestrojíme vektory e_{1}, …, e_{n} takové, že generují prostor V, a jsou navíc navzájem ortogonální.

Položíme e_{1} = x_{1}. Vektor e_{2} budeme hledat ve tvaru e_{2} = x_{2}+ae_{1}. Chceme, aby platilo (e_{2}, e_{1}) = 0, tj. 0 = (x_{2} + ae_{1}, e_{1}) = (x_{2}, e_{1}) + a(e_{1}, e_{1}). Odtud vypočteme

a = −\frac{(x_{2}, e_{1})}{(e_{1}, e_{1})}

a tedy

e_{2} = x_{2} − \frac{(x_{2}, e_{1})}{(e_{1}, e_{1})} e_{1}.

Předpokládejme, že pro nějaké k < n už máme sestrojené vektory e_{1}, …, e_{k}, které jsou po dvou ortogonální a generují stejný podprostor V jako vektory x_{1}, …, x_{k}. Vektor e_{k+1} budeme hledat ve tvaru

e_{k+1} = x_{k+1} + a_{1}e_{1} + ⋯ + a_{k}e_{k}.

Skaláry a_{i} najdeme tak, že poslední rovnost postupně skalárně násobíme vektory e_{i}, i = 1, …, k. Po úpravě dostáváme

(e_{k+1} , e_{i}) = (x_{k+1} , e_{i}) + a_{i}(e_{i}, e_{i}),

čili

a_{i} = −\frac{(x_{k+1} , e_{i})}{(e_{i}, e_{i})}

pro i = 1, …, k.

Vzhledem k tomu, že vektory x_{1}, …, x_{k} a e_{1}, …, e_{k} generují stejný podprostor, a vektor x_{k+1} je lineárně nezávislý na vektorech x_{1}, …, x_{k}, je vektor x_{k+1} také lineárně nezávislý na vektorech e_{1}, …, e_{k}. Proto je e_{k+1} ≠ 0. Z první rovnosti předchozího odstavce pak plyne, že vektor x_{k+1} je lineárně závislý na vektorech e_{1}, …, e_{k+1} a proto vektory x_{1}, …, x_{k+1} generují stejný podprostor V jako vektory e_{1}, …, e_{k+1} .

Dále platí

(e_{k+1} , e_{i}) = (x_{k+1} , e_{i}) + a_{1}(e_{1}, e_{i}) + ⋯ + a_{k}(e_{k}, e_{i}) = (x_{k+1} , e_{i}) + a_{i}(e_{i}, e_{i}) = 0

pro i = 1, …, k. Tím je dokázáno indukcí podle dimenze prostoru V první tvrzení následující věty.

K důkazu druhé části stačí nahradit každý vektor e_{i} vektorem

e′_{i} = \frac{e_{i}}{(e_{i}, e_{i})} .

Věta 11.54. V každém euklidovském prostoru V existuje ortogonální báze. V každém euklidovském prostoru V existuje ortonormální báze. □

Věta 11.55. Buď e_{1}, …, e_{n} ortonormální báze v euklidovském prostoru V, x, y ∈ V libovolné dva vektory a x = ∑_{1}^{n} a_{i}e_{i}, y = ∑_{1}^{n} b_{i}e_{i} jejich vyjádření pomocí báze e_{1}, …, e_{n}. Potom

(x, y) = ∑_{i=1}^{n}a_{i}b_{i}.

Důkaz. Stačí využít rovností (e_{i}, e_{j}) = δ_{ij} pro i, j = 1, …, n. Pak dostaneme

(x, y) = (∑_{1}^{n}a_{i}e_{i}, ∑_{1}^{n}b_{i}e_{i}) = ∑_{i,j=1}^{n} a_{i}b_{j}(e_{i}, e_{j}) = ∑_{i,j=1}^{n} a_{i}b_{j}δ_{ij} = ∑_{i=1}^{n}a_{i}b_{i}.

□

Věta 11.56. Buď e_{1}, …, e_{n} ortonormální báze v euklidově prostoru V a x ∈ V libovolný vektor. Je-li

x = ∑_{i=1}^{n}a_{i}e_{i}

vyjádření vektoru x pomocí báze e_{1}, …, e_{n}, pak a_{i} = (x, e_{i}) pro i = 1, …, n.

Důkaz. Buď e_{1}, …, e_{n} ortonormální báze v prostoru V a

x = a_{1}e_{1} + a_{2}e_{2} + ⋯ + a_{n}e_{n}

vyjádření vektoru x pomocí této báze. Vynásobíme-li toto vyjádření skalárně vektorem e_{i}, dostaneme (x, e_{i}) = a_{i} pro i = 1, …, n. □

Dále si ukážeme, že všechny euklidovské prostory téže dimenze n jsou izomorfní.

Definice 11.30. Buď U a V dva euklidovské prostory. Izomorfizmus F : U → V lineárních prostorů U, V se nazývá izomorfizmus euklidových prostorů U a V, platí-li

(x, y)_{U} = (F (x), F (y))_{V}

pro každé dva vektory x, y ∈ U.

Věta 11.57. Každé dva euklidovské prostory téže dimenze n jsou izomorfní.

Důkaz. Dokážeme, že každý n-dimenzionální euklidův prostor je izomorfní jistému standardnímu euklidovu prostoru. Standardní euklidův prostor je aritmetický n-dimenzionální vektorový prostor R^{n} vybavený obvyklým skalárním součinem: jsou-li u = (u_{1}, u_{2}, …, u_{n}) a v = (v_{1}, v_{2}, …, v_{n}) dva vektory prostoru R^{n}, pak jejich skalární součin je definován

(u, v)_{R^{n}} = ∑_{i=1}^{n}u_{i}v_{i}.

Buď nyní V libovolný euklidův prostor dimenze n. Podle Věty 11.54 v něm existuje ortonormální báze e_{1}, …, e_{n}. Vezměme nyní vektory x, y ∈ V a jejich vyjádření x = ∑_{1}^{n} a_{i}e_{i} a y = ∑_{1}^{n} b_{i}e_{i} pomocí této báze. Podle Věty 11.55 platí

(x, y)_{V} = ∑_{i=1}^{n}a_{i}b_{i}.

Zobrazení F : V → R^{n} definované předpisem

F (x) = (a_{1}, a_{2}, …, a_{n}),

kde x = ∑_{1}^{n} a_{i}e_{i} je vyjádření x pomocí báze e_{1}, …, e_{n}, je izomorfizmus lineárních prostorů V a R^{n} podle Věty 6.24. Potom F (x) = (a_{1}, a_{2}, …, a_{n}) a F (y) = (b_{1}, b_{2}, …, b_{n}) a tedy

(F (x), F (y))_{R^{n}} = ∑_{i=1}^{n}a_{i}b_{i} = (x, y)_{V}.

Tím je dokázáno, že každý n-dimenzionální euklidův prostor V je izomorfní standardnímu n-dimenzionálnímu euklidovu prostoru R^{n}. Odtud plyne, že každé dva n-dimenzionální euklidovy prostory jsou izomorfní. □

Definice 11.31. Buď V euklidův prostor a P jeho podprostor. Vektor x ∈ V je ortogonální k P, platí-li (x, z) = 0 pro každý prvek z ∈ P. Množina všech vektorů prostoru V ortogonálních k P se nazývá ortogonální doplněk podprostoru P v prostoru V a označuje se P^{⊥}.

Lemma 11.58. Pro každý podprostor P euklidova prostoru V platí a) P^{⊥} je podprostor V,

b) (P^{⊥})^{⊥}.

Důkaz. a) Jsou-li x, y dva libovolné prvky P^{⊥}, a, b libovolná dvě reálná čísla a z ∈ P, pak

(ax + by, z) = a(x, z) + b(y, z) = 0,

tedy také ax + by ∈ P^{⊥}.

b) Jsou-li x ∈ P^{⊥} a z ∈ P libovolné dva prvky, pak (z, x) = (x, z) = 0, tedy z ∈ (P^{⊥})^{⊥}. Proto P ⊆ (P^{⊥})^{⊥}.

Abychom dokázali opačnou inkluzi, zvolme nějakou bázi x_{1}, …, x_{m} v podprostoru P a doplňme ji do báze x_{1}, …, x_{n} celého prostoru V. Pomocí Gram-Schmidtovy ortogonalizace dostaneme ortonormální bázi e_{1}, …, e_{n} prostoru V, ve které prvních m vektorů e_{1}, …, e_{m} tvoří ortonormální bázi P. Potom e_{i} ∈ P^{⊥} pro každé i = m+1, …, n. Vyjádříme libovolný vektor z ∈ V pomocí báze e_{1}, …, e_{n}: z = ∑_{1}^{n} a_{i}e_{i}. Jestliže nyní z ∉ P, pak a_{i} ≠ 0 pro nějaký index i ≥ m + 1. Pro tento index i pak platí (z, e_{i}) = a_{i} ≠ 0 a tedy z ∉ (P^{⊥})^{⊥}. Tím je dokázána opačná inkluze (P^{⊥})^{⊥} ⊆ P. □

Věta 11.59. Buď V euklidův prostor dimenze n a P jeho podprostor dimenze m < n. Buď x ∈ P libovolný prvek, který neleží v P. Potom existuje právě jeden vektor x_{0} ∈ P takový, že

||x − x_{0}|| < ||x − y||

pro libovolný prvek y ∈ P různý od x_{0}. Pro tento prvek x_{0} platí, že x − x_{0} ∈ P^{⊥}.

Vektor x_{0} se nazývá pata kolmice spuštěné z vektoru x na podprostor P nebo také ortogonální projekce vektoru x na podprostor P.

Důkaz. Je-li x_{0} ∈ P takový vektor, že x − x_{0} ∈ P^{⊥} a y ≠ x_{0} libovolný prvek P, pak x_{0}, y ∈ P a tedy x − x_{0} je ortogonální k x_{0} − y. Podle Důsledku 11.52 (Pythagorova věta) dostáváme

||x − y||^{2} = ||x − x_{0}||^{2} + ||x_{0} − y||^{2} > ||x − x_{0}||^{2}.

K dokončení důkazu Věty 11.59 stačí ukázat, že existuje vektor x_{0} ∈ P takový, že x − x_{0} ∈ P^{⊥}. K tomu zvolíme nějakou bázi e_{1}, …, e_{m} podprostoru P. Potom můžeme vyjádřit hledaný vektor x_{0} ∈ P ve tvaru

x_{0} = c_{1}e_{1} + ⋯ + c_{m}e_{m},

kde c_{1}, …, c_{m} jsou nějaká reálná čísla. Má-li být x − x_{0} ∈ P^{⊥}, musí platit (x − x_{0}, e_{i}) = 0 pro i = 1, …, m, neboli (x_{0}, e_{i}) = (x, e_{i}) pro i = 1, …, m. Dosadíme-li za x_{0} jeho vyjádření pomocí báze e_{1}, …, e_{m}, dostaneme dále

(c_{1}e_{1} + ⋯ + c_{m}e_{m}, e_{i}) = c_{1}(e_{1}, e_{i}) + ⋯ + c_{m}(e_{m}, e_{i}) = (x, e_{i})

pro i = 1, …, m. Neznámé koeficienty c_{1}, …, c_{m} tak musí splňovat soustavu m lineárních rovnic o m neznámých.

Předpokládejme dále, že e_{1}, …, e_{m} je ortonormální báze prostoru P. Potom i-tá rovnice naší soustavy se rovná

(x, e_{i}) = c_{i},

takže naše soustava má v tomto případě právě jedno řešení c_{1}, …, c_{m}. Protože v každém euklidově prostoru existuje ortonormální báze, je tím dokázána existence vektoru x_{0} ∈ P, pro který platí x − x_{0} ∈ P^{⊥}. Tím je věta dokázána. □

Vraťme se ještě k soustavě

c_{1}(e_{1}, e_{i}) + c_{2}(e_{2}, e_{i}) + ⋯ + c_{m}(e_{m}, e_{i}) = (x, e_{i}),

i = 1, …, m, kde e_{1}, …, e_{m} je libovolná (ne nutně ortonormální) báze podprostoru P. Jsou-li reálná čísla c_{1}, …, c_{m} řešením této soustavy, pak vektor x_{0} = ∑_{i=1}^{m} c_{i}e_{i} má tu vlastnost, že x − x_{0} ∈ P^{⊥}. Podle předchozí věty takový vektor existuje právě jeden. Naše soustava má tedy rovněž právě jedno řešení. Odtud plyne, že její matice

(e_{1}, e_{1}) (e_{2}, e_{1}) … (e_{m}, e_{1})
(e_{1}, e_{2}) (e_{2}, e_{2}) … (e_{m}, e_{2})
⋮  ⋮  ...  ⋮
(e_{1}, e_{m}) (e_{2}, e_{m}) … (e_{m}, e_{m})

je regulární.

Poslední matici můžeme definovat pro libovolný systém m vektorů e_{1}, …, e_{m} (i v případě, že netvoří bázi). Tato matice se nazývá Grammova matice systému vektorů e_{1}, …, e_{m}.

Metoda nejmenších čtverců. Předpokládejme, že y a x_{1}, …, x_{m} jsou nějaké proměnné veličiny, které mohou nabývat reálných hodnot. Dále předpokládáme, že veličina y je lineárně závislá na veličinách x_{1}, …, x_{m}, tj. platí

y = c_{1}x_{1} + c_{2}x_{2} + ⋯ + c_{m}x_{m},

kde c_{1}, …, c_{m} jsou nějaká reálná čísla. Tato čísla neznáme, můžeme ale provádět měření veličin y, x_{1}, …, x_{m}. Provedeme n nezávislých měření a nechť při k-tém měření má proměnná y hodnotu y_{k} a proměnné x_{1}, …, x_{n} mají hodnoty x_{1k}, …, x_{mk}. Koeficienty c_{1}, …, c_{m} se pak můžeme pokusit vypočítat ze soustavy

c_{1}x_{1k} + c_{2}x_{2k} + ⋯ + c_{m}x_{mk} = y_{k},

kde k = 1, …, n. Budeme dále předpokládat, že počet měření n je větší než m. Naše soustava má tedy více rovnic než neznámých. Měření hodnot proměnných veličin y, x_{1}, …, x_{m} jsou navíc zatížena chybami, a tak je pravděpodobné, že naše soustava nebude mít žádné řešení.

Pokusíme se najít koeficienty c_{1}, …, c_{m} tak, aby si levé a pravé strany naší soustavy byly “co nejblíže”. “Blízkost” můžeme měřit různými způsoby. Jedna z často používaných měr blízkosti je kvadratická odchylka levých stran naší soustavy od pravých stran. Kvadratická odchylka se definuje jako

∑_{k=1}^{n}(c_{1}x_{1k} + c_{2}x_{2k} + ⋯ + c_{m}x_{mk} − y_{k})^{2}.

Budeme hledat koeficienty c_{1}, …, c_{m} tak, aby kvadratická odchylka levých stran soustavy od pravých byla co nejmenší. Vezmeme si standardní n-dimenzionální euklidův prostor R^{n} a v něm vektory e_{i} = (x_{i1}, x_{i2}, …, x_{in}) pro i = 1, …, m, a vektor f = (y_{1}, y_{2}, …, y_{n}).

Levé strany naší soustavy jsou souřadnice vektoru c_{1}e_{1} + ⋯ c_{m}e_{m} a pravé strany soustavy jsou souřadnice vektoru f. Kvadratická odchylka levých stran soustavy od pravých se potom rovná druhé mocnině euklidovy vzdálenosti vektorů c_{1}e_{1} + ⋯ c_{m}e_{m} a f. Označme P podprostor R^{n} generovaný vektory e_{1}, …, e_{m}. Podle Věty 11.59 existuje právě jeden vektor f_{0} ∈ P, který má od f mezi všemi vektory podprostoru P nejmenší vzdálenost. Je to pata kolmice spuštěné z vektoru f na podprostor P. Tuto patu kolmice můžeme vypočítat pomocí postupu z důkazu Věty 11.59 a poznámek následujících, pokud jsou vektory e_{1}, …, e_{m} lineárně nezávislé. Koeficienty c_{1}, …, c_{m} jsou potom určené jednoznačně. Jsou řešením soustavy

c_{1}(e_{1}, e_{i}) + ⋯ + c_{m}(e_{m}, e_{i}) = (f, e_{i}),

i = 1, …, m, kde

(f, e_{i}) = ∑_{k=1}^{n}x_{ik}y_{k}, (e_{j}, e_{i}) = ∑_{k=1}^{n}x_{jk}x_{ik}.

Pokud nejsou vektory e_{1}, …, e_{m} lineárně nezávislé, má jednoznačně určená ortogonální projekce vektoru f na podprostor P různá vyjádření jako lineární kombinace vektorů e_{1}, …, e_{m}. Proto také koeficienty c_{1}, …, c_{m} nejsou v tomto případě určené jednoznačně. Pro výpočet koeficientů c_{1}, …, c_{m} napřed najdeme nějakou lineárně nezávislou podmnožinu množiny vektorů e_{1}, …, e_{m} a potom postupujeme podobně jako v předchozím případě (lineárně nezávislých vektorů e_{1}, …, e_{m}).

Příklad. Nechť jsou (x_{1}, y_{1}), …, (x_{n}, y_{n}) body v euklidově rovině. Najděte přibližné řešení soustavy rovnic

x_{k}c = y_{k}, k = 1, …, n,

metodou nejmenších čtverců. Jaký je geometrický význam konstanty c?