Kapitola 2

Gaussova eliminace

Název druhé kapitoly je současně názvem nejčastěji používané metody (algoritmu) pro řešení soustav lineárních rovnic. Gaussova eliminační metoda pro řešení soustavy lineárních rovnic sestává ze dvou kroků:

• převedení rozšířené matice soustavy pomocí elementárních řádkových úprav do řádkově odstupňovaného tvaru pomocí Gaussovy eliminace,

• nalezení všech řešení soustavy pomocí zpětné substituce.

Oba kroky si nyní podrobně rozebereme. Začneme definicí řádkově odstupňovaného tvaru.

Definice 2.1 Matice E = (a_{ij}) tvaru m × n je v řádkově odstupňovaném tvaru, jestliže splňuje dvě následující podmínky:

• obsahuje-li i-tý řádek E_{i∗} samé nuly, pak všechny řádky pod i-tým řádkem jsou také nulové,

• je-li v i-tém řádku E_{i∗} první nenulový prvek v j-tém sloupci (tj. na místě (i, j)), pak všechny prvky, které leží v prvních j sloupcích a současně pod i-tým řádkem, se rovnají 0.

První nenulový prvek v každém řádku nazýváme pivot.

První podmínka říká, že u matice v řádkově odstupňovaném tvaru jsou všechny nulové řádky v dolní části matice. Z druhé podmínky vyplývá, že matice v řádkově odstupňovaném tvaru má tolik pivotů, kolik má nenulových řádků. V každém nenulovém řádku je právě jeden pivot.

Cvičení 2.1 Rozhodněte, které z následujících matic jsou a které nejsou v řádkově odstupňovaném tvaru:

A = ( \begin{matrix}0 & 1 & 2 & 0 & 3 \\ 1 & 0 & 2 & 4 & −1 \\ 0 & 0 & 2 & 1 & 0 \\ 0 & 0 & 0 & 3 & 0 \end{matrix} )  B = ( \begin{matrix}1 & 1 & 2 & 0 & 3 \\ 0 & 0 & 2 & 4 & −1 \\ 0 & 0 & 0 & 1 & 0 \\ 0 & 0 & 0 & 0 & 0 \end{matrix} )

C = ( \begin{matrix}0 & 1 & 2 & 0 & 3 & 0 \\ 0 & 0 & 2 & 4 & −1 & 5 \\ 0 & 0 & 0 & 1 & 0 & 2 \\ 0 & 0 & 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 & −1 \end{matrix} )  D = ( \begin{matrix}0 & 1 & 2 & 0 \\ 0 & 1 & 2 & 4 \\ 0 & 0 & 0 & 1 \\ 0 & 0 & 0 & 0 \end{matrix} )

Označte pivoty v těch maticích, které jsou v řádkově odstupňovaném tvaru.

Gaussova eliminace – algoritmus pro převedení libovolné matice do řádkově odstupňovaného tvaru pomocí elementárních řádkových úprav – spočívá v několikerém opakování jednoho a téhož cyklu na stále menší matice. Ukážeme si jeden průběh cyklu. Nechť je dána matice A = (a_{kl}) tvaru m×n. Předpokládáme, že cyklus Gaussovy eliminace již proběhl (i − 1)-krát a z matice A jsme dostali matici B = (b_{kl}). Tento předpoklad také připouští možnost i−1 = 0, tj. že výpočet pomocí Gaussovy eliminace začíná s maticí B = A. Cyklus sestává z následujících kroků:

• prohlížíme sloupce matice B zleva a najdeme první sloupec, který obsahuje nenulový prvek v i-tém řádku nebo v nějakém řádku pod itým řádkem; pokud takový sloupec neexistuje, pokračujeme posledním krokem,

• je-li první takový sloupec B_{∗j}, označíme si místo (i, j) jako místo pro i-tý pivot,

• je-li prvek b_{ij} na místě (i, j) rovný 0, přesuneme pomocí první elementární řádkové úpravy na místo i-tého řádku libovolný řádek pod i-tým řádkem, ve kterém je prvek v j-tém sloupci nenulový; v opačném případě pokračujeme hned následujícím krokem,

• pokud je na místě (i, j) nenulové číslo, přičteme ke všem ostatním řádkům pod i-tým řádkem vhodné násobky i-tého řádku tak, abychom vynulovali všechny prvky ve sloupci B_{∗j}, které se nacházejí pod pivotem na místě (i, j) (tj. opakovaně používáme třetí elementární úpravu), • pokud jsou všechny prvky v i-tém řádku matice B a ve všech řádcích

pod ním nulové, algoritmus končí.

Průběh celého algoritmu si ukážeme v následující úloze.

Úloha 2.1 Převeďte následující matici do řádkově odstupňovaného tvaru pomocí Gaussovy eliminace:

( \begin{matrix}1 & 2 & 1 & 4 & 1 \\ 2 & 4 & 0 & 4 & 4 \\ 1 & 2 & 3 & 8 & −1 \\ 2 & 4 & 0 & 4 & 7 \end{matrix} ) .

Řešení. Čísla na místech pro pivoty jsou vyznačena tučně:

( \begin{matrix}1 & 2 & 1 & 4 & 1 \\ 2 & 4 & 0 & 4 & 4 \\ 1 & 2 & 3 & 8 & −1 \\ 2 & 4 & 0 & 4 & 7 \end{matrix} ) ∼ ( \begin{matrix}1 & 2 & 1 & 4 & 1 \\ 0 & 0 & −2 & −4 & 2 \\ 0 & 0 & 2 & 4 & −2 \\ 0 & 0 & −2 & −4 & 5 \end{matrix} ) ∼

( \begin{matrix}1 & 2 & 1 & 4 & 1 \\ 0 & 0 & −2 & −4 & 2 \\ 0 & 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 & 3 \end{matrix} ) ∼ ( \begin{matrix}1 & 2 & 1 & 4 & 1 \\ 0 & 0 & −2 & −4 & 2 \\ 0 & 0 & 0 & 0 & 3 \\ 0 & 0 & 0 & 0 & 0 \end{matrix} ) .

□

Ověřit, že po skončení Gaussovy eliminace dostaneme matici v řádkově odstupňovaném tvaru, není obtížné. Především si všimněme, že pokud v itém průběhu cyklu nepřeskočíme druhý krok, zůstane po vykonání třetího a čtvrtého kroku na místě (i, j) nenulový prvek. Proběhne-li celý i-tý cyklus, prvních i řádků nové matice je nenulových.

Pokud tedy v prvním kroku i-tého cyklu žádný nenulový prvek nenajdeme, znamená to, že i-tý řádek a všechny řádky pod ním jsou nulové. Řádky nad i-tým řádkem jsou naopak nenulové. Matice tak splňuje první podmínku z Definice 2.1.

Pokud v prvním kroku i-tého cyklu najdeme nějaký nenulový prvek a ve druhém kroku místo (i, j) pro i-tý pivot, znamená to, že všechny prvky matice B, které jsou v prvních j − 1 sloupcích a současně v i-tém řádku B_{i∗} nebo v nějakém řádku pod ním, nulové. Po proběhnutí třetího a čtvrtého kroku bude na místě (i, j) nenulový prvek a všechny prvky pod ním budou nulové. První nenulový prvek v i-tém řádku tak bude na místě (i, j). Stejně tak všechny prvky v prvních j sloupcích a pod i-tým řádkem budou nulové. Nová matice tak bude splňovat druhou podmínku Definice 2.1 pro i-tý řádek. Po skončení Gaussovy eliminace proto bude celá matice splňovat také druhou podmínku definice řádkově odstupňovaného tvaru.

Cvičení 2.2 Napište program pro Gaussovu eliminaci.

Později si dokážeme následující důležité tvrzení.

Tvrzení 2.2 Je-li A libovolná matice a je-li E nějaká matice v řádkově odstupňovaném tvaru, kterou dostaneme z A pomocí elementárních řádkových úprav, pak jsou místa pro pivoty v matici E určená maticí A jednoznačně.

Pivoty samotné, stejně jako celá matice E, nejsou maticí A určené jednoznačně.

Cvičení 2.3 Najděte matici A, kterou lze různými posloupnostmi elementárních řádkových úprav převést do matic v řádkově odstupňovaném tvaru, které mají na stejných místech různé pivoty.

Následující definice zavádí mimo jiné důležitý pojem hodnosti matice.

Definice 2.3 Je-li A libovolná matice, pak počet pivotů (tj. počet nenulových řádků) v libovolné matici v řádkově odstupňovaném tvaru, kterou dostaneme z A pomocí elementárních řádkových úprav, nazýváme hodnost matice A. Hodnost matice A budeme označovat r(A) (symbol r pochází z anglického slova rank).

Sloupce matice A, ve kterých leží místo pro nějaký pivot, nazýváme bázové sloupce matice A.

Hodnost r(A) se tak rovná také počtu bázových sloupců matice A. Všimněte si, že smysluplnost definice hodnosti matice závisí na zatím nedokázaném Tvrzení 2.2.

Cvičení 2.4 Najděte místa pro pivoty ve všech maticích ze Cvičení 2.1. Určete hodnost těchto matic.

Nyní se budeme zabývat otázkou, kdy soustava lineárních rovnic nemá žádné řešení, kdy je neřešitelná. Máme-li soustavu m lineárních rovnic o n neznámých

a_{11}x_{1} + a_{12}x_{2} + ⋯ + a_{1n}x_{n} = b_{1},
a_{21}x_{1} + a_{22}x_{2} + ⋯ + a_{2n}x_{n} = b_{2},
⋮  (2.1)
a_{m1}x_{1} + a_{m2}x_{2} + ⋯ + a_{mn}x_{n} = b_{m},

označíme A = (a_{ij}) matici této soustavy a b = (b_{1}, b_{2}, …, b_{m})^{T} sloupcový vektor pravých stran. Rozšířenou matici této soustavy budeme zapisovat také [A|b].

Tvrzení 2.4 Soustava (2.1) nemá řešení, pokud je sloupec pravých stran b bázový sloupec rošířené matice soustavy [A|b].

Sloupec b je bázový sloupec rozšířené matice soustavy [A|b] právě když r(A) < r[A|b].

Důkaz. Matici [A|b] převedeme pomocí elementárních řádkových úprav do řádkově odstupňovaného tvaru [E|c]. Je-li b bázový sloupec matice [A|b], obsahuje tento sloupec nějaké místo pro pivot. Toto místo leží řekněme v i-tém řádku. V matici [E|c] je v i-tém řádku jediný nenulový prvek c v posledním sloupci. Protože elementárním řádkovým úpravám matice [A|b] odpovídají elementární úpravy soustavy, které podle Tvrzení 1.3 nemění množinu všech řešení soustavy, má soustava (2.1) stejná řešení jako soustava s rozšířenou maticí [E|c]. Rovnice této soustavy odpovídající i-tému řádku matice [E|c] má tvar

0x_{1} + 0x_{2} + ⋯ + 0x_{n} = c.

Protože je c ≠ 0, nemá tato rovnice žádné řešení. Tím také celá soustava s rozšířenou maticí [E|c] nemá žádné řešení. Proto je soustava (2.1) rovněž neřešitelná.

Všimněme si, že matice E je v řádkově odstupňovaném tvaru a že jsme ji dostali z A pomocí elementárních řádkových úprav. Bázové sloupce matice A jsou proto také bázovými sloupci matice [A|b]. Jestliže je r(A) < r[A|b], sloupec pravých stran musí být bázový v matici [A|b].

Naopak, je-li b bázový sloupec matice [A|b], má tato matice více bázových sloupců než matice A, proto r(A) < r[A|b]. Tím je dokázána ekvivalence obou tvrzení z druhého odstavce. □

Tvrzení 2.4 doplníme důkazem, že soustava (2.1) je řešitelná, pokud sloupec pravých stran b není bázový sloupec rozšířené matice [A|b] této soustavy. Ukážeme, jak v takovém případě najít všechna řešení soustavy.

Začneme případem, kdy platí b_{i} = 0 pro všechny indexy i = 1, …, m. Takovou soustavu nazýváme homogenní soustava lineárních rovnic. Otázka řešitelnosti homogenních soustav je triviální. Soustava

a_{11}x_{1} + a_{12}x_{2} + ⋯ + a_{1n}x_{n} = 0,
a_{21}x_{1} + a_{22}x_{2} + ⋯ + a_{2n}x_{n} = 0,
⋮  (2.2)
a_{m1}x_{1} + a_{m2}x_{2} + ⋯ + a_{mn}x_{n} = 0

má vždy aspoň jedno řešení x_{1} = x_{2} = ⋯ = x_{n} = 0. Nazýváme jej triviální řešení. Homogenní soustava může mít ještě další řešení, jak ukazuje následující úloha.

Úloha 2.2 Najděte všechna řešení soustavy

x_{1} + 2x_{2} + 2x_{3} + 3x_{4} = 0,
2x_{1} + 4x_{2} + x_{3} + 3x_{4} = 0,
3x_{1} + 6x_{2} + x_{3} + 4x_{4} = 0.

Řešení. Rozšířenou matici soustavy

( \begin{matrix}1 & 2 & 2 & 3 & 0 \\ 2 & 4 & 1 & 3 & 0 \\ 3 & 6 & 1 & 4 & 0 \end{matrix} )

převedeme Gaussovou eliminací do řádkově odstupňovaného tvaru

( \begin{matrix}1 & 2 & 2 & 3 & 0 \\ 0 & 0 & −3 & −3 & 0 \\ 0 & 0 & 0 & 0 & 0 \end{matrix} ) .

Původní soustava je tedy ekvivalentní soustavě

x_{1} + 2x_{2} + 2x_{3} + 3x_{4} = 0,
− 3x_{3} − 3x_{4} = 0.

Z druhé rovnice dostaneme

x_{3} = −x_{4}

a po dosazení za x_{3} do první rovnice

x_{1} = −2x_{2} − 2x_{3} − 3x_{4} = −2x_{2} − 2(−x_{4}) − 3x_{4}
= −2x_{2} − x_{4}.

Hodnoty neznámých x_{2} a x_{4} můžeme zvolit libovolně a pak dopočítáme hodnoty neznámých x_{1} a x_{3} z posledních dvou rovností.

Řešení soustavy je následující:

x_{1} = −2x_{2} − x_{4},
x_{2}  je “volná neznámá”,
x_{3} = −x_{4},
x_{4}  je “volná neznámá”.

Řešení můžeme také vyjádřit pomocí sloupcových vektorů

( \begin{matrix}x_{1} \\ x_{2} \\ x_{3} \\ x_{4} \end{matrix} ) = ( \begin{matrix}−2x_{2} − x_{4} \\ x_{2} \\ −x_{4} \\ x_{4} \end{matrix} ) = x_{2} ( \begin{matrix}−2 \\ 1 \\ 0 \\ 0 \end{matrix} ) + x_{4} ( \begin{matrix}−1 \\ 0 \\ −1 \\ 1 \end{matrix} ) .

Označíme-li h_{1} = (−2, 1, 0, 0)^{T} a h_{2} = (−1, 0, −1, 1)^{T}, můžeme obecné řešení soustavy vyjádřit ve tvaru

x = x_{2}h_{1} + x_{4}h_{2},

kde x_{2} a x_{4} jsou libovolná reálná čísla. □

Poslední vyjádření množiny všech řešení soustavy připomíná parametrické vyjádření přímky nebo roviny. Zvolíme-li hodnoty parametrů x_{2} = 1 a x_{4} = 0, dostaneme, že vektor h_{1} je řešením soustavy. Podobně také h_{2} je řešením soustavy.

Cvičení 2.5 Najděte všechna řešení několika homogenních soustav lineárních rovnic. Můžete dostat různá parametrická vyjádření množiny všech řešení nějaké soustavy pokud rozšířenou matici této soustavy převedete pomocí elementárních řádkových úprav do různých matic v řádkově odstupňovaném tvaru?

Postup, který jsme použili při řešení Úlohy 2.2, můžeme snadno zobecnit na řešení libovolné homogenní soustavy lineárních rovnic (2.2). Rozšířenou matici soustavy [A|0] převedeme pomocí Gaussovy eliminace do řádkově odstupňovaného tvaru [E|0]. Neznámé, jejichž koeficienty leží v bázových sloupcích matice [A|0], nazveme bázové neznámé. Ostatní neznámé, jejichž koeficienty neleží v bázových sloupcích, nazveme volné neznámé.

Počet bázových neznámých se rovná počtu bázových sloupců matice [A|0], tj. počtu míst pro pivoty v této matici, tj. počtu nenulových řádků v matici [E|0]. Podle Definice 2.3 se tak počet bázových neznámých rovná hodnosti r = r[A|0] = r(A). Počet volných neznámých se proto rovná n−r.

Volné neznámé označíme x_{f_{1}}, x_{f_{2}}, …, x_{f_{n−r}}. Jejich hodnoty můžeme zvolit libovolně. Pak dopočítáme hodnoty bázových neznámých x_{b_{1}}, …, x_{b_{r}} následovně. V matici E je poslední nenulový řádek E_{r∗}. V rovnici, která odpovídá tomuto řádku, je nenulový koeficient u jediné bázové neznámé x_{b_{r}}. Z této rovnice můžeme proto vyjádřit neznámou x_{b_{r}} pomocí volných neznámých.

Předpokládejme, že jsme už našli vyjádření všech bázových neznámých x_{b_{i+1}} , …, x_{b_{r}} pomocí volných neznámých. V rovnici odpovídající i-tému řádku matice E je určitě nenulový koeficient u bázové neznámé x_{b_{i}}. Z bázových neznámých mohou mít nenulové koeficienty pouze x_{b_{i+1}} , …, x_{b_{r}}. Tyto neznámé už umíme vyjádřit pomocí volných neznámých. Po dosazení těchto vyjádření do rovnice odpovídající i-tému řádku matice [E, 0] vyjádříme také bázovou neznámou x_{b_{i}} pomocí volných neznámých.

Tímto postupem, kterému říkáme zpětná substituce, postupně vyjádříme všechny bázové neznámé pomocí volných neznámých. Napíšeme-li tato vyjádření do sloupce včetně volných neznámých, najdeme podobně jako při řešení Úlohy 2.2 obecné řešení soustavy (2.2) ve tvaru

x = x_{f_{1}}h_{1} + x_{f_{2}}h_{2} + ⋯ + x_{f_{n−r}}h_{n−r},

kde h_{1}, h_{2}, …, h_{n−r} jsou vhodná konkrétní řešení této soustavy a x_{f_{1}}, …, x_{f_{n−r}} jsou libovolná reálná čísla. Dokázali jsme tak první část následující věty.

Věta 2.5 Obecné řešení homogenní soustavy lineárních rovnic

a_{11}x_{1} + a_{12}x_{2} + ⋯ + a_{1n}x_{n} = 0,
a_{21}x_{1} + a_{22}x_{2} + ⋯ + a_{2n}x_{n} = 0,
⋮
a_{m1}x_{1} + a_{m2}x_{2} + ⋯ + a_{mn}x_{n} = 0

lze vyjádřit ve tvaru

x = x_{f_{1}}h_{1} + x_{f_{2}}h_{2} + ⋯ + x_{f_{n−r}}h_{n−r},

kde r = r(A) je hodnost matice soustavy A = (a_{ij}), h_{1}, h_{2}, …, h_{n−r} jsou vhodná konkrétní řešení této soustavy, a x_{f_{1}}, …, x_{f_{n−r}} jsou libovolná reálná čísla.

Soustava má pouze triviální řešení právě když r(A) = n.

Důkaz. Zbývá dokázat ekvivalenci z druhého odstavce. Soustava má pouze triviální řešení právě když není žádná neznámá volná. To je právě když jsou všechny sloupce matice A bázové. Z Definice 2.3 plyne, že všechny sloupce matice A jsou bázové právě když r(A) = n. □

Řešení soustavy s obecnou pravou stranou probíhá analogicky.

Úloha 2.3 Najděte všechna řešení soustavy

x_{1} + 2x_{2} + 2x_{3} + 3x_{4} = 4,
2x_{1} + 4x_{2} + x_{3} + 3x_{4} = 5,
3x_{1} + 6x_{2} + x_{3} + 4x_{4} = 7.

Řešení. Rozšířenou matici soustavy

[A|b] = ( \begin{matrix}1 & 2 & 2 & 3 & 4 \\ 2 & 4 & 1 & 3 & 5 \\ 3 & 6 & 1 & 4 & 7 \end{matrix} )

převedeme Gaussovou eliminací do řádkově odstupňovaného tvaru

( \begin{matrix}1 & 2 & 2 & 3 & 4 \\ 0 & 0 & −3 & −3 & −3 \\ 0 & 0 & 0 & 0 & 0 \end{matrix} ) = [E|c].

Původní soustava je tedy ekvivalentní soustavě

x_{1} + 2x_{2} + 2x_{3} + 3x_{4} = 4,
− 3x_{3} − 3x_{4} = −3.

Z druhé rovnice dostaneme

x_{3} = 1 − x_{4}

a po dosazení za x_{3} do první rovnice

x_{1} = 2 − 2x_{2} − x_{4}.

Hodnoty neznámých x_{2} a x_{4} můžeme zvolit libovolně a pak dopočítáme hodnoty neznámých x_{1} a x_{3} z posledních dvou rovností.

Řešení soustavy je následující:

x_{1} = 2 − 2x_{2} − x_{4},
x_{2}  je “volná neznámá”,
x_{3} = 1 − x_{4},
x_{4}  je “volná neznámá”.

Vyjádříme-li řešení pomocí sloupcových vektorů, dostaneme

( \begin{matrix}x_{1} \\ x_{2} \\ x_{3} \\ x_{4} \end{matrix} ) = ( \begin{matrix}2 − 2x_{2} − x_{4} \\ x_{2} \\ 1 − x_{4} \\ x_{4} \end{matrix} ) = ( \begin{matrix}2 \\ 0 \\ 1 \\ 0 \end{matrix} ) + x_{2} ( \begin{matrix}−2 \\ 1 \\ 0 \\ 0 \end{matrix} ) = x_{4} ( \begin{matrix}−1 \\ 0 \\ −1 \\ 1 \end{matrix} ) .

Označíme-li p = (2, 0, 1, 0)^{T}, h_{1} = (−2, 1, 0, 0)^{T} a h_{2} = (−1, 0, −1, 1)^{T}, můžeme obecné řešení soustavy vyjádřit ve tvaru

x = p + x_{2}h_{1} + x_{4}h_{2},

kde x_{2} a x_{4} jsou libovolná reálná čísla. □

Všimněte si, že vektor p je jedním konkrétním řešením soustavy, zvolímeli hodnoty volných neznámých x_{2} = x_{4} = 0. Srovnáme-li řešení Úlohy 2.3 s řešením Úlohy 2.2, vidíme že obecné řešení nehomogenní soustavy dostaneme jako součet konkrétního řešení p této soustavy a obecného řešení x_{2}h_{1} + x_{4}h_{2} příslušné homogenní soustavy

x_{1} + 2x_{2} + 2x_{3} + 3x_{4} = 0,
2x_{1} + 4x_{2} + x_{3} + 3x_{4} = 0,
3x_{1} + 6x_{2} + x_{3} + 4x_{4} = 0.

Tato vlastnost není žádnou specialitou soustavy řešené v Úloze 2.3. Dokážeme si to ve Větě 2.7.

Postup pro řešení obecné soustavy (2.1) je analogický postupu pro řešení homogenní soustavy (2.2).

• Pomocí Gaussovy eliminace převedeme matici [A|b] do řádkově odstupňovaného tvaru [E|c].

Je-li sloupec pravých stran c bázovým sloupcem matice [E|c], je soustava (2.1) neřešitelná podle Tvrzení 2.4. Pokud není bázovým sloupcem matice [E|c], pokračujeme následujícími kroky.

• Identifikujeme bázové a volné neznámé podle toho, jsou-li sloupcové vektory jejich koeficientů bázové sloupce matice [E|c].

• Pomocí zpětné substituce vyjádříme bázové neznámé pomocí volných neznámých.

• Vyjádříme obecné řešení ve tvaru

x = p + x_{f_{1}}h_{1} + x_{f_{2}}h_{2} + ⋯ + x_{f_{n−r}}h_{r},

kde p je vhodné konkrétní řešení soustavy (2.1), h_{1}, h_{2}, …, h_{n−r} jsou vhodné sloupcové vektory dimenze m, x_{f_{1}}, …, x_{f_{n−r}} jsou libovolná reálná čísla a r = r(A).

Pokud tedy sloupec pravých stran rozšířené matice [A|b] soustavy (2.1) není bázový sloupec této matice, je soustava řešitelná. Spolu s první částí Tvrzení 2.4 jsme tak dokázali následující důležitou větu.

Věta 2.6 Soustava (2.1) m lineárních rovnic o n neznámých je řešitelná právě když sloupec pravých stran není bázovým sloupcem rozšířené matice [A|b] této soustavy. □

Dokážeme ještě následující větu.

Věta 2.7 Obecné řešení x = p + x_{f_{1}}h_{1} + x_{f_{2}}h_{2} + ⋯ + x_{f_{n−r}}h_{r} řešitelné soustavy (2.1) dostaneme tak, že ke konkrétnímu řešení p této soustavy přičteme obecné řešení

x_{f_{1}}h_{1} + x_{f_{2}}h_{2} + ⋯ + x_{f_{n−r}}h_{r}

příslušné homogenní soustavy (2.2).

Soustava má jednoznačně určené řešení právě když r(A) = n, kde A je matice soustavy.

Důkaz. Označíme p = (p_{1}, p_{2}, …, p_{n})^{T} konkrétní řešení soustavy (2.1). Pro každé j = 1, 2, …, m proto platí

a_{j1}p_{1} + a_{j2}p_{2} + ⋯ + a_{jn}p_{n} = b_{j}.

Dále označíme q = (q_{1}, q_{2}, …, q_{n})^{T} = x_{f_{1}}h_{1} + x_{f_{2}}h_{2} + ⋯ + x_{f_{n−r}}h_{r}. Je-li vektor p + q = (p_{1} + q_{1}, …, p_{n} + q_{n})^{T} také řešení soustavy (2.1), musí platit pro každé j = 1, 2, …, m

a_{j1}(p_{1} + q_{1}) + a_{j2}(p_{2} + q_{2}) + ⋯ + a_{jn}(p_{n} + q_{n}) = b_{j}.

Odtud plyne

b_{j} = a_{j1}(p_{1} + q_{1}) + a_{j2}(p_{2} + q_{2}) + ⋯ + a_{jn}(p_{n} + q_{n}) =
= (a_{j1}p_{1} + a_{j2}p_{2} + ⋯ + a_{jn}p_{n}) + (a_{j1}q_{1} + a_{j2}q_{2} + ⋯ + a_{jn}q_{n}) =
= b_{j} + a_{j1}q_{1} + a_{j2}q_{2} + ⋯ + a_{jn}q_{n}.

Proto

a_{j1}q_{1} + a_{j2}q_{2} + ⋯ + a_{jn}q_{n} = 0

pro každé j = 1, 2, …, m. Vektor q je tedy řešením homogenní soustavy (2.2).

Je-li naopak vektor r = (r_{1}, r_{2}, …, r_{n})^{T} řešením homogenní soustavy (2.2), platí

a_{j1}r_{1} + a_{j2}r_{2} + ⋯ + a_{jn}r_{n} = 0

pro každé j = 1, 2, …, m. Potom

b_{j} = (a_{j1}p_{1} + a_{j2}p_{2} + ⋯ + a_{jn}p_{n}) + (a_{j1}r_{1} + a_{j2}r_{2} + ⋯ + a_{jn}r_{n})
= a_{j1}(p_{1} + r_{1}) + a_{j2}(p_{2} + r_{2}) + ⋯ + a_{jn}(p_{n} + r_{n}).

Vektor p + q je tedy řešením soustavy (2.1).

Právě jsme dokázali, že řešitelná soustava (2.1) má jednoznačně určené řešení právě když příslušná homogenní soustava (2.2) má pouze triviální řešení. Poslední tvrzení tak plyne z Věty 2.5. □

Efektivita Gaussovy eliminace Jak efektivní je algoritmus pro řešení soustavy lineárních rovnic založený na Gaussově eliminaci a zpětné substituci? Efektivitu algoritmu můžeme měřit různými způsoby. Kolik operační paměti je k němu potřeba? Jak dlouho trvá výpočet? Odpověď na první otázku je důležitá v případě, že algoritmus vyžaduje velkou operační paměť. Velikost operační paměti se stále zvětšuje. Moje první PC v roce 1988 mělo 512kB operační paměti. Nyní používám notebook, který má 512MB operační paměti. Důležitost odhadu velikosti operační paměti, která je třeba pro realizaci algoritmu, se proto v čase mění. Nyní lze bez problémů řešit úlohy, jejichž řešení bylo ještě před 10 lety nemyslitelné.

Odpověď na druhou otázku závisí především na rychlosti procesoru. Ta se prudce zvyšuje. Odhad efektivity algoritmu by neměl záviset na tom, jak se vyvíjí hardware, na kterém algoritmus realizujeme. Mnohem vhodnější je spočítat kolik základních operací musí algoritmus vykonat. Zrychlení procesoru znamená zkrácení doby, která je třeba pro realizaci jednotlivých základních operací, nemění ale jejich počet. Gaussova eliminace používá sčítání, odčítání, násobení a dělení. Kromě toho při prohazování řádků matice musí procesor přepsat adresy, kde data uchovává. Doba potřebná pro přepisování adres je zanedbatelná v porovnání s dobou, která je třeba pro provedení základních aritmetických operací. Algoritmy pro základní aritmetické operace jsou většinou shodné s těmi algoritmy, které jsme se učili na prvním stupni základní školy. Doba potřebná pro násobení/dělení je tak podstatně větší než doba potřebná pro sčítání/odčítání. Proto si spočítáme zvlášť, kolikrát je nutné při řešení soustavy lineárních rovnic násobit/dělit, a kolikrát je třeba sčítat/odčítat.

Začneme řešením soustavy n lineárních rovnic o n neznámých, jejíž matice má hodnost n. Lze totiž ukázat, že takové soustavy vyžadují nejvíce operací mezi všemi soustavami, které mají nejvýše n rovnic a nejvýše n neznámých (zkuste si rozmyslet proč).

Tvrzení 2.8 Řešení soustavy n lineárních rovnic o n neznámých, jejíž matice má hodnost n, Gaussovou eliminací a zpětnou substitucí vyžaduje nejvýše

\frac{1}{3}n^{3} + n^{2} − \frac{1}{3}n násobení/dělení, a
\frac{1}{3}n^{3} + \frac{1}{2}n^{2} − \frac{5}{6}n sčítání/odčítání.

Důkaz. Označme matici soustavy A = (a_{ij}). Je to čtvercová matice řádu n a podle předpokladu je její hodnost n. Označme dále vektor pravých stran b. Spočítáme, kolik jakých operací je třeba vykonat při prvním průběhu hlavního cyklu Gaussovy eliminace. Všechny prvky prvního řádku rozšířené matice soustavy [A|b] s výjimkou prvku a_{11} musíme vynásobit číslem a_{21}/a_{11}. Výpočet tohoto prvku vyžaduje jedno dělení a násobení celého prvního řádku s výjimkou prvku a_{11} vyžaduje dalších n násobení. Odečtení (a_{21}/a_{11})-násobku prvního řádku od druhého vyžaduje n odečítání. Řádky sice mají n + 1 prvků, jejich první čísla ale nemusíme odečítat. Koeficient a_{21}/a_{11} jsme zvolili tak, abychom dostali na místě (2, 1) nulu. Celkem tedy pro úpravu druhého řádku potřebujeme

n + 1 násobení/dělení, a
n  sčítání/odčítání.

Tímto způsobem musíme upravit všech n − 1 řádků pod prvním řádkem rozšířené matice soustavy [A|b]. Celkem tedy první průběh cyklu Gaussovy eliminace vyžaduje

(n − 1)(n + 1) = n^{2} − 1  násobení/dělení, a
(n − 1)n = n^{2} − n  sčítání/odčítání.

Při druhém průběhu hlavního cyklu Gaussovy eliminace se nemusíme zabývat prvky v prvním řádku a prvním sloupci. Druhý průběh tedy vyžaduje

(n − 2)n = (n − 1)^{2} − 1  násobení/dělení, a

(n − 2)(n − 1) = (n − 1)^{2} − (n − 1) sčítání/odčítání.

Celá Gaussova eliminace tak vyžaduje

∑_{i=1}^{n}(i^{2} − 1) = \frac{1}{3}n^{3} + \frac{1}{2}n^{2} − \frac{5}{6}n násobení/dělení, a

∑_{i=1}^{n}(i^{2} − i) = \frac{1}{3}n^{3} − \frac{1}{3}n sčítání/odčítání.

Protože má matice A hodnost n, dostaneme po skončení Gaussovy eliminace matici

( \begin{matrix}d_{11} & d_{12} & ⋯ & d_{1n} & e_{1} \\ 0 & d_{22} & ⋯ & d_{2n} & e_{2} \\ ⋮ & ⋮ & ... & ⋮ & ⋮ \\ 0 & 0 & ⋯ & d_{nn} & e_{n} \end{matrix} ) ,

ve které jsou všechny pivoty d_{ii} ≠ 0.

Formulka pro výpočet neznámé x_{i} zpětnou substitucí je

x_{i} = \frac{1}{d_{ii}} (e_{i} − d_{i,i+1} x_{i+1} − d_{i,i+2} x_{i+2} − ⋯ − d_{in}x_{n})

pro i = 1, 2, …, n. Výpočet neznámé x_{i} tak vyžaduje

n − i + 1 násobení/dělení, a
n − i  sčítání/odčítání.

Celkem tedy zpětná substituce vyžaduje

∑_{i=1}^{n}(n − i + 1) = ∑_{i=1}^{n}i = \frac{1}{2}n^{2} + \frac{1}{2}n  násobení/dělení, a

∑_{i=1}^{n}(n − i) = ∑_{i=0}^{n−1}i = \frac{1}{2}n^{2} − \frac{1}{2}n sčítání/odčítání.

Gaussova eliminace spolu se zpětnou substitucí tak vyžaduje celkem

\frac{1}{3}n^{3} + \frac{1}{2}n^{2} − \frac{5}{6}n + \frac{1}{2}n^{2} + \frac{1}{2}n = \frac{1}{3}n^{3} + n^{2} − \frac{1}{3}n  násobení/dělení, a
\frac{1}{3}n^{3} − \frac{1}{3}n + \frac{1}{2}n^{2} − \frac{1}{2}n = \frac{1}{3}n^{3} − \frac{1}{2}n^{2} − \frac{5}{6}n sčítání/odčítání.

□ Cvičení 2.6 Dokažte všechny formulky pro sumy v předchozím důkazu matematickou indukcí podle n.

Spolehlivost Gaussovy eliminace Gaussova eliminace spolu se zpětnou substitucí najde správně všechna řešení dané soustavy lineárních rovnic. Problém nastává v okamžiku, kdy reálná čísla vyjadřujeme pomocí plovoucí desetinné čárky, tj. ve tvaru

±0, d_{1}d_{2} ⋯ d_{t} × β^{ϵ},

kde základ β, exponent ϵ a cifry 0 ≤ d_{i} < β pro i = 1, 2, …, t jsou celá čísla. Takovou reprezentaci reálných čísel používá naprostá většina programovacích jazyků. Obvyklý dekadický zápis dostaneme volbou β = 10. Binární zápis dostaneme, pokud β = 2. 64-bitový procesor přirozeně používá základ β = 2^{64}. Číslo t nazýváme přesnost nebo také počet platných cifer. Problém je, že čísla v tomto vyjádření nejsou uzavřená na základní aritmetické operace. Součin nebo podíl dvou takových čísel může vyžadovat více platných cifer. V takovém případě je výsledek zaokrouhlen na t platných cifer. Aritmetika čísel vyjádřených pomocí plovoucí desetinné čárky není exaktní. Výsledky základních aritmetických operací jsou zatížené zaokrouhlovacími chybami. Tyto chyby se v průběhu delšího výpočtu akumulují a důsledkem může být, že konečný výsledek se velmi liší od správného výsledku, který dostaneme používáme-li exaktní aritmetiku.

Efekt zaokrouhlovacích chyb si ukážeme na řešení soustavy

47x + 28y = 19,
89x + 53y = 36.

Gaussova eliminace následovaná zpětnou substitucí vede při použití exaktní aritmetiky k výsledku

x = 1 a y = −1.

Zkusíme provést zcela stejný postup s přesností na tři platné cifry. První problém nastane hned při pokusu převést rozšířenou matici soustavy

( \begin{matrix}47 & 28 & 19 \\ 89 & 53 & 36 \end{matrix} )

do řádkově odstupňovaného tvaru. Při zaokrouhlování výsledku každé aritmetické operace na tři platné cifry dostaneme po prvním cyklu Gaussovy eliminace matici

( \begin{matrix}47 & 28 & 19 \\ 0, 2 & 0, 1 & 0, 1 \end{matrix} ) .

Pokud tedy nepoužíváme exaktní aritmetiku, může se stát, že se nám nepodaří převést matici do řádkově odstupňovaného tvaru. Potom ale nelze použít zpětnou substituci.

Jedinou možností, jak tento problém obejít, je prostě napsat do matice číslo 0, pokud nějakou operaci provádíme s cílem vynulovat příslušný prvek matice. Čili Gaussova eliminace prováděná s přesností na tři platné cifry vede k matici

( \begin{matrix}47 & 28 & 19 \\ 0 & 0, 1 & 0, 1 \end{matrix} ) .

Zpětnou substitucí pak dostaneme řešení

y = 1 a x = −0, 191.

Problém zaokrouhlovacích chyb můžeme v některých případech odstranit parciální pivotací. Ta spočívá v tom, že na místo pro pivot vždy převedeme pomocí první elementární řádkové úpravy největší číslo v absolutní hodnotě, které lze prohozením příslušného řádku s nějakým řádkem pod ním na toto místo dostat.

Parciální pivotace ale nepomůže vždy. Exaktní řešení soustavy

−10x + 10^{5}y = 10^{5},
x + y = 2

je

x = \frac{10000}{10001} a y = \frac{10002}{10001}.

Nyní počítáme řešení s platností na tři platné cifry. Protože |−10| > 1, není parciální pivotace nutná. Gaussova eliminace vede k matici

( \begin{matrix}−10 & 10^{5} & 10^{5} \\ 0 & 10^{4} & 10^{4} \end{matrix} ) .

Zpětná substituce pak vede k řešení

x = 0 a y = 1.

Problém s touto soustavou spočívá ve skutečnosti, že první rovnice obsahuje koeficienty, které jsou mnohem větší než koeficienty v druhé rovnici. Lze jej odstranit tím, že změníme “měřítka”, ve kterých počítáme jednotlivé neznámé. V našem případě pomůže, pokud nepočítáme neznámou y, ale y′ = 1000y. Místo původní soustavy tak řešíme soustavu

−10x + 10y′ = 10,
x + 10^{−3}y′ = 2.

Žádná obecně použitelná metoda pro vyloučení zaokrouhlovacích chyb ale neexistuje.

Problém zaokrouhlovacích chyb zdánlivě vyřeší systémy, které používají exaktní aritmetiku. Jejich problém ale spočívá v mnohem menší rychlosti výpočtů. Je-li nutné řešit soustavu s obrovským počtem rovnic a neznámých, může se stát, že exaktní aritmetika je prakticky nepoužitelná.

Při praktickém řešení soustav lineárníich rovnic se lze setkat ještě s problémem jiného druhu. Exaktní řešení soustavy

0, 835x + 0, 667y = 0, 168,
0, 333x + 0, 266y = 0, 067

je

x = 1 a y = −1.

Změníme-li nepatrně pravou stranu druhé rovnice na 0, 066, dostaneme soustavu

0, 835x + 0, 667y = 0, 168,
0, 333x + 0, 266y = 0, 066,

která má exaktní řešení

x = −666 a y = 834.

O soustavách, u kterých nepatrná změna koeficientů způsobí velkou změnu řešení, říkáme že jsou to chybně formulované úlohy. Geometrická příčina tohoto jevu je v našem konkrétním případě následující. Každá rovnice určuje přímku v rovině. Jejich průsečík je řešením soustavy. Směrnice obou přímek jsou téměř stejné. Nepatrný posun jedné z přímek tak způsobí velký posun jejich průsečíku.

Pokud jsou koeficienty soustavy výsledkem nějakého měření, neznáme je nikdy s absolutní přesností. Každý měřící přístroj má nějakou toleranci. Řešení chybně formulované úlohy je nepřijatelně závislé na přesnosti odečtu výsledků měření, která určují koeficienty soustavy. Na takové řešení je lépe se nespoléhat. Nutné je upravit fyzikální model, který k soustavě vedl tak, abychom po úpravě dostali úlohu, která není chybně formulovaná. Exaktní aritmetika v tomto případě nemůže pomoci.

Chybně formulované úlohy mají ještě jeden rys, který je dobré si uvědomit. Zkusme do soustavy

0, 835x + 0, 667y = 0, 168,
0, 333x + 0, 266y = 0, 067

dosadit x = −666 a y = 834. Dostaneme

0, 835 · (−666) + 0, 667 · 834 − 0, 168 = 0,
0, 333 · (−666) + 0, 266 · 834 − 0, 067 = −0, 001.

Zdá se, že čísla x = −666 a y = 834 soustavě “téměř” vyhovují. Ve skutečnosti se ale velmi liší od exaktního řešení x = 1 a y = −1.

Gaussova-Jordanova eliminace Gaussova-Jordanova eliminace je upravená Gaussova eliminace, která převádí danou matici do redukovaného řádkově odstupňovaného tvaru.

Definice 2.9 Matice E tvaru m × n je v redukovaném řádkově odstupňovaném tvaru, jestliže

• je v řádkově odstupňovaném tvaru,

• první nenulový prvek v každém řádku (tj. každý pivot) se rovná 1,

• všechny prvky nad každým pivotem (v témže sloupci) jsou rovné 0.

Algoritmus pro Gaussovu-Jordanovu eliminaci získáme úpravou čtvrtého kroku algoritmu pro Gaussovu eliminaci. Ten provedeme v následující podobě:

• pokud je na místě (i, j) nenulové číslo b_{ij}, vynásobíme i-tý řádek číslem b_{ij}^{−1} a poté přičteme ke všem ostatním řádkům různým od i-tého řádku vhodné násobky tohoto řádku tak, abychom vynulovali všechny prvky ve sloupci B_{∗j}, různé od pivotu na místě (i, j) (tj. opakovaně používáme třetí elementární úpravu).

Gaussova-Jordanova eliminace je náročnější na výpočet než Gaussova eliminace. O kolik náročnější nám říká následující tvrzení.

Tvrzení 2.10 Řešení soustavy n lineárních rovnic o n neznámých, jejíž matice má hodnost n, Gaussovou eliminací a zpětnou substitucí vyžaduje nejvýše

\frac{1}{2}n^{3} + \frac{1}{2}n^{2} násobení/dělení, a
\frac{1}{2}n^{3} − \frac{1}{2}n sčítání/odčítání.

Důkaz. Důkaz je podobný důkazu Tvrzení 2.8, proto budeme postupovat rychleji. Matici soustavy označíme A = (a_{ij}). Při prvním průběhu hlavního cyklu Gaussovy-Jordanovy eliminace potřebujeme n násobení/dělení při násobení prvního řádku číslem a_{11}^{−1}. Vynulování prvku na místě (2, 1) vyžaduje dalších n násobení/dělení a n sčítání/odčítání. To musíme udělat se všemi n − 1 řádky pod prvním řádkem. Celkem tedy první průběh hlavního cyklu vyžaduje

n + (n − 1)n násobení/dělení, a
(n − 1)n sčítání/odčítání.

Abychom při druhém průběhu hlavního cyklu dostali číslo 1 na místě (2, 2), musíme použít n − 1 násobení/dělení. Vynulování všech prvků ve druhém sloupci s výjimkou čísla 1 na místě (2, 2) vyžaduje dalších (n − 1)(n − 1) násobení/dělení a (n − 1)(n − 1) sčítání/odčítání. Celkem tedy Gaussova-Jordanova eliminace vyžaduje

∑_{i=1}^{n}(i + (n − 1)i) = \frac{1}{2}n^{3} + \frac{1}{2}n^{2}  násobení/dělení, a

∑_{i=1}^{n}(n − 1)i = \frac{1}{2}n^{3} − \frac{1}{2}n sčítání/odčítání.

□ Po skončení Gaussovy-Jordanovy eliminace dostaneme matici

( \begin{matrix}1 & 0 & ⋯ & 0 & e_{1} \\ 0 & 1 & ⋯ & 0 & e_{2} \\ ⋮ & ⋮ & ... & ⋮ & ⋮ \\ 0 & 0 & ⋯ & 1 & e_{n} \end{matrix} ) ,

ze které přímo vyčteme řešení x_{i} = e_{i} pro i = 1, 2, …, n. Zpětnou substituci není nutné v tomto případě provádět. Počet operací nutných pro Gaussovu-Jordanovu eliminaci tak stačí pro řešení soustavy n lineárních rovnic o n neznámých s maticí hodnosti n. Srovnání Tvrzení 2.8 s Tvrzením 2.10 ukazuje, že řešení soustavy Gaussovou-Jordanovou eliminací vyžaduje zhruba o 50% operací více, než výpočet Gaussovou eliminací následovaný zpětnou substitucí. Proč tedy vůbec o Gaussově-Jordanově eliminaci mluvit? Důvod spočívá v tom, že Gaussova-Jordanova metoda se více hodí pro jiné úlohy než je řešení soustav lineárních rovnic. Dále má určité teoretické výhody, protože platí následující věta, kterou si rovněž dokážeme později.

Tvrzení 2.11 Převedeme-li matici A do redukovaného řádkově odstupňovaného tvaru pomocí elementárních řádkových úprav, dostaneme jednoznačně určenou matici E_{A}.

Výsledkem Gaussovy-Jordanovy eliminace použité na nějakou matici A je tedy jednoznačně určená matice E_{A}. Narozdíl od výsledku Gaussovy eliminace, ve kterém jsou podle Tvrzení 2.2 jednoznačně určená pouze místa pro pivoty.