Numerické metody optimalizace 1

Sylabus

Základní numerické metody pro řešení skalárních nelineárních rovnic (Newtonova metoda a metoda sečen), lokální konvergence, řád konvergence. Pokročilejší metody (Mullerova metoda, inverzní kvadratická konvergence, Brentova metoda).

Řešení soustav nelineárních rovnic, Newtonova metoda, kvazi-newtonovské metody. Globální konvergence, kontinuační metody.

Teorie nepodmíněné optimalizace (nutné a postačující podmínky, role konvexity).

Line search - úloha hledání minima v daném spádovém směru (Goldsteinovy, Armijovy, Wolfeho podmínky). Základní spádové metody (největšího spádu a Newtonova), metody sdružených směrů (nelineární metoda sdružených gradientů), kvazi-newtonovské metody (update hodnosti 1, DFP, BFGS, Broydenovy metody).

Metody s lokálně omezeným krokem, dogleg.

Řešení problému nejmenších čtverců (Gauss-Newtonova a Levenberg-Marquartova metoda).

Anotace

Předmět se zabývá teoretickými i praktickými otázkami numerického řešení nelineárních rovnic a minimalizace funkcionálu.

V první části se věnujeme řešení nelineárních rovnic a jejich soustav, zaměříme se hlavně na Newtonovu metodu, její varianty a modifikace.

Druhá část pojednává o minimalizaci funkcionálu, se zaměřením na metody spádových směrů (například nelineární metodu sdružených gradientů a kvazi-newtonovské metody) a na metody s lokálně omezeným krokem.