Основно съдържание

Анализ на функции на много променливи

Курс: Анализ на функции на много променливи > Раздел 3

Урок 2: Квадратична апроксимация

Квадратична апроксимация

Квадратичната апроксимация е подход, подобен на линейната апроксимация, но получаваме по-добро приближение на разглежданата функция.

Преговор:

Основни идеи

Целта ни, както и с локалната линеаризация, е да намерим приближение на дадена функция

f

в околността на определена точка

x_{0}

. Квадратичното приближение е по-точно от линейното и използва информация от вторите производни на функцията.

Скаларен запис

В специалния случай, когато

f

е функция на две променливи и търсим приближение в точката

(x_{0}; y_{0})

, квадратичното приближение изглежда така:

\begin{aligned} Q_{f} (x; y) & = f (x_{0}; y_{0}) + \\ f_{x} (x_{0}; y_{0}) (x - x_{0}) + f_{y} (x_{0}; y_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{x x} (x_{0}; y_{0}) (x - x_{0})^{2} + \\ f_{x y} (x_{0}; y_{0}) (x - x_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{y y} (x_{0}; y_{0}) (y - y_{0})^{2} \end{aligned}

Векторен запис:

За скаларна функция

f

на няколко променливи, ето как изглежда векторният запис на квадратичното ѝ приближение:

Q_{f} (x) = \underset{константа}{\underset{⏟}{f (x_{0})}} + \underset{линеен член}{\underset{⏟}{\nabla f (x_{0}) \cdot (x - x_{0})}} + \underset{квадратен член}{\underset{⏟}{\frac{1}{2} (x - x_{0})^{T} H_{f} (x_{0}) (x - x_{0})}}

За момента този израз изглежда неразбираемо, но по-нататък ще го изведем и анализираме стъпка по стъпка. Засега само ще посочим и именуваме всеки един от членовете.

$f$ ‍ е скаларна функция на много променливи.
$\nabla f (x_{0})$ ‍ е градиентът на $f$ ‍ в точката $x_{0}$ ‍.
$H_{f} (x_{0})$ ‍ е матрицата на Хесе за $f$ ‍ в точката $x_{0}$ ‍.
Векторът $x_{0}$ ‍ е точката, в която търсим приближение.
Векторът $x$ ‍ означава аргументите на функцията.
Приближението $Q_{f}$ ‍ е равно на $f$ ‍ в точката $x_{0}$ ‍ и частните му първи и втори производни съвпадат с тези на $f$ ‍ в разглежданата точка.

Все по-точни приближения

Дадена е скаларна функция

f (x; y)

на две променливи, например

$f (x; y) = \sin (x) \cos (y)$ ‍

Видео плейър на видеоклиповете в Кан Академия

Виж видео транскрипцията

Целта ни е да намерим по-проста функция, която е достатъчно добро приближение на

f (x; y)

около дадена точка

(x_{0}; y_{0})

. Например,

$(x_{0}; y_{0}) = (\frac{π}{3}; \frac{π}{6})$ ‍

Приближение от нулев ред

Най-наивното приближение би било просто константна функция, приемаща стойността на

f

(x_{0}; y_{0})

навсякъде. Това приближение можем да наричаме "приближение от нулев ред".

В нашия пример:

\begin{aligned} C (x; y) & = \sin (\frac{π}{3}) \cos (\frac{π}{6}) \\ = (\frac{\sqrt{3}}{2}) \frac{\sqrt{3}}{2} \\ = \frac{3}{4} \end{aligned}

В общия случай:

$C (x; y) = f (x_{0}; y_{0}) \leftarrow константна функция$ ‍

Графично:

Графиката на приближението

C (x; y)

е равнина, преминаваща през точката

(x_{0}; y_{0}, f (x_{0}; y_{0}))

. Ето как изглежда това приближение, когато стойностите на

(x_{0}; y_{0})

се менят.

Видео плейър на видеоклиповете в Кан Академия

Виж видео транскрипцията

Графиката на

f

е изобразена в синьо, а приближението - в бяло. Точката

(x_{0}; y_{0}; f (x_{0}; y_{0}))

е показана в червено.

Приближение от първи ред

Както видяхме, приближението с константна функция не е твърде точно. Може и да съвпада със стойността на

f (x; y)

в точката

(x_{0}; y_{0})

, но не отразява други свойства на функцията. Малко по-точно приближение е локалната линеаризация, или още "приближение от първи ред".

В нашия пример:

$L_{f} (x; y) = \frac{3}{4} + \frac{\sqrt{3}}{4} (x - \frac{π}{3}) + \frac{- \sqrt{3}}{4} (y - \frac{π}{6})$ ‍

В общия случай:

$L_{f} (x; y) = f (x_{0}; y_{0}) + f_{x} (x_{0}; y_{0}) (x - x_{0}) + f_{y} (x_{0}; y_{0}) (y - y_{0})$ ‍

Тук

f_{x}

f_{y}

са частните производни на

f

Графично:

Графиката на локалната линеаризация е допирателната равнина до графиката на

f

в точката

(x_{0}; y_{0}; f (x_{0}; y_{0}))

. Ето как изглежда тази равнина, когато точката

(x_{0}; y_{0})

се мени:

Видео плейър на видеоклиповете в Кан Академия

Виж видео транскрипцията

Апроксимация от втори ред

Още по-точна е квадратичната апроксимация, или още наричана "апроксимация от втори ред".

Остатъкът от този урок е посветен на аналитичния запис на апроксимацията. Преди да се заемем с тази задача, нека видим как изглежда квадратичната апроксимация графично. Квадратичната апроксимация в точка

(x_{0}; y_{0}; f (x_{0}; y_{0}))

отразява също и локалното изкривяване на функцията в точката.

Видео плейър на видеоклиповете в Кан Академия

Виж видео транскрипцията

"Квадратично" означава произведение на две променливи

При функциите на една променлива думата "квадратичен" би означавала променлива на квадрат, например

x^{2}

. При наличие на повече от една променлива квадратичните членове са

x^{2}

y^{2}

x y

В общия случай "степента" на даден едночлен, например

3 x^{2} y^{3}

, е общият брой променливи в произведението. В този случай степента е

5

: два пъти

x

и три пъти

y

, като константата няма значение.

Графики на многомерни квадратни функции

Една от основните характеристики на дадена квадратна функция е нейната изпъкналост, която може да е различна в различни посоки.

Ако функцията е изпъкнала, например

f (x; y) = x^{2} + y^{2}

, графиката ѝ изглежда така:

Тази тримерна парабола се нарича параболоид.

Ако функцията е изпъкнала в една посока, а е линейна в друга, графиката изглежда като следа от парабола, движеща се през пространството. Например графиката на функцията

f (x; y) = x^{2} + y

И накрая, ако графиката е изпъкнала в една посока и вдлъбната в друга, например при функцията

f (x; y) = x^{2} - y^{2}

, формата ѝ е седловидна. Ето как изглежда тя:

Видео плейър на видеоклиповете в Кан Академия

Виж видео транскрипцията

Преговор на локална линеаризация

Квадратичното приближение на функцията

f

в точката

(x_{0}; y_{0})

е вид разширение на локалната линеаризация в тази точка:

$L_{f} (x; y) = \underset{константен член}{\underset{⏟}{f (x_{0}; y_{0})}} + \underset{линейни членове}{\underset{⏟}{f_{x} (x_{0}; y_{0}) (x - x_{0}) + f_{y} (x_{0}; y_{0}) (y - y_{0})}}$ ‍

Затова сега набързо ще преговорим процедурата за намиране на локална линеаризация, тъй като след това намирането на квадратната апроксимация е подобно.

Започваме с константния член $f (x_{0}; y_{0})$ ‍, така че апроксимацията съвпада със стойността на $f$ ‍ в точката $(x_{0}; y_{0})$ ‍.
Прибавяме линейните членове $f_{x} (x_{0}; y_{0}) (x - x_{0})$ ‍ и $f_{y} (x_{0}; y_{0}) (y - y_{0})$ ‍.
Използваме константите $f_{x} (x_{0}; y_{0})$ ‍ и $f_{y} (x_{0}; y_{0})$ ‍, така че първите производни на апроксимацията в точката $(x_{0}; y_{0})$ ‍ да съвпадат с тези на $f$ ‍.
Използваме $(x - x_{0})$ ‍ и $(y - y_{0})$ ‍ вместо $x$ ‍ и $y$ ‍, така че апроксимацията е равна на $f (x_{0}; y_{0})$ ‍ в точката $(x_{0}; y_{0})$ ‍.

Намиране на квадратична апроксимация

За да разширим линеаризацията до квадратична апроксимация събираме квадратните членове

(x - x_{0})^{2}

(x - x_{0}) (y - y_{0})

(y - y_{0})^{2}

с коефициенти (засега)

a

b

c

. Ще намерим константите по-късно:

\begin{aligned} Q_{f} (x; y) & = \underset{константа}{\underset{⏟}{f (x_{0}; y_{0})}} + \\ \underset{линейна част}{\underset{⏟}{f_{x} (x_{0}; y_{0}) (x - x_{0}) + f_{y} (x_{0}; y_{0}) (y - y_{0})}} + \\ \underset{квадратична част}{\underset{⏟}{a (x - x_{0})^{2} + b (x - x_{0}) (y - y_{0}) + c (y - y_{0})^{2}}} \end{aligned}

Точно както линеаризацията има същите първи производни като

f

в точката

(x_{0}; y_{0})

, сега искаме квадратичната апроксимация да има същите втори производни като

f

в тази точка.

Записът на

Q_{f}

, който използваме, е удобен, тъй като втората производна

\frac{\partial^{2} Q_{f}}{\partial x^{2}}

зависи само от члена

a (x - x_{0})^{2}

Опитай сам/а! Пресметни втората производна спрямо $x$ ‍ на всеки член на израза $Q_{f} (x; y)$ ‍ и обърни внимание, че всички те са нули, освен $a (x - x_{0})^{2}$ ‍.

Това свойство е причината да запишем

Q_{f}

по този начин.

Следователно, вместо да пресмятаме вторите производни на всеки един член в израза, имаме следното:

\begin{aligned} \frac{\partial^{2} Q_{f}}{\partial x^{2}} (x; y) & = (няколко нули) + \frac{\partial^{2}}{\partial x^{2}} a (x - x_{0})^{2} + (още нули) \\ = \frac{\partial}{\partial x} 2 a (x - x_{0}) \\ = 2 a \end{aligned}

Искаме тази производна да е равна на

f_{x x} (x; y)

в точката

(x_{0}; y_{0})

, откъдето получаваме стойността на

a

$a = \frac{1}{2} f_{x x} (x_{0}; y_{0})$ ‍

Опитай сам/а: Аналогично намери

b

c

[Решение]

Вече можем да запишем крайната форма на квадратичната апроксимация с всичките ѝ шест члена и с константи, за които производните на апроксимацията съвпадат с тези на

f

в точката

(x_{0}; y_{0})

\begin{aligned} Q_{f} (x; y) & = f (x_{0}; y_{0}) + \\ f_{x} (x_{0}; y_{0}) (x - x_{0}) + f_{y} (x_{0}; y_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{x x} (x_{0}; y_{0}) (x - x_{0})^{2} + \\ f_{x y} (x_{0}; y_{0}) (x - x_{0}) (y - y_{0}) + \\ \frac{1}{2} f_{y y} (x_{0}; y_{0}) (y - y_{0})^{2} \end{aligned}

Пример: $\sin (x) \cos (y)$ ‍

Вече можем да се върнем към примера от началото и да видим как изглеждат неговите квадратични апроксимации.

Задача: Намери квадратичната апроксимация на

\begin{array}{r} f (x; y) = \sin (x) \cos (y) \end{array}

в точката

(x; y) = (\frac{π}{3}; \frac{π}{6})

Решение:

За да намерим квадратичната апроксимация ни трябват стойностите на функцията

f (x; y) = \sin (x) \cos (y)

, първите и вторите ѝ производни в точката

(\frac{π}{3}; \frac{π}{6})

$f (\frac{π}{3}; \frac{π}{6}) =$ ‍

[Отговор]

$f_{x} (x; y) =$ ‍
$f_{x} (\frac{π}{3}; \frac{π}{6}) =$ ‍

[Отговор]

$f_{y} (x; y) =$ ‍
$f_{y} (\frac{π}{3}; \frac{π}{6}) =$ ‍

[Отговор]

$f_{x x} (x; y) =$ ‍
$f_{x x} (\frac{π}{3}; \frac{π}{6}) =$ ‍

[Отговор]

$f_{x y} (x; y) =$ ‍
$f_{x y} (\frac{π}{3}; \frac{π}{6}) =$ ‍

[Отговор]

$f_{y y} (x; y) =$ ‍
$f_{y y} (\frac{π}{3}; \frac{π}{6}) =$ ‍

[Отговор]

Почти сме готови! Последната стъпка е да заместим получените стойности във формулата за квадратичната апроксимация.

[Отговор]

Например за тази анимация на квадратични апроксимации в различни точки графичният софтуер има нужда от следната формула.

Видео плейър на видеоклиповете в Кан Академия

Виж видео транскрипцията

Векторен запис чрез матрица на Хесе

Както може би се забелязва, изразът за квадратичната апроксимация е дълъг, и то само при две променливи. А какво да очакваме, ако

f

е функция на три променливи

x

y

z

? Формулата в този случай изглежда подобно, само че с добавени допълнителни членове за

f_{z}

f_{x z}

f_{z z}

, и т.н., докато имаме всичките

3

първи производни и

9

втори производни. Изразът става все по-дълъг!

А какво става, когато искаме да напишем програма, която намира квадратичната апроксимация на функция на

100

променливи. Ужас!

Разбира се, има и по-лесен начин. Когато идеята зад нещо не е твърде сложна, и записът не би трябвало да е сложен. Квадратичните апроксимации са малко завъртяни, но не и невъзможни.

С помощта на вектори и матрици, или по-точно на градиента и матрицата на Хесе на

f

, можем да запишем квадратичната апроксимация на

Q_{f}

по следния начин:

\begin{aligned} Q_{f} (x) & = \underset{константа}{\underset{⏟}{f (x_{0})}} + \underset{линеен член}{\underset{⏟}{\nabla f (x_{0}) \cdot (x - x_{0})}} + \underset{квадратен член}{\underset{⏟}{\frac{1}{2} (x - x_{0})^{T} H_{f} (x_{0}) (x - x_{0})}} \end{aligned}

Нека разбием този израз на съставните му части:

Удебелената променлива $x$ ‍ е векторът от аргументите на функцията.
$\begin{aligned} x & = [\begin{array}{c} x \\ y \\ ⋮ \end{array}] \end{aligned}$ ‍
$x_{0}$ ‍ е точката, в която пресмятаме приближението на функцията. Ако този вектор има две координати, получаваме формулата за $Q_{f}$ ‍, която изведохме току-що, но при този запис измеренията може да са повече.
Скаларното произведение $\nabla f (x_{0}) \cdot (x - x_{0})$ ‍ е сума от членове от вида $f_{x} (x_{0}) (x - x_{0})$ ‍, $f_{y} (x_{0}) (y - y_{0})$ ‍, и т.н. Ако не си спомняш векторния запис на локална лнеаризация, разбий сам/а скаларното произведение за $2$ ‍ измерения, за да си припомниш!
[Решение]
Буквата $T$ ‍ в израза $(x - x_{0})^{T}$ ‍ означава "транспониран" (смисълът е същият като в израза "транспонирана матрица"). Когато транспонираме вектора $(x - x_{0})$ ‍, който изглежда така:
$(x - x_{0}) = [\begin{matrix} x - x_{0} \\ y - y_{0} \end{matrix}]$ ‍
го обръщаме, за да получим това:
$(x - x_{0})^{T} = [\begin{matrix} x - x_{0} & y - y_{0} \end{matrix}]$ ‍
$H_{f} (x_{0})$ ‍ е матрицата на Хесе на $f$ ‍.
Изразът $(x - x_{0})^{T} H_{f} (x_{0}) (x - x_{0})$ ‍ може би изглежда сложен на пръв поглед, особено ако не си срещал/а нищо подобно преди това. Всъщност този запис на квадратни членове е често срещан във векторния анализ и алгебрата. За да се убедиш, че това наистина дава квадратния член на нашата апроксимация, опитай да го разпишеш в случая на двумерен вектор $x$ ‍.

[Решение]

Отговорът е точно

2

пъти квадратния член на формулата, която изведохме по-горе.

Какъв е смисълът?

Пресмятането на ръка на квадратични апроксимации е често много дълго, особено при наличие на повече измерения. На практика смятането на ръка се налага рядко, но въпреки това теорията зад извеждането на квадратична апроксимация е полезна по следните две (доста общи) причини:

Програмиране: Дори и да не се наложи да смяташ на ръка, някой ден може да напишеш компютърна програма, която да го прави. Или, използвайки нечия чужда програма, е важно да можем да проверим дали ни дава верния резултат във всички случаи.
Теория: Квадратичните апроксимации се използват в развиването на по-нататъшна теория в математическия анализ. В по-късните уроци ще научим как да намираме локални минимуми и максимуми на функции.

Искаш ли да се присъединиш към разговора?

Вписване в профила

Сортирай по:

Все още няма публикации.

Разбираш ли английски? Натисни тук, за да видиш още дискусии в английския сайт на Кан Академия.

Анализ на функции на много променливи

Курс: Анализ на функции на много променливи > Раздел 3

Преговор:

Основни идеи

Все по-точни приближения

Приближение от нулев ред

Приближение от първи ред

Апроксимация от втори ред

"Квадратично" означава произведение на две променливи

Графики на многомерни квадратни функции

Преговор на локална линеаризация

Намиране на квадратична апроксимация

Пример: sin⁡(x)cos⁡(y)‍

Векторен запис чрез матрица на Хесе

Какъв е смисълът?

Искаш ли да се присъединиш към разговора?

Пример: $\sin (x) \cos (y)$ ‍