Векторна форма на квадратичната апроксимация на функция на много променливи

Вече сме напълно готови да представим квадратичната апроксимация на функция на много променливи във векторен вид. Тук съм записал всичко, като f е функцията, която искаме да апроксимираме, (х0; у0) е константната точка, около която ще апроксимираме, а после целият този израз е квадратичната апроксимация, която разглеждахме в предишните видео клипове. Ако това ти изглежда твърде сложно или абсурдно, ако не ти е познато, ще го обясня съвсем набързо. Това тук е константният член, (означава го на екрана) това дава просто една константа, всичко това тук е линейният член, (означава го на екрана) защото включва само променлива, умножена по константа, а после, да си припомним, всеки от тези компоненти, (огражда ги) съдържа произведението на две променливи. Имаме х на квадрат, х по у, и у на квадрат, така че това са квадратните членове. За да представим това чрез вектори – първо ще запиша входната стойност, входната променлива (х; у) като вектор, като обикновено това се обозначава като удебелено х, за да покажем, че това е вектор. Компонентите му са просто единичните променливи х и у, които не са удебелени. Това е векторът, с който представяме променливата входна стойност, а после съответно удебелено х с индекс 0, х нулево, представлява константната входна стойност, една точка в пространството, около която апроксимираме. Когато запишем нещата по този начин, този константен член, просто казано, това е все едно, че изчисляваме функцията в това удебелено х нулево. Това вероятно е най-лесното. Линейният член... това прилича на скаларно произведение, и ако един вид го развием като скаларно произведение, това ще изглежда все едно намираме частната производна на f по отношение на х, а после частната производна по отношение на у. Изчисляваме тези двете в тази входна точка удебелено х нулево. х нулево е входната точка. Сега всяка от тези частни производни умножаваме по променлива минус някаква константа, така че това прилича на скаларно произведение. Тук ще изтрия думата "линейно". Умножаваме по (х – х0) и по (у – у0). Това е просто начин да изразим същия линеен член, но като скаларно произведение, като удобството е в това, че това е съвсем същото нещо като градиента на f, който е вектор, съдържащ всички частни производни, изчислени в дадена входна точка х нулево. После намираме скаларното произведение на това и на променливия вектор, удебелено х минус х нулево. Когато правим това компонент по компонент, удебелено х минус х нулево, ако се замислим за това, това ще стане променливата х минус константата х нулево, променливата у минус константата у нулево, което е това, което имаме ето тук. Значи така изразяваме векторно целия този линеен член. Сега следва трудната част – как да изразим векторно квадратния член? Това е нещото, за което се подготвяхме в последните няколко видео урока, когато разгледахме как можем да изразим квадратична форма като тази като матрица, а начинът, по който го правим – само ще превъртя малко надолу, за да имам повече място – начинът, по който го правим, е с матрица, чиито компоненти са всички тези константи. Това е това 1/2 по втората частна производна, изчислена тук – и само за повече удобство ще взема това 1/2 по втората частна производна по отношение на х и ще знаем, че това изчисляваме в тази точка. После, по другия диагонал, имаме 1/2 по другата частна производна по отношение на у два пъти подред. След това умножаваме това по тази константа, но този член един вид е разделен на части на два отделни компонента. Ако си спомняш, във видеото за квадратичната форма, навсякъде имахме а, после 2 по b и с, които бяха константите в квадратичната форма, така че ако приемем, че това е 2 по нещо, тогава можем да го разделим на части, и в единия ъгъл ще имаме f(х; у), а в другия ъгъл ще имаме 1/2 по f(х;у). Значи тези двете заедно ще представляват цялата смесена частна производна. Начинът, по който изразяваме квадратичната форма, е да умножим това по – по какво? Първият компонент е това нещо, което тук е на квадрат, така че това е (х – х0), вторият компонент е това, което е другото нещо на квадрат, значи в този случай е (у – у0). И, разбира се, взимаме същия вектор и го поставяме от другата страна. Само ще си разчистя малко, защото ще заеме доста място. Значи взимаме същия този вектор, и го слагаме един вид настрани. Това ще бъде (х – х0) като първи компонент, а после (у – у0) като втори компонент, само че сега записани хоризонтално, и така, ако умножим цялата матрица, това ще ни даде същият израз, който имаме тук горе. Ако ти изглежда непознато, ако не разбираш как стигаме от тук дотук, гледай отново видеото за квадратичната форма, или можеш да видиш статията, в която разглеждаме квадратичната апроксимация, което един вид преглед на тези преобразувания тук. Сега, тази матрица ето тук, е почти като матрицата на Хесе, затова направих видео и за матрицата на Хесе. Тя не е съвсем същата, защото всички елементи съдържат множител 1/2, така че аз ще го изнеса, и ние ще запомним да умножим по това 1/2 в някакъв момент, но иначе това е матрица на Хесе, която означаваме с удебелено Н, за да подчертаем, че това е хесианът на f. Хесианът е нещо, което получаваме от една функция. И както казах, спомни си, че всеки от тези членове можем да разглеждаме като изчислен в определената специална входна точка, изчисляваме в тази специална входна точка удебелено х нулево. Домързява ме да го пиша навсякъде това х нулево, у нулево, х нулево, у нулево и така нататък. И сега умножаваме това отдясно по целия вектор, който е променлив вектор, удебелено х, минус удебелено х нулево, това е целият този вектор, а после имаме същото нещо отдясно, удебелено х минус х нулево, с тази разлика, че тук е транспонираната версия, един вид векторът е полегнал настрани, а начинът, по който означаваме това, е с този горен индекс Т за транспониран. Този член съдържа цялата информация за квадратните членове, която ни е нужна за апроксимацията. За да обобщим всичко дотук, ако се върнем горе и поставим константния член, който имаме, линейният член и тази квадратична форма, която току-що получихме, ако ги съберем заедно, получаваме квадратичната апроксимация на f, която е функция, която си представяме, че има векторен аргумент, удебелено х, което самото също е функция, изчислена в точката, около която апроксимираме, плюс градиента на f, който е един вид векторен аналог на производната, изчислен в същата точка, така че това е константният вектор, скаларното произведение с променливия вектор, х минус константния вектор х0, това цялото, плюс 1/2... след това просто ще копирам целия този квадратичен член горе, променлива минус константа, умножено по хесиана, който е един вид разширена версия на втората производна за функции на много променливи, изчисляваме това за – да видим, изчисляваме го за константата, за константата х нулево, а после отдясно умножаваме по променливата х минус х нулево. Това е квадратичната апроксимация във векторна форма, като важното тук е, че сега не е задължително да имаме две променливи на входа. Можеш да си представиш, че имаме три променливи на входа, или четири променливи, и всички тези членове са възможни. Можем да намерим градиента на функция на четири променливи, ще получим вектор с четири компонента. Можем да намерим хесиана на функция на четири променливи, което е матрица четири по четири. Всички тези членове са възможни. Също така смятам, че този начин на записване е по-прегледен, защото напомня на развития ред на Тейлър, който използваме при функциите на една променлива. Имаме константен член, плюс стойността на производната, по х минус някаква константа, плюс 1/2 по това, което е един вид втората производна, което е все едно х на квадрат, но това е неговият аналог в света на векторите. По този начин може би това ти изглежда по-познато, отколкото когато изпишем всичко, компонент по компонент, където е лесно човек да се загуби. Така че това е изцяло векторната форма на квадратичната апроксимация, която е скаларна функция на много променливи. Леле, това беше твърде много!