Доказателство (част 1) за свеждането до минимум на квадратичната грешка на линията на регресия

Миналия път показахме, че квадратичната грешка за дадена права у с уравнение у = mx + b и всяка от тези n точки данни представлява този израз тук. В това видео ще преработя алгебрично този израз, за да стане във вид, подходящ за математически анализ. И всъщност можем да оптимизираме, можем да намерим стойностите на m и на b, които минимизират този сбор ето тук. Това ще включва много алгебрични преобразувания. Но ще се опитам да ги кодирам с цветове, за да не се изгубим в преобразуванията. И така, преписвам този израз тук. Целият този клип ще е едно преписване на това отново и отново. Един вид опростяване с помощта на алгебрата. Първият член тук, (у1 – (mx1 + b))^2... това цялото тук всъщност представлява квадратичната грешка на правата. Така че първият член тук, ще го оставя в синьо, ако го разширим, ще стане (у1)^2 – 2у1(mx1 + b) + (mx1 +b)^2. Просто повдигнах на квадрат този двучлен ето тук. Можем да си представим, че ако тук имахме (а – b), това щеше да е a^2 – 2ab + b^2. Това е всичко, което направих. Сега ще трябва да направя същото с всеки от членовете. И всеки член са различни само х и у координатите, които са ето тук. Ще отида надолу, за да може да комбинираме подобните членове. Този член тук на квадрат ще е (у2)^2 – 2у2(mx2 + b) + (mx2 + b)^2 Точно същото като тук. С изключение на това, че имаме х2 и у2 вместо х1 и у1. И след това ще продължим да правим това n пъти. Ще го правим и за номер три, (х3; у3), и пак, и пак. И така продължаваме в този дух, докато стигнем този n-ти член тук. А този n-ти член, като го повдигнем на квадрат, ще се получи (уn)^2 – 2уn(mxn + b) + (mxn + b)^2. Следващото нещо, което искам да направя, всъщност е да доразвия малко повече това тук. Ще се преместя надолу. Целият този израз, ще го препиша, той е същото нещо като – и да не забравяме, че имаме квадратична грешка на правата. Преписвам този ред тук горе. Този ред тук горе е у1 на квадрат. И след това ще разкрия скобите и ще умножа по това 2у1. Това ще бъде минус 2у1mx1, което е това, умножено по това. Минус 2y1b. След това плюс... сега нека разширим (mx1 + b) на квадрат. Тук ще имаме m на квадрат по х1 на квадрат, плюс 2 пъти по mx1, умножено по b, плюс b на квадрат. Просто ако това беше (а + b)^2, това тук е а^2 + 2ab + b^2. Ще направим това за всеки от членовете. За всеки от тези цветове, предполагам, че можем да кажем. Нека сега минем на втория член. Ще е същото нещо. Но вместо да имаме у1 и х1, ще имаме у2 и х2. И така, у2 на квадрат – 2у2mx2 – 2y2b + m на квадрат х2 на квадрат, плюс 2 пъти по mx2b, плюс b^2. И ще продължим да правим това през цялото време, докато стигнем n-тия член. Май трябва да кажем цвят. А това ще е yn на квадрат минус 2ynmxn. Дори и не трябва да мислим. Сега трябва да заместим тези тук с n. Всъщност можем да погледнем това. Но то ще е точно същото. Минус 2ynb плюс m на квадрат xn на квадрат, плюс 2mxnb, плюс b на квадрат. Така че отново, това си е квадратичното отклонение за тази права при n точки. Между тези n точки и оста у се намира mx плюс b. Ta нека видим дали тук някак можем да опростим. А за да го направим, това, което ще приложа, е, че ще събера някои членове от тези тук. И ако събера всичките тях тук, ако събера тази колонка, какво получавам? Тук ще имаме у1 на квадрат плюс у2 на квадрат, и т.н. докато стигнем yn на квадрат. Това са тези членове там. И ще имаме това. После имаме общия член 2m пред всички тези членове тук. Нека го запиша. И имаме това 2m тук, 2m тук, и 2m тук. Нека тук добавя кръгли скоби. Събрали сме тези членове. След това имаме минус 2m, умножено по всички тези членове. Всъщност, нека пооцветя малко, за да се вижда какво правим. Искам да съм по-внимателен с тези сметки, за да няма много объркване. Въпреки че реално това е едно алгебрично преобразуване. Ако събера всички тези, тогава получавам у1 на квадрат, плюс у2 на квадрат, и т.н. до yn на квадрат. Ще оградя това цялото със скоби. И тогава тук имаме този общ член, и това минус 2m, минус 2m, минус 2m. И тук можем да изнесем пред скоби. Така че трябва всъщност да го напиша по следния начин. Имаме минус 2m и като го изнесем пред скоби ще ни остане само у1х1. Или можем да го запишем и като х1у1. Това е онова там с 2m, изнесено пред скоби. Нека използвам друг цвят тук. Искам да е лесно за разчитане. Плюс х2у2. Плюс xnyn. Продължаваме да събираме – ще го направим n пъти. По целия път до плюс xnyn. Tози последен член тук, ynxn, е същото. Така че той е сборът. А това тук, сборът от всички тези неща тук, е точно равен на този член тук. И след това трябва да съберем всичко това тук. И пак виждаме, че можем да изнесем пред скоби минус 2b от тези членове. Така имаме минус 2b, умножено по у1 плюс у2 плюс ... т.н., чак до yn. Сега това нещо... това... Тези членове тук, когато ги съберем, дават тези членове, или този член там. Нека продължим така. А следващия път, вероятно няма да ни стигне времето в този клип, ще опростя този израз повече, като се освободя малко от сметките. И тогава следващият член, какъв ще е той? Използваме същия метод. Можем да изнесем пред скоби m на квадрат. Така имаме m на квадрат, умножено по х1 на квадрат плюс х2 на квадрат, плюс... всъщност, искам да ги оцветя кодово, забравих да направя това с тези тук. плюс х2 на квадрат, плюс същото, докато стигнем до xn на квадрат. Оцветявам и тук. Това беше yn на квадрат. А това тук беше у2 на квадрат. Това е равно на това. И в този последен етап това, което направихме, това ето тук е равно на това тук. И разбира се, трябва да добавим това. И ще изнеса тук един плюс отпред. Почти сме готови с този етап от опростяването. А тук имаме общия член 2mb, затова нека сложим един плюс 2mb, още веднъж умножаваме по х1 плюс х2, плюс всичко чак до xn. Така че този член тук е точно равен на този член тук. И накрая имаме b на квадрат във всеки от тези членове. А колко имаме от тези b на квадрат? Ами имаме n от тези редове, нали така? Това е първият ред, втори ред, след това няколко члена, и пак така, и пак, докато стигнем до n-ти ред. Така че имаме b на квадрат, прибавено само към себе си n пъти. И това тук си е n пъти b на квадрат. И ще го запишем като плюс n пъти по b на квадрат. Нека си припомним за какво ставаше въпрос тук. Това е просто една алгебрична манипулация на квадратите на отклонението на онези n точки и правата у, която има уравнение у = mx + b. Не прилича много на опростяване от моя страна. И сега ще спра в този клип. Следващият път ще продължим от тук нататък и ще се опитаме да опростим този израз.