و 
را می توان به عنوان برازش بهترین خط به نمودار پراکنش در نظر گرفت.روش کوچکترین توانهای دوم ( حداقل مربعات خطا) روشی برای برآورد پارامترهای رگرسیون است و کاربردش محدود به مدل خط مستقیم نیست.
فرض کنیم برای مقدار xi از متغیر کنترل شده، مقدار y پیش بینی (برازش) شده به وسیله a+bxi به دست آید در حالی که مقدار مشاهده شده yi است. خطا یا اختلاف بین این دو مقدار عبارت است از
که فاصله قائم نقطه از خط است . یعنی
بهترین خط برازش شده خطی است که مقدار 
دارای کمترین مقدار ممکن باشد.
مقادیر پارامترهایی که به این ترتیب برآورد می شوند به برآوردهای کوچکترین توانهای دوم معروفند.
با استفاده از روش حداقل مربعات خطا مقدار و به صورت زیر برآورد می شود.
بنابراین خط رگرسون کوچکترین توان های دوم به صورت
است.
با توجه به برآوردهای کوچکترین توانهای دوم، کمترین مقدار برای مجموع مربعات خطا ( مجموع توانهای دوم مانده ها) که انرا با SEE نشان می دهیم از رابطه ی زیر به دست می آید.
در نتیجه
مثال:
برای داده های زیر خط رکرسیون کوچکترین توان های دوم را به دست آورید.
ابتدا مقادیر مورد نیاز را به دست می آوریم
بنابراین
در نتیجه
و
بنابراین خط کوچکترین مربعات خطا به صورت
است. و
|
حداقل مربعات خطا |
روش حداقل مربعات خطا |
|
روش حداقل مربعات خطا |
روش حداقل مربعات خطا در متلب |
|
روش حداقل مربعات خطا در متلب |
|
|
روش کمترین مربعات خطا |
روش حداقل مربعات خطا |
|
روش کمترین خطای مربعات |
روش کمترین مربعات خطا |
|
حداقل مجموع مربعات خطا |
|
|
فرمول حداقل مربعات خطا |
فرمول خطای حداقل مربعات |
|
فرمول خطای حداقل مربعات |
|
|
حداقل میانگین مربعات خطا |
|
|
روش حداقل مربعات خطا در متلب |
