The method of Ordinary Least Squares(OLS)

The method of Ordinary Least Squares


নির্ভরণ মডেলে ব্যবহৃত পরামিতি,চলক, ভেদাঙ্ক,ভ্রান্তি ইত্যাদির মান নিরূপণের  জন্য  বিভিন্ন পদ্ধতি রয়েছে ।এই পদ্ধতিগুলোর মধ্যে Ordinary east squares method সর্বাধিক জনপ্রিয় ৷ OLS method জার্মান গণিতবিদ Carl Friedrich Guass সর্ব প্রথম OLS method-টি প্রবর্তন করেন ৷ নির্দিষ্ট কিছু অনুমতির প্রেক্ষিতে এই পদ্ধতির কিছু আকর্ষণীয় পরিসংখ্যানিক ধর্ম  বা গুন বা বৈশিষ্ট্য রয়েছে I এই বৈশিষ্ট্যগুলোর কারণেই  OLS method-টি সর্বাধিক শক্তিশালী ও  জনপ্রিয় পদ্ধতিতে পরিণত হয়েছে I

OLS পদ্ধতির সংজ্ঞা:

অধীন চলক Yi- এর প্রকৃত মান  এবং অধীন চলক Yi- এর নিরূপিত  মানের ব্যবধান এর বর্গের সমষ্টি কে সর্বনিম্নকরন এর মাধ্যমে নির্ভরণ অপেক্ষকের পরামিতি সমূহের মান প্রাক্কলন করার পদ্ধতিকে সাধারণ ন্যূনতম বর্গ পদ্ধতি বা  classical ন্যূনতম বর্গ পদ্ধতি বলে l

 

অনুমতি:

OLS পদ্ধতি নিম্নলিখিত অনুমতি সাপেক্ষে বিশ্লেষণ করা হয় ৷

(১)সরলরৈখিক  মডেল: বিবেচ্য নির্ভরণ মডেলের  পরামিতিগুলো একমাত্রিক ৷

(২)ভিন্ন ভিন্ন নমুনা নেয়া হলেও  ব্যাখ্যামূলক চলক X-এর মান  স্থির ধরা হবে অর্থাৎ  x কে nonstockhastic    হিসাবে ধরা হয় ৷

(৩)বিচ্যুতি টার্ম Ui এর গড় মান শূন্য ı

( 8) x-চলকের মান প্রদত্ত অবস্থায় সকল পর্যবেক্ষণের  ক্ষেত্রে Ui – এর ভেদাংক একই থাকে ı

(৫)বিচ্যুতি সমূহের মধ্যে কোনো সহ-সম্পর্ক নেই Iঅর্থাৎ x চলকের যেকোনো দুটি মান যেমন Xi এবং       Xj  প্রদত্ত Ui এবংUj,এর মধ্যে কোনো সহ সম্পর্ক নেই |

প্রতীক আকারে,  Cov(U iUj/XiXj)=0

(৬) Ui এবং Xi_এর সহভেদাংক শূন্য I অর্থাৎ Cov(Ui,Xi)=0.

(৭) পর্যবেক্ষণের সংখ্যা n অবশ্যই পরামিতির সংখ্যা থেকে বেশি হবে |

(৮)একটি নির্দিষ্ট নমুনায় X-এর সব মান একই হবে না অর্থাৎ var(X) অবশ্যই একটি ধনাত্মক পূর্ণ

সংখ্যা হবে l

(৯)নির্ভরণ মডেল সঠিকভাবে নিরুপিত হয়েছে l

(১০) মডেলে  কোন Perfect multicollinearity নেই l

 

OLS   পদ্ধতির           বিশ্লেষণ:

নিম্নে একটি কাল্পনিক দ্বিচলক বিশিষ্ট সমগ্রক নির্ভরণ অপেক্ষকের (PRF )সাহায্যে OLS পদ্ধতি বর্ণনা করা হলো:

PRF: Yi=β12Xi+Ui————————————–(1)

যেখানে , Yi=নির্ভরশীল চলক

β1 =নির্ভরণ অপেক্ষকের  ছেদক বা স্থির মান নির্দেশ করে |

β2 =নির্ভরণ অপেক্ষকের ঢাল সহগ

Xi = Explanatory চলক

Ui =Distubance term .

উপরোক্ত PRF টি সরাসরি নির্ণয় করা যায় না Iনিম্নোক্ত SRF অনুসারে তাই PRF নির্ণয় করতে হয় ৷

SRF: Yi =β̂1+β̂2Xi+ Ûi

= Ŷi +Ûi —————————————-(2)

যেখানে, Ŷi= Yi- এর নিরূপিত মান ।

Ûi = Ui – এর নিরূপিত মান

 

 

এখন Y এবং X-এর n জোড়া সংখ্যক পর্যবেক্ষণ প্রদত্ত অবস্থায় আমরা SRF এমনভাবে নিরূপণ করতে চাইবো যাতে এটি প্রকৃত Y-এর যতদূর সম্ভব কাছাকাছি হয় ৷ অর্থাৎ,SRF- কে এমন ভাবে পছন্দ করতে হবে যাতে তা  PRF-এর সঠিক প্রতিনিধিত্ব করতে পারে । অন্যভাবে বলা যায় SRF –এর মান PRF  -এর যত কাছাকাছি হবে SRF টি ততবেশি গ্রহণযোগ্য হবে । অর্থাৎ, ∑Ûi = ∑(Yi- Ŷi) যত দূর সম্ভব ছোট হয় Iন্যূনতমবর্গ পদ্ধতিতে SRF নির্ণয় করা হলে SRF টি PRF-এর যথার্থ approximation  হয় I

2 নং সমীকরণ হতে পাওয়া যায়—-

Ûi= Yi- Ŷi

= Yi-( β̂1+β̂2Xi )——————————————(৩)

এখন Ui-এর মান যত কম হবে Yi- Ŷi এর পার্থক্য তত কম হবে৷ N সংখ্যক তথ্যের ক্ষেত্রেআমরা লিখতে পারি , ∑Ûi = ∑(Yi- Ŷi)।

কিন্তু ∑Ûi -এর মান শূন্য হলেও অনেক সময় তা দ্বারা সঠিক প্রতিনিধিত্বশীল SRFপাওয়া যায় না বিষয়টি নিচের চিত্রের সাহায্যে ব্যাখ্যা করা হলঃ

উপরের বিক্ষেপ চিত্রে  SRL দ্বারা  Yi এর নিরূপিত মান  এবং বিভিন্ন বিন্দু দ্বারা  Yi এর প্রকৃত মান প্রকাশ পায় । চিত্রানুসারে , ∑Ûi=  Û1+  Û2+  Û3 + Û4

                                                            =3-3+2-2

                                                             =0

এক্ষেত্রে SRL থেকে Yi -এর মান গুলো যথেষ্ট বিস্তৃত থাকা সত্বেও ∑Ûi =0 হয়েছে । এই সমস্যা দূর করার জন্য ন্যূনতম বর্গ পদ্ধতি প্রয়োগ করা হয় । ন্যূনতম বর্গ পদ্ধতি অনুসারে—–

∑Û2i = ∑(Yi- Ŷi)2

                                                                                                                      ∑(Yi- β̂1-β̂2Xi)2———(4)  

                                                                                       

Ûi কে বর্গ করা হলে প্রত্যেকটি Residualকে স্বতন্ত্র গুরুত্ব দেওয়া সম্ভব হয় ।উপরের চিত্রে Ûi এর মান  ভিন্ন হওয়া সত্ত্বেও যখন সবগুলো Residual যোগ করা হয় তখন প্রত্যেকটি Residual-এর একই রকম গুরুত্ব প্রকাশ পায়। কিন্তু Ûi –কে বর্গ করা হলে  বিস্তৃতি অনুসারে Ûi এর কম বা বেশি গুরুত্ব প্রকাশ পায় ।

আবার ৪নংসমীকরণের Û2i হল  β̂1 এবং β̂2 এর এক ধরনের অপেক্ষক । অর্থাৎ∑ Û2i =f(β̂1,β̂2).

সুতরাং ন্যূনতম বর্গ পদ্ধতিতে β̂1 এবং β̂2 নির্ণয়ের ক্ষেত্রে Û2i-কে সর্বনিম্নকরন  করতে হবে । এক্ষেত্রে সর্বনিম্নকরনের প্রথম শর্তনুসারে

𝛿∑Û2i/ 𝛿β̂1=0——————–( 5)

এবং   𝛿∑Û2i/𝛿β̂2=0——————-(6)

এবং 5নং ও 6নংসমীকরণের বীজগানিতিক সমাধানের মাধ্যমে আমরা পাই—

 

 

 

 

Related Posts

1 thought on “The method of Ordinary Least Squares(OLS)

মন্তব্য করুন

আপনার ই-মেইল এ্যাড্রেস প্রকাশিত হবে না। * চিহ্নিত বিষয়গুলো আবশ্যক।

bn_BDBengali
en_USEnglish bn_BDBengali