লিনিয়ার একাধিক রিগ্রেশন সমীকরণে সমস্ত আইভি-র মধ্যে ভাগ করা বৈকল্পিকতা কোথায়?

Question

লিনিয়ার একাধিক রিগ্রেশন সমীকরণে, যদি বিটা ওজনগুলি প্রতিটি অন্যান্য স্বতন্ত্র ভেরিয়েবলের অবদানকে অন্য সমস্ত আইভিগুলির অবদানকে প্রতিফলিত করে, যেখানে রেগ্রেশন সমীকরণে ডিভি পূর্বাভাস দেয় এমন সমস্ত আইভি দ্বারা ভাগ করা বৈকল্পিক?

উদাহরণস্বরূপ, যদি ভেন চিত্রটি নীচে প্রদর্শিত হয় (এবং এখানে সিভি'র 'সম্পর্কে' পৃষ্ঠা থেকে নেওয়া হয়েছে: https://stats.stackexchange.com/about ) 3 আইভি এবং 1 ডিভি বলে চিহ্নিত করা হত, যেখানে নক্ষত্রের অঞ্চলটি প্রবেশ করবে একাধিক রিগ্রেশন সমীকরণ মধ্যে?

Comments

আমি এখানে ডাউনভোটের প্রয়োজন দেখছি না। আমি মনে করি এই প্রশ্নটি মৌলিক স্তরে একাধিক রিগ্রেশনে কী চলছে তা পেয়ে যায় এবং এমআর সম্পর্কে এমন কিছু ব্যাখ্যা করার সুযোগ দেয় যা অন্যথায় কখনও আলোচিত হবে না।

— গুং - মনিকা পুনরায়

Answer 1

এই চিত্রটির অর্থ কী হতে পারে তা বোঝার জন্য আমাদের কয়েকটি বিষয় সংজ্ঞায়িত করতে হবে। ধরা যাক যে ভেন ডায়াগ্রামটি 4 টি বিভিন্ন ভেরিয়েবলের মধ্যে ওভারল্যাপিং (বা ভাগ করা) বৈকল্পিকতা প্রদর্শন করে এবং আমরা , এবং সম্পর্কে আমাদের জ্ঞানের আশ্রয় নিয়ে স্তরটি পূর্বাভাস দিতে চাই । এটি হ'ল আমরা অনিশ্চয়তা (অর্থাত্ ভেরিয়েশন) নাল বৈকল্পিক থেকে ভেরিয়েন্সকে হ্রাস করতে সক্ষম হতে চাই । কীভাবে এটি করা যায়? ভেন ডায়াগ্রামটি আপনার পক্ষে উত্তর দিচ্ছে এটাই প্রশ্ন । $Wiki$$Digg$$Forum$$Blog$$Wiki$

প্রতিটি বৃত্ত পয়েন্টগুলির একটি সেট উপস্থাপন করে এবং এর মাধ্যমে, পরিমাণে বৈকল্পিক। বেশিরভাগ ক্ষেত্রেই আমরা ভিন্নতার বিষয়ে আগ্রহী$Wiki$, তবে চিত্রটি ভবিষ্যদ্বাণীকারীদের মধ্যেও বৈচিত্রগুলি প্রদর্শন করে। আমাদের চিত্র সম্পর্কে কয়েকটি জিনিস লক্ষ্য করা যায়। প্রথমত, প্রতিটি ভেরিয়েবলের পরিমাণ একই রকম হয় - এগুলি সব একই আকারের (যদিও সকলেই ভেন ডায়াগ্রামগুলি বেশ আক্ষরিকভাবে ব্যবহার করবে না)। এছাড়াও, একই পরিমাণে ওভারল্যাপ ইত্যাদি রয়েছে etc. ইত্যাদি A আরও একটি গুরুত্বপূর্ণ বিষয় লক্ষণীয় যে ভবিষ্যদ্বাণীকারী ভেরিয়েবলগুলির মধ্যে ওভারল্যাপের একটি ভাল চুক্তি রয়েছে। এর অর্থ তারা পারস্পরিক সম্পর্কযুক্ত। মাধ্যমিক (যেমন, সংরক্ষণাগার) ডেটা, পর্যবেক্ষণ গবেষণা, বা বাস্তব-বিশ্বের ভবিষ্যদ্বাণী পরিস্থিতিগুলির সাথে কাজ করার সময় এই পরিস্থিতি খুব সাধারণ very অন্যদিকে, যদি এটি একটি নকশা করা পরীক্ষা হয়, এটি সম্ভবত খারাপ নকশা বা সম্পাদনকে বোঝায় execution এই উদাহরণটি আরও কিছুক্ষণ চালিয়ে যেতে, আমরা দেখতে পাচ্ছি যে আমাদের ভবিষ্যদ্বাণীমূলক ক্ষমতা মাঝারি হবে; এর মধ্যে বেশিরভাগ পরিবর্তনশীলতা$Wiki$সমস্ত ভেরিয়েবল ব্যবহারের পরে অবশিষ্ট অবধি হিসাবে রয়েছে (ডায়াগ্রামে , আমি অনুমান করব )। নোট আরেকটি জিনিস যে, একবার নয় এবং মডেল প্রবেশ করা হয়েছে, জন্য অ্যাকাউন্ট কেউই তারতম্য এর ।$R^2\approx.35$$Digg$$Blog$$Forum$$Wiki$

এখন, একাধিক ভবিষ্যদ্বাণীকারীদের সাথে একটি মডেল ফিট করার পরে, লোকেরা প্রায়শই সেই ভবিষ্যদ্বাণীকারীদের প্রতিক্রিয়া পরিবর্তনের সাথে সম্পর্কিত কিনা তা পরীক্ষা করতে চায় (যদিও এটি স্পষ্ট নয় যে এটি যতটা বিশ্বাস করে বলে মনে হয়)। আমাদের সমস্যাটি হ'ল এই ভবিষ্যদ্বাণীকারীদের পরীক্ষা করার জন্য, আমাদের অবশ্যই স্কোয়ার্সের সমষ্টি বিভাজন করতে হবে এবং আমাদের ভবিষ্যদ্বাণীকারীরা যেহেতু পারস্পরিক সম্পর্কযুক্ত, সেখানে এসএস রয়েছে যা একাধিক পূর্বাভাসককে দায়ী করা যেতে পারে । প্রকৃতপক্ষে, নক্ষত্র অঞ্চলে এসএসকে তিনটি ভবিষ্যদ্বাণীকের কারও কাছে দায়ী করা যেতে পারে । এর অর্থ এই যে এসএসের কোনও অনন্য বিভাজন নেই , এবং এইভাবে কোনও অনন্য পরীক্ষা নেই। এই সমস্যাটি কীভাবে পরিচালনা করা হয় তা গবেষকরা কী ধরণের এসএস ব্যবহার করেন এবং তার উপর নির্ভর করেগবেষক দ্বারা তৈরি অন্যান্য রায় । যেহেতু অনেকগুলি সফ্টওয়্যার অ্যাপ্লিকেশন ডিফল্টরূপে তৃতীয় এসএস টাইপ করে, তাই অনেকে রায় বিবেচনা না করেই ওভারল্যাপিং অঞ্চলে থাকা তথ্যগুলি ফেলে দেয় । আমি এই বিষয়গুলি, এসএসের বিভিন্ন ধরণের ব্যাখ্যা করি এবং এখানে কিছু বিশদে যাচ্ছি ।

যেমনটি বলা হয়েছে, প্রশ্নটি বিটা / রিগ্রেশন সমীকরণে এই সমস্তটি কোথায় প্রদর্শিত হবে সে সম্পর্কে বিশেষভাবে জিজ্ঞাসা করে । উত্তরটি তা নয়। সে সম্পর্কে কিছু তথ্য এখানে আমার উত্তরে রয়েছে (যদিও আপনাকে কিছুটা লাইনের মাঝে পড়তে হবে)।

Comments

হ্যালো গুং, আপনার পোস্টের জন্য আপনাকে ধন্যবাদ। এটি খুব আকর্ষণীয় এবং কিছু ক্ষেত্রে আমার চোখ খুলেছে। তবে আপনি যে লিঙ্কটি পোস্ট করেছেন তার লাইনের মধ্যে পড়তে আমার সমস্যা হচ্ছে। সুতরাং, আমার প্রশ্নটি রয়ে গেছে: একটি লিনিয়ার একাধিক রিগ্রেশন সমীকরণে, যদি বিটা ওজনগুলি প্রতিটি অন্যান্য স্বতন্ত্র ভেরিয়েবলের অবদানকে অন্য সমস্ত আইভি-র অবদানের উপরে প্রতিফলিত করে, যেখানে রিগ্রেশন সমীকরণে সমস্ত আইভি দ্বারা ভাগ করা বৈকল্পিক যা ডিভি পূর্বাভাস?

— জোয়েল ডব্লিউ।

হ্যাঁ, এটি দেখতে বেশ শক্ত হতে চলেছে। মূল বিষয়টি হ'ল পরীক্ষার জন্য এসএসকে কীভাবে ভাগ করা যায় এবং বিটা অনুমানের জন্য 2 এর মধ্যে একটি মৌলিক পার্থক্য রয়েছে। 1 এসএসকে যার পূর্বাভাসককে দায়ী করছেন; বিটাগুলির জন্য 2 টি সেরা মান দেয়। ওভারল্যাপটি পূর্বেরগুলিতে প্রদর্শিত হয়, পরবর্তীকালে নয়। আপনি regressed যদি তে & সংরক্ষিত অবশিষ্টাংশ, তারপর থেকে যারা resids পূর্বাভাস & সংরক্ষিত resids-2, ইত্যাদি (এই অনুপযুক্ত BTW,), আপনি বিটাগুলির দুর্দান্তভাবে fluctuating দেখতে হবে। তবে মাল্ট রেগ একসাথে সমস্ত বিটা অনুমান করে , তাই এটি প্রদর্শিত হয় না। $Wiki$$Digg$$Forum$

— গুং - মনিকা পুনরায়

যদি "পূর্ববর্তীটিতে ওভারল্যাপটি প্রদর্শিত হয় না তবে পরবর্তীকালে" কীভাবে প্রতিরোধের সমীকরণ ভাগ করা বৈকল্পিকতা প্রতিফলিত করতে পারে? যদি অন্যান্য সমস্ত আইভিগুলির প্রভাব পরিসংখ্যানগতভাবে অপসারণ করা হয় তবে বিটাগুলি প্রতিটি চতুর্থের অবদানের ইঙ্গিত দিলে, রিগ্রেশন সূত্রের কোন অংশটি মুছে ফেলা অংশীদারিগুলির ভবিষ্যদ্বাণীপূর্ণ শক্তি প্রতিফলিত করে? অথবা, রিটারেশন সমীকরণটি কীভাবে দেখাতে পারে যে যদি আপনি বিটাসের মধ্যে ওভারল্যাপ প্রতিফলিত না হয় তবে আপনি যদি আইভিগুলির মধ্যে 1 বৃদ্ধি করেন তবে ভবিষ্যদ্বাণী করা ওয়াইয়ের কী হবে? তৃতীয় প্রশ্ন: ভেন চিত্রের অন্তর্নিহিত ডেটার এমআর বিশ্লেষণে ফোরাম বিটা = 0 হবে?

— জোয়েল ডাব্লু।

ওভারল্যাপ হয় পরীক্ষা না বিটাগুলির নিশ্চিত না --I'm কিভাবে অন্য যে করা। প্রতিটি বিটা কোভারিয়েটে 1-ইউনিট পরিবর্তনের প্রতিক্রিয়ার ভেরিয়েবলের উপর প্রভাবটি নির্দেশ করে, অন্য সমস্ত কিছু স্থির রেখে ; যদি অন্য কোভেরিয়েটসকে মডেল থেকে সরানো হয় তবে একটি প্রদত্ত বিটা প্রায় একই রকম হবে না । যদি ভেন চিত্রটি সঠিকভাবে ডেটা উত্পন্ন প্রক্রিয়াটি সঠিকভাবে প্রতিফলিত করে তবে এর সত্যিকারের মান, তবে ঠিক 0 এর সমান হয় না। $\beta_{F}=0$

— গুং - মনিকা পুনরায়

@ মার্কওয়াইট, শিক্ষার্থীদের উত্তর বেশিরভাগ ক্ষেত্রে ঠিক is যে বিবৃতিটি X1 এবং X2 পুরোপুরি তাদের বিটাগুলি অর্ধেকের সাথে সম্পর্কিত হয় সেগুলি সঠিক নয়; যখন r = 1 মডেলটি অজানা (সিএফ, এখানে ) থাকে। যেহেতু আরআর ১ এর কাছাকাছি যায়, অনুমিত বিটাগুলি নমুনা ডেটার সম্পর্কের উপর নির্ভর করে এবং নমুনা থেকে নমুনায় বিস্তৃত হতে পারে।

— গুং - মনিকা পুনরায়

Answer 2

পিটার কেনেডি তাঁর বই এবং জেএসই নিবন্ধে রিগ্রেশন দেওয়ার জন্য বালেন্টাইন / ভেন চিত্রের একটি সুন্দর বর্ণনা দিয়েছেন , যাতে তারা আপনাকে বিপথগামী করতে পারে এমন মামলাগুলি সহ including

সংক্ষিপ্তসারটি হল যে তারকাচিহ্নিত ক্ষেত্রের প্রকরণটি কেবল slাল সহগের অনুমান এবং পরীক্ষার জন্য ফেলে দেওয়া হয়। ভবিষ্যদ্বাণী করা এবং গণনার উদ্দেশ্যে সেই প্রকরণটি আবার যুক্ত করা হয়েছে ।$R^2$

Comments

+1, আমি "sl াল সহগের" অনুমানের জন্য এবং পরীক্ষার জন্য যুক্ত করব তবে এটি অন্তর্ভুক্ত হওয়ার বিষয়টিটি একটি ভাল। $R^2$

— গুং - মনিকা পুনরায়

সত্যই এবং সম্পন্ন।

— দিমিত্রি ভি। মাস্টারভ

তারকাচিহ্নিত অঞ্চলটি ভবিষ্যদ্বাণী করা y এর গণনা করতে ব্যবহৃত হয়? যদি তা হয় তবে কোথায় ভবিষ্যদ্বাণী সূত্রে তারকৃত অঞ্চলটি ভবিষ্যদ্বাণী করা y তে অবদান রাখবে? আলাদাভাবে স্থিত, ভবিষ্যদ্বাণী সূত্রে কোন শব্দ বা পদগুলি তারকৃত অঞ্চলকে প্রতিফলিত করে?

— জোয়েল ডব্লিউ।

Answer 3

আমি বুঝতে পারি এটি একটি (খুব) তারিখযুক্ত থ্রেড, তবে যেহেতু আমার এক সহকর্মী আমাকে এই সপ্তাহে খুব একই প্রশ্ন জিজ্ঞাসা করেছেন এবং ওয়েবে আমি তার প্রতি ইঙ্গিত করতে পারে এমন কোনও কিছুই খুঁজে পাইনি, তাই আমি ভেবেছিলাম যে আমি "উত্তরসূরির জন্য" আমার দুটি সেন্ট যুক্ত করব এখানে. আমি নিশ্চিত নই যে তারিখের দেওয়া উত্তরগুলি ওপি-র প্রশ্নের উত্তর দেয়।

আমি মাত্র দুটি স্বতন্ত্র ভেরিয়েবল জড়িত করতে সমস্যাটি সহজ করতে যাচ্ছি; এটি দু'জনের বেশি প্রসারিত করা খুব সোজা-এগিয়ে রয়েছে। নিম্নলিখিত দৃশ্যের বিষয়টি বিবেচনা করুন: দুটি স্বতন্ত্র ভেরিয়েবল (এক্স 1 এবং এক্স 2), একটি নির্ভরশীল ভেরিয়েবল (ওয়াই), 1000 পর্যবেক্ষণ, দুটি স্বতন্ত্র ভেরিয়েবল একে অপরের সাথে (r = .99) একে অপরের সাথে সম্পর্কযুক্ত এবং প্রতিটি স্বতন্ত্র ভেরিয়েবল নির্ভরতার সাথে সংযুক্ত থাকে পরিবর্তনশীল (r = .60)। সাধারণতার ক্ষতি ছাড়াই, সমস্ত ভেরিয়েবলকে শূন্যের মাঝামাঝি এবং একটির একটি মানক বিচ্যুতির মানক করুন, সুতরাং প্রতিরোধের প্রতিটিটিতে ইন্টারসেপ্ট শব্দটি শূন্য হবে।

এক্স 1 এ ওয়াইয়ের একটি সাধারণ লিনিয়ার রিগ্রেশন চালনা .36 এর আর-স্কোয়ার এবং 0.6 এর বি 1 মান তৈরি করবে। একইভাবে, এক্স 2 এ ওয়াইয়ের একটি সাধারণ লিনিয়ার রিগ্রেশন চালনা .36 এর আর-স্কোয়ার এবং 0.6 এর বি 1 মান তৈরি করবে।

এক্স 1 এবং এক্স 2 এ ওয়াইয়ের একাধিক রিগ্রেশন চালনা, .36 এর চেয়ে মাত্র কয়েক সপ্তাহের বেশি উচ্চতার একটি আর-স্কোয়ার তৈরি করবে এবং বি 1 এবং বি 2 উভয়ই 0.3 এর মান গ্রহণ করবে। সুতরাং, ওয়াইয়ের মধ্যে ভাগ করা বৈচিত্রটি দুটি বি 1 এবং বি 2 (সমানভাবে) তে ধরা পড়ে।

আমি মনে করি যে ওপি একটি ভুল (তবে সম্পূর্ণ বোঝা যায়) অনুমান করেছে: যথা, এক্স 1 এবং এক্স 2 পুরোপুরি সম্পর্কযুক্ত হওয়ার কাছাকাছি এবং কাছাকাছি আসার সাথে সাথে একাধিক রিগ্রেশন সমীকরণে তাদের খ-মানগুলি শূন্যের কাছাকাছি এবং আরও কাছাকাছি আসে। ব্যাপার সেটা না. প্রকৃতপক্ষে, যখন এক্স 1 এবং এক্স 2 পুরোপুরি সম্পর্কযুক্ত হওয়ার কাছাকাছি চলে আসে তখন একাধিক রিগ্রেশনে তাদের বি-মানগুলি যেকোন একটিরই সাধারণ লিনিয়ার রিগ্রেশন-এর বি-মানের HALF এর কাছাকাছি এবং কাছাকাছি আসে। যাইহোক, এক্স 1 এবং এক্স 2 পুরোপুরি পরস্পর সম্পর্কযুক্ত হওয়ার কাছাকাছি আসার সাথে সাথে, বি 1 এবং বি 2 এর স্ট্যান্ডার্ড ত্রুটিটি অনন্তের কাছাকাছি এবং কাছাকাছি চলে যায়, তাই টি-মানগুলি শূন্যের সাথে একত্রিত হয়। সুতরাং, টি-মানগুলি শূন্যে রূপান্তরিত হবে (অর্থাত্, X1 এবং Y বা X2 এবং Y এর মধ্যে কোনও অনন্য লিনিয়ার সম্পর্ক নেই),

সুতরাং, ওপি-র প্রশ্নের উত্তরটি হ'ল, এক্স 1 এবং এক্স 2 এর মধ্যে পারস্পরিক সম্পর্ক যেমন unityক্যের কাছে পৌঁছেছে, আংশিক opeালু সহগের প্রত্যেকটিই ওয়াইয়ের পূর্বাভাসের জন্য সমানভাবে অবদান রাখে, যদিও স্বাধীন ভেরিয়েবল উভয়ই নির্ভরশীলের কোনও অনন্য ব্যাখ্যা সরবরাহ করে না পরিবর্তনশীল।

আপনি যদি এই অভিজ্ঞতাগতভাবে যাচাই করতে চান তবে একটি মনগড়া ডেটাसेट তৈরি করুন (... আমি Corr2Data.sas নামে একটি এসএএস ম্যাক্রো ব্যবহার করেছি ...) যার উপরে বর্ণিত বৈশিষ্ট্য রয়েছে। খ মানগুলি, মান ত্রুটিগুলি এবং টি-মানগুলি দেখুন: আপনি দেখতে পাবেন যে সেগুলি ঠিক এখানে বর্ণিত।

এইচটিএইচ // ফিল

Comments

এটি একটি দুর্দান্ত ব্যাখ্যা, ধন্যবাদ। আমি আর-তে বিভিন্ন পরিস্থিতি অনুকরণ করার চেষ্টা করেছি এবং আমি এই সিদ্ধান্তে পৌঁছেছি যে এন খুব বড়, বা আউটপুট (ওয়াই) এবং ভাগ করা কমপোনেট (এক্স 1 এবং এক্স 2) এর মধ্যে পারস্পরিক সম্পর্ক থাকলে আপনি ভাগ করে নেওয়া পরিবর্তনশীলতা থেকে মুক্তি পেতে পারবেন না ) খুব বেশি। তবে টি-মানগুলি এমন কোনও কিছুকে প্রতিফলিত করবে যা X1 এবং X2 এর অনন্য অবদান নয়? যদি রিগ্রেশন টি-মানগুলি পূর্বাভাসকারীদের অনন্য অবদানকে প্রতিফলিত করে, আমাদের ভাগ করা ভেরিয়েবলটি টি-মানগুলিকে মোটেও প্রভাবিত করে দেখা উচিত নয়, তবে আমরা তা করি। কেন এমন?

— গ্যালিট