লাসো পরিবর্তনশীল নির্বাচনের পরে ওএলএস করতে কীভাবে বোঝায়?

20

সম্প্রতি আমি আবিষ্কার করেছি যে প্রয়োগকৃত একনোমেট্রিক্স সাহিত্যে, বৈশিষ্ট্য নির্বাচনের সমস্যাগুলি মোকাবেলা করার সময়, নির্বাচিত ভেরিয়েবলগুলি ব্যবহার করে ওএলএস রিগ্রেশন অনুসরণ করার পরে ল্যাসো সম্পাদন করা অস্বাভাবিক কিছু নয়।

আমি ভাবছিলাম যে কীভাবে আমরা এই জাতীয় পদ্ধতির বৈধতা অর্জন করতে পারি? এটি কি বাদ দেওয়া ভেরিয়েবলের মতো ঝামেলা সৃষ্টি করবে? এটি আরও দক্ষ, বা ফলাফলগুলি আরও ব্যাখ্যাযোগ্য বলে প্রমাণিত কোনও প্রমাণ?

এখানে কিছু সম্পর্কিত আলোচনা করা হল:

লাসোর সাথে পরিবর্তনীয় নির্বাচন

লাসো / এলোমেলো ব্যবহার করে ভেরিয়েবল নির্বাচনের পরে গাছ ব্যবহার করা

যদি, যেমন উল্লেখ করা হয়েছে, এই জাতীয় পদ্ধতিটি সাধারণভাবে সঠিক না হয়, তবে এখনও কেন এত গবেষণা চলছে? আমি কি বলতে পারি যে এটি লাসোর প্রাক্কলনকারীগুলির কিছু অস্বস্তিকর বৈশিষ্ট্য এবং ওএলএসের প্রতি লোকদের আগ্রহের কারণে কেবল থাম্বের একটি নিয়ম, একটি আপস সমাধান?

— ZLIU
সূত্র

লাসো সম্পাদনার পরে "ওএলএস রিগ্রেশন" করার অর্থ কী? বিশেষত, এই ওএলএস পদক্ষেপটি অনুমান করার চেষ্টা করছে যে লাসো অনুমান করেনি?

— whuber

2

বিষয়টিতে সাম্প্রতিক কয়েকটি কার্যপত্রক রয়েছে। অনেকের মনে হয় যে বৈধ ভেরিয়েবলগুলির সেটটি বিরল। যদি সেই অনুমানটি ধরে না রাখে তবে হ্যাঁ বাদ দেওয়া ভেরিয়েবল পক্ষপাতিত্ব উপস্থিত থাকবে। এবং লোকেদের পছন্দ হয় কারণ তারা কোফগুলিকে নমুনা প্রান্তিক প্রভাবের ভিত্তিতে নিরপেক্ষ হিসাবে ব্যাখ্যা করতে চায়। একনোমেট্রিক্স সেই দৃষ্টান্তে মোটামুটি আটকে আছে।

— জেনেরিক_উজার

4

ইন এই সাম্প্রতিক Lasso বই (ফ্রী অনলাইন), বিভাগ 11.4 প্রদর্শিত হয় এই সমস্যা মোকাবেলার। আমি এই বিষদভাবে পড়িনি, কিন্তু বলার অপেক্ষা রাখে না "প্রদত্ত দ্বারা ভূমিকা প্রান্ত [একটি Lasso

যে সঠিকভাবে সমর্থনে recovers

, আমরা অনুমান করতে পারেন

\hat{β}

$\hat{\beta}$

β^{*}

$\beta^*$

β^{*}

$\beta^*$ কেবল একজন সাধারণ লিস্ট স্কোয়ারগুলির সম্পাদন দ্বারা খুব ভাল ... রিগ্রেশন এই উপসেটটিতে সীমাবদ্ধ। "

— জিওম্যাট 22

12

কিছুদিন আগে একটি অনুরূপ প্রশ্ন ছিল যার প্রাসঙ্গিক রেফারেন্স ছিল:

বেলোনি, এ। চেরনোজুকভ, ভি। এবং হানসেন, সি। (২০১৪) "উচ্চ মাত্রিক নিয়ন্ত্রণগুলির মধ্যে নির্বাচনের পরে চিকিত্সার প্রভাবগুলির উপর দৃষ্টিভঙ্গি", অর্থনৈতিক স্টাডিজের পর্যালোচনা, ৮১ (২), পিপি 8০৮-৫০ ( লিঙ্ক )

কমপক্ষে আমার জন্য কাগজটি বেশ শক্ত পঠনযোগ্য কারণ এই তুলনামূলক সহজ পেছনের প্রমাণগুলি মোটামুটি বিস্তৃত। যখন আপনি মতো মডেলটি অনুমান করতে আগ্রহী হন

Y_{আমি} = α {টি}_{আমি} + + {এক্স}_{আমি}^{'} β + + ε_{আমি}

$y_i = \alpha T_i + X_i'\beta + \epsilon_i$

যেখানে আপনার ফলাফল হল আগ্রহের কিছু চিকিত্সা প্রভাব, এবং $y_i$ $T_i$ $X_i$ $\alpha$

$X_i$ $y_i$

$y_i$ $X_i$
$T_i$ $X_i$
$y_i$ $T_i$

তারা কেন এই কাজ করে এবং আপনি কেন এই পদ্ধতির বাইরে সঠিক আত্মবিশ্বাসের ব্যবধান ইত্যাদি পান তার প্রমাণ দেয়। তারা আরও দেখায় যে আপনি যদি উপরের রিগ্রেশনটিতে কেবলমাত্র একটি ল্যাসো নির্বাচন সম্পাদন করেন এবং তারপরে চিকিত্সা এবং নির্বাচিত ভেরিয়েবলের উপর ফলাফলটি পুনরায় চাপান তবে আপনি ভুল পয়েন্টের অনুমান এবং ভুয়া আত্মবিশ্বাসের অন্তর পেতে পারেন, যেমন ইতিমধ্যে বলেছিলেন বুজন।

এটি করার উদ্দেশ্যে দ্বিগুণ: আপনার প্রাথমিক মডেলটির তুলনা করা, যেখানে পরিবর্তনশীল নির্বাচন অন্তর্দৃষ্টি বা তত্ত্ব দ্বারা পরিচালিত হয়েছিল, দ্বিগুণ-শক্তিশালী নির্বাচন মডেলটির সাথে আপনাকে ধারণা দেয় যে আপনার প্রথম মডেলটি কতটা ভাল ছিল। সম্ভবত আপনার প্রথম মডেলটি কিছু গুরুত্বপূর্ণ স্কোয়ার্ড বা ইন্টারঅ্যাকশন শর্তাবলী ভুলে গেছে এবং এভাবে ভুল বানানো ফাংশনাল ফর্ম বা বাদ দেওয়া ভেরিয়েবলগুলি ভুগছে। দ্বিতীয়ত, বেলোনী এট আল। (২০১৪) পদ্ধতিটি আপনার টার্গেট প্যারামিটারের অনুক্রমের উন্নতি করতে পারে কারণ অপ্রয়োজনীয় রেজিস্ট্রারদের তাদের কার্যক্রমে শাস্তি দেওয়া হয়েছিল।

— অ্যান্ডি
সূত্র

"সঠিক" পয়েন্ট অনুমান?

— রিচার্ড হার্ডি

3

একটি পরিবর্তনীয় নির্বাচন সম্পাদন এবং তারপরে একটি অ্যানসিসিস পুনরায় চালনার জন্য, যেমন কোনও পরিবর্তনশীল নির্বাচন না ঘটে এবং নির্বাচিত মডেলটি শুরু থেকেই উদ্দিষ্ট করা হয়েছিল, সাধারণত নামমাত্র কভারেজের সাথে অতিরঞ্জিত প্রভাবের আকার, অবৈধ পি-মান এবং আত্মবিশ্বাসের অন্তরকে নিয়ে যায়। সম্ভবত যদি নমুনার আকারটি খুব বড় হয় এবং কয়েকটি বিশাল প্রভাব এবং প্রচুর নাল প্রভাব থাকে তবে লাসো + ওএলএস খুব খারাপভাবে এর দ্বারা প্রভাবিত নাও হতে পারে তবে এর বাইরে আমি কোনও যুক্তিসঙ্গত ন্যায়সঙ্গততা দেখতে পাচ্ছি না এবং সেই ক্ষেত্রে লাসো অনুমানগুলিও ঠিক ঠিক হওয়া উচিত।

— Björn
সূত্র

1

তবে কেন দ্বিতীয় মডেলটি স্ক্র্যাচ থেকে শুরু হয় যেন কোনও ভেরিয়েবল নির্বাচন হয়নি? লাসো কি সেরা ভবিষ্যদ্বাণীপূর্ণ শক্তির সাথে ব্যাখ্যামূলক পরিবর্তনশীল নির্বাচন করে না? বিটিডাব্লু আমি ভেবেছিলাম লাসো স্পার্স ম্যাট্রিক্স ভেরিয়েবলটি আবার গ্লোমে পরিণত করব। এখন আমি বুঝতে পেরেছি যে প্রতি সেবারে লাসো একটি রিগ্রেশন।

— এসআইস্লাম