প্রশ্ন ট্যাগ «shrinkage»

রিজ রিগ্রেশন অনুমান পরামিতি ββ\boldsymbol \beta একটি রৈখিক মডেল y=Xβy=Xβ\mathbf y = \mathbf X \boldsymbol \beta দ্বারা যেখানে একটি নিয়মিতকরণ প্যারামিটার। এটি সুপরিচিত যে অনেকগুলি পরস্পর সম্পর্কিত ভবিষ্যদ্বাণীকারী থাকাকালীন এটি প্রায়শই ওএলএস রিগ্রেশন ( ) এর চেয়ে ভাল সম্পাদন করে ।β^λ=(X⊤X+λI)−1X⊤y,β^λ=(X⊤X+λI)−1X⊤y,\hat{\boldsymbol \beta}_\lambda = (\mathbf X^\top \mathbf X + \lambda \mathbf …

16 regression  ridge-regression  shrinkage 

যদি আমরা ডেটার সেট , তবে এটিতে লাসো প্রয়োগ করুন এবং একটি সমাধান , আমরা আবার ডেটা সেটে লাসো প্রয়োগ করতে পারি , যেখানে অ- এর সেট is একটি সমাধান পাওয়ার জন্য এর শূন্য সূচক, relax , যাকে বলা হয় 'রিল্যাক্সড লাসো' সমাধান (আমি ভুল হলে আমাকে সংশোধন করুন!)। সমাধান …

16 regression  optimization  lasso  regularization  shrinkage 

এই সাইটে ইতিমধ্যে একই বিষয়ে কথা বলার একটি পোস্ট রয়েছে: সঙ্কুচিত কেন কাজ করে? তবে, উত্তরগুলি জনপ্রিয় হওয়া সত্ত্বেও, আমি বিশ্বাস করি না যে প্রশ্নের সূত্রটি সত্যই সম্বোধিত হয়েছে। এটি বেশ পরিষ্কার যে অনুমানের ক্ষেত্রে কিছু পক্ষপাতমূলক প্রবর্তন বৈচিত্র্য হ্রাস এনেছে এবং অনুমানের মানের উন্নতি করতে পারে। যাহোক: 1) পক্ষপাত …

15 regularization  ridge-regression  shrinkage 

আমি জেমস-স্টেইন সংকোচনের ধারণা নিয়ে এসেছি (সম্ভবত যে সম্ভবত স্বতন্ত্র সাধারণের কোনও ভেক্টরের একক পর্যবেক্ষণের একটি ননলাইনার ফাংশন এলোমেলো ভেরিয়েবলগুলির মাধ্যমের আরও ভাল অনুমানকারী হতে পারে, যেখানে স্কোয়ার ত্রুটি দ্বারা 'আরও ভাল' পরিমাপ করা হয় )। যাইহোক, আমি প্রয়োগের কাজে এটি কখনও দেখিনি। স্পষ্টতই আমি যথেষ্ট পড়ছি না। জেমস-স্টেইন কোনও …

15 estimation  error  shrinkage  application  steins-phenomenon 

ℓ 1 জরিমানা শর্তের গুণফলের অনুকূল পছন্দ সম্পর্কে কোনও বিশ্লেষণমূলক ফলাফল বা পরীক্ষামূলক কাগজপত্র রয়েছে কি ? দ্বারা অনুকূল , আমি একটি প্যারামিটার যে শ্রেষ্ঠ মডেল, বা যে ছোট প্রত্যাশিত হ্রাস নির্বাচন সম্ভাবনা maximizes মানে। আমি জিজ্ঞাসা করছি কারণ প্রায়শই সমস্যাটির বড় সংখ্যার উদাহরণগুলির কারণে বা হাতে থাকা সমস্যার আকারের …

15 model-selection  lasso  shrinkage 

সংকুচিত শব্দটি নির্দিষ্ট চেনাশোনাগুলিতে প্রচুর পরিমাণে ছড়িয়ে পড়ে। তবে সংকোচনের বিষয়টি কী, এর স্পষ্ট সংজ্ঞা বলে মনে হয় না। আমার যদি কোনও টাইম সিরিজ থাকে (বা কোনও প্রক্রিয়া পর্যবেক্ষণের কোনও সংগ্রহ) আমি বিভিন্ন ধরণের কীভাবে সিরিজের কিছু প্রকারের অভিজ্ঞতাগত সংকোচনের পরিমাপ করতে পারি? আমি বিভিন্ন ধরণের তাত্ত্বিক সংকোচনের কথা বলতে …

13 estimation  predictive-models  shrinkage 

Zou এট আল। "লাসোর" স্বাধীনতার ডিগ্রিতে " (2007) দেখায় যে নানজারো সহগের সংখ্যা লাসোর স্বাধীনতার ডিগ্রিগুলির জন্য একটি পক্ষপাতহীন এবং ধারাবাহিক অনুমান। এটা আমার কাছে কিছুটা পাল্টা মনে হচ্ছে। ধরুন আমাদের একটি রিগ্রেশন মডেল রয়েছে (যেখানে ভেরিয়েবলগুলি শূন্যের মাঝামাঝি) y=βx+ε.y=βx+ε.y=\beta x + \varepsilon. ধরুন একটি অবাধ OLS ঔজ্জ্বল্যের প্রেক্ষাপটে এর …

12 regression  lasso  degrees-of-freedom  shrinkage 

আমি ইতিমধ্যে লাসো (কমপক্ষে পরম সংকোচন এবং নির্বাচন অপারেটর) অধ্যয়ন করছি । আমি দেখতে পাচ্ছি যে নিয়মিতকরণ পরামিতিগুলির সর্বোত্তম মান ক্রস বৈধকরণের মাধ্যমে চয়ন করা যেতে পারে। আমি রিজ রিগ্রেশন এবং নিয়মিতকরণ প্রয়োগ করে এমন অনেকগুলি পদ্ধতিতেও দেখতে পাই, আমরা সর্বোচ্চ নিয়মিতকরণ পরামিতি (পেনাল্টি বলার) জন্য সিভি ব্যবহার করতে পারি। …

12 lasso  regularization  shrinkage 

ধরুন আমি দুই estimators আছে বিটা 1 এবং β 2 যে একই প্যারামিটারের সামঞ্জস্যপূর্ণ estimators হয় β 0 এবং এই ধরনের যে √βˆ1β^1\widehat{\beta}_1βˆ2β^2\widehat{\beta}_2β0β0\beta_0n−−√(βˆ1−β0)→dN(0,V1),n−−√(βˆ2−β0)→dN(0,V2)n(β^1−β0)→dN(0,V1),n(β^2−β0)→dN(0,V2)\sqrt{n}(\widehat{\beta}_1 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_1), \quad \sqrt{n}(\widehat{\beta}_2 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_2) সঙ্গেV1≤V2V1≤V2V_1 \leq V_2পিএসডি অর্থে। সুতরাং, এসিম্পটোটিকভাবে β 1থেকে অধিক কার্যকরী β 2। এই দুটি অনুমানকারী বিভিন্ন ক্ষতি …

11 regression  ridge-regression  shrinkage  penalized 

আমি জেমস-স্টেইন অনুমানকারীর প্রত্যেকটি বিবৃতি অনুমান করি যে অনুমান করা যায় যে এলোমেলো ভেরিয়েবলগুলির একই (এবং ইউনিট) ভেরিয়েন্স রয়েছে। তবে এই সমস্ত উদাহরণে আরও উল্লেখ করা হয়েছে যে জেএসের অনুমানকারীকে একে অপরের সাথে কিছুই করার মতো পরিমাণের অনুমান করতে ব্যবহার করা যেতে পারে। উইকিপিডিয়া উদাহরণ তাইওয়ানের আলো, চা পান, এবং …

11 estimation  shrinkage  steins-phenomenon 

একটি সাধারণ উদাহরণের জন্য ধরে নিন যে দুটি লিনিয়ার রিগ্রেশন মডেল রয়েছে মডেল 1 গেছে তিন ভবিষ্যতবক্তা, x1a, x2b, এবংx2c মডেল 2 এর মডেল 1 থেকে তিনটি ভবিষ্যদ্বাণী এবং দুটি অতিরিক্ত ভবিষ্যদ্বাণী x2aএবংx2b একটি জনসংখ্যার রিগ্রেশন সমীকরণ রয়েছে যেখানে জনসংখ্যার বৈচিত্রটি বর্ণিত হয়েছে মডেল 1 এর জন্য ρ2(1)ρ(1)2\rho^2_{(1)} এবং মডেল …

10 regression  confidence-interval  estimation  r-squared  shrinkage  anova  t-test  references  tukey-hsd  machine-learning  boosting  r  clustering  fishers-exact  generalized-linear-model  model  probit  link-function  r  survival  probability  distributions  dice  logistic  lme4-nlme  glmm  meta-analysis  distributions  distributions  factor-analysis  r  anova  repeated-measures  post-hoc 

ধরুন আমার (আমার একাধিক পর্যবেক্ষণ আছে, এটি কেবলমাত্র ফর্ম) এর অনুদৈর্ঘ্য তথ্য রয়েছে । আমি উপর নিষেধাজ্ঞাগুলিতে আগ্রহী । একটি অবাধ গ্রহণ সমতূল্য সঙ্গে ।Y =(ওয়াই1, … ,ওয়াইজে) ∼ এন( μ , Σ )ওয়াই=(ওয়াই1,...,ওয়াইজে)~এন(μ,Σ)\mathbf Y = (Y_1, \ldots, Y_J) \sim \mathcal N(\mu, \Sigma)ΣΣ\SigmaΣΣ\Sigmaওয়াইঞ=αঞ+ +Σ। = 1j - 1φℓ জেওয়াইঞ - …

9 feature-selection  lasso  shrinkage 

আমি একটি লজিস্টিক রিগ্রেশন প্রসঙ্গে বৈশিষ্ট্য নির্বাচনের জন্য ক্রমায়ন বিশ্লেষণ সম্পর্কে বিভ্রান্ত হয়ে পড়েছি। আপনি কি এলোমেলোভাবে পারমিটেশন পরীক্ষার একটি পরিষ্কার ব্যাখ্যা সরবরাহ করতে পারেন এবং এটি কীভাবে বৈশিষ্ট্য নির্বাচনের ক্ষেত্রে প্রযোজ্য? সম্ভবত সঠিক অ্যালগরিদম এবং উদাহরণ সহ। অবশেষে, এটি অন্যান্য সংকোচন পদ্ধতির সাথে লাসো বা এলএআর এর সাথে কীভাবে …

9 regression  logistic  feature-selection  permutation-test  shrinkage 

ধরুন আমি জন্য । আসুন এবং বোঝাতে দ্বারা এর ম বৃহত্তম পর্যবেক্ষিত মান । of এর (শর্তাধীন) বিতরণ কী ? (বা সমতুল্য, of এর )Xi∼N(0,σ2x),Yi∼N(0,σ2y),Xi∼N(0,σx2),Yi∼N(0,σy2),X_i \sim \mathcal{N}\left(0,\sigma_x^2\right), Y_i \sim \mathcal{N}\left(0,\sigma_y^2\right),i=1,2,…,ni=1,2,…,ni=1,2,\ldots,nZi=Xi+Yi,Zi=Xi+Yi,Z_i = X_i + Y_i,ZijZijZ_{i_j}jjjZZZXijXijX_{i_j}YijYijY_{i_j} অর্থাৎ কি বিতরণের হয় উপর শর্তাধীন হচ্ছে তম বৃহত্তম পর্যবেক্ষিত মান ?XiXiX_iZiZiZ_ijjjnnnZZZ আমি অনুমান করছি যে …

9 distributions  order-statistics  shrinkage