প্রশ্ন ট্যাগ «ridge-regression»

ধরুন আমি দুই estimators আছে বিটা 1 এবং β 2 যে একই প্যারামিটারের সামঞ্জস্যপূর্ণ estimators হয় β 0 এবং এই ধরনের যে √βˆ1β^1\widehat{\beta}_1βˆ2β^2\widehat{\beta}_2β0β0\beta_0n−−√(βˆ1−β0)→dN(0,V1),n−−√(βˆ2−β0)→dN(0,V2)n(β^1−β0)→dN(0,V1),n(β^2−β0)→dN(0,V2)\sqrt{n}(\widehat{\beta}_1 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_1), \quad \sqrt{n}(\widehat{\beta}_2 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_2) সঙ্গেV1≤V2V1≤V2V_1 \leq V_2পিএসডি অর্থে। সুতরাং, এসিম্পটোটিকভাবে β 1থেকে অধিক কার্যকরী β 2। এই দুটি অনুমানকারী বিভিন্ন ক্ষতি …

11 regression  ridge-regression  shrinkage  penalized 

আমি আরজি তে রিজ রিগ্রেশন ব্যবহার করে রিগ্রেশন মডেলের সেরা পরিবর্তনশীল সমাধান খুঁজতে কিছু তথ্য প্রয়োগ করেছি data আমি ব্যবহার করেছি lm.ridgeএবং glmnet(কখন alpha=0) তবে ফলাফলগুলি খুব আলাদা especially বিশেষত যখন lambda=0। মনে করুন যে উভয় প্যারামিটারের অনুমানকারীরই একই মান। তো, এখানে সমস্যা কী? শুভেচ্ছান্তে

11 r  regression  ridge-regression  glmnet 

পরিসংখ্যানগত শিক্ষার উপাদানসমূহের (হাসিটি, তিবশ্রানী ও ফ্রেডম্যান) অধ্যায় 3 পড়ার পরে, আমি ভাবলাম যে এই প্রশ্নটির শিরোনামে উদ্ধৃত বিখ্যাত সংকোচনের পদ্ধতিগুলি কোনও সমবায় কাঠামো প্রদত্ত, সম্ভবত হ্রাস করা সম্ভব (সম্ভবত আরও সাধারণ) করা সম্ভব কিনা? ) পরিমাণ (y⃗ −Xβ⃗ )TV−1(y⃗ −Xβ⃗ )+λf(β), (1)(y→−Xβ→)TV−1(y→−Xβ→)+λf(β), (1)(\vec{y}-X\vec{\beta})^TV^{-1}(\vec{y}-X\vec{\beta})+\lambda f(\beta),\ \ \ (1) স্বাভাবিকের পরিবর্তে …

11 lasso  ridge-regression 

যাক একজন হতে স্বাধীন ভেরিয়েবল ম্যাট্রিক্স এবং B সংশ্লিষ্ট হতে নির্ভরশীল মূল্যবোধের ম্যাট্রিক্স। শৈলশিরা রিগ্রেশন, আমরা একটি প্যারামিটার নির্ধারণ যাতে করে: । এখন [usv] = এসভিডি (এ) এবং '' s 'এর তির্যক প্রবেশ entry আমরা স্বাধীনতা (df প্রয়োগ) ডিগ্রী = সংজ্ঞায়িত । রিজ রিগ্রেশন কম ভেরিয়েন্স উপাদানগুলির সহগকে সঙ্কুচিত করে …

11 ridge-regression 

রিজ রিগ্রেশন যেমন প্রকাশ করা যেতে পারে যেখানে হয় পূর্বাভাস ট্যাগ , , ম্যাট্রিক্স চিহ্নিত বস্তু আমরা জন্য একটি লেবেল খুঁজে বের করার চেষ্টা করছি, এবং ম্যাট্রিক্স বস্তু :y^=(X′X+aId)−1Xxy^=(X′X+aId)−1Xx\hat{y} = (\mathbf{X'X} + a\mathbf{I}_d)^{-1}\mathbf{X}xy^y^\hat{y}IdId\mathbf{I}_dd×dd×dd \times dxx\mathbf{x}XX\mathbf{X}n×dn×dn \times dnnnxi=(xi,1,...,xi,d)∈Rdxi=(xi,1,...,xi,d)∈Rd\mathbf{x}_i = (x_{i,1}, ..., x_{i,d})\in \mathbb{R}^d X=⎛⎝⎜⎜⎜⎜⎜x1,1x2,1⋮xn,1x1,2x2,2⋮x1,2……⋱…x1,dx2,d⋮xn,d⎞⎠⎟⎟⎟⎟⎟X=(x1,1x1,2…x1,dx2,1x2,2…x2,d⋮⋮⋱⋮xn,1x1,2…xn,ঘ) \mathbf{X} = \begin{pmatrix} x_{1,1} & x_{1,2} & …

11 regression  ridge-regression  kernel-trick 

বেশ কয়েকটি উত্তরে আমি দেখেছি ক্রসভিলেটেড ব্যবহারকারীরা ওপিকে লাসো, রিজ এবং ইলাস্টিক নেটে প্রাথমিক কাগজপত্র সন্ধান করার পরামর্শ দেয়। উত্তরোত্তর জন্য, লাসো, রিজ এবং ইলাস্টিক নেটগুলিতে সেমিনাল কী কাজ করে?

10 references  lasso  regularization  ridge-regression  elastic-net 

আমি শৈলশিরা রিগ্রেশন বিবরণ পড়া হয়েছে ফলিত লিনিয়ার পরিসংখ্যানগত মডেল , 5 ম এড অধ্যায় 11. শৈলশিরা রিগ্রেশন শরীরের চর্বি ডেটা উপলব্ধ সম্পন্ন হবে এখানে । পাঠ্যপুস্তকটি এসএএস-এর আউটপুটটির সাথে মিলে যায়, যেখানে পিছনে রূপান্তরিত যেমন লাগানো মডেলটিতে দেওয়া হয়: ওয়াই= - 7.3978 + 0.5553 এক্স1+ 0.3681 এক্স2- 0.1917 এক্স3ওয়াই=-7,3978+ …

10 r  sas  ridge-regression 

আমি অবগত যে রিজ এবং লসো রিগ্রেশন এর বৈশিষ্ট্যগুলিকে মানক করা সাধারণ অনুশীলন, তবে, এই রিগ্রেশন পদ্ধতির জন্য জেড-স্কোর মানককরণের বিকল্প হিসাবে কোনও (0,1) স্কেলের বৈশিষ্ট্যগুলিকে সাধারণকরণ করা কি আরও কার্যকর হবে?

10 normalization  lasso  standardization  ridge-regression 

অ-নেতিবাচক রিজ রিগ্রেশন কিভাবে করবেন? অ-নেতিবাচক লাসো পাওয়া যায় scikit-learnতবে রিজের জন্য আমি বেতার অ-নেতিবাচকতা প্রয়োগ করতে পারি না এবং প্রকৃতপক্ষে আমি নেতিবাচক সহগগুলি পাচ্ছি। কেউ কি জানো এটা কেন? এছাড়াও, আমি কি নিয়মিত ন্যূনতম স্কোয়ারের ক্ষেত্রে রিজ বাস্তবায়ন করতে পারি? এটিকে অন্য একটি প্রশ্নে নিয়ে যাওয়া হয়েছে: আমি কি …

10 regression  lasso  regularization  ridge-regression 

আমি বুঝতে পারি যে আমরা কমপক্ষে স্কোয়ার রিগ্রেশন সমস্যায় নিয়মিতকরণ নিয়োগ করতে পারি w∗=argminw[(y−Xw)T(y−Xw)+λ∥w∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] এবং এই সমস্যাটির একটি বদ্ধ-ফর্ম সমাধান রয়েছে যেমন: w^=(XTX+λI)−1XTy.w^=(XTX+λI)−1XTy.\hat{\boldsymbol{w}} = (\boldsymbol{X}^T\boldsymbol{X}+\lambda\boldsymbol{I})^{-1}\boldsymbol{X}^T\boldsymbol{y}. আমরা দেখতে পাই যে ২ য় সমীকরণে নিয়মিতকরণ কেবল \ বোল্ডসিম্বল {এক্স} টি \ বোল্ডসিম্বল {এক্স the …

10 regression  regularization  ridge-regression  overfitting  matrix-inverse 

আমি 200 সাবজেক্ট এবং 1000 ভেরিয়েবলের সাথে আমার ডেটা পূর্বাভাসের ক্রস-বৈধকরণের কাজ করছি। আমি আগ্রহী রিজ রিগ্রেশনটি ভেরিয়েবলের সংখ্যা হিসাবে (আমি ব্যবহার করতে চাই) নমুনার সংখ্যার চেয়ে বেশি। সুতরাং আমি সঙ্কুচিত অনুমানকারী ব্যবহার করতে চাই। নীচে উদাহরণস্বরূপ ডেটা তৈরি করা হয়েছে: #random population of 200 subjects with 1000 variables M …

9 r  cross-validation  prediction  ridge-regression 

আমি ভবিষ্যদ্বাণীমূলক দামের মডেলটিতে কাজ করছি যেখানে রোগীর বয়স (বছরগুলিতে পরিমাপক একটি পূর্ণসংখ্যার পরিমাণ) ভবিষ্যদ্বাণীকারী ভেরিয়েবলগুলির মধ্যে একটি। হাসপাতালে থাকার ঝুঁকির মধ্যে বয়স এবং ঝুঁকির মধ্যে একটি দৃ non় অ-লাইন সম্পর্ক স্পষ্ট: আমি রোগীর বয়সের জন্য একটি দণ্ডিত রিগ্রেশন স্মুথ স্প্লাইন বিবেচনা করছি। মতে পরিসংখ্যানগত শিক্ষণ উপাদানসমূহ (Hastie এট, 2009, …

9 nonlinear-regression  lasso  ridge-regression  smoothing  splines 

যখন , সর্বনিম্ন স্কোয়ার সমস্যা যা sp মানের উপরে একটি গোলাকার বিধিনিষেধ আরোপ করে হিসাবে an একটি অতি-নির্ধারিত সিস্টেমের জন্য। \ |। সিডট \ | _2 হ'ল ভেক্টরের ইউক্লিডিয়ান আদর্শ।y=Xβ+ey=Xβ+ey = X\beta + eδδ\deltaββ\betamin ∥y−Xβ∥22s.t. ∥β∥22≤δ2min⁡ ‖y−Xβ‖22s.t.⁡ ‖β‖22≤δ2\begin{equation} \begin{array} &\operatorname{min}\ \| y - X\beta \|^2_2 \\ \operatorname{s.t.}\ \ \|\beta\|^2_2 \le …

9 regression  least-squares  regularization  ridge-regression  underdetermined 

রিজ রিগ্রেশন এ আমি নতুন। যখন আমি লিনিয়ার রিজ রিগ্রেশন প্রয়োগ করি, তখন আমি নিম্নলিখিত ফলাফল পেয়েছি: >myridge = lm.ridge(y ~ ma + sa + lka + cb + ltb , temp, lamda = seq(0,0.1,0.001)) > select(myridge) modified HKB estimator is 0.5010689 modified L-W estimator is 0.3718668 smallest value of …

9 ridge-regression