প্রশ্ন ট্যাগ «ridge-regression»

আমি শুনেছি যে পূর্বের পর্যাপ্ত পরিমাণটি বেছে নেওয়া হলে রিজ রিগ্রেশন উত্তরোত্তর বিতরণের মাধ্যম হিসাবে উত্পন্ন হতে পারে। পূর্ববর্তী (যেমন 0 প্রায় স্ট্যান্ডার্ড সাধারণ বিতরণ) দ্বারা রিগ্রেশন সহগের উপর নির্ধারিত সীমাবদ্ধতাগুলি কি সহগ / স্কোয়ার সাইজের পেনাল্টি সেটটি প্রতিস্থাপন করে? এই সমতাটি ধরে রাখার জন্য কি পূর্বের গাউসিয়ান হতে হবে?

15 bayesian  prior  ridge-regression 

"স্ট্যাটিস্টিকাল লার্নিং এর উপাদানসমূহ" (২ য় সংস্করণ), পি In63 এ লেখকরা রিজ রিগ্রেশন সমস্যার নিম্নলিখিত দুটি সূত্র দিয়েছেন: β^r i dছই= আরগমিনβ{ Σi = 1এন( y)আমি- β0- ∑j = 1পিএক্সআমি জেβঞ)2+ λ ∑j = 1পিβ2ঞ}β^Rআমিঘছই=argminβ{Σআমি=1এন(Yআমি-β0-Σঞ=1পিএক্সআমিঞβঞ)2+ +λΣঞ=1পিβঞ2} \hat{\beta}^{ridge} = \underset{\beta}{\operatorname{argmin}} \left\{ \sum_{i=1}^N(y_i-\beta_0-\sum_{j=1}^p x_{ij} \beta_j)^2 + \lambda \sum_{j=1}^p \beta_j^2 \right\} এবং β^r …

15 ridge-regression 

আমি পরিসংখ্যান শেখার সর্বাধিক জনপ্রিয় বইগুলি পড়েছি 1- পরিসংখ্যানগত শিক্ষার উপাদানসমূহ। 2- পরিসংখ্যান শেখার একটি ভূমিকা । উভয়ই উল্লেখ করেছেন যে রিজ রিগ্রেশনটির দুটি সূত্র সমতুল্য। এই ফলাফলের কোন বোধগম্য গাণিতিক প্রমাণ আছে? আমি ক্রস ভ্যালিডেটেড দিয়েও গিয়েছিলাম , তবে আমি সেখানে কোনও সুনির্দিষ্ট প্রমাণ পাই না। তদুপরি, লাসো কি …

15 regression  lasso  regularization  ridge-regression  lagrange-multipliers 

রিজ রিগ্রেশন চলাকালীন, আপনি সংখ্যার কম সংখ্যার ( র নির্দিষ্ট মানের জন্য ) তুলনায় কম সংখ্যকগুলির তুলনায় বৃহত্তর গুণাগুণগুলি কীভাবে ব্যাখ্যা করবেন ? রিজ রিগ্রেশন কি একঘেয়েভাবে সহগুণ সঙ্কুচিত করার কথা নয়?λλ\lambda সম্পর্কিত নোটে, কীভাবে একজন এমন একটি গুণাগুণকে ব্যাখ্যা করবেন যেটির চিহ্নটি রিজ রিগ্রেশন চলাকালীন পরিবর্তিত হয় (যেমন, রিজ …

14 interpretation  regression-coefficients  ridge-regression 

রিজ রিগ্রেশনে, উদ্দেশ্যমূলক কার্যকারিতা হ্রাস করা উচিত: RSS+λ∑β2j.RSS+λ∑βj2.\text{RSS}+\lambda \sum\beta_j^2. এটিকে ল্যাঞ্জরেঞ্জ গুণক পদ্ধতি ব্যবহার করে অনুকূলিত করা যেতে পারে? নাকি তা সরাসরি পার্থক্য?

14 regression  regularization  ridge-regression 

আমার সাধারণ বোঝাপড়াটি হ'ল এআইসি মডেলের ফিটনেসের ধার্মিকতা এবং মডেলের জটিলতার মধ্যে বাণিজ্য বন্ধের বিষয়ে ডিল করে। AIC=2k−2ln(L)AIC=2k−2ln(L)AIC =2k -2ln(L) মডেলটিতে k = পরামিতির সংখ্যাkkk = সম্ভাবনাLLL Bayesian তথ্য নির্ণায়ক সাথে BIC ঘনিষ্ঠভাবে AIC.The এআইসি সঙ্গে সম্পর্কযুক্ত কম দৃঢ়ভাবে চেয়ে BIC দিয়েছেন করে পরামিতি সংখ্যা স্থগিত। আমি দেখতে পাচ্ছি যে …

14 cross-validation  lasso  aic  ridge-regression  bic 

আমি রিজ রিগ্রেশন সম্পর্কে শিখছি এবং জানি যে মাল্টিকোলাইনারিটির উপস্থিতিতে রিজ রিগ্রেশন আরও ভাল কাজ করে। আমি ভাবছি কেন এটি সত্য? হয় স্বজ্ঞাত উত্তর বা গাণিতিক উত্তর সন্তুষ্টিজনক হবে (উভয় প্রকারের উত্তর আরও তৃপ্তিদায়ক হবে)। এছাড়াও, আমি জানি যে always সর্বদা পাওয়া যায় তবে সঠিক কলিনারিটির উপস্থিতিতে রিজ রিগ্রেশন কতটা …

14 multicollinearity  ridge-regression 

আমি একটি রিজ রিগ্রেশন মডেলের AICc গণনা করতে চাই। সমস্যাটি পরামিতিগুলির সংখ্যা of লিনিয়ার রিগ্রেশনের জন্য, বেশিরভাগ লোকেরা পরামর্শ দেন যে পরামিতিগুলির সংখ্যা অনুমান সহগের সংখ্যা সিগমা (ত্রুটির প্রকরণ) এর সমান। যখন রিজ রিগ্রেশনটির কথা আসে তখন আমি পড়লাম যে টুপি ম্যাট্রিক্সের ট্রেস - স্বাধীনতার ডিগ্রি (ডিএফ) - এআইসি সূত্রে …

13 regression  aic  ridge-regression  degrees-of-freedom 

আমি নিম্নলিখিত কোড সহ আর-তে প্যাকেজ 'লারস' ব্যবহার করছি: > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 + 7*x4 + rnorm(n) > …

13 correlation  feature-selection  lasso  regularization  ridge-regression 

আমি পড়েছি যে মূল ডাটা ম্যাট্রিক্সে কেবল সারি সারি ডেটা যুক্ত করে রিজ রিগ্রেশন অর্জন করা যেতে পারে, যেখানে প্রতিটি সারি 0 নির্ভরশীল ভেরিয়েবলের জন্য 0 ব্যবহার করে এবং স্বাধীন ভেরিয়েবলের জন্য বা শূন্যের বর্গমূল ব্যবহার করে নির্মিত হয়। তারপরে প্রতিটি স্বতন্ত্র ভেরিয়েবলের জন্য একটি অতিরিক্ত সারি যুক্ত করা হয়।টkk …

12 logistic  generalized-linear-model  ridge-regression 

রেফারেন্স বুক 1 , বই 2 এবং কাগজ অনুসারে । এটি উল্লেখ করা হয়েছে যে নিয়ন্ত্রিত রিগ্রেশন (রিজ, ল্যাসো এবং ইলাস্টিক নেট) এবং তাদের সীমাবদ্ধ সূত্রগুলির মধ্যে একটি সমতা রয়েছে। আমি ক্রস ভ্যালিডেটেড 1 এবং ক্রস ভ্যালিডেটেড 2 এর দিকেও নজর রেখেছি, তবে আমি কোনও পরিষ্কার উত্তর দেখতে পাচ্ছি না …

12 regression  optimization  lasso  ridge-regression  elastic-net 

আমি নেতিবাচক রিজ রিগ্রেশন সম্পর্কে সাহিত্য খুঁজছি । সংক্ষেপে, এটি অনুমানক সূত্রে নেতিবাচক ব্যবহার করে লিনিয়ার রিজ রিগ্রেশনকে সাধারণীকরণ করা হয় :ইতিবাচক ক্ষেত্রে একটি দুর্দান্ত তত্ত্ব রয়েছে: ক্ষতির ফাংশন হিসাবে, বাধা হিসাবে, বেয়েস পূর্বের হিসাবে ... তবে আমি কেবল উপরের সূত্রটি সহ নেতিবাচক সংস্করণে হারিয়েছি বলে মনে করি। আমি যা …

12 regression  regularization  ridge-regression 

রিজ রিগ্রেশন এবং লাসো সম্পর্কে আমার ইতিমধ্যে একটি ধারণা রয়েছে। লাসোর জন্য, এল 1 পেনাল্টি শব্দটি একটি বিচ্ছিন্ন সহগ ভেক্টর এনে দেবে, যা বৈশিষ্ট্য নির্বাচন পদ্ধতি হিসাবে দেখা যেতে পারে। তবে লাসোর জন্য কিছু সীমাবদ্ধতা রয়েছে। যদি বৈশিষ্ট্যগুলির উচ্চ সম্পর্ক থাকে তবে লাসো কেবল তাদের মধ্যে একটি নির্বাচন করবে। তদ্ব্যতীত, …

12 feature-selection  lasso  regularization  ridge-regression  elastic-net 

এই পোস্টটি এটিকে অনুসরণ করে : ত্রিভুজটিতে ধ্রুবক যুক্ত করে কেন রিজ অনুমানটি ওএলএসের চেয়ে ভাল হয়? এখানে আমার প্রশ্ন: আমি যতদূর জানি, রিজ নিয়মিতকরণ একটি ell_2 -norm (ইউক্লিডিয়ান দূরত্ব) ব্যবহার করে। তবে কেন আমরা এই আদর্শের বর্গ ব্যবহার করব? ( ৩ এর সরাসরি প্রয়োগের ফলে বিটার স্কোয়ারের যোগফলের বর্গমূলের …

12 lasso  regularization  ridge-regression 

আমি লাসো এবং রিজ উভয়ের সাথেই একটি রিগ্রেশন মডেল চালাচ্ছি (0-5 এর মধ্যে একটি পৃথক ফলাফলের পরিবর্তনশীল ভবিষ্যদ্বাণী করতে)। মডেলটি চালানোর আগে, আমি বৈশিষ্ট্যটি সেটটি 250 থেকে 25 এ হ্রাস করার SelectKBestপদ্ধতি ব্যবহার করি । প্রাথমিক বৈশিষ্ট্য নির্বাচন ছাড়া লাসো এবং রিজ উভয়ই যথাযথ স্কোরকে কমিয়ে দেয় [যা ছোট নমুনার …

11 regression  predictive-models  feature-selection  lasso  ridge-regression