প্রশ্ন ট্যাগ «regularization»

অতিরিক্ত বাধা নিয়ে রিজ রিগ্রেশন বিবেচনা করুন যা ; এর বর্গাকার ইউনিটের সমষ্টি (সমানভাবে, ইউনিটের বৈকল্পিক) প্রয়োজন; প্রয়োজনে, কেউ ধরে নিতে পারেন যে এর সাথে বর্গক্ষেত্রের একক রয়েছে:y^y^\hat{\mathbf y}yy\mathbf y β^∗λ=argmin{∥y−Xβ∥2+λ∥β∥2}s.t.∥Xβ∥2=1.β^λ∗=arg⁡min{‖y−Xβ‖2+λ‖β‖2}s.t.‖Xβ‖2=1.\hat{\boldsymbol\beta}_\lambda^* = \arg\min\Big\{\|\mathbf y - \mathbf X \boldsymbol \beta\|^2+\lambda\|\boldsymbol\beta\|^2\Big\} \:\:\text{s.t.}\:\: \|\mathbf X \boldsymbol\beta\|^2=1. β^∗λβ^λ∗\hat{\boldsymbol\beta}_\lambda^* যখন \ ল্যাম্বদা \ থেকে \ …

21 pca  regularization  ridge-regression  partial-least-squares  constrained-regression 

ধরুন আমি কিছু ধরণের নিয়মিত অনুমান ব্যবহার করে কিছু উচ্চ-মাত্রিক ডেটা থেকে প্রচুর পরিমাণে পরামিতি অনুমান করার চেষ্টা করছি। নিয়ন্ত্রক অনুমানের মধ্যে কিছু পক্ষপাতিত্ব পরিচয় করিয়ে দেয়, তবে এটি এখনও একটি ভাল বাণিজ্য বন্ধ হতে পারে কারণ বৈকল্পিকতা হ্রাস করার জন্য এটির চেয়ে বেশি হওয়া উচিত। আমি যখন আত্মবিশ্বাসের ব্যবধানগুলি …

21 confidence-interval  bias  regularization  ridge-regression  coverage-probability 

আমি বুঝতে পেরেছি যে রিজ রিগ্রেশন কীভাবে গুণাগুণকে শূন্য জ্যামিতিক দিকে সঙ্কুচিত করে। তবুও আমি জানি যে বিশেষ "অর্থনোরমাল কেস" এ কীভাবে প্রমাণ করতে হয় তবে আমি বিভ্রান্ত হয়ে পড়েছি যে "স্পেকট্রাল পচন" এর মাধ্যমে সাধারণ ক্ষেত্রে এটি কীভাবে কাজ করে।

20 regression  multiple-regression  regularization  ridge-regression  svd 

পরিসংখ্যান শেখার অ্যালগরিদম চালানোর আগে বৈশিষ্ট্য নির্বাচন পদ্ধতিগুলি (এলোমেলো বন বৈশিষ্ট্য গুরুত্বের মান বা ইউনিভারিয়েট বৈশিষ্ট্য নির্বাচন পদ্ধতি ইত্যাদি) ব্যবহার করার জন্য আমার একটি প্রশ্ন রয়েছে। আমরা ওভারফিটিং এড়াতে জানি যে আমরা ওজন ভেক্টরগুলিতে নিয়মিতকরণ জরিমানা প্রবর্তন করতে পারি। সুতরাং আমি যদি লিনিয়ার রিগ্রেশন করতে চাই, তবে আমি এল 2 …

20 regression  machine-learning  feature-selection  lasso  regularization 

আমি সি-এসভিসি মোডে লিবসভিএম ব্যবহার করছি ডিগ্রি 2 এর বহুপদী কার্নেল সহ এবং আমার একাধিক এসভিএম প্রশিক্ষণ প্রয়োজন। প্রতিটি প্রশিক্ষণ সেটে 10 টি বৈশিষ্ট্য এবং 5000 ভেক্টর রয়েছে। প্রশিক্ষণের সময়, আমি প্রশিক্ষিত বেশিরভাগ এসভিএম-এর জন্য আমি এই সতর্কতাটি পাচ্ছি: WARNING: reaching max number of iterations optimization finished, #iter = 10000000 …

20 machine-learning  cross-validation  svm  regularization  libsvm 

রিগ্রেশন নিয়মিতকরণ (লিনিয়ার, লজিস্টিক ...) ওভার-ফিটিং হ্রাস করার সর্বাধিক জনপ্রিয় উপায়। লক্ষ্যটি পূর্বাভাসের নির্ভুলতা হয় (ব্যাখ্যা না করে), নিয়মিতকরণের জন্য কি কোনও ভাল বিকল্প রয়েছে, বিশেষত বড় ডেটা-সেটগুলির জন্য উপযুক্ত (মাইল / বিলিয়ন পর্যবেক্ষণ এবং লক্ষ লক্ষ বৈশিষ্ট্য)?

19 regression  regularization  overfitting 

আমরা যদি কেবলমাত্র পূর্বাভাস বা ভবিষ্যদ্বাণীতে না হয়ে মডেল প্যারামিটারগুলি অনুমান করতে (এবং ব্যাখ্যা করতে) আগ্রহী তবেই নিয়মিতকরণ কার্যকর হতে পারে? আমি লক্ষ্য করি যে যদি আপনার লক্ষ্যটি নতুন ডেটাতে ভাল পূর্বাভাস দেওয়া হয় তবে নিয়মিতকরণ / ক্রস-বৈধকরণ কীভাবে চূড়ান্ত কার্যকর। তবে আপনি যদি traditionalতিহ্যবাহী অর্থনীতি করছেন এবং আপনার যত্ন …

19 cross-validation  econometrics  model-selection  interpretation  regularization 

আমি (সঙ্গে শৈলশিরা রিগ্রেশন মধ্যে একটি সংযোগ ওয়েবে পঠিত কোথাও থাকার স্মরণ এবং পিসিএ রিগ্রেশন নিয়মিতকরণ): ব্যবহার করার সময় ℓ 2 hyperparameter সঙ্গে -regularized রিগ্রেশন λ , যদিℓ2ℓ2\ell_2ℓ2ℓ2\ell_2λλ\lambda , তারপর রিগ্রেশন সঙ্গে পিসি পরিবর্তনশীল সরানোর সমতূল্য সবচেয়ে ছোট এগেনুয়ালু।। → 0λ→0\lambda \to 0 এটা সত্য কেন? অপ্টিমাইজেশন প্রক্রিয়াটির সাথে এর …

19 regression  pca  regularization  ridge-regression 

এটি সুপরিচিত যে l2l2l^2 পেনাল্টির সাথে লিনিয়ার রিগ্রেশন সহগের আগে কোনও গাউসিয়ানকে দেওয়া এমএপি অনুমানের সন্ধানের সমতুল্য। একইভাবে, l1l1l^1 পেনাল্টি ব্যবহার পূর্বের হিসাবে ল্যাপ্লেস বিতরণ ব্যবহারের সমতুল্য। l1l1l^1 এবং l2l2l^2 নিয়মিতকরণের কিছু ভারী সমন্বয় ব্যবহার করা অস্বাভাবিক নয় । আমরা কি বলতে পারি যে এটি সহগের উপর কিছু পূর্ব বিতরণের …

17 regression  bayesian  regularization  prior  elastic-net 

ড্রপআউট ব্যাখ্যা করার জন্য যদি আপনার অর্ধেক পৃষ্ঠা থাকে তবে আপনি কীভাবে এগিয়ে যাবেন? এই কৌশলটির পিছনে যৌক্তিকতা কোনটি?

17 neural-networks  deep-learning  regularization  dropout 

বিশপের বই "প্যাটার্ন শ্রেণিবদ্ধকরণ এবং মেশিন লার্নিং" এ এটি নিউরাল নেটওয়ার্কগুলির প্রসঙ্গে নিয়মিতকরণের একটি কৌশল বর্ণনা করেছে। যাইহোক, আমি অনুচ্ছেদে বর্ণনা করছি না যে প্রশিক্ষণ প্রক্রিয়া চলাকালীন, মডেল জটিলতার সাথে স্বাধীনতার ডিগ্রি সংখ্যা বৃদ্ধি করে। সম্পর্কিত উদ্ধৃতি নিম্নলিখিত: কোনও নেটওয়ার্কের কার্যকর জটিলতা নিয়ন্ত্রণের উপায় হিসাবে নিয়মিতকরণের বিকল্প হ'ল তাড়াতাড়ি থামার …

17 machine-learning  neural-networks  regularization  degrees-of-freedom 

রবি ম্যাককিলিয়াম এই পোস্টে দেওয়া মন্তব্যে বলেছেন : এটি উল্লেখ করা উচিত যে ঘন ঘনবাদীদের দৃষ্টিকোণ থেকে, পূর্ববর্তী জ্ঞানটি মডেলটিতে অন্তর্ভুক্ত করতে পারবেন না এমন কোনও কারণ নেই। এই অর্থে, ঘন ঘন দৃষ্টিভঙ্গি সহজ, আপনার কাছে কেবলমাত্র একটি মডেল এবং কিছু ডেটা রয়েছে। মডেল থেকে পূর্বের তথ্য আলাদা করার প্রয়োজন …

17 bayesian  prior  regularization  frequentist 

আমার 150 টি বৈশিষ্ট্য রয়েছে এবং এগুলির মধ্যে অনেকগুলি একে অপরের সাথে অত্যন্ত সংযুক্ত। আমার লক্ষ্যটি হল একটি বিচ্ছিন্ন ভেরিয়েবলের মান পূর্বাভাস দেওয়া, যার পরিসীমা 1-8 । আমার নমুনার আকার 550 এবং আমি 10-ভাঁজ ক্রস-বৈধতা ব্যবহার করছি । এএফএআইআইকি, নিয়মিতকরণ পদ্ধতিগুলির মধ্যে (লাসো, ইলাস্টিক নেট এবং রিজ) বৈশিষ্ট্যগুলির মধ্যে সম্পর্কের …

17 regression  lasso  regularization  ridge-regression  elastic-net 

যদি আমরা ডেটার সেট , তবে এটিতে লাসো প্রয়োগ করুন এবং একটি সমাধান , আমরা আবার ডেটা সেটে লাসো প্রয়োগ করতে পারি , যেখানে অ- এর সেট is একটি সমাধান পাওয়ার জন্য এর শূন্য সূচক, relax , যাকে বলা হয় 'রিল্যাক্সড লাসো' সমাধান (আমি ভুল হলে আমাকে সংশোধন করুন!)। সমাধান …

16 regression  optimization  lasso  regularization  shrinkage 

Lasso বা শৈলশিরা রিগ্রেশনে, এক সংকোচন প্যারামিটার প্রায়ই ডাকা নির্দিষ্ট করতে হয়েছে বা α । এই মান প্রায়ই যা সেরা উদাঃ উৎপাদ প্রশিক্ষণ ডেটা এবং দেখে মান আলাদা একটি গুচ্ছ চেক করে ক্রস বৈধতা মাধ্যমে নির্বাচিত করা হয় আর 2 টেস্ট ডেটার উপর। মানগুলির পরিসীমাটি কোনটি পরীক্ষা করা উচিত? এটি …

16 regression  lasso  regularization  ridge-regression  penalized