ক্ষতির ক্রিয়াকলাপের দ্বিতীয় আদেশের সমাপ্তি (গভীর শিখনের বই, .3.৩৩)

Question

গভীর শিক্ষার বিষয়ে গুডফেলিজ (২০১ 2016) বইয়ে তিনি এল 2 নিয়মিতকরণের ( https://www.DPlearningbook.org/contents/regulariization.html পৃষ্ঠা 247) এর দিকে দ্রুত থামার সমতুল্যতার বিষয়ে কথা বলেছেন talked

চার্জ ক্রম এর চতুর্ভুজ অনুমান দেওয়া হয়েছে:$j$

$$\hat{J}(\theta)=J(w^*)+\frac{1}{2}(w-w^*)^TH(w-w^*)$$

যেখানে হেসিয়ান ম্যাট্রিক্স (সম। 7.33)। এটি কি মাঝারি শব্দটি অনুপস্থিত? টেলর সম্প্রসারণ হওয়া উচিত: $H$

$$f(w+\epsilon)=f(w)+f'(w)\cdot\epsilon+\frac{1}{2}f''(w)\cdot\epsilon^2$$

Answer 1

তারা সর্বোত্তম ওজন সম্পর্কে কথা বলতে:

আমরা খরচ ফাংশন মডেল পারেন নিকটবর্তী একটি দ্বিঘাত পড়তা সঙ্গে প্রায়োগিক অনুকূল মান ওজন$J$ডব্লু ∗$w^∗$

এই মুহুর্তে, প্রথম ডেরাইভেটিভ শূন্য — মধ্যমেয়াদটি এইভাবে বাদ যায়।