কোয়ান্টাইল রিগ্রেশন: লোকসান ফাংশন

24

আমি কোয়ান্টাইল রিগ্রেশন বোঝার চেষ্টা করছি, তবে একটি জিনিস যা আমাকে ভোগ করে তা হ'ল লস ফাংশনের পছন্দ।

$\rho_\tau(u) = u(\tau-1_{\{u<0\}})$

আমি জানি যে the এর সর্বনিম্ন প্রত্যাশা গুণমানের সমান , তবে এই ফাংশনটি দিয়ে আরম্ভ করার স্বজ্ঞাত কারণটি কী? আমি এই ফাংশনটি হ্রাস এবং কোয়ান্টাইলের মধ্যে সম্পর্ক দেখতে পাচ্ছি না। কেউ আমাকে এটা ব্যাখ্যা করতে পারেন? $\rho_\tau(y-u)$ $\tau\%$

quantiles loss-functions quantile-regression

— CDO
সূত্র

28

অন্তর্নিহিত বিতরণ যাই হোক না কেন, ক্ষতির মিনিমাইজার হিসাবে প্রদত্ত পরিমাণের পরিমাণ নির্ধারণ করে এমন কোনও ক্ষয় ফাংশন কীভাবে নিয়ে আসতে পারে সে সম্পর্কে অন্তর্দৃষ্টি জিজ্ঞাসা করার জন্য আমি এই প্রশ্নটি বুঝতে পারি । এটি অসন্তুষ্টিজনক হবে, তবে কেবল উইকিপিডিয়ায় বা অন্য কোথাও বিশ্লেষণের পুনরাবৃত্তি করা যা এই নির্দিষ্ট ক্ষতির কাজটি দেখায়।

আসুন পরিচিত এবং সাধারণ কিছু দিয়ে শুরু করি।

আপনি কি বিষয়ে কথা বলছি একটি "অবস্থান" খোঁজার হয় একটি বিতরণ বা ডেটা সেট আপেক্ষিক । এটি সুপরিচিত, উদাহরণস্বরূপ, গড় প্রত্যাশিত স্কোয়ারের অবশিষ্টাংশকে ন্যূনতম করে; এটি, এটি যার জন্য একটি মান $x^{*}$ $F$ $\bar x$

L_{F} (\bar{x}) = \int_{R} (x - \bar{x})^{2} d F (x)

$\mathcal{L}_F(\bar x)=\int_{\mathbb{R}} (x - \bar x)^2 dF(x)$

যতটা সম্ভব ছোট আমি এই স্বরলিপিটি আমাদের স্মরণ করিয়ে দিতে ব্যবহার করেছি যে a একটি ক্ষতি থেকে প্রাপ্ত , এটি দ্বারা নির্ধারিত হয় , তবে সর্বাগ্রে গুরুত্বপূর্ণ এটি উপর নির্ভর করে । $\mathcal{L}$ $F$ $\bar x$

যে কোনও ফাংশনকে ন্যূনতম দেখানোর স্ট্যান্ডার্ড উপায়টি ফাংশনের মানটি দেখিয়ে শুরু হয় যখন সামান্য কিছুটা পরিবর্তিত হয়ে যায়। যেমন একটি মান ফাংশন একটি সমালোচনামূলক বিন্দু বলা হয়। $x^{*}$ $x^{*}$

কোন ধরণের ক্ষতির ক্রিয়াকলাপ একটি শতকরা সমালোচনামূলক বিন্দুতে পরিণত হয়? যে মান জন্য ক্ষতি হবে $\Lambda$ $F^{-1}(\alpha)$

{এল}_{এফ} ({এফ}^{- 1} (α)) = \int_{আর} Λ (এক্স - {এফ}^{- 1} (α)) ঘ এফ (এক্স) = \int_{0}^{1} Λ ({এফ}^{- 1} (তোমার দর্শন লগ করা) - {এফ}^{- 1} (α)) ঘ তোমার দর্শন লগ করা ।

$\mathcal{L}_F(F^{-1}(\alpha)) = \int_{\mathbb{R}} \Lambda(x-F^{-1}(\alpha))dF(x)=\int_0^1\Lambda\left(F^{-1}(u)-F^{-1}(\alpha)\right)du.$

এটি একটি সমালোচনামূলক পয়েন্ট হওয়ার জন্য, এর ডেরাইভেটিভটি অবশ্যই শূন্য হতে হবে। যেহেতু আমরা শুধু কিছু সমাধান খুঁজে বের করার চেষ্টা করছেন, আমরা কিনা হেরফেরের বৈধ দেখতে বিরাম না: (যেমন আমরা সত্যিই পার্থক্য কিনা যেমন প্রযুক্তিগত বিবরণ চেক করার পরিকল্পনা করব , ইত্যাদি শেষে)। এইভাবে $\Lambda$

\begin{matrix} (1) & \begin{aligned} 0 & = {এল}_{এফ}^{'} ({এক্স}^{*}) = {এল}_{এফ}^{'} ({এফ}^{- 1} (α)) = - \int_{0}^{1} Λ^{'} ({এফ}^{- 1} (তোমার দর্শন লগ করা) - {এফ}^{- 1} (α)) ঘ তোমার দর্শন লগ করা \\ = - \int_{0}^{α} Λ^{'} ({এফ}^{- 1} (তোমার দর্শন লগ করা) - {এফ}^{- 1} (α)) ঘ তোমার দর্শন লগ করা - \int_{α}^{1} Λ^{'} ({এফ}^{- 1} (তোমার দর্শন লগ করা) - {এফ}^{- 1} (α)) ঘ তোমার দর্শন লগ করা । \end{aligned} \end{matrix}

$\eqalign{0 &=\mathcal{L}_F^\prime(x^{*})= \mathcal{L}_F^\prime(F^{-1}(\alpha))= -\int_0^1 \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du \\ &= -\int_0^{\alpha} \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du -\int_{\alpha}^1 \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du.\tag{1} }$

বাম দিকে, যুক্তিটি নেতিবাচক, অন্যদিকে ডানদিকে এটি ইতিবাচক। এগুলি ব্যতীত, এই অখণ্ডগুলির মানগুলির উপর আমাদের সামান্য নিয়ন্ত্রণ রয়েছে কারণ কোনও বিতরণ কার্য হতে পারে। ফলস্বরূপ আমাদের একমাত্র আশা make কেবল তার যুক্তির চিহ্নের উপর নির্ভর করে, অন্যথায় এটি অবশ্যই স্থির থাকতে হবে। $\Lambda$ $F$ $\Lambda^\prime$

এর থেকে বোঝা যায় টুকরোজ লিনিয়ার হবে, সম্ভাব্যভাবে শূন্যের বাম এবং ডানদিকে বিভিন্ন opালু সহ। স্পষ্টতই এটি হ্রাস হওয়া উচিত শূন্যের কাছাকাছি আসার সাথে - এটি হ'ল, ক্ষতি এবং লাভ নয় । তদুপরি, constant একটি ধ্রুবক দ্বারা উদ্ধার করে এর বৈশিষ্ট্যগুলি পরিবর্তন করবে না, তাই আমরা বাম হাতের opeাল সেট করতে নির্দ্বিধায় থাকতে পারি । যাক ডান হাত ঢাল হবে। তারপরে সরল করে $\Lambda$ $\Lambda$ $-1$ $\tau \gt 0$ $(1)$

0 = α - τ (1 - α),

$0 = \alpha - \tau (1 - \alpha),$

যেখান থেকে অনন্য সমাধানটি ইতিবাচক একাধিক,

Λ (এক্স) = {\begin{cases} - এক্স, এক্স \leq 0 \\ \frac{α}{1 - α} এক্স, এক্স \geq 0। \end{cases}

$\Lambda(x) = \cases{-x, \ x \le 0 \\ \frac{\alpha}{1-\alpha}x, \ x \ge 0.}$

এই (প্রাকৃতিক) দ্রবণটিকে দ্বারা গুণিত করে ডিনোমিনেটর সাফ করতে প্রশ্নটিতে উপস্থাপিত ক্ষতির ক্রিয়াকলাপ তৈরি করে। $1-\alpha$

স্পষ্টতই আমাদের সমস্ত ম্যানিপুলেশনগুলি গাণিতিকভাবে বৈধ যখন when এই ফর্মটি থাকে। $\Lambda$

— whuber
সূত্র

19

এই ক্ষতির ক্রিয়াকলাপটি যেভাবে প্রকাশ করা হয়েছে তা দুর্দান্ত এবং কমপ্যাক্ট তবে আমি মনে করি এটি

ρ_{τ} (এক্স - মি) = (এক্স - মি) (τ - 1_{(এক্স - মি < 0)}) = {\begin{cases} τ | এক্স - মি | & আমি চ এক্স - মি \geq 0 \\ (1 - τ) | এক্স - মি | & আমি চ এক্স - মি < 0) \end{cases}

$\rho_\tau(X-m) = (X-m)(\tau-1_{(X-m<0)}) = \begin{cases} \tau |X-m| & if \; X-m \ge 0 \\ (1 - \tau) |X-m| & if \; X-m < 0) \end{cases}$

আপনি কেন এই ক্ষতির ফাংশন কমানোর উৎপাদ একজন স্বজ্ঞাত ধারণা পেতে চান তাহলে তম সমাংশক, এটা একটা সহজ উদাহরণ বিবেচনা সহায়ক। যাক একটি অভিন্ন দৈব চলক হতে 0 এবং 1 এর মধ্যে আসুন একটি কংক্রিট মানের জন্য চয়ন করবেন , বলো, । $\tau$ $X$ $\tau$ $0.25$

সুতরাং এখন প্রশ্ন হল কেন এই ক্ষতির ফাংশনটি এ হ্রাস করা হবে ? স্পষ্টতই, বাম দিকের চেয়ে ডানদিকে অভিন্ন বিতরণে তিনগুণ ভর রয়েছে। এবং ক্ষতির ফাংশন ওজনের চেয়ে কম মানকে দেওয়া ওজনের এক তৃতীয়াংশে এই সংখ্যার চেয়ে বড় মানের ওজনকে ওজন করে। সুতরাং, এটি এক ধরণের স্বজ্ঞাত যে ক্ষতির ক্রিয়াকলাপের জন্য প্রতিবিম্ব বিন্দু হিসাবে যখন কোয়ান্টাইল ব্যবহার করা হয় তখন স্কেলগুলি সুষম হয় are $m=0.25$ $m$ $\tau$

— jjet
সূত্র

1

এটি অন্যভাবে হওয়া উচিত নয়? অনুমান-অনুমানের জন্য তিনগুণ কত বেশি খরচ হবে?

— এডি বাইস

এটি ধরার জন্য ধন্যবাদ সূত্রটি ঠিক আছে তবে আমি আমার ব্যাখ্যাতে প্রথমে এটি ভুল করে বলেছিলাম।

— jjet