ওরাকল বৈষম্য: মৌলিক পদগুলিতে

আমি এমন একটি কাগজ দিয়ে যাচ্ছি যা কিছু প্রমাণ করার জন্য ওরাকল বৈষম্য ব্যবহার করে তবে আমি এটি বুঝতে চেষ্টা করতে পারি না এটি এমনকি কী করার চেষ্টা করছে। আমি যখন 'ওরাকল ইনসক্যালিটি' সম্পর্কে অনলাইনে অনুসন্ধান করেছি, তখন কিছু উত্স আমাকে "ক্যান্ডস, এমমানুয়েল জে।" ওরাকল বৈষম্যগুলির মাধ্যমে আধুনিক পরিসংখ্যান অনুমান "নিবন্ধের দিকে পরিচালিত করেছিল। "যা এখানে পাওয়া যাবে https://statweb.stanford.edu/~candes/paper/NonlinearEstimation.pdf । তবে এই বইটি আমার পক্ষে খুব ভারী বলে মনে হচ্ছে এবং আমি বিশ্বাস করি যে আমার কিছু পূর্বশর্তের অভাব রয়েছে।

আমার প্রশ্নটি: আপনি কীভাবে ব্যাখ্যা করবেন যে কোনও অ-গণিত মেজর (ইঞ্জিনিয়ারদের অন্তর্ভুক্ত) এর কাছে ওরাকল বৈষম্য কী? দ্বিতীয়ত, উপরোক্ত বইয়ের মতো কিছু শেখার আগে আপনি কীভাবে তাদের পূর্বশর্ত / বিষয়গুলি সম্পর্কে পরামর্শ দেওয়ার পরামর্শ দিবেন।

আমি অত্যন্ত সুপারিশ করবো যে যার উচ্চতর মাত্রার পরিসংখ্যানগুলির একটি কংক্রিট উপলব্ধি এবং ভাল পরিমাণে অভিজ্ঞতা আছে তার উত্তর দেওয়া উচিত।

— মধ্যে Wolcott
সূত্র

1k এর বেশি খ্যাতি সম্পন্ন যে কেউ এই প্রশ্নে অনুদান প্রদান করতে পারেন? এটা সত্যিই সাহায্য করবে। আমি মনে করি না যে সাধারণ সিভি ব্যবহারকারীরা এই ধারণার সাথে পরিচিত হবেন, যেহেতু বেশিরভাগ ব্যবহারকারী ডেটা বিশ্লেষণের জন্য পরিসংখ্যান ব্যবহার করেন এবং তাত্ত্বিক বিশ্লেষণ নয়, যদিও পুরোপুরি পরিসংখ্যানের উপর ভিত্তি করে একটি সম্প্রদায় হিসাবে, আমি বিশ্বাস করি যে এমন কোনও ব্যক্তি অবশ্যই আছে যার যথেষ্ট উত্তর দিতে পারে। আমি বিশ্বাস করি যে প্রশ্নটি যথেষ্ট মনোযোগ পায়নি।

— ওলকোট

আমি একই প্রশ্নটি সম্পর্কে ভেবেছিলাম

— জেজা

"সংজ্ঞা" লিঙ্কটির পি .২২ তে সরবরাহ করা "একটি ওরাকল বৈষম্য একটি আদর্শ অনুমানকারীর সাথে একটি বাস্তব অনুমানকারীর কার্যকারিতা সম্পর্কিত যা একটি ওরাকল দ্বারা সরবরাহিত নিখুঁত তথ্যের উপর নির্ভর করে এবং যা অনুশীলনে উপলভ্য নয়।" এটি কি আপনাকে সংজ্ঞার সারমর্মটি বোঝায় না?

— মার্ক এল। স্টোন

@ মার্ক এল। আমার জন্য স্টোন, এটি করেন না

— জাজা

এমনকি আপনি যখন পূর্ববর্তী কয়েকটি বাক্যে প্রদত্ত উদাহরণ এবং আলোচনার দিকে তাকাচ্ছেন, তবুও তত্ত্বের 4.1 এর বক্তব্য এবং আলোচনাকে কোনও ওরাকল বৈষম্যের উদাহরণ হিসাবে দেখছেন? সাধারণ মানুষের শর্তে: জি, আমরা সংকোচন ফ্যাক্টরটি ব্যবহার করা উচিত তার সর্বোত্তম মান (একটি ওরাকল দ্বারা সরবরাহিত) জানি না। তবে জেনে রাখা যে সঙ্কুচিতকরণের ফ্যাক্টরের অনুকূল মান এমএসইকে 2 টিরও বেশি দ্বারা উন্নত করতে পারে। ওরাকল থেকে অনুকূল সংকোচনের কারণ নেই।

— মার্ক এল। স্টোন

আমি লিনিয়ার ক্ষেত্রে এটি ব্যাখ্যা করার চেষ্টা করব। লিনিয়ার মডেলটি যখন (স্বাধীন ভেরিয়েবল সংখ্যা কম বা তারপর পর্যবেক্ষণ সংখ্যা সমান) এবং নকশা ম্যাট্রিক্স পূর্ণ র্যাঙ্ক আছে, অন্তত স্কোয়ারড মূল্নির্ধারক হয় এবং পূর্বাভাস ত্রুটি which যা থেকে আমরা এর অর্থ হ'ল প্রতিটি প্যারামিটার স্কোয়ার যথার্থতা estimated দিয়ে অনুমান করা হয়সুতরাং আপনার সামগ্রিক স্কোয়ার নির্ভুলতা হয়

Y_{i} = \sum_{j = 1}^{p} β_{j} X_{i}^{(j)} + ϵ_{i}, i = 1, . . ., n .

$Y_i=\sum_{j=1}^{p} \beta_jX_{i}^{(j)}+\epsilon_i, i=1,...,n.$

p \leq n

$p \leq n$

b

$b$

\hat{b} = (X^{T} X)^{- 1} X^{T} Y

$\hat{b}=(X^TX)^{-1}X^TY$

\frac{‖ X (\hat{b} - β^{0}) ‖_{2}^{2}}{σ^{2}}

$\dfrac{\| X(\hat{b}-\beta^0) \|_2^2}{\sigma^2}$

\frac{E ‖ X (\hat{b} - β^{0}) ‖_{2}^{2}}{n} = \frac{σ^{2}}{n} p .

$\dfrac{ \mathbb{E} \| X(\hat{b}-\beta^0) \|_2^2}{n}=\dfrac{\sigma^2}{n}p.$

β_{j}^{0}

$\beta_j^0$

σ^{2} / n, j = 1, . . ., p .

$\sigma^2/n, j=1,...,p.$

(σ^{2} / n) p .

$(\sigma^2/n)p.$

এখন যদি পর্যবেক্ষণের সংখ্যা কম হয় তবে স্বতন্ত্র ভেরিয়েবলগুলির সংখ্যা ? আমরা "বিশ্বাস" যে সব না আমাদের স্বাধীন ভেরিয়েবল ব্যাখ্যা একটি ভূমিকা পালন , তাই মাত্র কয়েক বলো , তাদের নন-জিরো হয়। যদি আমরা জানতে পারি যে কোন ভেরিয়েবলগুলি শূন্য নয়, তবে আমরা অন্যান্য সমস্ত ভেরিয়েবল উপেক্ষা করতে পারি এবং উপরোক্ত যুক্তি দ্বারা সামগ্রিক স্কোয়ার নির্ভুলতা হবে $(p>n)$ $Y$ $k$ $(\sigma^2/n)k.$

ননজারো ভেরিয়েবলগুলির সেটটি অজানা বলে আমাদের নিয়মিতকরণ প্যারামিটার (যা ভেরিয়েবলের সংখ্যা নিয়ন্ত্রণ করে ) সহ কিছু নিয়মিতকরণ জরিমানা (উদাহরণস্বরূপ ) প্রয়োজন। এখন আপনি উপরের আলোচিত অনুরূপ ফলাফল পেতে চান, আপনি স্কোয়ার যথার্থতাটি অনুমান করতে চান। সমস্যা আপনার অনুকূল মূল্নির্ধারক হয় এখন উপর নির্ভর করে । তবে দুর্দান্ত সত্যটি হ'ল যথাযথ পছন্দ করলে আপনি উচ্চ সম্ভাবনার সাথে পূর্বাভাস ত্রুটির একটি উচ্চতর সীমানা পেতে পারেন, এটি হ'ল "ওরাকল বৈষম্য" একটি অতিরিক্ত ফ্যাক্টর নোট করুন $l_1$ $\lambda$ $\hat{\beta}$ $\lambda$ $\lambda$

\frac{‖ X (\hat{β} - β^{0}) ‖_{2}^{2}}{n} \leq c o n s t . \frac{σ^{2} \log p}{n} k .

$\dfrac{\| X(\hat{\beta}-\beta^0) \|_2^2}{n} \leq const.\dfrac{\sigma^2\log p}{n}k.$

\log p

$\log p$ যা নন-শূন্য ভেরিয়েবলগুলির সেট না জানার জন্য মূল্য। " " "শুধুমাত্র বা উপর নির্ভর করে ।

c o n s t .

$const.$

p

$p$

n

$n$

— দাতো গোগোলাশভিলি
সূত্র

কড়া কথায় বলতে গেলে, আমাদের পরবর্তী অংশগুলি সঠিক হওয়ার জন্য স্বতন্ত্র ভেরিয়েবলের সংখ্যার চেয়ে কম পর্যবেক্ষণের প্রয়োজন নেই।

— jbowman

আপনি কীভাবে প্রত্যাশা সমীকরণ (দ্বিতীয় থেকে শেষ সমীকরণ) এবং অসমতা (শেষ সমীকরণ) পেলেন তা ব্যাখ্যা করতে পারেন?

— 13985

\frac{‖ X (\hat{b} - β^{0}) ‖_{2}^{2}}{σ^{2}}

$\dfrac{\| X(\hat{b}-\beta^0) \|_2^2}{\sigma^2}$ freedom এর পি-ডিগ্রি সহ চি-বর্গ বিতরণ রয়েছে সুতরাং এর প্রত্যাশাটি । শেষ বৈষম্য একটি ওরাকল বৈষম্য। প্রুফ এত তুচ্ছ নয়, আমি এই বইটি সুপারিশ করতে পারি:

(σ^{2} / n) p

$(\sigma^2/n)p$

— পরিমিত