উপর সীমা

যদি $f$ একটি উত্তল ফাংশন হয় তবে জেনসেনের বৈষম্য বলে যে $f(\textbf{E}[x]) \le \textbf{E}[f(x)]$ , এবং মুচটিস মুটানডিস যখন $f$ অবলম্বন হয়। স্পষ্টতই সবচেয়ে খারাপ ক্ষেত্রে আপনি উত্তল জন্য এর পরিপ্রেক্ষিতে উপরের আবদ্ধ করতে পারবেন না , তবে এমন একটি সীমা আছে যা যদি এই দিকে যায় তবে $\textbf{E}[f(x)]$ $f(\textbf{E}[x])$ $f$ $f$ উত্তল কিন্তু "খুব উত্তল নয়"? কিছু মান আবদ্ধ হয় যে একটি উত্তল ফাংশন উপর অবস্থার দেয় $f$ (এবং সম্ভবত বন্টন পাশাপাশি, প্রয়োজন হলে) যে আপনি এই উপসংহারে করার অনুমতি দেয় যে $\textbf{E}[f(x)] \le \varphi(f)f(\textbf{E}[x])$ যেখানে $\varphi(f)$ এর ন্যুব্জতা এর বক্রতা / ডিগ্রী কিছু ফাংশন $f$ ? লিপস্টিজের মতো কিছু, সম্ভবত?

randomness pr.probability randomized-algorithms

— ইয়ান
সূত্র

অফ-টপিক হিসাবে বন্ধ করতে ভোট দেওয়া। math.stackex بدل.com হতে পারে?

— আর্যভাটা

আমি মনে করি যে এই প্রশ্নটি উন্মুক্ত থাকতে হবে; এটি বহু ধরণের তাত্ত্বিকগণ নিয়মিত ভিত্তিতে দরকারী মনে করতেন ine

— অ্যারন রথ

আমি জানি যে এখন পর্যন্ত পোস্ট করা বেশিরভাগ প্রশ্নের তুলনায় এটি খাঁটি গণিতের আরও কাছাকাছি, তবে আমি যুক্তি দিয়ে বলব যে এ জাতীয় বিষয়টি এলোমেলোভাবে তৈরি করা অ্যালগরিদমের বিশ্লেষণে ঘন ঘন আসে (যা আমি প্রয়োগ করে থাকি মন)। আমি মনে করি কম্পিউটার বিজ্ঞানে প্রচুর পরিমাণে ব্যবহৃত গণিতকে প্রশ্নের জন্য উপযুক্ত খেলা হিসাবে বিবেচনা করা উচিত।

— আয়ান

উন্মুক্ত রাখতে ভোট দিন অবশ্যই বিষয়ে

— সুরেশ ভেঙ্কট

আমিও খোলা রাখার জন্য ভোট দিই।

— জেফি

সম্পাদনা: মূল সংস্করণ একটি নিখুঁত মান মিস করেছে। দুঃখিত !!

হাই ইয়ান আমি সংক্ষিপ্তভাবে দুটি নমুনা বৈষম্যের রূপরেখা জানাব, একটি লিপস্চিটস বাউন্ড ব্যবহার করে, অন্যটি দ্বিতীয় ডেরাইভেটিভের উপর আবদ্ধ ব্যবহার করে, এবং তারপরে এই সমস্যাটিতে কিছু সমস্যা নিয়ে আলোচনা করব। যদিও আমি অপ্রয়োজনীয় হচ্ছি, যেহেতু একটি ডেরিভেটিভ ব্যবহার করে এমন একটি পদ্ধতির ব্যাখ্যা করা হয়েছে যা আরও ডেরাইভেটিভগুলির সাথে ঘটেছিল (টেলারের মাধ্যমে), এটি দেখা যায় যে দ্বিতীয় ডেরাইভেটিভ সংস্করণটি বেশ দুর্দান্ত।

প্রথমে, লিপসিৎজকে আবদ্ধ করে: স্ট্যান্ডার্ড জেনসেন অসমতা পুনরায় কাজ করুন। একই কৌশলটি প্রযোজ্য: প্রত্যাশিত মানটিতে টেলর সম্প্রসারণ গণনা করুন।

বিশেষত, সাথে একই পরিমাপের মান থাকুক এবং । যদি এর Lipschitz ধ্রুবক , তবে টেলরের উপপাদ্য দ্বারা $X$ $\mu$ $m := \textrm E(x)$ $f$ $L$

f (x) = f (m) + f^{'} (z) (x - m) \leq f (m) + L | x - m |,

$f(x) = f(m) + f'(z)(x-m) \leq f(m) + L|x-m|,$

যেখানে (নোট করুন যে এবং সম্ভব)। এটি ব্যবহার করে এবং জেনসেন প্রুফটি পুনরায় কাজ করে (আমি ভৌতিক এবং আমি পরীক্ষা করে দেখি যে স্ট্যান্ডার্ডটি উইকিপিডিয়াতে রয়েছে), $z \in [m, x]$ $x\leq m$ $x> m$

\begin{aligned} E (f (X)) & = \int f (x) d μ (x) \leq f (m) \int d μ (x) + L \int | x - m | d μ (x) \\ = f (E (X)) + L E (| X - E (X) |) . \end{aligned}

$\begin{align} \operatorname{E}(f(X)) & = \int f(x) \, d\mu(x) \leq f(m) \int d\mu(x) + L\int |x-m| \, d\mu(x) \\[6pt] & = f(\operatorname{E}(X)) + L \operatorname{E} (|X-\operatorname{E}(X)|). \end{align}$

$|f''(x)| \leq \lambda$

\begin{aligned} f (x) & = f (m) + f^{'} (m) (x - m) + f^{″} (z) \frac{(x - m)^{2}}{2} \\ \leq f (m) + f^{'} (m) (x - m) + λ \frac{(x - m)^{2}}{2}, \end{aligned}

$\begin{align} f(x) & = f(m) + f'(m)(x-m) + f''(z) \frac{(x-m)^2} 2 \\[6pt] & \leq f(m) + f'(m)(x-m) + \lambda \frac{(x-m)^2} 2, \end{align}$

এবং তাই

\begin{aligned} E (f (X)) & \leq f (m) + f^{'} (m) (E (X) - m) + \frac{λ E ((X - m)^{2})}{2} \\ = f (E (X)) + \frac{λ Var (X)}{2} . \end{aligned}

$\begin{align} \operatorname{E}(f(X)) & \leq f(m) + f'(m)(\operatorname{E}(X) - m) + \frac {\lambda \operatorname{E}((X-m)^2)}{2} \\[6pt] & = f(\operatorname{E}(X)) + \frac {\lambda \operatorname{Var}(X)}2. \end{align}$

আমি কয়েকটি বিষয় সংক্ষেপে উল্লেখ করতে চাই। দুঃখিত যদি তারা স্পষ্ট হয়।

একটি হ'ল, আপনি কেবল "wlog " বন্টন সরিয়ে দিয়ে বলতে পারবেন না , কারণ আপনি এবং মধ্যে সম্পর্ক পরিবর্তন করছেন । $\operatorname{E}(X) = 0$ $f$ $\mu$

এর পরে বাউন্ডটি অবশ্যই কোনও উপায়ে বিতরণের উপর নির্ভর করবে। এটি দেখতে, করুন যে এবং । মান যাই হোক না কেন , আপনি এখনও । অন্যদিকে, । সুতরাং, পরিবর্তন করে আপনি দুটি পরিমাণের মধ্যে ফাঁকিকে নির্বিচারে করতে পারেন! স্বজ্ঞাতভাবে, আরও ভরকে গড় থেকে দূরে ঠেলে দেওয়া হয় এবং এইভাবে, কোনও কঠোরভাবে উত্তল ক্রিয়াকলাপের জন্য, বৃদ্ধি পাবে। $X \sim \textrm{Gaussian}(0, \sigma^2)$ $f(x) = x^2$ $\sigma$ $f(\operatorname{E}(X)) = f(0) = 0$ $\operatorname{E}(f(X)) = \operatorname{E}(X^2) = \sigma^2$ $\sigma$ $\operatorname{E} (f(X))$

শেষ অবধি, আপনার পরামর্শ অনুসারে কীভাবে একটি গুণনীয় বাউন্ড পাবেন তা আমি দেখতে পাচ্ছি না। আমি এই পোস্টে যা কিছু ব্যবহার করেছি তা স্ট্যান্ডার্ড: টেলরের উপপাদ্য এবং ডেরাইভেটিভ সীমানা পরিসংখ্যানের সীমানায় রুটি এবং মাখন এবং তারা স্বয়ংক্রিয়ভাবে সংযোজন দেয়, গুণগত ত্রুটিগুলি নয়।

আমি যদিও এটি সম্পর্কে চিন্তা করব, এবং কিছু পোস্ট করব। লীগ স্বজ্ঞাততা হ'ল এটি ফাংশন এবং বিতরণ উভয়ের জন্য খুব কঠোর অবস্থার প্রয়োজন হবে, এবং অ্যাডিটিভ বন্ডটি এটির কেন্দ্রস্থলে রয়েছে।

— matus
সূত্র

যতবার আমি সম্পাদনা করি, উত্তরটি ধাক্কা খায়। সুতরাং আমি উল্লেখ করব: দ্বিতীয় ডেরাইভেটিভ বাউন্ডটি আমার দেওয়া উদাহরণের জন্য শক্ত।

— ম্যাথাস

আমি মনে করি আপনি ঠিকঠাক ঠিক যে ফাংশন উপর আরও শক্তিশালী শর্ত ছাড়া সর্বোত্তম সম্ভব।

— আয়ান

প্রিয় আয়ান, আমি এই সমস্যাটি সম্পর্কে আরও কিছুটা ভাবলাম, তবে আমার মনের প্রধান আমি যে উদাহরণ দিয়েছি তার দ্বারা ইঙ্গিত করা হয়েছে, যেখানে , তবে । আপনি ফাংশন পরিবার (সীমাবদ্ধ, চৌম্বক ডেরিভেটিভস, সংহত) এবং বিতরণ (মসৃণ, চৌম্বক, চৌম্বিত চৌম্বক) উভয়ই সীমাবদ্ধ করতে পারেন এবং এখনও আপনার কাছে এই উদাহরণ রয়েছে। বন্টনের গড় সময়ে শূন্যের সমান একটি প্রতিসাম্যহীন, নননেজিটিভ ফাংশন থাকা যথেষ্ট। এটি বলেছিল, সবকিছু আপনার সঠিক সমস্যার সীমাবদ্ধতার উপর নির্ভর করে। সাধারণ ক্ষেত্রে, আমি যুক্তিযুক্ত প্রকৃতি মৌলিক বলে মনে করি।

f (E (X)) = 0

$f(\textrm E(X))= 0$

E (f (X)) > 0

$\textrm E (f(X)) > 0$

— ম্যাথাস

@ আইয়ান: চেরনফ এবং আজুমা-হফিংডিং অসমতার প্রমাণগুলি এটিকে স্মরণ করিয়ে দেওয়ার মতো যুক্তি ব্যবহার করে, যাতে আপনি সেগুলি অনুপ্রেরণার জন্য পড়তে চাইতে পারেন। উদাহরণস্বরূপ কম্পিউটারে র্যান্ডমাইজেশন সম্পর্কিত মিটজেনমার এবং উপফলের বইটি দেখুন।

— ওয়ারেন শুডি

অন্তর্দৃষ্টির জন্য, দুটি মানকে কেন্দ্র করে একটি বিতরণ বিবেচনা করুন; বলুন, 1/2 এর সমান সম্ভাবনা রয়েছে যে এটি 1 বা 3 সমান, । নিন এবং । ফাংশন বিবেচনা , যার জন্য এবং । করা হলে যথেষ্ট এবং সংযোগ এই তিনটি পয়েন্ট মধ্যে ক্রমাগত আমরা বক্রতা করতে পারেন কাঙ্ক্ষিত ছোট হিসাবে। তারপর $\textbf{E}[x] = 2$ $N >> 0$ $\epsilon > 0$ $f$ $f(1) = f(3)= N\epsilon$ $f(\textbf{E}[x]) = f(2) = \epsilon$ $\epsilon$ $f$ $f$

$\textbf{E}[f(x)] = N\epsilon$ , এখনও

$N = N\epsilon / \epsilon = \textbf{E}[f(x)] / f(\textbf{E}[x]) \le \varphi(f)$ ।

এটি দেখায় অবশ্যই নির্বিচারে বড় হতে হবে। $\varphi(f)$

— whuber
সূত্র