Uniformক্যের সমতুল্য বিতরণ করা ওজন উত্পন্ন করে?

মিশ্রণ মডেলিংয়ের মতো অ্যাপ্লিকেশনগুলিতে ওজন ব্যবহার করা এবং বেসিক ফাংশনগুলিকে রৈখিকভাবে একত্রিত করা সাধারণ is ওজন $w_i$ প্রায়ই মেনে চলবে $w_i ≥$ 0 এবং $\sum_{i} w_i=1$ । আমি এ জাতীয় ভেক্টরগুলির অভিন্ন বিতরণ থেকে এলোমেলোভাবে ওয়েট ভেক্টর $\mathbf{w} = (w_1, w_2, …)$ নিতে চাই।

এটা ব্যবহার করা প্রলুব্ধকর যেতে পারে $w_i = \frac{\omega_i}{\sum_{j} \omega_j}$ যেখানে $\omega_i \sim$ U (0, 1), তবে নীচের মন্তব্যে যেমন আলোচনা করা হয়েছে,বিতরণ $\mathbf{w}$ অভিন্ন নয়।

যাইহোক, বাধ্যতা দেওয়া $\sum_{i} w_i=1$ , মনে হয় যে সমস্যার অন্তর্নিহিত মাত্রা হয় $n-1$ , এবং যে এটা সম্ভব হওয়া উচিত একটি চয়ন করতে $\mathbf{w}$ চয়ন করে $n-1$ পরামিতি কিছু বন্টন অনুযায়ী এবং তারপর কম্পিউটিং এই পরামিতিগুলি থেকে সংশ্লিষ্ট $\mathbf{w}$ (কারণ একবার ওজনের $n-1$ নির্দিষ্ট করে দেওয়া হয়, বাকি ওজন পুরোপুরি নির্ধারিত হয়)।

সমস্যাটি গোলক পয়েন্ট বাছাইয়ের সমস্যার মতো দেখা যায় (তবে, 3-ভেক্টর বাছাইয়ের পরিবর্তে যাদের আদর্শ একত্ব, আমি -ভেক্টর বাছাই করতে চাই যার আদর্শটি একতা)। $ℓ_2$ $n$ $ℓ_1$

ধন্যবাদ!

random-generation

— ক্রিস
সূত্র

আপনার পদ্ধতিটি সিমপ্লেক্সে অভিন্ন বিতরণকারী ভেক্টর তৈরি করে না। আপনি যা সঠিকভাবে চান তা করতে, সবচেয়ে সোজা উপায় হ'ল

আইড

এলোমেলো ভেরিয়েবল তৈরি করা এবং তারপরে তাদের যোগফলের মাধ্যমে এগুলি স্বাভাবিক করা ize আপনি কেবলমাত্র

টির সরাসরি সরাসরি আঁকতে অন্য কোনও পদ্ধতি সন্ধানের মাধ্যমে এটি করার চেষ্টা করতে পারেন তবে

ভেরিয়েটগুলি খুব দক্ষতার সাথে

বৈকল্পিক থেকে উত্পন্ন হতে পারে বলে দক্ষতা ট্রেডঅফ সম্পর্কে আমার সন্দেহ আছে ।

n

$n$

E x p (1)

$\mathrm{Exp}(1)$

n - 1

$n-1$

E x p (1)

$\mathrm{Exp}(1)$

U (0, 1)

$U(0,1)$

— কার্ডিনাল

উত্তর:

চয়ন করুন অবিশেষে (মাধ্যমে ব্যবধান অভিন্ন reals )। গুণফলগুলি বাছাই করুন যাতে । সেট $\mathbf{x} \in [0,1]^{n-1}$ $n-1$ $[0,1]$ $0 \le x_1 \le \cdots \le x_{n-1}$

w = (x_{1}, x_{2} - x_{1}, x_{3} - x_{2}, \dots, x_{n - 1} - x_{n - 2}, 1 - x_{n - 1}) .

$\mathbf{w} = (x_1, x_2-x_1, x_3 - x_2, \ldots, x_{n-1} - x_{n-2}, 1 - x_{n-1}).$

যেহেতু আমরা সাজানো পুনরুদ্ধার করতে পারেন আংশিক অঙ্কের মাধ্যমে , ম্যাপিং হয় থেকে 1; বিশেষ করে, তার ইমেজ মধ্যে সিমপ্লেক্স । কারণ (ক) কেমন প্রতিটি swap 'র একটি রৈখিক রূপান্তর, (খ) এটা পূর্ববর্তী সূত্র রৈখিক, এবং (গ) রূপান্তরের রৈখিক ডিস্ট্রিবিউশন এর একরূপতা সংরক্ষণ, এর একরূপতা এর একরূপতা বোঝা উপর সিমপ্লেক্স। $x_i$ $w_i$ $\mathbf{x} \to \mathbf{w}$ $(n-1)!$ $n-1$ $\mathbb{R}^n$ $\mathbf{x}$ $\mathbf{w}$ $n-1$ বিশেষ করে, নোট যে marginals না অগত্যা স্বাধীন। $\mathbf{w}$

3D point plot

এই 3 ডি পয়েন্ট প্লটটি জন্য এই অ্যালগরিদমের 2000 পুনরাবৃত্তির ফলাফলগুলি দেখায় । পয়েন্টগুলি সিম্প্লেক্সে সীমাবদ্ধ এবং প্রায় এটির উপরে একত্রে বিতরণ করা হয়। $n=3$

কারণ এই অ্যালগরিদম সঞ্চালনের সময় , এটা বড় জন্য অদক্ষ হয় । কিন্তু এই প্রশ্নের উত্তর দেয়! একটি ভাল উপায় (সাধারণ) থেকে উপর অবিশেষে বিতরণ মান উৎপন্ন -simplex আঁকা হয় অভিন্ন reals ব্যবধান উপর , কম্পিউট $O(n \log(n)) \gg O(n)$ $n$ $n-1$ $n$ $(x_1, \ldots, x_n)$ $[0,1]$

y_{i} = - \log (x_{i})

$y_i = -\log(x_i)$

(যা প্রতিটি তোলে সম্ভাব্যতা সঙ্গে ইতিবাচক , কোথা তাদের যোগফল প্রায় নিশ্চয় অশূন্য হয়) এবং সেট $y_i$ $1$

w = (y_{1}, y_{2}, \dots, y_{n}) / (y_{1} + y_{2} + \dots + y_{n}) .

$\mathbf w = (y_1, y_2, \ldots, y_n) / (y_1 + y_2 + \cdots + y_n).$

এই কাজ কারণ প্রতিটি একটি আছে বন্টন, যা বোঝা একটি Dirichlet হয়েছে বন্টন - এবং অভিন্ন নয়। $y_i$ $\Gamma(1)$ $\mathbf w$ $(1,1,1)$

[3D point plot 2]

— whuber
সূত্র

@Chris যদি "এর Dir (1)" দ্বারা আপনাকে পরামিতি সঙ্গে Dirichlet বন্টন মানে

, তারপর উত্তর হবে হ্যাঁ।

(α_{1}, \dots, α_{n})

$(\alpha_1, \ldots, \alpha_n)$

(1, 1, \dots, 1)

$(1,1,\ldots,1)$

— শুক্রবার

(+1) একটি ছোটখাটো মন্তব্য: অন্তর্দৃষ্টিটি দুর্দান্ত। (ক) ব্যাখ্যা করার ক্ষেত্রে যত্ন নেওয়া দরকার হতে পারে, কারণ মনে হয় যে অংশটির "রৈখিক রূপান্তর" এলোমেলো একটি। তবে, উত্পাদনের প্রক্রিয়াটির বিনিময়যোগ্যতা এবং একটি নির্দিষ্ট আক্রমণাত্মক সম্পত্তি ব্যবহার করে এটি অতিরিক্ত আনুষ্ঠানিকতার ব্যয়ে সহজেই কাজ করা হয়।

— 10:25

আরও নির্দিষ্ট ভাবে: একটি ঘনত্ব ডিস্ট্রিবিউশন

, আকার একজন IID নমুনা ক্রম পরিসংখ্যান ঘনত্ব

হয়

। ক্ষেত্রে

f

$f$

n

$n$

n! f (x_{1}) \dots f (x_{n}) 1_{(x_{1} < x_{2} < \dots < x_{n})}

$n! f(x_1)\cdots f(x_n) 1_{(x_1 < x_2 < \cdots < x_n)}$

f = 1_{[0, 1]} (x)

$f = 1_{[0,1]}(x)$ , অর্ডার পরিসংখ্যান বিতরণ একটি বহুপ্রান্তে সমান। এই বিন্দু থেকে নেওয়া, অবশিষ্ট রূপান্তরগুলি হস্তক্ষেপমূলক এবং ফলাফল অনুসরণ করে।

— কার্ডিনাল

@ কার্ডিনাল এটি একটি আকর্ষণীয় বিষয়, তবে আমি মনে করি এটি বিবেচনা করে না, যদিও আপনি ঠিক বলেছেন যে অতিরিক্ত বিশদ সাহায্য করতে পারে। অদলবদল (আসলে প্রতিবিম্ব, কো লিনিয়ার রূপান্তরগুলি) এলোমেলো নয়: সেগুলি পূর্বনির্ধারিত। কার্যত,

খোদাই করা হয়েছে

I_{n - 1} = [0, 1]^{n - 1}

$I_{n-1}=[0,1]^{n-1}$

(n - 1)!

$(n-1)!$ অঞ্চলগুলি, যার মধ্যে একটি অন্যের থেকে আলাদা হয় এবং প্রতিটি অঞ্চল এবং বিশিষ্ট অঞ্চলের মধ্যে পূর্বনির্ধারিত অ্যাফাইন বাইজেকশন রয়েছে। যেহেতু, আমাদের কেবলমাত্র অতিরিক্ত সত্যের প্রয়োজন এটি হ'ল কোনও অঞ্চলে অভিন্ন বন্টন এটির যে কোনও পরিমাপযোগ্য উপসেটের উপর একরকম, যা সম্পূর্ণ তুচ্ছতা।

— শুক্রবার

@ শুভ: আকর্ষণীয় মন্তব্য। ভাগ করে নেওয়ার জন্য ধন্যবাদ! আমি সবসময় এই জাতীয় বিষয়গুলি সম্পর্কে আপনার অন্তর্দৃষ্টিপূর্ণ চিন্তার প্রশংসা করি। "এলোমেলো রৈখিক রূপান্তর" এ আমার আগের মন্তব্য সম্বন্ধে আমার পয়েন্ট ছিল, অন্তত মাধ্যমে

ব্যবহার রূপান্তর নমুনা বিন্দু উপর নির্ভর করে

। এটি ভাবার আরেকটি উপায় হ'ল এখানে একটি স্থির, পূর্বনির্ধারিত ফাংশন

যেমন

, তবে আমি সেই ফাংশনটিকে রৈখিক বলব না, যদিও এটি উপসর্গগুলিতে লিনিয়ার রয়েছে though পার্টিশনটি

x

$\mathbf{x}$

ω

$\omega$

T : R^{n - 1} \to R^{n - 1}

$T: \mathbb{R}^{n-1} \to \mathbb{R}^{n-1}$

w = T (x)

$\mathbf{w} = T(\mathbf{x})$

(n - 1)

$(n-1)$ -cube. :)

— cardinal

    zz <- c(0, log(-log(runif(n-1))))
    ezz <- exp(zz)
    w <- ezz/sum(ezz)

The first entry is put to zero for identification; you would see that done in multinomial logistic models. Of course, in multinomial models, you would also have covariates under the exponents, rather than just the random zzs. The distribution of the zzs is the extreme value distribution; you'd need this to ensure that the resulting weights are i.i.d. I initially put rnormals there, but then had a gut feeling that this ain't gonna work.

— StasK
সূত্র

That doesn't work. Did you try looking at a histogram?

— cardinal

Your answer is now almost correct. If you generate

n

$n$ iid

E x p (1)

$\mathrm{Exp}(1)$ and divide each by the sum, then you will get the correct distribution. See Dirichlet distribution for more details, though it doesn't discuss this explicitly.

— cardinal

Given the terminology you are using, you sound a little confused.

— cardinal

Actually, the Wiki link does discuss this (fairly) explicitly. See the second paragraph under the Support heading.

— cardinal

This characterization is both too restrictive and too general. It is too general in that the resulting distribution of

w

$\mathbf{w}$ must be "uniform" on the

n - 1

$n-1$ simplex in

R^{n}

$\mathbb{R}^n$ . It is too restrictive in that the question is worded generally enough to allow that

w

$\mathbf{w}$ be some function of an

n - 1

$n-1$ -variate distribution, which in turn presumably, but not necessarily, consists of

n - 1

$n-1$ independent (and perhaps iid) variables.

— whuber

সমাধান সুস্পষ্ট। নিম্নলিখিত ম্যাথল্যাব কোডটি 3 ওজনের উত্তর সরবরাহ করে।

function [  ] = TESTGEN( )
SZ  = 1000;
V  = zeros (1, 3);
VS = zeros (SZ, 3);
for NIT=1:SZ   
   V(1) = rand (1,1);     % uniform generation on the range 0..1
   V(2) = rand (1,1) * (1 - V(1));
   V(3) = 1 - V(1) - V(2);  
   PERM = randperm (3);    % random permutation of values 1,2,3
   for NID=1:3
         VS (NIT, NID) = V (PERM(NID));
    end
end 
figure;
scatter3 (VS(:, 1), VS(:,2), VS (:,3));
end

— user96990
সূত্র

আপনার প্রান্তিকের সঠিক বিতরণ নেই। ডিরিচলেট বিতরণ (র্যান্ডম সংখ্যা জেনারেশন বিভাগ, যা আপনি কোড করেছেন এমন অ্যালগরিদম রয়েছে) সম্পর্কিত উইকিপিডিয়া নিবন্ধ থেকে বিচার করে, আপনাকে ভি (1) এর জন্য বিটা (1,2) বিতরণ ব্যবহার করা উচিত, ইউনিফর্ম নয় [0,1] বন্টন।

— soakley

It does appear that the density increases in the corners of this tilted triangle. Nonetheless, it provides a nice geometric display of the problem.

— DWin