ভেরিয়েবলের পার্টিশনের বিভিন্নতার গণনা কীভাবে করা যায়

Question

আমি এমন একটি পরীক্ষা চালাচ্ছি যেখানে আমি সমান্তরালে নমুনা সংগ্রহ করছি (আমি স্বাধীন) নমুনাগুলি প্রতিটি গ্রুপের নমুনার বৈচিত্রটি গণনা করছি এবং এখন সমস্ত নমুনার মোট বৈকল্পিক সন্ধানের জন্য আমি সমস্তগুলি একত্রিত করতে চাই।

আমি এর পরিভাষা সম্পর্কে নিশ্চিত না হওয়ায় এর জন্য একটি উত্স আবিষ্কার করতে আমার বেশ কষ্ট হচ্ছে। আমি এটিকে একটি আরভি বিভাজন হিসাবে মনে করি।

তাই আমি খুঁজতে চান থেকে , , ..., এবং ভী একটি দ ( এক্স এন ) , যেখানে এক্স = [ এক্স 1 , এক্স 2 , ... , এক্স এন ] ।ভি এ আর ( এক্স 1 ) ভি এ আর ( এক্স 2$Var(X)$$Var(X_1)$$Var(X_2)$$Var(X_n)$$X$$[X_1, X_2, \dots, X_n]$

সম্পাদনা: পার্টিশনগুলি একই আকার / কার্ডিনালিয়ালিটি নয়, তবে পার্টিশন মাপের সমষ্টি সামগ্রিক নমুনা সেটে নমুনার সংখ্যার সমান।

সম্পাদনা 2: এখানে একটি সমান্তরাল গণনার জন্য একটি সূত্র রয়েছে , তবে এটি কেবলমাত্র দুটি সেটগুলিতে বিভাজনের ক্ষেত্রে কভার করে, $n$ সেট নয়।

Comments

এটি কি এখানে আমার প্রশ্নের মত একই: mathoverflow.net/questions/64120/…

এই শেষ বন্ধনীটির অর্থ কী? এবং "সম্পূর্ণ বৈকল্পিক" বলতে কী বোঝ? এটি কি সম্মিলিত ডেটাসেটের বৈকল্পিকতা ছাড়া অন্য কিছু?

— হোয়বার

@ শেষ কোন বন্ধনী? "মোট বৈকল্পিক" অর্থ মোট ডেটাসেটের বৈকল্পিক।

— গ্যালামাইন

অভিব্যক্তিটি অনেকগুলি বোঝাতে পারে (যদিও প্রচলিতভাবে এটি ভেক্টর হবে): আমি একটি স্পষ্টতা খুঁজছিলাম। $[X_1, X_2, \dots, X_n]$

— হোবার

Answer 1

সূত্রটি মোটামুটি সোজা যদি সমস্ত উপ-নমুনার সমান নমুনার আকার থাকে। আপনি ছিল যদি আকার উপ-নমুনার ট (মোট ছ ট নমুনা), তারপর মিলিত নমুনার ভ্যারিয়েন্স গড় উপর নির্ভরশীল ই ঞ এবং ভ্যারিয়েন্স ভী ঞ প্রতিটি উপ-নমুনা: ভী একটি দ ( এক্স 1 , … , এক্স জি কে ) = কে - $g$$k$$gk$$E_j$$V_j$যেখানেভিaআর(ইজে) দ্বারানমুনাটির পরিবর্তনের অর্থ।

$$Var(X_1,\ldots,X_{gk}) = \frac{k-1}{gk-1}(\sum_{j=1}^g V_j + \frac{k(g-1)}{k-1} Var(E_j)),$$ $Var(E_j)$

আর তে একটি বিক্ষোভ:

> x <- rnorm(100)
> g <- gl(10,10)
> mns <- tapply(x, g, mean)
> vs <- tapply(x, g, var)
> 9/99*(sum(vs) + 10*var(mns))
[1] 1.033749
> var(x)
[1] 1.033749

যদি নমুনার আকারগুলি সমান না হয় তবে সূত্রটি এত সুন্দর নয়।

সম্পাদনা: অসম নমুনা আকারের সূত্র

তাহলে আছে উপ-নমুনা সঙ্গে প্রতিটি ট ঞ , ঞ = 1 , ... , ছ মোট উপাদানের এন = Σ ট ঞ মূল্যবোধ, তারপর V একটি দ ( এক্স 1 , ... , এক্স এন ) = $g$$k_j, j=1,\ldots,g$$n=\sum{k_j}$ যেখানে ˉ এক্স =(∑ জি জে = 1 কেজে ˉ এক্স) জ)/এনহ'ল সমস্ত মাধ্যমের ওজনযুক্ত গড় (এবং সমস্ত মানের গড়ের সমান)।

$$Var(X_1,\ldots,X_{n}) = \frac{1}{n-1}\left(\sum_{j=1}^g (k_j-1) V_j + \sum_{j=1}^g k_j (\bar{X}_j - \bar{X})^2\right),$$ $\bar{X} = (\sum_{j=1}^gk_j\bar{X}_j)/n$

আবার, একটি বিক্ষোভ:

> k <- rpois(10, lambda=10)
> n <- sum(k)
> g <- factor(rep(1:10, k))
> x <- rnorm(n)
> mns <- tapply(x, g, mean)
> vs <- tapply(x, g, var)
> 1/(n-1)*(sum((k-1)*vs) + sum(k*(mns-weighted.mean(mns,k))^2))
[1] 1.108966
> var(x)
[1] 1.108966

$(X_{ji}-\bar{X})^2$$\bar{X}_j$$[(X_{ji}-\bar{X}_j)-(\bar{X}_j-\bar{X})]^2$

Comments

ধন্যবাদ। দুর্ভাগ্যক্রমে, আমি গ্যারান্টি দিতে পারি না যে আমার পার্টিশনগুলি সমস্ত একই আকারের। আমি একটি বহুল সমান্তরাল প্রক্রিয়া চালাচ্ছি যেখানে প্রতিটি পার্টিশনের বৈকল্পগুলি সমান্তরালভাবে শেষের পরে একত্রিত করতে আমার প্রয়োজন, তবে প্রতিটি সমান্তরাল প্রক্রিয়া থেকে প্রাপ্ত ফলাফল / নমুনাগুলি সমান নয় (এটি প্রাপ্ত ফোটনের একটি মন্টি কার্লো সিমুলেশন)।

— গ্যালামাইন

ডেটা গুদামের পরিবেশে সমান্তরাল গণনার জন্য আমি এই পর্যাপ্ত, সুপার সহায়ক সূত্রটি +1 করতে পারি না

— নোহ ইয়াত্টার

Answer 2

এটি ডিক্রিভেশন এবং কিছু পাইথন কোডের রুক্ষ স্কেচ সহ অনিকোর উত্তরের একটি অ্যাড-অন , তাই সমস্ত ক্রেডিট অনিকোর কাছে যায়।

শিক্ষাদীক্ষা

$X_j \in X = \{X_1, X_2, \ldots, X_g\}$$g$$k_j = |X_j|$

$$\begin{align*} E_j & = \mathrm{E}\left[X_j\right] = \frac{1}{k_j} \sum_{i=1}^{k_j} X_{ji}\\ V_j & = \mathrm{Var}\left[X_j\right] = \frac{1}{k_j-1} \sum_{i=1}^{k_j} (X_{ji} - E_j)^2 \end{align*}$$ respectively. If we set $n = \sum_{j=1}^g k_j$, the variance of the total dataset is given by: $$\begin{align*} \mathrm{Var}\left[X\right] & = \frac{1}{n-1} \sum_{j=1}^{g} \sum_{i=1}^{k_j} (X_{ji} - \mathrm{E}\left[X\right])^2 \\ & = \frac{1}{n-1} \sum_{j=1}^{g} \sum_{i=1}^{k_j} \big((X_{ji} - E_j) - (\mathrm{E}\left[X\right] - E_j)\big)^2 \\ & = \frac{1}{n-1} \sum_{j=1}^{g} \sum_{i=1}^{k_j} (X_{ji} - E_j)^2 - 2(X_{ji} - E_j)(\mathrm{E}\left[X\right] - E_j) + (\mathrm{E}\left[X\right] - E_j)^2 \\ & = \frac{1}{n-1} \sum_{j=1}^{g} (k_j - 1) V_j + k_j (\mathrm{E}\left[X\right] - E_j)^2. \end{align*}$$ If we have the same size $k$ for each part, i.e. $\forall j: k_j = k$, above formula simplifies to $$\begin{align*} \mathrm{Var}\left[X\right] & = \frac{1}{n-1} \sum_{j=1}^g (k-1) V_j + k(g-1) \mathrm{Var}\left[E_j\right] \\ & = \frac{k-1}{n-1} \sum_{j=1}^g V_j + \frac{k(g-1)}{k-1} \mathrm{Var}\left[E_j\right] \end{align*}$$

python code

The following python function works for arrays that have been splitted along the first dimension and implements the "more complex" formula for differently sized parts.

import numpy as np

def combine(averages, variances, counts, size=None):
    """
    Combine averages and variances to one single average and variance.

    # Arguments
        averages: List of averages for each part.
        variances: List of variances for each part.
        counts: List of number of elements in each part.
        size: Total number of elements in all of the parts.
    # Returns
        average: Average over all parts.
        variance: Variance over all parts.
    """
    average = np.average(averages, weights=counts)

    # necessary for correct variance in case of multidimensional arrays
    if size is not None:
        counts = counts * size // np.sum(counts, dtype='int')

    squares = (counts - 1) * variances + counts * (averages - average)**2
    return average, np.sum(squares) / (size - 1)

It can be used as follows:

# sizes k_j and n
ks = np.random.poisson(10, 10)
n = np.sum(ks)

# create data
x = np.random.randn(n, 20)
parts = np.split(x, np.cumsum(ks[:-1]))

# compute statistics on parts
ms = [np.mean(p) for p in parts]
vs = [np.var(p, ddof=1) for p in parts]

# combine and compare
combined = combine(ms, vs, ks, x.size)
numpied = np.mean(x), np.var(x, ddof=1)
distance = np.abs(np.array(combined) - np.array(numpied))
print('combined --- mean:{: .9f} - var:{: .9f}'.format(*combined))
print('numpied  --- mean:{: .9f} - var:{: .9f}'.format(*numpied))
print('distance --- mean:{: .5e} - var:{: .5e}'.format(*distance))