চতুর্ভুজীয় সীমাবদ্ধতার অধীন একটি মাল্টিভারিয়েট সাধারণ বিতরণ থেকে নমুনা আঁকুন

9

আমি দক্ষতার সাথে নমুনা আঁকতে চাই $x \in \mathbb{R}^d$ থেকে $\mathcal{N}(\mu, \Sigma)$ যে সীমাবদ্ধতা সাপেক্ষে $||x||_2 = 1$ ।

— Sobi
সূত্র

12

এই সমস্যার আনুষ্ঠানিক সমাধানের জন্য প্রথমে a এর যথাযথ সংজ্ঞা প্রয়োজন

" বিতরণ সীমাবদ্ধতার অধীন যা " $\mathcal{N}_d(μ,Σ)$ $||x||^2=1$

প্রাকৃতিক উপায়ে শর্তসাপেক্ষে । এবং এই শর্তসাপেক্ষে ক্ষেত্রে প্রয়োগ করতে । যদি আমরা পোলার স্থানাঙ্ক ব্যবহার করি , তবে রূপান্তরটির সুতরাং বিতরণের শর্তসাপেক্ষ ঘনত্ব $X\sim\mathcal{N}_d(μ,Σ)$ $||X||=\varrho$ $\varrho=1$

\begin{aligned} x_{1} & = ϱ \cos (θ_{1}) & θ_{1} \in [0, π] \\ x_{2} & = ϱ \sin (θ_{1}) \cos (θ_{2}) & θ_{2} \in [0, π] \\ ⋮ \\ x_{d - 1} & = ϱ (\prod_{i = 1}^{d - 2} \sin (θ_{i})) \cos (θ_{d - 1}) & θ_{d - 1} \in [0, 2 π] \\ x_{d} & = ϱ \prod_{i = 1}^{d - 1} \sin (θ_{i}) \end{aligned}

$\eqalign{ x_1&=\varrho\cos(\theta_1)\qquad&\theta_1\in[0,\pi]\\ x_2&=\varrho\sin(\theta_1)\cos(\theta_2)\qquad&\theta_2\in[0,\pi]\\ &\vdots\\ x_{d-1}&=\varrho \left( \prod_{i=1}^{d-2}\sin(\theta_i) \right) \cos(\theta_{d-1})\qquad&\theta_{d-1}\in[0,2\pi]\\ x_{d}&=\varrho\prod_{i=1}^{d-1}\sin(\theta_i) }$

ϱ^{d - 1} \prod_{i = 1}^{d - 2} \sin (θ_{i})^{d - 1 - i}

$\varrho^{d-1}\prod_{i=1}^{d-2}\sin(\theta_i)^{d-1-i}$

θ = (θ_{1}, \dots, θ_{d - 1})

$\mathbf{\theta}=(\theta_1,\ldots,\theta_{d-1})$ প্রদত্ত হল

ϱ

$\varrho$

f (θ | ϱ) \propto \exp \frac{- 1}{2} {(x (θ, ϱ) - μ)^{T} Σ^{- 1} (x (θ, ϱ) - μ)} \prod_{i = 1}^{d - 2} \sin (θ_{i})^{d - 1 - i}

$f(\mathbf{\theta}|\varrho) \propto \exp\frac{-1}{2}\left\{(x(\theta,\varrho)-\mu)^T\Sigma^{-1}(x(\theta,\varrho)-\mu) \right\} \prod_{i=1}^{d-2}\sin(\theta_i)^{d-1-i}$

উপসংহার: এই ঘনত্বটি জেকবীয়দের কারণে ইউনিট গোলকের একটি বিন্দুতে সাধারণ ঘনত্বটি কেবল প্রয়োগ করার থেকে পৃথক।

দ্বিতীয় পদক্ষেপটি লক্ষ্য ঘনত্ব এবং প্যারামিটার স্পেস অন্বেষণ করতে একটি মার্কোভ চেইন মন্টি কার্লো অ্যালগরিদম ডিজাইন করুন । আমার প্রথম প্রয়াস গিবস স্যাম্পলারে হবে, এটি নিকটতম গোলকের দিকে অবস্থিত বিন্দুতে , এটি হ'ল, এবং মেট্রোপলিস-ইন-গিবস পদ্ধতিতে এক সময়ে একটি কোণকে এগিয়ে নিয়ে যাওয়া:

f (θ | ϱ = 1) \propto \exp \frac{- 1}{2} {(x (θ, 1) - μ)^{T} Σ^{- 1} (x (θ, 1) - μ)} \prod_{i = 1}^{d - 2} \sin (θ_{i})^{d - 1 - i}

$f(\mathbf{\theta}|\varrho=1) \propto \exp\frac{-1}{2}\left\{(x(\theta,1)-\mu)^T\Sigma^{-1}(x(\theta,1)-\mu) \right\} \prod_{i=1}^{d-2}\sin(\theta_i)^{d-1-i}$

[0, π]^{d - 2} \times [0, 2 π]

$[0,\pi]^{d-2}\times[0,2\pi]$

μ

$\mu$

μ / | | μ | |

$\mu/||\mu||$

জেনারেট করুন (যেখানে অঙ্কের নির্ণিত হয় মডুলো ) এবং সম্ভাব্যতা সহ এই নতুন মানটি গ্রহণ করুন অন্য $\theta_1^{(t+1)}\sim\mathcal{U}([\theta_1^{(t)}-\delta_1,\theta_1^{(t)}+\delta_1])$ $\pi$ $\frac{f (θ_{1}^{(t + 1)}, θ_{2}^{(t)}, . . . | ϱ = 1)}{f (θ_{1}^{(t)}, θ_{2}^{(t)}, . . . | ϱ = 1)} \land 1$ $\dfrac{f(\theta_1^{(t+1)},\theta_2^{(t)},...|\varrho=1)}{f(\theta_1^{(t)},\theta_2^{(t)},...|\varrho=1)}\wedge 1$ $\theta_1^{(t+1)}=\theta_1^{(t)}$
জেনারেট করুন (যেখানে অঙ্কের নির্ণিত হয় মডুলো ) এবং সম্ভাব্যতা সহ এই নতুন মানটি গ্রহণ করুন অন্য $\theta_2^{(t+1)}\sim\mathcal{U}([\theta_2^{(t)}-\delta_2,\theta_2^{(t)}+\delta_2])$ $\pi$ $\frac{f (θ_{1}^{(t + 1)}, θ_{2}^{(t + 1)}, θ_{3}^{(t)}, . . . | ϱ = 1)}{f (θ_{1}^{(t + 1)}, θ_{2}^{(t)}, θ_{3}^{(t)}, . . . | ϱ = 1)} \land 1$ $\dfrac{f(\theta_1^{(t+1)},\theta_2^{(t+1)},\theta_3^{(t)},...|\varrho=1)}{f(\theta_1^{(t+1)},\theta_2^{(t)},\theta_3^{(t)},...|\varrho=1)}\wedge 1$ $\theta_2^{(t+1)}=\theta_2^{(t)}$
$\ldots$
জেনারেট করুন (যেখানে অঙ্কগুলি মডুলো হিসাবে গণনা করা হয় ) এবং সম্ভাবনার with সহ নতুন মানটি গ্রহণ করুন) অন্য $\theta_{d-1}^{(t+1)}\sim\mathcal{U}([\theta_{d-1}^{(t)}-\delta_{d-1},\theta_{d-1}^{(t)}+\delta_{d-1}])$ $2\pi$ $\frac{f (θ_{1}^{(t + 1)}, θ_{2}^{(t + 1)}, . . ., θ_{d - 1}^{(t + 1)} | ϱ = 1)}{f (θ_{1}^{(t + 1)}, θ_{2}^{(t + 1)}, . . ., θ_{d - 1}^{(t)} | ϱ = 1)} \land 1$ $\dfrac{f(\theta_1^{(t+1)},\theta_2^{(t+1)},...,\theta_{d-1}^{(t+1)}|\varrho=1)}{f(\theta_1^{(t+1)},\theta_2^{(t+1)},...,\theta_{d-1}^{(t)}| \varrho=1)}\wedge 1$ $\theta_{d-1}^{(t+1)}=\theta_{d-1}^{(t)}$

পদক্ষেপগুলির গ্রহণযোগ্যতার হারের বিপরীতে , , , স্কেলগুলি এর আদর্শ যেতে পারে । $\delta_1$ $\delta_2$ $\ldots$ $\delta_{d-1}$ $50\%$

এবং জন্য ডিফল্ট মান সহ উপরের চিত্রিত করার জন্য এখানে একটি আর কোড রয়েছে : $\mu$ $\Sigma$

library(mvtnorm)
d=4
target=function(the,mu=1:d,sigma=diag(1/(1:d))){
 carte=cos(the[1])
 for (i in 2:(d-1))
  carte=c(carte,prod(sin(the[1:(i-1)]))*cos(the[i]))
 carte=c(carte,prod(sin(the[1:(d-1)])))
 prod(sin(the)^((d-2):0))*dmvnorm(carte,mean=mu,sigma=sigma)}
#Gibbs
T=1e4
#starting point
mu=(1:d)
mup=mu/sqrt(sum(mu^2))
mut=acos(mup[1])
for (i in 2:(d-1))
  mut=c(mut,acos(mup[i]/prod(sin(mut))))
thes=matrix(mut,nrow=T,ncol=d-1,byrow=TRUE)
delta=rep(pi/2,d-1)     #scale
past=target(thes[1,])   #current target
for (t in 2:T){
 thes[t,]=thes[t-1,]
 for (j in 1:(d-1)){
   prop=thes[t,]
   prop[j]=prop[j]+runif(1,-delta[j],delta[j])
   prop[j]=prop[j]%%(2*pi-(j<d-1)*pi)
   prof=target(prop)
   if (runif(1)<prof/past){
     past=prof;thes[t,]=prop}
   }
}

— সিয়ান
সূত্র

-3

$||x||_2^2=1$ কঠোরভাবে সম্ভব নয় যেহেতু একটি (ধারাবাহিক) এলোমেলো পরিবর্তনশীল। আপনি যদি এটির 1 এর বৈচিত্র রাখতে চান, তবে (যেখানে টিলডের অর্থ আমরা বৈকল্পিক অনুমান করি), তারপরে আপনাকে তার বৈচিত্রটি be হওয়া দরকার । যাইহোক, এই চাহিদাটি সাথে দ্বন্দ্ব করতে পারে । অর্থাৎ এ ভ্যারিয়েন্স আপনার যা দরকার তির্যক সঙ্গে নমুনা পেতে সমান হতে । $x$ $E[(x-\mu)^2]\tilde{=} \frac{1}{n}\sum (x-\mu)^2=\frac{1}{n} ||x-n||_2^2=\frac{1}{n}$ $\frac{1}{n}$ $\Sigma$ $\Sigma$ $\frac{1}{n}$

নমুনা ফর্ম সাধারণভাবে এই ডিস্ট্রিবিউশন করার জন্য, আপনাকে IID মান লম্ব সংখ্যাবৃদ্ধি দ্বারা তৈরি করতে পারেন, এবং তারপর , বর্গমূল , এবং তারপর উপায়ে যোগ । $\Sigma^{0.5}$ $\Sigma$ $\mu$

— yoki
সূত্র

আপনার প্রতিক্রিয়ার জন্য ধন্যবাদ. আমি এটি ভাবতে পারি এমন এক উপায় যা আমি চাই তা উত্পাদন করবে (তবে দক্ষ নয়) হ'ল প্রত্যাখ্যানের নমুনা । সুতরাং, এটি করা অসম্ভব নয়। তবে আমি এটি করার একটি কার্যকর উপায় খুঁজছি।

— সোবি