প্রশ্ন ট্যাগ «fisher-information»

আমি ফিশারের তথ্য, এটি কীভাবে পরিমাপ করে এবং কীভাবে সহায়ক তা নিয়ে আরামদায়ক নই। এছাড়াও এটি ক্র্যামার-রাওর সাথে আবদ্ধ হওয়ার সম্পর্ক আমার কাছে আপাত নয়। কেউ দয়া করে এই ধারণাগুলির একটি স্বজ্ঞাত ব্যাখ্যা দিতে পারেন?

59 estimation  intuition  fisher-information 

ঠিক আছে, এটি বেশ বেসিক প্রশ্ন, তবে আমি কিছুটা বিভ্রান্ত হয়ে পড়েছি। আমার থিসিসে আমি লিখি: (পর্যবেক্ষণ) ফিশার ইনফরমেশন ম্যাট্রিক্সের তির্যক উপাদানগুলির বর্গমূলের বিপরীত গণনা করে স্ট্যান্ডার্ড ত্রুটিগুলি পাওয়া যায়: যেহেতু দ অপ্টিমাইজেশান কমান্ড ছোট-লগ ইন করুনএল(উদযাপিত) ফিশার তথ্য ম্যাট্রিক্স চট বিপরীত গণনা করে পাওয়া যাবে: আমি(μ,σ2)=এইচ-1sμ^,σ^2=1I(μ^,σ^2)−−−−−−√sμ^,σ^2=1I(μ^,σ^2)\begin{align*} s_{\hat{\mu},\hat{\sigma}^2}=\frac{1}{\sqrt{\mathbf{I}(\hat{\mu},\hat{\sigma}^2)}} \end{align*}−logL−log⁡L-\log\mathcal{L}I(μ^,σ^2)=H−1I(μ^,σ^2)=H−1\begin{align*} \mathbf{I}(\hat{\mu},\hat{\sigma}^2)=\mathbf{H}^{-1} …

54 maximum-likelihood  fisher-information 

মনে করুন আমাদের কাছে এলোমেলো পরিবর্তনশীল । যদি সত্য প্যারামিটার হয় তবে সম্ভাবনা ফাংশনটি সর্বাধিক করা উচিত এবং শূন্যের সমান ডেরিভেটিভ হওয়া উচিত। সর্বাধিক সম্ভাবনা অনুমানের পিছনে এটিই মূল নীতি।X∼f(x|θ)X∼f(x|θ)X \sim f(x|\theta)θ0θ0\theta_0 আমি এটি বুঝতে হিসাবে, ফিশার তথ্য হিসাবে সংজ্ঞায়িত করা হয় I(θ)=E[(∂∂θf(X|θ))2]I(θ)=E[(∂∂θf(X|θ))2]I(\theta) = \Bbb E \Bigg[\left(\frac{\partial}{\partial \theta}f(X|\theta)\right)^2\Bigg ] সুতরাং, …

29 bayesian  maximum-likelihood  likelihood  intuition  fisher-information 

কেউ কি বিশুদ্ধ গাণিতিক কঠোর উপায়ে ফিশার তথ্য মেট্রিক এবং আপেক্ষিক এনট্রপি (বা কেএল ডাইভারজেন্স) এর মধ্যে নিম্নলিখিত সংযোগটি প্রমাণ করতে পারেন ? D(p(⋅,a+da)∥p(⋅,a))=12gi,jdaidaj+(O(∥da∥3)D(p(⋅,a+da)∥p(⋅,a))=12gi,jdaidaj+(O(‖da‖3)D( p(\cdot , a+da) \parallel p(\cdot,a) ) =\frac{1}{2} g_{i,j} \, da^i \, da^j + (O( \|da\|^3) যেখানে a=(a1,…,an),da=(da1,…,dan)a=(a1,…,an),da=(da1,…,dan)a=(a^1,\dots, a^n), da=(da^1,\dots,da^n) , gi,j=∫∂i(logp(x;a))∂j(logp(x;a)) p(x;a) dxgi,j=∫∂i(log⁡p(x;a))∂j(log⁡p(x;a)) p(x;a) dxg_{i,j}=\int \partial_i …

20 mathematical-statistics  kullback-leibler  fisher-information 

নিম্নলিখিত শ্রেণিবদ্ধ মডেল প্রদত্ত, এবং, যেখানে একটি সাধারণ বন্টন is একটি উপায় আছে প্রান্তিক বিতরণের ফিশার তথ্যের জন্য একটি সঠিক অভিব্যক্তি পেতে হয় দেওয়া । এটি হ'ল, ফিশার তথ্যটি কী: আমি দেওয়া এর প্রান্তিক বিতরণের জন্য একটি অভিব্যক্তি পেতে পারি , তবে পার্থক্য করা আর্টX∼N(μ,1),X∼N(μ,1), X \sim {\mathcal N}(\mu,1), μ∼Laplace(0,c)μ∼Laplace(0,c) …

20 multilevel-analysis  information  fisher-information 

যাক । ফিশার ইনফরমেশন ম্যাট্রিক্স হিসাবে সংজ্ঞায়িত করা হয়েছে:θ ∈ আরএনθ∈Rn\theta \in R^{n} আমি( θ )i , j= - ই[ ∂2লগ( চ)( এক্স| θ))∂θআমি∂θঞ|||θ ]I(θ)i,j=−E[∂2log⁡(f(X|θ))∂θi∂θj|θ]I(\theta)_{i,j} = -E\left[\frac{\partial^{2} \log(f(X|\theta))}{\partial \theta_{i} \partial \theta_{j}}\bigg|\theta\right] আমি কীভাবে ফিশার ইনফরমেশন ম্যাট্রিক্সকে ইতিবাচক অর্ধ-চূড়ান্ত প্রমাণ করতে পারি?

18 inference  linear-algebra  fisher-information 

আমি কয়েক সপ্তাহ আগে এখানে যে প্রশ্নের উত্তর দিয়েছিলাম তার একটি "উত্তর" পোস্ট করছি: কেন আগে দরকারী? যদিও এটি সত্যই একটি প্রশ্ন ছিল (এবং আমার কাছে তখন মন্তব্য পোস্ট করার অধিকারও ছিল না) তবে আমি আশা করি এটি করা ঠিক হবে: উপরের লিঙ্কে এটি নিয়ে আলোচনা করা হয়েছে যে জেফরির …

17 bayesian  mathematical-statistics  fisher-information  jeffreys-prior  invariance 

স্ট্যান্ডার্ড সর্বাধিক সম্ভাবনার সেটিংসে ( নমুনা ঘনত্ব ) সহ কিছু বিতরণ থেকে ) এবং সঠিকভাবে নির্দিষ্ট মডেলের ক্ষেত্রে ফিশার তথ্য দ্বারা দেওয়া হয় f y ( y | θ 0)Y1,…,YnY1,…,YnY_{1}, \ldots, Y_{n}fy(y|θ0fy(y|θ0f_{y}(y|\theta_{0} I(θ)=−Eθ0[∂2θ2lnfy(θ)]I(θ)=−Eθ0[∂2θ2ln⁡fy(θ)]I(\theta) = -\mathbb{E}_{\theta_{0}}\left[\frac{\partial^{2}}{\theta^{2}}\ln f_{y}(\theta) \right] যেখানে প্রত্যাশাটি সত্য ঘনত্বের প্রতি সম্মান নিয়ে নেওয়া হয়েছে যা ডেটা উত্পন্ন করে। …

17 maximum-likelihood  fisher-information 

আমি প্রমাণ করার চেষ্টা করছি যে দুর্বলভাবে সামঞ্জস্যপূর্ণ সর্বাধিক সম্ভাবনা অনুমানকারী (এমএলই) এ মূল্যায়ন করা তথ্য ম্যাট্রিক্স প্রত্যাশিত তথ্য ম্যাট্রিক্সের একটি দুর্বলভাবে সামঞ্জস্যপূর্ণ অনুমানকারী। এটি একটি বিস্তৃত উদ্ধৃত ফলাফল তবে কেউ রেফারেন্স বা প্রমাণ দেয় না (আমি ক্লান্ত হয়ে পড়েছি গুগলের ফলাফলের প্রথম 20 পৃষ্ঠা এবং আমার পরিসংখ্যানের পাঠ্যপুস্তক) আমি …

16 maximum-likelihood  expected-value  asymptotics  information  fisher-information 

পারমুয়েশন টেস্ট (যাকে এলোমেলোকরণ পরীক্ষা, পুনরায় র্যান্ডমাইজেশন পরীক্ষা বা একটি সঠিক পরীক্ষাও বলা হয়) খুব কার্যকর হয় এবং কার্যকর হয় যখন উদাহরণস্বরূপ প্রয়োজনীয় বন্টনের অনুমানটি t-testপূরণ হয় না এবং যখন র‌্যাঙ্কিংয়ের মাধ্যমে মানগুলির রূপান্তর হয় নন-প্যারাম্যাট্রিক পরীক্ষার Mann-Whitney-U-testফলে আরও তথ্য নষ্ট হতে পারে। যাইহোক, এই ধরণের পরীক্ষাটি নাল হাইপোথিসিসের অধীনে …

15 hypothesis-testing  permutation-test  exchangeability  r  statistical-significance  loess  data-visualization  normal-distribution  pdf  ggplot2  kernel-smoothing  probability  self-study  expected-value  normal-distribution  prior  correlation  time-series  regression  heteroscedasticity  estimation  estimators  fisher-information  data-visualization  repeated-measures  binary-data  panel-data  mathematical-statistics  coefficient-of-variation  normal-distribution  order-statistics  regression  machine-learning  one-class  probability  estimators  forecasting  prediction  validation  finance  measurement-error  variance  mean  spatial  monte-carlo  data-visualization  boxplot  sampling  uniform  chi-squared  goodness-of-fit  probability  mixture  theory  gaussian-mixture  regression  statistical-significance  p-value  bootstrap  regression  multicollinearity  correlation  r  poisson-distribution  survival  regression  categorical-data  ordinal-data  ordered-logit  regression  interaction  time-series  machine-learning  forecasting  cross-validation  binomial  multiple-comparisons  simulation  false-discovery-rate  r  clustering  frequency  wilcoxon-mann-whitney  wilcoxon-signed-rank  r  svm  t-test  missing-data  excel  r  numerical-integration  r  random-variable  lme4-nlme  mixed-model  weighted-regression  power-law  errors-in-variables  machine-learning  classification  entropy  information-theory  mutual-information 

(আমি গণিতের ক্ষেত্রে একই প্রশ্ন পোস্ট করেছি )) তথ্য জ্যামিতিতে, ফিশার তথ্য ম্যাট্রিক্সের নির্ধারক একটি পরিসংখ্যানগত বহুগুণে একটি প্রাকৃতিক ভলিউম ফর্ম, তাই এটির একটি দুর্দান্ত জ্যামিতিক ব্যাখ্যা রয়েছে। উদাহরণস্বরূপ, এটি কোনও জেফরির সংজ্ঞায় প্রদর্শিত হয়েছিল, উদাহরণস্বরূপ, এটি পুনঃনির্মাণের অধীনে তার আক্রমণটির সাথে যুক্ত, যা (ইমো) একটি জ্যামিতিক সম্পত্তি। কিন্তু পরিসংখ্যান …

13 variance  information-theory  fisher-information  information-geometry 

ফিশার ইনফরমেশন ম্যাট্রিক্সের অস্তিত্বের জন্য বিভিন্ন পাঠ্যপুস্তক বিভিন্ন অবস্থার উল্লেখ করে। এই জাতীয় বেশ কয়েকটি শর্ত নীচে তালিকাভুক্ত করা হয়েছে, যার প্রত্যেকটি "ফিশার ইনফরমেশন ম্যাট্রিক্স" এর সংজ্ঞাগুলির মধ্যে কিছুতে দেখা গেছে, তবে সমস্ত নয়। শর্তগুলির একটি মানক, ন্যূনতম সেট আছে? নীচের ৫ টি শর্তের মধ্যে কোনটি শেষ করা যাবে? যদি …

13 fisher-information 

প্যারামিটার (সাফল্যের সম্ভাবনা) সহ একটি বার্নৌলির এলোমেলো পরিবর্তনশীল Consider বিবেচনা করুন । সম্ভাবনা ফাংশন এবং ফিশারের তথ্য (একটি ম্যাট্রিক্স):X∈{0,1}X∈{0,1}X\in\{0,1\}θθ\theta1×11×11 \times 1 L1(θ;X)I1(θ)=p(X|θ)=θX(1−θ)1−X=detI1(θ)=1θ(1−θ)L1(θ;X)=p(X|θ)=θX(1−θ)1−XI1(θ)=detI1(θ)=1θ(1−θ) \begin{align} \mathcal{L}_1(\theta;X) &= p(\left.X\right|\theta) = \theta^{X}(1-\theta)^{1-X} \\ \mathcal{I}_1(\theta) &= \det \mathcal{I}_1(\theta) = \frac{1}{\theta(1-\theta)} \end{align} এখন দুটি পরামিতি সহ একটি "ওভার-প্যারামিটারাইজড" সংস্করণটি বিবেচনা করুন: সাফল্যের সম্ভাবনা θ1θ1\theta_1 এবং ব্যর্থতার …

10 bernoulli-distribution  parameterization  fisher-information  determinant 

উদাহরণ: আমার কাজের বাক্যে একটি বাক্য রয়েছে: "যুক্তরাজ্যের জাভা সিনিয়র ইঞ্জিনিয়ার"। আমি এটি 2 বিভাগ: English এবং হিসাবে পূর্বাভাস দেওয়ার জন্য একটি গভীর শিক্ষার মডেল ব্যবহার করতে চাই IT jobs। যদি আমি traditionalতিহ্যগত শ্রেণিবদ্ধকরণ মডেল ব্যবহার করি তবে এটি কেবল softmaxসর্বশেষ স্তরে ফাংশন সহ 1 টি লেবেল পূর্বাভাস দিতে পারে …

9 machine-learning  deep-learning  natural-language  tensorflow  sampling  distance  non-independent  application  regression  machine-learning  logistic  mixed-model  control-group  crossover  r  multivariate-analysis  ecology  procrustes-analysis  vegan  regression  hypothesis-testing  interpretation  chi-squared  bootstrap  r  bioinformatics  bayesian  exponential  beta-distribution  bernoulli-distribution  conjugate-prior  distributions  bayesian  prior  beta-distribution  covariance  naive-bayes  smoothing  laplace-smoothing  distributions  data-visualization  regression  probit  penalized  estimation  unbiased-estimator  fisher-information  unbalanced-classes  bayesian  model-selection  aic  multiple-regression  cross-validation  regression-coefficients  nonlinear-regression  standardization  naive-bayes  trend  machine-learning  clustering  unsupervised-learning  wilcoxon-mann-whitney  z-score  econometrics  generalized-moments  method-of-moments  machine-learning  conv-neural-network  image-processing  ocr  machine-learning  neural-networks  conv-neural-network  tensorflow  r  logistic  scoring-rules  probability  self-study  pdf  cdf  classification  svm  resampling  forecasting  rms  volatility-forecasting  diebold-mariano  neural-networks  prediction-interval  uncertainty 

"সমস্ত সম্ভাবনায়: পরিসংখ্যানের মডেলিং এবং সম্ভাবনা ব্যবহারের সম্ভাবনা" থেকে ওয়াই পাভিটান, পুনরায় পরামিতিকরণের সম্ভাবনা । ↦ জি( Θ ) = ψθ↦g(θ)=ψ\theta\mapsto g(\theta)=\psi হিসাবে সংজ্ঞায়িত করা হয় এল*( ψ ) =সর্বোচ্চ{ θ : জি( Θ ) = ψ }এল ( θ )L∗(ψ)=max{θ:g(θ)=ψ}L(θ) L^*(\psi)=\max_{\{\theta:g(\theta)=\psi\}} L(\theta) যাতে যদি এক-থেকে-এক হয় তবে (পৃষ্ঠা 45)। …

9 mathematical-statistics  inference  likelihood  fisher-information