প্রশ্ন ট্যাগ «information-theory»

এখানে সাধারণ প্রশ্নগুলির অর্থ কী তা সম্পর্কে আমি এখানে কিছু প্রশ্ন দেখেছি, তবে আমার উদ্দেশ্যটির জন্য এগুলি খুব সাধারণ। আমি এআইসির স্কোর বলতে কী বোঝায় তা গাণিতিকভাবে বোঝার চেষ্টা করছি। তবে একই সাথে, আমি এমন কঠোর প্রমাণ চাই না যা আমাকে আরও গুরুত্বপূর্ণ বিষয়গুলি না দেখায়। উদাহরণস্বরূপ, যদি এটি ক্যালকুলাস …

34 self-study  model-selection  aic  entropy  information-theory 

আমি নিম্নলিখিত প্রশ্নের জন্য একটি স্বজ্ঞাত ব্যাখ্যা খুঁজছি: পরিসংখ্যান এবং তথ্য তত্ত্বে, দুটি পৃথক সম্ভাব্যতা বিতরণের পার্থক্যের ব্যবস্থা হিসাবে ভট্টাচার্য দূরত্ব এবং কেএল বৈচিত্রের মধ্যে পার্থক্য কী? তাদের কি একেবারে কোনও সম্পর্ক নেই এবং দুটি সম্ভাব্য বিতরণের মধ্যকার দূরত্বটি সম্পূর্ণ ভিন্ন উপায়ে মাপুন?

33 mathematical-statistics  information-theory  kullback-leibler  bhattacharyya 

অ্যান্ড্রু মোর তথ্য প্রাপ্তির সংজ্ঞা দেয় : IG(Y|X)=H(Y)−H(Y|X)IG(Y|X)=H(Y)−H(Y|X)IG(Y|X) = H(Y) - H(Y|X) যেখানে H(Y|X)H(Y|X)H(Y|X) হচ্ছে শর্তসাপেক্ষ এনট্রপি । তবে উইকিপিডিয়া উপরের পরিমাণটিকে পারস্পরিক তথ্য বলে । অন্যদিকে উইকিপিডিয়া দুটি এলোমেলো ভেরিয়েবলের মধ্যে কুলব্যাক – লেবলার ডাইভারজেন্স (ওরফে ইনফরমেশন ডাইভারজেন বা আপেক্ষিক এনট্রপি) হিসাবে তথ্য প্রাপ্তির সংজ্ঞা দেয় : DKL(P||Q)=H(P,Q)−H(P)DKL(P||Q)=H(P,Q)−H(P)D_{KL}(P||Q) = …

33 information-theory 

দুটি প্রতিসাম্য কোভেরিয়েন্স ম্যাট্রিক্সের (উভয়ই একই মাত্রা রয়েছে) মধ্যে সাদৃশ্য বা দূরত্বের কোনও ব্যবস্থা আছে কি? আমি এখানে ম্যাট্রিক্স প্রয়োগ ব্যতীত দুটি সম্ভাব্য বন্টন বা ভেক্টরগুলির মধ্যে ইউক্লিডিয়ান দূরত্বের কেএল ডাইভার্জেন্সের এনালগগুলি নিয়ে ভাবছি। আমি ভাবছি সেখানে বেশ কয়েকটি মিলের পরিমাপ হবে। আদর্শভাবে আমি নাল অনুমানটিও পরীক্ষা করতে চাই যে …

28 distributions  hypothesis-testing  covariance-matrix  kullback-leibler  information-theory 

ক্রস যাচাইয়ের অনেক ট্রলিংয়ের পরেও আমি এখনও মনে করি না যে আমি তথ্য তত্ত্বের ক্ষেত্রের বাইরে কেএল ডাইভারজেন্স বোঝার আরও কাছাকাছি। ম্যাথ ব্যাকগ্রাউন্ডের কারও মতো তথ্য তত্ত্বের ব্যাখ্যাটি বোঝার পক্ষে এটি আরও সহজ খুঁজে পাওয়ার পক্ষে এটি অদ্ভুত। একটি তথ্য তত্ত্বের পটভূমি থেকে আমার বোঝার বাহ্যরেখা: যদি আমাদের সীমিত সংখ্যক …

23 inference  entropy  information-theory  kullback-leibler  compression 

আমি বিভিন্ন সেটিংসে বেশ কয়েকটি বিতরণের ব্যবহারকে ন্যায়সঙ্গত করতে সর্বোচ্চ এনট্রপির নীতিটি ব্যবহার করেছি; তবে, তথ্য-তাত্ত্বিকের বিপরীতে, সর্বাধিক এনট্রপির ব্যাখ্যা হিসাবে আমি এখনও একটি পরিসংখ্যান তৈরি করতে সক্ষম হতে পারি। অন্য কথায়, এন্ট্রপিটি সর্বাধিকীকরণ কীভাবে বিতরণের পরিসংখ্যানগত বৈশিষ্ট্যগুলি বোঝায়? কেউ কি নিজেকে চালিয়েছেন বা সম্ভবত নিজেকে সর্বোচ্চের একটি পরিসংখ্যানগত ব্যাখ্যা …

23 distributions  entropy  intuition  information-theory  maximum-entropy 

আমি শ্রেণিবদ্ধকরণ এবং রিগ্রেশন গাছগুলি অধ্যয়ন করছি এবং বিভক্ত অবস্থানের জন্য অন্যতম একটি পদক্ষেপ হ'ল জিআইএনআই স্কোর। এখন আমি দুটি বিভক্তির মধ্যে একই তথ্যের সম্ভাবনা অনুপাতের লগ শূন্য হলে সর্বাধিক বিভক্ত অবস্থান নির্ধারণ করতে অভ্যস্ত, যার অর্থ সদস্যতার সম্ভাবনাও সমান সম্ভাবনা। আমার অন্তর্নিহিততা বলছে যে কোনও না কোনও সংযোগের অবশ্যই …

21 cart  likelihood-ratio  information-theory  kullback-leibler  gini 

যথার্থতা হিসাবে সংজ্ঞায়িত করা হয়: p = true positives / (true positives + false positives) এটি সঠিক যে, 0 true positivesএবং false positivesকাছে যাওয়ার সাথে সাথে নির্ভুলতা 1 এ পৌঁছেছে? প্রত্যাহার জন্য একই প্রশ্ন: r = true positives / (true positives + false negatives) আমি বর্তমানে একটি পরিসংখ্যানগত পরীক্ষা বাস্তবায়ন …

20 precision-recall  data-visualization  logarithm  references  r  networks  data-visualization  standard-deviation  probability  binomial  negative-binomial  r  categorical-data  aggregation  plyr  survival  python  regression  r  t-test  bayesian  logistic  data-transformation  confidence-interval  t-test  interpretation  distributions  data-visualization  pca  genetics  r  finance  maximum  probability  standard-deviation  probability  r  information-theory  references  computational-statistics  computing  references  engineering-statistics  t-test  hypothesis-testing  independence  definition  r  censoring  negative-binomial  poisson-distribution  variance  mixed-model  correlation  intraclass-correlation  aggregation  interpretation  effect-size  hypothesis-testing  goodness-of-fit  normality-assumption  small-sample  distributions  regression  normality-assumption  t-test  anova  confidence-interval  z-statistic  finance  hypothesis-testing  mean  model-selection  information-geometry  bayesian  frequentist  terminology  type-i-and-ii-errors  cross-validation  smoothing  splines  data-transformation  normality-assumption  variance-stabilizing  r  spss  stata  python  correlation  logistic  logit  link-function  regression  predictor  pca  factor-analysis  r  bayesian  maximum-likelihood  mcmc  conditional-probability  statistical-significance  chi-squared  proportion  estimation  error  shrinkage  application  steins-phenomenon 

সম্প্রতি, আমি দুটি নিবন্ধ পড়েছি। প্রথমটি হ'ল পারস্পরিক সম্পর্কের ইতিহাস সম্পর্কে এবং দ্বিতীয়টি ম্যাক্সিমাল ইনফরমেশন কোয়ালিটি (এমআইসি) নামে পরিচিত নতুন পদ্ধতি সম্পর্কে। ভেরিয়েবলের মধ্যে অ-রৈখিক পারস্পরিক সম্পর্ক অনুমান করার জন্য এমআইসি পদ্ধতিটি বোঝার জন্য আমার আপনার সহায়তা দরকার। অধিকন্তু, আর এর ব্যবহারের নির্দেশাবলী লেখকের ওয়েবসাইটে পাওয়া যাবে ( ডাউনলোডের অধীনে …

20 correlation  nonparametric  bioinformatics  information-theory  mutual-information 

যৌথভাবে টিপিকাল সেটগুলির সংজ্ঞায় ("ইনফরমেশন থিওরির উপাদানসমূহ", ch। 7.6, p। 195) এ আমরা ব্যবহার করি যেমনগবেষণামূলক এনট্রপিএকটি এরএনসঙ্গে -sequenceপি(এক্সএন)=Π এন আমি = 1 P(Xআমি)। আমি এই পরিভাষাটি এর আগে কখনও আসিনি। এটি বইয়ের সূচী অনুসারে স্পষ্টভাবে কোথাও সংজ্ঞায়িত হয়নি।- 1এনলগপি ( এক্সএন)-1এনলগ⁡পি(এক্সএন)-\frac{1}{n} \log{p(x^n)}এনএনnপি ( এক্সএন) = ∏এনi = 1পি ( …

19 information-theory  entropy 

ধরুন আমার কাছে দুটি সেট XXX এবং YYY এবং এই সেটগুলি উপর একটি যৌথ সম্ভাব্যতা বিতরণ রয়েছে p(x,y)p(x,y)p(x,y)। যাক p(x)p(x)p(x) এবং p(y)p(y)p(y) উপর প্রান্তিক ডিস্ট্রিবিউশন বোঝাতে XXX এবং YYY যথাক্রমে। XXX এবং মধ্যে পারস্পরিক তথ্যটিকেYYY সংজ্ঞায়িত করা হয়েছে: I(X;Y)=∑x,yp(x,y)⋅log(p(x,y)p(x)p(y))I(X;Y)=∑x,yp(x,y)⋅log⁡(p(x,y)p(x)p(y))I(X; Y) = \sum_{x,y}p(x,y)\cdot\log\left(\frac{p(x,y)}{p(x)p(y)}\right) অর্থাত্ এটি পয়েন্টওয়াইজ মিউচুয়াল ইনফরমেশন পিএমআই ( x …

18 entropy  mutual-information  information-theory 

আসুন আমরা নিম্নলিখিত দুটি সম্ভাব্য বন্টন বিবেচনা করি P Q 0.01 0.002 0.02 0.004 0.03 0.006 0.04 0.008 0.05 0.01 0.06 0.012 0.07 0.014 0.08 0.016 0.64 0.928 আমি কুলব্যাক- ডাইভারজেন্স গণনা করেছি যা 0.492820258 সমান , আমি সাধারণভাবে জানতে চাই যে এই সংখ্যাটি আমাকে কী দেখায়? সাধারণত, কুলব্যাক-লেবলার ডাইভারজেন্স …

18 interpretation  information-theory  kullback-leibler 

কেএল ডাইভারজেন অ-নেতিবাচক কেন? তথ্য তত্ত্বের দৃষ্টিকোণ থেকে আমার এমন স্বজ্ঞাত জ্ঞান রয়েছে: দুই ensembles আছে বলুন AAA এবং BBB যার দ্বারা লেবেল উপাদানের একই সেট দ্বারা গঠিত xxx । p(x)p(x)p(x) এবং q(x)q(x)q(x) হ'ল যথাক্রমে AAA এবং জুড়ে বিভিন্ন সম্ভাবনা বিতরণ BBB। তথ্য তত্ত্বের দৃষ্টিকোণ থেকে, log2(P(x))log2⁡(P(x))\log_{2}(P(x)) হ'ল বিটগুলির ন্যূনতম …

18 information-theory  kullback-leibler 

আমি আর তে লিনিয়ার রিগ্রেশন এর এআইসি গণনা করার চেষ্টা করেছি তবে এই AICফাংশনটি ব্যবহার না করেই : lm_mtcars <- lm(mpg ~ drat, mtcars) nrow(mtcars)*(log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))+(length(lm_mtcars$coefficients)*2) [1] 97.98786 তবে, AICএকটি আলাদা মান দেয়: AIC(lm_mtcars) [1] 190.7999 কেউ আমাকে বলতে পারে যে আমি কী ভুল করছি?

16 r  aic  information-theory 

পারমুয়েশন টেস্ট (যাকে এলোমেলোকরণ পরীক্ষা, পুনরায় র্যান্ডমাইজেশন পরীক্ষা বা একটি সঠিক পরীক্ষাও বলা হয়) খুব কার্যকর হয় এবং কার্যকর হয় যখন উদাহরণস্বরূপ প্রয়োজনীয় বন্টনের অনুমানটি t-testপূরণ হয় না এবং যখন র‌্যাঙ্কিংয়ের মাধ্যমে মানগুলির রূপান্তর হয় নন-প্যারাম্যাট্রিক পরীক্ষার Mann-Whitney-U-testফলে আরও তথ্য নষ্ট হতে পারে। যাইহোক, এই ধরণের পরীক্ষাটি নাল হাইপোথিসিসের অধীনে …

15 hypothesis-testing  permutation-test  exchangeability  r  statistical-significance  loess  data-visualization  normal-distribution  pdf  ggplot2  kernel-smoothing  probability  self-study  expected-value  normal-distribution  prior  correlation  time-series  regression  heteroscedasticity  estimation  estimators  fisher-information  data-visualization  repeated-measures  binary-data  panel-data  mathematical-statistics  coefficient-of-variation  normal-distribution  order-statistics  regression  machine-learning  one-class  probability  estimators  forecasting  prediction  validation  finance  measurement-error  variance  mean  spatial  monte-carlo  data-visualization  boxplot  sampling  uniform  chi-squared  goodness-of-fit  probability  mixture  theory  gaussian-mixture  regression  statistical-significance  p-value  bootstrap  regression  multicollinearity  correlation  r  poisson-distribution  survival  regression  categorical-data  ordinal-data  ordered-logit  regression  interaction  time-series  machine-learning  forecasting  cross-validation  binomial  multiple-comparisons  simulation  false-discovery-rate  r  clustering  frequency  wilcoxon-mann-whitney  wilcoxon-signed-rank  r  svm  t-test  missing-data  excel  r  numerical-integration  r  random-variable  lme4-nlme  mixed-model  weighted-regression  power-law  errors-in-variables  machine-learning  classification  entropy  information-theory  mutual-information