প্রশ্ন ট্যাগ «mutual-information»

"পিয়ারসন", "স্পিয়ারম্যান" বা "কেন্ডালের টাউ" এর মতো পরিসংখ্যানগত পারস্পরিক পরিমাপের উপর কেন আমাদের কখন পারস্পরিক তথ্য ব্যবহার করা উচিত?

51 correlation  mathematical-statistics  mutual-information 

সম্প্রতি, আমি দুটি নিবন্ধ পড়েছি। প্রথমটি হ'ল পারস্পরিক সম্পর্কের ইতিহাস সম্পর্কে এবং দ্বিতীয়টি ম্যাক্সিমাল ইনফরমেশন কোয়ালিটি (এমআইসি) নামে পরিচিত নতুন পদ্ধতি সম্পর্কে। ভেরিয়েবলের মধ্যে অ-রৈখিক পারস্পরিক সম্পর্ক অনুমান করার জন্য এমআইসি পদ্ধতিটি বোঝার জন্য আমার আপনার সহায়তা দরকার। অধিকন্তু, আর এর ব্যবহারের নির্দেশাবলী লেখকের ওয়েবসাইটে পাওয়া যাবে ( ডাউনলোডের অধীনে …

20 correlation  nonparametric  bioinformatics  information-theory  mutual-information 

ধরুন আমার কাছে দুটি সেট XXX এবং YYY এবং এই সেটগুলি উপর একটি যৌথ সম্ভাব্যতা বিতরণ রয়েছে p(x,y)p(x,y)p(x,y)। যাক p(x)p(x)p(x) এবং p(y)p(y)p(y) উপর প্রান্তিক ডিস্ট্রিবিউশন বোঝাতে XXX এবং YYY যথাক্রমে। XXX এবং মধ্যে পারস্পরিক তথ্যটিকেYYY সংজ্ঞায়িত করা হয়েছে: I(X;Y)=∑x,yp(x,y)⋅log(p(x,y)p(x)p(y))I(X;Y)=∑x,yp(x,y)⋅log⁡(p(x,y)p(x)p(y))I(X; Y) = \sum_{x,y}p(x,y)\cdot\log\left(\frac{p(x,y)}{p(x)p(y)}\right) অর্থাত্ এটি পয়েন্টওয়াইজ মিউচুয়াল ইনফরমেশন পিএমআই ( x …

18 entropy  mutual-information  information-theory 

পারমুয়েশন টেস্ট (যাকে এলোমেলোকরণ পরীক্ষা, পুনরায় র্যান্ডমাইজেশন পরীক্ষা বা একটি সঠিক পরীক্ষাও বলা হয়) খুব কার্যকর হয় এবং কার্যকর হয় যখন উদাহরণস্বরূপ প্রয়োজনীয় বন্টনের অনুমানটি t-testপূরণ হয় না এবং যখন র‌্যাঙ্কিংয়ের মাধ্যমে মানগুলির রূপান্তর হয় নন-প্যারাম্যাট্রিক পরীক্ষার Mann-Whitney-U-testফলে আরও তথ্য নষ্ট হতে পারে। যাইহোক, এই ধরণের পরীক্ষাটি নাল হাইপোথিসিসের অধীনে …

15 hypothesis-testing  permutation-test  exchangeability  r  statistical-significance  loess  data-visualization  normal-distribution  pdf  ggplot2  kernel-smoothing  probability  self-study  expected-value  normal-distribution  prior  correlation  time-series  regression  heteroscedasticity  estimation  estimators  fisher-information  data-visualization  repeated-measures  binary-data  panel-data  mathematical-statistics  coefficient-of-variation  normal-distribution  order-statistics  regression  machine-learning  one-class  probability  estimators  forecasting  prediction  validation  finance  measurement-error  variance  mean  spatial  monte-carlo  data-visualization  boxplot  sampling  uniform  chi-squared  goodness-of-fit  probability  mixture  theory  gaussian-mixture  regression  statistical-significance  p-value  bootstrap  regression  multicollinearity  correlation  r  poisson-distribution  survival  regression  categorical-data  ordinal-data  ordered-logit  regression  interaction  time-series  machine-learning  forecasting  cross-validation  binomial  multiple-comparisons  simulation  false-discovery-rate  r  clustering  frequency  wilcoxon-mann-whitney  wilcoxon-signed-rank  r  svm  t-test  missing-data  excel  r  numerical-integration  r  random-variable  lme4-nlme  mixed-model  weighted-regression  power-law  errors-in-variables  machine-learning  classification  entropy  information-theory  mutual-information 

আমার প্রশ্নটি বিশেষত নেটওয়ার্ক পুনর্গঠনের ক্ষেত্রে প্রযোজ্য

15 correlation  mutual-information 

আমি কিছু সময়ের জন্য পারস্পরিক তথ্য নিয়ে কাজ করেছি। তবে আমি "পারস্পরিক সম্পর্ক বিশ্বে" খুব সাম্প্রতিক ব্যবস্থা পেয়েছি যা বিতরণের স্বাধীনতা, তথাকথিত "দূরত্বের সম্পর্ক" (ব্রাউনিয়ান পারস্পরিক সম্পর্কও বলা হয়) পরিমাপ করতে ব্যবহার করা যেতে পারে: http://en.wikedia.org/wiki/ ব্রাউনিয়ান_কোভারিয়েন্স । এই পরিমাপটি কোথায় প্রবর্তিত হয়েছে তা আমি কাগজপত্রগুলি যাচাই করেছিলাম, তবে পারস্পরিক …

15 correlation  mutual-information  distance-covariance 

কোভেরিয়েন্স ম্যাট্রিক্সের ইগেনভেেক্টরগুলির দিকে তাকানোর সময় আমরা সর্বাধিক বৈকল্পিকের দিকনির্দেশ পাই (প্রথম ইগেনভেেক্টরটি সেই দিক যা ডেটা সর্বাধিক পরিবর্তিত হয় ইত্যাদি); একে বলা হয় মূল উপাদান বিশ্লেষণ (পিসিএ)। আমি ভাবছিলাম যে মিউচুয়াল ইনফরমেশন ম্যাট্রিক্সের ইগেনভেেক্টর / মানগুলি দেখার অর্থ কী, তারা কি সর্বাধিক এনট্রপির দিক নির্দেশ করবে?

14 pca  entropy  mutual-information  eigenvalues 

শিরোনাম হিসাবে, ধারণাটি একটি অবিচ্ছিন্ন ভেরিয়েবল এবং শ্রেণিবদ্ধ ভেরিয়েবলের মধ্যে "পারস্পরিক সম্পর্ক" ("আমি যখন বি কে জানি তখন" সম্পর্কে কতটা জানি "হিসাবে সংজ্ঞায়িত করা হয়) এবং এমআইয়ের পরে পারস্পরিক তথ্য ব্যবহার করা হয়। আমি আপনাকে এই মুহুর্তে আমার চিন্তাভাবনাগুলি বলব, তবে আমি আপনাকে ক্রসভিলেটেডে এই অন্যান্য প্রশ্ন / উত্তরটি পড়ার …

13 correlation  information-theory  mutual-information 

যৌথ এনট্রপির উপর পারস্পরিক তথ্যগুলি: 0 ≤ আই( এক্স, Y)এইচ( এক্স, Y)। 10≤I(X,Y)H(X,Y)≤1 0 \leq \frac{I(X,Y)}{H(X,Y)} \leq 1 হিসাবে সংজ্ঞায়িত করা হবে: "এক্স থেকে ওয়াইতে কোনও টুকরো তথ্য পৌঁছানোর সম্ভাবনা"? আমি এতটা নিখুঁত হওয়ার জন্য দুঃখিত, তবে আমি কখনই তথ্য তত্ত্বটি অধ্যয়ন করি নি, এবং আমি এর কিছু ধারণাগুলি বোঝার …

11 information-theory  mutual-information 

আমার খুব প্রাথমিক সন্দেহ আছে। এই কিছু বিরক্ত যদি দুঃখিত। আমি জানি যে মিউচুয়াল ইনফরমেশন মানটি 0 এর চেয়ে বেশি হওয়া উচিত তবে এটি কি 1 এর চেয়ে কম হওয়া উচিত? এটি কি কোনও উচ্চ মানের দ্বারা আবদ্ধ? ধন্যবাদ, অমিত

11 information-theory  mutual-information 

শব্দ এম্বেডিংগুলি তৈরি করার একটি উপায় নিম্নরূপ ( আয়না ): কর্পোরো পান, যেমন "আমি উড়ন্ত উপভোগ করি I আমি এনএলপি পছন্দ করি I এটি থেকে কোকোরিয়েন্স ম্যাট্রিক্স শব্দটি তৈরি করুন: তে এসভিডি করুন , এবং ইউ এর প্রথম কলামগুলি রাখুনXXXkkk সাবম্যাট্রিক্স প্রতিটি সারিটি সেই শব্দের এম্বেডিং শব্দ হবে যা সারিটি …

11 natural-language  svd  mutual-information  word-embeddings  language-models 

এখানে, প্রকাশিত বৈজ্ঞানিক ও নীতি নির্ধারণী সাহিত্যে "ওজনের প্রমাণ হিসাবে" (ডাব্লুএইউই) একটি সাধারণ শব্দ, প্রায়শই ঝুঁকি নির্ধারণের প্রসঙ্গে দেখা যায়: w ( e : h ) = লগপি ( ই | এইচ )পি ( ই | এইচ)¯¯¯)w(e:h)=log⁡p(e|h)p(e|h¯)w(e : h) = \log\frac{p(e|h)}{p(e|\overline{h})} যেখানে প্রমাণ, হল অনুমান।জইeeজhh এখন, আমি জানতে চাই যে …

11 probability  bayesian  mutual-information 

অ-পরিসংখ্যানবিদদের দ্বারা আমি একটি দম্পতি আলোচনা দেখেছি যেখানে তারা মনে হয় রিগ্রেশন (বা সমতুল্য / ঘনিষ্ঠ-সম্পর্কিত পরিসংখ্যানগত পরীক্ষা) এর পরিবর্তে পারস্পরিক তথ্য ব্যবহার করে পারস্পরিক সম্পর্ককে পুনরায় উদ্ভাবন করে। আমি এটি গ্রহণ করার একটা উপযুক্ত কারণ আছে যে পরিসংখ্যানবিদরা এই পদ্ধতিটি গ্রহণ করবেন না। আমার সাধারণ লোকের বোঝা হ'ল এন্ট্রপি …

10 correlation  mutual-information 

আমি একটু বিভ্রান্ত। কেউ আমাকে কীভাবে ব্যাখ্যা করতে পারেন যে বাইনারি টার্ম ইভেন্ট হিসাবে ওজন হিসাবে টার্ম-ডকুমেন্ট ম্যাট্রিক্সের ভিত্তিতে দুটি পদগুলির মধ্যে পারস্পরিক তথ্য কীভাবে গণনা করতে? Document1Document2Document3′Why′111′How′101′When′111′Where′100′Why′′How′′When′′Where′Document11111Document21010Document31110 \begin{matrix} & 'Why' & 'How' & 'When' & 'Where' \\ Document1 & 1 & 1 & 1 & 1 \\ Document2 & …

10 python  information-theory  mutual-information  numpy  pandas 

আমি এই বক্তৃতা নোটগুলিতে বর্ণিত (5 পৃষ্ঠায়) বৈশিষ্ট্য নির্বাচনের ক্ষেত্রে পারস্পরিক তথ্যের ধারণাটি প্রয়োগ করার চেষ্টা করছি । আমার প্ল্যাটফর্মটি মতলব। অনুপ্রেরণামূলক তথ্য থেকে পারস্পরিক তথ্য গণনা করার সময় একটি সমস্যা আমি দেখতে পাই যে সংখ্যাটি সর্বদা উপরের দিকে পক্ষপাতদুষ্ট থাকে। মতলব সেন্ট্রিয়ায় এমআই গণনা করতে আমি প্রায় 3 ~ …

10 matlab  feature-selection  information-theory  mutual-information