প্রশ্ন ট্যাগ «entropy»

শ্যাননের এন্ট্রপি প্রতিটি ফলাফলের সম্ভাবনার সংখ্যার নেতিবাচক প্রতিটি ফলাফলের জন্য সম্ভাবনার লগারিদম দ্বারা গুণিত হয়। লগারিদম এই সমীকরণে কী উদ্দেশ্যে কাজ করে? একটি স্বজ্ঞাত বা চাক্ষুষ উত্তর (একটি গভীর গাণিতিক উত্তরের বিপরীতে) বোনাস পয়েন্ট দেওয়া হবে!

72 entropy  intuition  sequence-analysis 

আমি দ্বি-মাত্রিক বাইনারি ম্যাট্রিক্সের এনট্রপি / তথ্য ঘনত্ব / প্যাটার্ন-অনুরূপ পরিমাপ করতে চাই। স্পষ্টতার জন্য আমাকে কিছু ছবি দেখাতে দাও: এই প্রদর্শন একটি বরং উচ্চ এনট্রপি থাকতে হবে: ক) এর মাঝারি এনট্রপি থাকা উচিত: B ইংরেজী বর্ণমালার দ্বিতীয় অক্ষর) এই ছবিগুলি, শেষ অবধি, সকলের কাছে শূন্য-এনট্রপি থাকা উচিত: সি) ডি) …

53 algorithms  binary-data  entropy  pattern-recognition  information 

এখানে সাধারণ প্রশ্নগুলির অর্থ কী তা সম্পর্কে আমি এখানে কিছু প্রশ্ন দেখেছি, তবে আমার উদ্দেশ্যটির জন্য এগুলি খুব সাধারণ। আমি এআইসির স্কোর বলতে কী বোঝায় তা গাণিতিকভাবে বোঝার চেষ্টা করছি। তবে একই সাথে, আমি এমন কঠোর প্রমাণ চাই না যা আমাকে আরও গুরুত্বপূর্ণ বিষয়গুলি না দেখায়। উদাহরণস্বরূপ, যদি এটি ক্যালকুলাস …

34 self-study  model-selection  aic  entropy  information-theory 

আমি এন্ট্রপির বিষয়ে পড়ছি এবং ধারাবাহিক ক্ষেত্রে এর অর্থ কী তা ধারণা করে নেওয়ার জন্য খুব কঠিন সময় পার করছি। উইকি পৃষ্ঠাতে নিম্নলিখিতটি উল্লেখ করা হয়েছে: ইভেন্টগুলির সম্ভাব্যতা বন্টন, প্রতিটি ইভেন্টের তথ্য পরিমাণের সাথে মিলিয়ে একটি এলোমেলো ভেরিয়েবল গঠন করে যার প্রত্যাশিত মান এই বন্টন দ্বারা উত্পন্ন তথ্যগুলির গড় পরিমাণ …

32 entropy 

আমি জানি যে এনট্রপি একটি প্রক্রিয়া / ভেরিয়েবলের এলোমেলোতার পরিমাপ এবং এটি নিম্নলিখিত হিসাবে সংজ্ঞায়িত করা যায়। এলোমেলো পরিবর্তনশীলX∈X∈X \in সেট AAA : - H(X)=∑xi∈A−p(xi)log(p(xi))H(X)=∑xi∈A−p(xi)log⁡(p(xi))H(X)= \sum_{x_i \in A} -p(x_i) \log (p(x_i)) । ম্যাককে রচিত এন্ট্রপি এবং তথ্য তত্ত্ব বইটিতে তিনি এই বিবৃতিটি Ch2 এ সরবরাহ করেছেন পি অভিন্ন হলে এন্ট্রপি …

32 uniform  entropy  maximum-entropy 

ইন এই কাগজ , প্রতিভাবান গবেষক Cosma Shalizi যুক্তি সম্পূর্ণরূপে একটি বিষয়ী Bayesian দৃশ্য গ্রহণ করতে, এক একটি unphysical ফলে সময় তীর (এনট্রপি প্রবাহ কর্তৃক প্রদত্ত) প্রকৃতপক্ষে যেতে হবে স্বীকার করতে হবে যে পিছন । এটি মূলত ইটি জেনেসের দ্বারা প্রকাশিত এবং জনপ্রিয় হওয়া সর্বাধিক এনট্রপি / সম্পূর্ণ ব্যক্তিগত বায়েশিয়ান …

31 bayesian  entropy  maximum-entropy  philosophical 

ক্রস যাচাইয়ের অনেক ট্রলিংয়ের পরেও আমি এখনও মনে করি না যে আমি তথ্য তত্ত্বের ক্ষেত্রের বাইরে কেএল ডাইভারজেন্স বোঝার আরও কাছাকাছি। ম্যাথ ব্যাকগ্রাউন্ডের কারও মতো তথ্য তত্ত্বের ব্যাখ্যাটি বোঝার পক্ষে এটি আরও সহজ খুঁজে পাওয়ার পক্ষে এটি অদ্ভুত। একটি তথ্য তত্ত্বের পটভূমি থেকে আমার বোঝার বাহ্যরেখা: যদি আমাদের সীমিত সংখ্যক …

23 inference  entropy  information-theory  kullback-leibler  compression 

আমি বিভিন্ন সেটিংসে বেশ কয়েকটি বিতরণের ব্যবহারকে ন্যায়সঙ্গত করতে সর্বোচ্চ এনট্রপির নীতিটি ব্যবহার করেছি; তবে, তথ্য-তাত্ত্বিকের বিপরীতে, সর্বাধিক এনট্রপির ব্যাখ্যা হিসাবে আমি এখনও একটি পরিসংখ্যান তৈরি করতে সক্ষম হতে পারি। অন্য কথায়, এন্ট্রপিটি সর্বাধিকীকরণ কীভাবে বিতরণের পরিসংখ্যানগত বৈশিষ্ট্যগুলি বোঝায়? কেউ কি নিজেকে চালিয়েছেন বা সম্ভবত নিজেকে সর্বোচ্চের একটি পরিসংখ্যানগত ব্যাখ্যা …

23 distributions  entropy  intuition  information-theory  maximum-entropy 

আমি কোনও উপায়েই কোনও পরিসংখ্যানবিদ নই (আমি গাণিতিক পরিসংখ্যানের কোর্স করেছি কিন্তু এর চেয়ে বেশি কিছুই নেই), এবং সম্প্রতি তথ্য তত্ত্ব এবং পরিসংখ্যানিক মেকানিক্স অধ্যয়নকালে আমি "অনিশ্চয়তা পরিমাপ" / "এনট্রপি" নামে এই জিনিসটির মুখোমুখি হয়েছি। আমি এটির খিনচিন ডেরাইভেশনটি অনিশ্চয়তার পরিমাপ হিসাবে পড়েছি এবং এটি আমার কাছে বোধগম্য হয়েছিল। আপনি …

21 entropy  inference 

কোনও চিত্রের এনট্রপি গণনা করার জন্য সর্বাধিক তথ্য / পদার্থবিজ্ঞান-তাত্ত্বিক সঠিক উপায় কী? আমি এখনই গণ্য দক্ষতার বিষয়ে চিন্তা করি না - আমি এটি তাত্ত্বিকভাবে যথাসম্ভব যথাযথভাবে চাই want ধূসর-স্কেল চিত্র দিয়ে শুরু করা যাক। এক স্বজ্ঞাত পদ্ধতির পিক্সেল ব্যাগ হিসাবে ইমেজ বিবেচনা করে এবং গনা হয় যেখানে কে ধূসর …

21 spatial  entropy  image-processing 

যৌথভাবে টিপিকাল সেটগুলির সংজ্ঞায় ("ইনফরমেশন থিওরির উপাদানসমূহ", ch। 7.6, p। 195) এ আমরা ব্যবহার করি যেমনগবেষণামূলক এনট্রপিএকটি এরএনসঙ্গে -sequenceপি(এক্সএন)=Π এন আমি = 1 P(Xআমি)। আমি এই পরিভাষাটি এর আগে কখনও আসিনি। এটি বইয়ের সূচী অনুসারে স্পষ্টভাবে কোথাও সংজ্ঞায়িত হয়নি।- 1এনলগপি ( এক্সএন)-1এনলগ⁡পি(এক্সএন)-\frac{1}{n} \log{p(x^n)}এনএনnপি ( এক্সএন) = ∏এনi = 1পি ( …

19 information-theory  entropy 

আমি একটি বই বা অনলাইন সংস্থান খুঁজছি যা বিভিন্ন ধরণের এনট্রপি যেমন স্যাম্পল এন্ট্রপি এবং শ্যানন এন্ট্রপি এবং তাদের সুবিধা এবং অসুবিধাগুলির ব্যাখ্যা দেয়। কেউ আমাকে সঠিক পথ নির্দেশ করতে পারবেন?

18 references  entropy 

ধরুন আমার কাছে দুটি সেট XXX এবং YYY এবং এই সেটগুলি উপর একটি যৌথ সম্ভাব্যতা বিতরণ রয়েছে p(x,y)p(x,y)p(x,y)। যাক p(x)p(x)p(x) এবং p(y)p(y)p(y) উপর প্রান্তিক ডিস্ট্রিবিউশন বোঝাতে XXX এবং YYY যথাক্রমে। XXX এবং মধ্যে পারস্পরিক তথ্যটিকেYYY সংজ্ঞায়িত করা হয়েছে: I(X;Y)=∑x,yp(x,y)⋅log(p(x,y)p(x)p(y))I(X;Y)=∑x,yp(x,y)⋅log⁡(p(x,y)p(x)p(y))I(X; Y) = \sum_{x,y}p(x,y)\cdot\log\left(\frac{p(x,y)}{p(x)p(y)}\right) অর্থাত্ এটি পয়েন্টওয়াইজ মিউচুয়াল ইনফরমেশন পিএমআই ( x …

18 entropy  mutual-information  information-theory 

আমি জানতে চাই যে ব্রেম্যানের এলোমেলো বন (আর র্যান্ডমফোরস্ট প্যাকেজের এলোমেলো বন) কোনও বিভাজন মাপদণ্ড (বৈশিষ্ট্য নির্বাচনের মানদণ্ড) তথ্য লাভ বা গিনি সূচক হিসাবে ব্যবহার করে? আমি এটি http://www.stat.berkeley.edu/~breiman/RandomForests/cc_home.htm এ এবং আর-এ র্যান্ডমফোরস্ট প্যাকেজটির জন্য ডকুমেন্টেশনে সন্ধান করার চেষ্টা করেছি, তবে কেবলমাত্র আমি খুঁজে পেলাম যে গিনি সূচকটি ব্যবহার করা …

15 r  random-forest  entropy  gini 

পারমুয়েশন টেস্ট (যাকে এলোমেলোকরণ পরীক্ষা, পুনরায় র্যান্ডমাইজেশন পরীক্ষা বা একটি সঠিক পরীক্ষাও বলা হয়) খুব কার্যকর হয় এবং কার্যকর হয় যখন উদাহরণস্বরূপ প্রয়োজনীয় বন্টনের অনুমানটি t-testপূরণ হয় না এবং যখন র‌্যাঙ্কিংয়ের মাধ্যমে মানগুলির রূপান্তর হয় নন-প্যারাম্যাট্রিক পরীক্ষার Mann-Whitney-U-testফলে আরও তথ্য নষ্ট হতে পারে। যাইহোক, এই ধরণের পরীক্ষাটি নাল হাইপোথিসিসের অধীনে …

15 hypothesis-testing  permutation-test  exchangeability  r  statistical-significance  loess  data-visualization  normal-distribution  pdf  ggplot2  kernel-smoothing  probability  self-study  expected-value  normal-distribution  prior  correlation  time-series  regression  heteroscedasticity  estimation  estimators  fisher-information  data-visualization  repeated-measures  binary-data  panel-data  mathematical-statistics  coefficient-of-variation  normal-distribution  order-statistics  regression  machine-learning  one-class  probability  estimators  forecasting  prediction  validation  finance  measurement-error  variance  mean  spatial  monte-carlo  data-visualization  boxplot  sampling  uniform  chi-squared  goodness-of-fit  probability  mixture  theory  gaussian-mixture  regression  statistical-significance  p-value  bootstrap  regression  multicollinearity  correlation  r  poisson-distribution  survival  regression  categorical-data  ordinal-data  ordered-logit  regression  interaction  time-series  machine-learning  forecasting  cross-validation  binomial  multiple-comparisons  simulation  false-discovery-rate  r  clustering  frequency  wilcoxon-mann-whitney  wilcoxon-signed-rank  r  svm  t-test  missing-data  excel  r  numerical-integration  r  random-variable  lme4-nlme  mixed-model  weighted-regression  power-law  errors-in-variables  machine-learning  classification  entropy  information-theory  mutual-information