যদি নমুনার আকার ছোট হয় তবে আমি টি-টেস্টের একটি উল্লেখযোগ্য ফলাফলকে বিশ্বাস করতে পারি?

Question

আমার একতরফা টি-পরীক্ষার ফলাফলটি যদি তাৎপর্যপূর্ণ হয় তবে নমুনার আকার ছোট হয় (উদাহরণস্বরূপ 20 বা ততোধিকের নীচে), আমি কি এখনও এই ফলাফলটিকে বিশ্বাস করতে পারি? যদি তা না হয় তবে আমি কীভাবে এই ফলাফলটি ডিল করব এবং / বা ব্যাখ্যা করব?

Comments

খুব ঘনিষ্ঠভাবে সম্পর্কিত: টি-পরীক্ষাটি বৈধ হওয়ার জন্য কি কোনও ন্যূনতম নমুনার আকার প্রয়োজন?

— সিলভারফিশ

কেবল একটি মন্তব্য, আমি নীচের দুর্দান্ত মন্তব্যে যুক্ত করতে চাই না; আপনি কোনও টি-পরীক্ষার ফলাফলকে বিশ্বাস করেন না, আপনি নিজেই পদ্ধতিটিতে বিশ্বাস করেন। একটি পৃথক ফলাফল হয় সঠিক বা ভুল, কিন্তু আরও তদন্ত ছাড়া আপনি কখনই জানতে পারবেন না। যদি অনুমানগুলি মেটানো হয় তবে ফিশারের পদ্ধতি বা পিয়ারসন এবং নেইম্যানের পদ্ধতির মধ্যে একটি টি-পরীক্ষা বিশ্বাসযোগ্য। যদি আপনি সেট করেন তবে এটি আপনাকে প্রতারণা করবে, অসীম পুনরাবৃত্তির পরে, 5% এর বেশি নয়, সম্ভবত কিছুটা কম। আপনার যে প্রশ্নটি করা উচিত তা হ'ল "অনুমানগুলি কি পূরণ হয়?" $\alpha<.05$

— ডেভ হ্যারিস

Answer 1

তত্ত্বগতভাবে যদি টি-পরীক্ষার সমস্ত অনুমান সত্য হয় তবে একটি ছোট নমুনা আকার নিয়ে কোনও সমস্যা নেই।

অনুশীলনে কিছু সত্য-সত্য-অনুমান রয়েছে যা আমরা বড় নমুনা আকারের জন্য দূরে সরাতে পারি তবে তারা ছোট নমুনা আকারের জন্য সমস্যা তৈরি করতে পারে। আপনি কি জানেন যে অন্তর্নিহিত বিতরণটি সাধারণত বিতরণ করা হয়? সমস্ত নমুনা কি স্বাধীন এবং অভিন্নভাবে বিতরণ করা হয়?

আপনি যদি পরীক্ষার বৈধতা নিয়ে সন্দেহ করেন তবে আপনি যে বিকল্পটি ব্যবহার করতে পারেন তা হ'ল বুটস্ট্র্যাপিং। নাল অনুমানটি কতবার সত্য বা মিথ্যা হয় তা দেখতে বুটস্ট্র্যাপিং আপনার নমুনা থেকে পুনরায় মডেলিং জড়িত। সম্ভবত আপনার নাল হাইপোথিসিসটি এবং আপনার পি-মান 0.05 তবে বুটস্ট্র্যাপিং দেখায় যে নমুনাটির গড় সময়টি 10% শূন্যের চেয়ে কম। এটি ইঙ্গিত করে যে এটি একটি ফ্লাক যা 0.05 এর পি-মান তৈরি করেছিল এবং আপনার নাল হাইপোথিসিসটি মিথ্যা বলে কম বিশ্বাস করতে হবে।$\mu<0$

Comments

উদাহরণস্বরূপ, যদি আপনি জানেন যে অন্তর্নিহিত বিতরণটি মোটামুটি একটি সাধারণ বিতরণ এবং আপনার সমস্ত 10 টি নমুনা একটি নির্দিষ্ট মানের থেকে কম, তবে স্পষ্টতই জনসংখ্যার বৈষম্য মানে সেই মানের চেয়ে বেশি হওয়া 2 ^ 10 এর মধ্যে এক, বা এক হাজারের মধ্যে একটি। এটি স্পষ্টতই 1 এ 2 ^ 10 এর সম্ভাবনা যা সাধারণভাবে বিতরণ করা জনগোষ্ঠীর সমস্ত দশটি নমুনা একই দিকে থাকবে। সমস্যাটি হ'ল আপনি বিশ্বাসযোগ্য ফলাফল পাবেন তবে এগুলি খুব দুর্বল হবে - "গড় বয়স্ক পুরুষের উচ্চতা প্রায় 5 থেকে 7 ফুট এর মধ্যে অবশ্যই"।

— ডেভিড শোয়ার্টজ

ব্যাখ্যা এবং বিকল্প পদ্ধতির জন্য অনেক ধন্যবাদ। আমি তাদের সত্যই প্রশংসা করি! অনেক ধন্যবাদ!

— এরিক

আমি আপনার বুটস্ট্র্যাপিংয়ের পরামর্শটি পাই না। আপনি যদি নমুনাটি থেকে পুনরায় নমুনা করেন (এতে পি <0.05 রয়েছে) তবে আপনি বেশিরভাগ বুটস্ট্র্যাপের প্রতিকারগুলি উল্লেখযোগ্য ফলাফলের আশা করতে পারেন, সম্ভবত 5 বা 10% নয়, প্রায় 95% হবে। আপনি দয়া করে বিস্তারিত বলতে পারেন? সিসি টু @ এরিক।

— অ্যামিবা

আরও সাধারণ মন্তব্য হিসাবে, বুটস্ট্র্যাপ বড় নমুনাগুলিতে ভাল কাজ করে তবে ছোট নমুনাগুলির সাথে কভারেজটি নামমাত্র থেকে কিছুটা আলাদা হতে পারে। এছাড়াও, খুব কম নমুনা আকার সহ, শক্তি কম is সুতরাং এটি অগত্যা সত্য নয় যে একটি "বুটস্ট্র্যাপ পরীক্ষা" সর্বদা টি-টেস্টের চেয়ে উচ্চতর।

— অ্যামিবা বলেছেন মোনিকা

@ আমেবা আমি আপনার সংশোধন করার স্টাইলটি সত্যিই পছন্দ করি। আপনি কেবল সঠিক / ভুল কী আমাকে তা বলেননি, আপনি আমার ধারণার একটি বিজোড় পরিণতি নির্দেশ করেছেন এবং আমাকে আমার উত্তর সম্পর্কে পুনর্বিবেচনা করতে এবং আমার ভুলের উত্স বুঝতে পেরেছেন। সুতরাং যে জন্য আপনাকে ধন্যবাদ! অতীতে হুইবার আমার সাথে এটিও করেছে

— হিউ

Answer 2

আপনার খুব কমই কোনও একক গুরুত্বপূর্ণ ফলাফল বিশ্বাস করা উচিত। আপনি কেন বলেননি যে আপনি দুটি লেজযুক্ত পরীক্ষার পরিবর্তে কেন একটি লেজ ব্যবহার করছেন, সুতরাং আশা করি কোনও পরিসংখ্যানগতভাবে উল্লেখযোগ্য ফলাফল দাবি করতে সক্ষম হবেন এমন লড়াই করার চেয়ে অন্য কোনও কারণ করার পক্ষে আপনার কাছে যুক্তিসঙ্গত কারণ আছে!

যে একপাশে সেট, পি থেকে নিম্নলিখিত বিবেচনা করুন। 261 সউরো, জে।, এবং লুইস, জেআর (2016)। ব্যবহারকারীর অভিজ্ঞতা নির্ণয়: ব্যবহারকারীর গবেষণার জন্য ব্যবহারিক পরিসংখ্যান, ২ য় এড .. কেমব্রিজ, এমএ: মরগান-কাউফম্যান।

---

রোনাল্ড ফিশার কীভাবে পি-মানগুলি ব্যবহার করার পরামর্শ দিয়েছিলেন

যখন কার্ল পিয়ারসন পরিসংখ্যানের গ্র্যান্ড বুড়ো মানুষ ছিলেন এবং রোনাল্ড ফিশার ছিলেন আপেক্ষিকভাবে নতুন আগত, পিয়ারসন, ফিশারের ধারণার এবং গাণিতিক দক্ষতার দ্বারা স্পষ্টতই হুমকী ছিলেন, তখনকার প্রভাবশালী ব্যক্তিকে সেই সময়ের প্রধান পরিসংখ্যান জার্নালগুলিতে প্রকাশ থেকে বিরত রাখতে ব্যবহার করেছিলেন, বায়োমেট্রিক এবং জার্নাল রয়েল স্ট্যাটিস্টিকাল সোসাইটির। ফলস্বরূপ, ফিশার সোসাইটি ফর সাইকোলিকাল রিসার্চ এর প্রসেসিংস এর বেশ কয়েকটি কাগজপত্র সহ কৃষি ও আবহাওয়া সংক্রান্ত বিভিন্ন জার্নালের মতো বিভিন্ন স্থানে তার ধারণা প্রকাশ করেছিলেন। এই আধুনিক জার্নালটির একটি গবেষণাপত্রে তিনি এখন আমরা গ্রহণযোগ্য টাইপ আই ত্রুটি (আলফা) কে 0.05 হিসাবে সেট করার কনভেনশন উল্লেখ করেছিলেন এবং সমালোচকভাবে অপ্রত্যাশিত উল্লেখযোগ্য ফলাফলের মুখোমুখি হওয়ার সময় পুনরুত্পাদনটির গুরুত্বও উল্লেখ করেছিলেন:

একটি পর্যবেক্ষণকে তাৎপর্যপূর্ণ বলে বিবেচনা করা হয়, যদি এটি খুব কমই উত্পন্ন হত, আমরা যে ধরণের অনুসন্ধান করছি তার প্রকৃত কারণের অভাবে। কোনও ফলাফলকে তাৎপর্যপূর্ণভাবে বিচার করা একটি সাধারণ অনুশীলন, যদি এটি এত মাত্রার হয় যে এটি বিশ বিচারের মধ্যে একবারের চেয়ে বেশি বার সুযোগের দ্বারা উত্পন্ন হত। এটি ব্যবহারিক তদন্তকারীটির জন্য একটি স্বেচ্ছাসেবী, তবে সুবিধাজনক, তাত্পর্যপূর্ণ স্তর, তবে এর অর্থ এই নয় যে প্রতি বিশটি পরীক্ষায় তিনি নিজেকে একবার প্রতারিত হতে দেন। তাত্পর্যপূর্ণ পরীক্ষা কেবল তাকে কী উপেক্ষা করতে হবে তা বোঝায়, অর্থাত্, সমস্ত পরীক্ষা-নিরীক্ষা যাতে উল্লেখযোগ্য ফলাফল পাওয়া যায় না। তার কেবলমাত্র দাবি করা উচিত যে কোনও পরীক্ষার পরীক্ষামূলকভাবে প্রদর্শনযোগ্য যখন তিনি জানেন যে কীভাবে একটি পরীক্ষা ডিজাইন করতে হয় যাতে এটি খুব কমই একটি উল্লেখযোগ্য ফলাফল দিতে ব্যর্থ হয়। অতএব, বিচ্ছিন্ন উল্লেখযোগ্য ফলাফল যা তিনি জানেন না কীভাবে পুনরুত্পাদন করতে হবে তা তদন্তের জন্য আরও স্থগিত রেখে দেওয়া হয়েছে in (ফিশার, 1929, পৃষ্ঠা 191)

উল্লেখ

ফিশার, আরএ (1929)। মানসিক গবেষণায় পরিসংখ্যান পদ্ধতি। মনোবিজ্ঞান গবেষণা জন্য সোসাইটির কার্যক্রম, 39, 189-192।

Comments

ফিশার দ্য অ্যানালালস অফ ইউজানিক্সে সর্বাধিক সম্ভাবনার প্রাক্কলনকে নিয়ন্ত্রণ করে বেশ কয়েকটি গুরুত্বপূর্ণ কাগজও প্রকাশ করেছিলেন। কার্ল পিয়ারসন যে মুহুর্তগুলি ব্যবহার করেছিলেন তার পদ্ধতির চেয়ে তার পদ্ধতিটি প্রায়শই ভাল ছিল। ফিশার তার পদ্ধতিটিকে বেহাল দৃষ্টিকোণ বলে অভিহিত করেছেন। এটি পরে জেরজি নেইম্যান এবং এগন পিয়ারসন (কার্ল পিয়ারসনের পুত্র) দ্বারা আনুষ্ঠানিকভাবে প্রতিষ্ঠিত হয়েছিল।

— মাইকেল আর। চেরনিক

নেইমন এবং পিয়ারসন ফিশারের বিশ্বাসঘাতক অনুক্রমকে আনুষ্ঠানিকভাবে আনেন নি। তারা একটি বিকল্প পদ্ধতি বিকাশ।

— মাইকেল লিউ - মনিকা

ফিশারের দিনগুলিতে, "উল্লেখযোগ্য" এর অর্থ হ'ল এটি কোনও কিছুকে বোঝায়, এটি গুরুত্বপূর্ণ নয়।

— ডেভিড লেন

অত্যন্ত বিস্তারিত তথ্যের জন্য আপনাকে অনেক ধন্যবাদ! এটা সত্যিই আমাকে অনেক সাহায্য করে!

— এরিক

Answer 3

নিজেকে এমন পরিস্থিতি হিসাবে কল্পনা করুন যেখানে আপনি অনেকগুলি অনুরূপ পরীক্ষা করছেন, এমন পরিস্থিতিতে এমন একটি সংস্থায় যেখানে নালাগুলির কিছু অংশ সত্য raction

$t$

$(1-\beta)$$\beta$

$n$$M$$n$$M$

আপনার প্রত্যাখ্যানের অনুপাতটি কী "সঠিক" হবে?

$nt\alpha+n(1-t)(1-\beta)$
Expected total number of correct rejections: $n(1-t)(1-\beta)$

Overall proportion of times a rejection was actually the right decision: $\frac{(1-t)(1-\beta)}{t\alpha+(1-t)(1-\beta)}$

Overall proportion of times a rejection was an error: $\frac{t\alpha}{t\alpha+(1-t)(1-\beta)}$

For the proportion of correct rejections to be more than a small number you need to avoid the situation where $(1-t)(1-\beta)\ll t\alpha$

Since in our setup a substantial fraction of nulls are true, if $1-\beta$ is not substantially larger than $\alpha$ (i.e. if you don't have fairly high power), a lot of our rejections are mistakes!

So when your sample size is small (and hence power is low), if a reasonable fraction of our nulls were true, we'd often be making an error when we reject.

The situation isn't much better if almost all our nulls are strictly false -- while most of our rejections will be correct (trivially, since tiny effects are still strictly false), if the power isn't high, a substantial fraction of those rejections will be "in the wrong direction" - we'll conclude the null is false quite often because by chance the sample turned out to be on the wrong side (this may be one argument to use one sided tests - when one sided tests make sense - to at least avoid rejections that make no sense if large sample sizes are hard to get).

We can see that small sample sizes can certainly be a problem.

[This proportion of incorrect rejections is called the false discovery rate]

---

If you have a notion of likely effect size you're in a better position to judge what an adequate sample size might be. With large anticipated effects, a rejection with a small sample size would not necessarily be a major concern.

Comments

Thanks a lot! That's a point that I can miss very easily. Many thanks for pin pointing that!

— Eric

Great work. This could be the accepted answer.

— Richard Hardy

@Eric the original answer got a bit muddled up in the middle; I have corrected it.

— Glen_b -Reinstate Monica

Answer 4

Some of Gosset's original work (aka Student), for which he developed the t test, involved yeast samples of n=4 and 5. The test was specifically designed for very small samples. Otherwise, the normal approximation would be fine. That said, Gosset was doing very careful, controlled experiments on data that he understood very well. There's a limit to the number of things a brewery has to test, and Gosset spent his working life at Guinness. He knew his data.

I'm a bit suspicious of your emphasis on one-sided testing. The logic of testing is the same whatever the hypothesis, but I've seen people go with a significant one-sided test when the two-sided was non-significant.

This is what a (upper) one-sided test implies. You are testing that a mean is 0. You do the math and are prepared to reject when T > 2.5. You run your experiment and observe that T=-50,000. You say, "phhhhht", and life goes on. Unless it is physically impossible for the test statistic to sink way below the hypothesized parameter value, and unless you would never take any decision if the test statistic goes in the opposite direction than you expect, you should be using a two-sided test.

Answer 5

The main thing you need to worry about is the power of your test. In particular, you might want to do a post-hoc power analysis to determine how likely you are, given your sample size, to identify a true significant effect of a reasonable size. If typical effects are very large, an n of 8 could be totally adequate (as with many experiments in molecular biology). If the effects you are interested in are typically subtle, however (as in many social psychology experiments), an n of thousands might still be underpowered.

This is important because underpowered tests can give very misleading results. For example, if your test is underpowered, even if you find a significant result, you have a relatively high probability of making what Andrew Gelman calls a "Type S" error, i.e., there is a real effect but in the opposite direction, or a "Type M" error, i.e., there is a real effect but the true magnitude is much weaker than what is estimated from the data.

Gelman and Carlin wrote a useful paper about doing post-hoc power analysis that I think applies in your case. Importantly, they recommend using independent data (i.e., not the data you tested, but reviews, modeling, the results of similar experiments, etc.) to estimate a plausible true effect size. By performing power analysis using that plausible estimated true effect size and comparing to your results, you can determine the probability of making a Type S error and the typical "exaggeration ratio," and thus get a better sense for how strong your evidence really is.

Answer 6

One could say that the whole point of statistical significance is to answer the question "can I trust this result, given the sample size?". In other words, the whole point is to control for the fact that with small sample sizes, you can get flukes, when no real effect exists. The statistical significance, that is to say the p-value, is precisely the answer to the question, "if no real effect existed, how likely would I be to get a fluke as big as this?". If it's very unlikely, that indicates that it's not a fluke.

So the answer is "yes", if the p-value is low, and if you have followed the correct statistical procedures and are satisfying the relevant assumptions, then yes, it is good evidence, and has the same weight as if you'd gotten the same p-value with a very large sample size.