আংশিক সর্বনিম্ন বর্গক্ষেত্র, হ্রাস র‌্যাঙ্ক রিগ্রেশন এবং প্রধান উপাদানগুলির রিগ্রেশনগুলির মধ্যে সংযোগ কী?

হ্রাস র‌্যাঙ্কের রিগ্রেশন এবং প্রধান উপাদানগুলির রিগ্রেশন কেবলমাত্র আংশিক ন্যূনতম স্কোয়ারগুলির বিশেষ ক্ষেত্রে?

এই টিউটোরিয়াল (পৃষ্ঠা,, "উদ্দেশ্যগুলির তুলনা") বলেছে যে আমরা যখন এক্স বা ওয়াই (যেমন "আংশিক নয়") প্রজেক্ট না করে আংশিক ন্যূনতম স্কোয়ারগুলি করি তখন এটি একইভাবে হ্রাস র‌্যাঙ্ক রিগ্রেশন বা মূল উপাদানগুলির রিগ্রেশন হয়ে যায়।

এই এসএএস ডকুমেন্টেশন পৃষ্ঠায় অনুরূপ বিবৃতি দেওয়া হয়েছে , বিভাগগুলি "হ্রাস র‌্যাঙ্ক রিগ্রেশন" এবং "পদ্ধতির মধ্যে সম্পর্ক"।

আরও মৌলিক ফলোআপ প্রশ্ন হ'ল তাদের অনুরূপ অন্তর্নিহিত সম্ভাব্য মডেল রয়েছে কিনা।

— Minkov
সূত্র

এটি সত্যিই একটি গুরুত্বপূর্ণ সমস্যা।

— স্টিভ

@Steve। ধন্যবাদ। আরও বিস্তারিত পরিচয়ের জন্য উপরের আমার মন্তব্যগুলি দেখুন।

— মিনকভ

এটি তিনটি পৃথক পদ্ধতি এবং এগুলির কোনওটিকেই অন্যের বিশেষ ক্ষেত্রে দেখা যায় না।

আনুষ্ঠানিকভাবে, যদি এবং কেন্দ্রিক ভবিষ্যদ্বাণী ( ) এবং প্রতিক্রিয়া ( ) ডেটাসেট হয় এবং আমরা যদি প্রথম জোড় অক্ষের সন্ধান করি, তবে জন্য এবং জন্য , তবে এই পদ্ধতিগুলি নিম্নলিখিত পরিমাণগুলি সর্বোচ্চ করুন: $\mathbf X$ $\mathbf Y$ $n \times p$ $n\times q$ $\mathbf w \in \mathbb R^p$ $\mathbf X$ $\mathbf v \in \mathbb R^q$ $\mathbf Y$

\begin{aligned} P C A : & Var (X w) \\ R R R : & {Corr}^{2} (X w, Y v) \cdot Var (Y v) \\ P L S : & Var (X w) \cdot {Corr}^{2} (X w, Y v) \cdot Var (Y v) = {Cov}^{2} (X w, Y v) \\ C C A : & {Corr}^{2} (X w, Y v) \end{aligned}

$\begin{align} \mathrm{PCA:}&\quad \operatorname{Var}(\mathbf{Xw}) \\ \mathrm{RRR:}&\quad \phantom{\operatorname{Var}(\mathbf {Xw})\cdot{}}\operatorname{Corr}^2(\mathbf{Xw},\mathbf {Yv})\cdot\operatorname{Var}(\mathbf{Yv}) \\ \mathrm{PLS:}&\quad \operatorname{Var}(\mathbf{Xw})\cdot\operatorname{Corr}^2(\mathbf{Xw},\mathbf {Yv})\cdot\operatorname{Var}(\mathbf {Yv}) = \operatorname{Cov}^2(\mathbf{Xw},\mathbf {Yv})\\ \mathrm{CCA:}&\quad \phantom{\operatorname{Var}(\mathbf {Xw})\cdot {}}\operatorname{Corr}^2(\mathbf {Xw},\mathbf {Yv}) \end{align}$

(আমি এই তালিকায় ক্যানোনিকাল পারস্পরিক সম্পর্ক বিশ্লেষণ (সিসিএ) যুক্ত করেছি))

আমি সন্দেহ করি যে বিভ্রান্তি হতে পারে কারণ এসএএসে তিনটি পদ্ধতিই PROC PLSবিভিন্ন পরামিতিগুলির সাথে একই ফাংশনের মাধ্যমে প্রয়োগ করা হয়েছিল বলে মনে হয় । সুতরাং মনে হতে পারে যে তিনটি পদ্ধতিই পিএলএসের বিশেষ ক্ষেত্রে কারণ এসএএস ফাংশনটির নামকরণ করা হয়। এটি অবশ্য একটি দুর্ভাগ্যজনক নামকরণ। বাস্তবে, পিএলএস, আরআরআর এবং পিসিআর হ'ল তিনটি ভিন্ন পদ্ধতি যা কেবলমাত্র কোনও কারণে এসএএস-এ প্রয়োগ করা হয় যা কোনও কারণে ডাকা হয় PLS।

উভয় টিউটোরিয়াল যা আপনি লিঙ্ক করেছেন সেগুলি সম্পর্কে আসলে খুব স্পষ্ট clear উপস্থাপনা টিউটোরিয়ালের পৃষ্ঠা-এ তিনটি পদ্ধতির উদ্দেশ্য উল্লেখ করা হয়েছে এবং পিএলএস "আরআরআর বা পিসিআর" হয়ে যায় না , আপনি নিজের প্রশ্নে যা দাবি করেছেন তার বিপরীতে। একইভাবে, এসএএস ডকুমেন্টেশন ব্যাখ্যা করে যে সূত্র এবং স্বীকৃতি প্রদান করে তিনটি পদ্ধতি আলাদা:

[পি] মূল উপাদানগুলির রিগ্রেশন এমন কারণগুলি নির্বাচন করে যা যতটা সম্ভব ভবিষ্যদ্বাণীকারী বৈচিত্রকে ব্যাখ্যা করে, হ্রাস র‌্যাংক রিগ্রেশন এমন কারণগুলি নির্বাচন করে যা যথাসম্ভব প্রতিক্রিয়ার বৈচিত্র্য ব্যাখ্যা করে এবং আংশিক ন্যূনতম স্কোয়ার দুটি উদ্দেশ্যকে ভারসাম্যপূর্ণ করে, প্রতিক্রিয়া এবং ভবিষ্যদ্বাণীকারী প্রকরণ উভয়কে ব্যাখ্যা করার কারণগুলির জন্য অনুসন্ধান করে ।

এসএএস ডকুমেন্টেশনে এমন একটি চিত্রও রয়েছে যা খেলনার উদাহরণ দেখায় যেখানে তিনটি পদ্ধতি বিভিন্ন সমাধান দেয়। এই খেলনার উদাহরণে দুটি ভবিষ্যদ্বাণী রয়েছে এবং এবং একটি প্রতিক্রিয়া ভেরিয়েবল । যে দিকটি সাথে সর্বাধিক সম্পর্কযুক্ত তা এর সর্বাধিক পরিবর্তনের দিকের সাথে অরথোগোনাল হয় । সুতরাং পিসি 1 প্রথম আরআরআর অক্ষের সাথে অরথোগোনাল এবং পিএলএস অক্ষের মধ্যে কোথাও রয়েছে। $x_1$ $x_2$ $y$ $X$ $y$ $X$

RRR হ্রাস-র‌্যাঙ্ক রিগ্রেশন বা আরআরআরআর প্রাপ্তির ফাংশনে একটি রিজ পেনাল্টি যুক্ত করতে পারে। এটি পিসি 1 দিকের দিকে রিগ্রেশন অক্ষটি টানবে, পিএলএস যা করছে তার সাথে কিছুটা অনুরূপ। তবে, আরআরআরআরের জন্য ব্যয়ের কাজটি কোনও পিএলএস ফর্মে লেখা যায় না, তাই এগুলি আলাদা থাকে।

$y$

— অ্যামিবা বলছেন মনিকাকে রিইনস্টেট করুন
সূত্র

শেষে টেবিলটি খুব সহায়ক। সেই টেবিলের ভিত্তিতে, আপনি যদি মনে করেন যে সাইকেল এবং ইউনিসাইকেলগুলি ট্রাইসাইকেলের একটি বিশেষ কেস হয় তবে পিসিএ, আরআরআর এবং সিসিএকে পিএলএসের "বিশেষ মামলা" হিসাবে বিবেচনা করতে পারে। আমি সেভাবে ভাবার প্রবণতা করি না।

— এডিএম

@ এডিএম, আমি মনে করি যে কেউ বলতে পারেন যে এই সমস্ত পদ্ধতিগুলি কিছু একত্রীকরণ পদ্ধতির বিশেষ ঘটনা যাগুলির আসলেই নাম নেই (তবে একটি এটি আবিষ্কার করতে পারে!)। তবে "পিএলএস" নামটির ইতিমধ্যে একটি প্রতিষ্ঠিত অর্থ রয়েছে এবং এই অর্থের সাথে এই অন্য কোনও কৌশল অন্তর্ভুক্ত নয়।

— অ্যামিবা

এবং ধন্যবাদ! আমি এখনই জবাবের শুরুতে টেবিলটি সরিয়ে নিয়ে যাওয়ার সিদ্ধান্ত নিয়েছি :)

— অ্যামিবা বলেছেন মনিকাকে পুনরায়

X

$X$

Y

$Y$

V a r (X w)^{α} \cdot C o r r (X w, Y v)^{β} \cdot V a r (Y v)^{γ}

$\mathrm{Var}(Xw)^\alpha\cdot \mathrm{Corr}(Xw,Yv)^\beta\cdot \mathrm{Var}(Yv)^\gamma$

— অ্যামিবা বলছেন মিনিকা

@ মোসকোভিটস: সাধারণভাবে, লোকেরা পদ্ধতি A এর "বি পদ্ধতি" এর একটি "বিশেষ ক্ষেত্রে" হওয়ার কথা বলতে গেলে, তাদের বোঝা যায় যে বি আরও সাধারণ এবং এ কিছু নির্দিষ্ট পরামিতি সহ বি এর সমতুল্য। এগুলির অর্থ এই নয় যে A ডেটাসেটের কিছু বিশেষ শর্তে বি হিসাবে একই ফলাফল দেয়। সুতরাং আপনার প্রশ্নের আমার উত্তর।

— অ্যামিবা বলছেন মনিকা