'ট্রান্সফার লার্নিং' এবং 'ডোমেন অ্যাডাপ্টেশন' এর মধ্যে পার্থক্য কী?

Question

'ট্রান্সফার লার্নিং' এবং 'ডোমেন অ্যাডাপ্টেশন' এর মধ্যে কি কোনও পার্থক্য রয়েছে?

আমি প্রসঙ্গটি সম্পর্কে জানি না, তবে আমার বোধগম্যতা হ'ল আমাদের কিছু ডেটাसेट 1 রয়েছে এবং এটিতে প্রশিক্ষণ দেওয়া হবে, তার পরে আমাদের আরও একটি ডেটাसेट 2 রয়েছে যার জন্য আমরা স্ক্র্যাচ থেকে পুনরায় প্রশিক্ষণ না নিয়েই আমাদের মডেলটি খাপ খাইয়ে নিতে চাই, যার জন্য 'ট্রান্সফার লার্নিং' এবং 'ডোমেন অভিযোজন' এই সমস্যাটি সমাধান করতে সহায়তা করে।

কনভলিউশনাল নিউরাল নেটওয়ার্কের ক্ষেত্র অনুসারে:

• 'ট্রান্সফার লার্নিং' দ্বারা আমার অর্থ 'ফাইনেটুনিং' [1]

• এই ক্ষেত্রে [2] এটা তত্ত্বাবধান ছাড়াই, কিন্তু ডোমেন অভিযোজন 'সবসময় তত্ত্বাবধান ছাড়াই হওয়া উচিত?

Comments

পান এট দ্বারা স্থানান্তর লার্নিং সম্পর্কিত একটি সমীক্ষা । আল, ২০০৯ কিছুটা অন্তর্দৃষ্টি দেয়। তারা এক ধরণের স্থানান্তর শিক্ষার হিসাবে ডোমেন অভিযোজনকে শ্রেণিবদ্ধ করে।

— কেদার্পস

Answer 1

দেখে মনে হচ্ছে যে 'ট্রান্সফার লার্নিং' এবং 'ডোমেন অ্যাডাপ্টেশন' এর মধ্যে পার্থক্য কী তা নিয়ে গবেষকদের মধ্যে কিছু মতবিরোধ রয়েছে।

{0} থেকে:

স্থানান্তর শিক্ষার সাথে ডোমেন অভিযোজনের ধারণাটি নিবিড়ভাবে সম্পর্কিত। ট্রান্সফার লার্নিং একটি সাধারণ শব্দ যা মেশিন লার্নিংয়ের একটি শ্রেণির বোঝায় যা বিভিন্ন কাজ বা ডোমেনগুলিকে জড়িত। সাহিত্যে, স্থানান্তর শেখার এখনও কোনও মানক সংজ্ঞা নেই। কিছু কাগজে এটি ডোমেন অভিযোজনের সাথে বিনিময়যোগ্য change

{1} থেকে:

---

তথ্যসূত্র:

• {0} লি, কিউ। "সাহিত্যের সমীক্ষা: প্রাকৃতিক ভাষা প্রক্রিয়াকরণের জন্য ডোমেন অভিযোজন অ্যালগরিদম।" কম্পিউটার বিজ্ঞান বিভাগ স্নাতক কেন্দ্র, নিউ ইয়র্ক সিটি ইউনিভার্সিটি (২০১২): ৮-১০। https://scholar.google.com/scholar?cluster=2828982016930721315&hl=en&as_sdt=0,22 ; https://pdfs.semanticscholar.org/532e/3d5b1b5807771b77cac60fe8594b506fcff9.pdf ; http://nlp.cs.rpi.edu/paper/qisurvey.pdf ( আয়না )

• {1} প্যান, সিনো জিয়ালিন এবং কিয়াং ইয়াং। "ট্রান্সফার শেখার বিষয়ে একটি সমীক্ষা" " আইইইইই লেনদেন জ্ঞান এবং ডেটা ইঞ্জিনিয়ারিং 22, নং। 10 (2010): 1345-1359। https://scholar.google.com/scholar?cluster=17771403852323252519&hl=en&as_sdt=0,22 ; http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.158.4126&rep=rep1&type=pdf ( আয়না ) (২.6 কে উদ্ধৃতি)

Answer 2

হাল দাউমের নিবন্ধ [1] থেকে:

The standard classification setting is a input distribution p(X) and a label distribution p(Y|X). Domain adaptation: when p(X) changes between training and test. Transfer learning: when p(Y|X) changes between training and test.

In other words, in DA the input distribution changes but the labels remain the same; in TL, the input distributions stays the same, but the labels change.

1. https://nlpers.blogspot.com/2007/11/domain-adaptation-vs-transfer-learning.html ( আয়না )

Comments

ক্রস যাচাইয়ে স্বাগতম ! আমাদের ট্যুরটি দেখার জন্য দয়া করে কিছুক্ষণ সময় নিন । এটি অগ্রাধিকার দেওয়া হয় যে উত্তরগুলি যথাযথ উদ্ধৃতি সহ স্ব-অন্তর্ভুক্ত। আপনি যদি আরও পড়ার জন্য লিঙ্কটি দিয়ে প্রশ্নের যুক্তিসঙ্গত উত্তর সরবরাহ করতে আপনার লিঙ্ক থেকে তথ্যটি ব্যবহার করেন তবে এটি অনেক উন্নত উত্তর হবে।

— ট্যাভ্রোক

I don't believe this explanation. I don't believe HAL here. What if both $p(Y|X)$ and $p(X)$ change at the same time?

— caveman

I agree with @caveman. For many transfer learning scenarios that's the case.

— pir

Answer 3

Throughout the literature on transfer learning, there is a number of terminology inconsistencies. Phrases such as transfer learning and domain adaptation are used to refer to similar processes. Domain adaptation is the process of adapting one or more source domains for the means of transferring information to improve the performance of a target learner. The domain adaptation process attempts to alter a source domain in an attempt to bring the distribution of the source closer to that of the target. In the Domain Adaptation setting the source and target domains have different marginal distributions p(X). According to Pan's survey, Transfer Learning is a broader term that can also include the case when there is a difference in the conditional distributions p(Y|X) of the source and target domains. In contrast, Daume discriminates the two terms [1], referring that Domain Adaptation is when p(X) changes between source and target and Transfer learning is when p(Y|X) changes between source and target domains.

1. https://nlpers.blogspot.com/2007/11/domain-adaptation-vs-transfer-learning.html

Comments

Would it be possible to add a citation for "Pan's survey"? I think it would make this answer more useful to future readers.

— Silverfish

Pan, Sinno Jialin, and Qiang Yang. "A survey on transfer learning." IEEE Transactions on knowledge and data engineering 22, no. 10 (2010): 1345-1359. scholar.google.com/… ; citeseerx.ist.psu.edu/viewdoc/…

— Christos Karatsalos

Answer 4

I think that "Transfer Learning" is a more general term, and "Domain Adaptation" is a scenario of "Transfer Learning".

[1] Transferable Attention for Domain Adaptation. http://ise.thss.tsinghua.edu.cn/~mlong/doc/transferable-attention-aaai19.pdf

Answer 5

According to [1], domain adaptation is the transfer learning in NLP: "Transfer learning in the NLP domain is sometimes referred to as domain adaptation."

[1] Pan, S. J., and Q. Yang. “A Survey on Transfer Learning.” IEEE Transactions on Knowledge and Data Engineering 22, no. 10 (October 2010): 1345–59. https://doi.org/10.1109/TKDE.2009.191 or https://www.cse.ust.hk/~qyang/Docs/2009/tkde_transfer_learning.pdf