একাধিক আউটপুট রিগ্রেশন জন্য নিউরাল নেটওয়ার্ক

14

আমার 34 টি ইনপুট কলাম এবং 8 আউটপুট কলাম সমেত একটি ডেটাসেট রয়েছে। সমস্যাটি সমাধান করার একটি উপায় হ'ল 34 আউটপুট নেওয়া এবং প্রতিটি আউটপুট কলামের জন্য স্বতন্ত্র রিগ্রেশন মডেল তৈরি করা। আমি ভাবছি বিশেষত নিউরাল নেটওয়ার্ক ব্যবহার করে কেবলমাত্র একটি মডেল ব্যবহার করে এই সমস্যাটি সমাধান করা যেতে পারে।

আমি একটি মাল্টিলেয়ার পার্সেপট্রন ব্যবহার করেছি, তবে এর জন্য লিনিয়ার রিগ্রেশন এর মতো একাধিক মডেল প্রয়োজন। সিকোয়েন্স ¹ সিকোয়েন্স ক্রম একটি কার্যকর বিকল্প হতে পারে? আমি টেনসরফ্লো ব্যবহার করে চেষ্টা করেছি এটি ভাসমান মানগুলি হ্যান্ডেল করতে সক্ষম হবে বলে মনে হয় না।

নিউরাল নেটওয়ার্ক ব্যবহার করে বিশেষত একটি ইউনিফর্ম মডেল ব্যবহার করে এই সমস্যাটি মোকাবেলায় যে কোনও পরামর্শ প্রশংসিত হবে appreciated

ইলিয়া সুটস্কিভার, ওরিওল ভিনিয়ালস, এবং কোওক ভি। লে (2014)। নিউরাল নেটওয়ার্কগুলির সাথে সিকোয়েন্স টু সিকোয়েন্স শিখতে। নিউরাল ইনফরমেশন প্রসেসিং সিস্টেমগুলিতে অগ্রগতি , ২.. ( পিডিএফ )

neural-networks deep-learning multivariate-regression

— sjishan
সূত্র

কি সমস্যা?

— টেগ

2

(যে কোন সম্ভাব্য ঘনিষ্ঠ ভোটারদের এই একটি প্রোগ্রামিং প্রশ্ন না হয় এটা বিষয় বন্ধ হবে। স্ট্যাক ওভারফ্লো ।)

— gung - পুনর্বহাল মনিকা

আপনি কি এখানে "সিকোয়েন্স টু সিক্যুয়েন্স" বিকল্পটি পরিষ্কার করতে পারেন? আমি জানি না যে ডাব্লু / এনএন কাজ করে এমন লোকদের কাছে এটি পরিচিত হবে কিনা, তবে এটি আমার কাছে নয়।

— গুং - মনিকা পুনরায়

আরএনএন ব্যবহার করে সিকোয়েন্স মডেলিংয়ের সিকোয়েন্স। কাগজ.ইন.পিস.সি.

— পেপার

আপনি মাল্টিআউটপুটআগ্রিজার () চেষ্টা করতে পারেন। এটি এই ধরণের সমস্যার জন্য কাজ করে

— সুবহম সরকার

7

একাধিক ফলাফল সহ একটি নিউরাল নেট যদি আপনার ফলাফলের মাত্রা থাকে , তবে এর মাত্রা থাকবে ।

Y = γ + V_{1} Γ_{1} + ϵ V_{1} = a (γ_{2} + V_{2} Γ_{2}) V_{2} = a (γ_{3} + V_{3} Γ_{3}) ⋮ V_{L - 1} = a (γ_{L} + X Γ_{L})

$\mathbf{Y} = \mathbf{\gamma} + \mathbf{V}_1\Gamma_1 + \epsilon\\ \mathbf{V}_1 = a\left(\gamma_2 +\mathbf{V}_2\Gamma_2\right)\\ \mathbf{V}_2 = a\left(\gamma_3 +\mathbf{V}_3\Gamma_3\right)\\ \vdots \\ \mathbf{V}_{L-1} = a\left(\gamma_L+ \mathbf{X}\Gamma_L\right)\\$

N \times 8

$N\times 8$

[γ_{1}, Γ_{1}]

$[\gamma_1, \Gamma_1]$

(p_{V 1} + 1) \times 8

$(p_{V1}+1) \times 8$

যা বলে তা আপনি ধরে নিচ্ছেন যে প্রতিটি ফলাফল গোপন স্তরগুলির সমস্ত পরামিতি ভাগ করে, এবং কেবলমাত্র উপরের উত্স থেকে প্রাপ্ত ভেরিয়েবলটি গ্রহণ এবং ফলাফলের সাথে সম্পর্কিত সম্পর্কিত বিভিন্ন পরামিতি রয়েছে।

আপনার প্রসঙ্গে এটি কি বাস্তবিক অনুমান?

— generic_user
সূত্র

5

প্রথমে আমি ভেবেছিলাম জেনেরিক_উজারের মন্তব্যটি শো-স্টপার, তবে আমি কেবল বুঝতে পেরেছিলাম যে এটি নয়:

আমি যদি ডি বিভিন্ন আউটপুটগুলিতে ডি বিভিন্ন নেটওয়ার্কগুলিকে প্রশিক্ষণ দিই , তবে প্রত্যেকে একে অপরের প্রতি শ্রদ্ধা না রেখে সেই মাত্রায় ফিট হয়ে যাবে।

তবে আমি যদি ডি আউটপুটগুলির সাথে একটি নেটওয়ার্ককে প্রশিক্ষিত করি এবং ব্যাকপ্রসারণের জন্য সমস্ত আউটপুট ব্যবহার করি, তবে নেটওয়ার্কের প্রতিটি স্তরের প্রতিটি ওজন সামঞ্জস্য করা হবে যাতে সমস্ত ডি আউটপুট আরও নির্ভুল হয়।

এটি হ'ল: প্রতিটি নেটওয়ার্ক প্যারামিটার গ্রেডিয়েন্টের সমষ্টি ( এই প্যারামিটারের " উইগল " দিয়ে প্রতিটি আউটপুট কীভাবে পরিবর্তিত হয় ) দ্বারা সামঞ্জস্য করা হবে যেমন নির্বাচিত বা ডাউন দিকটিতে এটি সামঞ্জস্য করা সামগ্রিকভাবে আরও সঠিক আউটপুট তৈরি করে - এমনকি যদি সামঞ্জস্য করা হয় ওজন যেভাবে আউটপুট এর কিছু মাত্রা কম সঠিক হতে পারে।

সুতরাং, হ্যাঁ, চূড়ান্তভাবে প্রতিটি আউটপুটকে পৃথক করে রাখার জিনিসটি হ'ল একটি লেয়ার সমীকরণ যা সর্বশেষ স্তরটিতে এনকোড করা হয় তবে প্রশিক্ষণের ক্ষেত্রে প্রতিটি স্তর একটি মাল্টি-আউটপুট নেটওয়ার্কের সাথে শেষ স্তরটি এমন কিছু দিয়ে উপস্থাপন করতে আরও ভাল হয়ে যায় যা এটি আরও ভালভাবে তার কাজ করতে দেয় allows । এবং সুতরাং এটি অনুসরণ করে যে আউটপুটগুলির মধ্যে সম্পর্কের জন্য এই আর্কিটেকচারটি বিবেচিত হবে।

আপনার আর্কিটেকচারটি আউটপুটে যে কোনও পরিচিত সম্পর্কের প্রতিচ্ছবি তৈরি করে আপনি পুরোপুরি সংযুক্ত নেট থেকে আরও ভাল করতে সক্ষম হতে পারেন, যেমন গভীর নেটওয়ার্কগুলি ইনপুটগুলির মধ্যে "কম্পোজিশনাল" সম্পর্কগুলি কাজে লাগিয়ে অগভীরের চেয়ে আরও ভাল করে ।

— পাভেল কোমারভ
সূত্র

একটি মাল্টিভারিয়েট রিগ্রেশন ধরে নিয়েছে যে কিছু (অজানা) কোভারিয়েন্স ম্যাট্রিক্স রয়েছে যা একে অপরের সাথে লক্ষ্য পরিবর্তনশীল সম্পর্কিত। আপনি কি পরামর্শ দিচ্ছেন যে গোপন স্তর (স্পেস) সহ স্পষ্টভাবে প্রয়োজন ছাড়াই কেবল একটি ঘন স্তর থাকা এই সম্প্রচারকে ক্যাপচার করার জন্য যথেষ্ট?

— thecity2

আমি পরামর্শ দিচ্ছি যে লুকানো স্তরগুলি অবশ্যই সেই কিছু সম্প্রচারকে ক্যাপচার করবে। একা এক ঘন আউটপুট স্তরটি সমান্তরাল লিনিয়ার-রেজিস্ট্রার-মাধ্যমে-অ্যাক্টিভেশন-ফাংশনগুলির একগুচ্ছ। যখন আউটপুটগুলির মধ্যে পারস্পরিক টিউন করার জন্য কোনও লুকানো স্তর না থাকে এবং অন্য আউটপুট নোডগুলিতে ইনপুট হিসাবে পাস / ইনপুট হিসাবে গ্রহণ করা হয় তখন কোনও ফলাফল স্থাপন করা যায় না No

— পাভেল কমারভ

0

আপনি এটি কেবলমাত্র একটি নিউরাল নেটওয়ার্ক দিয়ে করতে পারেন। তবে আপনার নিউরাল নেটওয়ার্কটি দেখতে এমন হওয়া উচিত:
ইনপুট স্তর: 34 নোড (আপনার প্রতিটি ইনপুট কলামে)
আউটপুট স্তর: 8 নোড (আপনার আউটপুট কলামের জন্য একটি)

আপনি নিউরাল নেটওয়ার্কে যতগুলি চান এবং যতগুলি লুকানো স্তরগুলি যুক্ত করতে পারেন। সুতরাং নিউরাল নেটওয়ার্ক 8 পূর্বাভাসিত মানগুলিকে আউটপুট দেয় এবং প্রতিটি মান ইনপুটগুলির একটি আলাদা রিগ্রেশন হবে।

— ভাগ্যেশ বিকানী
সূত্র

কোন ভাষার কোন প্যাকেজ তাই সমর্থন করে ??

— অর্পিত সিসোদিয়া

0

আমি একই হতাশ ছিল; এখানে আমার ধারণা:

আমি মনে করি যে যদি ফলাফলগুলি কিছু গোপন নিদর্শন ভাগ করে দেয় তবে প্রশিক্ষণ একই সাথে সমস্ত আউটপুটগুলির জন্য রিগ্রেশন শিখলে উপকৃত হতে পারে।

কোনও আর্কিটেকচার চেষ্টা করা আকর্ষণীয় হবে যেখানে আপনি প্রতিটি আউটপুটের জন্য নিউরাল নেটওয়ার্ক তৈরি করেন তবে সমস্ত নিউরাল নেটওয়ার্ক কিছু স্তর ভাগ করে (উদাহরণস্বরূপ প্রথমার্ধে প্রথম স্তর)। তারপরে আপনি একই সাথে প্রতিটি নিউরাল নেটওয়ার্ককে প্রশিক্ষণ দিতে পারতেন: লার্নিং লুপের অভ্যন্তরে প্রতিটি স্নায়বিক নেটওয়ার্ক ক্রমান্বয়ে এক ধাপ (এক ব্যাচ সহ) প্রশিক্ষিত হয়।

এটি জ্ঞান স্থানান্তরের অনুরূপ, তবে এই পার্থক্যের সাথে যে জ্ঞান স্থানান্তরের ক্ষেত্রে প্রতিটি নিউরাল নেটওয়ার্ক অন্য কোনও নিউরাল নেটওয়ার্ককে প্রশিক্ষণের জন্য এর কিছু অংশ পুনরায় ব্যবহার করার আগে পুরোপুরি প্রশিক্ষিত হয়।

আমি বাজি ধরেছি যে এর আগে কেউ এই সম্পর্কে ভেবেছিল, তবে আমার এর কোনও উল্লেখ নেই।

— লে গনজালেজ
সূত্র