লজিস্টিক রিগ্রেশন এবং পারসেপ্ট্রনগুলির মধ্যে পার্থক্য

Question

যেমনটি আমি বুঝতে পেরেছি, লজিস্টিক সিগময়েড অ্যাক্টিভেশন ফাংশন সহ একটি পার্সেপট্রন / সিঙ্গল-লেয়ার কৃত্রিম নিউরাল নেটওয়ার্ক লজিস্টিক রিগ্রেশন হিসাবে একই মডেল। উভয় মডেল সমীকরণ দ্বারা দেওয়া হয়:

$F(x) = \frac{1}{1-e^{-\beta X}}$

পার্সেপেট্রন লার্নিং অ্যালগরিদমটি অনলাইনে এবং ত্রুটি-চালিত, যেখানে লজিস্টিক রিগ্রেশনের প্যারামিটারগুলি গ্রেডিয়েন্ট বংশোদ্ভূত এবং লিমিটেড-মেমরি বিএফজিএস বা স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত একটি অনলাইন অ্যালগরিদম সহ বিভিন্ন ব্যাচের অ্যালগরিদম ব্যবহার করে শিখতে পারে। লজিস্টিক রিগ্রেশন এবং সিগময়েড পারসেপ্ট্রনের মধ্যে অন্য কোনও পার্থক্য রয়েছে কি? স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত প্রশিক্ষণ প্রাপ্ত একটি লজিস্টিক রেজিস্ট্রারের ফলাফলগুলি কি পারসেপট্রনের অনুরূপ বলে আশা করা উচিত?

Comments

দেখে মনে হচ্ছে এই প্রশ্নটি অনুরূপ, এবং এটিতে আরও ভাল প্রতিক্রিয়া রয়েছে বলে মনে হয় :)

— রাল্ফ টিগৌমো

Answer 1

আপনি ইতিমধ্যে গুরুত্বপূর্ণ পার্থক্য উল্লেখ করেছেন। সুতরাং ফলাফল যে খুব বেশি পৃথক করা উচিত নয়।

Comments

এটি প্রশ্নের উত্তর সরবরাহ করে না। কোনও লেখকের কাছ থেকে সমালোচনা বা স্পষ্টতার জন্য অনুরোধ জানাতে, তাদের পোস্টের নীচে একটি মন্তব্য দিন।

— শি'আন

আসলে আমি উভয় প্রশ্নের উত্তর দেওয়ার চেষ্টা করেছি: 1) "লজিস্টিক রিগ্রেশন এবং সিগময়েড পারসেপ্ট্রনের মধ্যে অন্য কোনও পার্থক্য রয়েছে কি?" এবং 2) "স্টোকাস্টিক গ্রেডিয়েন্ট বংশোদ্ভূত প্রশিক্ষণ প্রাপ্ত একটি লজিস্টিক রেজিস্ট্রারের ফলাফলগুলি কি পারসেপট্রনের অনুরূপ বলে আশা করা উচিত?"

— মাইকেল ডোনার

এটি একটি যুক্তিসঙ্গত অবস্থান, @ মিশেলডোরনার। আপনার উত্তরটি আরও পরিষ্কার করার জন্য কি আপনি কিছুটা বাড়িয়ে দেবেন?

— গুং - মনিকা পুনরায়

Answer 2

আমি বিশ্বাস করি যে একটি পার্থক্য যা আপনি হারিয়েছেন তা হ'ল লজিস্টিক রিগ্রেশন মূলত শ্রেণিবিন্যাসের সম্ভাবনা ফিরিয়ে দেয় যেখানে পার্সেপ্রেটাররা কঠোর সীমারেখার সাথে শ্রেণিবদ্ধ হয়।

মাল্টিনোমিয়াল লজিস্টিক রিগ্রেশন সম্পর্কিত উইকির নিবন্ধে এটি উল্লেখ করা হয়েছে ।

Answer 3

আসলে একটি বড় যথেষ্ট পার্থক্য রয়েছে, যা আপনার উল্লেখ প্রযুক্তিগত পার্থক্যের সাথে সম্পর্কিত। লজিস্টিক রিগ্রেশন মডেলগুলি রৈখিক সমীকরণ হিসাবে বার্নোল্লি বিতরণের গড়ের একটি ফাংশন (যার অর্থ একটি বার্নোল্লি ইভেন্টের সম্ভাব্য পি এর সমান ) models লগইট লিঙ্কটি গড়ের ফাংশন হিসাবে ব্যবহার করে ( পি ) এর , প্রতিকূলতার (লগ-প্রতিক্রিয়া) লগারিদমকে বিশ্লেষণাত্মকভাবে উত্পন্ন করা যায় এবং তথাকথিত সাধারণীকরণীয় লিনিয়ার মডেলের প্রতিক্রিয়া হিসাবে ব্যবহার করা যেতে পারে। এই জিএলএম-এর পরামিতি অনুমানের পরে একটি পরিসংখ্যান প্রক্রিয়া যা মডেল পরামিতিগুলির জন্য পি-মান এবং আত্মবিশ্বাসের অন্তর দেয়। পূর্বাভাসের শীর্ষে, এটি আপনাকে কার্যকারিতা অনুসারে মডেলটি ব্যাখ্যা করতে দেয়। এটি এমন কিছু যা আপনি লিনিয়ার পারসেপ্ট্রন দিয়ে অর্জন করতে পারবেন না।

Perceptron লজিস্টিক রিগ্রেশন একটি রিভার্স ইঞ্জিনিয়ারিং প্রক্রিয়া: y এর logit গ্রহণের পরিবর্তে, এটা বিপরীত logit (লজিস্টিক) এর ফাংশন লাগে wx , এবং কেউই মডেল না এর প্যারামিটার প্রাক্কলন জন্য সম্ভাব্য অনুমানের ব্যবহার করে না। অনলাইন প্রশিক্ষণ আপনাকে মডেল ওজন / পরামিতিগুলির জন্য ঠিক একই অনুমান দেবে, তবে পি-ভ্যালু, আত্মবিশ্বাসের ব্যবধান এবং ভাল কোনও অন্তর্নিহিত সম্ভাব্যতা মডেলের অভাবের কারণে আপনি কার্যকারিতা অনুসারে তাদের ব্যাখ্যা করতে সক্ষম হবেন না।

দীর্ঘ গল্প সংক্ষেপে, লজিস্টিক রিগ্রেশন হ'ল একটি জিএলএম যা পূর্বাভাস এবং অনুমান করতে পারে, যেখানে লিনিয়ার পারসেপ্ট্রন কেবলমাত্র পূর্বাভাস অর্জন করতে পারে (এই ক্ষেত্রে এটি লজিস্টিক রিগ্রেশন হিসাবে একই রকম সম্পাদন করবে)। উভয়ের মধ্যে পার্থক্য হ'ল পরিসংখ্যানগত মডেলিং এবং মেশিন লার্নিংয়ের মধ্যে মৌলিক পার্থক্য।