গাউসিয়ান উপকারের প্রক্রিয়া করে

13

গাউসিয়া প্রক্রিয়াগুলির সুবিধার সাথে আমার এই বিভ্রান্তি আছে। আমি এর অর্থ তুলনা করা সহজ লিনিয়ার রিগ্রেশন, যেখানে আমরা সংজ্ঞায়িত করেছি যে লিনিয়ার ফাংশন ডেটা মডেল করে।

যাইহোক, গাউসিয়ান প্রক্রিয়াগুলিতে আমরা ফাংশনগুলির বিতরণকে সংজ্ঞায়িত করি এর অর্থ আমরা ফাংশনটি রৈখিক হওয়া উচিত তা নির্দিষ্টভাবে নির্দিষ্ট করি না। আমরা ফাংশনটির উপরে একটি পূর্ব নির্ধারণ করতে পারি যা গাউসিয়ান পূর্ব যা বৈশিষ্ট্যগুলি সংজ্ঞায়িত করে যে ফাংশনটি কতটা মসৃণ হওয়া উচিত এবং সমস্ত।

সুতরাং আমাদের কীভাবে মডেলটি হওয়া উচিত তা স্পষ্টভাবে সংজ্ঞায়িত করতে হবে না। তবে আমার প্রশ্ন আছে। আমাদের প্রান্তিক সম্ভাবনা আছে এবং এটি ব্যবহার করে আমরা গাউসিয়ানদের পূর্বেকার সম্প্রদায়ের ফাংশন পরামিতিগুলি টিউন করতে পারি। সুতরাং এটি ফাংশনের ধরণটি সংজ্ঞা দেওয়ার মতো যা এটি হওয়া উচিত।

এটি জিপি-তে হাইপারপ্যারামিটার হলেও পরামিতিগুলি নির্ধারণ করে একই জিনিসটিতে এটি ফুটে যায়। যেমন এই কাগজে । তারা সংজ্ঞায়িত করেছেন যে জিপি-র গড় কার্যকারিতাটি কিছু একটা

m (x) = a x^{2} + b x + c i.e. a second order polynomial.

$m(x) = ax ^2 + bx + c \quad \text{i.e. a second order polynomial.}$

সুতরাং অবশ্যই মডেল / ফাংশন সংজ্ঞায়িত করা হয় না। সুতরাং এলআর মত লিনিয়ার হতে ফাংশন সংজ্ঞায়িত মধ্যে পার্থক্য কি।

জিপি ব্যবহারের সুবিধা কী তা আমি পেয়েছি মাত্র

gaussian-process

— user34790
সূত্র

7

আসুন গাউসিয়ান প্রক্রিয়া রিগ্রেশন সম্পর্কে কিছু সূত্র স্মরণ করি। মনে করুন যে আমাদের কাছে একটি নমুনা । এই নমুনার জন্য লগলিস্টিলিটিটির ফর্ম রয়েছে: $D = (X,\mathbf{y}) = \{(\mathbf{x}_i, y_i)\}_{i = 1}^N$ যেখানে নমুনা সহভেদাংক ম্যাট্রিক্স হয়। সেখানেপরামিতি আমরা সুর loglikelihood বৃহদায়ন ব্যবহার করে একটি সহভেদাংক ফাংশন। ভবিষ্যদ্বাণী (অবর গড়) জন্য একটি নতুন বিন্দুফর্ম

এল = - \frac{1}{2} (লগ | কে | + + Y^{টি} {কে}^{- 1} Y),

$L = -\frac12 \left( \log |K| + \mathbf{y}^T K^{-1} \mathbf{y}\right),$

K = {k (x_{i}, x_{j})}_{i, j = 1}^{N}

$K = \{k(\mathbf{x}_i, \mathbf{x}_j)\}_{i, j = 1}^N$

k (x_{i}, x_{j})

$k(\mathbf{x}_i, \mathbf{x}_j)$

x

$\mathbf{x}$

সেখানে

নতুন পয়েন্ট এবং নমুনা বিন্দুর মধ্যে covariances একটি বাহক।

\hat{Y} (এক্স) = ট {কে}^{- 1} Y,

$\hat{y}(\mathbf{x}) = \mathbf{k} K^{-1} \mathbf{y},$

k = {k (x, x_{i})}_{i = 1}^{N}

$\mathbf{k} = \{k(\mathbf{x}, \mathbf{x}_i)\}_{i = 1}^N$

এখন নোট করুন যে গাউসিয়ান প্রক্রিয়াগুলি রিগ্রেশন সঠিক লিনিয়ার মডেলগুলিকে মডেল করতে পারে। ধরুন যে covariance ফাংশনে ফর্ম রয়েছে । এই ক্ষেত্রে ভবিষ্যদ্বাণী ইন ফর্ম আছে $k(\mathbf{x}_i, \mathbf{x}_j) = \mathbf{x}_i^T \mathbf{x}_j$

\hat{Y} (এক্স) = {এক্স}^{টি} {এক্স}^{টি} (এক্স {এক্স}^{টি})^{- 1} Y = {এক্স}^{টি} ({এক্স}^{টি} এক্স)^{- 1} {এক্স}^{টি} Y ।

$\hat{y}(\mathbf{x}) = \mathbf{x}^T X^T (X X^T)^{-1} \mathbf{y} = \mathbf{x}^T (X^T X)^{-1} X^T \mathbf{y}.$ পরিচয়টি ক্ষেত্রে সত্য

ননসিংগার যা ক্ষেত্রে নয়, তবে আমরা কোভেরিয়েন্স ম্যাট্রিক্সকে নিয়মিতকরণ ব্যবহার করার ক্ষেত্রে এটি কোনও সমস্যা নয়। সুতরাং, সবচেয়ে স্বল্পতম দিকটি লিনিয়ার রিগ্রেশনটির সঠিক সূত্র এবং আমরা যথাযথ কোভারিয়েন্স ফাংশনটি ব্যবহার করে গাউসিয়ান প্রক্রিয়াগুলির সাথে লিনিয়ার রিগ্রেশন করতে পারি।

(X X^{T})^{- 1}

$(X X^T)^{-1}$

$\exp \left( -(\mathbf{x}_i - \mathbf{x}_j)^T A^{-1} (\mathbf{x}_i - \mathbf{x}_j) \right)$ $A$

এখানে চিত্র বর্ণনা লিখুন ।

সুতরাং, সুবিধাটি হ'ল আমরা একটি উপযুক্ত কোভেরিয়েন্স ফাংশন ব্যবহার করে ননলাইনার ফাংশনগুলিকে মডেল করতে পারি (বেশিরভাগ ক্ষেত্রে স্কোয়ার্ড এক্সফেনশিয়াল কোভারিয়েন্স ফাংশন বরং একটি ভাল পছন্দ)) অরৈখিকতার উত্স হ'ল আপনার উল্লিখিত ট্রেন্ড উপাদান নয়, তবে সমবায় কার্যকারিতা।

— আলেক্সি জায়টসেভ
সূত্র

3

আমি বলব এটি জিপি এর কেবলমাত্র একটি সুবিধা যা অন্যান্য কার্নেল পদ্ধতির সাথেও ভাগ করা হয়। সম্ভাবনাময় হওয়া এবং বায়েশিয়ান কাঠামো থেকে আসা জিপির আরও একটি সুবিধা।

— শেদা

2

$x$ $f$ $f(x)$

$max$ $f$ $x$ $f$ $\mu$ $\Sigma$ (অনিশ্চয়তা), উদাহরণস্বরূপ অনুমোদিত ব্যয়বহুল ব্ল্যাক-বক্স ফাংশনগুলি অনুকূল করে তোলা।

— টমাসজ বার্টকোইয়াক
সূত্র