দিন i এবং jএকটি মার্কভ চেইন দুটি স্বতন্ত্র রাষ্ট্র হতে। প্রক্রিয়াটি রাষ্ট্র থেকে যাওয়ার জন্য যদি কিছু ইতিবাচক সম্ভাবনা থাকেi রাষ্ট্র j, পদক্ষেপের সংখ্যা যাই হোক না কেন (1, 2, 3 বলুন)⋯), তারপরে আমরা সেই রাষ্ট্রটি বলি j রাষ্ট্র থেকে অ্যাক্সেসযোগ্য i।
উল্লেখযোগ্যভাবে, আমরা এটি হিসাবে প্রকাশ করি i→j। সম্ভাবনার শর্তাবলী, এটি নিম্নলিখিত হিসাবে প্রকাশ করা হয়: একটি রাষ্ট্রj রাষ্ট্র থেকে অ্যাক্সেসযোগ্য i, যদি কোনও পূর্ণসংখ্যা থাকে m>0 যেমন যে p(m)ij>0।
একইভাবে, আমরা এটি বলি যে, j→i, যদি কোনও পূর্ণসংখ্যা থাকে n>0 যেমন যে p(n)ji>0।
এখন, যদি উভয় i→j এবং j→i সত্য, তারপরে আমরা বলি যে রাজ্যগুলি i এবং j একে অপরের সাথে যোগাযোগ করুন, এবং উল্লেখযোগ্যভাবে হিসাবে প্রকাশ করা হয় i↔j। সম্ভাবনার শর্তে, এর অর্থ এই যে, দুটি পূর্ণসংখ্যা রয়েছেm>0,n>0 যেমন যে p(m)ij>0 এবং p(n)ji>0।
মার্কভ চেইনের সমস্ত রাজ্য যদি একটি বন্ধ যোগাযোগের শ্রেণীর অন্তর্ভুক্ত হয় , তবে এই শৃঙ্খলাটিকে অপ্রতিয়োগযোগ্য মার্কভ চেইন বলা হয় । অদম্যতা চেইনের একটি সম্পত্তি property
অপ্রত্যাশিত মার্কভ চেইনে প্রক্রিয়াটি যে কোনও রাজ্য থেকে যে কোনও রাজ্যে যেতে পারে, যত ধাপে এটি প্রয়োজন হয়।