Hidden Markov Model and Training Algorithms مدل مخفی مارکوف مدل پنهان مارکوف مدل مخفی مارکوف و الگوریتمهای آموزش سیستم همکاری در فروش فایلینا fileina HMM مدل مخفی مارکوف در هوش مصنوعی کاربرد مدل مخفی مارکوف
مدل مخفی مارکوف و بهترین الگوریتمهای آموزش ( نسخه کامل و آپدیت شده )
Hidden Markov Model and Training Algorithms
چکیده:
یکی از مسائلی که در پردازش سیگنال توجهات را به خود معطوف نموده است، مدلسازی سیگنال است. انتخابهای مختلفی برای مدل کردن سیگنال و خصوصیات آن وجود دارد. از یک دیدگاه می توان مدلهای سیگنال را به دو دسته مدلهای معین و مدلهای آماری تقسیم بندی نمود. مدلهای معین عمدتا برخی خواص شناخته شده سیگنال را مورد استفاده قرار می دهند. در این حالت تشکیل مدل سیگنال سرراست است و تنها کافی ست مقادیر پارامترهای مدل تخمین زده شود. در مدلهای آماری سعی در ایجاد مدل با استفاده از خواص آماری سیگنال است.
مدلهای گاوسی، زنجیره مارکوف و مدل مخفی مارکوف از جمله این روشها هستند. فرض اساسی در مدلهای آماری این است که می توان خواص سیگنال را به شکل یک فرآیند تصادفی پارامتری مدل نمود. مدل مخفی مارکوف در اواخر دهه 1960 میلادی معرفی گردید و در حال حاضر به سرعت در حال گسترش دامنه کاربردها می باشد. دو دلیل مهم برای این مساله وجود دارد. اول اینکه این مدل از لحاظ ساختار ریاضی بسیار قدرتمند است و به همین دلیل مبانی نظری بسیاری از کاربردها را شکل داده است. دوم اینکه مدل مخفی مارکوف اگر به صورت مناسبی ایجاد شود می تواند برای کاربردهای بسیاری مورد استفاده قرار گیرد.
کلمات کلیدی:
مدل پنهان مارکوف
Hidden Markov Model
معماری مدل پنهان مارکوف
تشخیص گفتار
تشخیص چهره
فرایند مارکوف گسسته
مدل مخلوط گاوسی
الگوریتم ویتربی
الگوریتم پیشرو
Automatic Speech Recognition
HMM
ASR
مقدمه
مدل پنهان مارکوف (به انگلیسی: Hidden Markov Model) یک مدل مارکوف آماری است که در آن سیستم مدل شده به صورت یک فرایند مارکوف با حالتهای مشاهده نشده (پنهان) فرض میشود. یک مدل پنهان مارکوف میتواند به عنوان سادهترین شبکه بیزی پویا در نظر گرفته شود.
در مدل عادی مارکوف، حالت به طور مستقیم توسط ناظر قابل مشاهدهاست و بنابراین احتمالهای انتقال بین حالتها تنها پارامترهای موجود است. در یک مدل پنهان مارکوف، حالت بهطور مستقیم قابل مشاهده نیست، اما خروجی، بسته به حالت، قابل مشاهدهاست. هر حالت یک توزیع احتمال روی سمبلهای خروجی ممکن دارد. بنابراین دنبالهٔ سمبلهای تولید شده توسط یک مدل پنهان مارکوف اطلاعاتی دربارهٔ دنبالهٔ حالتها میدهد.
توجه داشته باشید که صفت 'پنهان' به دنبالهٔ حالتهایی که مدل از آنها عبور میکند اشاره دارد، نه به پارامترهای مدل؛ حتی اگر پارامترهای مدل بهطور دقیق مشخص باشند، مدل همچنان 'پنهان' است.مدلهای پنهان مارکوف بیشتر بهدلیل کاربردشان در بازشناخت الگو، مانند تشخیص صدا و دستخط، تشخیص اشاره و حرکت، برچسبگذاری اجزای سخن، بیوانفورماتیک و... شناختهشده هستند.
شرح ازنظر مسائل ظرفها
مدل پنهان مارکوف در حالت گسسته جز خانوادهٔ مسائل ظرفها قرار میگیرد. به طور مثال از ربینر ۱۹۸۹: ظروف x1،x2،x3... و توپهای رنگی y1,y2,y3… را در نظر میگیریم، که نفر مقابل دنبالهای از توپها را مشاهده کرده ولی اطلاعی از دنبالهٔ ظرفهایی که توپها از آنها انتخابشده ندارد. ظرف n ام با احتمالی وابسته به ظرف n-1 ام انتخاب میشود و چون به انتخاب ظرفهای خیلی قبلتر وابسته نیست یک فرایند مارکوف است.
فهرست
چکیده:3
کلمات کلیدی:4
شرح ازنظر مسائل ظرفها5
معماری مدل پنهان مارکوف5
شکل 1 :6
زیر معماری کلی یک نمونه HMM6
مسایلی که به کمک مدل پنهان مارکوف حل میشود6
حل مسایل7
Annotation:7
classification:7
Consensus:7
Training7
یادگیری8
یک مثال ملموس8
start_probability = {'Rainy': 0.6, 'Sunny': 0.4}9
شکل 2 :10
کاربردهای مدل پنهان مارکوف11
تشخیص گفتار11
ترجمه ی ماشینی11
پیش بینی ژن11
همتراز کردن توالی11
تشخیص فعالیت11
تاشدگی پروتئین11
تشخیص چهره11
تاریخچه11
انواع مدل پنهان مارکوف11
فرایند مارکوف گسسته12
شکل 3 :12
مرتبه مدل مارکوف13
1- مدل مارکوف مرتبه صفر14
2- مدل مارکوف مرتبه اول14
3- مدل مارکوف مرتبه m ام14
شکل چهار:15
مدل مارکوف مرتبه اول برای مثال 215
شکل 5 :16
خروجی مثال 216
مدل مخفی مارکوف (HMM)16
انواع مدلهای مخفی مارکوف و HMM پیوسته19
مدل مخلوط گاوسی21
فرضیات تئوری مدل مخفی مارکوف22
مساله ارزیابی و الگوریتم پیشرو (forward)24
شکل 6 : مساله ارزیابی و الگوریتم پیشرو25
مساله کد گشایی و الگوریتم ویتربی (Viterbi Algorithm)27
مساله یادگیری28
معیار بیشترین شباهت((Maximum Likelihood (ML)29
الگوریتم بام- ولش29
الگوریتم حداکثر سازی امید ریاضی (Expectation Maximization)31
روش مبتنی بر گرادیان32
استفاده از مدل HMM در شناسایی گفتار33
استفاده از HMM در شناسایی کلمات جداگانه34
آموزش35
شناسایی35
منابع 37