MRF-Chat: Improving Dialogue with Markov Random Fields

تتضمن الأساليب الحديثة الحديثة في حوار المجال المفتوح نماذج التعليم العميق في نهاية إلى نهج لتعلم العديد من ميزات المحادثة مثل المحتوى العاطفي للاستجابة، والانتقال الرمز الرمزي سياقات الحوار في الرسم البياني المعرفي وشخصية الوكيل والمستخدم، من بين آخرين. في حين أن النماذج العصبية قد أظهرت نتائج معقولة، فإن نمذجة العمليات المعرفية التي يستخدمها البشر عند التحدث مع بعضهم البعض تحسين جودة الوكيل للردود. يتمثل عنصر رئيسي في المحادثة الطبيعية في تكييف استجابة المرء بحيث يمثل المفاهيم التي يجوز لها السماعة والمستمع بها أو قد لا يعرفها وأهمية السياق لجميع المفاهيم السابقة المستخدمة في المحادثة. نظرا لأن تمثيل غني ونمذجة صريحة لهذه العمليات النفسية يمكن أن تحسن التنبؤات التي قدمتها نماذج الشبكة العصبية الحالية. في هذا العمل، نقترح نهجا احتمالا جديدا باستخدام حقول Markov العشوائية (MRF) لزيادة طرق التعلم العميق الموجودة لتحسين التنبؤ القادم للكلام. باستخدام التقييمات البشرية والآلية، نظير على أن نهجنا للتكبير لدينا يحسن بشكل كبير من أداء نماذج استرجاع الحالة القائمة من أحدث الوكلاء المحادثة للمجموعات المفتوحة.

Recent state-of-the-art approaches in open-domain dialogue include training end-to-end deep-learning models to learn various conversational features like emotional content of response, symbolic transitions of dialogue contexts in a knowledge graph and persona of the agent and the user, among others. While neural models have shown reasonable results, modelling the cognitive processes that humans use when conversing with each other may improve the agent's quality of responses. A key element of natural conversation is to tailor one's response such that it accounts for concepts that the speaker and listener may or may not know and the contextual relevance of all prior concepts used in conversation. We show that a rich representation and explicit modeling of these psychological processes can improve predictions made by existing neural network models. In this work, we propose a novel probabilistic approach using Markov Random Fields (MRF) to augment existing deep-learning methods for improved next utterance prediction. Using human and automatic evaluations, we show that our augmentation approach significantly improves the performance of existing state-of-the-art retrieval models for open-domain conversational agents.