ترغب بنشر مسار تعليمي؟ اضغط هنا

استعادة وتعدين سجلات أسرة جوسون عبر نمذجة اللغة العصبية والترجمة الآلية

Restoring and Mining the Records of the Joseon Dynasty via Neural Language Modeling and Machine Translation

155   0   0   0.0 ( 0 )
 تاريخ النشر 2021
  مجال البحث الذكاء الاصناعي
والبحث باللغة English
 تمت اﻹضافة من قبل Shamra Editor




اسأل ChatGPT حول البحث

يوفر فهم السجلات التاريخية الضخمة أدلة على الجوانب المختلفة، مثل القضايا الاجتماعية والسياسية وحتى حقائق العلوم الطبيعية. ومع ذلك، من الصعب بشكل عام الاستفادة الكاملة من السجلات التاريخية، نظرا لأن معظم المستندات غير مكتوبة باللغة الحديثة، فإن جزءا من المحتويات تضررت بمرور الوقت. نتيجة لذلك، تعد استعادة الأجزاء التالفة أو غير المستعرضة وكذلك ترجمة السجلات إلى اللغات الحديثة مهام مهمة. ردا على ذلك، نقدم نهج تعليمي متعدد المهام لاستعادة وترجمة المستندات التاريخية بناء على آلية اهتمام الذات، واستخدامها على وجه التحديد سجلتين تاريخي كوريا، منها السجلات التاريخية الأكثر ضمانا في العالم. تظهر النتائج التجريبية أن نهجنا يحسن بشكل كبير دقة مهمة الترجمة من خطوط الأساس دون تعلم متعدد المهام. بالإضافة إلى ذلك، نقدم تحليل استكشافي متعمق على نتائجنا المترجمة عبر النمذجة الموضوعية، والكشف عن العديد من الأحداث التاريخية الهامة.

المراجع المستخدمة
https://aclanthology.org/
قيم البحث

اقرأ أيضاً

عنصر رئيسي واحد من الترجمة الآلية العصبية هو استخدام مجموعات البيانات الكبيرة من المجالات والموارد المختلفة (E.G. Europarl، TED محادثات).تحتوي مجموعات البيانات هذه على مستندات مترجمة من قبل المترجمين المحترفين باستخدام أنماط الترجمة المختلفة ولكن ثاب تة.على الرغم من ذلك، عادة ما يتم تدريب النموذج بطريقة لا يجسد صراحة مجموعة متنوعة من أنماط الترجمة الموجودة في البيانات ولا تترجم بيانات جديدة في أنماط مختلفة ويمكن التحكم فيها.في هذا العمل، نحقق في طرق زيادة حالة نموذج محول الفن مع معلومات المترجم المتوفرة جزئيا من بيانات التدريب.نظرا لأن نماذج الترجمة المعززة بأسلوبنا قادرة على التقاط الاختلافات النمط للمترجمين وإنشاء ترجمات مع أنماط مختلفة على البيانات الجديدة.في الواقع، تختلف الاختلافات التي تم إنشاؤها بشكل كبير، ما يصل إلى فرق النتيجة +4.5 بلو.على الرغم من ذلك، يؤكد التقييم البشري أن الترجمات من نفس النوعية.
ما قبل التدريب (PT) والترجمة الخلفي (BT) هي طريقتان بسيطان وقويهما لاستخدام البيانات الأولية لتحسين الأداء النموذجي للترجمة الآلية العصبية (NMT).تأخذ هذه الورقة الخطوة الأولى للتحقيق في التكامل بين PT و BT.نقدم اثنين من المهام التحقيق الخاصة ب PT و B T على التوالي وتجد أن PT يساهم بشكل أساسي في وحدة التشفير أثناء قيام BT بتجلب المزيد من الفوائد إلى وحدة فك الترميز.تظهر النتائج التجريبية أن PT و BT مكملة بشكل جيد مع بعضها البعض، وإنشاء عروض أحدث على المعايير WMT16 الإنجليزية والرومانية والروسية.من خلال تحليلات واسعة النطاق على عصالة الجملة وتيرة الكلمة، فإننا نوضح أيضا أن الجمع بين الموسومة BT مع PT هو أكثر فائدة تكاملها، مما يؤدي إلى جودة ترجمة أفضل.شفرة المصدر متاحة بحرية في HTTPS://github.com/sunbowliu/ptvsbt.
تقدم هذه الورقة أول دراسة حول استخدام نماذج اللغة المدربة مسبقا على نطاق واسع للجيل الآلي من الرسم البياني الصخم على مستوى الحدث للحصول على مستند. على الرغم من النجاح الهائل لأساليب ما قبل التدريب العصبي في مهام NLP، لم يتم استكشاف إمكاناتها للمنطق ا لزمني على الرسوم البيانية في الأحداث بما فيه الكفاية. جزء من السبب هو صعوبة في الحصول على شركة تدريبية كبيرة مع أحداث مشروح بين الإنسان والروابط الزمنية. نحن نتطلع إلى هذا التحدي باستخدام أدوات IE / NLP الحالية لتوليد كمية كبيرة تلقائيا (89،000) من أزواج المستند المستندات المنتجة للنظام، واقتراح صياغة رواية لمشكلة جيل الرسم البياني للسياق كقوة تعيين تسلسل إلى تسلسل. تمكننا هذه الاستراتيجيات من الاستفادة من النماذج اللغوية التي تم تدريبها مسبقا على بيانات التدريب التي يسببها النظام المهمة لتوليد الرسم البياني. تظهر تجاربنا أن نهجنا فعال للغاية في توليد رسوم بيانية صحيحة هيكليا وذات رأسيا. علاوة على ذلك، يوضح التقييم على Corpus تحديا يدويا عن طريق اليد، أن أسلوبنا تتفوق على أقرب طريقة موجودة من خلال هامش كبير على عدة مقاييس. نعرض أيضا تطبيقا نهرما لنهجنا من خلال تكييفه للإجابة على الأسئلة الزمنية المفتوحة في إعداد فهم القراءة.
طرق ناجحة للترجمة الآلية العصبية غير المنشأة (UNMT) توظف الاحتجاج عبر اللغات عبر الإشراف الذاتي، في كثير من الأحيان في شكل نمذجة لغة ملمقة أو مهمة توليد التسلسل، والتي تتطلب نموذج محاذاة التمثيلات المعجمية والفوضيةاللغتين.بينما يعمل الاحتجاج عبر اللغ ات اللغوي لغات مماثلة مع كوربورا وفيرة، فإنه يؤدي بشكل سيئ في اللغات المنخفضة والبستية.أظهرت الأبحاث السابقة أن هذا هو أن التمثيلات غير محاذاة بما فيه الكفاية.في هذه الورقة، نعزز نموذج اللغة الملثملة ثنائية اللغة بإحاطا بمعلومات على المستوى المعجمي باستخدام تضيير الكلمات الفرعية عبر مستوى المستوى.توضح النتائج التجريبية الأداء المحسن على حد سواء على نظام التعمير (ما يصل إلى 4.5 بلو) وتحليل المعجم الثنائي اللغة باستخدام طريقتنا مقارنة بناس خط الأساس.
تعتمد الترجمة الآلية عادة على Corpora الموازي لتوفير إشارات متوازية للتدريب.جلبت ظهور الترجمة الآلية غير المنشورة ترجمة آلة بعيدا عن هذا الاعتماد، على الرغم من أن الأداء لا يزال يتخلف عن الترجمة التقليدية للإشراف الآلية.في الترجمة الآلية غير المنشورة ، يسعى النموذج إلى أوجه تشابه لغة متماثلة كمصدر للإشارة الموازية الضعيفة لتحقيق الترجمة.إن نظرية تشومسكي العالمي النجمية تفترض أن القواعد هي شكل فطري من المعرفة للبشر ويحكمها المبادئ والقيود العالمية.لذلك، في هذه الورقة، نسعى إلى الاستفادة من هذه الأدلة القواعد المشتركة لتوفير إشارات متوازية لغة أكثر صراحة لتعزيز تدريب نماذج الترجمة الآلية غير المنشورة.من خلال تجارب على أزواج لغة متعددة النموذجية، نوضح فعالية مناهجنا المقترحة.

الأسئلة المقترحة

التعليقات
جاري جلب التعليقات جاري جلب التعليقات
سجل دخول لتتمكن من متابعة معايير البحث التي قمت باختيارها
mircosoft-partner

هل ترغب بارسال اشعارات عن اخر التحديثات في شمرا-اكاديميا