اشترك بالحزمة الذهبية واحصل على وصول غير محدود شمرا أكاديميا
تسجيل مستخدم جديدالمهام التفاعلية لتعليم منظمة NLP
Interactive Assignments for Teaching Structured Neural NLP
255
0 0
0.0
(
0
)
نشر من قبل
جمعية اللغويات الحاسوبية ACL مقالة
تاريخ النشر
2021
مجال البحث
الذكاء الاصناعي
والبحث باللغة
English
تمت اﻹضافة من قبل
Shamra Editor
اسأل ChatGPT حول البحث
نقدم مجموعة من المهام لدورة NLP على مستوى الدراسات العليا.تم تصميم المهام لتكون تفاعلية، قابلة للتدريج بسهولة، وإعطاء الطلاب التدريب العملي مع العديد من أنواع الهيكل الأساسي (التسلسلات، العلامات، أشجار التحليل، والأشكال المنطقية)، والبنية العصبية الحديثة (LSTMS والمحولات)، خوارزميات الاستدلال (ديناميكيةالبرامج والبحث التقريبي) وأساليب التدريب (الإشراف الكامل والضعفاء).لقد صممنا المهام المبذولة على حد سواء تدريجيا داخل كل مهمة وعبر المهام، بهدف تمكين الطلاب من إجراء بحث على مستوى الدراسات العليا في NLP بحلول نهاية الدورة.
We present a set of assignments for a graduate-level NLP course. Assignments are designed to be interactive, easily gradable, and to give students hands-on experience with several key types of structure (sequences, tags, parse trees, and logical forms), modern neural architectures (LSTMs and Transformers), inference algorithms (dynamic programs and approximate search) and training methods (full and weak supervision). We designed assignments to build incrementally both within each assignment and across assignments, with the goal of enabling students to undertake graduate-level research in NLP by the end of the course.
المراجع المستخدمة
https://aclanthology.org/
قيم البحث
اقرأ أيضاً
على الرغم من أن معالجة اللغة الطبيعية هي في صميم العديد من الأدوات التي يستخدمها الشباب في حياتهم اليومية، فإن المناهج الدراسية الثانوية (في إيطاليا) لا تشمل أي تعليم لغوي حسابي. هذا الافتقار إلى التعرض يجعل استخدام هذه الأدوات أقل مسؤولية مما قد يكو
ن، ويجري اختيار اللغويات الحسابية كدرجة جامعية غير مرجحة. لرفع الوعي والفضول والاهتمام على المدى الطويل في الشباب، قمنا بتطوير ورشة عمل تفاعلية مصممة لتوضيح المبادئ الأساسية ل NLP واللغويات الحسابية للطلاب الإيطاليين في المدارس الثانوية الذين تتراوح أعمارهم بين 13 و 18 عاما. تأخذ ورشة العمل شكل لعبة تلعب فيها المشاركون دور الآلات التي تحتاج إلى حل بعض المشاكل الأكثر شيوعا وجوه الكمبيوتر في فهم اللغة: من التعرف على الصوت إلى سلاسل Markov إلى تحليل النحوي. يسترشد المشاركون من خلال ورشة العمل بمساعدة المعلمين، الذين يقدمون الأنشطة وشرح المفاهيم الأساسية من اللغويات الحسابية. تم تقديم ورشة العمل في العديد من المنافذ في إيطاليا بين عامي 2019 و 2020، كلاهما وجها لوجه وعلى الإنترنت.
نقدم سلسلة من مهام البرمجة، قابلة للتكيف مع مجموعة من مستويات الخبرة من المرحلة الجامعية المتقدمة إلى الدكتوراه، لتعليم الطلاب تصميم وتنفيذ أنظمة NLP الحديثة. يتم بناء هذه المهام من الألف إلى الياء والتأكيد على فهم المكدس الكامل للنماذج التعليمية الآ
لية: في البداية، يقوم الطلاب بتنفيذ حساب الاستدلال والتدرج باليد، ثم استخدم Pytorch لبناء شبكات عصبية أحدث تقريبا باستخدام أفضل الممارسات الحالية. يتم اختيار الموضوعات لتغطية مجموعة واسعة من تقنيات النمذجة والاستدلال التي قد تواجه المرء، بدءا من النماذج الخطية المناسبة لتطبيقات الصناعة لنماذج التعلم العميق الحديثة المستخدمة في أبحاث NLP. يتم تخصيص المهام، مع خيارات مقيدة لتوجيه طلاب أقل خبرة أو الخيارات المفتوحة المنتهية لإعطاء حرية الطلاب المتقدمة لاستكشافها. يمكن نشر كل منهم بطريقة غير قابلة للتطبيق بالكامل، وقد تم اختبارها بشكل جماعي على أكثر من 300 طالب عبر العديد من الفصول الدراسية.
في هذه الورقة نناقش جهدا مستمرا لإثراء تعلم الطلاب من خلال إشراكهم بمعنى معنى.الهدف الرئيسي هو قيادة الطلاب لاكتشاف كيف يمكننا تمثيل معنى وحيث تقع حدود نظرياتنا الحالية.الهدف الفرعي هو خلق معنى الموسومة والمعجم المرتبط المرتبط (في حالتنا الوصية).نقدم
نتائج وضع العلامات على العديد من النصوص وتشير إلى بعض الطرق التي يمكن بها تحسين عملية وضع العلامات.يقدم مؤلفان من هذه الورقة تجربتهم الخاصة كطلاب.بشكل عام، أبلغ الطلاب أنهم وجدوا وضع العلامات تجربة تخصيبها.تتوفر Corpora والتغييرات المشروحين في Wordnet من خلال Corpus متعدد اللغات NTU و WordNets المرتبطة (NTU-MC).
على الرغم من نوعية جيدة بشكل جيد لأنظمة الترجمة الآلية (MT)، تتطلب مخرجات MT تصحيحات. تم تقديم نماذج ما بعد التحرير التلقائي (APE) لأداء هذه التصحيحات دون تدخل بشري. ومع ذلك، لا يتمكن أي نظام من أتمتة عملية التحرير بالكامل (PE). علاوة على ذلك، في حين
أن العديد من أدوات الترجمة، مثل ذكريات الترجمة (TMS)، فإن الاستفادة إلى حد كبير من مدخلات المترجمين، لا يزال تفاعل الإنسان (HCI) محدودا عندما يتعلق الأمر ب PE. تناقش هذه الورقة المحرز في مجال البحث نماذج القرد وتقترح أنها يمكن تحسينها في سيناريوهات تفاعلية أكثر، كما فعلت سابقا في MT مع إنشاء أنظمة MT (IMT) التفاعلية. بناء على الفرضية التي ستستفيد PE من HCI، يتم اقتراح منهجيتين. كلاهما يشير إلى أن إعدادات التعلم الدفاعية التقليدية ليست الأمثل لل PE. بدلا من ذلك، يوصى بتدريب التقنيات عبر الإنترنت لتدريب وتحديث نماذج PE على الطاير، عبر التفاعلات الحقيقية أو المحاكاة مع المترجم.
الترجمة التنبؤية التفاعلية هي عملية تكرارية تعاونية وحيث تنتج مترجمات البشر الترجمات بمساعدة أنظمة الترجمة الآلية (MT) بشكل تفاعلي. توجد تقنيات أخذ العينات المختلفة في التعلم النشط (AL) لتحديث نموذج MT (NMT) العصبي في السيناريو التفاعلي التنبؤ بالتنب
ؤ. في هذه الورقة، نستكشف مصطلح مقرها (NEC Count Entity Content (NEC) والجودة (تقدير الجودة (QE) وتقنيات الإشارة (SIM) (SIM)) - والتي تستخدم للعثور على المرشحين المثاليين من البيانات الواردة - للإشراف البشري وتحديث الوزن نموذج MT. نفذنا تجارب مع ثلاث أزواج ولغوية وبيزن. الألمانية-العربية والإسبانية والإنجليزية والهندية الإنجليزية. تنتج تقنية أخذ العينات المقترحة لدينا 1.82 و 0.77 و 0.81 نقطة من نقاط بلو للغة الألمانية والإنجليزية والإسبانية والإنجليزية والإنجليزية والإنجليزية على التوالي وعلى أساس الأساس الأساسي في أخذ العينات العشوائية. كما أنه يحسن الوضع الحالي بمقدار 0.35 و 0.12 نقطة بلو للألمانية والإنجليزية والإسبانية والإنجليزية على التوالي. يحسن جهود التحرير البشري من حيث عدد الكلمات المتغيرة أيضا بنسبة 5 و 4 نقاط للألمانية والإنجليزية والإسبانية والإنجليزية على التوالي ومقارنة مع أحدث من بين الفن.
الأسئلة المقترحة
سجل دخول لتتمكن من نشر تعليقات
التعليقات
جاري جلب التعليقات
سجل دخول لتتمكن من متابعة معايير البحث التي قمت باختيارها
