الكشف عن العلاقة العددية في التغريدات المالية باستخدام الشبكة العصبية العميقة

تركز طرق تعلم الجهاز لتحليل المستندات المالية بشكل رئيسي على الجزء النصي.ومع ذلك، فإن الأجزاء العددية من هذه المستندات غنية أيضا بمحتوى المعلومات.من أجل تحسين تحليل النص المالي، يجب علينا أن نحقق المعلومات الرقمية في العمق.في ضوء ذلك، فإن الغرض من هذا البحث هو تحديد الارتباط بين CASCTAG المستهدف والأرقام المستهدفة في التغريدات المالية، التي تعد أكثر تحديا من تحليل الأخبار والوثائق الرسمية.في هذا البحث، قمنا بتطوير نهج خلط متعدد النماذج يدمج تمثيلات تشفير ثنائية الاتجاه من المحولات (بيرت) والشبكة العصبية التنافعية (CNN).نحن أيضا ترميز معلومات التبعية خلف النص إلى النموذج لاستخلاص الميزات الكامنة الدلالية.تظهر النتائج التجريبية أن نموذجنا يمكنه تحقيق أداء رائع ومقارنات تفوق.

Team \ _KGP في مهمة Semeval-2021: نظام عصبي عميق لاكتشاف الفكاهة والجريمة مع تقييماتهم في البيانات النصية

تصف هذه الورقة النظام المقدم إلى مهمة Semeval-2021 - 7 لجميع المهام الفرعية الأربعة.تركز اثنان من المجموعات الفرعية على الكشف عن الفكاهة والجريمة من النص (التصنيف الثنائي).من ناحية أخرى، تتنبأ المهن الفرعية الأخرى بتصنيفات الفكاهة والجريمة للنص (الانحدار الخطي).في هذه الورقة، نقدم نوعين مختلفين من أساليب ضبط الدقيقة باستخدام الطبقات الخطية وطبقات BI-LSTM أعلى نموذج Bert المدرب مسبقا.تظهر النتائج أن نظامنا قادر على تفوق نماذج خط الأساس بتهامش كبير.نبلغ عن درجات F1 من 0.90 للاطلاع على الترجمة الفرعية الأولى و 0.53 للسلطة الفرعية الثالثة، بينما نبلغ عن رينسي من 0.57 و 0.58 للمجموعة الفرعية الثانية والرابعة على التوالي.

Ensidnet: شبكة Siamese الهجينة المحسنة للتجميع التجارب السريرية لتجميع مسارات تطوير المخدرات

تم استخدام الشبكات العصبية السيامية على نطاق واسع لأداء تصنيف التشابه في إعدادات متعددة الطبقات.يمكن استخدام بنيةهم لجماعة التجارب السريرية التي تنتمي إلى نفس مسار تنمية المخدرات على طول المراحل المحاكمة السريرية العديدة.هنا نقدم نهجا للحاجة غير الملباة لإعادة إعمار مسار تنمية المخدرات، استنادا إلى شبكة عميقة محسنة في العمل العصبي الهجين (Ensidnet).يوضح النموذج المقترح تحسنا كبيرا فوق خط الأساس في إعداد تقييم طلقة واحدة وفي إعداد التشابه الكلاسيكي.يمكن أن تكون Ensidnet أداة أساسية في بيئة تعليمية شبه إشراف: من خلال تحديد التجارب السريرية من المرجح أن تنتمي إلى نفس مسار تنمية المخدرات، من الممكن تسريع عملية وضع العلامات للخبراء البشريين، مما يسمح بفحص حجم متسقالبيانات، تستخدم كذلك في مجموعة بيانات التدريب.

تحليل التفسير والسببية المحبوس في نماذج NLP العميقة

دفعت الشبكات العصبية العميقة باستمرار الأداء الحديث في معالجة اللغة الطبيعية ويعتبر نهج النمذجة في الواقع في حل مهام NLP المعقدة مثل الترجمة الآلية والتلخيص والرد على السؤال. على الرغم من الفعالية المثبتة للشبكات العصبية العميقة، فإن معرضهم هو سبب رئيسي للقلق. في هذا البرنامج التعليمي، سنقدم أعمال البحث في تفسير مكونات الرواية الدقيقة لطراز الشبكة العصبية من وجهات نظر، ط) ترجمة التفسير الدقيقة، والثاني) تحليل السببية. السابق هو فئة من الأساليب لتحليل الخلايا العصبية فيما يتعلق بمفهوم اللغة المطلوب أو مهمة. تدرس الأخير دور الخلايا العصبية وميزات المدخلات في شرح القرارات التي اتخذها النموذج. سنناقش أيضا كيف يمكن لأساليب التفسير وتحليل السببية الاتصال بتثبيته بشكل أفضل لتنبؤ النموذج. أخيرا، سوف نسير إليك من خلال مجموعة أدوات مختلفة تسهل تحليل التفسير والسبابة الراسخة من النماذج العصبية.