ترغب بنشر مسار تعليمي؟ اضغط هنا

الرسوم البيانية المعرفة عالية الكفاءة للغاية تضمين التعلم مع تحليل متعامدة

Highly Efficient Knowledge Graph Embedding Learning with Orthogonal Procrustes Analysis

280   0   0   0.0 ( 0 )
 تاريخ النشر 2021
  مجال البحث الذكاء الاصناعي
والبحث باللغة English
 تمت اﻹضافة من قبل Shamra Editor




اسأل ChatGPT حول البحث

تم استكشاف Adment Graph Graph (KIGS) بشكل مكثف في السنوات الأخيرة بسبب وعدهم بمجموعة واسعة من التطبيقات. ومع ذلك، تركز الدراسات الحالية على تحسين أداء النموذج النهائي دون الاعتراف بالتكلفة الحسابية للنهج المقترحة، من حيث التنفيذ والتأثير البيئي. تقترح هذه الورقة إطار KGE بسيط ولكنه فعال يمكن أن يقلل من وقت التدريب وبصمة الكربون عن طريق أوامر من الأقواس مقارنة مع النهج الحديثة، مع إنتاج أداء تنافسي. نسلط الضوء على ثلاثة ابتكارات تقنية: التعلم الدفاعي الكامل عبر المصفوفات العلائقية، وتحليل العوامة المتعامدة المغلقة للملابس، والتدريب غير السلبي للأخذ العينات. بالإضافة إلى ذلك، كأول طريقة KGE الأولى التي تخزنها تضمين كيانها أيضا معلومات العلاقة الكاملة، ترمز النماذج المدربة لدينا إلى دلالات غنية ويمكن تفسيرها للغاية. تجارب شاملة ودراسات الاجتثاثات التي تنطوي على 13 خطوط بيانات قوية ومجموعات بيانات قياسية تحقق من فعالية وكفاءة خوارزميةنا.



المراجع المستخدمة
https://aclanthology.org/
قيم البحث

اقرأ أيضاً

أظهرت التقدم المحرز الأخير في نماذج اللغة المستندة إلى المحولات الاحترام نجاحا كبيرا في تعلم التمثيل السياقي للنص.ومع ذلك، نظرا لتعقيد الاهتمام من الدرجة الثانية، يمكن لمعظم نماذج المحولات مسبقا التعامل مع النص القصير نسبيا.لا يزال يمثل تحديا عندما ي تعلق الأمر بنمذة مستندات طويلة جدا.في هذا العمل، نقترح استخدام شبكة انتباه الرسوم البيانية أعلى نموذج المحولات مسبقا متوفرة لتعلم تضمين الوثائق.تتيح لنا شبكة انتباه الرسم البياني هذه الاستفادة من الهيكل الدلالي الرفيع المستوى للوثيقة.بالإضافة إلى ذلك، استنادا إلى نموذج وثيقة الرسم البياني لدينا، نقوم بتصميم استراتيجية تعليمية بسيطة بسيطة للتعبير عن نماذجنا بمقدار كبير من الكائنات الكبيرة.تجريبيا، نوضح فعالية نهجنا في تصنيف الوثائق ومهام استرجاع المستندات.
تصميم التمثيلات التعبيرية للكيانات والعلاقات في الرسم البياني المعرفي هو مسعى مهم. في حين أن العديد من الأساليب الحالية تركز بشكل أساسي على التعلم من الأنماط العلائقية والمعلومات الهيكلية، فقد تم تجاهل التعقيد الجوهري لكي كيانات KG أكثر أو أقل. بشكل أكثر ملاءمة، نفترض كيانات KG قد تكون أكثر تعقيدا مما نعتقد، أي، قد يرتدي الكيان العديد من القبعات والأحدث العلائقية قد تشكل بسبب أكثر من سبب واحد. تحقيقا لهذه الغاية، تقترح هذه الورقة التعلم من تمثيلات DESENTANGLED من كيانات كيغ كيغ - وهي طريقة جديدة تقوم بتخفيف الخصائص الكامنة الداخلية لكي كيانات كيغ كيانات. تعمل عملية DESTANGLED الخاصة بنا على مستوى الرسم البياني ويتم الاستفادة من آلية الحي لزيادة الخصائص المخفية لكل كيان. هذا النهج التعلم في التمثيل هذا هو نموذج غير مرجح ومتوافق مع نهج Enonical KG Adgedding. نقوم بإجراء تجارب مكثفة على العديد من مجموعات البيانات القياسية، تجهيز مجموعة متنوعة من النماذج (الإقصاء، بسيطة، والقلق) مع آلية DESTANGLING المقترحة. توضح النتائج التجريبية أن نهجنا المقترح يحسن الأداء بشكل كبير على المقاييس الرئيسية.
الفهم القراءة الآلة التفاعلية (IMRC) هو مهام فهم الجهاز حيث تكون مصادر المعرفة يمكن ملاحظتها جزئيا.يجب أن يتفاعل الوكيل مع بيئة بالتتابع لجمع المعرفة اللازمة من أجل الإجابة على سؤال.نحن نفترض أن تمثيلات الرسم البياني هي تحيزات حثي جيدة، والتي يمكن أن تكون بمثابة آلية ذاكرة الوكيل في مهام IMRC.نستكشف أربع فئات مختلفة من الرسوم البيانية التي يمكنها التقاط معلومات نصية على مختلف المستويات.نحن تصف الأساليب التي تقوم ببناء وتحديث هذه الرسوم البيانية هذه ديناميكيا أثناء جمع المعلومات، وكذلك النماذج العصبية لتشفير تمثيلات الرسم البياني في وكلاء RL.تشير تجارب واسعة النطاق على ISquad إلى أن تمثيلات الرسم البياني يمكن أن تؤدي إلى تحسينات كبيرة في الأداء لعوامل RL.
تلعب الحساب دورا رئيسيا في فهم اللغة الطبيعية.ومع ذلك، فإن نهج NLP الحالية، وليس فقط نهج Word2VEC التقليدي أو نماذج اللغة المستندة إلى المحولات السياقية، تفشل في تعلم الحساب.ونتيجة لذلك، فإن أداء هذه النماذج محدود عند تطبيقه على التطبيقات المكثفة في المجالات السريرية والمالية.في هذا العمل، نقترح نهج تضمين عدد بسيط بناء على الرسم البياني للمعرفة.نحن نبني رسم بياني للمعرفة يتكون من كيانات الأرقام وعلاقات الحجم.يتم بعد ذلك تطبيق طريقة تضمين الرسم البياني للمعرفة للحصول على ناقلات الرقم.نهجنا سهل التنفيذ، وتجربة نتائج التجربة على مختلف مهام NLP ذات الصلة بالكمال إظهار فعالية وكفاءة طريقتنا.
أصبحت الرسوم البيانية المعرفة (KGS) شعبية بشكل متزايد في السنوات الأخيرة. ومع ذلك، نظرا لأن المعرفة تنمو باستمرار وتغييرات، فمن المحتم أن تمتد KGS الموجودة مع الكيانات التي ظهرت أو أنها ذات صلة بنطاق كجم بعد إنشائها. تعتمد البحث في تحديث KGS عادة على استخراج الكيانات المسماة والعلاقات من النص. ومع ذلك، لا يمكن لهذه الأساليب استنتاج كيانات أو علاقات غير مذكورة صراحة. بدلا من ذلك، استغلال نماذج التضمين الانتظار الهيكلية الضمنية للتنبؤ بالعلاقات المفقودة، ولكن لا يمكن التنبؤ بالكيانات المفقودة. في هذه المقالة، نقدم طريقة جديدة لإثراء KG مع كيانات جديدة بالنظر إلى وصفها النصي. لدينا طريقة ترفع نماذج تضمين مشتركة، وبالتالي لا تتطلب كيانات أو علاقات يمكن تسميتها صراحة. نظرا لأن نهجنا يمكن أن تحدد مفاهيم جديدة في كوربوس وثيقة ونقلها إلى كجم، ونجد أن أداء طريقتنا يحسن بشكل كبير عند تمديده مع تقنيات من تعدين حكم الرابطة، والتعدين النصي، والتعلم النشط.

الأسئلة المقترحة

التعليقات
جاري جلب التعليقات جاري جلب التعليقات
سجل دخول لتتمكن من متابعة معايير البحث التي قمت باختيارها
mircosoft-partner

هل ترغب بارسال اشعارات عن اخر التحديثات في شمرا-اكاديميا