تم استكشاف Adment Graph Graph (KIGS) بشكل مكثف في السنوات الأخيرة بسبب وعدهم بمجموعة واسعة من التطبيقات. ومع ذلك، تركز الدراسات الحالية على تحسين أداء النموذج النهائي دون الاعتراف بالتكلفة الحسابية للنهج المقترحة، من حيث التنفيذ والتأثير البيئي. تقترح هذه الورقة إطار KGE بسيط ولكنه فعال يمكن أن يقلل من وقت التدريب وبصمة الكربون عن طريق أوامر من الأقواس مقارنة مع النهج الحديثة، مع إنتاج أداء تنافسي. نسلط الضوء على ثلاثة ابتكارات تقنية: التعلم الدفاعي الكامل عبر المصفوفات العلائقية، وتحليل العوامة المتعامدة المغلقة للملابس، والتدريب غير السلبي للأخذ العينات. بالإضافة إلى ذلك، كأول طريقة KGE الأولى التي تخزنها تضمين كيانها أيضا معلومات العلاقة الكاملة، ترمز النماذج المدربة لدينا إلى دلالات غنية ويمكن تفسيرها للغاية. تجارب شاملة ودراسات الاجتثاثات التي تنطوي على 13 خطوط بيانات قوية ومجموعات بيانات قياسية تحقق من فعالية وكفاءة خوارزميةنا.
Knowledge Graph Embeddings (KGEs) have been intensively explored in recent years due to their promise for a wide range of applications. However, existing studies focus on improving the final model performance without acknowledging the computational cost of the proposed approaches, in terms of execution time and environmental impact. This paper proposes a simple yet effective KGE framework which can reduce the training time and carbon footprint by orders of magnitudes compared with state-of-the-art approaches, while producing competitive performance. We highlight three technical innovations: full batch learning via relational matrices, closed-form Orthogonal Procrustes Analysis for KGEs, and non-negative-sampling training. In addition, as the first KGE method whose entity embeddings also store full relation information, our trained models encode rich semantics and are highly interpretable. Comprehensive experiments and ablation studies involving 13 strong baselines and two standard datasets verify the effectiveness and efficiency of our algorithm.
المراجع المستخدمة
https://aclanthology.org/
أظهرت التقدم المحرز الأخير في نماذج اللغة المستندة إلى المحولات الاحترام نجاحا كبيرا في تعلم التمثيل السياقي للنص.ومع ذلك، نظرا لتعقيد الاهتمام من الدرجة الثانية، يمكن لمعظم نماذج المحولات مسبقا التعامل مع النص القصير نسبيا.لا يزال يمثل تحديا عندما ي
تصميم التمثيلات التعبيرية للكيانات والعلاقات في الرسم البياني المعرفي هو مسعى مهم. في حين أن العديد من الأساليب الحالية تركز بشكل أساسي على التعلم من الأنماط العلائقية والمعلومات الهيكلية، فقد تم تجاهل التعقيد الجوهري لكي كيانات KG أكثر أو أقل. بشكل
الفهم القراءة الآلة التفاعلية (IMRC) هو مهام فهم الجهاز حيث تكون مصادر المعرفة يمكن ملاحظتها جزئيا.يجب أن يتفاعل الوكيل مع بيئة بالتتابع لجمع المعرفة اللازمة من أجل الإجابة على سؤال.نحن نفترض أن تمثيلات الرسم البياني هي تحيزات حثي جيدة، والتي يمكن أن
تلعب الحساب دورا رئيسيا في فهم اللغة الطبيعية.ومع ذلك، فإن نهج NLP الحالية، وليس فقط نهج Word2VEC التقليدي أو نماذج اللغة المستندة إلى المحولات السياقية، تفشل في تعلم الحساب.ونتيجة لذلك، فإن أداء هذه النماذج محدود عند تطبيقه على التطبيقات المكثفة في
أصبحت الرسوم البيانية المعرفة (KGS) شعبية بشكل متزايد في السنوات الأخيرة. ومع ذلك، نظرا لأن المعرفة تنمو باستمرار وتغييرات، فمن المحتم أن تمتد KGS الموجودة مع الكيانات التي ظهرت أو أنها ذات صلة بنطاق كجم بعد إنشائها. تعتمد البحث في تحديث KGS عادة على