ترغب بنشر مسار تعليمي؟ اضغط هنا
Avatar

الذكاء الصنعي

تطبيقات الذكاء الصنعي, مفاهيم نظرية وعملية, أمثلة وأكواد برمجية

8 - 3 منشورات متابعة
الذكاء الاصطناعي التعلم الآلي Machine learning Artificial intelligence التعلم العميق

آخر الاعضاء المنضمين

Hassan

Hassan Assad

لقد قام بالانضمام بتاريخ   باختصاص قواعد معطيات

Rita

Rita Damash

لقد قامت بالانضمام بتاريخ   باختصاص غير محدد

رضوان

رضوان بلعجيلي

لقد قام بالانضمام بتاريخ   باختصاص العلوم الزراعية

ما طريقة تصنيع الخميرة

39  - - Mohamed نشر من قبل Mohamed Gomaa  



فريق من جامعة ستانفورد يطور نموذج لغوي قريب من أداء نموذج ChatGPT بكلفة اقل من 1000 دولار بهذه الطريقة

497  - - Shadi نشر من قبل Shadi Saleh  


فريق من جامعة ستافورد قام بتطوير نموذج لغوي كبير LLM ينافس من حيث الأداء نموذج GPT3 تم بناءه بكلفة تقارب 1000$ وتم تسمية هذا النموذج ب Alpaca أو نموذج ألباكا.

يوضح الشكل التالي بنية نظام نموذج Alpaca والحقيقة فهي في غاية البساطة, وتعود بساطة النموذج إلى الاستفادة من النموذج المفتوح المصدر LLaMA الذي أطلقته فيسبوك بالاضافة إلى بناء البيانات التدريبية باستخدام نموذج text-davinci-003 الذي طورته شركة Open AI والذي يعتبر أساس نموذج ChatGPT



لتدريب نموذج لغوي على الشات او تنفيذ الأوامر، تحتاج إلى بيانات تدريبية تدعى instructions تحوي على عينات من الأسئلة والإجابة عنها، هذه العينات تساعد الشبكات العصبية على فهم الآلية التي يجب ان تستخلص فيها الإجابات من نصوص ضخمة.


الصورة بالمرفق توضح تفاصيل الأوامر التي تم توليد بيانات تدريبية من خلالها, حيث الدوائر الصغيرة في المنتصف تعبر عن الفعل الأساسي والدائرة الخارجية تعبر عن ماهو مطلوب بالضبط، مثلا:

  1. أنشأ: لائحة، شعر، جملة، قصة.
  2. أشرح: مفهوم، الأختلاف، المعنى، الهدف.
  3. صنّف: جملة، عنصر, حيوان, كلمة.