Do you want to publish a course? Click here

HPC: High Performance Computing

الحوسبة عالية الأداء وتقنياتها

1299   0   37   0 ( 0 )
 Publication date 2018
and research's language is العربية
 Created by omar altayyan




Ask ChatGPT about the research

This Paper Attempts to study the latest advancements in High Performance Computing Technologies, Which Provides suitable environments, Solid infrastructure, Software and Hardware Components, allowing Scientists and Researchers to solve Math, Biology, Machine Learning, Physics Simulations, and numerous other problems, Allowing significant breakthroughs in these fields.


Artificial intelligence review:
Research summary
يستعرض هذا البحث التطورات الحديثة في مجال الحوسبة عالية الأداء (HPC) وتقنياتها، والتي تتيح استخدام موارد حاسوبية ضخمة لحل مسائل رياضية وفيزيائية معقدة وتدريب نماذج الذكاء الاصطناعي. تعتمد الحوسبة عالية الأداء على استخدام عدد كبير من المخدمات والمعالجات والذاكرة، مما يسمح بتحمل ضغط العمل لفترات طويلة دون تلف. تُستخدم هذه الموارد عادةً من قبل مؤسسات كبيرة مثل الجامعات ومراكز البحوث، وتتيح هذه المؤسسات جزءًا من مواردها للباحثين والعلماء والطلاب بعد الاتفاق على الحاجة العلمية والقيمة المعرفية للأعمال التي سيتم تنفيذها. من بين التقنيات الحديثة في HPC، تبرز تقنية CUDA من NVIDIA التي تستغل معالجات الرسوميات (GPU) للعمل بالتوازي، وتقنية MPI التي تتيح التواصل بين عدد كبير من الحواسيب المرتبطة بشبكة عالية الأداء. كما يناقش البحث كيفية دمج هاتين التقنيتين لتحقيق قدرات حسابية هائلة بتكلفة منخفضة نسبيًا، مما يسهم في تسريع الأبحاث العلمية وتطوير الحلول العملية لمشاكل معقدة مثل أبحاث الجينات الوراثية وأبحاث طي البروتينات.
Critical review
دراسة نقدية: يقدم البحث نظرة شاملة ومفصلة حول تقنيات الحوسبة عالية الأداء، ويستعرض بشكل جيد الفوائد والتطبيقات المختلفة لهذه التقنيات. ومع ذلك، قد يكون من المفيد تضمين المزيد من الأمثلة العملية والدراسات الحالة لتوضيح كيفية تطبيق هذه التقنيات في مجالات مختلفة. كما يمكن تعزيز البحث بمزيد من التفاصيل حول التحديات والمشاكل التي قد تواجه الباحثين عند استخدام هذه التقنيات، وكيفية التغلب عليها. بالإضافة إلى ذلك، يمكن أن يكون هناك تركيز أكبر على الجوانب الاقتصادية والبيئية لاستخدام هذه الموارد الضخمة، وتأثيرها على استدامة الأبحاث العلمية.
Questions related to the research
  1. ما هي الفوائد الرئيسية للحوسبة عالية الأداء؟

    تتيح الحوسبة عالية الأداء حل مسائل رياضية وفيزيائية معقدة، تدريب نماذج الذكاء الاصطناعي، ومحاكاة الظواهر الفيزيائية، مما يساهم في دفع عجلة التطور العلمي بشكل مباشر.

  2. ما هي تقنية CUDA وكيف تُستخدم في الحوسبة عالية الأداء؟

    تقنية CUDA مقدمة من شركة NVIDIA وتسمح باستغلال معالجات الرسوميات (GPU) للعمل بالتوازي بشكل كبير، مما يزيد من القدرة الحسابية ويستخدم بشكل واسع في مجالات مثل التعلم الآلي والشبكات العصبونية.

  3. كيف تساهم تقنية MPI في تعزيز الحوسبة عالية الأداء؟

    تقنية MPI تتيح التواصل بين عدد كبير من الحواسيب المرتبطة بشبكة عالية الأداء عن طريق إرسال الرسائل بين الحواسيب، مما يزيد من القدرة الحسابية المتاحة لمهمة معينة بشكل كبير.

  4. ما هي الفائدة من دمج تقنيتي CUDA وMPI في الحوسبة عالية الأداء؟

    دمج تقنيتي CUDA وMPI يتيح الوصول إلى قدرات حسابية هائلة بتكلفة منخفضة نسبيًا، مما يسهم في تسريع الأبحاث العلمية وتطوير الحلول العملية لمشاكل معقدة.


References used
nvidia.com/en-us/titan/titan-xp
developer.nvidia.com/cuda-zone
open-mpi.org
devblogs.nvidia.com/introduction-cuda-aware-mpi
en.wikipedia.org/wiki/IBM_Roadrunne
Quang, Daniel, Yifei Chen, and Xiaohui Xie. "DANN: a deep learning approach for annotating the pathogenicity of genetic variants." Bioinformatics 31.5 (2014): 761-763.
Abadi, Martín, et al. "Tensorflow: Large-scale machine learning on heterogeneous distributed systems." arXiv preprint arXiv:1603.04467 (2016).
Chen, Tianqi, et al. "Mxnet: A flexible and efficient machine learning library for heterogeneous distributed systems." arXiv preprint arXiv:1512.01274 (2015).
Jia, Yangqing, et al. "Caffe: Convolutional architecture for fast feature embedding." Proceedings of the 22nd ACM international conference on Multimedia. ACM, 2014.
computing.llnl.gov/tutorials/mpi
rate research

Read More

Transformer and its variants have achieved great success in natural language processing. Since Transformer models are huge in size, serving these models is a challenge for real industrial applications. In this paper, we propose , a highly efficient i nference library for models in the Transformer family. includes a series of GPU optimization techniques to both streamline the computation of Transformer layers and reduce memory footprint. supports models trained using PyTorch and Tensorflow. Experimental results on standard machine translation benchmarks show that achieves up to 14x speedup compared with TensorFlow and 1.4x speedup compared with , a concurrent CUDA implementation. The code will be released publicly after the review.
The paper describes the TenTrans's submissions to the WMT 2021 Efficiency Shared Task. We explore training a variety of smaller compact transformer models using the teacher-student setup. Our model is trained by our self-developed open-source multili ngual training platform TenTrans-Py. We also release an open-source high-performance inference toolkit for transformer models and the code is written in C++ completely. All additional optimizations are built on top of the inference engine including attention caching, kernel fusion, early-stop, and several other optimizations. In our submissions, the fastest system can translate more than 22,000 tokens per second with a single Tesla P4 while maintaining 38.36 BLEU on En-De newstest2019. Our trained models and more details are available in TenTrans-Decoding competition examples.
The majority of recent digital signature algorithms depend, in their structure, on complicated mathematical concepts that require a long time and a significant computational effort to be executed. As a trial to reduce these problems, some researchers have proposed digital signature algorithms which depend on simple arithmetic functions and operations that are executed quickly, but that was at the expense of the security of algorithms.
Quantum computing as a promising technology that solves impossible problems in classical computation due to its exponential complexity, superiority, barriers, hardware and software tools, in addition to the state of the art and future vision.

suggested questions

comments
Fetching comments Fetching comments
mircosoft-partner

هل ترغب بارسال اشعارات عن اخر التحديثات في شمرا-اكاديميا