المستخلص: |
شبكة حالة الصدى Echo State Network (ESN)، هي نوع من أنواع الشبكات العصبية المتكررة Recurrent Neural Network (RNN) والمعروفة بأدائها المتميز في مجال حوسبة الخزان Reservoir Computing (RC). حيث يتم في حوسبة الخزان تهيئة مساحة حالة الشبكة بقيم عشوائية وثابتة ومن ثم تدريب الشبكة فقط على الجزئية ما بين الطبقية المخفية (الخزان) وطبقة الإخراج. ولكن، نظرا لوجود العشوائية في تهيئة الخزان، فهذا يمنع من إجراء التحليل النظري لخصائص ديناميكية الخزان. وفي ضوء ذلك، فإننا في دراستنا هذه، نهدف إلى إزالة هذا الغموض في خزان ESN بتحديد كامل الهيكلية مسبقا وبدون أي عشوائية. ونقوم باقتراح نماذج بناء وصلات مختلفة للخزان ودراسة تأثير وجود الوصلات المختلفة في الخزان من (حلقات ذاتية، ووصلات إلى الوراء وإلى الأمام) على أداء الشبكة. وقد وجدنا في دراستنا أن استخدام نماذج وصلات الخزان تحافظ على بساطة العمل الموجود في ESN العشوائية، ويؤدي إلى أداء مماثل أو أفضل في بعض الأحيان، حيث تم تطبيقهم على مجموعة بينات قياسية مختلفة. وقد قمنا أيضا بتصميم مجموعة Ensemble من خزانات ESN البسيطة وتدريبها بالترابط السلبي عبر الزمن (SESN-NCTT). هذا التصميم، (SESN-NCTT)، يشجع الخزانات المختلفة على التدريب بشكل تعاوني وبالتتابع باستخدام التعلم بالارتباط السلبي (Negative Correlation Learning)، وبالتالي حسن من الأداء العمومي وقلل من تعقيد الحساب. نتائج (SESN-NCTT) تبين أن استخدام NCL مع تزايد الارتباط بين الشبكات يحسن من دقة النتائج مع سرعة أكبر في التعلم بالمقارنة مع التعلم بدون NCL.
|