پروژه شبکه عصبی دولایه با الگوریتم Backpropagation

تابع فعالیت عصبهای لایه اول سیگموید می باشد . تابع فعالیت عصبهای لایه دوم  softmax می باشد 

از تابع Cross Entropy به عنوان تابع loss استفاده کنید
data.mat فایل شامل دو ماتریس Target و Input  می باشد که به ترتیب ورودی آموزشی و خروجی آموزشی شبکه هستند.

عدد p تعداد عصبهای لایه اول را به عنوان ورودی از کاربر دریافت شود
 هر سه نسخه الگوریتم گرادیان کاهشی (SGD و BGD ،MBGD) را پیاده سازی کنید 
در هر گام آموزش، خط جداکننده عصبهای لایه اول را در مقایسه با داده های آموزشی نمایش دهید به طوری که همگرایی خروجی شبکه به داده های آموزشی کاملا مشخص باشد. 
محاسبه نمایید و در یک نمودار در هر گام آموزش خطای شبکه روی کل دادهها را بر اساس معیار Cross Entropy نشان دهید.