Нейронды желілердің жұмысы және ұйымдастыру принциптері. Информатика, 10 сынып, презентация.

Нейрондық желілер дегеніміз не?

Жасанды нейрондық желі дегеніміз - биологиялық нейрондық желілерді ұйымдастыру және жұмыс істеу принципіне негізделген математикалық модель.

Нейрондық желілер алгоритмдер класына жатады, олар оқытушымен бірге оқытылады және осы сыныптың типтік мәселелерін шешеді:

Биологиялық нейрон

Y = φ(∑wixi + b)

? Формула:

Нейрондық желілерді ұйымдастыру және жұмыс істеу принциптері

Бөлім 10.4A Жасанды интеллект және Blockchain технологиясы (Blockchain)

Сызықтық

Желілік шығулар - бұл кірістердің сызықтық комбинациясы.

Табалдырық

Бұл мүмкіндік түпнұсқалық ID үлгісінде қолданылды.

ортасында аналогы бар (x белгісі)

Активация функциялары

Сигмоида

Ұзақ уақыт бойы бұл нейронның жұмысын сипаттайтын функция болып саналды.

сараланатын

қанықтық шегі бар

Tanh

сараланатын

ортасында

қанықтық шегі бар

ReLU (rectified linear unit)

Қазіргі уақытта оның қарапайымдылығына байланысты ең көп қолданылатын активация функциясы.

Соңғы зерттеулер сонымен қатар биологиялық нейрондардың жұмысын дәлірек сипаттайтындығын көрсетті.

сараланатын

қанықтық шегі жоқ

тез есептелді

ортасында емес

инициализацияға сезімтал

Қабат - олардың қызмет ету ерекшеліктерімен біріктірілген желілік нейрондардың жиынтығы. Желілік қабаттар арасындағы байланыс түрі бойынша бөлінеді

Тікелей тарату желілері

Қайталанатын желілер (RNN)

Нейрондық желіні оқытудың ең кең таралған әдісі - артқы репробация әдісі.

Бұл әдістің негізгі идеясы - қателік сигналдарын желінің шығуынан оның кірістеріне, қалыпты жұмыс кезінде сигналдардың тікелей таралуына қарама-қарсы бағытта тарату.

Нейрондық желіні оқыту

Оқу үлгісі

Үлгі дегеніміз желіні конфигурациялаған таңбаланған енгізу векторларының жиынтығы (яғни, дұрыс жауап белгілі).

Convolutional Neural Network (CNN) - 1988 жылы Ян Лекун ұсынған және бейнені тиімді тануға бағытталған нейрондық желілердің ерекше архитектурасы. Идея - консолюциялық қабаттар мен астыңғы қабаттарды ауыстыру.

Конволюциялық нейрондық желілер

На рисунке показаны куски изображения, которые больше всего были ответственны за то, чтобы активировать нейрон на первом слое.

Дыбыстар мен мәтіндерді тануға арналған CNN

Қайталанатын нейрондық желі (RNN) - элементтер арасындағы байланыс бағытталған цикл құратын нейрондық желілердің архитектурасы

Қайталанатын нейрондық желілер

Барлық биологиялық нейрондық желілер қайталанатын

RNN динамикалық жүйені модельдейді

  Әмбебап жуықтау теоремасы RNN көмегімен кез-келген динамикалық жүйенің әрекетін модельдеуге болатындығын айтады

Көптеген RNN жаттығулар алгоритмдері бар, нақты лидері жоқ.

Сұрақтар

Нейрондық желі дегеніміз не?

Неліктен конвультивті желілер суреттермен жұмыс істеу үшін жақсы?

Қайталанатын желілер мен тікелей тарату желілерінің түбегейлі айырмашылығы неде? Бұл айырмашылық қандай деректерді тиімді өңдеуге мүмкіндік береді?

Дереккөздер:

www.deeplearningbook.org

wikipedia.org

Нейронные сети в машинном обучении