Lstm параметрлердин санын кантип эсептейт?

2024 Автор: Lynn Donovan | [email protected]. Акыркы өзгөртүү: 2023-12-15 23:50

Демек, сиздин баалуулуктарыңыз боюнча. Аны формулага киргизүү төмөнкүнү берет:->(n=256, m=4096), бардыгы параметрлердин саны болуп саналат 4*((256*256) + (256*4096) + (256)) = 4*(1114368) = 4457472. саны салмактардын болуп саналат 28 = 16 (num_units * num_units) кайталануучу байланыштар үчүн + 12 (input_dim * num_units) киргизүү үчүн.

Ошондой эле сурады, параметрлердин санын кантип табасыз?

үчүн эсептөө үйрөнүүчү параметрлери Бул жерде биз болгону туурасы m, бийиктиги n формасына көбөйтүп, бардык ушундай чыпкаларды k эсепке алышыбыз керек. Ар бир чыпка үчүн бир жактуу терминди унутпаңыз. Параметрлердин саны CONV катмарында төмөнкүдөй болмок: ((m * n)+1)*k), ар бир чыпка үчүн тенденция термининен улам 1 кошулду.

Ошо сыяктуу эле, Lstm канча жашыруун бирдиктерге ээ? Ан LSTM тармак. Тармактын беш кириши бар бирдиктер , а жашыруун катмар экиден турат LSTM эс блоктору жана үч чыгуу бирдиктер . Ар бир эс тутум блогунда төрт киргизүү бар, бирок бир гана чыгуу.

Андан кийин, сиз RNNдеги параметрлердин санын кантип табасыз деп сурашы мүмкүн?

1 Жооп. W, U жана V объекттери бардык кадамдар менен бөлүшүлөт RNN жана булар гана параметрлери сүрөттө сүрөттөлгөн моделде. Демек параметрлердин саны машыгуу учурунда үйрөнүшү керек = dim(W)+dim(V)+dim(U). Суроодогу маалыматтардын негизинде бул = n2+kn+nm.

Lstm канча катмардан турат?

Жалпысынан, 2 катмарлар татаал өзгөчөлүктөрүн аныктоо үчүн жетиштүү экенин көрсөттү. Дагы катмарлар жакшыраак болушу мүмкүн, бирок окутуу кыйыныраак. Жалпы эреже катары - 1 жашырылган катмар ушуга окшогон жөнөкөй маселелер менен иштөө жана эки татаал функцияларды табуу үчүн жетиштүү.