Помогите найти формулу обучения РНН Элмана с одним нейроном в скрытом слое.
Не могу нигде найти, ни общую формулу, ни частную для 1 нейрона.
JEFFREY L. ELMAN, University of California, San Diego.
умер 2018-05-28 (википедия)
Есть домашняя страница со списком публикаций:
https://jeffelman.ucsd.edu/research/publications/
Читать их вместо Вас мы, конечно, не будем. Но если формула и есть, то она где-то в этих публикациях.
Все pdf файлы, на которые там ссылаются, удалены.
Да и вообще, если быть точнее, то проблема моя такова:
У меня есть простейшая РНС Элмана. То-есть, есть 1 выходной нейрон и один скрытый слой с одним нейроном получающий сигнал от самого себя.
Мне нужно её обучить.
Здесь (https://translated.turbopages.org/proxy_u/en-ru.ru.9a99f99f-652c337f-9913210e-74722d776562/https/en.m.wikipedia.org/wiki/Backpropagation_through_time) написано, что её нужно обучать как обычную поледовательную нс, что я делать умею. Но, мне всё же непонятно, ведь, при движении в обратном направлении, нужно для каждого момента t изменять веса по известной формуле , а ведь я каждый раз должен изменять веса одного и того же нейрона скрытого слоя. Разве, веса этого нейрона не будут, с каждым преобразованием, стремиться к нулю. Там, по ссылке, что-то говорится про копии нс.
Что имеется ввиду, мне не понятно.
(Такое объяснение, и даже более краткое, я не раз встречал. Но вот, то ли там в копиях нс, которые для каждого времени t, веса меняются. Ну, а дальше, тогда, что с ними делать. Конечное действие везде умалчивается)
Вот кто-бы понятнее объяснил.
Все pdf файлы, на которые там ссылаются, удалены.
Это не является уважительной причиной не прочитать их.
Воспользуйтесь сайтом web.archive.org. Там ЭТИ .pdf есть, например:
http://web.archive.org/web/20211005180002/https://crl.ucsd.edu/~elman/Papers/elman_mcrae_2017.pdf
http://web.archive.org/web/20211005180004/https://crl.ucsd.edu/~elman/Papers/Ellis_et_al-JCommDis2015.pdf
Всего там 74 ссылки, я проверил выборочно пару, они есть. Вытаскивать все вручную - это довольно долго. Но если Вы будете сохранять эти книги в свою личную библиотеку, вытащить книги всё равно придётся.