26 января в 16:30 Евгений Голиков, исследователь Лаборатории нейронных систем и глубокого обучения МФТИ, расскажет про серию статей, объединённых темой «Тензорные программы». Семинар пройдет на платформе Zoom — подключиться можно по ссылке. Язык мероприятия — русский.
Тензорная программа — это последовательность действий в некотором языке, позволяющем описать прямой и обратный проходы для широкого класса архитектур нейронных сетей. Польза от формализма тензорных программ заключается в «главной теореме» (master theorem), говорящей о том, как ведут себя величины, встречающиеся в программе, в пределе бесконечной ширины сети. Ряд известных свойств бесконечно-широких сетей оказываются следствиями «главной теоремы». Доклад будет разбит на части, каждая из которых посвящена одному из таких свойств.
Список литературы:
-
Сходимость к гауссовским процессам.
-
Существование предельного касательного ядра.
-
Принцип свободной независимости.