Привет. Вопрос про нейронные сети. Кто-нибудь сталкивался с такой идеей,

Question

Привет. Вопрос про нейронные сети. Кто-нибудь сталкивался с такой идеей,

что функции активации у нейронов имеют свои весовые коэффициенты, которые обучаются вместе с основными коэффициентами?
Например, такая функция активации. f(x, k) = abs(kx) / (1 + abs(kx)). Коэффициент k изменяется во время обучения и таким образом по идее выбирается оптимальная функция активации для текущей задачи.

#database #programming #russian #software

0

13.06.2018