215 похожих чатов

Уважаемые чатлане, а не встречалось ли кому исследований на тему

дистилляции нейросетей до состояния интерпретируемых параметрических функций? Здесь «интерпретируемая» употреблено как синоним «не слишком длинная», а также как «не очень сложная» (в математическом смысле сложности функций).

Простой пример: экспоненту аппроксимировать нейросетью - можно. А вот можно ли, наоборот, подобрать какую-то не очень сложную функцию под эту обученную нейросеть? (идеально в приведенном примере будет показательная функция с оптимизируемым основанием и параметром показателя).

9 ответов

14 просмотров

Если правильно понял, то вы хотите подать на вход точки а на выходе получить функцию, которая аппроксимирует эти точки, причём функция должна быть не чёрным ящиком. Да, можно, вы можете апроксимировать каким-нибудь полиномом например или любой другой функцией, подбирая веса(коэффициенты) методами той же нейронки или ml или с помощью готовых библиотек, например numpy(не знаю как у них реализовано)

Michael-K. Автор вопроса
wm0
Если правильно понял, то вы хотите подать на вход ...

Да, хочется "не черный ящик". При этом принципиально полином от нейросети не отличается. Полином - та же нейросеть, только в качестве нелинейности будет возведение в степень. Хочется не композицию из фиксированного количества одинаковых функций (скажем, степеней аргумента - получится полином), а именно подбор "архитектуры" (заимствую термин из нейросетевых) без ограничения на семейство используемых элементарных функций.

Michael K.
Да, хочется "не черный ящик". При этом принципиаль...

Можно придумать разные конструкции типа корня, степени и тд и комбинировать их в переборе (а лучше генетич алгоритмами, тут сходимость есть в отличии от простого перебора и не нужна дифференцируемость функции) К сожалению другого решения не знаю, но возможно оно есть )

Michael-K. Автор вопроса
wm0
Можно придумать разные конструкции типа корня, сте...

Да, вот именно об этом и спрашиваю. Видели ли исследования, в которых показано, как это сделать быстро и правильно? Мне тоже кажется, что это должна быть генетическая оптимизация.

Не так понял, исследования не встречал, но если знакомы с генетич. алгоритмами, то что-то простое реализовать не сложно будет по этой теме

Michael-K. Автор вопроса
wm0
Не так понял, исследования не встречал, но если зн...

Да, думал именно в эту сторону копать. Спасибо!

Michael-K. Автор вопроса

Уважаемые чатлане, если у кого-то появятся идеи на этот предмет, буду благодарен за ссылки!

Michael-K. Автор вопроса

Похожие вопросы

Обсуждают сегодня

30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
Карта сайта