Народ, есть кто пользовался библиотекой BrainJS? Можно ли получить примерные входные

Question

Big Data Science :: AI / Big Data / Machine Learning / MLOps

3.1415

Народ, есть кто пользовался библиотекой BrainJS? Можно ли получить примерные входные

данные исходя из выхода(output'а) нейронки?

#database #programming #russian #software

0

04.01.2022

5 ответов

17 просмотров

iory

Misha
https://towardsdatascience.com/pytorch-shap-explai...

а как оно это всё считает? я на хабре почитал статью, говна навернул не по теме и так не понял. У меня модель с кучей разных входов и этот фреймворк не работает, а интерпретировать предсказания хотелось бы

0

04.01.2022

Misha

работает оно таким образом, что подсвечивает области изображения, которые максимально тригернули нейроны в сети, если она свёрточная 2д

0

04.01.2022

iory

Misha
работает оно таким образом, что подсвечивает облас...

какой-то слишком наивный способ. А причём тут тогда SHAP (SHapley Additive exPlanations) is a game theoretic approach to explain the output of any machine learning model

0

04.01.2022

Misha

iory
а как оно это всё считает? я на хабре почитал стат...

это про подход в книге Шолле. либа, которую я кинул, ещё имеет вычисления с теорией игр и векторами Шаппле

0

04.01.2022

Misha · Accepted Answer

https://towardsdatascience.com/pytorch-shap-explainable-convolutional-neural-networks-ece5f04c374f первая ссылка, что нагуглил) одно дело фреймворк,а другое дело представление модели и весов, они же по идее должны быть общего формата (ну, или в onnx переводятся), хотя точно сказать не могу

215 похожих чатов

Народ, есть кто пользовался библиотекой BrainJS? Можно ли получить примерные входные

5 ответов

Похожие вопросы