Они будут использовать большие языковые модели. Это тоже самое. Я

Question

Они будут использовать большие языковые модели. Это тоже самое. Я

никогда не буду доверять коду, который типа "безопасный", но сгенерированный тем же матаппаратом, у которого генерируются изображения, где руки с 6 пальцами. За таким кодом нужно проверять все еще раз. Вручную. Там же везде стохастические алгоритмы. Какая тут безопасность?

#communication #programming #russian

0

04.08.2024

2 ответов

14 просмотров

Тающий звук

Под большими языковыми моделями, ты наверно имеешь ввиду трансформеры, которые произвели прорыв в области нейросетей. А разрабатывали их вначале для переводов, но оказалось, что они хорошо обучаются на любые последовательности

0

3 месяца назад

Тающий звук · Accepted Answer

Не доверяй. Никто же не заставляет. То что некоторые нейросети 6 пальцев генерировали — это баги. В первых компиляторах Си тоже было много багов и со временем их устраняли. Точно так же со временем и баги нейросетей будут устранять. Но когда появится нейросеть, в которой ты не будешь видеть багов, ты изменишь своё мнение. Точно также, как компиляторам Си ты же доверяешь ? А поповоду стохастических, не стохастических -- в некоторые модели нейроситей подмешивали случайность, для увеличения скорости обучения. Результат работы всех нейросетей не стохастический, а вероятностный -- они выдают наибольшую вероятность правильного ответа, исходя из того, как их обучили -- чем больше нужных обучающих выборок, тем выше вероятность того, что их ответ будет правильным(если ещё и сама модель нейросети сделана правильно, т.к. там есть и другие проблемы)

172 похожих чатов

Они будут использовать большие языковые модели. Это тоже самое. Я

2 ответов

Похожие вопросы