Gleb Gutnik

Username @Gutnik_Gloom4mill

Телефон —

Как скрыть?

Измените конфиденциальность Username и Телефона в настройках Telegram на «Только контакты» или «Никому» и через некоторое время они исчезнут с сайта

37 просмотров

5 вопросов от Gutnik_Gloom4mill

Natural Language Processing / Gleb Gutnik

Я не специалист, но, кажется, дообучение таких больших моделей требует сумасшедшего объема видеопамяти Для обучения берта используют до 20 карточек типа gp100, кажется Gpt3 эт...

#nlp #programming #russian

14.06.2022

3 ответов

Natural Language Processing / Gleb Gutnik

Всем привет! Вероятно, довольно глупый вопрос :) Как в последовательности токенов, закодированных бертом, только те, которые "участвуют" в self-attention на 3 голове 4 слоя? С...

#nlp #programming #russian

25.06.2022

1 ответов

Natural Language Processing / Gleb Gutnik

Всем привет! Собираюсь конвертировать roberta для русского в longformer-4096 по скриптам AllenAI — может быть, кому-то здесь уже доводилось обучать русский longformer?

#nlp #programming #russian

28.04.2022

2 ответов

Natural Language Processing / Gleb Gutnik

Есть колаб, в котором я обычно запускаю инференс, но он очень уродливый и основан на файлах моего гугл-диска. Если заинтересует, могу дописать его для стороннего использования...

#nlp #programming #russian

22.03.2022

1 ответов

Natural Language Processing / Gleb Gutnik

Привет всем, существует ли трансформер SpanBERT для русского языка? Собираюсь тренировать его на вики, но может есть уже готовый…

#nlp #programming #russian

07.05.2022

2 ответов

967 чатов

Gleb Gutnik

5 вопросов от Gutnik_Gloom4mill