170 похожих чатов

Кстати, а подскажите пожалуйста, есть ли аналоги rubert-tiny2 с сопоставимой

скоростью на CPU и метриками, но для других языков? Немецкий, испанский, французский, эстонский, украинский, казахский, как пример. Или просто мультиязычная версия)

Или проще будет повторить шаги автора rubert-tiny, но только уже под интересующие меня языки? Вроде блокноты автора выглядят вполне "повторябельными"

2 ответов

16 просмотров

Насколько мне известно, прям такой нет. Мне известна маленькая мультиязычная e5 (https://huggingface.co/intfloat/multilingual-e5-small), но там таки 12 слоев, вместо 3 слоев rubert-tiny2, так что, возможно, она и работать может раза в 4 медленнее, чем rubert-tiny2 (может быть, на CPU даже еще медленнее, потому что для русского там меньше токенов => средняя длина входной последовательности больше). Но, конечно, надо измерять все. Товарищ делал замеры на энкодечке тут; выглядит вроде приятно. Если хочется еще ускорять, я бы в этой модели дропнул несколько наименее полезных трансформерных слоев.

Vlad- Автор вопроса
David Dalé
Насколько мне известно, прям такой нет. Мне извест...

Спасибо большое! И за rubert-tiny2 отдельное спасибо :)

Похожие вопросы

Обсуждают сегодня

Мужики и девушки, привет) в Вelphi xe7 в настройках во вкладке "Editor Options" далее " Color" есть список: "Elements", открыв который мы можем настраивать отображение разных...
Kraszx
14
Добрый вечер. Есть вопрос, а может и предложение. Был у меня диалог в другой группе о делфи и я задался вопросом: "А нельзя ли в делфи цвет //коментария и {комментария} сде...
Kraszx
24
Всем привет! Подскажи, пожалуйста, как передать в TComboBox сразу значение и id записи. На Delphi я делал так: ComboBox1.Items.AddObject('Какое-то значение', Pointer(id запис...
Евгений
13
А вот это что за конструкция? Вернее, она тут нафига?
Serjone
10
Мдя, прикол, боевая сборка запускается (именно под отладчиком) после F9 примерно полторы минуты (97 секунд если быть точным). Начал копать - проблема детектится сразу - зависа...
Александр (Rouse_) Багель
38
Мужики. привет) в Вelphi xe7 в настройках во вкладке "Editor Options" далее " Color" есть список: "Elements", открыв который мы можем настраивать отображение разных элементов...
Kraszx
2
Здравствуйте, вопрос по структурам данных. Были у вас случаи, когда пришлось писать деревья или двунаправленные списки?
/ /
50
Товарищи, кто работа с iphelper? Или может я в самой логике ошибки фигачу, не пойму.... var ifTable : PMIB_IFTABLE; size, corSize: DWORD; Buffer ...
Warfarellen
4
я так понимаю, я так подозреваю, что создание такого плагина для человека, кто умеет писать плагины для делфи потребует минут 5-10 времени. но это мое подозрение. хотелось бы ...
Kraszx
7
Всем привет! Кто пользуется DevExpress, подскажите пожалуйста, реализован ли в TcxGrid в новых версиях поиск по датам как в Экселе (ну т.е. не просто список чекбоксов со значе...
A Z
4
Карта сайта