170 похожих чатов

Коллеги, подскажите, почему в interact llamacpp мы делаем eval системных

токенов, но потом их же подаём в generate? (так как там +=). Почему нужно делать и то и другое?

3 ответов

3 просмотра

Кстати, не обязательно. Я убирал из generate и он все равно себя помнил. И наоборот.Возможно, это для конкретных задач сделано.

Нашел такой ответ: eval используется для вычисления системных токенов, а затем они добавляются к текущим токенам с помощью +=, чтобы использовать их в генерации ответа на сообщение пользователя. Если кратко, eval используется для вычисления значений системных токенов, а += используется для добавления их к текущим токенам, чтобы использовать их в генерации ответа на сообщение пользователя.

Павел- Автор вопроса
Sergey
Нашел такой ответ: eval используется для вычислени...

разве не get system tokens даёт нам токены? или это какие-то другие "значения" системных токенов?

Похожие вопросы

Обсуждают сегодня

А чем вам питонисты не угодили?😂
.
79
Язык Си можно выучить за день? По книжке ANSI C на 230 страниц
Vincent Vegan
29
Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
75
Dim Dim, [02.07.2024 11:07] DB 0x62 Dim Dim, [02.07.2024 11:07] DB 0x66 Dim Dim, [02.07.2024 11:07] кто пояснит что это?
Dim Dim
14
Ошибка: segmentation fault (core dumped) Код: pastebin.com/BEsNNSSV Сообщение от компилятора: отсутствует ОС: Arch Linux Ядро: x86_64 Linux 6.9.7-arch1-1 Процессор: Intel Cele...
sec
4
Ребят, а за скок можно впарить анон чат с апишкой и веб админкой ?
Eugene Неелов
15
Ещё такой вопрос. Мне необходимо хранить пароль пользователя локально. Для этого планирую использовать ini файл. Это для автозаполнения полей логин и пароль при авторизации. Е...
Евгений
19
Кстати, я тут еще с одной темой столкнулся, вот учу я C++, на таком то ресурсе, а остальные постоянно советуют практиковаться, что то писать, проекты, но как писать если вот т...
aaswq1
7
@ahndmn @ayaw0_0 здарова, на чем пишете?
Aiwan \ (•◡•) / _bot
7
Коллеги, как получить PId для собственного процесса из под линукса?
Роман Лях (rgreat)
6
Карта сайта