безопасно использовать, чтобы код не утёк? что посоветуете?
кто-то self-хостил какие-то модели помощников?
macbook'и (M-серии) для этого годятся?
А ты что именно боишься что у тебя утечет? В контракте твоем рабочем что-то прописано или что?
Пару часов назад пробовал https://lmstudio.ai/ на м1 - там вроде есть возможность включить локальное апи. Еще https://github.com/go-skynet/LocalAI на домашнем серваке в microk8s норм разворнулся (если не считать того что кроме gpt4all пока ничего не получилось поднять 😅)
Обсуждают сегодня