Локальная нейросеть — это языковая модель (LLM), которая работает на сервере вашей компании или в арендованном сервере в российском ЦОД, а не в чужом облаке. Запросы, документы и данные 1С не покидают ваш контур. Модель с открытыми весами — DeepSeek, Qwen, GigaChat, YandexGPT 5 Lite, Llama — скачивается один раз и дальше работает без интернета.
Мы подбираем модель и сервер под задачу, разворачиваем LLM на своём сервере, подключаем к ней ваши документы (RAG), 1С и Битрикс24 и учим сотрудников с ней работать. Начинаем с пилота: проверяем, хватает ли качества локальной модели именно на ваших задачах.
Когда нужна локальная LLM
- Служба безопасности запретила отправлять документы в ChatGPT, Claude и любые облака
- В данных — персональные данные клиентов и сотрудников, а 152-ФЗ никто не отменял
- Коммерческая тайна, гостайна или объект КИИ: внешние сервисы не подходят по определению
- Рабочая сеть закрыта от интернета, облачные нейросети в ней просто недоступны
- Запросов много, и оплата облачной модели за каждый токен становится заметной строкой расходов
- Сотрудники уже пробовали локальную нейросеть на ПК через Ollama — нужно сделать из этого рабочий сервис для всех
19 задач, которые решаем с локальными моделями
Что делаем
- модели под задачу и лицензию
- конфигурация сервера — ориентир для закупки
- сравнение с облачным вариантом
- Linux или Astra Linux
- API для 1С, Битрикс24 и своих сервисов
- чат в браузере для сотрудников
- договоры, регламенты, инструкции, письма
- ответ со ссылкой на документ
- доступ — по правам сотрудника
- данные 1С — с правами пользователя
- Битрикс24: сделки, задачи, открытые линии
- без выгрузки баз наружу
Какой сервер нужен для локальной LLM
| Размер модели | Примеры | Память видеокарт (4 бит) | Где запускать |
|---|---|---|---|
| 7–10 млрд параметров | Qwen3 8B, YandexGPT 5 Lite 8B, Llama 3.1 8B, GigaChat 3 Lightning | 8–16 ГБ | Компьютер для локальной нейросети с одной игровой видеокартой; пилот и простые задачи |
| 14 млрд | Qwen3 14B, DeepSeek-R1 Distill 14B | 12–24 ГБ | Рабочая станция с одной видеокартой |
| 30–32 млрд | Qwen3 32B, Qwen3 30B-A3B, Qwen3-Coder 30B | 24–48 ГБ | Сервер с одной-двумя видеокартами; рабочий вариант для RAG и ассистента |
| 70 млрд | Llama 3.3 70B, DeepSeek-R1 Distill 70B | 48–80 ГБ | Сервер с двумя профессиональными GPU или одним на 80 ГБ |
| 200+ млрд (MoE) | Qwen3 235B-A22B | 130–160 ГБ | Сервер с 2–4 профессиональными GPU |
| 670–700 млрд | DeepSeek V3 / R1, GigaChat 3 Ultra | от 400 ГБ | GPU-сервер уровня ЦОД (8 ускорителей) — для крупных компаний |
Цифры — ориентиры по открытым данным разработчиков моделей, не коммерческое предложение. Без видеокарты модель тоже запускается — на процессоре и оперативной памяти, но в разы медленнее.
Какие нейросети можно установить локально
Как это работает на примере
вопрос менеджера
индекс на вашем сервере
что ему можно видеть
- Нашёл в индексе нужные регламенты
- Проверил права пользователя
- Сформулировал ответ локальной моделью
- Указал документ и пункт
- Записал запрос в журнал
Порядок и список согласующих
Регламент, пункт
Не покидали сервер
Уточнение — в том же чате
вопрос директора
запрос с правами пользователя
без облака
- Понял вопрос
- Запросил данные в 1С
- Собрал таблицу должников
- Написал краткую сводку
- Предложил письма-напоминания
Должники, суммы, дни просрочки
Абзац для руководителя
Письма клиентам
Остались в контуре
претензия по поставке
переписка, договор
по правилам компании
- Определил тему и срочность
- Нашёл сделку и клиента
- Сделал резюме переписки
- Подготовил черновик ответа
- Поставил задачу ответственному
Ответственному со сроком
Суть претензии в карточке
Ответ клиенту
Не уходили в облако
рабочие места программистов
на сервере компании
не уходят наружу
- Подключили модель к редакторам кода
- Настроили правила и навыки команды
- Код проверяется платформой и тестами
- Изменения — в git с откатом
- Обучили программистов
Код и объяснения в редакторе
Остались в компании
Навыки команды у вас
Ревью человека
Что нужно, кроме самой модели
Всё работает в вашем контуре
Схема типового развёртывания: модель, поиск по документам и чат стоят на сервере компании. 1С и Битрикс24 общаются с моделью по внутренней сети. Наружу не уходит ничего — даже обновление модели можно привезти на носителе.
API совместим с облачными сервисами, поэтому если облачная модель для части задач разрешена, переключить их можно без переделки.
# Контур компании, без интернета сервер GPU (Astra Linux / Linux) ├─ LLM: Qwen3 32B, 4 бит → API для систем ├─ эмбеддинги + векторный индекс → поиск по документам ├─ чат для сотрудников → вход по учётной записи └─ журнал запросов и мониторинг 1С:Предприятие ──▶ запросы с правами пользователя Битрикс24 (коробка) ──▶ сделки, задачи, письма файловый архив ──▶ регламенты, договоры Наружу: ничего
Российский контур: Astra Linux и 1С
Если локальная LLM нужна из-за требований к защите информации, обычно на этом не заканчивается: следом встают вопросы операционной системы, антивируса и учётной системы. Этим мы занимаемся давно — у нас есть отдельное направление «Переход на российское ПО».
Мы — авторизованный партнёр «Группы Астра». Astra Linux Special Edition — сертифицированная ОС со встроенными средствами защиты информации для госорганизаций, объектов КИИ и систем с персональными данными. Разворачиваем сервер для локальной нейросети на Astra Linux и переводим на неё рабочие места — подробнее об Astra Linux. Совместимость драйверов видеокарт и выбранной редакции ОС проверяем на пилоте.
А ИИ мы используем каждый день сами: наша разработка 1С с ИИ-агентом идёт в 6 раз быстрее, этому мы учим команды 1С на AI Camp.
Данные не покидают контур
Локальная или облачная модель — честно
- Самые сильные облачные модели пока умнее открытых — особенно в сложных рассуждениях
- Сервер с видеокартами — это закупка или аренда, плюс электричество и обслуживание
- Обновлять модель и следить за сервером — ваша задача или наша по договору сопровождения
- При небольшом числе запросов облако обычно дешевле
Начинаем с пилота
Бесплатный разбор: какую нейросеть и какой сервер выбрать для вашей задачи
Вопросы про локальные LLM
Что такое локальная нейросеть и как она работает?
Это языковая модель, файлы которой (веса) скачаны и запущены на вашем компьютере или сервере. Запрос сотрудника обрабатывается на этом сервере, ответ возвращается без обращения к внешним сервисам. Как работают локальные нейросети внутри — так же, как облачные: разница только в том, где стоит железо и кто видит данные.
Какие LLM можно развернуть локально в 2026 году?
Модели с открытыми весами: DeepSeek V3 и R1, семейство Qwen3, GigaChat 3 Lightning и Ultra от Сбера, YandexGPT 5 Lite от Яндекса, Llama, Mistral, Gemma. Лучшие локальные LLM меняются каждые несколько месяцев, поэтому рейтинги быстро устаревают — выбираем модель на пилоте, на ваших примерах. Облачные ChatGPT, Claude, YandexGPT 5 Pro и старшие GigaChat локально не ставятся.
Можно ли запустить DeepSeek локально?
Да, у DeepSeek открытые веса под лицензией MIT. Полная модель на 671 млрд параметров требует GPU-сервера уровня ЦОД. Для одного сервера подходят дистиллированные версии DeepSeek-R1 на 14–70 млрд параметров или модели Qwen3 сопоставимого размера.
Можно ли поставить GigaChat или YandexGPT на свой сервер?
Открытые версии — да: GigaChat 3 Lightning и Ultra Preview Сбер выложил под лицензией MIT, YandexGPT 5 Lite — на условиях лицензии Яндекса. Старшие модели доступны через облака вендоров: GigaChat — у Сбера, YandexGPT 5 Pro — в Yandex Cloud; данные там обрабатываются в России.
Какой компьютер или сервер нужен для локальной LLM?
Главное — память видеокарты. Модель на 7–10 млрд параметров запускается на компьютере с одной видеокартой на 12–16 ГБ, рабочая модель на 30 млрд для ассистента и поиска по документам — на сервере с 24–48 ГБ видеопамяти, модели на 70 млрд и больше — на сервере с несколькими профессиональными GPU. Ориентиры — в таблице выше; точную конфигурацию считаем под число пользователей и объём документов.
Будет ли работать без видеокарты, на обычной оперативной памяти?
Будет, но медленно: на процессоре скорость ответа в разы ниже, чем на видеокарте. Для пробы и одного пользователя этого хватает, для сервиса на всю компанию — нет.
Ollama и LM Studio — этого не достаточно?
Для знакомства с моделью на своём ПК — достаточно, мы и сами так проверяем модели. Для компании нужен сервер с очередью запросов на много пользователей, вход по учётным записям, права доступа к документам, журнал, мониторинг и связка с 1С и Битрикс24. Это и есть наша работа.
Нужно ли обучать или дообучать локальную модель?
Чаще всего нет. Знания компании подключаем через поиск по документам (RAG): модель отвечает по вашим регламентам и договорам и показывает источник. Правила работы задаём текстом. Дообучение нужно редко — для узкой терминологии или формата ответов, и его делаем после пилота, если без него не обойтись. Подробнее про RAG — «База знаний с ИИ».
Локальная нейросеть подходит для работы с документами?
Да, это основной сценарий: ответы по регламентам, резюме и проверка договоров, перевод текста, черновики в Word и Excel. Модель видит документы только внутри контура. Подробно про задачи с документами — «ИИ для документов».
Можно ли использовать локальную LLM для программирования?
Да. Модели для кода (например, Qwen3-Coder) подключаются к VS Code и OpenCode, исходники остаются в компании. Для сложных задач облачные модели пока сильнее — если политика безопасности разрешает, сочетаем. Как мы работаем с ИИ в разработке 1С — «ИИ для 1С».
Работает ли это на Astra Linux и в закрытом контуре?
Да, разворачиваем сервер на Linux, в том числе на Astra Linux, и без доступа к интернету — модель и обновления привозим на носителе. Совместимость драйверов видеокарт с редакцией ОС проверяем на пилоте. Мы авторизованный партнёр «Группы Астра» — см. «Переход на российское ПО».
Сколько стоит и как быстро?
Разбор задачи — бесплатно. Пилот на одной задаче — 2–4 недели, цена — после разбора; железо оплачивается отдельно, сервер можно арендовать на время пилота. Внедрение — от месяца. Подробно об этапах — «Внедрение ИИ в бизнес».
Что ещё посмотреть
Ещё на сайте
Гильдия консультантов — это:
- Установка программного продукта (с выездом или удаленно)
- Обучение в соответствии с выходящими изменениями в законодательстве и самой программе
- Консультации специалистов по применению программного обеспечения
