Локальные модели vs облачный AI: что выбрать и зачем

Мы изучили несколько часов свежего контента по теме локальных и облачных языковых моделей — сравнительные тесты, практические разборы, живые демонстрации. Материал охватывает три угла: сравнение топовых облачных моделей между собой, честный тест 15 нейросетей на бесплатных тарифах и развёрнутый разбор того, зачем вообще запускать модели локально.

Аудитория этих разборов — люди, которые уже используют AI в работе и хотят понять, куда двигаться дальше: платить больше, переходить на другой инструмент или поднять собственную инфраструктуру. Если вы из таких — читайте дальше.

Главный вывод, который прослеживается во всех материалах: универсального победителя нет. Выбор модели — это всегда функция от задачи, бюджета и того, насколько вам важна конфиденциальность данных.

ChatGPT 5.5 vs Claude: что изменилось и кому это важно

Долгое время расклад был простым: Claude лидировал по качеству текста и работе с длинным контекстом, ChatGPT — по экосистеме и узнаваемости. Сейчас картина сложнее.

ChatGPT 5.5 — это не очередное дообучение. Все версии между 5.1 и 5.4 строились поверх старой базы. 5.5 — первая полностью переобученная модель с новой архитектурой за два года, начиная с версии 4.5. Это принципиальное отличие, которое большинство обзоров обходит стороной.

По бенчмаркам 5.5 обгоняет Claude Opus 4 в большинстве задач, особенно по показателю terminal bench — с заметным отрывом. OpenAI заявляет, что модель выполняет больше задач без потери контекста и с меньшим количеством шагов согласования.

Что реально изменилось в инструментарии:

▶ 07:10

• Codex получил масштабное обновление. Теперь он умеет генерировать изображения прямо внутри среды разработки, управлять компьютером (кликать, печатать, запускать приложения), работать в фоновом режиме параллельно с основной работой пользователя, открывать встроенный браузер для просмотра создаваемых сайтов в реальном времени.
• За одно апрельское обновление в Codex добавили 90 новых интеграций: GitHub, Google, Kanban-инструменты и другие.
• Интерфейс Codex показывает количество строк кода, список файлов, историю изменений — всё в одном окне без переходов в отдельный файловый менеджер. По удобству это сравнимо с Cursor.

Практический тест: одно и то же приложение для учёта финансов создавалось одним промптом в обоих инструментах. Результат в ChatGPT 5.5 — красивый дизайн, графики, AI-интерфейс для ввода данных с автоматической категоризацией транзакций, история операций, экспорт бюджета. Всё за один промпт. Ещё год назад такое считалось прерогативой Claude с его длинным контекстом. Сейчас это утверждение устарело.

Итоговая рекомендация по подпискам

Разберём по пунктам — без размытых формулировок:

• $20/мес → ChatGPT без вариантов.
• $100/мес, приоритет — вайб-кодинг и разработка → ChatGPT. Лимиты Claude на этом тарифе часто не хватает для серьёзных сессий.
• $100/мес, приоритет — обычные LLM-задачи (контент, исследования, общение) → Claude всё ещё конкурентоспособен.
• $200/мес, профессиональное использование → Claude. Причина: цикл обновлений около 6 недель, и исторически Claude не просто догонял конкурентов, а выходил вперёд. Следующий релиз снова изменит расстановку сил.

Бесплатные нейросети: кто реально работает, а кто — нет

Мы изучили результаты масштабного тестирования 15 нейросетей исключительно на бесплатных тарифах — без привязки карты, без платных подписок. Семь раундов: копирайтинг, анализ данных, код, логика, исследование, суммаризация, русский язык. Максимум — 70 баллов.

Три модели выбыли ещё до старта или в первом раунде: Meta AI недоступна из России без сложного обхода блокировок, GigaChat потребовал авторизацию через сторонний сервис и перестал работать.

Кто победил и почему

Gemini — первое место. Лучшая нейросеть на бесплатном тарифе по совокупности задач. В анализе данных нашёл нетривиальный инсайт: рейтинг товара на маркетплейсе практически не влияет на продажи. В суммаризации каждый тезис — полноценный смысловой текст, видны связки между идеями. В исследовательском раунде — конкретные примеры компаний, причинно-следственные связи, детальные объяснения.

Copilot — второе место. Стабильный результат почти во всех категориях. В анализе данных нашёл связь между трафиком и внешним спросом, выделил B2B-сегмент в расходниках, кластер «умный дом» как точку роста. В раунде по коду выдал 32 000 символов с полным решением задачи.

Le Chat (Mistral) и Qwen — третье место, поровну. Неожиданный результат для моделей, которые большинство пользователей даже не рассматривает. Qwen в копирайтинге получил 10/10: хороший хук, чистая структура, конкретные выгоды. В раунде по коду — 57 000 символов, самый большой объём среди всех участников.

DeepSeek — приятный сюрприз. Модель, которую многие считали «хайповой пустышкой», показала сильные результаты в исследованиях и суммаризации. Второй результат после Gemini в исследовательском раунде.

Perplexity — пятое место. Единственная модель, которая верифицировала ссылки на источники. Если нужен поиск с подтверждёнными ссылками — лучший выбор на бесплатном тарифе. Глубина исследований средняя, но честность источников компенсирует.

Яндекс GPT предсказуемо лидирует в задачах на русский язык. Самый естественный русскоязычный текст среди всех участников — ощущение живого носителя языка. Правильно объяснил разницу между «одеть» и «надеть», что для нейросети до сих пор нетривиально.

Что с ChatGPT и Claude на бесплатных тарифах

ChatGPT — седьмое место. На бесплатном тарифе средний результат. В анализе данных загрузил файл, но инсайты уровня «следи за остатками» — это здравый смысл, не анализ. В копирайтинге — узнаваемые шаблонные конструкции. На платной версии — один из лучших вариантов благодаря большому контексту и отсутствию жёстких лимитов.

Claude на бесплатном тарифе — категорически не рекомендуется. Начинает сильно: в анализе данных нашёл 267 SKU с дефицитом, 91 позицию с определённым объёмом выкупа. Но лимиты заканчиваются до завершения задачи. В раунде по логике — единственная модель, которая не дала ответа вообще. В раунде по коду — хорошая архитектура, но код обрезан без предупреждения. Claude становится полезным инструментом только от $100–200 в месяц.

Локальные модели: когда это имеет смысл, а когда — нет

Короче: локальные модели — это не замена облачным. Разрыв в интеллекте, контексте и стабильности слишком велик. Сравнение примерно такое: senior-разработчик против джуна, которому платят в 10 раз меньше.

Но это не значит, что локальные модели бесполезны. Просто у них другая ниша.

Почему локальные модели не равны облачным

Три ключевых ограничения:

1. Интеллект. Модель Qwen на 37 млрд параметров занимает лишь 25-е место на LM Arena — ниже Claude и GPT-5. При этом инфраструктура для её запуска стоит от 10 млн рублей. Квантизация дополнительно снижает качество: модель начинает путаться, выдавать иероглифы в русском тексте, зацикливаться на простых вопросах. Это как умный человек, у которого «забрали часть словарного запаса»: мысль есть, но выразить точно не получается.

2. Контекст — критический ограничитель. Каждый запрос к агентной системе несёт не только сам вопрос, но и системный промт — порядка 10 000 токенов только на «привет». На RTX 3090 с 24 ГБ видеопамяти модель Qwen 35B занимает 22 ГБ при загрузке — на контекст остаётся около 2 ГБ, что даёт примерно 2 000–20 000 токенов. GPT-5 имеет контекст 400 000 токенов. Реальная кодинг-сессия легко уходит за 69 000 токенов. Контекст — как бак автомобиля: никакими ухищрениями нельзя заставить машину с баком на 10 литров проехать столько же, сколько с баком на 50.

3. Агентные решения на локальных моделях — бессмысленно. Модель недостаточно умна, контекст слишком мал, результат — постоянные циклы и сбои. Запускать сложные агентные пайплайны на локальной модели — это как пытаться запустить современную игру на калькуляторе.

Для каких задач локальные модели реально подходят

• Конфиденциальные данные: расшифровка записей, анализ внутренних документов без отправки в облако. Это главный аргумент для бизнеса.
• Личное использование: пересказ текстов, работа с ТЗ, анализ документов, помощь с учёбой. Работает комфортно.
• Извлечение смысла из текста: даже модель на 0.8 млрд параметров может определить, есть ли в тексте просьба — задача, которую раньше решали сложными алгоритмами.

Квантизация: что это и почему важно знать

Языковые модели работают с векторами — многомерными числовыми представлениями слов. Каждый параметр — число с плавающей запятой. Квантизация — это сжатие точности этих чисел: вместо 16 знаков после запятой оставляют 8, 6 или 4. Параметров столько же, но каждый «грубее».

В LM Studio это видно наглядно: у каждой модели есть варианты Q8, Q6, Q4 — чем меньше число, тем меньше занимает модель, но тем ниже качество. Именно квантизация сделала возможным запуск больших моделей на потребительских видеокартах. Без неё для GPT-3 (175 млрд параметров) потребовалось бы минимум 5 видеокарт по 80 ГБ каждая.

Железо и инструменты: что реально нужно

Видеокарты

Запуск на процессоре — в 30 раз медленнее, чем на видеокарте. Это неюзабельно: одно слово за 2 секунды вместо предложения за 2 секунды.

• RTX 3090 (24 ГБ) — рабочая лошадка для локальных задач. Б/у с майнинга: 52 000–60 000 рублей. Морально устарела, но для локального запуска более чем подходит.
• RTX 4090 — следующий уровень для более серьёзных задач.
• P4100 (8 ГБ, серверная карта) — около 2 000 рублей. Две такие карты дают 16 ГБ и позволяют запустить модель на 20B со скоростью 40 токенов в секунду — вполне комфортно.

Инструменты для запуска

Ollama — самый простой вход: ставится одной командой, есть каталог моделей. Умеет автоматически переключаться между моделями. Минусы: новые модели появляются с задержкой, не подходит для продакшна — нет тонкого контроля над памятью.

▶ 48:27

LM Studio — лучший выбор для личного использования. Ищет модели напрямую на Hugging Face, позволяет выбрать конкретный квант при скачивании, настроить контекст, распределение между видеокартой и процессором. Под капотом использует llama.cpp. Можно запустить как локальный сервер и подключить к нему другие инструменты.

llama.cpp — для продакшн-решений и серверного запуска. Только командная строка, зато полный контроль: сколько слоёв выгрузить на видеокарту, размер контекста, количество потоков, батчинг. Параметры подбираются методом тыка под каждую видеокарту и каждую модель — универсального рецепта нет.

Open WebUI — опенсорсный интерфейс в стиле ChatGPT. Позволяет подключать и облачные, и локальные модели одновременно.

▶ 37:25

Личный фаворит для баланса интеллекта и скорости на RTX 3090 — Qwen 3.5 на 35 млрд параметров: хорошо справляется с большинством личных задач при комфортной скорости генерации.

Практический раздел: что делать прямо сейчас

Если вы выбираете облачную подписку

1. Определите основной тип задач: кодинг/разработка или текст/исследования.
2. Бюджет $20 → ChatGPT, без обсуждений.
3. Бюджет $100, кодинг → ChatGPT (Codex). Проверьте интеграции с вашим стеком.
4. Бюджет $100, текст → протестируйте Claude и ChatGPT на своих реальных задачах, не на синтетических промтах.
5. Бюджет $200, профессиональная работа → Claude. Следите за циклом обновлений.

Если вы хотите попробовать бесплатные альтернативы

▶ 04:20

1. Начните с Gemini — лучший общий результат на бесплатном тарифе.
2. Для поиска с верифицированными ссылками — Perplexity.
3. Для задач на русском языке — Яндекс GPT.
4. Для кодинга на бесплатном тарифе — Copilot или Perplexity (оба дали 32 000 символов полного кода).
5. Claude на бесплатном тарифе не используйте — лимиты закончатся в середине задачи.

Если вы рассматриваете локальный запуск

▶ 04:23

1. Без видеокарты не начинайте — запуск на CPU неюзабелен.
2. Минимальный вход — RTX 3090 б/у (~55 000 рублей) или две P4100 (~4 000 рублей суммарно).
3. Старт — LM Studio: скачайте, найдите модель на Hugging Face, выберите Q4 или Q6 квант под ваш объём видеопамяти.
4. Для продакшна — переходите на llama.cpp, подбирайте параметры под своё железо.
5. Не запускайте агентные пайплайны на локальных моделях — контекст не вывезет.

Что мы заметили: где материалы сходятся, где расходятся

Сходятся все: - Локальные модели — не замена облачным для сложных задач. Это отдельный инструмент с отдельной нишей. - Claude на бесплатном и дешёвых тарифах — плохой выбор из-за лимитов. На дорогих — один из лучших. - ChatGPT 5.5 реально изменил расстановку сил в сторону OpenAI, особенно в инструментах для разработки.

Расходятся в оценке перспектив:

Подход А — более оптимистичный в отношении локальных моделей: они будут развиваться в сторону узкой специализации. Отдельные модели для медицины, кодинга, юриспруденции — меньше, быстрее, точнее в своей нише. Через 3–5 лет на рынок выйдут б/у видеокарты уровня A100 (сейчас используются в дата-центрах), что сделает мощный локальный запуск значительно дешевле.

Подход Б — более прагматичный: разрыв между локальными и облачными моделями настолько велик, что специализация не решит проблему интеллекта и контекста. Для агентных задач облако останется безальтернативным ещё долго.

Расходятся в оценке Gemini:

В тесте бесплатных тарифов Gemini занял первое место с большим отрывом. В сравнении топовых платных моделей Gemini практически не упоминается — фокус на Claude и ChatGPT. Это говорит о том, что Gemini силён именно на бесплатном уровне, но в профессиональном сегменте пока не рассматривается как основной инструмент.

Итог

▶ 01:17

Рынок AI-инструментов сейчас находится в точке, где правильный выбор зависит не от бренда, а от конкретного сценария использования. ChatGPT 5.5 с новой архитектурой — это реальный сдвиг, а не маркетинг. Локальные модели — это реальный инструмент, но с чёткими границами применимости.

Практический совет: не выбирайте инструмент по обзорам — тестируйте на своих задачах. Возьмите три реальных задачи из своей работы, прогоните через Gemini, Copilot и ChatGPT на бесплатных тарифах. Результат удивит — в обе стороны.