OpenAI локально: как запустить модели на своём компьютере

Запрос «OpenAI локально» звучит так, будто ChatGPT можно скачать на компьютер и пользоваться им без интернета. Обычно речь о другом: о моделях OpenAI с открытыми весами — gpt-oss, которые можно запустить на своей машине или в контролируемой инфраструктуре.

Сначала полезно разделить три разных сценария:

• ChatGPT — готовый облачный сервис для общения с моделью. Локальная установка ChatGPT не является обычным способом его использования.
• OpenAI API — облачный доступ к моделям из приложения или собственного сервиса. Запросы отправляются через интернет, а использование оплачивается по условиям API.
• gpt-oss — модели с открытыми весами, которые можно загрузить и запускать самостоятельно с помощью подходящего runtime.

Так что локальный OpenAI — это не «офлайн-версия ChatGPT», а самостоятельный запуск gpt-oss.

Какие модели OpenAI можно запустить локально

Сейчас для такого сценария предназначены две модели: gpt-oss-20b и gpt-oss-120b. Числа в названиях указывают на размер модели в миллиардах параметров. Это не означает, что компьютеру обязательно понадобится ровно столько гигабайт: итоговые требования зависят от формата, runtime, настроек и того, какие части модели переносятся между оперативной памятью, видеопамятью и другими ресурсами.

Официальные материалы, включая описание gpt-oss, дают полезные ориентиры для первого выбора: около 16 ГБ памяти для gpt-oss-20b и около 80 ГБ для gpt-oss-120b. Это именно ориентиры для конкретного способа запуска, а не универсальная гарантия скорости или обязательный минимум для любой конфигурации.

В практическом смысле модели можно представить так:

• gpt-oss-20b — более реалистичная точка входа для знакомства с локальным запуском. Она требует заметно меньше ресурсов и удобнее для компьютера, на котором не планируют собирать отдельный сервер.
• gpt-oss-120b — более крупный вариант для инфраструктуры с большим запасом памяти. Перед установкой особенно важно проверить, как выбранный runtime распределяет нагрузку и поддерживает ли нужный способ offload.

Это не сравнительный тест производительности. Одна и та же модель может вести себя по-разному на разных процессорах, видеокартах, объёмах памяти и настройках. Поэтому сначала выбирают не «самую мощную модель вообще», а ту, которую сможет устойчиво обслуживать конкретный компьютер.

Что выбрать: ChatGPT, API или локальную модель

Самый простой ориентир — начать с задачи, а не с названия модели.

Если нужен готовый чат без настройки окружения, подходит ChatGPT. Это удобный облачный продукт: вы открываете сервис и работаете с ним через интернет.

Если нужно встроить облачную модель в приложение, автоматизацию или внутренний инструмент, обычно рассматривают OpenAI API. В этом случае модель тоже не запускается на вашем компьютере: приложение обращается к облачной инфраструктуре OpenAI.

Если важны собственная инфраструктура, контроль над размещением и возможность работать с открытыми весами, можно изучать gpt-oss. Для него понадобится подходящий компьютер или сервер, runtime и время на настройку.

После этой развилки может оказаться, что локальная установка вам не нужна. Например, если задача сводится к доступу к готовому облачному AI-сервису из России, это отдельный маршрут: в каталоге Amber Market можно посмотреть доступные предложения оплаты зарубежных сервисов, выбрать нужную карточку и проверить на ней актуальные условия и итоговую стоимость. Для заказов Amber Market предусмотрена оплата через СБП; услуга предоставляется по подтверждённым условиям выбранной карточки. Amber Market не является официальным сайтом OpenAI, не выдаёт локальные веса и не заменяет документацию OpenAI.

С чего начать локальный запуск

Для первого знакомства удобно использовать Ollama — один из поддерживаемых способов запуска gpt-oss. OpenAI также указывает среди совместимых вариантов vLLM, llama.cpp и LM Studio. Они отличаются интерфейсом, требованиями к окружению и тем, как вы собираетесь обращаться к модели, поэтому не обязательно начинать с самого сложного инструмента.

Безопасный порядок действий выглядит так:

1. Определите, где будет работать модель: на обычном компьютере, рабочей станции с GPU или отдельном сервере.
2. Сверьте доступную оперативную и видеопамять с ориентиром для выбранной модели. Для первого эксперимента обычно разумнее рассматривать gpt-oss-20b.
3. Установите Ollama с официального сайта и проверьте, что команда запускается локально.
4. Скачайте выбранную модель командой ollama pull, затем запустите её через ollama run.
5. Проверьте несколько обычных запросов и только после этого решайте, нужны ли вам дополнительные настройки или другой runtime.

При таком сценарии модель работает на вашей инфраструктуре. Ей не нужен баланс OpenAI API, потому что gpt-oss не предоставляется через OpenAI API. Одновременно это не превращает ChatGPT в локальное приложение: чат, интерфейс и облачные модели ChatGPT остаются отдельным продуктом.

Если позже понадобится подключать локальную модель к собственной программе, это уже следующий этап. Для него стоит отдельно изучить совместимый интерфейс выбранного runtime и ограничения конкретной конфигурации. Не следует публиковать локальный сервис в интернет без продуманной защиты: для первого запуска достаточно оставить его доступным только на своём компьютере или в закрытой сети.

Где уточнить детали

Открытые модели, условия их использования и совместимые способы запуска описаны в официальном материале OpenAI о gpt-oss. Пошаговые команды для Ollama приведены в рецепте OpenAI по локальному запуску.

Если нужно отдельно сопоставить gpt-oss-20b и gpt-oss-120b по требованиям, поможет сравнение моделей и вариантов запуска. А подключение локальной модели к Python через OpenAI-compatible API Ollama — это уже другая задача, разобранная в отдельном материале.

Главная мысль проста: для готового общения выбирайте ChatGPT, для облачной интеграции — OpenAI API, а для запуска OpenAI на своём компьютере ищите gpt-oss и подходящий runtime. Такой выбор сразу снимает главное недоразумение: локально запускаются открытые модели, а не скачанная копия ChatGPT.