Консольный ИИ-ассистент Claude Code от Anthropic стал мощным инструментом для разработчиков, позволяя автоматизировать написание кода, рефакторинг и запуск тестов прямо в терминале. Однако по умолчанию утилита жестко привязана к официальному API Anthropic.
Для многих разработчиков прямая работа с зарубежными облаками затруднена из-за лимитов, региональных ограничений или корпоративных политик безопасности. В этой статье мы подробно разберем, как перенаправить запросы из Claude Code на модели, развернутые в Яндекс Облаке (например, deepseek-v4-flash), используя локальный транслирующий прокси-сервер.
Архитектурный барьер: почему нельзя подключиться напрямую?
Попытка просто подставить адрес API Яндекса в настройки Claude Code завершится ошибкой. Проблема кроется в несовместимости протоколов:
- Claude Code общается исключительно на языке Anthropic Messages API (конечная точка
/v1/messages). - Яндекс Облако (AI Studio) предоставляет OpenAI-совместимый интерфейс (конечная точка
/v1/chat/completions).
Для решения этой проблемы необходим посредник, который будет принимать запросы от Claude Code, переводить их из формата Anthropic в формат OpenAI, добавлять специфические заголовки авторизации Яндекса и отправлять адресату. В роли такого переводчика в нашем примере выступает утилита с открытым исходным кодом — LiteLLM.
Преимущества интеграции
- Экономия бюджета: Стоимость токенов в Яндекс Облаке на быстрых моделях часто оказывается значительно ниже прямых тарифов зарубежных провайдеров (не забываем про оплату в рублях и отечественным картами и пр. методами оплаты). Подробнее об экономии токенов при работе с моделями см. тут.
- Разгрузка локальной машины: В отличие от полностью локального запуска тяжелых моделей через Ollama, облачный запуск не нагружает видеокарту и процессор вашего компьютера.
- Безопасность сетевых запросов: Настройка позволяет обращаться к моделям через официальный корпоративный аккаунт облачного провайдера (нет трансграничной передачи данных).
Шаг 1. Подготовка и установка LiteLLM на Windows
Установка LiteLLM в современных средах (особенно на Windows под управлением Python 3.14) может сопровождаться ошибками компиляции зависимостей (например, библиотеки orjson, написанной на Rust). Чтобы избежать этого, мы воспользуемся установкой только предварительно скомпилированных пакетов (wheels).
Откройте терминал и выполните последовательно следующие три команды:
# 1. Обновляем установщик пакетов pip для поддержки актуальных тегов Python 3.14
python -m pip install --upgrade pip
# 2. Очищаем локальный кэш, чтобы pip не пытался установить старые версии из архивов
pip cache purge
# 3. Устанавливаем LiteLLM, запрещая компиляцию из исходников (используем только готовые сборки)
pip install "litellm[proxy]" --only-binary=:all: --upgradeВажно для пользователей Windows: Если в процессе установки вы увидели предупреждение (WARNING) о том, что исполняемые файлы установлены в папку, которой нет в переменной окружения
PATH(например,...\Python314\Scripts), добавьте этот путь в переменные окружения пользователя или запускайте команды, указывая полный путь к файлу.
Шаг 2. Создание файла конфигурации транслятора
Для работы LiteLLM необходим файл конфигурации, в котором описывается, как сопоставлять модели Anthropic с эндпоинтами Яндекса. Создайте файл litellm_config.yaml в рабочей директории:
model_list:
- model_name: "yandex-deepseek"
litellm_params:
# Префикс openai/ указывает LiteLLM использовать стандартный клиент OpenAI
model: "openai/gpt://<ВАШ_YANDEX_FOLDER_ID>/deepseek-v4-flash/latest"
api_base: "https://ai.api.cloud.yandex.net/v1"
api_key: "ВАШ_API_КЛЮЧ_ЯНДЕКС_ОБЛАКА"
extra_headers:
x-folder-id: "<ВАШ_YANDEX_FOLDER_ID>"
router_settings:
# Сопоставляем стандартные имена моделей Claude с нашей настроенной моделью Яндекса
model_group_alias:
"claude-3-5-sonnet-20241022": "yandex-deepseek"
"claude-3-5-haiku-20241022": "yandex-deepseek"
"claude-3-7-sonnet-20250219": "yandex-deepseek"
"claude-sonnet-5": "yandex-deepseek"Шаг 3. Запуск локального прокси-сервера
Запустите прокси-сервер, который будет слушать входящие запросы на порту 4000. Если пути к скриптам Python у вас не добавлены в системный PATH, выполните запуск по полному пути:
Для командной строки CMD:
C:\Users\ИмяПользователя\AppData\Roaming\Python\Python314\Scripts\litellm --config litellm_config.yaml --port 4000Для PowerShell:
& C:\Users\ИмяПользователя\AppData\Roaming\Python\Python314\Scripts\litellm --config litellm_config.yaml --port 4000Оставьте это окно терминала открытым — оно будет служить мостом для передачи данных.
Шаг 4. Настройка профиля в Claude Code
Для управления конфигурациями в Claude Code удобно использовать менеджеры профилей. Чтобы переключить агент на работу через локальный прокси, в файле конфигурации профиля (например, settings.yandex_deepseek.json) пропишите следующие параметры:
{
"env": {
"ANTHROPIC_BASE_URL": "http://localhost:4000",
"ANTHROPIC_AUTH_TOKEN": "sk-dummy",
"ANTHROPIC_DEFAULT_HAIKU_MODEL": "claude-3-5-haiku-20241022",
"ANTHROPIC_DEFAULT_SONNET_MODEL": "claude-3-5-sonnet-20241022",
"ANTHROPIC_DEFAULT_OPUS_MODEL": "claude-3-5-sonnet-20241022"
}
}Почему настройки выглядят именно так?
- Мы переопределяем адрес
ANTHROPIC_BASE_URLна наш локальный LiteLLM. - Используем фиктивный токен
sk-dummy, так как реальная авторизация Яндекса происходит на стороне прокси-сервера, но Claude Code требует заполнения этого поля для прохождения внутренней проверки. - Указываем оригинальные имена моделей семейства Claude. Клиент Claude Code проверяет эти строки встроенным валидатором и на их основе активирует такие возможности, как управление контекстом. Прокси-сервер LiteLLM перехватит эти имена и сопоставит их с целевой моделью Яндекса.
Полезные лайфхаки и ограничения метода
Проблема вызова инструментов (Tool Calling)
Claude Code — это не просто чат-бот, это автономный агент. Он умеет читать файлы вашего проекта, запускать сборку и выполнять команды в терминале. Для этого модель на стороне провайдера должна поддерживать спецификацию Tool Calling (вызов инструментов) через свой OpenAI-совместимый интерфейс. Перед активным использованием убедитесь, что выбранная вами модель в Яндекс Облаке (например, семейство DeepSeek) поддерживает эту функцию на стороне API.
Автоматизация запуска
Чтобы не запускать прокси-сервер вручную перед каждой сессией работы, вы можете обернуть запуск LiteLLM и Claude Code в единый командный скрипт run_claude.bat для Windows:
@echo off
start "LiteLLM Proxy" /min C:\Users\ИмяПользователя\AppData\Roaming\Python\Python314\Scripts\litellm --config litellm_config.yaml --port 4000
timeout /t 3 >nul
claudeПрофит!
Использование транслирующего прокси-сервера LiteLLM — это гибкий и надежный способ обойти ограничения жестко зашитых протоколов в современных консольных утилитах. Подобный подход позволяет интегрировать практически любые сторонние или облачные модели в ваш привычный рабочий процесс без необходимости модификации исходного кода самого клиента Claude Code.
Несколько слов о LiteLLM
LiteLLM — это популярный проект с открытым исходным кодом (библиотека на Python и прокси-сервер), который решает проблему фрагментации API-интерфейсов различных языковых моделей (LLM).
Основная идея проекта — предоставить разработчикам единый, унифицированный интерфейс для взаимодействия с более чем 100 ИИ-провайдерами (включая OpenAI, Anthropic, Google Gemini, AWS Bedrock, Azure AI, Hugging Face, локальные модели через Ollama и многие другие).
Ключевые возможности LiteLLM:
- Трансляция и конвертация API:
LiteLLM выступает в роли универсального переводчика. Например, вы можете написать код, ориентированный на формат OpenAI (/v1/chat/completions), а LiteLLM автоматически переведет входные параметры, системные промпты и структуру ответа в формат, понятный Anthropic Claude, Cohere или Llama, и наоборот. - Автономный прокси-сервер (LiteLLM Proxy):
Инструмент можно запустить как самостоятельное приложение в терминале или развернуть в виде Docker-контейнера. Этот прокси принимает стандартные HTTP-запросы от ваших программ (или сторонних утилит вроде Claude Code) и маршрутизирует их на внешние облачные API. - Отказоустойчивость и балансировка нагрузки:
В конфигурации LiteLLM можно настроить автоматическое переключение на резервного провайдера (fallback) в случае сбоя или исчерпания лимитов на основном, а также распределять запросы между несколькими API-ключами или серверами. - Управление затратами и авторизация:
При запуске в режиме прокси-сервера LiteLLM позволяет создавать собственные виртуальные API-ключи для разных пользователей или проектов, устанавливать для них бюджетные лимиты (например, максимум $10 в день или не более 50 000 токенов в час) и собирать детальную статистику потребления. - Простая интеграция с мониторингом:
Проект поддерживает интеграцию «в один клик» с популярными системами логирования и аналитики ИИ-запросов, такими как Langfuse, Helicone, Datadog, Prometheus, Supabase и OpenTelemetry.
Почему он популярен?
LiteLLM избавляет от необходимости писать сложный интеграционный код под каждого нового ИИ-провайдера. Если в приложении завтра потребуется заменить модель от OpenAI на модель от Anthropic или Яндекса, разработчику не придется переписывать код — достаточно будет изменить лишь одну строчку в конфигурации прокси-сервера.
