LangChain — open-source фреймворк для приложений на LLM: цепочки, инструменты, RAG и агенты на LangGraph. Есть версии для Python и JavaScript. К ProxyAPI подключается стандартный класс ChatOpenAI с адресом https://api.proxyapi.ru/v1 — через него доступны модели всех вендоров каталога: GPT, Claude, Gemini, DeepSeek и остальные.

  1. Устанавливаются пакеты:
pip install langchain langchain-openai
  1. Ключ ProxyAPI из консоли сохраняется в переменную окружения PROXYAPI_API_KEY. Как выпустить ключ — в статье API-ключи.

  2. В ChatOpenAI указываются адрес, ключ и модель:

ПараметрЗначение
base_urlhttps://api.proxyapi.ru/v1
api_keyключ ProxyAPI
modelидентификатор в формате вендор/название
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="openai/gpt-6.2-sol",
    base_url="https://api.proxyapi.ru/v1",
    api_key=os.environ["PROXYAPI_API_KEY"],
)

print(llm.invoke("Привет!").content)

Вместо параметров можно задать переменные окружения OPENAI_API_KEY (ключ ProxyAPI) и OPENAI_BASE_URL=https://api.proxyapi.ru/v1 — тогда достаточно ChatOpenAI(model="..."). Так же работает init_chat_model("openai:anthropic/claude-sonnet-5-5").

Модель меняется только идентификатором, класс и адрес остаются теми же:

  • openai/gpt-6.2-sol
  • anthropic/claude-sonnet-5-5
  • google/gemini-3.8-flash
  • deepseek/deepseek-v4.1-flash

Стриминг работает для всех моделей:

llm = ChatOpenAI(
    model="deepseek/deepseek-v4.1-flash",
    base_url="https://api.proxyapi.ru/v1",
    api_key=os.environ["PROXYAPI_API_KEY"],
)

for chunk in llm.stream("Перечисли три планеты через запятую."):
    print(chunk.content, end="", flush=True)

bind_tools и with_structured_output работают через ProxyAPI с моделями OpenAI, Anthropic и DeepSeek:

from langchain_core.tools import tool
from pydantic import BaseModel


@tool
def get_weather(city: str) -> str:
    """Возвращает погоду в городе."""
    return f"В городе {city} +5 °C, облачно"


class City(BaseModel):
    name: str
    country: str
    population: int


msg = llm.bind_tools([get_weather]).invoke("Какая погода в Казани?")
print(msg.tool_calls)

city = llm.with_structured_output(City).invoke("Расскажи про Новосибирск")
print(city)

В LangChain 1.x агенты создаются функцией create_agent, которая работает поверх LangGraph (раньше — create_react_agent из langgraph.prebuilt). Модель передаётся тем же объектом ChatOpenAI:

pip install langchain langchain-openai langgraph
import os
from langchain.agents import create_agent
from langchain_core.tools import tool
from langchain_openai import ChatOpenAI


@tool
def get_weather(city: str) -> str:
    """Возвращает погоду в городе."""
    return f"В городе {city} +5 °C, облачно"


llm = ChatOpenAI(
    model="anthropic/claude-sonnet-5-5",
    base_url="https://api.proxyapi.ru/v1",
    api_key=os.environ["PROXYAPI_API_KEY"],
)

agent = create_agent(llm, tools=[get_weather])
result = agent.invoke({"messages": [{"role": "user", "content": "Какая погода в Казани?"}]})
print(result["messages"][-1].content)

Агент сам вызывает инструмент и возвращает ответ с его результатом.

Для RAG и векторного поиска используется OpenAIEmbeddings с тем же адресом:

from langchain_openai import OpenAIEmbeddings

embeddings = OpenAIEmbeddings(
    model="openai/text-embedding-3-small",
    base_url="https://api.proxyapi.ru/v1",
    api_key=os.environ["PROXYAPI_API_KEY"],
)

vector = embeddings.embed_query("что такое LangChain")

Список моделей эмбеддингов — в каталоге.

npm install @langchain/openai @langchain/core
import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "anthropic/claude-sonnet-5-5",
  apiKey: process.env.PROXYAPI_API_KEY,
  configuration: { baseURL: "https://api.proxyapi.ru/v1" },
});

const res = await llm.invoke("Привет!");
console.log(res.content);

В JS адрес передаётся не параметром верхнего уровня, а внутри configuration.baseURL.

Для моделей Anthropic кэширование включается блоком cache_control в сообщении — через тот же ChatOpenAI:

messages = [
    {
        "role": "system",
        "content": [
            {"type": "text", "text": long_document, "cache_control": {"type": "ephemeral"}},
        ],
    },
    {"role": "user", "content": "О чём этот документ?"},
]

llm.invoke(messages)

При повторном запросе с тем же префиксом в usage_metadata появляется cache_read. Класс ChatAnthropic для этого не нужен.

Если в коде уже используются ChatAnthropic или ChatGoogleGenerativeAI, их можно оставить — у обоих есть параметр base_url. Идентификаторы моделей здесь без префикса вендора, а адрес указывается без /v1:

from langchain_anthropic import ChatAnthropic
from langchain_google_genai import ChatGoogleGenerativeAI

claude = ChatAnthropic(
    model="claude-sonnet-5-5",
    base_url="https://api.proxyapi.ru",
    api_key=os.environ["PROXYAPI_API_KEY"],
)

gemini = ChatGoogleGenerativeAI(
    model="gemini-3.8-flash",
    base_url="https://api.proxyapi.ru",
    api_key=os.environ["PROXYAPI_API_KEY"],
)

В JS у ChatAnthropic из @langchain/anthropic адрес задаётся параметром anthropicApiUrl: "https://api.proxyapi.ru".

Частые вопросы

В каком формате указывать модель в ChatOpenAI?

С префиксом вендора: anthropic/claude-sonnet-5-5, deepseek/deepseek-v4.1-flash, google/gemini-3.8-flash. Без префикса работают только модели OpenAI. В ChatAnthropic и ChatGoogleGenerativeAI, наоборот, указывается короткое имя: claude-sonnet-5-5, gemini-3.8-flash.

Нужен ли отдельный пакет для Claude и Gemini?

Нет. Достаточно langchain-openai: ChatOpenAI с адресом https://api.proxyapi.ru/v1 работает с моделями всех вендоров, включая инструменты, structured output и кэширование промптов Claude. langchain-anthropic и langchain-google-genai нужны, только если код уже на них написан.

Работает ли create_react_agent из LangGraph?

Агент получает модель как обычный объект ChatOpenAI, поэтому работает любая обёртка LangGraph. В LangChain 1.x рекомендуемая функция — create_agent из langchain.agents.

Нужен ли VPN?

Нет. Запросы идут на api.proxyapi.ru, доступ из России открыт.

Последняя редакция: 20 ноября 2026 г.