LangChain — open-source фреймворк для приложений на LLM: цепочки, инструменты, RAG и агенты на LangGraph. Есть версии для Python и JavaScript. К ProxyAPI подключается стандартный класс ChatOpenAI с адресом https://api.proxyapi.ru/v1 — через него доступны модели всех вендоров каталога: GPT, Claude, Gemini, DeepSeek и остальные.
- Устанавливаются пакеты:
pip install langchain langchain-openaipip install langchain langchain-openai
-
Ключ ProxyAPI из консоли сохраняется в переменную окружения
PROXYAPI_API_KEY. Как выпустить ключ — в статье API-ключи. -
В
ChatOpenAIуказываются адрес, ключ и модель:
| Параметр | Значение |
|---|---|
base_url | https://api.proxyapi.ru/v1 |
api_key | ключ ProxyAPI |
model | идентификатор в формате вендор/название |
import os from langchain_openai import ChatOpenAI llm = ChatOpenAI( model="openai/gpt-6.2-sol", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) print(llm.invoke("Привет!").content)import os from langchain_openai import ChatOpenAI llm = ChatOpenAI( model="openai/gpt-6.2-sol", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) print(llm.invoke("Привет!").content)
Вместо параметров можно задать переменные окружения OPENAI_API_KEY (ключ ProxyAPI) и OPENAI_BASE_URL=https://api.proxyapi.ru/v1 — тогда достаточно ChatOpenAI(model="..."). Так же работает init_chat_model("openai:anthropic/claude-sonnet-5-5").
Модель меняется только идентификатором, класс и адрес остаются теми же:
openai/gpt-6.2-solanthropic/claude-sonnet-5-5google/gemini-3.8-flashdeepseek/deepseek-v4.1-flash
Стриминг работает для всех моделей:
llm = ChatOpenAI( model="deepseek/deepseek-v4.1-flash", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) for chunk in llm.stream("Перечисли три планеты через запятую."): print(chunk.content, end="", flush=True)llm = ChatOpenAI( model="deepseek/deepseek-v4.1-flash", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) for chunk in llm.stream("Перечисли три планеты через запятую."): print(chunk.content, end="", flush=True)
bind_tools и with_structured_output работают через ProxyAPI с моделями OpenAI, Anthropic и DeepSeek:
from langchain_core.tools import tool from pydantic import BaseModel @tool def get_weather(city: str) -> str: """Возвращает погоду в городе.""" return f"В городе {city} +5 °C, облачно" class City(BaseModel): name: str country: str population: int msg = llm.bind_tools([get_weather]).invoke("Какая погода в Казани?") print(msg.tool_calls) city = llm.with_structured_output(City).invoke("Расскажи про Новосибирск") print(city)from langchain_core.tools import tool from pydantic import BaseModel @tool def get_weather(city: str) -> str: """Возвращает погоду в городе.""" return f"В городе {city} +5 °C, облачно" class City(BaseModel): name: str country: str population: int msg = llm.bind_tools([get_weather]).invoke("Какая погода в Казани?") print(msg.tool_calls) city = llm.with_structured_output(City).invoke("Расскажи про Новосибирск") print(city)
В LangChain 1.x агенты создаются функцией create_agent, которая работает поверх LangGraph (раньше — create_react_agent из langgraph.prebuilt). Модель передаётся тем же объектом ChatOpenAI:
pip install langchain langchain-openai langgraphpip install langchain langchain-openai langgraph
import os from langchain.agents import create_agent from langchain_core.tools import tool from langchain_openai import ChatOpenAI @tool def get_weather(city: str) -> str: """Возвращает погоду в городе.""" return f"В городе {city} +5 °C, облачно" llm = ChatOpenAI( model="anthropic/claude-sonnet-5-5", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) agent = create_agent(llm, tools=[get_weather]) result = agent.invoke({"messages": [{"role": "user", "content": "Какая погода в Казани?"}]}) print(result["messages"][-1].content)import os from langchain.agents import create_agent from langchain_core.tools import tool from langchain_openai import ChatOpenAI @tool def get_weather(city: str) -> str: """Возвращает погоду в городе.""" return f"В городе {city} +5 °C, облачно" llm = ChatOpenAI( model="anthropic/claude-sonnet-5-5", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) agent = create_agent(llm, tools=[get_weather]) result = agent.invoke({"messages": [{"role": "user", "content": "Какая погода в Казани?"}]}) print(result["messages"][-1].content)
Агент сам вызывает инструмент и возвращает ответ с его результатом.
Для RAG и векторного поиска используется OpenAIEmbeddings с тем же адресом:
from langchain_openai import OpenAIEmbeddings embeddings = OpenAIEmbeddings( model="openai/text-embedding-3-small", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) vector = embeddings.embed_query("что такое LangChain")from langchain_openai import OpenAIEmbeddings embeddings = OpenAIEmbeddings( model="openai/text-embedding-3-small", base_url="https://api.proxyapi.ru/v1", api_key=os.environ["PROXYAPI_API_KEY"], ) vector = embeddings.embed_query("что такое LangChain")
Список моделей эмбеддингов — в каталоге.
npm install @langchain/openai @langchain/corenpm install @langchain/openai @langchain/core
import { ChatOpenAI } from "@langchain/openai"; const llm = new ChatOpenAI({ model: "anthropic/claude-sonnet-5-5", apiKey: process.env.PROXYAPI_API_KEY, configuration: { baseURL: "https://api.proxyapi.ru/v1" }, }); const res = await llm.invoke("Привет!"); console.log(res.content);import { ChatOpenAI } from "@langchain/openai"; const llm = new ChatOpenAI({ model: "anthropic/claude-sonnet-5-5", apiKey: process.env.PROXYAPI_API_KEY, configuration: { baseURL: "https://api.proxyapi.ru/v1" }, }); const res = await llm.invoke("Привет!"); console.log(res.content);
В JS адрес передаётся не параметром верхнего уровня, а внутри configuration.baseURL.
Для моделей Anthropic кэширование включается блоком cache_control в сообщении — через тот же ChatOpenAI:
messages = [ { "role": "system", "content": [ {"type": "text", "text": long_document, "cache_control": {"type": "ephemeral"}}, ], }, {"role": "user", "content": "О чём этот документ?"}, ] llm.invoke(messages)messages = [ { "role": "system", "content": [ {"type": "text", "text": long_document, "cache_control": {"type": "ephemeral"}}, ], }, {"role": "user", "content": "О чём этот документ?"}, ] llm.invoke(messages)
При повторном запросе с тем же префиксом в usage_metadata появляется cache_read. Класс ChatAnthropic для этого не нужен.
Если в коде уже используются ChatAnthropic или ChatGoogleGenerativeAI, их можно оставить — у обоих есть параметр base_url. Идентификаторы моделей здесь без префикса вендора, а адрес указывается без /v1:
from langchain_anthropic import ChatAnthropic from langchain_google_genai import ChatGoogleGenerativeAI claude = ChatAnthropic( model="claude-sonnet-5-5", base_url="https://api.proxyapi.ru", api_key=os.environ["PROXYAPI_API_KEY"], ) gemini = ChatGoogleGenerativeAI( model="gemini-3.8-flash", base_url="https://api.proxyapi.ru", api_key=os.environ["PROXYAPI_API_KEY"], )from langchain_anthropic import ChatAnthropic from langchain_google_genai import ChatGoogleGenerativeAI claude = ChatAnthropic( model="claude-sonnet-5-5", base_url="https://api.proxyapi.ru", api_key=os.environ["PROXYAPI_API_KEY"], ) gemini = ChatGoogleGenerativeAI( model="gemini-3.8-flash", base_url="https://api.proxyapi.ru", api_key=os.environ["PROXYAPI_API_KEY"], )
В JS у ChatAnthropic из @langchain/anthropic адрес задаётся параметром anthropicApiUrl: "https://api.proxyapi.ru".
Частые вопросы
В каком формате указывать модель в ChatOpenAI?
С префиксом вендора: anthropic/claude-sonnet-5-5, deepseek/deepseek-v4.1-flash, google/gemini-3.8-flash. Без префикса работают только модели OpenAI. В ChatAnthropic и ChatGoogleGenerativeAI, наоборот, указывается короткое имя: claude-sonnet-5-5, gemini-3.8-flash.
Нужен ли отдельный пакет для Claude и Gemini?
Нет. Достаточно langchain-openai: ChatOpenAI с адресом https://api.proxyapi.ru/v1 работает с моделями всех вендоров, включая инструменты, structured output и кэширование промптов Claude. langchain-anthropic и langchain-google-genai нужны, только если код уже на них написан.
Работает ли create_react_agent из LangGraph?
Агент получает модель как обычный объект ChatOpenAI, поэтому работает любая обёртка LangGraph. В LangChain 1.x рекомендуемая функция — create_agent из langchain.agents.
Нужен ли VPN?
Нет. Запросы идут на api.proxyapi.ru, доступ из России открыт.
Последняя редакция: 20 ноября 2026 г.