Dev.to AI 🤖 Ai 👁 0

一行代码接入 100+ 大模型:用 OpenAI 兼容网关统一你的 AI 调用

一行代码接入 100+ 大模型:用 OpenAI 兼容网关统一你的 AI 调用 做 agent、批量推理最烦的,是每家大模型各一套 SDK、各一套密钥、各一套限流逻辑。 好消息是:现在主流大模型基本都兼容 OpenAI 协议。也就是说,你只要把 base_url 改一下,原来的 OpenAI SDK 代码零改动就能换模型、换供应商。 为什么要用兼容网关 原代码零改动:保留 from openai imp

一行代码接入 100+ 大模型:用 OpenAI 兼容网关统一你的 AI 调用

做 agent、批量推理最烦的,是每家大模型各一套 SDK、各一套密钥、各一套限流逻辑。

好消息是:现在主流大模型基本都兼容 OpenAI 协议。也就是说,你只要把 base_url 改一下,原来的 OpenAI SDK 代码零改动就能换模型、换供应商。

为什么要用兼容网关

  • 原代码零改动:保留 from openai import OpenAI,只换 base_url 和 api_key
  • 一个密钥管 100+ 模型:Claude / GPT / Gemini / DeepSeek 随便切,告别密钥地狱
  • 降本:像 DeepSeek 闲时低至 2.5 折,个人项目和 side-project 够便宜
  • 统一限流/重试/路由:中间件一挂,全走网关

30 秒接入示例

from openai import OpenAI

client = OpenAI(
    api_key="你的KEY",
    base_url="https://5pcloud.top/v1"
)

r = client.chat.completions.create(
    model="deepseek-chat",
    messages=[{"role": "user", "content": "你好"}]
)
print(r.choices[0].message.content)

把 base_url 换成任意 OpenAI 兼容端点即可。换模型只改 model 字段。

新手避坑

  • 别预充大钱,小步试
  • 看清可用性和退款政策
  • 轻量 / 中小用量直接上兼容网关最省心;用量极大再考虑自建 one-api

一个现成的极简聊天界面

如果你想要个能直接跑的 UI,我做了个单文件、零依赖的聊天界面,默认对接 Ara API(5pcloud.top),git clone 部署即用:

兼容 OpenAI 协议,一行接入 100+ 模型,DeepSeek 闲时低至 2.5 折,新人免费额度。

注册拿 Key:https://5pcloud.top/

本文首发于 Ara API 博客。Ara API 是一个 OpenAI 兼容的多模型网关,适合个人开发者和中小团队降本。

📰 Read the original article on Dev.to AI

Originally published by Dev.to AI. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.