云原生API网关接入DeepSeek

DeepSeek

类型：人工智能

简介：一款基于深度学习和自然语言处理技术的产品，人气赶超ChatGPT。

百科词条 访问网站

本文将介绍如何通过云原生API网关快速接入第三方DeepSeek模型，涵盖三种AI模型接入场景，帮助高效实现统一接入。

一、已集成模型接入AI网关

当前，云原生API网关已集成部分大模型供应商，可以通过选择供应商并配置API-KEY，轻松实现模型接入。

1、创建AI服务

网关通过服务发送请求，创建AI服务的操作步骤如下：

（1）登录云原生API网关控制台。

（2）在左侧导航栏选择“实例”，并在顶部菜单栏选择“地域”。

（3）在实例页面，点击目标网关实例名称。

（4）在左侧导航栏选择“服务”，并点击“服务”页签。

（5）点击“创建服务”，在创建服务面板中进行配置：

• 服务来源：选择AI服务；
• 服务名称：填写服务名称，例如“aliyun-deepseek”；
• 大模型供应商：选择对应的模型供应商，例如“阿里云百炼”；
• 服务地址（base_url）：使用默认配置，例如“https://dashscope.aliyuncs.com/compatible-model/v1”；
• API-KEY：填写通过模型供应商获取的请求凭证API-KEY。

2、创建AI API

接下来，创建AI API，配置AI API的基本信息：

（1）登录云原生API网关控制台。

（2）在左侧导航栏选择“API”，并在顶部菜单栏选择“地域”。

（3）在API页面选择“AI API”页签，点击“创建AI API”。

在创建AI API面板中，配置基本信息：

• 域名：建议配置域名（使用默认环境域名下存在限流）；
• 所属实例：选择创建的云原生API网关实例；
• AI请求观测：开启；
• 服务模型：选择单模型服务；
• 服务列表：选择在上一步创建的阿里云百炼DeepSeek服务；
• 模型名称：选择透传模型。

3、调试AI API

（1）登录云原生API网关控制台。

（2）在左侧导航栏选择“API”，并在顶部菜单栏选择“地域”。

（3）在API页面选择“AI API”页签，点击目标创建的AI API名称，进入API详情页面，点击页面上的“调试”按钮。

（4）设置模型为“deepseek-r1”并与阿里云百炼的DeepSeek进行对话测试。

二、通用模型方式接入AI网关

如果使用的模型未被云原生API网关集成，并且支持OpenAI协议，可以通过配置自定义服务地址接入该模型。

例如可以将通过阿里云人工智能平台PAI或函数计算FC等方式部署的DeepSeek服务接入AI网关。接入过程可以参考“通过AI网关接入PAI部署模型”的操作。

三、AI网关多模型代理

在此场景下，云原生API网关支持同时基于已集成模型和通用模型的方式接入多个模型，提供多模型代理服务，并支持在调用异常时执行Fallback。

1、创建AI服务

可以按照场景一和场景二的步骤分别配置不同的AI服务（例如阿里云百炼、火山引擎和PAI等）。在配置时，还可以选择配置Fallback，保证在某些模型服务出错时可以切换到备用模型进行调用。

2、创建AI API

在创建或编辑AI API时，可以配置多模型服务：

（1）服务模型：选择“多模型服务（按模型名称）”。

（2）服务列表：添加多个服务并配置各自的模型名称匹配规则。例如：

• 选择阿里云DeepSeek服务，模型名称匹配规则为“deepseek-*”；
• 选择火山引擎DeepSeek服务，模型名称匹配规则为“ep-*”。

（3）Fallback：开启，并选择PAI DeepSeek服务作为Fallback服务。

配置示例如下：

• 模型为“deepseek-*”时调用阿里云DeepSeek；
• 模型为“ep-*”时调用火山引擎DeepSeek；
• 在其他模型出错或限流时调用PAI DeepSeek（按配置的Fallback顺序调用）。

3、调试AI API

（1）登录云原生API网关控制台。

（2）在左侧导航栏选择“API”，并在顶部菜单栏选择“地域”。

（3）在API页面选择“AI API”页签，点击目标创建的AI API名称，进入API详情页面，点击“调试”按钮。

输入模型名称，如“deepseek-v3”或“ep-20250219155230-28l6f”，并按照规则响应阿里云百炼或火山引擎的DeepSeek服务。

如果输入的模型名称不匹配任何服务，云原生API网关将自动触发Fallback，调用PAI DeepSeek。