在线服务调用

最近更新时间: 2026-06-30 15:06:00

接口在线测试

在线服务为您提供接口的在线测试能力,完成部署的在线服务可进行接口的调用测试。

  1. 登录 TI-ONE 控制台,在左侧导航栏中选择模型服务 > 在线服务,进入在线服务列表页面。
  2. 在服务列表页单击调用操作按钮,进入服务调用页面,查看服务的接口信息。
  3. 单击接口列表中的在线测试操作按钮,打开调用测试页面。
  4. 在接口调用地址栏输入您要测试的接口 URL,部分内置镜像会提供默认 URL,如需测试其他接口直接修改即可。
  5. 在请求体模块录入 JSON 格式的请求信息并单击发送请求后,可在请求响应模块查看预测结果。

公网调用

在 TI-ONE 完成在线服务部署后,系统会自动注册 API 网关生成公网地址用于服务请求调用。您可以在服务列表页单击调用操作按钮,进入服务调用页面,查看公网访问地址。通过该调用信息可以向在线服务发起预测请求,curl 命令示例如下,其中 Authorization 仅在鉴权开启时需要:

curl -X POST https://ms-9******j-100******5.gw.ap-xxx.xx.xxxxx.com/ms-9******j/v1/models/m:predict -H 'Authorization: P*********pg' -H 'Content-Type: application/json' -d ''
  • 开启服务鉴权,则在调用 API 时,需要使用签名密钥(ApiAppKey 和 ApiAppSecret)对请求内容进行签名计算。
  • 如您希望屏蔽在线服务的公网调用方式,可联系您对接的架构师或其他服务团队提供支持。

内网调用

高速服务调用(HTTP)

公网链路收到诸多因素的限制,如果您对请求的性能和稳定性有更高的要求,推荐使用内网高速服务调用的方式来访问您的服务。高速服务调用通过 私有连接建立用户 VPC 与服务的高速通道,具体操作路径如下:

  1. 登录 TI-ONE 控制台,在左侧导航栏中选择模型服务 > 在线服务,进入在线服务列表页面。

  2. 在服务列表页单击**服务名称,进入服务版本列表页面,单击服务调用,**查看配置服务调用相关信息。

  3. 高速服务调用模块,首次配置,单击开启新增高速服务调用网段

  4. 在配置弹窗里,您选择需要打通内网的 VPC、子网

  5. 配置好 VPC、子网后,高速服务调用模块,展示 VPC 调用地址,以及可调用的 VPC、子网信息,配置好后支持删除后重新新增。如果在线服务有2个版本,则内网地址有2条。

  6. 服务调用时,如需要在终端里内网接口调用,可执行以下命令:

    //内网地址,请您参考服务调用/高速服务调用/VPC调用地址
    //URL为服务调用/接口信息/接口调用地址的右边URL内容
    curl -X POST -H 'C ontent-Type: application/json' 内网地址/URL -d '{ "prompt": "puppy dog", "steps": 5}'
    

    说明:

    一次开启配置,本地域下的全部服务均生效。本能力使用私有连接,配置后,将在您账户的该 VPC 和子网下,创建一个终端节点,独立计费,您可参考 终端节点计费文档 。

高速服务调用(GRPC)

高速服务调用除支持 HTTP 协议外,用户可在新建在线服务时选择打开开启 GRPC 的开关按钮支持 GRPC 调用协议。用户开启 GRPC 协议后和 HTTP 协的区别是:

  • 只支持 VPC 地址调用,所以公网访问会被屏蔽,前端不再展示常规服务调用的调用地址;
  • 由于接口在线测试依赖公网下的 HTTP 协议调用,所以 GRPC 协议下也不支持【接口信息】的模块。
    GRPC 调用说明:发送请求时,请求中需携带 Header x-ti-service = ms-hx7c5srv 和 虚拟 Authority(ms-hx7c5srv-100031385875-sw-grpc.gw.ap-xxxx.com)。

服务访问云上 VPC 资源

如果您的服务需要通过内网访问其他 VPC 资源,可通过服务访问云上 VPC 资源进行配置,具体操作路径为:

  1. 登录 TI-ONE 控制台,在左侧导航栏中选择模型服务 > 在线服务,进入在线服务列表页面。
  2. 在服务列表页单击新建服务,在新建弹窗里,开启服务访问云上 VPC 资源。
  3. 开启后,选择需要打通内网的 VPC、子网
  4. 配置好 VPC、子网后,服务访问云上 VPC 资源模块,展示配置好的 VPC、子网。
  5. 此时 tione 可以内网访问该 VPC 下的资源。