Engine

全线共用的模型底座。

Adis、Harness、Mirror,以及 Developer 里做出的应用,调用的都是同一个入口里的模型:OpenAI 兼容、有额度、逐次计量。

中央一台发着橙光的引擎,管道通向四个小台座,台座上分别放着球体、相机、卡片和窗口;工程师在一旁转动旋钮,Adis 站在另一侧
8
个模型:文本、视觉、语音转写、实时转写、调度分类,5 类模态
7
条 OpenAI 兼容接口:用 OpenAI SDK,改 base_url 即可
120
次 / 分钟:每把开发者 Key 的限流
0
条内容落库:Model API 里的提示词、回复、图片、音频只过境

一个入口,
全线共用的模型。

每次调用都走同一条路:先判额度,再转发上游,最后记一行台账。不用各家厂商分别申请 Key,也不用自己记账。

01 · CALL

带 Key 或应用票据来调用

开发者 Key 或 Nexus 应用票据,用 OpenAI SDK,改 base_url 即可。成员通过应用使用,不直接拿 Key。

02 · ADMIT

先判额度与白名单

应用的清单限定可用的模型,并设每日 token 与月度预算;用完返回 quota_exhausted,到点恢复。

03 · ROUTE

转发到上游

对话、视觉、语音转写、实时转写、调度分类五类模态转发给上游厂商;提示词与回复只过境,不落库。

04 · METER

记一行台账

公司、Key、模型、token 或音频秒数、成本;只记数字,不记内容。成本按调用当时的厂商价目写入,之后价目变动不改历史。

Supported LLMs

模型目录

8 个模型、5 类模态。目录公开可查,并标出每个模型的上游是否已配置。

LLM-provider compatible APIs

OpenAI 兼容接口

对话、音频转写、实时转写、物体检测、调度决策,共 7 条路由,基地址 /api/v1/models。

Compute usage

逐次计量与账单

今天、本月、累计,按应用、Key、模型、天拆开,含月底预测与预算;每台设备有自己的用量。金额是美元标价,不是发票。

LLM capacity management

额度与限流

开发者 Key 每分钟 120 次;应用可设每访客每分钟次数、全体访客每日 token、每日实时转写场数和月度美元预算。

/console/<cell>/models

按智能体切换模型

在 Console 里改一个智能体在用的模型,也能把一批业务智能体切到同一个模型;每次切换都进 Action Log。

/engine/<cell>

智能体配置

组织在 Engine 里统一管理智能体的回复规范(有版本的提示词与回复模板)、模型、推理强度和预载的 skill。先用草稿和真智能体试一轮,再应用到一个、几个或全部智能体;每次应用都能撤销。

读模型文档 →私有化方案

每个产品,
都从这里取模型。

Engine 不是一个产品专属的功能,而是底座:下面每一行都是今天线上真实在用的方式。

产品怎么用 Engine
Adis设备 Key 走 Agent Key 网关里的直连管线调用模型,每次对话逐次计量,设备自己能看今天、本月和累计的用量。
Harness节点上的智能体配一个 OpenAI 兼容的 provider,指向 Model API 即可;Console 里能按智能体切换模型。
Mirror视觉走同一个入口:物体检测与瑕疵检测用视觉模型出框、判定。
Developer应用用 model SDK 调用,清单里写明可用的模型和每日额度;用满返回 429。
Semantic应用里的自进化(evolve)让模型起草对语义定义的提案,由人采纳后才生效,按公司计费。

同一条产品线,
共用一个底座。

每个产品管一段,用同一套本体、同一套权限、同一批模型。点开任何一个,看它在你们公司里会做什么。

常见问题

模型能私有化部署吗?

能。私有化模型是一种定价与交付方案,有三种部署方式:你自己的 AWS 账号、AIDC 托管的专属机器,或你的机房。见私有化方案。

我的数据会离开自己的环境吗?

调用公有云模型时,提示词与回复会经 AIDC 在新加坡区域的函数转发给上游厂商,只过境、不落库;台账只记数字,不记内容。需要数据不出厂的,请先评估私有化方案。

费用怎么算?

按调用逐次计量,成本按调用当时的厂商价目写入;token 按厂商价 1:1,不加价,详见定价。金额是美元标价,不是发票。

换模型会影响正在跑的数字员工吗?

会有短暂的重启:在 Console 里切换一个智能体的模型,会回收它的网关进程再拉起;批量切换时,还会暂时锁定它们的定时任务。每次切换都进 Action Log。

先从一次调用开始。

用 OpenAI SDK,把 base_url 指向 AIDC,几分钟就能跑通。