压测控制台
✅ 这是纯前端工具:Key 只保存在这个页面打开期间的浏览器内存里,关闭标签页即消失,不会写入磁盘、不会上传到任何第三方。请求由你的浏览器直接发往目标站点。
⚠️ 除"检测可用模型"外,发起测试会向目标站点发送真实请求并产生真实计费(按你所填的 Key 所属账户计费)。请确认你了解这一点后再开始。
1目标与凭据
2测试参数
总并发连接数 = 并发数 × 模型个数。浏览器对同域名的并发连接数有限制(HTTP/2 下通常足够本工具使用),不适合冲击几千并发的极限容量测试,日常回归验证够用。
未开始
3实时指标
已运行
0s
请求 成功/失败
0 / 0
RPM(近60s)
0 峰值 0
TPM(近60s)
0 峰值 0
TTFT p50 / p95
- / -ms
TPS(生成速率)
-tok/s
缓存命中率
-
Token 输入/输出
0 / 0
等待开始…
在页面上填写目标站点、渠道 key 与参数,对指定的 NewAPI 中转站发起容量压测,实时查看日志并生成测试报告。脚本与护栏均运行在后端 bun 进程中。
5结果与报告
| 名称 ⓘ | 文件 ⓘ | 计划 ⓘ | 时间 ⓘ | 大小 ⓘ | 操作 ⓘ |
|---|
压测历史 本地/服务器模式统一记录 · key 加密存储、脱敏展示
| 时间 | 模式 | Base URL | API Key(脱敏) | 模型 | 计划 | 操作 |
|---|
「填入」把该条的 baseUrl+key 解密回填到当前表单;「导出」下载该次 relay-metrics 运行的 Markdown 报告(其他计划提供原始 JSON 下载,本地模式无结果文件不可导出)。
用户管理
创建 / 禁用 / 删除用户,重置任意用户密码。仅管理员可见 —— 服务端每个接口都会再次校验角色(菜单隐藏只是前端 UX)。
新增用户
用户列表
| 用户名 | 角色 | 公司缩写 | 公司名称 | 状态 | 创建时间 | 操作 |
|---|
平台管理
配置全员可见的默认平台(只读 + copy-on-write:普通用户编辑默认平台会自动复制为自己的私有平台)。渠道模板是独立资源,挂在某个平台下。
新增默认平台
管理员账号一般为 1
默认平台列表
| 名称 | Base URL | 用户 ID | Token(脱敏) | 创建时间 | 操作 |
|---|
渠道默认模板
模板挂在某个默认平台下(独立表,/api/templates?pfId=<id>),不是平台记录本身的一部分。
| 名称 | 类型 | 名称规则 | 分组 | 模型数 | 创建时间 | 操作 |
|---|
节点管理
Worker 节点
| 名称 | 地址 | 端口 | 标签 | 状态 | 配置版本 | 操作 |
|---|
分组管理
分组列表
| 名称 | 协议 | 入站 Key | 状态 | 操作 |
|---|
分组是路由的第一级实体:一个分组持有一把入站 Key(客户端 Bearer / x-api-key)、一个协议类型(openai / anthropic),以及独立的路由规则。渠道归属于分组并继承其协议。
渠道管理
渠道列表
| 名称 | Base URL | 模型 | 优先级 | 权重 | 状态 | 延迟 | 价格 | 操作 |
|---|
路由规则
格式:[{"start":401,"end":403},{"start":429,"end":429}]
格式:[{"start":401,"end":403},{"start":429,"end":429}]
Worker 状态
最近路由事件
| 时间 | 渠道 | 事件 | 状态码 | 原因 |
|---|
关于本平台
运营工具集,独立服务,统一入口。
模块
| 模块 | 说明 | 后端 |
|---|---|---|
| 压测控制台 | 对生产环境发起 health / relay-load / relay-metrics 压测,实时日志与报告;支持本地压测(浏览器直连目标站点)/服务器压测(经本服务子进程)两种模式,右上角切换 —— 整个控制台均需先登录(D-02) | bun 子进程 + SSE(本地压测模式发起测试请求时无后端交互) |
| 用量账单 | 结果列表里点「账单」,自动取该次测试的起止时间,用系统访问令牌读取同窗口的用量日志,按模型/渠道/总计统计 TTFT/TPS/TPM/RPM/缓存命中率 | bun 进程内调用(billcore.ts),只读 new-api HTTP API |
| 批量上key工具 | 为中转站按模板批量创建渠道 | 同源代理转发(X-Target-Base) |
以上模块由同一个 bun 服务(server.ts)托管:携带 X-Target-Base 头的请求走代理转发,其余走压测 API 与静态资源;压测控制台的「本地压测」模式发起的测试请求直接从浏览器发往目标站点,不经过本服务转发。