核心引擎
2026-11-21·7 分钟
AI 框架:瀑布式聊天 AI
四级资金级联扣费、流式聊天接口与调用失败全额退款,快速构建瀑布式对话 AI 系统。
独创四级资金级联扣费设计#
当用户调用 /api/ai/run 或执行 AI 任务时,系统扣费引擎按照最优资金优先级层层穿透:
1. 第一级:预存代币余额 (Prepaid Balance) —— 用户主动充值的现金代币。
2. 第二级:月度会员赠送 (Monthly Plan Quota) —— Pro 或 Team 订阅附带的月度额度。
3. 第三级:每日免费额度 (Daily Free Quota) —— 系统给予注册用户的每日试用积分,每日 00:00 自动刷新。
4. 第四级:自带 Key (BYOK - Bring Your Own Key) —— 若用户在个人中心配置了自己的 OpenAI / Anthropic 密钥,则扣费完全归零,直接调用用户自备渠道。
快速构建瀑布式聊天 AI#
/api/ai/run 是统一的大模型网关:把它当成聊天后端,多轮上下文由前端消息数组拼装,流式响应直通 UI,即可快速搭建瀑布式对话系统:
BYOK 完全免费
用户在控制台配置自己的 OpenAI / Anthropic Key(AES-256-GCM 加密存储)后,调用不再消耗平台额度,扣费瀑布直达第四级。
typescript构建流式聊天(客户端)
async function chat(messages: { role: string; content: string }[]) {
const res = await fetch('/api/ai/run', {
method: 'POST',
headers: { 'Content-Type': 'application/json' },
body: JSON.stringify({
model: 'gpt-4o-mini',
messages, // 多轮上下文:整段历史按序传入
stream: true,
}),
});
if (!res.ok) throw new Error(await res.text());
// SSE 流式读取,逐 token 上屏
const reader = res.body!.getReader();
const decoder = new TextDecoder();
for (;;) {
const { done, value } = await reader.read();
if (done) break;
processToken(decoder.decode(value));
}
}bash服务端直接调用(带会话 Cookie)
curl -X POST http://localhost:3000/api/ai/run \
-H "Content-Type: application/json" \
-H "Cookie: better-auth.session_token=..." \
-d '{"model": "gpt-4o-mini", "prompt": "用一句话介绍你自己"}'调用失败全额自动退款保障#
针对上游大模型提供商(如 OpenAI 503 异常、网络中断或触发内容审查拦截)的突发故障,SaasOne 在扣费逻辑中引入了分布式事务级原子回滚:在发起模型流式调用前预扣代币,一旦在生成完成前捕捉到异常错误,系统立即原子退还已扣额度,并在 ai_usage_logs 中记录退款审计日志,保障用户资金绝对安全。
BYOK 密钥加密存储与权限隔离#
用户在控制台保存的第三方 API Key 严禁明文入库。系统在存储前采用 AES-256-GCM 算法结合服务端环境变量 BETTER_AUTH_SECRET 进行加盐散列加密,仅在实际调用发起那一瞬间在隔离沙箱中解密使用,杜绝数据库泄露带来的密钥失窃风险。
