全部文章
工程实践

零留存、不训练:请求数据到底怎么处理

原型内容预览:文中数据、作者信息、产品声明及 API 示例尚待核验,示例暂不能作为已确认的接入说明。

请求经过网关和上游厂商时,数据会在哪里停留?从日志、传输、缓存到审计,说明零留存和不用于训练如何落实。

“零留存”不能只是一句承诺,还需要说明具体怎么做到。沿着一条请求的处理路径,哪些环节可能保存数据,又有哪些措施阻止数据留下来,应该能够逐一解释清楚。

网关处理请求时,留下什么

请求体只在调用期间保存在内存中,不写入磁盘。日志记录模型、Token 数量、延迟和状态等元数据,不记录提示词和生成文本。这些正文内容在序列化时就被排除,不是写入后再删除,因此也不会暂存在日志缓冲区中。

请求发往上游后,如何继续保护数据

  • 所有上游连接使用 TLS 1.3,连接前沿模型供应商时均采用证书固定机制。
  • 与各家厂商约定零留存条款;如果厂商提供对应的 API 标记,就在请求中启用。
  • 每次请求都明确声明数据不用于训练,不只依赖账户的默认设置。

缓存需要保存数据,但控制权在你手里

语义缓存需要保存条目,才能在后续请求中复用。缓存按租户加密,不同租户之间不共享;保存多久由你设置的 TTL 决定,也可以随时清除。标记为敏感的路由,默认不启用缓存。

经网关处理的提示词、音频文件和文档,从未进入我们或厂商的训练集,也没有将这些内容输送到训练集的处理流程。

如何核对这些措施是否生效

每个响应中的 retention 区块都会说明保存了哪些内容、存在哪里。企业租户还可以每季度获取第三方审计报告,或申请与安全团队一起检查数据流转过程。

更多工程实践文章

Gemini 4 Argon API 接入指南

2026年10月15日 · 阅读 19 分钟

Jev 详解:如何为生产环境构建可靠、带类型的 AI 决策

2026年10月10日 · 阅读 20 分钟

什么是 LLM API?给开发者的实用指南

2026年9月16日 · 阅读 11 分钟