出网是开关。钱是乘法。
数据驻留先写清楚三件事。训练语料在哪。请求正文在哪。日志在哪。三件可以不在同一个地方,但每一件都要有区域和合同主体。写「数据在国内」不够。提示词里会有姓名、文号、未发布的制度。日志若默认进模型商的训练池,等于把客户的上午会议纪要送给别人。
提示词要不要记,也写上。不记,出事无法复盘。记了,谁能看、留多久、会不会进检索,要有人认。坐席把身份证号贴进对话框,是常见事故。那一页上要有一句:提示词按生产日志管,脱敏规则和保留期写进运行说明。
钱用信封背面算。教学假设:每次 800 token(600 进、200 出),100 问/秒,一天开 8 小时。
= 2,304,000,000 token / 工作日
教学单价按每百万 token 8 元来:
2304 × 8 = 18,432 元 / 工作日,只算模型,还没算检索、日志、人。
一百 QPS 对很多内部助手是夸张的。夸张有用。它逼你问真实峰值。若真实是 3 QPS,把 100 换成 3,同一张算式,一天大约 553 元。两个数量级差在纸上,客户才能看见「并发」不是装饰。政务项目常见个位数 QPS,照样要把这道乘法写上。审计问的是你有没有算过,不是你有没有一百。
提示词离开 VPC,有的客户当场停。政务这边,等保和数据出境材料过不去,方案不用再往下翻。互联网产品也许还能谈,但要写清:日志有没有证件号、模型商能不能拿去再训练、用户能不能关。很多挂着互联网招牌的客户其实持牌,不要默认能出网。
财务听得懂乘法。安全听得懂出网。两句话写在图下面,比再加一页附录有效。一百 QPS 只是尺子。尺子的用处是把「大概不贵」收成一个数。数错了可以改单价。没数,会里只能靠感觉,感觉会把项目开成免费。
这三项——驻留、日志、信封算法——写进那一页的下半张。没有这三项,图只是装饰。