我从GitHub上无意找到这个编辑器感觉挺好用的内置的扩展 但是我发现一个问题
我接入了自己的中转后 发现不触发缓存 。。试了很多都不行
我测试的5.5
*
"以下为我找的资料 按照修改了也不行 就是不触发缓存 有没有大佬指导一下
我已知的是OpenAI 是基于前缀自动匹配的，只要保证代码中发送的长文本顺序和内容固定不变 但是改了* "
OpenAI (及 OpenAI Compatible / Responses API)
写入逻辑 (Cache Write)：全自动被动写入。只要你的请求长度超过了特定模型的最小 Token 阈值（例如 GPT-4o/o1 系列通常是 1024 tokens），服务端会自动在后台将这段文本以块 (Block/Chunk) 为单位存入临时缓存。
命中逻辑 (Cache Hit)：严格的前缀匹配 (Prefix Matching)。后续请求如果与之前请求的起始部分（前缀）完全一致，即会自动命中缓存块。一旦中间有一个 Token 不同（例如在文档最前面插了一句话），从不同点开始及其后的所有缓存都会判定失效。
TTL (有效期)：较短，通常在 5~10 分钟左右，取决于 OpenAI 服务器当前的负载情况。
1 个帖子 - 1 位参与者
来源: LinuxDo 最新话题查看原文