【开源推广】将常用的几种LLM API格式进行大一统,支持思考签名+思考回传+工具调用,项目内部便只需维护一个格式

【开源推广】将常用的几种LLM API格式进行大一统,支持思考签名+思考回传+工具调用,项目内部便只需维护一个格式
【开源推广】将常用的几种LLM API格式进行大一统,支持思考签名+思考回传+工具调用,项目内部便只需维护一个格式
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
  • 我的帖子已经打上 开源推广 标签:
  • 我的开源项目完整开源,无未开源部分:
  • 我的开源项目已链接认可 LINUX DO 社区:
  • 我帖子内的项目介绍,AI生成、润色内容部分已截图发出:
  • 以上选择我承诺是永久有效的,接受社区和佬友监督:

以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出


项目链接:

github.com

GitHub - Lianues/unified-llm-provider

通过在 GitHub 上创建帐户来为 Lianues/unified-llm-provider 开发做出贡献。

旨在解决什么问题:

  • 不想看各种llm厂商的接口文档,太多了
  • 每个厂商的接口都有各自的思考签名格式,维护多种签名格式太麻烦了
  • 开源和闭源模型的工具调用要求不同,开源要求回传思考内容,闭源要求回传思考签名
  • 各家返回的token信息也不同,claude模型还包含了缓存时间等
  • 想选择一个比较好的格式维护消息历史

项目整体介绍:

image

使用方法:

npm i unified-llm-provider

使用文档和说明:

就是项目readme,发给ai即可:
unified-llm-provider/README.md at main · Lianues/unified-llm-provider

支持的调试方法:

  • 提前记录实际请求体和响应:
  • image
  • 使用代理,看发包:
  • image

1 个帖子 - 1 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文