有没有项目能验证api模型真实性

有没有项目能验证api模型真实性
有没有项目能验证api模型真实性

中转站确实便宜啊,但是不是很敢买,提示词注入攻击倒是不怕,主要怕买的不保真价不配位。

目前只找到这两个相关项目

ModelAudit,但这个好像是做蒸馏检测的
LLMmap,发送大量探测Prompt来排行可能性

LLMmap有点太耗了,如果是fable跑完那我项目都不用干了,而且万一这次没掺水下次掺了我照样不知道

我想要的效果是根据我已经进行的历史聊天进行判断,甚至能量化一个掺水率,而不是预设探测问题。

求助下佬友们,有没有这种技术啊。

1 个帖子 - 1 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文