Anthropic 撤回暗中限制 AI 研究的政策,Claude Fable 5 防护将改为可见提醒

Anthropic 撤回暗中限制 AI 研究的政策,Claude Fable 5 防护将改为可见提醒
Anthropic 撤回暗中限制 AI 研究的政策,Claude Fable 5 防护将改为可见提醒

Anthropic 撤回暗中限制 AI 研究的政策,Claude Fable 5 防护将改为可见提醒

Anthropic 放弃在 Claude Fable 5 中悄悄降低 AI 开发相关性能的做法,改为用户可见的提示或重定向。公司为早前“错误的权衡”道歉,称隐蔽防护虽然更不易被绕过,但对研究人员不透明。

撤回决定源于 AI 研究界的激烈批评。原政策本会暗中阻碍用 Claude 训练竞品模型的研究,批评者认为这越过了底线,可能导致只有少数头部实验室能推进前沿 AI 研究。现在,防护措施将更公开,但也可能误拦更多良性请求。

WIRED

8 个帖子 - 7 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文