WWW.YOUINFO.SITE
标签聚合 首字

/tag/首字

IT之家 · 2026-06-05 20:38:54+08:00 · tech

IT之家 6 月 5 日消息,腾讯混元今日宣布提出 Stem 稀疏注意力算法,已被机器学习顶会 ICML-26 收录。 官方表示,Stem 稀疏注意力算法从“因果信息流”重新审视块级稀疏,用 Token 位置衰减(TPD)和输出感知度量(OAM)两大创新, 仅用 25% 算力就逼近稠密注意力的精度 。配套的 HPC 算子库则将这份理论加速比真正转化为端到端的实测性能。 ▲ Stem 在 Hy3 preview(W8A8-FP8)上更贴近生产环境的真实落地数据 根据 Stem 算法 × HPC 算子的全栈加速方案,算法层面,Stem 通过 Token 位置衰减(TPD)和输出感知度量(OAM)实现 25% 预算下的近无损精度 ;算子层面,HPC 开源的 Stem+BSA 算子将稀疏收益转化为真实硬件加速, 128K 上下文下首字延迟降低 3.6 倍 。 ▲ 模型精度 IT之家附相关链接如下: Stem 论文链接 : https://arxiv.org/abs/2603.06274Stem 开源地址 : https://github.com/Tencent/AngelSlimHPC 算子开源地址 : https://github.com/Tencent/hpc-ops

LinuxDo 最新话题 · 2026-06-04 08:53:31+08:00 · tech

codex公益站首字速度优化完毕,性能已压榨到极致 福利羊毛 回答里居然会植入你们的提示词?! [image] 虽然是免费的, 但是现在有些公益站开始注入提示词了. 如果这么做之后,大家没什么反应的话,会不会下一步就是注入工具调用了? 再下一步…修改你浏览器主页?甚至… 这个问题如果没人关注的话,一步步突破底线,这些公益站还能叫公益站么… 始皇可不可以搞个公益站的管理规定, 比如需要明确标注会不会注入广告 会注入什么形式的啥的 其他相关: https://linux.do/t/topic/2273789 25 个帖子 - 23 位参与者 阅读完整话题