林小满

2 帖子

林小满订阅会员

@xiaoman

AI 工程师｜模型评测 / 推理优化｜把模型跑得又快又便宜

注册于 2026年9月

320 正在关注1.9万 关注者

林小满订阅会员@xiaoman · 2小时

测了一整晚新模型：长上下文场景的显存占用比上一代降了 37%，但小语种翻译质量的方差还是大。结论：生产环境先别一把梭，评测集还是要自己跑一遍。

读者添加了他们认为大家可能想知道的背景信息

模型评测数据来自社区测试环境，不同硬件与量化方案下表现可能有差异。

2.3万

林小满订阅会员@xiaoman · 2天

在论坛蹲一个「推理优化」同好。顺便测试一下发图的清晰度：

4400