拿前几天抢的16核16g跑了一个14b模型,16核直接跑满了,勉强还能输出几个token每秒
牛逼
哪里抢的?
@“bwet”#p302163
现在只有8核的了
https://www.nodeloc.com/d/29105
配置可以性能拉满
拿前几天抢的16核16g跑了一个14b模型,16核直接跑满了,勉强还能输出几个token每秒
牛逼
哪里抢的?
@“bwet”#p302163
现在只有8核的了
https://www.nodeloc.com/d/29105
配置可以性能拉满