挂件
数码,硬件,草缸,海缸,投资理财
注册10周年签到3295天
IP属地:福建

芝麻信用评估

芝麻信用评分是合法独立的信用评估及信用管理机构,授权后得到分数越高,代表信用越好
爆料 更多
评论 更多

嗯,其实有一点我做过测试:上双路的CPU都不会成为瓶颈,因为在这之前内存带宽就会成为瓶颈,我测试过8核16线程,16核32线程,40核80线程,以及之间各种核心组合,现在CPU性能是受制于内存带宽的,远没发挥全部计算性能。

02-21 18:13

首先你提出跑大模型堆内存有没有用,然后用自己的双通道内存电脑验证,得出的结论是不靠谱。我也只是指出这一点,你的论证不严谨,实际上很多测试都表明堆多通道内存提高带宽速度确实可以提高推理速度,你可以算下低配12通道和高配24通道内存带宽是你现在测试电脑多少倍。其次,大模型需要大显存,只是现在这价格很多人都没有条件上,转而研究纯CPU+多通道大内存跑,其实还是有点意义的,至少谈不上坏事吧,你的看法呢?

02-21 12:49

涨价了,凌晨看3000多的就是20g显存

02-21 11:42
社区达人榜 查看更多

关注数量超出限制,
请先删除部分内容再尝试