飞牛这个docker装的ollama,我折腾了很久,都是概率性地能调用显卡,有时候可以调用,有时候关机再开就调用不了。
建议各位,还是飞牛里开虚拟机windows10直通显卡,把ollama部署在windows里,然后飞牛docker里装webui就好,windows真的比debian环境好的多。虽说这样虚拟硬盘读写只有个600m/s。有条件直接直通固态吧。
纯粹一般,我是内网连不了互联网的,换上后感觉好了一点但貌似还没有家里的nas的i5 4590的性能好。但日常办公还是流畅了一些,但也可能是我没有管理员权限的原因。
关注数量超出限制,
请先删除部分内容再尝试