听说现在moe模型本地也跑得很流畅,在网上对比了一段时间显卡,决定入手tesla p100,
在拼多多上面的南京海雀店440元购买了p100,质保3年,不管真假,有保障总是好的。

https://www.bilibili.com/video/BV1N2ykYmEhZ/?spm_id_from=333.337.search-card.all.click&vd_source=15bac1204c9b2e58ccab05374fee932b
cuda 12.4.1 显卡驱动:https://developer.nvidia.com/cuda-12-4-1-download-archive
对应的刚好是tesla支持的551.78驱动
一开始是根据这个B站视频去安装驱动的,安装并且配置完之后,tesla p100倒是能够驱动,
但我当时只有一个p100显卡,现在手里有的显卡是p106-100 6g(已补电容)、p104-100 8g和30hx 6g(已补电容),
加上最近显卡内存都在涨价,本着不浪费的原则,毕竟加起来也有30g显存,自己也想跑跑ai大模型。
听网上说 tesla p100还可以安装 grid 驱动,我下载了一个 grid-551.78,但是不知道什么原因无法直接安装grid驱动程序,遂放弃,而且也很难解决p1xx-xxx系列的显卡驱动问题。
后面解决先从p1xx-xxx系列驱动入手,在雨糖科技:https://raincandy.tech/nvidiadrv/ 上面找魔改驱动试了一遍,无意中发现539.64_GRIDvGPU这个驱动可以将tesla p100一起驱动了,而且驱动出来直接就是wddm模式(图形显示模式)而不是tcc(计算卡模式),nvidia-smi也显示正常没问题。
后续因为p100显卡又降价有货了,组成双p100,所以就把p106-100、30hx和p104-100都退了,值得一说的是,后面p104-100因为矿卡问题,我跑了48小时ai后直接冒烟烧毁…所幸断电及时,没有造成其他更大的问题。
貌似p104-100跑ai大模型也不错,反正我是不敢尝试了…