在python环境中,安装auto-gptq的时候,碰到了如下问题,网上也找不到解决方案,记录下。

auto-gptq安装的时候,会碰到torch.version.cuda=none的情况,导致auto-gptq安装不上
在这里插入图片描述
需要在电脑上,安装cuda:https://blog.csdn.net/weixin_46333910/article/details/136242694

因为我是Apple Silicon M1 芯片,所以要下载对应的cuda驱动。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐