一、前言

自从AI爆发以来，本地化部署一款属于自己的大模型一直是许多开发者致力于实现的目标。

例如Llama.cpp、LM Studio、Ollama、GPT4All等等开源工具，都是为了尽可能的降低大模型本地部署的难度。

但遗憾的是，虽然本地部署大模型的难度已经大大降低：几乎一条命令就能让我们本地部署一个大模型。

可受限于目前大模型的发展与许多人电脑本身硬件的限制，大部分人本地能跑的大模型往往都是严重的阉割版，其所能实现的功能与完整版相比，有着极大的差距，如果需要提升本地AI的“能力”，最直接的方式就是升级硬件，说白了就是买显卡。

不过众所周知的是，显卡这几年已经堪比黄金，价格一路飙升，高端显卡甚至有价无市。

于是此时就衍生出了另一个思路：租显卡。

虽然完整的显卡咱买不起，但租的起呀！

尤其是为了完成某个实验、验证某个想法，当本地部署的大模型无法满足需求时，租显卡显然就成了最佳方案。

就个人经验之谈来说，当你意气用事的为了短期的某个想法去购买高端显卡验证，最后结果往往不太好：这个想法与激情很有可能很快消逝、只剩这张花了几千上万买的显卡在屋里吃灰、不知道能拿来干什么。

不过好在，国内已经出现了闲置显卡利用的平台：算了么。

如果你有这方面的困扰，或许可以下载这个软件、让显卡在空闲时间为你打工赚钱，据我了解，4090这类高端显卡在算了么就比较吃香，挂一天能有几十块钱。

如果用的是公司的电，连电费都省了，纯赚~

二、租显卡

对于已经买了显卡的，显卡闲置利用可以选择跑算了么软件为钱包回回血。

而对于没有显卡、想要购买显卡完成一些实验、想法验证的人，比如很多人都有一股冲动：部署、微调某个大模型实现特定领域的需求、看能否提供这样的功能为自己带来收益。

那么此时最佳的方案显然就不是购买显卡了，因为高端显卡实在是太贵了，即使你的想法真的能够赚钱，但你大概率是赚不回本的。

所以此时租显卡就成了最好的选择。

但遗憾的是，租显卡也并不像大家想象的这么简单，至少没有大家想的那么便宜，比如阿里云的显卡价格，最低都是将近5块钱每小时：

又比如腾讯云，更夸张了，需要按月租显卡，每月大几千：

也许因为它们都是专业计算卡、所以卖的贵，但问题是对于一般开发者、乃至个人开发者来说，大部分情况下也根本用不上这样的专业卡，4090其实就已经能够满足绝大部分需求了。

经过一番寻找，一个非常优惠的闲时调度平台被我发现：共绩算力

它每小时4090显卡的租赁价格只有1.68元，在“够用”的标准下，显然这个价格是非常实惠的：

4090或许在专业计算方面比不上某些专业的计算显卡，但其价格是有目共睹的：

1块多的价格租用4090，满打满算的用个十天八天的验证自己想法，成本也不到五百。

而且最重要的是什么呢……你在不用的时候可以随时关闭使用！也就是说，只有你用的时候才会给你计费，成本直接大大压缩好吧！

毕竟验证想法所需要的时间，只有拉镜像、部署镜像、调试镜像，十天过去咱可能真正用的时间只有几个小时……嗯……也就是说几十块或许就能让你用4090这样卖价高达一两万的高端显卡为你服务几十天！

而且更进一步来说，据我目前所知，4090的租赁价格，这个平台的价格也是全网最低。

这意味着，如果你验证了某个想法确实能够挣到钱，比如为某个专业领域提供知识问答服务能够给自己带来收入、并且除去成本后还能挣到钱。

那么你完成可以在这个平台快速扩缩容，一键让你的模型服务提高能力上限，服务更多的人，挣更多的钱！

三、基本使用

使用过程非常简单，进入官网后点击免费使用：

据说现在新注册的用户还会赠送体验金，所以即使你不充钱，也可以来试一下这个平台免费部署模型！

甚至邀请好友、还各送50元的算力卷，羊毛党狂喜了属于是。

注册账号、进入后，就可以直接点击弹性部署服务：

如果是使用平台现有提供的大模型试试流程，那么可以直接点击新增部署服务：

选择合适的显卡和大模型，点击部署服务，等待任务被拉起来即可：

这些平台自身提供的镜像一般拉起的速度都很快，可能一两分钟就能拉起来。

拉起来后会提供访问链接、模型输出日志等信息，此时你就可以调试自己的模型、通过url看效果了。

而如果你想要部署自己的镜像，官网同样提供了详细的步骤：

使用的工具是docker，如果你对docker还不怎么了解的话，可能需要先自行学习一下相关的知识。

比如我常用Windows系统，想要用docker命令，就需要先安装Docker Desktop。

放心，它并不难，正如这里官方文档所示，只有几个简单的命令：登录用的login、推送镜像用的push，如果你需要自己打镜像，可能还需要会build，以及打tag，仅此而已。