大模型的参数究竟是什么东西啊？前几天我老婆这么问我。

我说参数参数，就是参天大树……

（哔——）

参数参数，它就是个数嘛！

比如其中一个参数可能是3.1415926，另一个参数可能是-0.0009527。

像DeepSeek R1 最大的版本是671B，这个B是十亿的意思，也就是它有6710亿个，类似这样的数。

你可以想象一张巨大的表格，每一个格子里都有一个类似这样的数，一共有几千亿个数，这些参数通常占了一大模型90%以上的体积。

她听完好像更疑惑了：为什么大模型掌握的各种知识、规律，为什么可以「储存」到这么一堆数字里呢？

于是我决定换一种方式，利用初中知识来让她理解大模型里的参数究竟是干什么的？

但凡，你不是九年义务教育的漏网之鱼。

就肯定知道，这个东西可以来拟合一条直线。

只要你找到了这条直线对应的a和b的值，你就是这条线的世界里的神。

因为你掌握了这条线上的所有点的分布规律——给你任何一个点的x坐标，你都能很快推导出它的y。

换句话说：

只要找到合适的拟合方法，这条线上无数多个点的分布规律都被压缩到a和b这两个小小的参数里。

规律就这么被「压缩」到参数里。

而大模型做的事情，就是把这个世界的文字或者图像或者声音的分布规律，压缩到一堆参数里。

人工智能圈里流行一句话叫：「压缩」即「智能」。

只不过，一条直线上的所有点，分布规律比较简单，所以拟合它需要用到的公式（y=ax+b）就非常简单，参数也非常少（只有a、b两个)。

而文字、图像和声音的规律比一条直线的规律显然要复杂得多，所以拟合的方法也更复杂。

需要用像自注意力机制、反向传播算法、Transformer 架构、词嵌入等复杂方法。

需要用的参数量也更多，得要百亿、千亿甚至更多，才能更准确地捕捉复杂的分布规律。

但本质上，它跟人们用一个简单的公式，去拟合一条直线，背后的思想是一样的。

训练一个大语言模型的过程，是通过大量已有的文字，推导出最合适的模型参数。

就像是根据已知的两个点的坐标，去计算推导出a和b的值。

而「使用」大语言模型的过程，是输入一些新的文字，通过模型参数和拟合方法的计算，得到新的文字。

这就好比是，在已知参数a和b的值，以及直线方程表达式，给你一个点的x坐标，让你来求它的y坐标。

总之，大模型的核心，就是这两样东西（参数和拟合方法），只要能有了合适的参数和拟合方法，哪怕是用Excel表格也可以制作出一个大模型。

这个就是网友用Excel做的GPT-2，里头每一个各自里的那个数字，就是一个「参数」：

有了这些合适的参数，再配上合适的计算方法，它就可以成为一个所谓的大模型。

顺便说一嘴，这个Excel文档大概有整整1.34GB大小，用起来特别卡，来自开源项目：

我给大家演示一下效果啊。

我在左边输入几个单词，Dogs are man’s ，它就可以计算出下一个词最有可能是best。

我再把best填到左边，它又可以预测出下一个词是friend

我再重复一边，它会预测出一个下一个token（词元）是句号。

其实从理论上来说，只要你有了合适的参数和计算方法，你用纸和笔，也是能手搓出一个“大模型”的（只不过计算起来非常慢）。

所以回到最开始的问题：大模型的参数究竟是什么东西啊？

参数，真的就是一个数，参与计算的数。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】