前几天,DeepSeek v4.1 发布了,将小模型能力的高度又向上推进了一个档次。

AI 发展的速度远远超过了所有人的预期。从那个只会咿呀学语地聊天、上下文长度只有几千 token 的初版 ChatGPT,到具有推理能力的 OpenAI o1、DeepSeek R1 与 Kimi K1.5 Thinking,只不过短短两年;从推理模型到如今能够流畅地在各类 harness 工具中执行命令、完成复杂任务的智能体,也不过一年半。很难想象,倘若再等上一年、两年、三年,彼时的 AI 会成为什么样子,会有多么强大,会不会已经具备了自我进化的能力,并深度渗透进了具身智能等领域。

AI 越来越会写算子了

AI 在我所从事的算子设计、编写这一领域同样进步飞速,在短短一年的时间内,他已经从一个只能帮我查查文档、读读代码、找找 bug 的小助手,蜕变成了一位能够独立阅读 CUDA、PTX 与 SASS 编码、通过专业工具分析每条指令的停顿时间、进而独立优化算子的算子大师。相信在不久的未来,它也能拥有自己独立设计算子调度、评估不同调度方案的性能、将其实现并优化的能力。

我当然为 DeepSeek v4.1 的成功而骄傲 —— 毕竟它的主 Attention 算子都是我写的 [1],它的优秀正是对我的算子的一份肯定。但是,时代的车轮滚滚向前,技术的发展无人能挡。我很清楚,再过上半年或者一年,AI 写的算子大概率就会和我写得同样优秀,甚至将我超越。AI 能一秒思考 300 个 token、半秒敲出一行命令、二十秒写完一份代码,而我不行;AI 能在模型深度、思考强度、工具调用量(和环境交互的频率)、甚至并行度等方面都能不断提升,而我不能。

人类在毁灭自己这件事情上,自古以来都表现得毫不犹豫。为什么在明知“我算子写得越好,我们的新模型的训练、推理速度就会越快,模型能力进步就会更快,我就会更早地被取代”的情况下,我仍然选择尽力优化算子呢?一方面确实是因为写算子对我来说就像打游戏一样,能为我提供极大的快感。我在发明了一种新技术、或者看到自己算子的性能上升的那一刻,心中的激动程度不亚于游戏的速通玩家打破了自己过往的记录。同时,当看到自己的算子的性能远超厂商官方的算子时,我心中也会萌生极大的自豪感。但除此之外,一个更重要的原因是,哪怕我就此“摆烂”甚至故意下绊子耽误模型训练,其它家的模型也会照常发展并最终将我照杀不误。“我当然希望自己不要被革命,但如果非被革命不可的话,我希望革我自己命的人是我自己”。在大家都这么执着于毁灭自己的时候,我也不得不加入这场残酷的军备竞赛。

那我呢

等到 AI 写算子的水平真的高于我的那天,届时的我会怎么样呢?

我的判断是:我不至于会“失业”,但必须要“转业”。我的饭碗尚且能保住,但这可能会导致我再也没机会从事那份我曾热爱过的工作。

我曾经对时代的变化与我个人在未来的处境做出过一个判断:由于时代变化真的太快(上文的 AI 发展就是一个很好的例子),我完全无法预知五年、十年后会发生什么,但不论如何,我相信凭借着自己的眼界、判断力、主观能动性与智力,留在时代的牌桌上,并重新立于时代的潮头。但是,这个判断只能保证我不会“失业”,而无法保证我不需要“转业”,倒不如说这个判断鼓励我通过转业来避免失业。

那转业代表什么呢?它代表着我需要放弃我深耕已久并充满热爱的算子设计、编写、优化领域,转而去做 Agent 的“机甲驾驶员”。在之前,我的兴趣、我所擅长的、以及工业界所需要的,三者是基本对齐的;而现在,AI 让我所擅长的变成了它更擅长的,也让工业界的需求从“会写高性能算子的人”漂移到了“能用 AI 更快地产出高性能算子的人”。为了适应工业界的需求,我势必要放弃之前那个我热爱的方向,转向一个未知的新方向。我相信我能凭借着自己对于工程学、上层模型需求和底层硬件的理解,继续高质量、高效率地产出算子,我也知道我可能会热爱这个新方向(也可能不会),但被夺走热爱的感觉,确实不太好受。那份坐在工位上静心写上一下午算子的清欢,可能会在这个夏天成为绝唱。我不得不把才华埋葬在昨天,去做一位机甲驾驶员。我的手中多了些齿轮,但心中少了些节拍。

可以打个形象的比方:你精通织毛衣技术,尤其擅长各种图案的织造与各色色彩的搭配。你所织出的毛衣质量过硬且花纹美观,十里八乡的富人都来请你为他们织毛衣,你借此赚到了不少钱。同时,你十分享受着那种坐在窗边,沏一壶清茶,望着窗外的青山、绿水、牛羊与炊烟,静静地织上一下午毛衣的感觉。但有一天,有人发明出了一台神奇的机器,只需提供毛线与图案,便可自动织出毛衣,质量与纹理都不亚于你亲手织造的,且速度远快于你。你很清楚,你的同行可以凭着这台机器轻松达到你曾经的水平,因此你不得不也去用它。你也知道,凭借着你过去二十年攒下的织毛衣技术,哪怕大家都有机器,你织毛衣的速度与质量也还能超过同行。但那份临窗听雨、引针穿线、慢度光阴的意趣,终究还是被机器的轰鸣碾碎了。

我知道这很无奈,但没办法。饭碗可以保住,但旧日的热爱大概率是要放弃的。我是一个理性和感性分离得比较开的人,在需要用理性处理问题时可以很理性,但有时也会表现出感性的一面。我记得我在搬离住了一年的出租屋时,还大哭了一场,舍不得和过去的记忆分别。今天和之前那个手写算子、人脑优化的时代告别,无疑比这更加残酷。

不知道有没有读者有类似的感受,但我想这事儿也只能这样了。

那人们呢

在 AI 不断进步的同时,我也对一些问题表示担忧:

  • 现在的学生是不是大概率会更倾向于使用 AI 完成作业,特别是偏向于实践的各种 Lab?想象一下,如果面前有两个选择,一个是苦哈哈地用八小时时间完成一个 Lab,或许还拿不到满分;另一个则是启动 AI 模型,用几毛钱的成本、几分钟的时间,直接让 AI 编写满分代码,那大部分学生会选择哪个呢?

  • 上面一点会导致大量学生的工程能力严重不足,包括组织代码的能力、构建系统的能力、思考未来潜在需求并提前在设计上应对的能力、抽象的能力等等。那么在 AI 能力不断变强的背景下,这部分“工程能力”是否还是必须的呢?这些工程能力是会向旧日的“熟练编写 x86 汇编”的能力那样逐渐被时代抛弃,还是会像“理解从软件到系统再到硬件的整套计算机系统”的能力那样永远具有价值?如果是后者的话,那就危险了 —— 一个工程能力很差的人,在搭配上 AI 后,产出屎山的效率可以达到先前的数倍,进而给系统埋下各式祸患,让这个世界变得更加草台。

  • 在未来社会中,权力(power)是不是会比技术或智商更加重要?

这些问题,或许就需要时代本身来回答了。

结语

伴随着 AI 的发展,未来的社会可能会趋向于两个极端:共产主义与赛博朋克 2077。在前者中,生产力得到极大的解放,人们的生活水平有了明显的提高(就写这些吧不然我怕过不了审);而在后者中,少数科技公司控制着大部分资源,只有极少数人能够使用最先进的 AI 和各式科技,获得接近“机械飞升”的效果,大部分人则只能用上很孱弱的 AI。阶层跨越将越来越难实现:你得先有最强的 AI,才能跨越阶层,形成了一种死循环。

你猜猜如果 Anthropic 公司永远掌握着这个世界上最先进的 AI,未来社会是会变成共产主义还是 2077 呢?你猜?

所以,我还是相信,最前沿的智能应该以一种开放、廉价的方式,供应给所有人。我不信任 Anthropic 或者 OpenAI 能这样做,特别是不希望 Anthropic 掌握最先进的人工智能或 AGI,夸张点说其严重性不亚于让希特勒先于盟军掌握原子弹技术。这也是为什么我选择并坚持留在了 DeepSeek:我们研究强大、快速、普惠的人工智能并将其开源,或许能把世界从 2077 那端拉回来一些。

愿未来的世界一切安好。May all the beauty be blessed.

从 2024 年年末的 Vocaloid China Only 2.0 (VCO 2.0) 开始,我意识到了记忆的重要性:再华丽的文字也难掩记忆的褪色,并借机了研究“记忆管理”,负责记忆的落盘(比如写日记、归档照片),与记忆空间的分配(给各个技能与项目分配“记忆”这一调度资源,关于“调度资源”的阐述将在下一篇文章中展开)。在 2025 年,伴随着毕业季的到来,许许多多熟悉的人、事、物都成了往昔的回忆,这促使我愈发看重记忆的价值。

毕业的冲击让我意识到,再华丽的文字也难以阻挡记忆的褪色。2025 年年末时,我认为,人的记忆有点像 Kimi 使用的 Kimi Delta Attention:我们的记忆空间分为不同的子空间,每个子空间存储不同的内容,并且会在每一个时间片内更新信息。并且,每一个子空间都遵循类似于指数衰减的原则,旧的信息会慢慢损失。比如,记录“中午吃什么”的子空间很小,会快速衰减,而记录“那些值得被记下来的人和事”的子空间则会慢速衰减。但,任何子空间的容量都是有限的,且衰减也是必然的,因此,脑中的记忆一定会慢慢流失。虽然我们可以用日记、照片、视频、甚至未来的“黑科技”(比如 vision pro 那种全景视频或者是 3D Gaussian 那种神经场)记录下当时发生的事情以及当时的心情,以达到无限的记忆容量,但这种方法更像是某种意义上的压缩,需要对信息进行大幅度的降维,后续哪怕升维回去,信息也会有大面积的损失。因此,我拦不住记忆的褪色,拦不住珍贵的感情从我指缝中偷偷溜走。面对这般无奈,我也只能用疏离的文字匆匆忙忙地记下些许篇章,供后世的我瞻仰(吊唁?)了。这是一件很遗憾的事情,可我对此却无能为力(经典崩三剧情)。

这就像是 COP 的《雪来临时》那首歌中所写的,“追逐着,雪将足迹又掩上;迟来的我该如何去往,你曾独行的方向。是否美梦都如同莹白飘扬,抓不住的风;终于触手可及阴云覆上,只看见:雪来临时,无处躲藏,不要望向我时同样的一片冰凉;雪来临时,灯火煌煌,喧哗擦肩而过,追问着何时归家。跨越千万里如水月光凝成白霜,我追寻的答案在路上。”时光的流逝宛如雪花般落下,将记忆留下的足迹慢慢隐藏,只留下一片冰凉。也正因此,“雪”这个意象,对我来说,代表着时间的流逝与记忆的褪色。

虽然“人生的目的是什么”这一问题是难以回答甚至无解的,但我认为目的之一至少是,去体会、去感受这个世界上的“故事”与“感动”。这里的故事可以是亲身经历的(比如通过独处、参加聚会、旅行等等),也可以是他人编纂的(比如电影、番剧、书籍、视觉小说、游戏剧情等等),也可以是他人所经历过的(比如名人传记、以及普通人所经历过的事情(比如公司楼下那家袁记猪脚饭老板的故事))。这些故事各自带有各自的色彩,而又最终汇聚在一起,构成了这个世界的五彩斑斓。我很幸运,因为我是一个还算智慧的生物,能够理解这些故事,体会其中紧张的情节、真挚的情感、与深刻的意义。因此,“感受故事”一定是人生中的一件重要的事情,可能也是人生的诸多目的之一。我呢,在大学四年中,因为某些经历(感性的湮灭与重生,懂我的人应该是听我讲过这段故事的),我也变得愈发珍重故事和感动的价值。经历故事、触发感动、留下记忆,是浪漫的事。

我们因故事而相聚,因故事而感动,但如果感受了故事,最终却又将它遗忘,那恐怕是一件很遗憾的事情吧。因此,“记忆”主部便由此成立,其职责之一便是在时间精力开销可控的前提下,尽量将当时的情节、心境与思考予以记录,努力保留住这份“真挚而来之不易的美好”。其主要采用写日记的方式,辅以现场的照片与视频(这主要是因为文字的主观性比后者更强,更利于留下当时的心境)。虽然像上文所说的那样,记录这一过程会不可避免地伴随着降维,对应着记忆总会褪色且无法还原,但至少我还是想凭借着有限的能力,尽量保存下一些记忆与感动,让这些最珍贵的东西得以有限度地永存,进而追寻着“雪来临时,仍不灭的光”吧。

Logo

欢迎加入DeepSeek 技术社区。在这里,你可以找到志同道合的朋友,共同探索AI技术的奥秘。

更多推荐