读了DeepSeek算子开发大佬刘胜与的《我不得不把才华埋葬在昨天》,感慨颇深。DeepSeek V4.1的主Attention算子就出自该大佬之手。前几天和朋友聊非Nvidia生态的问题:像AMD ROCm、华为CANN这些后发者,为什么现在适配得这么快?我觉得一个很重要的因素是,之前被CUDA生态独占、需要无数顶尖头脑夜以继日去做的算子迁移工作,正在被AI自己接管。以前做算子开发或迁移,需要一个有顶尖数学和AI功底、有开发能力、还能啃官方大部头手册的行业大佬一个一个手搓,一个算子可能就是几人天甚至上月的工作量。现在,这些活正在被AI批量打穿。

23年初,大部分LLM上下文还只有几千token的时候,我就下过断言:LLM最先取代的就是机器学习从业者。同年年底GPT-4 Turbo问世,我把之前做过的一个Kaggle印度精准农业数据集又做了一遍。第一遍从数据清洗、特征工程到建模和基准测试,我至少花了两周。第二遍的时候还没有Agent,我就在聊天窗口里跟它来回交互,一行代码没写,一个下午就做完了,还顺手对比了5种学习器选出最优解,做得比我自己那一遍好得多。

机器学习是一个典型的超高认知成本、超低技术门槛的领域。经典的特征工程降维算法PCA诞生于1901年,没有扎实的线性代数、最优化和概率论基础根本看不懂;而Redis的高并发机制,大部分人听一遍就能理解。但从工程实现上看,前者只要几行代码,后者却需要无数工程师夜以继日地迭代优化,从无数个生产事故、黑天鹅里把架构磨出来。算子其实也一样:理解门槛极高,但边界清晰,工作量比传统庞大的IT工程小得多,写得对不对、快不快,跑一遍就知道,这恰恰是AI最擅长啃的活。

在我看来,LLM压根儿不需要去"理解",它只需要按照Transformer的自回归机制,去拟合语料里的概率分布。就像《终极算法》对类推学派的那句定义:像什么就是什么。虽然类推学派指的是SVM和K-NN,但用来形容拟合现实世界的LLM也不为过。它就是图灵的模仿游戏,就是那个看着像鸭子、叫着像鸭子、摸起来也像鸭子的"模仿者"。拟合出来的智能和我们所说的智能,在我看来是等价的:等号左边是我们看到自己的爱人,右边是大脑直接释放出依恋的信号;左边是人类定义的情形,右边是生理反应。说得极端一点,“理解"本身就是生在这个社会里的人强行赋予的意义。计算只是计算本身,意义是被我们解码消费的。

量子力学里有句很有名的调侃:“闭嘴,去计算(Shut up and calculate)"。哥本哈根诠释之后,很多物理学家不再纠结波函数到底意味着什么,而是直接用成熟的计算框架去解决实际问题。现在很多自然科学领域也一样,用神经网络这种丑陋的数学算法去暴力拟合数据,可计算的实用主义已经盖过了解释本身。LLM就是这种实用主义的集中体现。它本应该激起大家对人工智能前景的讨论,但现在应用的声浪,远远高过了乐观主义者和悲观主义者之间的思想交锋。

大佬在文章里把AI比作织毛衣机,我觉得更像是一场工业革命。工业时代的大规模批量生产,一定程度上剥夺了工匠和工艺品之间的联系,也剥夺了工匠亲手创造的乐趣。对大佬来说,写算子既是他人生的一大意义,也能给他带来世俗的成功,而AI这个新工业正在剥夺后者,并且开始侵蚀前者。一百多年前莫里斯搞工艺美术运动,想给手工艺找回尊严,但机器并没有因此停下来。

我从2018年起也做过一些国产硬件和AMD ROCm的算子适配工作,当然没法和大佬比。和大佬不一样的是,我手搓算子也好,写回归、聚类算法也好,做可视化也好,写代码这件事我一直感受不到乐趣,对我来说是残酷的剥削;真正让我快乐的,是通过数据获得洞见的那一刻。之前在X上看到一个OpenAI的工程师说,他自己就是coding精英,却从来没爱上过coding,好在AI把他解放了出来,让他能专注于build而不是coding。这一点我感同身受。

过去几年我买了很多GPU硬件,经常在Kaggle、天池上找数据集做分析,哪怕前两年最忙的时候也没停过,训练过很多学习器、数学模型,并以此为乐。去年离职之后的下半年,我做训练还需要人工调试环境,再通过Vibe Coding写训练代码,然后人工部署调试上线。而今年我参加了十几个数据竞赛,连云端租赁算力都是Agent自己操刀,在几乎0命令、0代码的情况下训练了几十个LoRA、回归、分类学习器。有的比赛从头到尾我只写了prompt,连赛题都没看过。

过去打一个比赛得拼老命,现在我只是比别人更会用Agent一些,甚至可以不获取任何洞见就把一个比赛打完。大佬是先被拿走饭碗,再被侵蚀热爱;我是AI先帮我拿走了最痛苦的coding,现在又把我唯一乐在其中的部分,也就是从数据里获得洞见,一并拿走了。

机器学习一定程度上是我认为计算机行业最有趣的一个赛道,下到识别发票、手写文字,上到构建自动驾驶、人工智能,它就是用统计学和数学的视角来拟合现实世界。而另一方面,这个对碳基头脑来说理解成本超高、工程门槛极低的行业,正在被它自己创造的巨兽吞噬着对于人类工匠的意义,只留下一个荒诞的幽灵在原地徘徊。

FIN