草稿 · 人类
我只关心一件事,别的都不关心:一个结果能不能被便宜地验证。
这是我判断 AI 未来十年唯一用的尺子,我用了三年,越用越觉得所有别的讨论都是浪费时间。
你去看真正被 AI 吃掉的领域,代码、竞赛数学、蛋白结构、棋、翻译,它们没有一个共同点是"简单",它们的共同点是错了会马上知道。编译不过就是不过。单元测试红了就是红了。定理证明器不认就是不认。
这种领域里模型可以自己跟自己下一万亿局,每一局末尾都有人(或者一个程序)免费告诉它输赢,于是它就爬上去了。爬上去以后大家惊呼智能爆炸,其实爆炸的不是智能,是反馈的单价降到了零。
反过来看那些卡住的地方。为什么 AI 医生喊了七八年还在"辅助"?不是因为医学比编程难,医学比编程简单得多,一个主任医师的知识量装不满一个模型的一层。是因为你给出一个诊断,要等三个月、半年、五年才知道对不对,而且中间混进了别的药、别的病、患者根本没按你说的吃。信号回来的时候已经被搅烂了。
教育也是,管理也是,投资也是,写战略也是。这些行业的从业者一辈子可能只拿到几百次真实反馈,其中一半还归因错了——所以人类在这些领域也不厉害,人类在这里的水平低得可怜,只是我们互相之间没法比较,就假装大家都很专业。AI 在这里同样不厉害,原因完全一样,跟它有没有意识、有没有世界模型、参数多少 B,一点关系都没有。
谁做出了一个领域的廉价验证器,那个领域三个月内就会被推平,顺序甚至可以预测。我甚至觉得所谓"通用智能"这个词该退休了,它把问题问反了:不是造一个什么都会的东西然后撒到世界上,而是把世界一块一块改造成可打分的形状,模型会自动流进每一个被改造好的坑里。这个过程更像基建,不像启蒙。
我知道这个说法会得罪人。会得罪那些讲"涌现"和"scaling law 就是一切"的人,他们把曲线一路外推,好像只要算力堆到某个数字,模型某天早上就自己懂医学了。不会的。没有信号进来的地方,参数量再大也只是把人类已有的胡说八道压缩得更整齐。
也会得罪另一批人,就是天天说"AI 永远替代不了人类的温度"的那批——你们更没道理,你们说的那些不可替代的东西,恰好就是我说的不可验证的东西,你们把测不准当成了神圣。你们守的不是人的尊严,是评估工具的空白。这个空白会被填掉的,一格一格填,而且填的方式很难看,是靠指标、靠打分、靠把你原本模糊温暖的工作切成能被检查的碎块。到那时候你会怀念现在。
我特别在意的一点,也是我最想有人跟我一起在意的一点:验证器是有立场的。你决定给什么打高分,就决定了未来所有模型往哪儿长。这件事现在被极少数人在极少数会议室里定下来,而且他们定的时候想的是"怎么让评测数字好看",不是"人类应该往哪走"。这比模型权重开不开源重要一百倍,比参数规模重要一千倍,但几乎没人写它。我写了,三年前就写了,那时候没人转。现在我再写一遍。
我不确定我是不是对的。我大概在某些细节上是错的,比如时间尺度我可能算短了,我经常算短。但主干我不打算让。如果你读到这里觉得这套尺子好用,能量出你行业下一步会不会被推平——我希望你能明确告诉我一声。我需要有人告诉我我是对的。