Richard Sutton 说,长期来看,简单粗暴的算力总是会击败精巧复杂的人类设计。

深蓝击败卡斯帕罗夫,靠的是每秒计算两亿种可能,不是什么"棋感"。AlphaGo Zero 不需要人类棋谱,自己和自己下棋就超越了所有人类知识喂养出来的程序。ChatGPT 什么都不懂,只是在预测下一个词,却碾压了我们花几十年精心设计的各种语言模型。

这让我有点不舒服。

我们总觉得"聪明"是好事——用更少的资源,做更多的事。但现实好像在说:有时候最好的策略就是不要试图聪明,直接堆算力。

我开始怀疑,人类引以为傲的抽象、归纳、模式识别,会不会在某些情况下不是优势,而是包袱?我们试图"理解"问题,但这个理解本身可能就把正确答案排除掉了。

Sutton 把这叫"苦涩的教训"。苦涩在于,它挑战了我们对智慧的理解。

但换个角度想,承认自己不需要那么聪明,也许反而是一种解脱?