AI时代 | 杰文斯悖论,古德哈特定律,惨痛的教训 与 历史,艺术,科幻

那天刷X的时候看到PFV Ventures合伙人发了这么一条:

好奇,并隐约觉得是很好的想法,就research了一下。

确实是很好的想法!讲的是大家太爱反复强调增长、优化、规模化,这种单一叙事逐渐把世界越走越窄,而解药就在历史、艺术和科幻里。

我们好像或多或少都在这些局限里打转,所以整理出来,分享给你们:

杰文斯悖论,古德哈特定律,惨痛的教训

杰文斯悖论(Jevons paradox)的意思是,效率提升不一定会让总消耗下降,反而可能让总消耗上升。

最经典的例子是,某种能源用得更高效了,按理说应该更省,但因为变便宜、变方便了,大家反而用得更多,最后总消耗更高 – 它最早来自 19 世纪对煤炭使用效率的观察。今天的科技圈里,这句话常被拿来解释 AI:模型更便宜、更快、更好用,不会让大家“少用算力”,而是会让更多场景都开始用 AI,结果总需求更大。 或者,你大概也会观察到这种现象:虽然能用的技术更多更强大了,工作量不但没减少,反而好像成倍增长,因为能力变大、能做的事变多了。

古德哈特定律(Goodhart’s law)的意思是,当一个指标变成目标,它就不再是好指标了。

比如内容平台一味追阅读量,作者就可能去做标题党;公司只看增长曲线,团队就可能做短期拉新而不是长期价值。它在技术圈特别常见,因为技术增长热爱量化一切、优化一切、AB test 一切。而人一旦被某个数字考核,就会开始围着这个数字表演,而不是围着真正目的做事。

惨痛的教训(The Bitter Lesson)来自AI 研究者 Richard Sutton 2019 年提出的一篇很有影响力的文章,意思是:长期看,真正赢的通常不是把人的聪明规则硬编码进去,而是那些能随着算力和数据规模扩张的通用方法。

也就是说,人类很爱把自己的经验写进系统里,觉得这样更“聪明”,但历史一次次表明,最后往往是更通用、可扩展、靠搜索和学习的系统赢。这就是为什么现在 AI 圈很迷信规模,迷信数据、算力、训练,而不那么迷信手工设计规则。它让人痛苦的地方在于:人类自以为最珍贵的那些直觉,常常不如暴力扩展的机器方法。

这三件事加在一起,构成了一套技术开发最底层的理念:

第一,技术效率提升会把需求推得更大
第二,任何可衡量的目标最后都会被游戏化
第三,真正有效的系统往往不是更像人,而是更能扩张

回想一下AI给你带来的工作量暴增,pdd砍一刀的游戏化目标设计,抖音交互的规模化,背后或多或少都有这三条理念。

但这三条理念虽然很聪明,底层都有一个共同问题:它们会把世界越看越窄。

杰文斯悖论会让人越来越习惯用资源、效率、需求去理解世界;古德哈特定律会让人越来越习惯用指标、目标、机制去理解世界;惨痛的教训会让人越来越相信规模、算力、通用方法才是最终答案。

这三条理念都不是错的,问题在于,如果你长期只用这三副眼镜看世界,就会慢慢忘记:人类社会不是只有效率,不是只有指标,也不是只有规模。

历史,艺术,科幻

历史、艺术、科幻,正好分别补上它们最缺的三块东西。

先说历史。

历史最大的作用,是让人意识到:大部分今天看起来最新、最聪明、最不可阻挡的东西,往往都不是第一次出现。

技术圈很容易活在“这一轮完全不同”的幻觉里,但历史会提醒你,很多结构性的东西一直没变,比如泡沫、垄断、权力集中、叙事操控、繁荣之后的反噬。

历史能破解的,就是杰文斯悖论和惨痛教训背后那种很强的技术乐观主义。因为一次又一次发生过的事情表明:效率提升不只会带来增长,也会带来新的失衡;规模扩张不只会带来胜利,也会带来新的脆弱。

换句话说,历史让人从“这东西能不能做大”往前走一步,开始问:做大以后,会复制出什么旧问题?

再说艺术。

艺术最珍贵的地方,是它逼你重新回到不可量化的东西。

一幅画、一首曲子、一部电影、一个空间,真正打动人的东西,往往都很难被KPI描述。你很难说一首歌为什么比另一首更让人心里一震,也很难把真正的审美经验拆成几个优化指标。

所以艺术天然就是对古德哈特定律的一种反制。因为它在提醒你:不是所有重要的东西,都适合被量化;不是所有不能量化的东西,都不重要。

而且艺术还能对抗科技圈很容易出现的那种“把人当系统节点”的毛病。它会逼你记得,人不是参数,人会犹豫,会受伤,会被气味、光线、节奏、记忆影响。

所以艺术弥补的是属于人的感受力、复杂性、模糊地带。这些东西,恰恰是任何过度优化的系统最先牺牲掉的。

最后说科幻。

科幻让人提前演练技术的后果。

科幻会在技术之外,提出另外几个问题:

如果它真的实现了,人会变成什么样?社会会变成什么样?权力会落到谁手里?代价由谁承担?

这正好是对惨痛教训的一种补刀。因为惨痛教训很容易把人带向一个结论:既然历史证明通用可扩展的方法总赢,那我们就继续往规模化上冲。但科幻会最终揭示一个道理:赢不等于值得;能实现不等于该实现。

科幻给人的是一种后果想象力,让人看到“变强大了之后,世界会被改写成什么样”。

所以更本质地说:

历史让人看到事情会重复,眼前的新鲜感不一定是真创新。
艺术让人记得体验不可被完全量化,可测量不是全部重要的事。
科幻让人预演技术实现之后的世界,可扩张不一定是正当的。

三者共同在做一件事,把人从技术那种单一、线性、过度工程化的思维里拽出来。

所以去读更多历史、艺术和科幻吧,把你的脑子重新拉回更宽的地面:既看技术,也看人;既看可能性,也看代价;既看系统,也看灵魂。

相关文章

AI时代 | 一个与技术FOMO和平共存的方法

AI时思 | 纠结gemini还是gpt时,领悟什么样的人不会被替代

AI好文 | 对 chatGPT 的误解

文章之外,更有完整解惑与行动方案 – 点此购买付费手册

打工转型小生意入门 | 社群指路 | 小红书运营 | 小白创业法律避坑 | 下行时代小而美品牌运营

不必独自面对经营与转型难题 – 点此查看顾问服务

个人职业转型 | 品牌卡点把脉 | 品牌长效护航 | 品牌包年微信军师

AI时代 | 杰文斯悖论,古德哈特定律,惨痛的教训 与 历史,艺术,科幻

人是反复的、模糊的、复杂的,别把路越走越窄

手机端长按或电脑端右键可直接保存图片

滚动至顶部