AI 的极限

Sun, 29 Mar 2026 13:15:14 +0800

之前我提到过 AI 的限制。

AI 模型永远不会与时俱进 - 因为它是用已有的知识来做训练。
AI 源于泛化（generalization），它永远无法做到具体 - 因此它的所谓的建议，都倾向于普遍性。
AI 无法凭空创造 “ex nihilo” - 它的所谓新颖，主要来自不同的 combinations
AI 无法从自身生成的内容中学习 - 这会导致模型崩溃 model collapse

除此之外，还有一个就是人本身的限制。AI 可以做很多东西，很方便，很有效率。举个例子。在没有用 AI 的时候，可能你一天只能阅读 50 封电邮。而在使用 AI 后，你可以让 AI 总结你的电邮，而可能你一天就可以整理掉 200 封电邮。但当 quantity 提高的时候，也就是 quality 跌落的时候。毕竟，当你总结的时候，有部分内容就舍弃掉了。这就是我之前所提到的 lossiness。像 JPEG 那样，重要的留下来，不重要的舍弃掉。而这些细微的内容，并非你自己决定重要或不重要，而是 AI 帮你决定的。所以，你永远不知道里面是什么，除非你亲自去阅读。

所以，可想而知，人的一天只有 24 小时。虽然 AI 有效率，但人的极限将会是瓶颈。你不可能处理两万封电邮。如果你用 AI 来整理这两万封电邮，这和两百人用 AI 来处理两万封电邮是绝对有质量上的差别的。

简而言之，AI 确实能够提升工作效率。但 AI 不能完全取代所有的劳力。因此，AI 的使用，能够提升 output （产品），而不是降低 input （人力）。当然，这也意味着，公司减少员工的决策是一定的，因为减少人力却可以保留产量，这可以降低成本。但必须知道，人是无法被取代的。但更应该知道，不会使用 AI，大概就像不会使用电脑、上互联网、使用 Google，word processing, spreadsheet 等软件一样。

适者生存。

使用 AI

Sun, 22 Mar 2026 16:02:35 +0800

AI 应当是用于学习。它就像一个可互动的百科全书。应当从中学习知识。至于 code generation，当然可以，但不过度使用。因为跟人不一样，generated code，你不了解，组员也不了解，因为不是自己写的，所以不了解。但它的好处就是在于 generic，普遍性。但在真正解决问题的时候，你的 business logic 是 specific 的。你如果只依赖 AI，你的产品就不会是独特的，不会是绝无仅有的。

以前不用 AI 的时候，就像 lossless image compression PNG 图片那样。什么都很清晰。但现在在工作上用 AI，纵然提高了 productivity 和 efficiency，但我就普遍上感觉到 lossiness，就像 lossy compression JPEG 一样。很多细节都失去了理解。而若要理解细节，则又需要 AI 来解释。这就有点像 circular dependency 。

现在基本上对 AI 的使用有着两种强烈的声音。一组是超级喜欢 AI 的；另一种，尤其是 software engineers 和 hackers，他们非常反对 AI 的应用，尤其是 open source 的项目里。而我个人认为，AI 已经是一种不可逆转的趋势，你不用也得用。问题是看你怎么用。

AI 不是万能，更不是全能。必须理解 AI 的极限。以下是我得出的结论。以目前而言，

AI 模型永远不会与时俱进 - 因为它是用已有的知识来做训练。
AI 源于泛化（generalization），它永远无法做到具体 - 因此它的所谓的建议，都倾向于普遍性。
AI 无法凭空创造 “ex nihilo” - 它的所谓新颖，主要来自不同的 combinations
AI 无法从自身生成的内容中学习 - 这会导致模型崩溃 model collapse

是先有人，才有 AI。所以，如果使用 AI 但没有人的输入，它是无法得到有效的成果的。

Artificial-Intelligence on Anothopia

AI 的极限

使用 AI