AI 的极限
之前我提到过 AI 的限制。
- AI 模型永远不会与时俱进 - 因为它是用已有的知识来做训练。
- AI 源于泛化(generalization),它永远无法做到具体 - 因此它的所谓的建议,都倾向于普遍性。
- AI 无法凭空创造 “ex nihilo” - 它的所谓新颖,主要来自不同的 combinations
- AI 无法从自身生成的内容中学习 - 这会导致模型崩溃 model collapse
除此之外,还有一个就是人本身的限制。AI 可以做很多东西,很方便,很有效率。举个例子。在没有用 AI 的时候,可能你一天只能阅读 50 封电邮。而在使用 AI 后,你可以让 AI 总结你的电邮,而可能你一天就可以整理掉 200 封电邮。但当 quantity 提高的时候,也就是 quality 跌落的时候。毕竟,当你总结的时候,有部分内容就舍弃掉了。这就是我之前所提到的 lossiness。像 JPEG 那样,重要的留下来,不重要的舍弃掉。而这些细微的内容,并非你自己决定重要或不重要,而是 AI 帮你决定的。所以,你永远不知道里面是什么,除非你亲自去阅读。
所以,可想而知,人的一天只有 24 小时。虽然 AI 有效率,但人的极限将会是瓶颈。你不可能处理两万封电邮。如果你用 AI 来整理这两万封电邮,这和两百人用 AI 来处理两万封电邮是绝对有质量上的差别的。
简而言之,AI 确实能够提升工作效率。但 AI 不能完全取代所有的劳力。因此,AI 的使用,能够提升 output (产品),而不是降低 input (人力)。当然,这也意味着,公司减少员工的决策是一定的,因为减少人力却可以保留产量,这可以降低成本。但必须知道,人是无法被取代的。但更应该知道,不会使用 AI,大概就像不会使用电脑、上互联网、使用 Google,word processing, spreadsheet 等软件一样。
适者生存。
使用 AI
AI 应当是用于学习。它就像一个可互动的百科全书。应当从中学习知识。 至于 code generation,当然可以,但不过度使用。因为跟人不一样,generated code,你不了解,组员也不了解,因为不是自己写的,所以不了解。但它的好处就是在于 generic,普遍性。但在真正解决问题的时候,你的 business logic 是 specific 的。你如果只依赖 AI,你的产品就不会是独特的,不会是绝无仅有的。
以前不用 AI 的时候,就像 lossless image compression PNG 图片那样。什么都很清晰。但现在在工作上用 AI, 纵然提高了 productivity 和 efficiency,但我就普遍上感觉到 lossiness,就像 lossy compression JPEG 一样。很多细节都失去了理解。而若要理解细节,则又需要 AI 来解释。这就有点像 circular dependency 。
现在基本上对 AI 的使用有着两种强烈的声音。一组是超级喜欢 AI 的;另一种,尤其是 software engineers 和 hackers,他们非常反对 AI 的应用,尤其是 open source 的项目里。而我个人认为,AI 已经是一种不可逆转的趋势,你不用也得用。问题是看你怎么用。
AI 不是万能,更不是全能。必须理解 AI 的极限。以下是我得出的结论。以目前而言,
- AI 模型永远不会与时俱进 - 因为它是用已有的知识来做训练。
- AI 源于泛化(generalization),它永远无法做到具体 - 因此它的所谓的建议,都倾向于普遍性。
- AI 无法凭空创造 “ex nihilo” - 它的所谓新颖,主要来自不同的 combinations
- AI 无法从自身生成的内容中学习 - 这会导致模型崩溃 model collapse
是先有人,才有 AI。所以,如果使用 AI 但没有人的输入,它是无法得到有效的成果的。
洗脑
不管你是聪明的或是愚昧的,如果你天天吸收某种信息,久而久之就会被洗脑。天天看抖音、微信,你就会认为中国很美好。天天看反共的视频,你就会觉得民主自由等西方国家的美好。天天看马来西亚的报章,你就会觉得中国多么伟大,美国多么邪恶。天天看 rad trad 的天主教视频,就会觉得现在的教宗有多烂。
当然,也不全是外来信息的因素而导致洗脑。人就是喜欢自己喜欢的东西。如果某人所讲的,恰好符合自己的价值观,就会觉得对方说的对,而自己就是正确的一方。而自己的价值观又从哪来?那是根据个人生活等时间累积逐渐形成。
那么,究竟如何摆脱这种洗脑?简单的方法就是少看视频。像 Facebook,Twitter,那样的,也都没什么营养。就过着静修的生活,是最好的。但人又不可与世界脱钩,免得和他人格格不入。所以适当地理解世界及周围状况就好。并常常报以需要认证信息的态度。
哪你会问,宗教信仰又何尝不是一种洗脑?的确,所以才会有那么多神棍和邪教。
因此,身为基督徒应当要有信德,但同时又要有寻求真理的渴望,而不是盲目地别人说什么就信什么,而是需要去认证。天主是真理,并非谎言,因此是可以认证的。但天主又是奥妙的,人的理智无法理解。在奥妙且无法理解的事上,这就是考验我们的信德的时候了。
(Image by Bango Renders from StockSnap.io)