只关心很久以前的事

中国和外国的历史。可能是真发生过的事,也可能是故事。
个人资料
正文

细思恐极:跟人学,变小狗,小狗咬你三大口

(2024-10-08 18:07:06) 下一个

这是我在上幼儿园还是小学时候听的儿歌,当时用来笑话小朋友跟人学,没想到这许多年后,居然变成了这一波人工智能的写照。

我们都知道,当下最热门的人工智能的实现方式,是 Generative AI: 给计算机/神经网络引擎灌输大量人类已有的文本对话,古今中外,圣哲先贤,让计算机只专做一件事:鹦鹉学舌。

于是神奇的事情发生了:我们能想到的任何语境任何场合的任何问题,其他人在其他场合基本都已重复过无数次。计算机只需要仿照此前类似语境的人的类似回答,重组一下答案,答案不但很靠谱,而且似乎充满了智慧。

水平还超过百分之八九十的人类的平均值。

跟人学,变小狗,小狗反咬人三大口。

----

我刚来美国读书的时候,谈了个女朋友。有一天我开她的玩笑:“你知不知道孔子有一句名言,唯女子与小人难养也?“

她一点也不生气,笑着跟我说,”哎呀巧了,夫子一句话把咱俩都说进去了。“

这是我完败的一次斗嘴。我对她佩服的五体投地,一直记到今天。虽然其实后来她告诉过我,她以前听过这个应对。

我讲这段故事,只是想说明,完全的”原创“并没有那么重要。我们每个人其实都是在用以前听到过,看到过,记住了的文字和语言,来重组回答新的情况。

非原创的”学舌“,百分百的可以给听者‘智慧’,甚至‘天才’的印象。

读书破万卷,下笔如有神。AI 读过而且牢记的,是老庄孔孟李杜白,是 Plato,Aristotle,Dostoyevsky。它说出来的话,想不高大上都很难。

----

我做的行业大概和自动驾驶有点儿关系,不是狭义的 Generative AI。但文生图,图生文,Occupancy Networks,等等等等,包括编代码,写文档,业界 AI 忽然用的都是同一套路数。

灌进去海量的人类数据,AI 似乎就‘学会了’。虽然我们不知道它是怎么学会的。

养过小孩的父母,肯定都知道一种感觉:"How in the world did he/she learn to do THAT?"

AI 最近就常给我这种感觉。

----

所以我觉得,AI 在很多场合全面碾压人类,将是已经或者必然的发生。

但让我害怕的,是人脑也不过就是这样。

我怕人类不过是在和AI一样的 重组/Generate ‘新’的 content:所谓的创造力,灵感,情绪,甚至灵魂,都仅仅是恰好重组出很出色的结果。

也就是说,人类不一定是具有灵魂,「(神)照着自己的形像」创造出来的神的儿子,而不过是一个比大猩猩计算量快几百几千倍的高级大猩猩。

这才是最让我害怕的事。

[ 打印 ]
阅读 ()评论 (7)
评论
木有文化 回复 悄悄话 回复 '清漪园' 的评论 : 马斯克倒是没想逃离 AI,只想有逃离地球的能力。xAI 最近发展神速啊。
木有文化 回复 悄悄话 回复 '羽衣甘蓝' 的评论 : 一直有一种说法,笛卡尔是把西方哲学带偏了的罪魁祸首。完全的唯物论(Single Universal Truth)和完全的唯心论(Nothing is Real)都是极端不可取的,但笛卡尔之后西方哲学就一直是沿着他的思路在走:极端的形而上,完全的个人视角。
木有文化 回复 悄悄话 回复 '556517' 的评论 : 是的,在AI上我们很多是知其然而不知其所以然。不知,也就无法完全控制。
清漪园 回复 悄悄话 不论我们是神的儿子,还是高级大猩猩,苟活地球上的人类已经看到自己的终结了。马斯克急急忙忙地造飞船希望早日逃离,可是他逃得过AI的速度吗?
羽衣甘蓝 回复 悄悄话 我觉得自我是存在的,但我无法向你证明我的自我意识是存在的。笛卡尔的方法是错的。
羽衣甘蓝 回复 悄悄话 人把自己想像的太神圣了,搞出灵知,魂魄,自我什么的。但其实人就是大自然的一部分,大脑工作原理和人工智能在原理上是一样的。
笛卡尔说因为我在思考,所以我有自我意识,其实是不对的。人工智能也会思考,但人工智能就没有自我意识,说明会思考的不一定有自我意识。所以自我意识是怎么来的,还是要多研究一下。
556517 回复 悄悄话 最令人类恐惧的不是AI怎么聪明,而是不知AI怎么学会的。
登录后才可评论.