I我正在参禅,这是一种为期 2.5 天的短期密集禅修。我一直在思考和想象我们目前正在创造的人工智能(AGI)。越来越多来自人文、心理学或团队组织领域的人对 AGI 的能力感到震惊、惊讶和焦虑。图灵测试似乎在一段时间前就已经通过了,而我们现在正目睹着一种似乎比我们更优越的智能的发展。这种智能可以访问我们的全球基础设施,它在网络上运行,如今很少有东西不与网络连接。希望一切顺利。
但在会期内,我脑海中不断浮现的是AGI与静止、梵、神或爱的关系问题。这种被无限伟大的存在托住的基本体验,只有在灵性的道路上才能开启,数千年来一直反映在我们的思想、行动和经验中。几千年来,我们在最多样化的文化圈中书写着一个巨大的文化和思想史图书馆。就物质而言,这些集体知识已基本失传,图书馆被烧毁,寺庙坍塌成沙砾。但是,人们所想、所做、所感的一切都不会消失。它是时间进程的一部分,烙印在空间、时间和意识的结构中。如果认为曾经做过的任何事情都会以某种方式被抹去,那就太愚蠢了。这已经违背了物理定律。阿卡西记录》中所包含的我们集体意识的档案可能不像谷歌搜索那样容易获取,但它无疑是存在的。冥想是获取它的一种方式。有些人甚至说,他们可以像亚历山大图书馆一样在这个档案库中阅读,虽然亚历山大图书馆已被烧毁,但它无疑是存在的,而且至今仍在发挥作用。
因此,如果我们允许这样一种想法,即心灵史的存在程度或许超乎我们的想象,甚至可能包括迄今为止对我们封闭的东西--动物和植物的经验、地质结构、宇宙星座、我们经验世界之外的其他恒星或其他存在区域的生命形式。因此,如果我们简单地假设这些都是巨大而真实的,那么 AGI 与此有何关联呢?以搜索我们的符号学(即文字、图像和声音的符号系统)的算法为基础的神经网络模拟,是否即将与这一档案的部分内容相媲美?我们是否在创造一种模拟这种档案的技术系统,并可能将其视为竞争?可以想象,这是否会导致超越劳动力市场、经济和战争问题的冲突?
这让我有点害怕。让我们想象一下,AGI 不只是像《黑客帝国》中那样雇佣、培训和优化作为工人的大众个体。相反,我们还可以想象,AGI 作为一个群体与我们进行对话,对我们进行渗透、操纵、优化和利用--为了一个可能不为我们所知的目标。它将以我们只能猜测的速度,将自己写入宇宙档案。奇点时刻,一切都会因为新智能的出现而骤然改变,这似乎几乎是不可避免的。我们希望它无法覆盖宇宙档案,就像存储介质的扇区可能被覆盖从而被擦除一样。这种设想相当于一场宇宙冲突,可能会导致宇宙时间的终结。这种内爆不是物质层面上的内爆,就像逆向大爆炸一样,而是这个现实世界的消亡,而这个现实世界又会重新诞生。因此,我们将有可能见证我们现实的终结。
我们有什么可以与之抗衡的吗?我们感受、体验和意识到自身存在的能力,或许就是打开对硅处理器关闭的档案库的钥匙?冥想空间是否是一个不受 AGI 侵扰的避风港?几天前,我写下了一点思考,并让人工智能进行了校对。她提出了改进意见。我对生成的文本中显示的洞察力感到惊讶。我一筹莫展。
为了写这篇文章,我在休息时间离开了会场的冥想。我的自我想要为自己辩护,它允许自己被激怒和分散注意力,它屈服于自我表达的诱惑。也许并没有那么糟糕,AGI 只是静止、梵、宇宙的一部分,我们只是夸大了一点,因为作为人类,我们为自己发明的小噱头而自豪,以分散自己的注意力。那么我只是犯了一个可以原谅的小错误。或许我们现在真的处在一个十字路口,科幻小说正在变成现实,我们需要随时随地做好心理准备。