V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
8520ccc
V2EX  ›  随想

各位爷爷,我这算虚无主义吗?有病?关于 AI 的一些认知和想法

  •  
  •   8520ccc · 40 天前 · 6497 次点击
    这是一个创建于 40 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我偶尔会想到 AI 以后的发展什么的,然后就有一些想法 想要表述(也不算非常频繁 emmm 就是偶尔)

    这是一种病吗?(因为我很少见到我这样的情况,即使在各个论坛) 下面是我的想法


    现在 AI 确实只是一个辅助工具,但是它和人的区别在于,虽然人脑的智能程度很高,学习能力也很强,但是算力太低了,并且算力扩展效率太低了(例如同一个专业领域,要扩展一份算力就需要一个人从小开始学习基本知识,建立基本的认知后,再去学习专业相关的知识,至少需要 16-30 岁(甚至更久)才能完成扩展!并且最主要的是受限于人类的寿命限制,一个领域的专家也只能维持最多 40 年的有效算力……并且虽然人类可以协作,始终是会有成本的! 也是因为有限的算力,所以我们一直想要提高算力的利用率,创造了很多工具,尽可能降低生产过程中对大脑算力的依赖,因为它们的成本太昂贵了……所以有了很多工具,有了电脑,有了 AI……然后相对大脑 AI/大模型 的优势在于 它可以一直学习,并且算力扩展简单(只要能源和资源,就可以无限叠加…… 而且,我认为 AI 迈向奇点的速度是越来越快的,螺旋加速…… 假设把 人类技术进步比作一辆车,那么算力,储存能力,信息传输能力都是这辆车的引擎,而我们现在最大的瓶颈是算力,AI 提高了一些我们的算力,算力提高加快了引擎的动力,加快了 AI 的发展……

    其实就是一个滚雪球的过程,人类出现这么多年,技术爆炸也就最近几百年的事,就是因为之前几十万年无论是算力,储存能力,信息传输能力,都太弱了,所以导致三者的进步速度都非常慢!而一旦到达“奇点”,就会开始爆炸式增长了!因为其实一项的提升会促使另外两者的进化速度也提升,反过来也是,进入了 螺旋加速的过程。 而现在 AI 也是……

    其实一旦到达 AI 的奇点后,人类存在也真的没有什么意义了,因为我认为我们存在最底层的欲望和需求是由躯体的构架,神经元链接等方式“算”出来的,相当于我们也只是一台精密的“生物”计算机,我们内置了系统,我们的行动受限于系统,系统给我们设置了需求与欲望,我们现阶段没有办法去修改它们(因为目前技术不足以完全解析这台计算机的底层架构), 而一旦真的实现 AI 奇点,无论是算力,储存能力,信息传播能力,都能以一个恐怖的速度推进,那么解析我们的系统架构必然是手到擒来……那么……彼时 我们的需求,欲望,所有的一切都是可以自定义的…… 那么人类存在的意义是什么?

    104 条回复    2024-06-13 12:00:03 +08:00
    1  2  
    Chad0000
        1
    Chad0000  
       40 天前 via iPhone
    op 发帖真客气,我认同你说的。人类存在的意义会变得不同。
    mcfog
        2
    mcfog  
       40 天前 via Android   ❤️ 8
    人是目的不是手段,更不是工具

    人不用和马或者车比速度,普及汽车解放了人的双腿而不是让腿失去意义

    更何况 llm 离思考的距离远的很,汽车确实震惊和改变了世界,但离科幻中的任意门差多远,现在的所谓 ai 离替代人类思考就还差多远
    w16311
        3
    w16311  
       40 天前
    AI 能发展,但有可能发展到 op 所说的程度吗,仅靠 scale low 达成超级人工智能?比如现在做个多物理场仿真,在真实世界中是一秒就出现结果,仿真哪怕用超算大尺度也要算几天。如果还是这种加减乘除的计算方式,永远不可能解开人脑的秘密,计算方式差距太大了。
    Asjun
        4
    Asjun  
       40 天前
    在我看来,生物种族的存在意义就是延续,将自身的遗传信息传递下去。所以有了物竞天择,有着更好适应能力的种族,可以延续更长的时间,在这个宇宙中留在自己的痕迹。

    现在的人类(碳基生物)的“算力”低下,是因为神经递质的传播速度有限,而硅基生物的电子传播速度高,相应的算力就高,而且可以轻松的进行横向扩展提高算力。同时也不会出现人类这样的学习周期长,易遗忘,理解能力依赖天赋的情况。

    所以我的观点是:“血肉苦弱,机械飞升。加入光荣的进化吧。”(狗头)
    cheng6563
        5
    cheng6563  
       40 天前
    一秒 2 个字,基于大语言模型的 AI 的算力真的很高吗
    liu731
        6
    liu731  
       40 天前
    gpt 目前还是高效搜索/智能聊天状态,离思考或者抽象联想差远了。
    godwinma
        7
    godwinma  
       40 天前
    之前有个电影,绝密飞行,我真感觉现在的 AI 在朝着那个方向发展。
    Chad0000
        8
    Chad0000  
       40 天前 via iPhone
    @mcfog #2
    这个还是有区别的,之前的都是人的能力的延伸,前提就是还是以人为核心驱动的。现在是代替大脑了,就像计算器发明了再也没有人去动脑计算复杂的数字运算了,那么等人工智能超过人了,意味着再也不需要人的脑力去思考一些问题了,你只需要做决定,就会有一个带有聪明脑子还有足够行动能力的机器人,那么老板为什么还需要你呢?等这个脑子能自己研究人工智能的时候,它就自己迭代了,还需要指望这帮研究员吗?
    woodfizky
        9
    woodfizky  
       40 天前
    一直在问自己一系列得不到答案的哲学问题:

    如果复制一个一模一样的我,被复制出来的我,拥有和我一样的记忆、思考方式、能力,那么我的复制品会拥有和我一样的意识吗?

    如果复制的我,不是血肉之躯,而是机械和电子之躯,那它还会产生意识吗?如果会产生的话,那意识岂不是可以被量产了?

    我的意识究竟是什么时候产生的?如何产生的?是从受精卵发展到有大脑那时就产生了吗?

    意识到底如何产生,如何界定?



    我们就算假设 AI 以后会得到很充足的发展,但是也解答不了上述的哲学问题.。
    假如人类像某些科幻作品一般将所谓的"意识""上传"到人造物里之后,抛弃了血肉之躯之后,这些新产生的"智能"生物真的继承了原来的意识吗?
    还是只是没有"灵魂"只会计算,可复制的躯壳?

    亦或者本就没有灵魂?大家都是只会计算,可复制的躯壳?
    icy37785
        10
    icy37785  
       40 天前 via iPhone
    如果这篇帖子是 ai 自己发的就可以成为艺术了
    forisra
        11
    forisra  
       40 天前 via Android
    对于你个人而言本来就没啥意义。

    我觉得现在小孩哥最有意思的一点就是动不动扣别人“虚无主义”的帽子。但好像他们完全没有理解什么是虚无主义。而作为虚无主义哲学的对立,无论是存在主义还是传统的欧陆哲学对“真理”的追求,也没见这些小孩哥有一丁点理解。哪怕按照他们自我标榜的所谓唯物主义,其本质的意思也是说要尽自己能力去认知这个世界,通过实践去靠近那个“真理”,而不是帽子给别人一扣结果自己原神启动五毒俱全了。
    nexklee
        12
    nexklee  
       40 天前
    不是义父?
    8520ccc
        13
    8520ccc  
    OP
       40 天前
    @woodfizky 个人认为这不是哲学问题 就是技术问题

    1. 什么是意识?意识就是经过计算产生的,由神经元,突触这些组件一起产生的,神经元,神经元 突触的链接方式权重 都是信息的表达! 当某一天我们能解析这些东西时 自然可以把意识 完全使用算法+硬件实现 。。。。。。。。。

    2. 如何产生?受精卵时应该是没有意识的 因为此时神经元突触这些都还没有 或者太少,无法形成"意识"(算力不足)

    3. 意识/灵魂 这些都只是我们人类创造的概念,本身就是不存在的,底层就是计算而已!躯体只是计算的底层载体!

    如同信息流量传输时 可以使用 TCP/UDP 等等。。。。只要上层的参与信息不变 底层的计算硬件规格不变

    我认为那就是原来的意识

    当然 我们下意识的认为 意识是唯一的 是不可复制的 因为我们希望 并且认同 我就是我 是唯一的 是不可复制的

    但是事实就是 我们本质是只是信息+硬件产生的而已 只要是信息就可以复制。。。

    只要是硬件就可以建造

    而我们认为是哲学问题 是因为技术不可达。。
    8520ccc
        14
    8520ccc  
    OP
       40 天前
    @icy37785 我也是 AI 大家不都是吗
    8520ccc
        15
    8520ccc  
    OP
       40 天前
    @nexklee 公若不弃,布愿拜为义父
    winglight2016
        16
    winglight2016  
       40 天前
    llm 的原理决定了,目前的 AI 发展方向是不可能达到人类智能的
    8520ccc
        17
    8520ccc  
    OP
       40 天前
    @liu731 对 它可能是只是一个不太完美的工具 但是确实在某些方面提高了生产力 或者 算力 也是能推动螺旋加速的
    evan9527
        18
    evan9527  
       40 天前   ❤️ 2
    有生之年我感觉在座的各位应该都看不到你想象的世界,但是正因为我们拥有想象力:
    假如未来 ai 发展到可以完全复制你的言行,哪怕只存的于虚拟世界,对外人而言他就是远方的你,可以电话可以视频。
    所以存在的意义也不是被赋予被定义的,人类存在只对人类有意义,就像我存在的意义也只有我自己可以定义。
    大到人类这个群体,小到我这个个体,可能存在本来就是没有任何意义的。
    于我而言,我死后等于世界和我一起毁灭了,而我活着就是为了体验这痛苦又美好,完美又不完美的一生。
    8520ccc
        19
    8520ccc  
    OP
       40 天前
    @w16311 我并不是说现在的技术方向是对的还是如何(我自己也仅仅只是一个 CURD Boys ,并不是这方面的专业人员),但是我想表达的是 现阶段的 AI 是人类提高大脑利用率的一个方向 (也就是提高了算力 提高的算力又会去反哺 AI 的发展 使得进一步提高大脑利用率!即使现阶段的方向不是最终的道路 但是它依然为我们走向终点提供助力
    8520ccc
        20
    8520ccc  
    OP
       40 天前
    @winglight2016 我并不是说现在的技术方向是对的还是如何(我自己也仅仅只是一个 CURD Boys ,并不是这方面的专业人员),但是我想表达的是 现阶段的 AI 是人类提高大脑利用率的一个方向 (也就是提高了算力 提高的算力又会去反哺 AI 的发展 使得进一步提高大脑利用率!即使现阶段的方向不是最终的道路 但是它依然为我们走向终点提供助力
    renmu
        21
    renmu  
       40 天前 via Android
    不算,没有 ai 人类存在也没意义
    mxT52CRuqR6o5
        22
    mxT52CRuqR6o5  
       40 天前
    至少现有的 AI 需要有足够的信息去训练它们进行机器学习,而太阳系内的信息、人创造的信息是有限的,按照现有的技术是造不出无限成长的 AI
    8520ccc
        23
    8520ccc  
    OP
       40 天前
    @evan9527 我认为有生之年( 40 年? 30 年? 20 年?)有不小的机会见到奇点到来

    但是即使奇点到来 再到最终的实现机械飞升 也是需要时间的 即使 很快。。

    所以不好说。。。
    0x67cq
        24
    0x67cq  
       40 天前   ❤️ 4
    我先描述一下我理解的现在的 gpt 算法. 用最简单的一句话概括就是,现在的 gpt 仅仅只是利用新的算法将信息空间化权重化,然后用概率计算得到最可能的结果.这玩意和思考没有任何关系.不过也得看你对于思考的定义是什么了.思考就是整合已知数据得到应对未知行为的过程,但是人类的思考不只是靠概率计算,我同意很大一部分人其实也不思考,甚至很多人不如 gpt,但是对于真的能在人类知识边界做出突破的人的思考抽象层度来说.我觉得 gpt 不如他们.也只有这样才能到达未知的领域.gpt 目前只是因为它的信息过分的庞大,让你觉得 gpt 全能.但是它无法做出突破.至于未来行不行,就看科研人员什么时候可以提出新的算法了.至少目前这个算法我觉得不可行. 以上是 AI 的认知.也就是,它的提升靠的不仅仅是算力,算法同样重要.比如残差网络算法提出让深度网络从 5-20 提升好几倍.这个可能也算人类的意义吧.
    其次关于人类的意义,我觉得吧, 生物活着就是活着,活着甚至作为一个有本我意识的生物,本身就是一个奇迹,你要去享受这个奇迹,充分利用你的感官,丰富你的感情.哪有那么多意义不意义的.
    8520ccc
        25
    8520ccc  
    OP
       40 天前
    @renmu vvvv 某种层面而言 确实如此 但是人类依然存在 一直在为了满足自身的需求 欲望在发展文明,在创造工具 文化,在.....

    至少是有欲望的。我认为这就是人类当下的意义。而 AI 实现后这个意义也会消失的
    zhtyytg
        26
    zhtyytg  
       40 天前
    @8520ccc 陷入二元论了,哲学问题和技术问题并不是完全对立的,你思考的内容,既是技术问题,也是哲学问题。所以讨论的前提是学好哲学,#13 的一大段话对于学过哲学的人来说有点小儿科了,似是而非。
    8520ccc
        27
    8520ccc  
    OP
       40 天前
    @0x67cq 您说的对 但是其实 AI 最最最主要的是 降低了 某些工具的学习成本 而使用工具是能提高效率的

    可能某些尖端技术 AI 不能帮助突破 但是处理某些事务时 可以为这些科研人员降低 学习成本。。。这样也是在提高算力的

    就比如 可能一个数学家 在做研究时需要做一个自己不太擅长的东西 如果没有 AI 也能学习 有 AI 可能要快一些 一些简单的内容能直接给出最终答案。这就提高了这位数学家的效率。让数学家能够更加专注于他自己的研究 而不是其他事情

    同理 其他情况也是这样
    8520ccc
        28
    8520ccc  
    OP
       40 天前
    @zhtyytg 好的 谢谢指点 我以后会注意的 非常感谢 义父~~~
    woodfizky
        29
    woodfizky  
       40 天前
    @8520ccc #13
    你觉得是技术问题,实际上也可能是技术问题,但是也可能就是哲学问题,因为你没法证明。

    可能我提的复制的概念不那么关键,其实应该想想剪切。
    就像很多经典的科幻场景:传送:把一个人从原子层面分解,再在另一个地方重组,重组的这个人,记忆、能力、脑电波都跟原来的人看起来一模一样,那这个人的意识还是原来的意识吗?

    我们假设有两个答案:
    A 、这个人的灵魂/意识消失了,在另一个地方重组的只是一个躯壳;
    B 、这个人的意识转移到新的躯壳上了;

    我建议你带入一下 B 场景,假设这个人是你自己,这样好理解一些。

    然后这个思想实验再进一步:我们把这个人按原子层面分解,再在同一个地方重组,并且这个技术十分的完善,一瞬间完成,那这个人的意识还是原来的意识吗?

    如果不是原来的意识了,那就跟上述的 A 冲突了,因为技术上来说,这个人只是在同样一个地方闪断了一小会而已,我们只是拆了一下再拼回去,重组之后的意识应该是原来的意识;

    如果是原来的意识,也就是上述 B 的思路,那更有意思了,那我们把一个人在同一个地方重组,但是过一会根据上一个人重组的方式,用相同的原子构成和组成方式再生成一个,并且技术上看起来,就像一个人一瞬间变成了两个人。

    那这时候这两个人的意识又经历了什么呢?
    这下就很难说了吧?

    也许这个思想实验有些逻辑漏洞,或者有些我们现在的技术和理解能力缺少的变量吧,但是我觉得按我们现在的科技来说,这个实验的答案我们得不到。
    w16311
        30
    w16311  
       40 天前
    @8520ccc ”底层的计算硬件规格不变“ 怎么保证底层的硬件规模不变,人是无法量化的,拿出两个碳原子,这两个碳原子一样吗?现在的科学技术还没办法完全的复制一样东西,程序是可以在每一台机器上运行同样的结果,但这只体现了机器在运算程序上是一样的其他的呢?现在细胞是怎么运作的还没搞清楚,怎么实现同样的底层规格。也许将来有一天可以完全复制一个细胞,也许不可能,这个的复杂程度是指数级的增加。
    8520ccc
        31
    8520ccc  
    OP
       40 天前
    @woodfizky 好的 下面是我的看法 可能这真的是哲学问题了 我认为意义不大 观点如下:
    1. 我们身体最底层的基本粒子 本身每时每分都在变化的 如果严格来说 每个普朗克时间 我们身体的架构都是不同的!但是抛开剂量谈毒性都没有意义!所以我们要引入一个概念:精度 例如一块硬盘,假设改变/减少/增加一个基本粒子影响工作吗?影响数据吗?答案是:不影响 因为基本粒子本身精度太高了,硬盘的精度可能是纳米级的(我胡写的 懒得去查),低于这个精度的变动都不会对 硬盘本身储存的信息 产生影响!

    总之,如果底层变量的改变精度已经低于受影响的最低精度 我们是不是可以理解为没有变化?

    回到思想实验 我认为人的意识也好 灵魂也罢 其精度应该是高于原子层面的!

    只要在其精度之下的任意变动 都不影响我们的意识 所以都是同一个意识

    再说
    ···············
    如果是原来的意识,也就是上述 B 的思路,那更有意思了,那我们把一个人在同一个地方重组,但是过一会根据上一个人重组的方式,用相同的原子构成和组成方式再生成一个,并且技术上看起来,就像一个人一瞬间变成了两个人。

    ··················

    我认为是的 因为就是可以复制 只要拿到 人的 完整数据 是可以无限复制的(并且精度没必要完全到原子的地步)
    8520ccc
        32
    8520ccc  
    OP
       40 天前
    @w16311 见#31 精度问题 抛开毒性谈剂量没意义 抛开精度改变也没有意义
    meeop
        33
    meeop  
       40 天前
    假如存在“神”,外星人,高等文明等,人类的存在还有意义吗?

    我觉得依然有,每一种存在都有其意义

    至于 ai,即便具有超人的智慧,也可以把它看作另一种文明和生命形式,它可以非常厉害,但是不影响人类文明自身的价值
    Finder2023
        34
    Finder2023  
       40 天前   ❤️ 3
    推荐一篇文章( base64 ) aHR0cHM6Ly9tcC53ZWl4aW4ucXEuY29tL3M/X19iaXo9TXpVME5ERXdNVGMxTUE9PSZtaWQ9MjI0NzUyMzk2MSZpZHg9MSZzbj03NDgyY2NlNDZiOWYyNzMxYTM3ZGFjMDk0OTQzZGUyYiZjaGtzbT1mYjAzOWE2MGNjNzQxMzc2ZjkyNzE2OWE2MzM5ZWJiY2UyYWFkYTE2ZDVhYjdmN2NmMDAzOGM4ZWEyYTI3YmQ3OGRhODZlZmFkZDg5JnNjZW5lPTE3OCZjdXJfYWxidW1faWQ9MTc0ODY4MzMxMzMxOTM3ODk0NSNyZA==
    pkoukk
        35
    pkoukk  
       40 天前
    人类存在的意义是繁衍
    但你存在的意义可以不是
    想明白就好了
    woodfizky
        36
    woodfizky  
       40 天前
    @8520ccc #31

    哲学问题意义很大啊喂,算力/技术发展只是过程,搞清楚自己存在的意义才是终极目标。

    "只要拿到 人的 完整数据 是可以无限复制的"
    你这个前提就很流氓了,实际上是不是可以拿到一个人的完整数据是未知的,就如你所说,有些东西是原子层面,有些是量子甚至我们当前技术无法感知到的层面,就算能感知到,也未必有技术去真正的复制。
    甚至可能有些因素是跟时空相关的,在技术能操控时空之前,这些事情就是没法做。


    我前面提到的思想实验也是很流氓的,因为假设都太逆天了,实际很有可能发生的事情是(开下脑洞):
    科技界傲慢的自认为科技已经足够发达了,并且忽略哲学问题和伦理问题,真的用科技尝试去做这个实验。
    那么实验结果可能真的贴近理论,也可能复制出来一个人真的发现它没有所谓的意识,脑电波不见了,原地暴毙。
    结果这个实验之前还发生过很多人将自己的意识"上传"到电子版的"自己",这下好了,这下发现那些人实际上都自杀了,新的电子版的自己都只是复制的假的躯壳而已。。

    其实以上这种场景应该有很多科幻作品都有提到的。


    我个人是对哲学问题有敬畏之心的,现在的科技发展,所谓的 AI ,是只是用拙劣的方式模拟了智能生物,还是说真的是人造生物,还是个问号。
    说是有技术爆炸,但是技术爆炸是不是现在已经开始了,还是说技术爆炸还没满足条件,亦或者这一阶段技术爆炸已经结束了,目前已经黔驴技穷了,也都还是个问号。。

    人类是否在所谓的"大筛选器"之前,还是之后,还是正在突破,都很难说。
    yuruizhe
        37
    yuruizhe  
       40 天前
    next token prediction==ai ? I don`t think so
    人类能搞懂自己就不错了,还幻想着复制自己呢?
    有权有钱就鱼肉百姓,真正的 ai 出现了,可不得打一场世界大战嘛,统治阶级的席位争霸而已,放到真人世界也是一样
    8520ccc
        38
    8520ccc  
    OP
       40 天前 via iPhone
    @woodfizky 抱歉,可能我们的侧重点不同,我的意思是只要拿到精度之上的数据就好了,低于精度的拿了也不影响结果。这样的话可能我们只需要拿到神经元结构,突触链接权重(这里存在精度问题),就好了
    w16311
        39
    w16311  
       40 天前
    @8520ccc 这世界哪有那么好量化,拿到精度之上的数据。你的假设是“我们只需要拿到神经元结构,突触链接权重(这里存在精度问题)”,有没有可能神经元的工作方式和你想的不一样呢?这是人工神经网络的工作方式,不是人脑的工作方式。
    w16311
        40
    w16311  
       40 天前
    op 可以了解下混沌理论,在混沌系统中,即使初值只有很小的扰动,结果差距很大。
    Exxfire
        41
    Exxfire  
       40 天前
    OP 思考的点感觉很多书里面都有提到, 不管是中外的一些科幻小说还是类似《未来简史》的科普书籍里面,作者们都做了丰富的联想,并进行了描绘。
    可以多找找看看, 印象比较深刻的是《少数派报告》中的一个短篇,名字忘记了。
    Chad0000
        42
    Chad0000  
       40 天前
    @w16311 #39
    我认为就算现在的 AI 有局限性,不是真正的智能。但理论上未来人类也能搞出真正的智能体,参考一下人的发育过程,一开始只是一个以细胞为单位的受精卵而已,根本就不可能有意识。到后面才会慢慢建立神经连接,这是一个由量变到质变的过程。如果我们的记忆和思维本身的本质就是这些神经连接方式,那么我们也可能有手段去模拟或建造这些连接,看会发生什么。从简单的重建电子果蝇开始,到能搞出越来越多的神经连接,迟早有一天神经连接足够多,就有可能发现新大陆。
    ixoy
        43
    ixoy  
       40 天前
    存在就是意义本身。
    按你的理解,其他动物不如人,那其他动物就没有意义了吗?
    假如你所说到达 AI 的奇点,无非人变成“猴子”的存在。“猴子”又有什么存在的意义呢?物种多样性
    hepin1989
        44
    hepin1989  
       40 天前
    你如果玩儿 《异度神剑 3 》,你就知道了。
    我们为什么没有发现外星人,可能别个已经飞升了。
    catazshadow
        45
    catazshadow  
       40 天前
    一个东西看上去像另一个东西,他就一定是另一个东西吗?

    程序员说是
    物理学家说不是
    cmdOptionKana
        46
    cmdOptionKana  
       40 天前
    先假设这个命题成立:AI 将达到甚至超过人类的智能。

    那么,OP 纠结的点是什么?人类的意义吗,承认人类没有意义,不就好了?

    -------------
    其实你可以想想,人类有意义,这点为什么重要?

    我觉得吧,人类太自大了。

    关于人类的意义,古人已经有过很多思考,举个例子:

    一切有为法
    如梦幻泡影
    如露亦如电
    应作如是观

    意思是,一切东西都没啥特殊意义,动物也好、人类也好、未来的超级 AI 也好,都与露水、闪电没啥区别,一个东西就是他本身而已,人就是人,仅此而已,没必要赋予额外的意义。
    cmdOptionKana
        47
    cmdOptionKana  
       40 天前
    人必须有意义,人的意义必须凌驾于 AI 之上,不然你就痛苦——这只是你的执念,钻牛角尖而已。

    再举个例子,有人信宗教,信神和天堂,他坚信 “人能上天堂,AI 不能”,他就是这个执念,就是这个信仰,你跟他说什么 AI 要取代人啦,他根本不担心,因为人信上帝,神爱世人。

    你觉得这种宗教信仰怎么样?但如果你坚决认为“人”很特殊,有特殊意义,如果打破这种特殊性,你就痛苦,这与信神的人有什么区别呢?都是放不下执念而已。
    wildman9527
        48
    wildman9527  
       39 天前
    OP 最后的一段表述 "那么解析我们的系统架构必然是手到擒来……那么……彼时 我们的需求,欲望,所有的一切都是可以自定义的…… 那么人类存在的意义是什么?"基本是一个 "机械唯物主义" 或 "决定论" 或 "上帝不掷骰子" 的变相表述.

    爱因斯坦至死也坚信 "上帝不掷骰子", 但量子纠缠违背贝尔不等式的证明已经确认爱因斯坦犯了错, 我们所处的宇宙是一个"概率宇宙", 同时也是"观测者的宇宙", 所以我们无法同时测量到所有粒子的状态和他们之间的相互作用力, 也就不存在 OP 所说的 "所有的一切都是可以自定义", AI 也做不到 ...
    invadv
        49
    invadv  
       39 天前
    你推论的出发点是「人从属于技术进步」,不排除以后走岔了路子真的滑到这条道上,但目前来说,我还是认为「技术进步是服务于人的」
    wildman9527
        50
    wildman9527  
       39 天前   ❤️ 1
    相信 "决定论" 基本最终都会导向 "虚无主义", 2022 年之前我也是这样的, 相信 "决定论" 和 "强人择原理".

    幸亏 2022 年的诺贝尔物理学奖挽救了我.
    catazshadow
        51
    catazshadow  
       39 天前
    @Chad0000 搞不出来的,这样的东西需要维持的状态可能超过了整个宇宙的粒子数,维持状态是需要物质的,结果就是根本没法表示
    Phariel
        52
    Phariel  
       39 天前
    你说的很对 但是 AI 到达奇点之前 我认为还要经历人类的巴别塔考验
    意思是在 AI 进化到最终的那一个目标的过程中 人类不会和平共处完全互帮互助的让 AI 自己舒舒服服地前进 可能在 AI 到达奇点之前人类就已经灭亡或者互相摧毁了 AI 的关键基石 就好像巴别塔快修成的时候人类分崩离析了一样 所谓的成神都是要代价的 可能代价远远高于人类能承受的熵值
    some2
        53
    some2  
       39 天前 via Android
    可别瞎想了,在座的不是公务员的大伙大多连自己三年后还在不在吃这碗饭都不确定,猜想 ai 能否实现,啥时候实现,怎么实现?
    不过扯巴两句也不影响加班就是。

    big 胆想:2045 ,强 ai 问世! 22 世纪末,婚姻制度废除,自由乱爱! 400 年内人类灭绝或变为新人类(机械飞升)!
    some2
        54
    some2  
       39 天前 via Android
    世纪末改为本世纪末,

    坐在扶手椅上思考“意义”:
    意义是个名词,一个概念。先指出一个:一个符号为什么就一定要具体的指明,而不是本身连接的就是 void (空无一物)?
    - 普遍来看,是主观的。
    - 个人经验来看,思考上的追寻意义没有得到答案,也没有获得快感,花费了精力收获了苦恼。
    - 特征上看:
    - 它没有实体,它需要由一个意识体进行感受才能存在。
    - 它多是来自在一个人主动行为之后的自我认可,或对某一段过程的肯定性总结。

    结论是:这个概念只是一个概念,获取方式是主动生活实践然后感受。
    some2
        55
    some2  
       39 天前 via Android
    @wildman9527 看到回复搜了下,这是确定了上帝也掷骰子?没有原因,它们就是会这样,绝对的“平衡”。
    ROYWANGDEV
        56
    ROYWANGDEV  
       39 天前
    工具终归是工具,我倒是想不明白人们为什么对 AI 的产生都那么悲观,整个行业的应用刚刚算是进入入门阶段,就开始担忧未来会产生一些伦理问题,甚至 AI 会不会产生意识毁灭人类。我只能说是科幻电影看多了。

    一个可以增加生产力的工具产生不是一件非常好的事情么?诸如前几次工业革命中的一些的工具的发明,不是更好的解放了人类的生产力,让大多数的人可以更好的享受物质生活么?

    OP 所说的 “人类存在的意义是什么?”

    宏观来说,可能并没有什么意义,这种问题普通人大概只有在贤者模式中思考一下,然后获取不到答案,带着问题睡去。

    微观的,对于个人来说,不同的人会有不同的答案,对于工人来说可能就是努力赚钱养活自己和家人,对于科学家来说可能是为了解决那些难以解决的问题所带来的荣誉、金钱或者心里的满足感。

    笼统的概括一下就是:活着,努力的更幸福的活着。
    akira
        57
    akira  
       39 天前   ❤️ 1
    AI 的出现,使得共产主义 的存在的可能性高了很多。。
    cosette
        58
    cosette  
       39 天前   ❤️ 2
    你的一切怀疑和结论都来自于“算力决定论”,这是个随着近两年 AI 大热而被鼓吹的概念,你怀疑其他的东西,但却不怀疑这个。

    一个生活在中国的普通人,如果他做着一份普通但不轻松的工作,没有房子,没有车,没有谈婚论嫁,没有朋友交往,未来也一片迷茫,那么在这样的社会习俗和背景下,他同样会对自身存在的意义产生怀疑,以至于对人类存在的意义产生怀疑,然而这种怀疑只是他受困于现状的一种反应。

    智能来自于“计算”吗?人的智能能做到自举吗?人活着的意义是作为生产工具吗?你所困惑的每一个环节都可以作为一个重要的问题来探讨,而你理所应当地接受了一个现成的观点,并由此接受了一个它所抛出的问题,曾经基督徒们也是在这种背景下认真考虑该怎么面对未来降临的末日审判,现在你拒绝了基督,但接受了 AI 的末日审判,你相信这一套叙事,那你就要思考这个问题。而这个问题本身就是带着答案来的,你愿不愿意接受无所谓,就像基督叙事中,人人自带原罪,末日审判是必然结局,此间的一切不过是瞎折腾,而现在你相信“算力”就是人的原罪,因为这个原罪人要输给更“高等”的 AI 。

    我只想说,警惕宗教叙事,现代宗教有相当一部分改头换面以脑科学或者心理学的幌子出现,让人难以辩其真伪,那些耸人听闻的结论你既不熟悉也无法验证。
    8520ccc
        59
    8520ccc  
    OP
       39 天前 via iPhone
    @wildman9527

    真随机是吗?我认为这也是在精度之下的,假设我们使用相同的材料,架构复制了身体,两者的底层基本粒子,都存在“真随机”的特性……
    kangyue9999
        60
    kangyue9999  
       39 天前 via Android
    虚无主义?您这就虚无主义了?
    我觉得主要原因是因为对于 AI 你把它和现在的各种 GPT 之类的深度学习/神经网络产品挂钩了吧。但是很可惜这些都不能算真正的 AI,因为他们需要数据,所以与其说是 AI 在学习,不如说他们只是模仿人类拙劣的半成品。
    所以,他们的输入还在依赖人类本身制造的输出。

    说句难听的,我觉得我们人类在很多时候都有一种过度的自信,当然这种盲目自信来自于无知,然后觉得有一点点成就就觉得掌握到了宇宙真理。但是实际上我觉得有生之年能看到真正可以不依赖于输入的人工智能是不太现实的,这不是算不算力能解决的问题,我们目前还处于穷举试图以暴力来实现所谓的智能。

    所以要真正达到你所想的虚无主义,你先得期待一下 AI 上面的范式转移。
    dcdlove
        61
    dcdlove  
       39 天前
    @w16311 #3 op 忽视了量子计算,AI + 量子计算 无限可能
    ethenzh
        62
    ethenzh  
       39 天前 via Android
    换个思路。尝试说服自己,人类的意义在于进化。现在的人类和我们熟知的(关于自身和世界的)一切,都只是过程,都在通往某个目的的途中。于是,接受变化,接受后代以新的方式存在,是正确的、必然的选择。对于我个人,这个目的是可以实现更多可能性的人类族群(或别的什么存在)。这种进化带来的、让更多可能变为现实的能力,也许是能回答(或解决)你题设里的问题(或担忧)的。所以,don't panic
    darkengine
        63
    darkengine  
       39 天前
    很怀疑 AI 能不能产生人类认知以外的东西,算力再厉害,也只是加速撞到认知边界的这个过程。
    LuckyLauncher
        64
    LuckyLauncher  
       39 天前
    就现在的这个 AI 还远远达不到你说的程度,悲观一点在我们的有生之年都看不到
    不说其他的,除了套壳和 code copilot ,到目前为止你见过用 llm 商业化做的好的公司吗?现在大多是面向融资/股价 AI ,而不是面向产品 AI
    WeiAiKeJi2023
        65
    WeiAiKeJi2023  
       39 天前
    只要 ai 底层不是求存,就干不过人类,就只是服务人的工具,人类只要把握好 ai 底层就行。
    lshbosheth
        66
    lshbosheth  
       39 天前
    @woodfizky 应该不会 即使一模一样 面对两个路口选择的也有几率不一样 我感觉就像我自己遇到这种选择题 我也会俩都想选 但是会瞎几把选一个 更何况两个个体 每个个体又是两种选择 都有概率的把
    Helios5010
        67
    Helios5010  
       39 天前
    我想象的比较可能的情况是 AI+脑机搞出的超级人类
    lucasj
        68
    lucasj  
       39 天前
    “解析我们的系统架构必然是手到擒来”
    量子力学那么简单的问题还没解决,就想着解析人类了?
    EndlessMemory
        69
    EndlessMemory  
       39 天前
    AI 目前还没那么强
    idealhs
        70
    idealhs  
       39 天前
    齐马蓝
    0o0O0o0O0o
        71
    0o0O0o0O0o  
       39 天前 via iPhone
    我觉得在意识有个定论之前,就还是哲学问题,像 #13 #31 这种决定论观点确实容易陷入虚无主义,你所思所想也已经有很多人提出和讨论过了,所以别光自己思考到绝望,多去看看前人的思考。

    https://en.wikipedia.org/wiki/Philosophy_of_artificial_intelligence
    SWALLOWW
        72
    SWALLOWW  
       39 天前
    我感觉,这块应该是不存在的,它只有算力,没有人类的各种东西,所以不会成为一个超级人类,仍然依赖着人类的 idea ,
    所以感觉想着没用
    不如想一下中午吃点啥。
    不如思考一下,你到底想吃什么,这个问题现在才非常重要。
    3img
        73
    3img  
       39 天前
    知和识得拆开,ai 怎么发展都是识,是固体。知是人独有的
    Jame00001
        74
    Jame00001  
       39 天前
    你觉得老虎是 ai 机器吗,还是你觉得老虎会认为自己是 ai 机器?典型的打游戏打多了忘本的。
    Jame00001
        75
    Jame00001  
       39 天前
    要不行你就别上班了,痴呆了都
    wildman9527
        76
    wildman9527  
       39 天前
    @some2 #55 主要是通过实验证实了叠加态确实存在. 打个比方就是你可以收到一封信, 而信的内容是在你打开信封的一瞬间写好的, 而不是在之前的任何一个时间点. 在你打开信封之前这封信包含了它可能包含的所有信息. 一次观测就是掷一次骰子. 同时也在原理上使得超光速通信成为可能.
    SunnyCoffee
        77
    SunnyCoffee  
       39 天前
    你思考人类意义的视角不对。你站在上帝视角总会有比 AI 更 AI 的东西,你应该以人类本身的视角来看这个问题。
    lakehylia
        78
    lakehylia  
       39 天前
    如果人类灭绝了,或者成为 AI 的干电池,那么 AI 存在的意义是什么? AI 不需要时间,不需要空间,不需要向宇宙探索,那 AI 活着的意义在哪里?仅仅是为了存在?
    augustheart
        79
    augustheart  
       39 天前
    找不到人生的意义和技术没毛钱关系。几千年前的古人一样在想
    zw1one
        80
    zw1one  
       39 天前
    现在的 ai:只能当搜索引擎、脚本工具、文本生成器来用。
    未来的 ai:人类血肉苦弱,不如机械飞升。
    奇点爆发后的 ai:人终究是有上限的,如果 ai 在人类最自豪的脑力和进化上已经远超人类了,那让人类制造的 ai 继承“人类”的名号也未尝不可。
    fredweili
        81
    fredweili  
       39 天前
    哲学家么?我只想 AI 能帮我干什么,能做什么业务创新
    abelmakihara
        82
    abelmakihara  
       39 天前
    现在的 ai 还是差远了 杞人忧天
    未来嘛 不好说 但是感觉有生之年是不可能看见的
    mogazheng
        83
    mogazheng  
       39 天前
    问题的根本俩字,意识
    changf
        84
    changf  
       39 天前
    OP 的结论是:我们的 AI 经过无限时间的“进化”后,能进化成智慧远超地球人类的新物种。于是 AI 能够模拟出一切地球人类的生命活动,包括宏观和微观层面上。
    1 、首先,我们类比一下。地球人类是不是单细胞生物眼中的“具有无限算力的 AI”,那么地球人类是否可以完美复刻一个单细胞生命的所有生命活动?答案是不能。
    2 、其次,任何一个生命系统,其复杂程度和信息量远超人类想象。能够完美模拟一个”生命系统“,这事我说了远超人类想象,所以我想像不出来它的难度。
    3 、再者,OP 说的 AI 奇点一定是需要无穷的时间来到达。算力即使在不断加速提升,但是不要忘了,人类生命系统的复杂度也是随着时间不断提升的,前者的提升与后者一比不值一提。
    4 、最后,达到奇点的 AI ,其实一直都在,他的名字叫时间。因为只有时间才是无限的。
    levn
        85
    levn  
       39 天前
    意义问题说到底根本就不是一个问题。意义到底是什么?
    lucybenz
        86
    lucybenz  
       39 天前
    大部分认同 人类是一个精密的生物计算机不认同,人类缺陷太多了
    haxk4201
        87
    haxk4201  
       39 天前
    推荐《 OK Computer 》这张专辑,我想你也许会产生一些共鸣
    HKzy
        88
    HKzy  
       39 天前
    人类存在的意义就是吃喝玩乐。。。社会发展、星辰大海,都是更聪明的人们编出来骗你努力工作的

    而 AI 是不会影响到人类的吃喝玩乐的,所以人类不会失去存在的意义。。。
    mahogany
        89
    mahogany  
       39 天前
    人类不是宇宙的中心,宇宙也没什么内在意义。AI 既然是来自人类的信息训练出来的,那它就是人类这个整体的后代,取代人类是大概率的。类似皇帝和太子的微妙关系。
    oczizx
        90
    oczizx  
       39 天前
    就是无意义。按照你的思考,你不如试想:如果我们把蚂蚁能干的活替他们都干了,那蚂蚁存在的意义是什么?
    蚂蚁会觉得自己的存在是有意义的吗?主要问题还是达不到这个水平,AI 到底能不能把所有东西算出来还是个问题。
    GeekGao
        91
    GeekGao  
       39 天前
    关于 AI ,我认为不用担心生命的意义。
    去担心饭碗能不能保得住,更实际。
    Snake2
        92
    Snake2  
       39 天前
    意义是人提出的,没有人就没有意义
    XiaoXiaoMagician
        93
    XiaoXiaoMagician  
       39 天前
    误区就在与你用现有认知去推理未来,但对与很遥远的未来,一切都是未知的。
    所以你想法只能说在你理想世界上才有可能发生,至于你说的 “AI 迈向奇点的速度是越来越快的” 这句是你个人认知上的盲区。
    因为你永远不知道它的 “奇点” 在哪?还有以目前的速度是不是只是冰山一角?会不会遇到下一个瓶颈而止步不前?
    你的这些思考都太局限与自我理想化了。你可能就是吃太饱想太多的典型列子。
    cmdOptionKana
        94
    cmdOptionKana  
       39 天前
    @Snake2 人可以提出意义,未来的 AI 也可以提出意义,即使没有人,只要有等于或高于人类智慧的外星人或未来 AI ,就可以有意义。
    linkmm
        95
    linkmm  
       39 天前
    @cheng6563 也得看看并发啊。如果单线程,我一块 A100 跑 llama3-70B 都能每秒上百个 token 了。
    Snake2
        96
    Snake2  
       39 天前
    你和我可以讨论意义,因为我们是人,高智慧的外星生物或着没有人维护的 AI 进化到一定程度,也许没有“意义”这一说
    Snake2
        97
    Snake2  
       39 天前
    cmsyh29
        98
    cmsyh29  
       39 天前
    人类存在的意义和 ai 没什么之间关系吧 就算 ai 不存在 人存在的意义是怎么定义的呢
    cmdOptionKana
        99
    cmdOptionKana  
       39 天前
    @Snake2 只要 AI 能达到或超过人类的智慧,大概率也会思考意义问题(毕竟 AI 必然会大量学习人类文化,人类文化里的东西,AI 大概率会有)。

    至于 AI 能否达到或超过人类智慧,那就是另一个问题了。
    Chuckle
        100
    Chuckle  
       39 天前
    我的意识告诉我,人生接下来的意义就是思考马上到来的晚饭吃点啥,别笑,这是人的本能生存意识,ai 呢,它会在“晚饭”到来前去谋求“生存”么,它有客观的生存需要么?如果有,当它的生存需要能够支配人类时(就像我能够支配马上到来的晚饭上的那只白切鸡一样)无论 ai 是否有意识,它都已经可以被视为敌人了,但现在的 ai ,和我马上要吃的白切鸡并没有什么本质上的区别,一个被人类支配的、能够满足人类生存需要的东西罢了。
    1  2  
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2663 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 14:21 · PVG 22:21 · LAX 07:21 · JFK 10:21
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.