我大概理解 AGI 是啥了

[florentino]

gpt6 这次好像对 3D 建模 格外强化, 能生成 3D 模型, 那不就意味着大模型能够理解这个世界了吗? 他知道现实世界中的物体的每一个细节

所以让大模型控制机器人, 它应该能够感知和控制每一个小零件,它知道自己怎么运行的, 哪里出问题了 怎么修理, 直接让另外一个机器人修就行

又因为它理解这个世界,所以模型不用调整 直接放到其他物体上也能成立,汽车,飞机,轮船, 全都有给灌入意识

可以想象一下,一辆汽车,它是大模型原生化的,大模型能够感知汽车上的每一个零件,这就意味着如果一个轮胎爆了,他也能第一时间感受到, 理论上他可以自主做出点杀靠边停车这样的连续动作

补充: 可以把人类生产出来的零部件,想象成代码工程里面的 语法,关键字,函数之类的,现在的 AI 可以通过一张图,生成出 3D 模型,并且能理解模型对应的物理世界真实物体是怎么运行的,比如生成出飞机的模型,它能让这个模型动起来,并且实现起飞,手气起落架,放下起落架,那是不是就意味着它可以根据人类已有的零部件进行物体编码,就是根据已有的物理语法,进行物理世界的 "编程"

刚想意识到一个事情,大模型的基本原理是猜字,根据输入文字,猜接下来的文字,参数多了就出涌现出智慧了,他妈的人脑也是啊,一个婴儿不学习语言和文字好像永远不会有智慧, 学习了语言文字人才涌现出了智慧,所以人脑是不是也是个猜字的大模型,只不过参数更多,算力更强

[coderluan]

GTA6 的强化 3D 建模和 AGI 有啥关系，GTA6 的开发世界是动态生成的吗，新闻没看到啊，啊，原来是 GPT6 ，逃🐶

[acrisliu]

@coderluan 我第一眼也看成 GTA6 ，哈哈😂

[NoobNoob030]

现在的 LLM ，本质是 token 相关性预测，预测到了极致变成了看起来很像 AGI 。目前大模型理解因果的能力是建立在 token 的关联性上的，没有想象力。

等哪天通过技术攻克了抽象、想象、认知、思考的难题，能像人一样完成任务，思考策略，生产力还能提升一个档次。

[cenbiq]

个人猜测 AGI 应该是一种“归一化”的 AI ，不再区分文本生成、视频这些，是一个真正的通用智能，吐出来的东西更抽象和本质，就像人类一样你不会天然就有自然语言、文本、视频这些区分。

[way2explore2]

Artificial general intelligence (AGI) is a hypothetical type of artificial intelligence that matches or surpasses human capabilities across virtually all cognitive tasks.

定义上是
在认知上全方面超越人类的 AI 。

[churchmice]

看起来像和实际上是两码事情

[Rickkkkkkk]

AGI 的必要条件是，走进任何一个普通人家里，能在零指导的情况下，能收拾刚吃完饭的桌子。

[coolcoffee]

目前的 AGI 仍然是通过堆参数暴力算出来的，给了大家一种超越了人类想象。

如果哪天它可以自学习，可以开始干人类没有干过的活，那才是真正的 AGI 。

[zhengqiang64]

我认为无法理解，哪怕表现得像理解。因为游戏的 3D 其实也是欺骗人类大脑，并非真正的 3D ，而是由点和线构成的图像，看着像 3D 。就好像要用纯数字来理解物理世界，我觉得不现实。
只是我认为这次 GTP6 把人类的需求，给理解成功，成功的使用工具，去构建人类想要的需求，本质还是 LLM 的猜字一样。这是训练量达到标准后实现的功能，而并非模型理解了三维世界。

[june4]

很逼真的假人的感觉
我不知道未来通向真正的 AGI 是不是靠现在这种方式去慢慢逼进出来的，但确实不是我以前想象中的 AGI

[karld]

不理解

[catazshadow]

AGI 是 IT 界的核聚变

[jacketma]

AGI 具有自我训练进化的能力，人类到底是在进化还是退化都不知道，AI 还先知道了？🤔🤔🤔

[Anarchy]

AGI 就是一个相对于 ANI 的概念，属于几乎无法证明但可以通过效果让你相信的概念。

[GeruzoniAnsasu]

首先 AGI 只是一个营销术语，因为显然地，「 general 」到底要 general 到哪个程度，发明和使用这个术语的人都完全没有定义过。

在现代 LLM 时代之前，上一个基础设施革新的时刻是云计算，各家厂商都在极力洗脑用户推销自己的云概念 —— 我们都知道 cloud computing 是一种分布式计算，但是要分布到哪个程度，完全没有标准。所以网盘也能是云计算，相册也能是云计算，全都只是营销。

回到 general intelligence, 首先 intelligence 只是一种能对外界刺激做出恰当反应的状态的描述。 问问题能得到回答，看到场景能给出描述，并且这些反应符合逻辑，具有思维性，即可称为 intelligence. 所以 GI 的下限其实非常低：一个「能对大多数信号刺激/输入反应出 intelligence 」的系统就足够称为 GI 了。现在的 AI 应用在编码、知识问答、音视频合成这些每个单独领域都有各自的涌现，只要能把所有 AI 领域的系统组合成统一的一个大系统，让这个模型同时能编码、读写音乐和图像、能驱动可运动部件完成一些 bionic 任务，并且拥有足够的（例如、对它自己本身的）知识，它就已经足够 AGI 了。这个系统并不需要突破什么魔法奇点。

[clemente]

没有自助进化自我训练迭代能力的模型不配称之为 agi

[artiga033]

只要还是基于 Next token predication ，就不可能实现 AGI 或者任何真正的智能。

比起期待这些 LLM 靠堆量来模拟，不如期待神经科学和脑科学的发展。

老话怎么说，21 世纪是什么的世纪来着...

[florentino]

@zhengqiang64 就像,AI 进行代码工作一样,你写了一个 bug 他是能够知道这是个 bug 的,同理,你给了它一张汽车图 他能生成汽车 3D 模型影像,甚至可以模型拆解,那不就意味着它能够知道 这个图对应的物理世界中,这个物体是哪些部件组成的吗 理论上可以把各个部件抽象理解成代码中的关键字,语法, 原理是一样的,他能驾驭代码他也能驾驭人类生产出来的各种零部件,进而用这些零部件进行编程

[xyooyx]

@NoobNoob030 这个“本质”已经变了很多了。可以看下最近的论文，就像忒修斯之船，transformers 就剩一个名字了

[Clannad0708]

@artiga033 #17 21 世纪是生物的世纪！

[chengxiao]

推上满屏都是说 Astra,但是感觉都是在说建模 和 3D 动效

[shawnsh]

3d 建模只是模拟现实世界而已，不是代表现实世界，现实世界具体是什么样子，神都不知道

[molvqingtai]

我理解的 AGI 就是需要理解现实世界的运行规律，例如你想开发一个在线商城，你只需要大概描述你想要的样子，不需要关心下单、发货、优惠券这些细节，agent 应该自己就知道一个商品需要有哪些流程
也就是人类的角色变成了老板，而不是产品经理

[Pending]

G 是 General （通用），不是 Generate （生成）。这有什么难理解的。最初定义通用人工智能就是跟人的智力水平相当，你说现在能达到吗？有啥难理解的。

[lovedebug]

人创造新事物时，用到的素材、知识和思路，都有已有经验的来源，AI 亦然。
只要 AI 仍然在用人类观察世界的方式就不会有突破。

[iv8d]

token 毕竟是生成式的玩意，你指望她真理解。。。孩子，从头学吧。

[marcong95]

AGI 的 G 楼内都在吵是 generate 还是 general

反正 anyway 我只是期待 AI 啥时候能 generate/general 帮我把洗碗或者起码能把碗放进洗碗机

[zhengqiang64]

@florentino 有一点很关键，AI 生成的代码本身是 AI 根据模型吐出的 token 。也就是说 AI 吐出来的东西，就是它的思想。这个过程中是封闭的，不需要跟外界交互的。
但是它在使用工具构建 3D 建模时，就像盲人摸象，它看不见，只能根据反馈去猜测。所以它的理解跟人的理解必然不同，你想要一个瞎子去理解人肉眼看到的东西一样，不是一个维度的。

[f10w]

> GPT-6 Astra 在双臂机器人操作评测中表现显著优于 Claude Fable 5 及 5.1 版本。在积木入碗任务中，Astra 成功率为 95%（ Fable 5.1 为 40%），平均耗时 2.5 分钟，单次成本 0.94 美元；在拼图入槽任务中，两者成功率均为 10%，但 Astra 速度更快且成本低 1.6 倍。测试基于 YAM 双臂机械臂和 Inspect Robots 框架，采用 5 级人工评分标准，尽管存在测试时间不同和人工评分偏差等局限性，Astra 在效率与成本控制上优势明显。

- [GPT‑6 Astra on robotic manipulation]( https://openai.robocurve.org/gpt-6-astra/)

最近看到有关对 Astra 的操作机器人的测试

[florentino]

@iv8d 不是啊, 大家都知道大模型的原理是猜字,但是好像目前没有人能解释为啥参数多了,大模型的猜字游戏怎么会涌现出智慧的现象,谁也不能说出其中的原理

就像人脑一样人脑也是因为学会了文字才涌现出智慧的,如果一个婴儿完全不教他用语言和文字,我不信他能自己涌现出智慧,人脑是不是也是猜字游戏,只不过人脑参数更多,算力更强大

[tiredtom]

AGI 的 G 是 G 点的 G ，你大量输入 prompt ，AGI 就会疯狂的产出 tokens

[fds]

@zhengqiang64 #9 人脑能被欺骗，所以人真的理解物理世界了吗？人脑的信息是从各处神经传过来的，只是信号而已，并不是世界本身。这些信号让电脑处理未尝不可。而且“理解”本身到底是什么？人总结的物理定律只是模拟了部分宇宙，只是近似。或者说人脑也可能就是在简单预测未来而已，也不过是个概率，不然就不会有交通事故了。