后续的 AI 有没有可能实现程序自动修复？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 366 天前的主题，其中的信息可能已经有所发展或是发生改变。

比如最近的微信扫码问题，AI 监测到将自动进行修复。

修复

扫码

自动

监测

28 条回复 • 2023-04-26 15:57:24 +08:00

debuggerx

2023-04-25 11:39:50 +08:00

程序里有个可以随时修改程序自身的 AI ？
真有这样的东西出来，你敢装在自己的手机里？

kaedeair

2023-04-25 11:41:09 +08:00

现在的 AI 本质上没有任何逻辑能力

dethan

2023-04-25 11:43:38 +08:00 via Android

可能会有，但是只会放在测试环境而不是生产环境中。

cy18

2023-04-25 12:22:42 +08:00

不要高估当前 AI 的能力，不要低估将来 AI 的能力。

dssxzuxc

2023-04-25 14:05:33 +08:00

你想说 gpt 的话，可能到 gpt5 也没法实现，因为文本生成模型本质上是没有逻辑能力的，gpt4 展示出来的逻辑推理能力是一个"短暂的幻觉"，而且并不稳定，不能应用在这方面。但是未来会出现这种 AI 是必定的。

zlhsvc

2023-04-25 16:49:40 +08:00

能修改自身代码那就能修改任何东西，只要连上网，那不是直接就直接上天了

way2explore2

2023-04-25 16:54:11 +08:00

https://github.com/biobootloader/wolverine

没人注意到这个项目吗？使用 gpt3.5 做一个基本的程序修复。

主要在如何定义 “自动”，如果不严谨（较真）的话，这已经做到了。

JayZXu

2023-04-25 17:04:52 +08:00

目前来看，根据设置，“自动”是可以实现的，AutoGPT 和 7L 说的就是。
但是目前的 AI 很明显是不具备主观能动性的。

lisxour

2023-04-25 17:16:57 +08:00

@JayZXu 还有一个问题，就是目前的 ai （比如 chatgpt ），他给的代码看似一点问题都没有，也很合理，但实际上很多时候就是与实际不贴切的，我试过很多次了，给的代码头头是道，一眼看过去也好像很 ok ，一拷贝过来运行，直接拉跨。

Kould

2023-04-25 17:20:47 +08:00

经典停机问题

LXGMAX

2023-04-25 18:19:08 +08:00

目前 AI 还无法完成自举

zhangyichent

2023-04-25 18:35:25 +08:00

后面肯定能做到。。。我是觉得后面肯定强人工智能会造反。。

qiyustart

2023-04-25 18:41:34 +08:00

可以试试体验一下 aotugpt ，目前来说效果不是很好

muzei233

2023-04-25 19:30:25 +08:00

听说 openai 将要发布的 auotGPT 就可能做到这样的效果

tutudou

2023-04-25 20:02:45 +08:00

ai 怎么会猜到你想要 1 还是想要 2 ，怎么修复？

codermagefox

2023-04-25 20:10:49 +08:00

已经可以做到了.V 站同学的网络延迟还是有点高啊...

M003

2023-04-25 20:11:04 +08:00

自我修复,自我成长.

水电网.如果都实现自动化...不进行物理隔绝...

如果他是调皮的.社会面基本都乱套了..

就算物理隔离,那派发虚假工单,让操作员将物理隔绝打通...

携水电网 /核弹以令人类..

xiaojie668329

2023-04-25 20:46:40 +08:00 via iPhone

Meta 有在做。

wonderfulcxm

2023-04-25 20:50:36 +08:00 via iPhone

失业警告⚠️

tuchg

2023-04-25 21:15:42 +08:00

完全可以让 gpt 生成代码然后拿到这份代码的 IDE 报错信息让 gpt 自己去搜索修复最后写入再验证如此往复

mikewang

2023-04-25 22:57:28 +08:00

微信扫码之类的问题，是非法读造成的崩溃，不一定需要 AI 来解决，某些现有的分析工具就能做到。
如果是不符合用户预期那种类型的问题，AI 修大概也不会很理想，因为我们人类自身有时也不一定能搞清需求具体是什么...

lv2016

2023-04-25 23:20:07 +08:00

程序自动修复是一个很大的领域包括语法错误修复、语义错误修复和安全漏洞。语法错误来说，目前做的最好，个人的体验是基本都会修。语义错误也有一些研究，一月份有一篇研究的结果是 chatgpt 与之前最好的深度学习工具表现一致，水平是 19/43 。最后是安全漏洞，知乎上看到有人把这次微信的 bug 喂给 chatgpt ，它也能正确识别这个 bug ，但是问题在于会给出很多无关紧要的 warning 。我之前在语法错误上做过一些工作，体验下来是 chatgpt 完爆以前的所有工作。