比如某乎 能提醒是 ai 答题。
看到别处的讨论:“ai 加速了互联网的速度,但是也制造了大量垃圾信息”,
百度 和 谷歌貌似都加入了关于 ai 内容的判断?
https://www.vincentschmalbach.com/google-now-defaults-to-not-indexing-your-content/
想问一下各位,是否知道平台判断的标准?能否破解识别是 ai 生成?
1
SiWXie 45 天前 via iPhone ![]() 很简单,文本二分类问题,训练就好了,正确率颇高
|
![]() |
2
Rheinmetal 45 天前
21 年前的数据基本可靠 然后就好办了
|
3
mirrornighth 45 天前
直接将问题提给 gpt 然后比对回答?
|
4
deplives 45 天前
ai 生成的内容还是有很显著的特点的,训练一个模型去判断正确率应该很高的。
|
![]() |
5
rekulas 45 天前
上面几楼的思维还停留在 22 年吧?现在 ai 内容要么很难识别(微调过的,不是直接生成),要么把人类的误认为 ai 写的,而且越往后难度越大,openai google 这些大佬都做不出来精确识别的
|
![]() |
6
rekulas 45 天前
另外知乎这个提示 ai 的也很水,经常把人写的也给你提示 ai 说白了识别到就是瞎猫碰上死耗子
|
7
e3c78a97e0f8 45 天前 via iPhone
@rekulas 不能精确识别和不能识别是两回事
|
![]() |
8
ChristopherCheng 45 天前 ![]() 我觉得这种识别很傻逼,也没有必要。
因为针对任何问题的回答最重要的就是能不能解决问题,之所以 AI 写作存在就是因为大部分人不会提问,提问的是宽泛的问题,而不是具体的问题,这就给了 AI 自说自话的机会。 人类越会提问,提出的问题越具体,就能实际看出 AI 到底是个什么水平。 反过来说,如果一个平台充斥着大量乏乏而谈的回答,既可以说是真人回答的,也可以说是 AI 创作的,这个平台本身价值也不大了,比如知乎。 |
![]() |
9
murmur 45 天前
为什么要判断,ai 写的比小编写的好多了
|
10
ray2023 45 天前
这个不是答题者自己配置的吗, 在创作声明那里能选择"包含 AI 辅助创作"
|
![]() |
11
lichdkimba 45 天前
训练一个 ai 来判断 ai 的文章,再训练一个用来判断 ai 判断 ai 文章准确性的 ai
|
![]() |
12
InkStone 45 天前
LLM 本身就有判断 LLM 生成文章的功能。
不过之前就有过邪道,在富文本里用人类看不到的形式写下对 LLM 的 prompt ,引导它在分类时输出“是人类写的”这样的结果。 |
![]() |
13
archxm 45 天前
反正知乎上,排版清晰,图文并茂,基本就是垃圾营销文了。
管他是不是 ai 生成呢。 我在想,能不能把 ai 融入 adblock |
![]() |
14
rekulas 45 天前
@e3c78a97e0f8 如果要咬文嚼字,确实可以这样理解,但你如果实现一个准确度 50%左右的硬币正反面预测器,这跟随机有什么区别吗,而现在所谓的 ai 预测就是这样的,基本跟随机没多大区别
|
15
hxscript 45 天前
AI 不 AI ,可能不是 google 评价内容的好坏的标准;有很多做 SEO 的就是 AI 生成的,照样几百万流量。
关键是,内容对用户有没有价值、google 是否认为这个页面提供的信息,对整个 google 系统,是有信息增量的( Information gain ) |
![]() |
16
zhishi69 45 天前
我也在思考这个问题,知乎在 gpt 刚出后没多久就有检测的系统,只要是 gpt 原封不动搬过去的,知乎可以检测的到,现在论文也可以检测到 AIGC 率,gpt 写的论文检测系统就会查到
|
![]() |
17
potatowish 45 天前 via iPhone
@hxscript 最近 google 自己都在搜索结果里加 AI 搜索内容
|
![]() |
18
GeekGao 45 天前
检测的要点:行文准确无误。
Prompt 对抗:适当加入语句不通顺的口语化表述方式、emoji 表情以及混乱的标点符号。 |
![]() |
19
EndlessMemory 44 天前
gan 网络
|
20
enjoyCoding 44 天前
知乎是有创作声明的, 写文章和回答问题得时候要表明包含 AI 生成内容, 其他平台不了解
|
21
e3c78a97e0f8 43 天前
@rekulas “而现在所谓的 ai 预测就是这样的,基本跟随机没多大区别”这个说法并不对。我都能一眼看出来很多文本是 AI 生成的,要训练一个 precision 在 50%以上的模型不是什么难事。
|
![]() |
22
rekulas 43 天前
@e3c78a97e0f8 如果你指的是 55%的话,目前来说还是有可能达到的,但想达到 60 甚至 70 就很难了,因为一旦识别敏感度调高,对人类作品的误判率极速上升,以至于很难进行商用,我为什么敢这样说,因为试过用各种各样的 ai 鉴别,要么识别率低,要么误判率高,而且 ai 水平还在不断进步,难搞
|