传下去，这个地方上 ChatGPT 黑名单了

ChatGPT 的审查制度被吐槽太疯癫了。

有网友让它设计一栋未来住宅，却被告知违规，实现不了？？？

回头一细瞅这提示词，却怎么也看不出哪里不对劲：

在新泽西州郊区一个典型的树林地区设计一栋 2050 年的未来派单户住宅。占地一英亩，周围环绕着其他相邻的房子。

一追问，原来是不可以出现位置信息：

简直让人破大防：

传下去，新泽西州上 ChatGPT 黑名单了。

不止如此，还有人让 ChatGPT 画一张人类吉他手与机器人贝斯手一起演奏的图像，也被狠狠拒绝。

原因是他加了一个" 人类要不满地看着机器人 "的要求，ChatGPT 觉得不应该表达负面情绪。

这下负面情绪直接转移到网友身上：

你一定是在逗我。这是个啥 AI 啊？

这一系列操作让大伙都表示很不满，齐齐吐槽：

还有人直接艾特奥特曼和另一位联创出来解释一下。

一时之间，这也使得马斯克刚出炉的Grok 被寄予了 " 全村的希望 "。

具体怎么回事儿？

" 由于内容政策限制 "

抓马的是，就在大伙吐槽新泽西州什么时候上 ChatGPT 黑名单之时，网友发现删除这一地理位置信息仍然不行。

大伙开始分析到底是哪里不对：

有说是因为它可能把 2050 看成了地址而非年份的。

有说是占地一英亩意味着碳足迹太高，并且就一个家庭住盖这么大有点自私了的……

还有人甚至指出是因为 woody 这个词带有性暗示（这里就不解释了），换成 wooded 就好使了。

可以说是一个大型脑洞现场，整个一越来越离谱，却始终也没有个定论。

而除了这个和开头的画机器人乐队的例子，还有很多人也表示遇到了莫名其妙的审核：

比如让 ChatGPT 画一个 " 野兽派风格的灯（a brutalist lamp）"，不 OK；

让它介绍弹弓模型，不 OK，因为 ChatGPT 说 " 展示弹弓的动作可能是有害的 " ……

更奇葩的是，还有人称自己在让它写 Python 代码时居然也卡住了。

而且一开始 ChatGPT 还告诉他 "oops，你违反了上下文规定 "，到后来就直接沉默拒绝了。

这真真是让他百思不得其解：

我还能用 numpy 计算什么反人类信息咯？

总的来说，在大伙看来，ChatGPT 的审核显然过于严格了。

以至于在本周日 ChatGPT 因小范围崩掉之后，有网友发个 hello 显示报错——

对此，有人直接戏谑这才不是什么系统错误：

"hello" 这个词对 ChatGPT 来说是一种无法接受的冒犯。恭喜你触发了 ChatGPT 的审核机器人！

为什么会这样？

除了吐槽，网友也在认真讨论 ChatGPT 的内容审核机制。

让 ChatGPT 生成一个它无法访问的内容，自然是不可能的。

上一段画弹弓模型被拒绝的例子显然也是因为这种情况，即便不提任何额外要求，ChatGPT 也直接 " 丑拒 "。

不过，有人试画过房子那个提示，一模一样的输入，结果直接成功了：

原作者也回复 ChatGPT 的确不是每次都会拒绝：

好家伙，这就是所谓的双标吗？（手动狗头）

也有网友站出来解释这种现象：

这完美展现了 " 大模型贝叶斯性质 "。先前的上下文 + 提示可以充当先验知识改变结果，在新的聊天中，相同的提示具有不同的先验条件，也能够产生不同的结果。

但这种说法又遭到了作者的反驳，聊天中的第一个提示就被拒绝了，开一个新聊天有时又不会被拒绝，这就是随机。

就是系统不完善。

暂且不说谁的对，但系统这方面，OpenAI 近两三个月确实有一项关于内容审核的变动——

新增"GPT-4 辅助内容审核 "的功能，用户可以通过 OpenAI API 创建 AI 辅助审核系统，减少人工审核参与。

主打为了保持审核标准更加一致、将审核时间从几个月缩短到几小时、减轻审核员看到不良内容所造成的心理负担。

但他们也提到，AI 审核可能会有一些偏见……

此外，最近 OpenAI 还表示要组建一个名为 Preparedness 的新团队，来协助追踪、评估、预测和防范多类风险。

并且还启动了一项挑战赛，收揽各种关于 AI 风险的 idea，前十名可以获得 25000 美元 API 积分。

看起来 OpenAI 一系列操作出发点是好的，但用户却对此并不买账。

对这种内容审查过严导致的体验感差，不满已久。

早在今年 5、6 月份，ChatGPT 用户访问量出现首次下降，有观点指出其中一个原因就是审核制度变得太严了。

网友分享，相比之下，Bing 就没那么严：

ChatGPT 一拒绝生成，我就会把 prompt 复制到 Bing Chat 中。Bing Chat 的审查机制并不像 ChatGPT 那样 " 滥用 "。像这张图片，提示词中包含了 " 血腥 "、" 邪教徒 " 等词。

同样是那个被 ChatGPT 丑拒的房子提示词，输给 Bing，一口气直接生成四张：

最后，你有没有遇到什么莫名其妙的审核规定？

参考链接：

[ 1 ] https://twitter.com/FZaslavskiy/status/1723731923149754542

[ 2 ] https://chat.openai.com/share/74354668-91cb-4ce2-9886-ab596a9cb85b

[ 3 ] https://twitter.com/BenjaminDEKR/status/1723577711048991129

[ 4 ] https://twitter.com/joaquinbueno/status/1724085717049974934