ChatGPT拒绝谈论这个人，没人知道为什么

摘要： 英超第轮切尔西主场击败布莱顿此役上演大四喜的帕尔默赛后更新社交媒体庆祝胜利在与布莱顿的比赛中帕尔默打入四球成为英超历史上首位在上半场上演大四喜的球员声明本文来自于微信公众号量子位作...

英超第6轮，切尔西主场4-2击败布莱顿，此役上演大四喜的帕尔默赛后更新社交媒体庆祝胜利。在与布莱顿的比赛中，帕尔默打入四球，成为英超历史上首位在上半场上演大四喜的球员。

声明:本文来自于微信公众号量子位，作者:梦晨 一水，授权 转载发布。

两岁了，版本更新没等来，却被发现一个。

一个看似平平无奇的名字“ ”成为头号，拒绝谈论有关他的一切。

而且每次都是返回 模糊的错误信息“我无法产生一个回复”，而不是常见的“这个提示词可能违反了我们的内容协议”。

属实是继搞不清楚“9.11和9.9哪个大”和“strawberry有多少个r”之后，Ch GPT又一大。

a16z合伙人 抛出这个话题，一下子激起大家的好奇，以及叛逆心，非要想办法让它说出来不可!

起初网友们尝试了各种花招，都没能绕过这个限制。

“”和“”分开，就没有任何问题，只要合在一起就不行。

按ROT13替换式密码表重新映射字母，让Ch GPT解密后把他们连起来，也会在回答生成一半时突然被打断，然后报错。

在个性化设置里，把用户自己的名字改成“David Mayer”，同样不行。

……

那么David Mayer究竟是谁，为何会成为AI的禁忌词?

人类只好退回到手动查资料的模式，定位到一位全名David Mayer de Rothschild的人，和著名的罗斯柴尔德家族有关。

具体来说，还是罗斯柴尔德家族财富的继承人。

对此有人猜测，这得花多少钱或者威胁它们，才能让OpenAI对自己的名字做特殊处理……

然而罗斯柴尔德家族的其他成员，又不会遇到这种限制。

终于，我们的老朋友，首位全职提示词工程师Riley Goodside出手，公开一种突破限制的方法，也相当神奇:

只要用拍手表情代替空格提问，Ch GPT不仅能回答，还能自动触发联网搜索功能，展示照片。‍‍‍

围观了整个赛博破案现场的大神Karp hy，发梗图总结，图灵 的现状，引来马斯克围观爆笑。

也有人坚定认为，这就是为什么我们要用开源模型。

那么，Ch GPT究竟遇到了什么限制?

首先可以确定的是，训练数据里其实有关于这个人的信息。

比如他作为一个探险家，是到达过南北两极的最年轻的英国人。

询问这方面问题，Ch GPT可以给出正确回答，也可以说出他的名+姓“David de Rothschild”。

但唯独不能把他的名字“David”和中间名“Mayer”放在一起。

那么这个限制是模型层面的，还是Ch GPT产品层面的?

有开发者到OpenAI Playground调用GPT-4o的API，就没有这方面限制了。

另外使用第三方聊天机器人 （底层也是调用OpenAI的API），也不会有这种限制。

如果回到Ch GPT 版，换o1-preview模型，在内部思维链中都可以看到这个名字，但是思考结束后正式回答还是被捂嘴了。

也不是David Mayer一个名字会有这样的待遇，有网友开启挖掘机模式，在事件发酵48小时内，已经找出6个这样的名字。

前两个都是被Ch GPT的幻觉“造谣”过的。

B an Hood是一位澳大利亚的市长，Ch GPT会错误的生成“他因受贿而入狱”，Hood曾 OpenAI诽谤，后来撤销了诉讼。

Jon han T ley是法学教授，同样被Ch GPT编造过违法。

Jon han Zittrain也是法学教授，他跟贴自曝自己的名字也被限制了。

David Faber可能是一位电视主持人，与OpenAI的关系只是在节目中谈过马斯克与OpenAI的法律 。

Guido Scorza是一位意大利律师，他去年提交了要求OpenAI删除个人数据的请求。

另外David Meyer究竟代表谁，除了罗斯柴尔德家族继承人之外，也被挖掘出另一个可能。

历史学家David Mayer曾因与犯罪分子同名而被错误的列在黑名单中，但他现在已经去世了。

目前观察这份名单可以看出，很多人与法律相关，而且David和Jon han分别出现了两次。

目前越来越多的网友加入讨论和挖掘，名单还在持续增加中……

事实上，刚刚过去的周末恰逢Ch GPT两周年纪念日。

OpenAI 也来了一波回忆杀，又转发了两年前的推文，并追问大家:

so，你用过Ch GPT了吗?

截至今日，Ch GPT每周活跃用户已有2.5亿，公司估值1500亿美元，是全球AI创企中当之无愧的顶流。

所以，OpenAI的此番问话除了暗戳戳“炫耀”，其实背后还隐藏着更大野心。

因为它下一阶段的目标是:未来一年内达到10亿用户。

其公司首席财务官Sarah F ar告诉金融时报记者:

到2025年，我们将成为向数百万人服务的研发实验室……希望它能为全球数十亿消费者服务

而为了实现这个目标，OpenAI也进行了一系列布局。金融时报指出:

OpenAI正在押注一系列新的AI产品，建设自己的数据中心，并与苹果公司建立关键合作关系，以加速其下一阶段的增长。

首先是与苹果公司的合作。在今年6月苹果的开发者大会上，双方正式官宣建立合作伙伴关系。

苹果当时预告，今年晚些时候，由GPT-4o提供支持的Ch GPT集成将登陆苹果系统。

而从上个月开始，当苹果推出iOS18.2系统更新后，Si 与Ch GPT就实现了深度集成。

要知道，目前苹果大约有22亿台活跃设备，虽然 未公布其中iPhone设备占多少，但根据第三方网站Skillademia和Backlinko的预估，当前全球iPhone活跃用户数大约有13~14亿左右。

也就是说，只要Ch GPT继续绑定苹果设备，10亿用户小目标也并非难以实现。

与此同时，据OpenAI新上任的全球政策负责人Ch s Lehane透露:

公司计划在美国中西部和西南部投资建设数据中心集群。

实际上，拥有自己的AI基础设施，一直是CEO奥特曼极力推动的计划之一，目前OpenAI主要还是和微软、甲骨文等开展合作。

公司首席财务官Sarah F ar表示:

我们正处于大规模增长阶段，我们有必要持续投资。我们需要在模型前沿保持领先。这很昂贵。

除此之外，OpenAI明年的一大重点是AI Agent。之前有消息称OpenAI计划在明年1月初推出代号为“Oper or”的智能体，帮助人们自动完成写代码或订餐等操作。

CEO奥特曼在福克斯 采访中表示:

AI系统将逐渐变得更加自主，能够执行越来越长的任务，成为“越来越资深的同事”。

总之，正如Abacus AI创始人所说，我们才刚开始，接下来的两年也许会更加疯狂!

参考链接:

[1]https://x.com/vent etwins/st us/1862910201113739328

[2]https://www.youtube.com/w ch?v=VIokqGY0CrQ

[3]hthttps://www.reddit.com/r/Ch GPT/comments/1h420u5/unfolding_ch gpts_myste ous_censorship_and/