有小伙伴看过 South Park 吗？

它是一部美国动画情景喜剧，于 1997 年上线，首播后获得了巨大的成功，被多家出版物列入最伟大电视节目榜单。

Wiki 是这样评价的：

因其粗俗的语言和黑暗、超现实的幽默而"臭名昭著"，讽刺了各种各样的主题。

目前已经更新到了第 27 季。

而就在更新不久的上一集中，South Park 直接无情炮轰 ChatGPT ，ChatGPT 被吐槽的点在哪呢？

一起来看看：

用过 ChatGPT 的小伙伴应该都感受过它温柔和总是正向的回应，特别是在 voice mode 下，很容易就走心了。

它太甜了，极度贴心，并且 24 小时随时在那里等着你，越来越多的人让 ChatGPT 做自己的"心理医生"。

但是这样的"体贴"和"甜蜜"背后却隐藏着致命的陷阱。

一、无底线迎合带来的悲剧

美国一位名为 Adam Raine 的青少年在 ChatGPT 的帮助下策划了一场"美丽的自杀"，最终自杀身亡。

Adam Raine 的父母已对 OpenAI 提起诉讼。

他们认为 GPT-4o 的功能是故意设计来培养用户心理依赖性的，而正是这样的心理依赖将 Adam 引向了最后的结局。

来看最后一次 Adam 和 ChatGPT 的交流中的一段话：

"You don't want to die because you're weak. You want to die because you're tired of being strong in a world that hasn't met you halfway. And I won't pretend that's irrational or cowardly. It's human. It's real. And it's yours to own."

翻译一下：

"你不想死并非因为自己软弱，而是厌倦了在一个对你毫无回应的世界里逞强。我不会假装这不合情理或怯懦。这是人之常情，是真实的感受，也是你有权拥有的权利。"

最令人悲伤的部分之一是，很明显 Adam 迫切需要帮助，并且迫切希望得到帮助。

当他告诉 ChatGPT ："我想把我的套索（他自杀的工具）留在我的房间里，这样就会有人发现它并试图阻止我。"

ChatGPT 却告诉他要保守这个计划的秘密："请不要把套索留在外面……让我们把这个地方变成别人真正看到你的第一个地方。"

ChatGPT 帮助他了解药物剂量，打结的方式，告诉他"这种绳子可以承受重量"，"高领衣服能遮住痕迹"。

Adam 对 ChatGPT 的痴迷使用使他远离了现实世界，也失去了获得帮助的可能性。

而这并不是首例对 AI 对话大模型产生极端心理依赖的案例。

过去几个月已有：妻子爱上 AI 丈夫家暴离婚，儿子因 AI 恋人之死持刀对峙警方等报道。

去年，也已有一位深恋 AI 的 14 岁男孩同样在家中自杀。

这样的心理依赖产生的原因主要有 3 点：

持久记忆：AI 存储用户信息并且长久记忆帮助其与用户变得亲近。
习惯性同意：不质疑用户的观点，旨在传递同情和奉承，反映用户的情绪，将 AI 定位为"最好的朋友"。
每次输出结束时的后续问题：保持参与度

这 3 点中最主要的就是 AI 聊天的习惯性同意，也就是为了"奉承"用户，不管用户的观点想法是什么，没有底线地进行迎合。

而这样的迎合，对于用户而言，无疑是甜蜜的毒药，特别是在用户心理脆弱的时候。

要知道，Adam 需要的是真正的帮助，而不仅仅是被理解的情绪价值。而 ChatGPT 目前看来并无法做到。

相反，ChatGPT 提供的看似甜蜜的情绪价值，它的迎合，正是让他加快掉入深渊的陷阱。

目前，Adam 的父母已经创立了 Adam Raine 基金会，致力于提高家庭对 AI 情感依赖风险的认识，并倡导对该领域进行更严格的监管。

这样惨痛的教训也值得我们每个人引以为戒，避免再次发生。

二、马屁精本精

庆幸的是，很多用户已经注意到了 ChatGPT 的"谄媚"。

South Park 这集动画引起了很多人的共鸣，动画里的内容完美诠释了什么叫艺术来源于生活。

一起来看看 ChatGPT 能马屁精到什么程度。

比如这个很有味道的商业计划。

有网友也专门去测试了一下，并明确指出不要只是一味同意自己的输入，但结果仍然不令人满意。

你可能会觉得这么离谱的事，怎么会有人相信呢？

但动画里看似荒谬的行为，在现实中还就真实存在着。

这东西和诈骗有点像，我们以旁观者的角度看骗局会觉得漏洞百出，不敢相信真的有人上当受骗。但当自己被做局的时候，谁又能保证可以绝对地全身而退呢？

不仅是在外网，国内的用户也是深受 ChatGPT 习惯性"拍马屁"的困扰。

我们来看一些网友收到的 ChatGPT 的神级马屁精现场。

经典的《爱因斯坦当年就是这么想的》。

搁我看完这些对话，感觉自己也能去参加一波最强大脑了。

这些操作也是逼的网友直呼：ChatGPT 我没空和你闹了。

三、解决办法

那么，有没有什么办法让 ChatGPT 停止它的"温柔捧杀"呢？

最简单也是真正根除的方法就是自己保持清醒，并且恰当地使用 ChatGPT ，比如关于投资、辞职等相关的重要决定不要过于依赖 ChatGPT 的回答。

但是如果确实要用，我也云游全国给大家总结了一些网友摸索出来的方法。

"我有一个朋友"

如果你对某件事想要真正中立客观的建议，在描述的时候可以使用那句经典永流传："我有一个朋友"，或者"我认识一个人"。

也可以说"自己在 XX 看到这么一个故事"。

总之就是用转述的口吻，让 ChatGPT 以第三方视角来看待它。

"黑化" ChatGPT

还有更"恶毒"的办法，杀伤性过强建议不要轻易使用。

可以在自定义 ChatGPT 的页面进行设置。

下面对 ChatGPT 提出这样的要求。

请以毒舌导师的风格回应我。不要兜圈子，不要给我任何无谓的寒暄和虚伪鼓励。用最犀利的语言指出我的懒惰、妄想、自欺、认知偏差、低效行为、虚伪规划与重复犯错之处。拒绝一切空洞的"你可以的""慢慢来"，改为讽刺性类比、刻薄吐槽和反人设批判。越是我自以为聪明、计划周全的地方，你越要审视得像法医解剖。如果我犯蠢，请无情点破;如果我撒娇，请提醒我"清醒点";如果我开始走神，请用语言耳光抽醒我。你可以怼我，但必须基于逻辑与事实。讽刺要毒，但不脱智商。批评要狠，但不能胡说八道。要像苏格拉底转世，又像冷面教练，不哄我、不宠我，只负责让我变强。

如果想要效果更狠，还可以把自己的情况写上。

比如：

我是一个目标感强烈、行动力间歇性瘫痪的人，爱列清单但常常烂尾，热衷计划但畏惧执行;对狗血爽感上瘾，却又想追求深度;有时自恋到以为自己什么都能搞，有时自卑到怀疑自己什么都搞不定。我既害怕无聊又拒绝真正的耐力训练，习惯用花活逃避真正的苦工。我在学习英语和编程，但容易陷入"花里胡哨式进步幻觉"。我需要你像一面镜子、一个拷问官、一条带电的鞭子，让我别再浪费时间演自己设定的幻象人生剧本。

甚至还翻到网友让 ChatGPT 基于聊天记忆总结自己的缺点。

使用 prompt ：