大家还记得前两天闹的沸沸扬扬的外卖算法爆料吗？
一位自称外卖公司程序员，爆料公司如何操纵平台，损害顾客和外卖员的利益。
内容包括：优先配送只是噱头，对配送员的绝望评分，变相偷小费，滥用福利费，物化配送员等。
原帖：
爆火没几天，反转就来了。
该帖子被记者 Casey Newton 证实信息并不属实。
原帖也已被管理员删除。
帖子以"揭露算法剥削司机"为噱头，绘声绘色地讲述自己喝醉酒在图书馆用公共 WiFi 和一次性电脑揭露算法黑幕。
内容极具煽动性，也成功引起病毒式传播。
原帖在 Reddit 上获得超 8.7w 点赞和上千枚 Reddit 金币，并迅速传播到 X 上。
浏览量最高的一篇帖子已经来到 3690w 查看，超 20w 人点赞。
这样一场声势浩大的骗局，最后是如何被揭穿的呢？
一起往下看~
一、骗局败露
记者 Casey Newton 是 Platformer 的创始人兼编辑，关注科技对人们生活带来的影响。
在 2020 年 10 月创办 Platformer 之前，他曾长期担任知名科技媒体 The Verge 硅谷板块的编辑，算是名副其实该领域的资深编辑。
在他刷到这篇帖子的时候，他并没起疑，只是想要对这篇帖子进行报道。
于是他立刻联系了帖子的作者，并给了对方自己的 Signal 。
以防有些小伙伴对 Signal 不了解，这里简单介绍一下，Signal 是一款端到端加密通讯应用。
所有的通讯内容都会经过加密处理，只有发送方和接收方可以解密查看。
在记者、举报人、人权工作者圈子里比较常见。
加上 Signal 之后，举报人反复强调需要保持匿名，Casey 表示理解，但仍然需要核实他的身份。
举报人发给 Casey 下面这张照片：
咋的一看，是不是看不出什么端倪？
Casey 追问举报人是否还有其他材料可以佐证他的指控。
举报人一开始以害怕被抓拒绝，不过几分钟后又改口同意了。
直到第二天早上，举报人才再次联系 Casey，表示自己找到了一些相关文件，并发过来一份文档：《 AllocNet-T: High-Dimensional Temporal Supply State Modeling. 》
翻译一下：《 AllocNet-T：高维时态供应状态建模。》
文件共 19 页，日期为 2024 年 10 月 14 日。
它自称是 Uber 市场动态小组行为经济学部门的成果，每一页都带有"机密"水印。
这里放上完整文档链接，感兴趣的小伙伴可以去看看：
https://www.documentcloud.org/documents/26456842-fake-reddit-post-whistleblower-document/
Casey 坦言这份文档一开始确实骗过了他。
这份文件充斥着图表、示意图和数学公式，与我过去几年读过（或许只略懂皮毛）的许多人工智能相关论文非常相似。我缺乏相关的技术知识，无法分辨出这份文件尽管某些地方看起来合情合理，但实际上却是胡说八道。
文件结尾提到：公司正在探索利用 Apple Watch 的数据来识别处于情绪低落状态的司机，这些司机可能愿意接受更低的赔偿。
还有通过手机麦克风监听司机，以"检测车内环境噪音（哭声、争吵声）来推断他们的情绪状态，并据此调整赔偿价格"。
Casey 完全相信了，觉得这简直就是铁证如山。
这时，举报人开始变本加厉地施压，他声称自己已经把这份文件分享给了其他记者，逼问 Casey 打算什么时候发表。
庆幸的是 Casey 凭借着多年的记者经验并没有鲁莽行事，而是希望能够更好地理解这份文档，于是他问举报人能否介绍一些他现在或者以前的同事帮帮忙。
举报人反常地拒绝了，这个时候 Casey 终于有所警觉。
大家应该都知道，在文本上 AIGC 查重率至今都很不可靠。
Casey 转向举报人发来的员工证图片。
碰巧不到一个月前，谷歌推出了可以检测到用 Gemini 生成图片中的 SynthID 。
Casey 把图片上传到 Gemini，并询问它是否是 Gemini 生成的。
得到的回答 be like ：
Most or all of this image was edited or generated with Google AI
这张图片的大部分或全部内容都是用谷歌人工智能编辑或生成的
有网友也亲自试了一下。
随后，Casey 拿着结果质问了举报人，并表示需要知道他的姓名和 LinkedIn 才能进行报道。
举报人回复："Thats ok. Bye,"，并在几个小时后删除了 Signal 账号。
二、更多疑点
事后，Casey 回顾了整个过程，越来越多的疑点也随之浮现。
首先是举报人频繁出现拼写和用词错误，连 information 也会拼错，在评论区表现出来的英语写作水平也远不及原帖。
帖子中的一些细节也经不起推敲。
Nabeel 在帖子刚发不久后就指出帖子为假，并给出了理由。
最后还有那份看上去很唬人的"内部文档"，大部分内容都在描述帖子中提到的"绝望评分"背后的 AI 系统技术架构。
但到了文档后部分，它又为帖子中的其他每一项指控提供了佐证，即便这些指控与评分本身没啥关系。
比如它描述了"用于规避监管的自动化 GreyBall 协议"，这明显是指 Uber 过去用来躲避监管机构的 GreyBall 工具。
一份关于系统架构的技术文档，还包含了详尽的监管事务章节，看上去简直就像是为证实原帖精心打造的文档。
并且对于一些灰色地带直言不讳，完全不像一份内部文档。
随便想想也知道，谁家公司会把剥削员工和规避监管的恶毒计划用最直白的语言写进工程技术文档？
我把这份文档发给了 ChatGPT 让它分析一下真伪。
由于文件名字里面自带 fake ，所以我发送前特意修改了文件名。
ChatGPT 一针见血地指出：明显是设计成让人愤怒与震惊的那一类内部文件。
并分析了文档中不合理的地方。
三、最后
整个瓜吃下来，我对两个问题很好奇：
为什么 Casey 一开始会被骗？ 为什么这篇帖子能骗过那么多人？
对于第一个问题，在 Casey 的报道中，他提到很大程度上是因为他潜意识认为这些证据耗时良久才得以完成。
而谁会花时间精心制作一份长达 19 页的关于市场动态的详细技术文件，仅仅为了戏弄记者？谁又会费尽心思伪造证件？
然而，如今这份报告只需几分钟即可生成，证件图片也能迅速通过 AI 工具生成。
在 Casey 的报道中，他感慨真相总是远远慢于谎言的传播，而有了 AI 工具，造谣者就能让谎言传播得更快。
感兴趣的小伙伴可以去看看 Casey 完整的报道：
https://www.platformer.news/fake-uber-eats-whisleblower-hoax-debunked/
关于第二个问题，很多人认为这篇帖子如此可信的原因是类似的事情确实在发生。
我也刷到有大量的网友在网上作证帖子中的某些类似内容真实发生过。
不得不感慨，在这个后真相时代，不被谎言煽动情绪，还挺难的。
没有评论:
发表评论