都是偏见
昨天刷到了一条非常有意思的推特。
是我关注的一个博主，Howie.Serious发的。
他发了一个很有趣的点，就是即使是世界上现在最牛逼的NanoBananaPro，在世界知识如此屌爆的情况下，AI，还是没有办法生成左手写字的图片。
刷刷刷给我生成了一堆右手，让我都有点混乱了，我那一瞬间都在怀疑是不是我自己分不清左右了。。。
甭管是谁，就算是蜘蛛侠来了也没用，也得用右手。。。
非常的倔强。。。
比如，让一个人左手拿着橘子右手拿着苹果。
这篇论文，大意就是一句话：
AI之所以分不清左右，不是因为它逻辑不行，而是因为它的老师，也就是我们投喂给它的海量图片数据，本身就存在巨大的压倒性的偏见。
干的第一件事，是把一张图给拆解成filler和role两种要素，你可以把它们理解为，主体和关系。
拿猫追老鼠的图来举例，主体就是猫和老鼠，而关系就是，谁是追的那一方，谁是被追的那一方。
确定好这两种要素之后，他们找来了几十个小图标。
两两图标分为一组，规定好它们的主体和关系，用Unicode字符画在 32×32 的小方块里。
所有的画面，只干一件事：
两个东西，上下叠放。
比如，把名为蛋糕和橡皮的小图标放在同一张图上，上面是蛋糕的图标，下面是橡皮的图标。
然后附上一句话，这张图是一个蛋糕在一个橡皮上面。
以此类推，就有了一堆测试图片加一堆文本。
然后，他们又分了一些数据集。
有些训练集里，每个物体都当过上面的、也当过下面的。
有些训练集里，猫可能几乎永远在上面，狗也可能几乎永远在下面。
还有些训练集，更狠一点，某些物体从来没当过上面，只当过下面。
接着，他们把这些图片和文字打包成数据集丢给模型去训练，看它学了这些东西之后，能不能理解上下位置关系。
按照我们对模型训练的常规理解呢，这件事儿的关键在于，样本量要够大。
只要数据规模够大，智能就会自然长出来，对吧？
但是他们的实验数据发现，其实，完全不是这样的。
决定模型能不能举一反三的，其实看的不是数据的数量，看的是，数据怎么分布。
他们有定义了两个指标，一个叫Completeness（完整性），就是每种东西，是否都至少在每个位置上出现过一次。
举个例子，圆在上、三角在下是一种组合，圆在下、三角在上是另一种组合，这两种情况都要在数据里出现过，完整度才能算是及格。
但只有完整度还不够，还得看另一个指标，叫Balance（平衡性），对，就是跳舞里面的那个Balance。
它其实指的就是，不同组合出现在数据中的具体比例。
只有圆在上和三角在上这两种情况，在数据里的分布情况大差不差时，平衡度才过关。
反之，如果九张图都是圆在上，只有一张图是三角在上，对模型来说，就是平衡度极差、世界观极度倾斜的情况了。
这样一来，模型就会天然的把圆在上这件事当成一个真理。
只有当一个训练集里，不同的排列组合都出现过，并且每种组合在上在下的情况都出现得差不多时，模型才会开窍：
原来谁在上谁在下不是恒定的，是可以互攻的。
哦说错了，是可以互换的。。。
那一刻，模型才是真正掌握了上下的位置关系，而不是死记硬背几种固定搭配。
右边的表格里，两个CPL代表完整度，也就是圆和三角在上的情况是不是都出现了，BLC代表平衡度，也就是圆和三角在上的情况分布是否均匀。
左边的纵轴是模型测试的准确性。
你会发现，当完整度和平衡度都是百分百的时候，模型测试的正确率几乎也是百分百，也就是蓝色的散点。
而当完整度和平衡度越来越差的时候，模型正确率也会不断下跌，到了完整度和平衡度最低的灰色散点这里，准确率就没上过百分之四十。
论文后半段，他们还做了一个和现实世界更接近的实验，用的是一个叫what'sup的基准数据集，里面都是自然图片，专门用来描述两个物体的位置关系。
然后，在这个数据集里面抽取子集。
有的子集完整度和平衡度都很高，有的相反。
接着，他们让模型去生成数据集里没有的物品左右关系图片。
得到的结果非常稳定：
视觉这边的完整度和平衡度，一旦掉下去，测试集的准确率就一路跟着往下掉，有的组合甚至永远突破不了50%。
更经典的是最常见的一类错误：
两个物体都画对了，但顺序反了。
你让它画盘子在罐头左边，它给你的图看起来很协调，但仔细一看，变成了，可乐罐在盘子左边。
这个错误就非常符合我今天在左右手的case中测试出来的结果。。。
所以现在可以给AI分不清左右这件事，初步给一个解释：
AI不是分不清左边右边，而是在它受过的童年教育里，现象空间本来就是偏的。
就比如写字这个案例，因为现实世界里，写字的大部分人就是右撇子。
图像网站的标注里，"writing""student writing notes"这些tag背后，也几乎清一色是右手写字。
当一个模型在海量图像上长大，它看到的写字几乎等价于右手写字。
所以当你说左手写字的时候，它脑子里的激活模式是这样的：
"写字？写字这事我懂啊，写字不就是等于一个人 + 一本本子 + 一只手拿笔吗，啥玩意？你要左手写字？你有毒吧，这个世界还有人用左手写字？我就没见过。"
然后，啪的一下，给你画了个右手写字。
其实有点像一个极端偏科的学生。
他做了十万道"2+3=5"这样的题，但是从来没见过"3+2=5"。
所以，当你你问他"3+2等于几"，他直接就宕机了。
左手写字，就是3+2那一侧的世界。
其他的失败的case其实也差不多。
当然，这也不怪AI，因为它的见识就是我们给的。
以前我做用户研究的时候，其实最怕的，就是招样本招得不均匀。
比如你明明是个普适性的APP，但是只找一线城市上班族深度访谈，当然得不出老人怎么用你的APP的这个结果。
只看IOS用户的数据，当然也看不到千元安卓机上的使用体验。
只做所谓的可用性测试，不实地去做田野调研，就根本不可能看到用户在真实场景中的那些小动作、小走神、小偷懒。
AI一直在模仿的，其实就是我们自己的偏见。
我们的大规模图像语料，是过去几十年的人类摄影习惯和文化习惯的快照。
如果这个世界90%的人都是右撇子，摄影师拍照的时候又喜欢把笔、杯子、道具放在某个视角更舒服的位置，那模型看到的世界，就会是一块巨大的统计偏差。
如果用一句很正确的话来说。
就是，我们根本没给模型一个公平的童年。
但反过来，我们如果看自己呢？
好像，我们本身，也会被各种各样的训练集规训。
成功的概念是有房有车财务自由，人生的捷径是考功上岸。
我们和AI的区别只不过在于，AI是用几百亿张图、几万亿 token，迅速堆叠起来一个模型的失误。
而人类是用几十年的生活和经验积累，逐渐走到一条自己不那么想走的岔路上。
人类和AI，现在好像，都无法看到自己认知以外的东西。
如果说技术的发展会逼着AI公司们，去重新设计那个属于AI的训练集，增加它的完整度和平衡度，让它泛化。
那我们，是不是也可以，增加一下自己体验的厚度？
当我们对模型说，你不能永远只会用右手写字。
你也得试试左手。
那在我们的生活里，有没有哪一些左手的可能性，其实一直都在，但我从来没有看见过？
我相信，肯定会有的。
以上，既然看到这里了，如果觉得不错，随手点个赞、在看、转发三连吧，如果想第一时间收到推送，也可以给我个星标⭐～谢谢你看我的文章，我们，下次再见。
>/ 作者：卡兹克、水杉
>/ 投稿或爆料，请联系邮箱：wzglyay@virxact.com
没有评论:
发表评论