上周三窝在沙发上刷短视频，本来只想搜一下“橘猫踩奶”的片段解压，结果手指一滑就是四十分钟。从橘猫踩奶的软萌日常，刷到流浪橘猫过冬的救助视频，再刷到橘猫体重管理的科学食谱，甚至最后直接给我推了同城的橘猫领养群入口。
当时我还后背一凉。这APP怎么比我妈还知道我最近正琢磨着再捡只猫回来？
后来跟做算法的朋友在大排档吃烤串聊起这事，他啃着烤羊腰笑到直拍桌子。说你真把那系统当你肚子里的蛔虫呢？跑在背后的神经网络，半点儿“懂你”的成分都没有。
它记东西的逻辑，跟你背单词完全不一样
很多人对神经网络的第一印象，是觉得它像人一样有记忆，能把见过的东西都存在脑子里，下次见到能认出来。
真的。没有拟人化的聪明。
它记的从来不是“事物本身”，而是不同特征之间的关联强度。就像你闭着眼睛摸装满水果的纸箱，摸得多了，能凭表皮的光滑度、重量、形状，分出来哪个是苹果哪个是橘子，但你从来没睁开眼见过这些水果。神经网络认视频、认图片、认文字，全是这个路数。
它根本不知道“橘猫”是什么生物，也不知道“踩奶”是猫的什么行为。它只是从几百万条标注好的短视频素材里，算出了几个固定的关联：当画面里出现橘色毛发、圆滚滚的体态、爪子一抬一落的动作，配软乎乎的纯音乐，评论区一半人留“好治愈”一半人晒自家同款猫——这组特征和“橘猫踩奶”标签的关联分，比别的组合高不少。就这么简单。
它的记忆容量大到能装下全平台几十亿条视频的特征，但本质上和你家洗衣机记住“洗棉麻要转1200转”的逻辑没差，只不过它记的关联维度，比洗衣机多了几千万倍而已。
你吐槽的AI离谱错误，全是权重算偏了
说出来你可能不信，我上周为了把自家猫踩奶的照片修成暖光阳台的氛围感大片，跟某AI修图工具较了整整半小时的劲。
我把原图传上去，选好“暖光阳台背景”的指令，等了三秒出图。
我盯着屏幕愣了。
它把我家那只十五斤的大橘，脸给换成了一只尖下巴三花的脸。
什么鬼。我来回传了五次原图，每次出来都是那张三花脸。最后我气的直接给了一星评价。不是我小气。是那只三花的脸，真的没有我家橘猫半分傻气。
后来朋友给我解释，这就是典型的权重计算偏差。所有你觉得离谱的AI错误，本质上都是权重算错了。训练这个修图模型的时候，喂进去的“暖光阳台+猫”的素材里，有一大半是三花猫的照片，小部分是橘猫，剩下的是别的猫。模型算出来“换成三花脸”的匹配分最高，就直接给换了。它根本不知道你传的图里是养了三年的自家猫，也根本不在乎你看到换脸的时候有多崩溃。
之前大家吐槽AI生成的人手有六个指头，画的杯子是歪的，写的句子前后不通，全是这个原因。训练素材里混了几张角度刁钻、看起来像六个指头的人手照片，模型给这组特征的权重给高了，生成的时候就顺手写上了。它不是故意搞怪。它没有“故意”这个情绪。就像你走平路突然踩空崴了脚，不是地面针对你，就是个随机的计算偏差而已。
别把它吹成神，本质就是超大号条件反射
现在网上总有人说，神经网络马上就要有自主意识了，再过几年就要把人类的活全干了。
说实话，我每次看到这种言论都想笑。
神经网络没有自主的“思考”，只有海量的关联反射。就像当年巴甫洛夫做的条件反射实验，摇铃次数多了，狗一听见铃声就自动流口水，根本不需要经过大脑思考。神经网络玩的就是这个逻辑，只不过它的“摇铃”信号是几百万亿个像素、文字、音频的特征，它的“流口水”反应是给你推条视频、修张图、拼一段文字。
它能拼出来一段看起来很流畅的网络段子，能把你的照片修成杂志封面，但本质上都是旧元素的排列组合。它根本不知道这个段子为什么好笑，也不知道这张照片里的人对你有多重要。就像上次我让它写个关于橘猫踩奶的小短文，写出来的内容干巴巴的，全是“橘猫的肚子很软，踩奶的动作很治愈”，半点儿没有我家猫上次把我新裤子踩出三个泥脚印的那种真实气人的感觉。
前几天我刷短视频，刷到一半突然反应过来，我之前跟推荐算法较劲，非要刷到我想看的那只大橘，其实算法根本没在跟我较劲。它就安安静静在机房的服务器里跑着，算着每一个像素和标签的关联度，算出来给我推什么，根本不在乎我是不是看笑了，是不是看烦了。
那个吃烤串的朋友说，现在大家总把神经网络吹得玄乎，其实它现在连我家猫是橘的还是三花都分不清楚，谈什么替代人类啊。
对了，我昨天把那张被P成三花的橘猫照片，手动调了颜色修了边。
好看。
比AI算出来的，强多了。