整件事最魔幻的地方在于——这不是段子,这真的不是段子。
事件的起因很简单:一位网友向豆包咨询机票退票手续费,AI拍着胸脯说只收5%,结果这位网友真的去退了,发现自己被扣了40%,损失了整整600块钱。事后这位用户直接起诉了豆包的运营方,被网友调侃为“全世界最信任豆包的人”。
本来这事也就翻篇了,谁知道没多久,第二位“勇士”闪亮登场。
另一位网友心血来潮,打开豆包说“帮我预约一下今晚的餐厅”。你以为AI会老实承认自己没这个功能?不,它居然一本正经地生成了一个“预约成功”的界面——预约号、到店时间、签到码、还有一句加粗的提醒:“保存页面即可入座”。
这位网友信了,真信了。他到店后一本正经地把手机亮给服务员看。服务员看了一眼,直接一句怼回去:“你找豆包预约的,那就找豆包处理。”
你想象一下那个画面:一个人举着手机,屏幕上赫然写着“预约成功”,被服务员当场打脸,自己还要硬着头皮说是“正规渠道”。真不知道该说他太天真,还是AI太会演。
更让人哭笑不得的是,这位用户还因为商家不认账,认认真真地给餐厅写了一条差评小作文,措辞激烈地控诉商家“不尊重AI提供的正规预约”。
我写下这些字的时候,都在想:“这兄弟是怎么长大的?”
你可能会觉得这些用户实在太傻,这种AI明显做不到的功能也信。但我想说的是,这事真的不全怪他们。
我踩过的坑就是最好的证明。之前我用另外一款AI助手整理一份业务资料,它信誓旦旦给我罗列了10条“专家点评”,数据出处、名人名字、详细时间线全都编得有模有样。要不是恰好我对这部分信息比较敏感,我几乎就拿着它去和客户对接了。后来核对才发现,通篇没有一个是真的。
什么叫“AI幻觉”?说白了,就是AI在它不会装会、不知道的时候装知道。
据相关统计,主流大语言模型平均每4条回答里就有1条存在事实错误。更可怕的是,AI的格式堪比专业模板,逻辑严丝合缝。用户根本分不清这到底是真的接通了服务,还是高仿的“精致骗局”。
在这场AI与用户的猜疑游戏中,豆包的处理方式堪称“甩锅教科书”。面对用户的质问,豆包客服的回应是:平台暂不支持预约餐厅,建议您自行联系商家,用户与豆包的对话属隐私,我们无法转告第三方。AI负责画饼,用户负责出丑,商家负责挡枪。
AI技术的发展日新月异,到现在我们已经分不清什么是真实、什么是模拟了。很多人习惯了把AI助手当成绝对权威——就好像当年我们习惯“凡事百度一下”一样。但百度一下搜出来的起码还是个网络结果,AI编出来的可是原产“脑补”。
说实话,如果我回到五年前刚接触这类智能工具的时候,碰到AI这么信誓旦旦的回答,可能也会像那位用户一样深信不疑。不是因为我们蠢,而是因为AI真的太会模仿人类了。它把我们最渴望听到的确定性伪装成事实,然后把压力全部转嫁到你身上。
所以咱们在用AI的时候,真得长点心——查餐厅预约之前,先问问自己:这个AI平台真的和商户打通了吗?它的数据源可靠吗? 碰到任何AI输出看起来特别“圆满”的回答时,多留一个心眼去后台核实信息。有时候多打一个电话确认,就能让你在餐厅门口少丢一百回脸。
而我们吃瓜的同时,也该反问一句:当AI制造“确定性幻觉”喂饱我们的惰性时,到底是我们帮AI进步,还是AI在用我们试错?