无论是否承认，如今 AI 已经在改变世界，例如打工人用它来实现效率倍增，互联网大厂也有样学样，将其作为裁员的导火索专业配资网站，砸掉了一大批打工人的饭碗。同时它还成为了居心不良的黑灰产团队受众的武器，不久前 # 仅退款 AI 图 # 就曾登上微博热搜，更是引发了诸多关注。在这样的情况下，海外商家也开始加入使用 AI 的行列。
日前《卫报》的相关报道显示，今年早些时候，一名用户在 Airbnb 上预订了一个纽约曼哈顿的公寓，但由于一些原因，他提前结束了租期。然而在这位用户离开在 Android 上预订的这个公寓后，房东声称其给他的公寓造成了数千美元的损失，并且 Airbnb 方面在接受了房东提交的证据后，做出了用户需要支付 7053 美元赔偿的处罚决定。
可是在看到了用户方面提交的证据后，他们才发现房东提交的咖啡桌、扫地机器人、沙发等物品受损照片是由 AI 生成。随后 Airbnb 进行了道歉，退还了这位用户的全部住宿费用，并删除了房东留下的负面评价。
如果说国内的商家对于 AI 技术普遍不了解，导致他们会轻易被羊毛党糊弄，可 Airbnb 作为一家知名的互联网大厂，居然也会在这件事上翻车。要知道在这一轮 AI 浪潮中，Airbnb 并非作壁上观。早在 2023 年 11 月，他们就曾以约 2 亿美元的价格收购 AI 创业公司 GamePlanner.AI，以增强在智能化住宿服务领域的实力。
到了 2024 年 10 月，Airbnb 创始人 Brian Chesky 宣布要让 AI 彻底改变旅行，并将用户带到一个真正由 AI 驱动的应用程序上。由此不难发现，Airbnb 其实对于 AI 是相当敏感的，可为什么他们会如此轻易地就被 AI 图片欺骗呢？问题的答案同样是由 Brian Chesky 给出，他在采访中提及 Airbnb 率先应用 AI 技术的场景是客户服务，当用户联系客户服务时，有越来越多的部分将由 AI 完成。
彼时 Brian Chesky 兴奋地向媒体描述 AI 客服的优秀，" AI 可以讲所有语言，它可以全天候 24 小时工作，并且可以读取所有用户反馈的语料库，提供最好的答案"。显然，这次是 AI 客服翻车了，它在收到来自房东的反馈后，根据 AI 图片就做出了用户需要赔偿的决定。
我们之所以会笃定是 AI 客服的锅，是因为后者已经普遍应用在这种程式化的问题中。在用户与房东的纠纷中，证据无疑是重中之重，所以通常只要一方能提供实证，AI 客服就会倾向于那一边。当房东利用 AI 生图软件生成了一批物品受损照片、并提交后，AI 看到"证据"自然就会进入赔偿流程。
事实上，这一事件真正的问题，在于 Airbnb 的 AI 客服没能正确识别 AI 图片。而这位用户之所以能翻盘的关键，是在房东提供的同一张受损咖啡桌的不同角度照片中，呈现的裂缝不一致。因此 Airbnb 在重新判定后告诉房东，无法验证他作为投诉一部分提交的图片。
如果 Airbnb 没有大规模引入 AI 客服，可能也就不会有这样的乌龙了。毕竟在真人客服看来，同一张咖啡桌的不同角度照片是一回事，但 AI 就大概率会将其识别为不同的咖啡桌。事实上，AI 客服导致的问题已经让不少企业深受其害。
比如瑞典金融科技企业 Klarna 此前曾宣称，" AI 已能完成所有人力工作"，并选择用 AI 客服完全代替人工客服。但在使用了一段时间的纯 AI 客服后，Klarna CEO 不得不承认 AI 降本是以牺牲质量为代价 ，所以又重新大规模招聘客服员工。
此前国内媒体曾报道过清华大学与广西电网的研究发现，引入 AI 助手作为"数智客服"虽改进了语音转录、信息回顾等流程，但也带来了语音识别错误、口音识别困难、对话记录不完整等问题。所以人工客服不仅要学习与 AI 协作，还需要纠正后者的错误、安抚因此不满的客户，甚至 AI 的"帮倒忙"反而增加了工作压力。
回到 Airbnb 此次的事件上，导致用户因房东用 AI 图片被错误判定需要赔偿的核心，无疑是 AI 为什么没能判断出图片是由 AI 生成的？其实这是因为目前用 AI 识别 AI 还有很大的局限性。虽然早在去年 5 月，OpenAI 就推出了专用的图像检测分类器，并且识别 DALL-E 3 生成图像的准确率可高达 98%。
但问题是 DALL-E 3 是 OpenAI 自己推出的 AI 图片生成工具，并且他们也承认这个工具在区分 DALL-E 3 与其他 AI 图片工具的产出方面表现不佳。更别提这次 Airbnb 房东用的是"局部伪造"技术，即将真实照片中的局部区域替换为由 AI 生成的内容。
事实上，整个 AI 业界至今都没能拿出真正拥有可靠性的 AI 内容检测工具，现在业界的普遍做法是 AI 数字水印技术，即在生成式 AI 产出图片、视频时，在元数据中加入不可见的水印，从而在源头上解决问题。为此，微软、Adobe、索尼、OpenAI、Meta 等公司组建了 C2PA（内容来源和真实性联盟），如今 ChatGPT 等工具生成的图片中就已经有了 C2PA 元数据。
可遗憾的是，到目前为止，还没有证据表明 Airbnb 加入了 C2PA 或使用 C2PA 的服务。也就是说 Airbnb 方面可能只看到了 AI 技术光鲜亮丽的一面，却忽视了它可能会带来的风险。并且 Airbnb 此次事件或许只是个开始，几乎所有 C2C 类平台都不得不面对基于生成式 AI 深度伪造内容的冲击，平台、消费者，以及卖家的关系将会在这一冲击中被重塑。
【本文图片来自网络】专业配资网站
盛鹏智投提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
热点资讯
