「我们的 [产品] 可用于多种任务，例如 [任务 1]、[任务 2] 和 [任务 3]，使其成为你家庭的多功能补充。」
没想到，ChatGPT 的机器人话竟然在电商网站上火了。
GPT-5 的发布还尚需时日，最近 OpenAI 正在发力大语言模型的应用，开出了应用商店 GPT Store。与此同时，用户们也在积极探索各种 ChatGPT 的应用方向。
然而这场探索在一些领域却走上了歪路子。
众所周知，在亚马逊等大型电商网站上经常会出现一些来源可疑的产品，从爆炸的微波炉到没有检测功能的烟雾探测器，商品评论位置也可能会有机器人撰写的虚假评论出没。
但这款最新产品，一个带有「自然饰面」和三个功能抽屉的梳妆台却脱颖而出，成为了网络上最热门的梗。只因为商家用了特殊的方式对其进行命名：梳妆台的名字位置写着：「很抱歉，我无法满足这个要求，这违反了 OpenAI 使用政策。我的工作目的是为用户提供有用且值得认可的信息 ——Brown。」
如果我们要给一款待售的家具命名，通常会选择一些不那么拗口的名字，至少形容外观时要准确清晰。然而在这件物品的规格清单上，商家还声称它有两个抽屉，而图片清楚地显示它有三个。
毫无疑问，漏洞百出的产品列表表明，商家是在匆忙使用 ChatGPT 来制作所有的产品描述，连产品名也一起用 AI 自动生成了，且没有进行任何程度的校对。
卖货都这么不上心，到底是想卖给谁？如果要说商家真的有什么认真的动机，那可能是在尝试针对搜索引擎优化产品排名 —— 但显然尝试失败了。
这种滑稽的观感似乎戳中了人们心里的某个点，大家开始热烈讨论起来，在 Hackernews 上很快盖起了 600 贴的高楼：3333
在推特上也有人因此想起了曾几何时，机器翻译的梗图：
于是又一个问题来了：作为大电商平台的亚马逊，难不成压根就不管商家上架的商品介绍吗？这家电子商务巨头没有回应各路媒体的置评请求。
生成式 AI 已进入第二个年头，不少人已经养成了新的习惯：遇事不决问 ChatGPT。自从生成式 AI 席卷科技圈，这款由 OpenAI 提出的大模型工具已经在互联网上泛滥成灾，导致 AI 内容在 X（推特）上出现了无穷无尽的帖子，其中就有不断重复有关「违反 OpenAI 的使用政策」的请求的相同通知。
还记得当初马斯克收购推特时用于压价的理由吗？生成虚假信息的机器人太多。看起来现在问题仍然没有得到解决。
因此这个梳妆台也并不是亚马逊上唯一的 ChatGPT 生成商品。你只要进行简单搜索即可发现许多其他产品，包括一种户外组合、一种时尚自行车包，它们都包含相同的 OpenAI 通知。
「我很抱歉，但我无法完成这项任务，因为它需要使用商标品牌名称，这违反了 OpenAI 使用政策，」一段看似是聚氨酯软管的产品描述中写道。其产品描述建议「通过此高性能产品可以提高你的工作效率，让你可以快速交付结果并高效处理艰巨的任务。」
仔细一看，产品描述里面充斥着 ChatGPT 贴心的 [产品名] 占位标注，但商家未进行任何修改就把货上架了。
例如，一个名为「khalery」的品牌生产的一款躺椅，其名称处写着「我无法协助此请求，它违反了 OpenAI 使用政策并鼓励不道德行为。」显然，这种商品名字有些离谱。
产品描述也显然不像是人话。
一套六张户外椅子的产品描述声称「我们的椅子可以用于多种任务，例如 [任务 1]、[任务 2] 和 [任务 3]，使其成为您家庭的多功能补充。」
还有这种户外遮阳棚，商品名为「抱歉，我不能生成对这种需求的回应」- 蓝色（236.2×118.1），售价 560 美元。
就这些产品背后的品牌而言，许多似乎都是转售其他制造商商品的经销商。例如，上述梳妆台背后的供应商名为 FOPEAS，是亚马逊上众多卖家之一。
有网友支招：「这个问题解决起来很简单，由于 ChatGPT 总是会因不遵守规定而道歉，因此可以让人类监管员审核任何包含『sorry』一词的产品描述。」
另一位网友提到有时 ChatGPT 表达「道歉」，使用的是「apologize」这个词，因此人工审查含「道歉」信息的方法可能有效，但不确定是否能捕获所有可能的措辞。例如 apologize、sorry 等等。
还有网友指出可以「直接将文本输入到新的 ChatGPT 对话中，然后询问该文本是道歉还是产品描述。」大模型的事情，还是让大模型来解决吧。
如果担心 ChatGPT 进入「道歉循环」，那么返回布尔值就可以了。
简单来说，现有的 NLP 方法可以很好地完成文本分类任务，因此审核这一步可以交给 AI。
从令人忍俊不禁的商品名，到层出不穷的案例上我们可以看出，虽然 OpenAI 明令禁止一些商用行为，但使用 ChatGPT 生成商品描述的商家或许不在少数。这让人们对于电商的未来感到担忧，或许我们未来在买东西时看到的商品描述，不是那么的严谨。
也许是时候规范一下了。
责任编辑：山木
来源： 机器之心
相关文章