(资料图)

微软的新人工智能BingChat有一个问题：它会变得怪异、精神错乱和活泼。但BingSearch也可以——微软多年前就已经通过SafeSearch解决了这个问题。那么为什么它不能应用于人工智能聊天机器人呢？

BingChat和其他聊天机器人的创意元素显然是它们更有趣的功能之一，尽管有时会变得很奇怪。科学家们大声否认聊天机器人的响应只是一个大型语言模型(LLM)，它在没有任何意图的情况下响应用户的输入，但用户根本不在乎。他们说，忘掉图灵测试吧：重要的是它是否有趣。

我花了几个小时在网上与用户辩论，因为我报告说当我试图通过询问种族昵称来穿针引线时Bing提供了种族主义诽谤，这个问题-这很重要-它以前拒绝回答，或者回答笼统，使用相同的提示。这与《纽约时报》记者进行的长时间（奇怪的）对话或其他早期测试人员经历过的任何奇怪互动都不一样。冒犯和普通怪异之间是有区别的。

为了遏制这种情况，微软做了两件事：扼杀BingChat的创造力，并实施对话限制。然后它将第一个限制演变成三个选项：创造性、平衡和精确。选择第三个选项，您将收到与搜索引擎非常相似的结果。选择第一个，Bing会提供一些创意提示，它首先展示了一些人能够利用的“悉尼”角色。

我对微软下意识反应的真正问题是Bing的会话限制。搜索事实的对话可能能够在六个（或八个）查询中结束对话，这是Bing的当前限制。但任何创造性的反应都受益于长时间的互动。人们使用ChatGPT玩的有趣游戏之一是选择您自己的冒险对话，或者更深入的角色扮演，模仿您在玩龙与地下城时的体验。六个查询勉强启动了冒险。

然而，搜索引擎已经解决了这个问题。Google和Bing都实施内容过滤器来阻止所有、部分或不阻止攻击性内容。不过，简单地说，SafeSearch始终以“适度”形式存在，但您可以选择将其从“严格”切换为“关闭”。这样做会弹出一个关于这种选择后果的小解释和/或警告。

微软似乎可以实施类似SafeSearch过滤器的东西，它适用于Bing搜索到Bing聊天，并解锁会话限制。

可以公平地说，微软可能不想将BingChat变成其Tay聊天机器人的克隆，如果微软仍然无法设置护栏来防止这种情况发生。

举报/反馈