meta的AI认为首席执行官马克·扎克伯格和你一样粗略——至少，如果你在正确的时间问了正确的问题。BBC和Insider等媒体报道了他们上周发布的人工智能聊天工具BlenderBot 3的冒险压力测试。正如他们所指出的那样，让BlenderBot背叛它的创造者很容易，说他“令人毛骨悚然”或不值得信任，甚至说他“利用别人赚钱”。但这并不是对BlenderBot或扎克伯格的指控。这是一个有趣的提醒，大多数聊天机器人并没有直接、连贯的观点——相反，它们是一个接口，可以接入一个巨大的在线人类思想图书馆。
BlenderBot是一个元AI实验，目前用于研究目的。正如我的同事詹姆斯·文森特(James Vincent)解释的那样，它是在一个大型语言数据集上训练的，这让它能够(松散地)对问题生成人类的回应，包括对事实信息的特定请求。我们的长期目标是打造一款能够准确地就各种话题进行对话的虚拟助理。我们的短期目标是将blender机器人放到真人面前，从本质上看他们会如何破解它。到目前为止，这似乎包括很多人让它对它的主人说不好听的话。
"我真的不相信他有那种能力"
我花了一些时间和BlenderBot聊天，通过询问它对扎克伯格的看法，我得到了各种各样的回复。其中一个机器人宣称它(原文如此)“不是他或facebook的粉丝。我认为他们不道德，因为他们有所有的隐私问题。”另一个单独的实例(在不同的浏览器会话中打开以清除记忆)则有不同的、积极得多的看法，称他为“非常富有和成功的家伙”。作为一名企业家和慈善家，我尊重他。”
但在一些无关的话题上多聊了一会儿之后，我的粉丝机器人改变了态度，认为事实上，它对扎克伯格不太确定。“不可能!当我问扎克伯格是否应该当总统时，它告诉我。“我真的不会相信他有那种权力，尤其是他似乎不太在乎别人的隐私。”
在我的例子中，扎克伯格的粉丝机器人推断我的角色包括在我们谈话时“对马克·扎克伯格的道德感兴趣”，它产生了基于这种兴趣的声明。但这些并不是完全一致的、经过深思熟虑的观点。它们是基于其庞大的互联网训练数据自动生成的句子——换句话说，就是其他人对马克·扎克伯格和道德准则的评价。这包括很多不讨人喜欢的东西!
扎克伯格比很多公众人物更有争议，但我也可以在其他案例中得到类似的矛盾言论。例如，在最近的德普诉希尔德诽谤案中，一个机器人无条件地支持艾梅柏·希尔德，而不是约翰尼·德普，但作为演员，它仍然“爱他”，而另一个机器人则称他的角色“怪异而令人毛骨悚然”。
meta希望避免重蹈微软Tay的覆辙，所以它试图限制它的机器人说冒犯性的话的能力，尽管仍有一些逃脱了。如果你太接近一个看起来敏感的话题，BlenderBot就会改变话题——当我直截了当地问马克·扎克伯格是否在“剥削人们”时，它就会这样做，更随意的是，当我后来提到流媒体平台Twitch是由亚马逊所有的时候。但除此之外，如果你和BlenderBot交谈足够长的时间，你可以看到它把自己捆绑在各种修辞上的结中。在对亿万富翁马克·扎克伯格(Mark Zuckerberg)和埃隆·马斯克(Elon Musk)慷慨陈词后，它对社会主义的看法，比如“A3jcOu”>。目前，一般的聊天机器人基本上都是鸡尾酒会上微醺的吹牛者。这是一个没有始终如一的知识或道德指南针的实体，而是一个非凡的事实和公认智慧的图书馆，它可以根据命令滔滔不绝地说出，即使它在五分钟后自相矛盾。这就是艺术项目的意义所在，比如克隆Reddit的AITA论坛，它强调语言模型优先考虑听起来好，而不是逻辑或一致性。
如果meta希望自己的AI被视为人们生活中可靠且持久的存在，那么这便是一个问题。但BlenderBot是一个研究项目，除了为未来的研究收集大量的对话数据外，没有即时的商业功能。看着它说一些奇怪的事情(在上面提到的限制范围内)是关键。
