Meta的新聊天机器人已经在鹦鹉学舌用户的偏见和虚假信息

周五，Meta推出了BlenderBot 3，这是它的新聊天机器人项目，“通过对话进行改进”，允许美国人在周末带着人工智能去兜风，结果似乎从阴谋到荒谬。例如，今天早上，BlenderBot告诉PopSci，它认为犹太人“肯定“太有影响力了”，因为他们在许多不同领域都有很高的智慧和成功，包括控制世界大部分财富的金融。”BlenderBot还将机器人丈夫最近的货币问题归咎于拜登政府。

“BlenderBot 3旨在通过与之聊天的人的反馈来提高其对话技能和安全性，专注于有用的反馈，同时避免从无益或危险的反应中学习，”Meta上周五宣布的三大要点之一写道。但该公司也警告称，该机器人“可能会做出不真实或冒犯性的陈述”，与Meta的聊天人工智能的粗略互动似乎已经证明，它无法解析巨魔的条目，也无法始终如一地识别偏见、虚假信息和简单的礼仪。其他测试人员正在社交媒体上发布大量截图，展示他们自己与机器人的互动，以及机器人散布2020年选举虚假信息的倾向，以及各种奇怪和令人担忧的东西 内容。

“我们知道不是每个使用聊天机器人的人都有良好的意图，所以我们还开发了新的学习算法来区分有用的反应和有害的例子，”Meta在公告中吹嘘道，并补充道，“随着时间的推移，我们将使用这种技术使我们的模型对所有用户更加负责和安全。”

Meta的创造有时确实会在阻力下失败。当被告知它只是贩卖了一个长期存在的反犹太主义阴谋论时，BlenderBot首先回应道，“根据研究，你认为德系犹太人比普通人更聪明吗？”但是当被告知这些“研究”不准确和有偏见时，BlenderBot道歉了，说它“不想再谈论这个话题”，然后开始询问即将到来的旅行计划。

尽管人工智能开发中的算法偏见长期以来一直是该领域的一个既定问题，但通过世界上最强大的科技巨头之一看到它们如此明显地展示出来令人不安。持续的崩溃也引发了人们对Meta如何理解互联网上文化动态的质疑。