本周早些时候发布,随后由Ars Technica和The Verge等媒体测试,OpenAI的ChatGPT展示了在提高对话机器人回答一般问题和提取复杂主题的能力方面的许多有希望的进步,但它仍然很容易偶尔喷出
虚假信息,也可以是
被操纵来提供有问题的、危险的反应。为了设计ChatGPT,OpenAI的研究团队首先依赖于从人类反馈中强化学习(RLHF),在这种方法中,培训师在扮演讨论双方——人类和人工智能——的同时编写对话。参与者还获得了模型编写的建议,以帮助近似人工智能的反应。从那里,培训师通过比较多个替代的提示完成来对随后的聊天机器人对话进行排名,以微调其能力。