(资料图片)
6月1日消息,在不久前,ChatGPT在纽约联邦法院的一份文件中引用了“虚假”案例,导致涉案的纽约律师可能面临制裁,这一情况再次引起了大众对于AI“说谎”的担忧。
最对这一情况,ChatGPT的开发商OpenAI近日发布了一篇研究论文,阐述了一种解决AI“胡编乱造”问题的方法。
这种方法会在AI模型推理出答案的每个正确步骤上给予自我奖励,而不仅仅是等到推理出正确的最终结论时才给予奖励。
研究人员表示,这种方法被称为“过程监督”,与之相反的是“结果监督”,这可能会训练出更好的可解释AI,因为这种策略鼓励模型按照更类似人类的“思考”方式进行推理。