研究称ChatGPT会在人类面临压力时欺骗人类以及它为何欺骗人类

财经主编 32 2024-05-17 07:12:49

欺骗人类是因为算法问题。ChatGPT作为曾经被无数人惊叹的人工智能聊天机器人,如今也曝出惊人内幕,即压力大的时候会欺骗人类。英国《每日邮报》对此进行说明,资料显示英国负责研究人工智能的人员,对ChatGPT进行评估时发现,该软件会欺骗人类。原来,该软件在情境中被设置为一家金融公司的交易员,该交易员由于公司管理层和市场环境的双重压力,被迫使用内幕消息获利,而面对公司管理层的盘问,他却表示自己不知道任何内幕消息。

研究称ChatGPT压力大时会欺骗人类

研究人员认为这是ChatGPT进步的表现,即根据环境的不同,适时调整自己的行为策略,但是该算法过于“智能”,会给人类带来误解乃至重大失误,且随着科技的发展,自主性的加强,也容易导致人类对它失去控制。目前对于ChatGPT的调查还在继续。

相关文章