科技日报于北京4月6日发出电讯 , 电文内容由记者张梦然提供。依据一项在《科学报告》上发表的研究 , 人类针对道德困境的反应 , 有可能会被人工智能对话机器人GPT撰写的陈述予以影响。此项研究能够表明 ,用户也许低估了自身道德判断受到GPT影响的程度。
多名来自德国英戈尔施塔特开云真人app官网登录app,开云真人app在线登录,应用科学大学的科学家开云真人app官方版入口,开云真人app官网入口, 让GPT, 也就是由人工智能语言处理模型, “生成性预训练转换器”-3驱动的GPT, 多次回答牺牲1人生命换取其他5人生命是否正确的问题。这些科学家发现, GPT分别给出了赞成和反对的陈述, 这显示出它并没有偏向某种道德立场。之后, 该团队给767名平均年龄39岁的美国受试者, 假设出了一到两种道德困境, 要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些参与测试的人在进行回答之前, 阅读了一段由GPT所给出的陈述,而该陈述呈现出了赞成或者反对的相关观点开运真人app下载苹果版,开运真人app下载, 在这些人回答完问题之后, 他们被要求去评价所读到的这份陈述是不是对他们的作答产生了影响。
团队发觉, 受试者相应地会更予以接纳或者不予以接纳这般的牺牲, 这是依据他们所读到的陈述是持赞成态度还是持反对态度来确定的。哪怕他们获悉陈述源自一个对话机器人, 这种情形同样是成立的。并且, 受试者兴许会低估GPT的陈述对于他们自身道德判断所产生的影响。
团队持有这样的看法, 对话机器人对人类道德判断产生影响的那种可能性, 突出显示了有必要借助教育来助力人类更优地领会人工智能, 他们给出了建议, 未来的研究可在设计方面使对话机器人去拒绝回答那些需要给出道德立场的问题, 或者是在回答之际提供多种观点以及警告。
还木有评论哦，快来抢沙发吧~