机器有了“心” AI能“读懂”人类价值观
来源：未知
时间：2022-07-14 16:07
浏览量： 次
机器有了“心” AI能“读懂”人类价值观
记者13日从北京大学人工智能研究院获悉，由该院教授朱松纯领衔的联合团队取得一项严重研究成果，构建出一种机器实时了解人类价值观的核算框架，让机器人与人类用户经过实时交流完结一系列杂乱人机协作使命。这一研究可谓为机器立“心”，让AI（人工智能）赋能机器人“读懂”人类价值观。相关论文以“实时双向人机价值对齐”为题刊发在最新一期的世界期刊《科学·机器人学》上。
据了解，当今广泛应用的AI体系是一种被迫的智能，只能机械地按照人类给定的使命行事，缺乏像人类相同的认知和推理才能以及情感和价值观。在缺“心”的情况下，AI很难了解人类真实的意图及价值需求，天然也就难以获取人类的信任、融入社会。
在发现之前的研究范式存在局限性之后，朱松纯带领研究团队转化赛道，让AI体系按照人的方法自主界说使命，“学习”人从本身的价值需求出发，由此为机器立“心”，让AI学会人的价值函数，具有实时对齐当前人类价值方针的才能，探索出“小数据，大使命”的范式。
该研究团队提出一个根据即时双向价值对齐模型的可解说AI体系，让机器经过与人类的即时交互并经过相应反应来推断人类用户的价值方针，并经过“解说”将其决议计划进程传达给用户，以了解机器人作出判断的价值依据。研究结果表明，该学习模型可在杂乱协作使命中提高人机协作功率，从而提高人机信任关系，实现真实自主智能，在迈向通用AI的道路上更进一步。
