Xiaohu Zhu AGI, AI Safety, DeepMind

新研究工作简介：塑造行为的动机

从长远来看，我们的愿望是，当研究人员预期可能存在的安全性或公平性问题时，他们会使用此理论对其人工智能系统进行动机分析。在应用我们的图标准来自动识别存在哪些动机之前，通常需要绘制一个因果图来说明各种智能体的程序组件如何组合在一起，并就应该存在（或不存在）哪些动机做出判断。在非常乐观的情况下，动机分析将成为建立人工智能系统可信赖性的标准工具，类似于使用统计方法描述人工智能性能的方法。但是从短期来看，我们需要进行一些研究工作来使这些方法更为有用，因此也很乐意在大家需要的地方提供建议。