可信赖的人工智能：迈向可信赖机器学习的步骤 | AI For Good 探索

[视频作者] AI-for-Good

[视频时长] 73:16

[视频类型] 计算机技术

我们如何信任由机器学习组件构建的系统？我们需要在许多领域取得进步，包括机器学习算法、软件工程、机器学习操作和解释。本次演讲将从两个重要方向描述最近的工作：获得校准的性能估计值和执行有保证的运行时监控。我们将首先介绍Jesse Hostetler最近在强化学习的性能保证方面所做的工作。然后，我们将回顾我们关于为部署系统的运行时监控提供开放类别检测和异常检测保障的研究。最后，将以对人工智能系统元认知情境感知的一些猜想作为结束。