神经网络通过分析大量的训练数据来学习并执行计算任务,是构成当前人工智能(AI)系统的关键,应用领域覆盖语音识别系统到自动翻译系统,以及自动驾驶汽车。
然而,神经网络却如同黑盒一般,一旦受过训练,即使是他们的设计师也很少能知道它们正在处理或如何处理哪些数据元素,以及它们究竟在做什么。而麻省理工学院(MIT)最近揭示的一项研究成果表明了可通过新技术理解训练视觉数据的神经网络的内在运作。
两年前,麻省理工学院(MIT)计算器科学和人工智能实验室(CSAIL)的计算器视觉研究团队描述了一种用于训练识别视觉场景神经网络的黑盒方法。该方法提供了一些有趣的见解,但它仍需要人工判断。