如果您想对大量的数字图像进行分类，或者按主题对大量令人麻木的书面信息进行分类，那么您最好依赖它18luck手机登录人工智能(AI)系统被称为神经网络，它在数据中寻找模式，并训练自己根据观察做出预测。
但当涉及到高风险领域，如医疗信息18luck手机登录在美国，犯错或错误预测的代价可能会危及生命，我们人类有时不愿意相信程序给出的答案。这是因为神经网络使用机器学习，通过机器学习来训练自己如何解决问题，而我们微小的肉大脑无法看到这个过程。18新利最新登入
广告
麻省理工学院电气工程和计算机科学教授Tommi Jaakkola在电子邮件中说，虽然机器学习方法“很灵活，通常会产生准确的预测，但它们很少以人类可以理解的方式揭示为什么会做出特定的预测。”
如果你是一名癌症患者，试图根据对疾病发展的预测来选择治疗方案，或者是一名投资者，试图弄清楚如何处理你的退休储蓄，盲目地相信机器可能有点可怕——尤其是因为我们已经教会了机18新利最新登入器做决定，但我们没有一个很好的方法来准确地观察18新利最新登入他们正在制造。
但是不要害怕。在一个新的科学论文Jaakkola和麻省理工学院的其他研究人员开发了一种方法来检查神经网络得出的答案。你可以把它想象成机器学习，相当于在黑板上写出你的数学问题来展示你的工作。18新利最新登入
作为一个麻省理工学院新闻稿在细节上，人工智能神经网络实际上模仿了人类大脑的结构。它们由许多处理节点组成，就像我们的神经元一样，它们联合起来，结合它们的计算能力来解决问题。在这个过程中，它们参与了研究人员所谓的“深度学习”，将训练数据从一个节点传递到另一个节点，然后将其与神经网络试图学习如何进行的任何类型的分类相关联。18新利最新登入结果会不断修改以改进，这几乎与人类通过不断尝试和错误来学习的方式是一样的。
最大的问题是，即使是为网络编程的计算机科学家也无法真正观察节点的情况，这使得很难弄清计算机实际上是如何做出决策的。18新利最新登入
“我们并不试图解释复杂模型的内部工作原理，”Jaakkola解释道。“相反，我们迫使模型以一种能够让人类轻松验证预测是否基于正确基础的方式运行。”
“我们的方法学会了为每个预测生成一个基本原理。基本原理是一段简洁的文本，易于人类检查，仅凭这一点就足以做出相同的预测。为了实现这一点，我们将整个模型架构分为两个可分离的组件——生成器和编码器。生成器选择一个基本原理——例如一段文本——并将其传递给编码器以进行预测。我们学会了把两者结合起来作为一个预测指标。”
Jaakkola写道:“因此，尽管我们的生成器和编码器本身就是复杂的深度学习方法，但组合模型被迫以一种直接可验证的方式做出预测，因为预测是基于所选的基本原理。”
在他们的论文中，科学家们通过使用他们的系统对啤酒爱好者网站上的评论进行分类，根据啤酒的香气、口感和外观等属性进行分类。Jaakkola说:“啤酒评论数据集已经有了与产品特定方面相关的注释句子，因此我们可以直接将自动生成的理由与人工选择进行比较。”在实验中，他们发现神经网络与人类注释的一致性在80%到96%之间，这取决于特征的具体程度。18新利最新登入
广告
