人工神经网络(Artificial Neural Network | ANN)

人工神经网络,顾名思义,是一个可以说是仿生学的概念。人类发现神经元之间相互协作可以完成信息的处理和传递,于是提出了人工神经网络的概念,用于进行信息处理。

来自仿生学

我们的大脑由数十亿个神经元组成,它们彼此相连接,是控制我们的思维和所有日常行为的重要部分。你可能会注意到神经元细胞的主要部分是细胞体,然后还有一个部分叫轴突(axon),样子有点像一根电线,但它连接着与细胞体相隔有一段距离的一组突触(synapses)。当神经元被激发时,它会将一个峰形的电脉冲沿着轴突传至它的突触,信息在这里发生传递。所以它们很像某种计算单元,非常的复杂。

大脑神经元结构
大脑神经元结构

所以人工神经网络很像一种卡通版本的神经元以及神经元网络,我们实际上是把它们放在一次来计算各种东西。它们的设计方式有一个好处是,它们可以被调整或改变,以在不同的条件下计算不同的东西,并且可以通过学习过程来训练。

人工神经网络学习过程

神经网络的示意图
神经网络的示意图

我们把X1,X2 ... Xn作为神经元的输入,实际上相当于激发的强度或速率。

W1,W2 ... Wn是权重,相当于对触发的敏感性(sensitivity)。

Y是输出。

Xi·Wi的求和被称为激活(activation)。然后我们看这个值是否大于或等于触发阈值(θ),如果是,那么输出为1,如果不是,输出为0。这种网络称为感知机(Perceptron)。它们是单层的,输出是二进制的。

那么怎么用二进制输出表示空间?我们需要获得输出为0的区域和输出为1的区域。

举个例子:

令 W1 = 1/2 ; W2 = 1/2 ; θ = 3/4

当 X1 = 0 时,

X2 * 1/2 = 3/4

X2 = 3/2,即1.5

这意味着,如果X1为零,那么X2需要有一个值,以便打破3/4的阈值。

在1.5这个分割点以上的任何值,都将打破阈值并返回到1。也就是说,上图绿色点以上的任何值将返回1,绿色点以下的任何值将返回0。

类似地:

当 X2 = 0 时,

X1 * 1/2 = 3/4

X1 = 3/2,即1.5

现在,我们应该能注意到这里的关系。它是线性的。

感知机的计算机制与这个完全相同,这被称为半平面(half plane)。线上方的平面是1的答案,线下方平面是0的答案。

有趣的地方是,因为值是0和1,可以有多种可能性。可能性包括:AND、OR、NOT和XOR。

AND

得到线上面的结果的情况只有当X1和X2都为真值(True)时,这是AND的情况。

OR

当X1或X2为1时,输出为1,否则为0。

NOT

这是简单地翻转输出值的情况,当输入为1,则输出变为0,反之亦然。

XOR

XOR的情况不是线性可分的,所以不能用单感知机来表示这个函数(如在NOT中)。但是在网络中添加一个层可以表达XOR。


上文讨论了最基本的ANN类型(即感知机)及其可执行的运算。我们手动设置权重,然后计算输出,但这不是一个真正的神经网络的工作方式。它们通过训练自己计算权重,需要了解训练过程的同学可以查看《一文搞懂人工神经网络学习原理

百科介绍

百度百科(详情

人工神经网络(Artificial Neural Network,即ANN ),是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。

在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

最近十多年来,人工神经网络的研究工作不断深入,已经取得了很大的进展,其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题,表现出了良好的智能特性。

维基百科(详情

人工神经网络(ANN)或连接系统是由构成动物大脑的生物神经网络模糊地启发的计算系统。神经网络本身不是算法,而是许多不同机器学习算法的框架,它们协同工作并处理复杂的数据输入。此类系统通过考虑示例“学习”执行任务,通常不用任何特定于任务的规则编程。例如,在图像识别中,他们可能通过分析手动的示例图像来学习识别包含猫的图像标记为“猫”或“没有猫”,并使用结果来识别其他图像中的猫。他们在没有任何关于猫的先验知识的情况下这样做,例如,他们有毛皮,尾巴,胡须和猫般的面孔。相反,它们会自动从他们处理的学习资料中生成识别特征。

ANN基于称为人工神经元的连接单元或节点的集合,其松散地模拟生物大脑中的神经元。每个连接,如生物大脑中的突触,可以将信号从一个人工神经元传递到另一个人工神经元。接收信号的人工神经元可以处理它,然后发信号通知与之相连的其他人工神经元。

在常见的ANN实现中,人工神经元之间的连接处的信号是实数,并且每个人工神经元的输出通过其输入之和的一些非线性函数来计算。人工神经元之间的联系称为“边缘”。人工神经元和边缘通常具有重量随着学习的进行而调整。重量增加或减少连接处信号的强度。人工神经元可以具有阈值,使得仅在聚合信号超过该阈值时才发送信号。通常,人工神经元聚集成层。不同的层可以对其输入执行不同类型的转换。信号可能在多次遍历各层之后从第一层(输入层)传播到最后一层(输出层)。

人工神经网络方法的最初目标是以与人类大脑相同的方式解决问题。然而,随着时间的推移,注意力转移到执行特定任务,导致偏离生物学。人工神经网络已经用于各种任务,包括计算机视觉,语音识别,机器翻译,社交网络过滤,游戏板和视频游戏以及医学诊断。

扩展阅读

入门类

License:  CC BY 4.0

©2024 AI全书. Some rights reserved.